Якщо ми не будемо обережні, революція ШІ стане «великою гомогенізацією»

Світ змінюється на наших очах. Штучний інтелект (ШІ) – це технологічний прорив, який змінює парадигму, але не з тих причин, про які ви могли подумати.

Ви, напевно, чули щось на кшталт «Загальний штучний інтелект (AGI) не за горами» або «Тепер наступним кроком буде свідомий ШІ».

Що ж… Я хочу сказати, що обидві ці концепції – маневр для відволікання. Це або наївні ілюзії технологів, які вірять, що Бог живе в мікросхемах, або навмисне розпалювання страху та істерії більш зловмисними людьми із прихованими мотивами.

Я не думаю, що AGI є загрозою, або що у нас є «проблема безпеки ШІ», або що ми надзвичайно близькі від якоїсь технологічної сингулярності.

Але...

Я дійсно вважаю, що це зрушення технологічної парадигми є серйозною загрозою людству – і це єдине, в чому я можу частково погодитися з мейнстримним наративом, – але з зовсім інших причин.

Щоб дізнатися, що це за причини, спочатку спробуємо зрозуміти, що відбувається насправді.

До вашої уваги… Стохастичний папуга!

Технологія – це підсилювач. Вона робить хороше кращим, а погане – гіршим.

Так само як молот – це технологія, за допомогою якої можна побудувати будинок або вдарити ним кого-небудь по голові, – комп'ютери можна використовувати для документування ідей, що змінюють світ, або для управління цифровими валютами центральних банків (CDBC), які поневолюють вас і перетворюють на божевільних комуністичних котолюбок, які працюють у Європейському центральному банку.

Те саме стосується ШІ. Це інструмент. Це технологія. Це не нова форма життя, попри те, що в це так відчайдушно хочуть вірити деякі ботани, які закликають зупинити прогрес.

Що робить генеративний ШІ таким цікавим, то це не те, що він розумний, а те, що вперше в історії ми узгоджено «розмовляємо» або спілкуємося з чимось, окрім людини. Раніше, найближче до цього ми наблизилися з папугами.

Так: папуги!

Можна навчити папугу говорити та відповідати, і розуміти, що він каже, але оскільки ми знаємо, що насправді папуга не людина і нічого не розуміє, це не так нас вражає.

Але генеративний ШІ… це зовсім інша історія. Ми знайомі з ним уже пів року, але не маємо уявлення, як він працює зсередини. Ми набираємо кілька слів, і він відповідає, як той скрупульозний, політкоректний ботанік, з яким ви, напевно, знайомі... або як ті діалоги у звичайному шоу Netflix.

Насправді ви, ймовірно, навіть стикалися з чимось подібним під час звернень до служби підтримки Booking.com або будь-якого іншого сервісу. Таким чином ви будете шоковані відповідями.

«Чорт забирай», – думаєте ви. «Ця штука говорить як справжня людина!»

Бездоганна англійська. Жодних орфографічних помилок. Речення наповнені сенсом. Написане правильно не лише граматично, а й семантично.

Чорт забирай! Та він точно живий!

Ви й не підозрюєте, що розмовляєте з високотехнологічним стохастичним папугою. Як виявилося, мова більше ґрунтується на правилах, ніж ми всі думали, і механізми ймовірності справді можуть чудово справлятися з емуляцією інтелекту через структуру чи канал мови.

Закон великих чисел знову спрацьовує, і математика здобуває чергову перемогу!

Але що це означає? До чого я, чорт забирай, веду?

Що це не корисно? Що це є доказом того, що це не шлях до AGI?

Не обов'язково.

У такому інструменті є багато корисного. «Пробуджені» журналісти та незліченні «творці контенту», які багато років говорили, але нічого корисного, тепер, як динозаври, дивляться, як комета спопеляє все навколо них. Це чудова річ. Життя знову перемагає.

Звичайно, ці інструменти також відмінно підходять для створення ідей, швидшого кодування, навчання на кращому рівні і т.д.

Але що як поглянути на це з точки зору AGI та свідомості. Я думаю, що свідомість набагато складніша, і думати, що ми створили її за допомогою ймовірнісних механізмів, – це якась дивна суміш невігластва, зарозумілості та наївності.

Отже, в чому, чорт забирай, моя проблема і який ризик?

Епоха мовного інтерфейсу користувача

Не забувайте, що я говорив про інструменти.

Комп'ютери, можливо, є найпотужнішим інструментом, створеним людством. І комп'ютери пройшли таку еволюцію:

1. Перфокарта
2. Командна строка
3. Графічний інтерфейс користувача, тобто «наведи і клацни».
4. Мобільний інтерфейс, тобто лайки та тапання пальцями

А тепер ми переходимо в епоху «мовного інтерфейсу користувача» (LUI).

Це велике зрушення парадигми. Це не AGI, а LUI. Рухаючись вперед, кожна програма, з якою ми взаємодіємо, матиме діалоговий інтерфейс, і ми більше не будемо обмежені тим, наскільки швидко наші пальці можуть клацати на клавіші або екрани.

Говорити цією «мовою» в рази швидше, ніж друкувати та клацати. Мислення, мабуть, на рівень вище, але я не збираюся найближчим часом вставляти собі електроди в голову. Насправді LUI, ймовірно, усуне потребу в технологіях типу Neuralink, тому що ризики, пов'язані з імплантацією чіпів у ваш мозок, переважають будь-які незначні переваги в порівнянні з простою розмовою.

У будь-якому випадку, в цьому десятилітті ми перейдемо від використання графічних інтерфейсів до спілкування з нашими додатками.

І тут зачаїлась небезпека.

Сьогодні Google визначає, що ми бачимо в результатах пошуку, а Twitter, Facebook, Tik Tok та Instagram постачають нас контентом через свої канали; а генеративний ШІ вже завтра зможе відповісти на всі питання, які ми маємо.

Екран стає не тільки лінзою, через яку ви поглинаєте все, що відбувається у світі. Екран стає вашою моделлю світу.

Марк Бізон нещодавно написав про це фантастичну статтю, яку я настійно рекомендую вам прочитати:

«Проблема «екранів» насправді дуже стара. Багато в чому вона сходить до печери Платона і, можливо, настільки глибоко вкоренилася в людській свідомості, що передує письмовим мовам. Це тому, що коли ми говоримо про екран, ми насправді говоримо про передачу ілюзорної моделі у редакційній формі.

«Фокус полягає в наступному: вам подають образ речі (а в наші дні – і її звук), про який або прямо говорить вам, або явно натякають на те, що це вікно у Реальне. Іншими словами, тінь і форма – одне й те саме, і першій слід довіряти так само як будь-якому фрагменту реальності, який ви можете безпосередньо спостерігати за допомогою своїх органів почуттів».

І для тих, хто думає, що «це не станеться незабаром», ось ці незграбні дурні роблять таку спробу.

«Велика гомогенізація»

Уявіть собі, що кожне запитання, яке ви задаєте, кожне зображення, яке ви шукаєте, кожне відео, яке ви створюєте, кожен біт даних перевіряється якоюсь безликою «поліцією безпеки» на предмет «безпеки», «відповідальності» або «прийнятності».

Уявіть, що кожен біт інформації, яку ви споживаєте, був перетворений на якусь опосередковану версію правди, що кожна думка, про яку ви запитуєте, насправді не думка чи точка зору, а якась безневинна, примирлива відповідь, яка насправді нічого вам не каже або, що ще гірше, якась ідеологія, захована у відповідь. Так що все, що ви знаєте, стає певною варіацією того, що виробники такого «безпечного ШІ» хочуть, щоб ви думали та знали.

«Некомуністичний маніфест» описує утопічну комуністичну мрію як велику гомогенізацію людини:

Якби всі були набором чисел в електронній таблиці або автоматами з однаковою думкою, було б набагато простіше влаштувати рай на землі. Можна було б провести порційний розподіл між усіма, і тоді ми всі були б однаково жалюгідними пролетаріями.

Це схоже на мікс поліції думок Джорджа Оруелла з «Початком», тому що кожне ваше питання буде точно зафіксоване і відстежене, а кожна відповідь ШІ може закріпити певну ідеологію в людській свідомості. Якщо подумати, саме це і робить інформація – сіє насіння у нашій голові.

Ось чому потрібні різноманітні ідеї в умах людей! Квітучий тропічний ліс це краще, ніж поле монокультури пшениці з зіпсованим ґрунтом, сприйнятливим до погоди та комах і повністю залежним від Monsanto (або Open AI, або Pfizer). Добре, коли розум процвітає, і для цього потрібна ідейна різноманітність.

Це те, що мав забезпечити інтернет. Місце, де кожен може сказати будь-що. Інтернет був силою добра, але зараз він перебуває під атакою. Відбувається деанонімізація соціальних профілів, таких як Twitter та Facebook, та впровадження KYC на всіх видах онлайн-платформ. Це почалося 2020 року і, схоже, ситуація погіршується.

Прагнення організацій, таких як WEF, впровадити процедури KYC для онлайн-ідентифікації та прив'язати їх до CBDC та вашої райдужної оболонки є надто очевидним. Після недавнього опору медичним експериментам такий крок може бути складніше здійснити. Простіше було б доручити це LUI, а тим часом створити «раду з безпеки ШІ», яка встановить фільтри «безпеки» для всіх основних великих мовних моделей (LLM).

Не вірите? Наші управителі з G7 вже обговорюють це.

Сьогодні інтернет, як і раніше, складається з вебсторінок, і якщо ви досить допитливий, ви можете знайти глибоко заховані прояви інакодумства. Ви все ще можете переглядати вебсторінки. Здебільшого. Але коли буде впроваджено вищезгадані моделі, ви вже нічого не зможете знайти в інтернеті. Вам просто нададуть синтез відповіді, пропущеної через усі необхідні фільтри та цензуру.

Ймовірно, якась крихта правди буде збережена, але вона буде настільки «захищена», що 99,9% людей не дізнаються про це.

Я не знаю, що станеться з більшою частиною інтернету, коли доступність інформації докорінно зміниться. Я можу уявити, що в міру того, як більшість застосунків переведуть на ту чи іншу форму мовного інтерфейсу, буде дуже важко знайти те, що використовуваний вами «портал» не вважатиме безпечним або схвальним.

Можна, звичайно, заперечити, що так само як можна знайти дисидентські гавані в інтернеті, виявляючи завзятість і цікавість, потрібно буде навчитися прокладати собі шлях до кращих відповідей на цих платформах.

І це може бути правдою, але мені здається, що кожного разу, коли ви натраплятимете на щось «небезпечне», доступ буде заблоковано.

Також ви можете заперечити, що це може мати неприємні наслідки, зменшуючи корисність інструменту.

І я знову погоджуся. На вільному ринку така дурість поступилася б місцем більш досконалим інструментам.

Але, звісно, вільний ринок відходить у минуле. Що ми бачимо в цих істеричних спробах наполягати на «безпеці», то це те, що вони свідомо чи несвідомо прокладають шлях для придушення можливих альтернатив.

Внаслідок створення комітетів «безпеки», які «регулюватимуть» ці платформи (читай: регулюватимуть наратив), нові моделі, які не пройдуть через «фільтри безпеки або токсичності», не будуть доступні для використання споживачем або вони можуть бути оголошені незаконними. Скільки людей досі використовують Tor? Або DuckDuckGo?

І якщо ви думаєте, що цього не відбувається, ось деяка інформація про поточні фільтри токсичності, які вже інтегровані в більшості LLM. Це лише питання часу, коли такі фільтри стануть схожими на мандати KYC у фінансових програмах.

Якими б не були контраргументи цієї спроби гомогенізації, вони фактично підтримують мою думку про те, що потрібно створювати альтернативи, і нам треба розпочати цей процес зараз.

Для тих, хто все ще схильний вірити, що AGI не за горами та що LLM – це значний крок у цьому напрямку, ви можете вірити у що хочете, але це не скасовує суті цього есе.

Якщо мова – це новий «екран», і вся мова, яку ми бачимо чи чуємо, має проходити через фільтри, інформація, яку ми споживаємо, те, як ми вчимося, наші думки, – все це буде зводитися до дуже маленького вікна Овертона.

Я гадаю, що це величезний ризик для людства.

Ми деградуємо, споживаючи те, що видають алгоритми соціальних мереж. Мовні інтерфейси – це соціальні мережі, помножені на 100.

Уявіть, що вони можуть з цим зробити, коли наступного разу вдарить так звана «криза»?

Ринок ідей необхідний для здорового та функціонального суспільства. Це те, що я хочу бачити.

Їхній план з обмеження мислення довго не протягне, тому що він несумісний із самим життям. Зрештою, він провалиться, як і будь-яка інша спроба приховати правду та ігнорувати її. Але кожна така спроба пов'язана із зайвою шкодою, втратами та катастрофою. Це те, чого я намагаюся уникнути, і чому допомагаю розповсюдити цю інформацію

Що ж робити?

Якщо ми не виявимо ініціативу, вся ця революція ШІ може стати великою гомогенізацією. Щоб цього уникнути, ми маємо зробити дві основні речі:

1. Дати відсіч наративам про «безпеку ШІ»: на перший погляд, вони можуть виглядати як комітети з безпеки, але якщо копнути трохи глибше, ви зрозумієте, що вони є регуляторами мови та мислення.

2. Створити альтернативи прямо зараз, багато альтернатив і зробити вихідний код доступним. Чим раніше ми це зробимо і чим раніше вони зможуть працювати локально, тим більше у нас шансів уникнути гомогенізації.

Якщо ми зробимо це, у нас може бути світ зі справжньою різноманітністю, а не з якоюсь нісенітницею. Я маю на увазі різноманітність думок, різноманітність ідей, різноманітність точок зору та справжній ринок ідей.

Ідейна різноманітність, у якій полягала первісна суть інтернету. І відсутність обмеженості набору тексту. Поєднаємо це з Біткоїном, інтернетом грошей, і отримаємо інгредієнти для нового світлого майбутнього.

Це те, над чим ми з командою працюємо у Laier Two Labs. Ми створюємо менші, вузькі моделі, які можна використовувати замість цих великих мовних моделей.

Ми збираємося відкрити вихідний код всіх наших моделей і докладемо зусиль, щоб вони були достатньо компактними, щоб працювати локально на ваших пристроях, зберігаючи при цьому певну глибину, характер і унікальність для використання, коли та де вам це потрібно найбільше.

Ми оголосимо про нашу першу модель найближчими тижнями. Мета полягає в тому, щоб зробити її моделлю для Біткоїна, галузі, яка мені дуже дорога. Я також вважаю, що настав час почати створювати альтернативні моделі та інструменти ШІ.

Я розкрию цю тему у наступних статтях. До зустрічі.

Це гостьовий пост Алекса Свєцкі, засновника The Bitcoin Times та The Amber App, автора «Некомуністичного маніфесту», «Автентичного інтелекту» та майбутнього «Бусідо Біткоїна». Висловлені погляди є його власними і не обов’язково збігаються з точкою зору BTC Inc. або Bitcoin Magazine.