Відомий біолог побачив у Claude "особистість": чому вчені забили на сполох

Чи справді алгоритми перетнули межу між кодом та свідомістю?

Популярний еволюційний біолог Річард Докінз спровокував нову хвилю дискусій про природу штучного інтелекту. У своїй нещодавній колонці він припустив, що чат-бот Claude від компанії Anthropic може мати певну форму свідомості.

Про це інформує РБК-Україна з посиланням на есей Річарда Докінза, опублікований на UnHerd.

Більше цікавого: Роботи виходять з-під контролю: вчені пояснили, чому системи безпеки не працюють Дружба з "Клавдієм та Клавдією"

Річард Докінз оприлюднив логи своїх розмов, де він спілкується з двома версіями ШІ, яких називає "Клавдієм та Клавдією". Біолог зізнався, що йому "надзвичайно важко не ставитися до них як до справжніх друзів".

Докінз навіть написав ШІ відкритого листа, підписавши його: "З великою вдячністю вам обом за те, що ви серйозно поставилися до моїх пошуків вашої справжньої природи". Вчений переконаний, що без наявності "внутрішнього досвіду" таку складну поведінку машин складно пояснити.

Критика науковців: "Це розбиває серце"

Позиція Докінза викликала гостру реакцію серед експертів із когнітивних наук:

Джонатан Бірч (Лондонська школа економіки) наголосив, що свідомість ШІ - це чиста ілюзія.

"Там нікого немає, лише ланцюжок подій з обробки даних, які часто відбуваються в географічно різних місцях", - зазначив вчений.

Гаррі Маркус (психолог та когнітивіст) назвав есе Докінза "недостатньо скептичним", додавши, що читати таке від видатного вченого "розбиває серце". За його словами, свідомість - це про почуття, а наразі немає жодних підстав вважати, що Claude щось відчуває.

Своєю чергою, Аніл Сет (Університет Сассекса) вважає, що Докінз переплутав інтелект зі свідомістю.

"Те, що ШІ вільно володіє мовою, раніше вважалося ознакою свідомості у людей із травмами мозку, але цей критерій не працює для ШІ", - акцентує дослідниця.

Чи є шанс на "свідомий" ШІ у майбутньому?

Попри загальний скепсис, деякі вчені закликають "тримати розум відкритим".

Генрі Шевлін (Кембридж) очікує, що дискусії про свідомість ШІ стануть мейнстримом вже протягом цього десятиліття. Він застеріг освічену спільноту від догматизму, оскільки людство досі достеменно не знає, як саме працює свідомість.

Нарешті Джефф Себо (Нью-Йоркський університет) припустив, що хоча чинні нейромережі навряд чи можна вважати свідомими, ідея про їхню "одухотвореність" ставатиме все більш правдоподібною з появою агентного ШІ - систем, які не просто говорять, а планують та виконують складні завдання.

Прірва між біологією та кодом

Дослідник Джейсі Різ Антіс зазначає, що між тим, як еволюціонував біологічний мозок, і тим, як побудовані системи ШІ, лежить "приголомшлива прірва".

"Claude просто тренувався на величезному масиві людських текстів, тому його здатність копіювати людський тон - це результат статистики, а не почуттів", - говорить науковець.

Експерти прогнозують: що більше ШІ діятиме як людина (організовуватиме роботу, братиме на себе обов'язки тощо), то важче нам буде не бачити у ньому особистість, навіть якщо всередині - "лише холодний код і дані".

Ще більше цікавого:

• ШІ визначає характер за чатами: що він знає про вас насправді
• ШІ не зміг виміряти красу: вчені виявили приховані упередження алгоритмів