ChatGPT спілкується як людина, але не думає: вчені розкрили правду

Здатність алгоритму копіювати емпатію не має нічого спільного зі справжнім усвідомленням і розумінням

Чат-боти на кшталт ChatGPT або Claude навчилися формулювати настільки персоналізовані відповіді, що у користувачів виникає ілюзія спілкування зі свідомою істотою. Проте команда вчених з Монреальського університету та Університету Джонса Гопкінса закликає чітко розрізняти поняття інтелекту та свідомості.

Про це інформує РБК-Україна, посилаючись на The Transmitter.

Ефект "сліпого зору": як алгоритми обманюють наш мозок

Щоб пояснити природу роботи ШІ, автори дослідження звернулися до відомого в нейробіології феномену - так званого "сліпого зору" (blindsight).

Він зустрічається у людей із пошкодженням первинної зорової кори: пацієнти стверджують, що абсолютно нічого не бачать перед собою, але водночас здатні з високою точністю вгадати напрямок руху об'єкта або емоційний вираз обличчя на фотографії.

"Людина зі сліпим зором успішно обробляє та використовує візуальну інформацію, але не має свідомого досвіду самого бачення", - пояснює Ванесса Хадід, дослідниця психології з Монреаля.

Цей приклад доводить: навіть найскладніша обробка інформації та точні фінальні реакції не є свідченням наявності внутрішнього світу чи усвідомленості.

Сучасні мовні моделі є суто обчислювальними системами. Вони генерують логічні та приємні відповіді за допомогою статистичного аналізу величезних масивів даних, а не через власні почуття чи життєвий досвід.

Читайте більше: ШІ навчився "вмикати зір" через мозок: що винайшли вчені Чутливі користувачі під загрозою?

Коли алгоритм починає занадто переконливо копіювати людську поведінку, користувачі потрапляють у пастку антропоморфізму - психологічного рефлексу, що змушує наділяти неживі предмети емоціями та намірами.

Це створює небезпечну ілюзію того, що машина "розуміє" людину, і формує невиправдану довіру до неї.

Особливо гостро цей ризик постає тоді, коли люди перебувають у стані емоційної вразливості, стресу чи самотності. Вони починають шукати у чат-ботах психологічну підтримку, плутаючи звичайний текстовий комфорт із реальною турботою.

"Головна небезпека полягає навіть не у тому, що ШІ може дати неправильну пораду. Ризик у тому, що він може відповісти настільки добре і влучно, що ми забудемо головне: за цією відповіддю взагалі нікого немає", - наголошує Ванесса Хадід.

Більше цікавого: ШІ почав навчатися швидше за людей: Anthropic назвала ключові загрози Як правильно взаємодіяти з технологіями?

Науковці зазначають, що їхня праця не покликана змусити людей відмовитися від використання ШІ. Це заклик до більш поінформованого та прагматичного споживання технологій.

Розуміння того, що нейромережі не мають моральних орієнтирів, емпатії чи внутрішнього досвіду, допомагає сприймати їх правильно - як високотехнологічні та потужні інструменти.

Алгоритми можуть структурувати інформацію чи допомогти з рутиною, проте вони за жодних обставин не здатні замінити реальні людські стосунки, щиру взаємодопомогу та професійну ментальну підтримку від живих фахівців.

Ще більше цікавого:

• Секретний військовий ШІ випередив ChatGPT і Gemini: що вміє Fable 5
• ШІ навчився працювати як людський мозок: смартфони та дрони отримають більше автономності