Люди визнають штучний інтелект «уважним», але не свідомим

Попередні роботи зазвичай ставили загальні запитання — чи має ШІ психічні стани взагалі. Нова ж робота безпосередньо порівнює, як люди приписують одні й ті самі ментальні стани людським істотам і штучним агентам, які поводяться ідентично в тих самих обставинах.

Щоб дослідити судження про свідомість, науковці провели серію експериментів майже з 1100 учасниками. Одній групі пропонували короткі описи штучних агентів з різним рівнем «відгуку» на події довкола. Наприклад, деякі реагували на звуки чи розпізнавали емоційні стани інших.

Інша група читала ті самі сценарії, але з однією відмінністю: фігурантів описували вже як людей, а не як ШІ-системи. Після цього учасників просили оцінити, наскільки кожен персонаж здається свідомим або обізнаним щодо свого оточення.

Несподівана різниця між «свідомістю» та «усвідомленістю»

Відгук на навколишнє середовище впливав на оцінки і людей, і штучних агентів. Персонажі, які активніше реагували на події, загалом сприймалися як більш свідомі та більш обізнані.

Однак при оцінці саме свідомості виявився разючий розрив. Навіть найбільш «чутливий» ШІ послідовно отримував нижчу оцінку свідомості, ніж найменш відгуклива людина. Тобто однакова поведінка не змушувала людей вважати свідомість машин і людей рівною.

Коли ж мова йшла про «усвідомленість» або «обізнаність», картина різко змінювалася. Для цієї характеристики судження про людей і ШІ виявилися значно подібнішими. Це свідчить, що люди інтуїтивно розрізняють поняття «свідомість» і «усвідомленість» і застосовують їх до штучних систем по-різному.

Автори роботи підкреслюють: випробовувані цілком готові сказати, що ШІ «щось помічає» або «обізнаний» щодо середовища. Але там, де з’являється слово «свідомість», більшість проводить чітку межу між людським розумом і машиною — навіть за ідентичної поведінки.

Що нам показує різниця в одному слові

На думку дослідників, це розходження між свідомістю та усвідомленістю важливе для розуміння того, як суспільство сприймає штучний інтелект.

«Усвідомленість» у повсякденній мові — відносно нейтральний термін, який може описувати здатність агента виявляти інформацію та реагувати на неї. Цю ознаку легко прив’язати до спостережуваної поведінки, тому люди без особливих застережень застосовують її як до людей, так і до ШІ.

«Свідомість» натомість несе глибші смислові нашарування — насамперед пов’язані з суб’єктивним досвідом, «внутрішнім життям» та відчуттям «я». Через це люди менш охоче приписують свідомість системам, які хоч і діють схоже на людину, але залишаються в їхньому уявленні суто технічними об’єктами.

Дані дослідження також розвіюють побоювання, що публіка нібито автоматично ототожнює людську та машинну психіку, варто лише ШІ почати говорити та діяти подібно до людини. Результати вказують на більш «розбірливе» повсякденне мислення: люди проводять межу, але її розташування залежить від того, які саме терміни ми використовуємо.

Чому мова про ШІ має значення

Автори роботи наголошують: вибір слів, якими ми описуємо штучний інтелект, матиме дедалі більше значення, адже моделі стають все переконливішими у своїй людеподібній поведінці.

Команди з розробки, компанії та журналісти часто використовують гучні формулювання, приписуючи ШІ «намір», «плани» або навіть «совість» і «вагання». Результати дослідження показують, що звичайні користувачі не обов’язково поділяють таку риторику, але мовний вибір все одно може зрушувати межу між «машиною» і «майже як людина».

Для більш нейтральних описів, на кшталт «усвідомлення оточення», відмінність між людиною та ШІ в очах учасників експерименту значною мірою зникала. Це означає, що дискусії про штучний інтелект — від етики до регулювання — потребують уважного ставлення не лише до технологій, а й до слів, якими ми їх описуємо.

Люди визнають штучний інтелект «уважним», але не свідомим з’явилася спочатку на Цікавості.

cikavosti.com