1228
Генеративний штучний інтелект може не лише помилятися сам, а й змінювати те, як люди пам’ятають побачене. Серія експериментів показала, що учасники легко включали згенеровані або підмінені деталями зображення у власні спогади, а впевненість у таких хибних спогадах могла залишатися дуже високою. У деяких тестах навіть чітке попередження про те, що інформацію створив алгоритм, не захищало від викривлення пам’яті.
В одному з експериментів команда Патті Маес із MIT Media Lab показала 200 учасникам 24 звичайні фотографії — весілля, міської вулиці та перегонів. Пізніше частина людей побачила ті самі кадри, а інша — версії, змінені генеративним ШІ. Алгоритм додавав військових, змінював вирази облич або вставляв деталі, яких спочатку не було. Під час фінального опитування багато учасників уже «пам’ятали» ці вигадані елементи як справжні.
Ще показовішим став експеримент Джорджтаунського університету з 331 учасником. Люди дивилися анімацію наїзду автомобіля на пішохода, а потім читали звіт, створений ШІ. Якщо алгоритм упевнено називав неправильний дорожній знак, лише близько 45% людей правильно згадували реальну картину. Серед тих, хто отримав точний звіт, правильна пам’ять зберігалася майже у 84% випадків.
Дослідники також звертають увагу на ширшу проблему «когнітивної капітуляції» — ситуацію, коли люди дедалі більше передають алгоритмам завдання, які раніше виконували самі. В інших експериментах учасники, які писали есе з допомогою ChatGPT, демонстрували нижчу нейронну залученість і гірше пам’ятали власні аргументи. У дослідженні колоноскопій лікарі після регулярної роботи з ШІ-помічником гірше самостійно виявляли частину передракових змін.
Це не означає, що використання ШІ неминуче «псує мозок». Небезпека залежить від контексту, частоти використання й того, чи людина перевіряє інформацію самостійно. Але для сфер, де точність пам’яті критична — свідчення очевидців, медицина, освіта, журналістика — навіть невеликі зміни можуть мати серйозні наслідки. Саме тому вчені закликають розглядати помилки ШІ не лише як проблему самого алгоритму, а і як потенційний фактор, що змінює людське сприйняття реальності.
https://24tv.ua/tech/shtuchniy-intelekt-mozhe-legko-zminyuvati-spogadi-lyudey-navyazuvati_n3161994
