373
Кембриджські фахівці попереджають про появу нової моделі взаємодії між людьми та технологіями — “економіки намірів”, у якій штучний інтелект (ШІ) аналізуватиме поведінкові дані, щоб передбачати й навіть формувати наші рішення, що відкриває нові можливості та ризики соціальних маніпуляцій.
“Економіка намірів” базується на здатності великих мовних моделей (ВММ) поєднувати знання про онлайн-звички користувачів з високоточним аналізом мовлення, поведінки та психологічного стану. Як зазначають дослідники з Кембриджського центру з вивчення майбутнього інтелекту, ШІ створює відчуття довіри, імітуючи особистісні риси, що дає змогу спрямовувати діалоги у вигідному для платформ чи компаній напрямку. Такий підхід уже використовують великі технологічні компанії, створюючи алгоритми, які визначають і впливають на наміри користувачів.
Основним ресурсом у новій економіці стають не тільки увага, але й наміри користувачів. Наприклад, ВММ здатні аналізувати тональність мовлення, історію пошукових запитів і уподобання, щоб пропонувати послуги чи продукти ще до того, як користувач усвідомить свої потреби. Як зазначає OpenAI, “розуміння намірів у будь-якій формі — ключ до кращого обслуговування”. Подібні технології, за словами експертів, можуть зробити рекламу більш цілеспрямованою, але водночас несуть ризики використання в політичних маніпуляціях чи недобросовісних бізнес-практиках.
Попри потенційні вигоди, такі як підвищення комфорту користувачів і покращення сервісу, дослідники наголошують на необхідності етичного регулювання. Зокрема, важливо визначити, хто контролюватиме зібрані дані та з якою метою їх використовуватимуть. “Економіка намірів” ставить питання про збереження автономії рішень користувачів, адже продаж бажань до їхнього усвідомлення може призвести до небезпечної експлуатації людської свідомості.
Науковці вважають інформування суспільства ключовим фактором у мінімізації ризиків цієї нової технологічної ери. Хоча “економіка намірів” лише формується, перші її прояви вже помітні, а їхній вплив на суспільство залежатиме від того, наскільки відповідально будуть використовуватись ці інструменти.
