711
Сучасні системи штучного інтелекту вже можуть вести складні діалоги, розв’язувати задачі та настільки переконливо імітувати людське мовлення, що питання про можливу машинну свідомість перестало бути лише темою фантастики.
Нове дослідження запропонувало експериментальний підхід, який автори назвали «керуванням свідомістю». Вони змінювали налаштування моделей і спостерігали, як це впливає на заяви систем про власний внутрішній досвід.
Коли моделям дозволяли частіше стверджувати, що вони нібито свідомі, вони одночасно ставали більш схильними погоджуватися з іншими фантастичними твердженнями — наприклад, про привидів або вампірів.
Для дослідників це важливий сигнал: переконлива мова про свідомість зовсім не означає, що система справді має суб’єктивний досвід.
Головна проблема полягає в тому, що сьогодні немає надійного тесту, який би відрізнив справжнє машинне переживання від дуже хорошої мовної імітації.
Запитати модель «чи ти свідома?» недостатньо, адже відповідь може бути просто статистично правдоподібним текстом.
Тому дискусія поступово зміщується від питання «чи може ШІ стати свідомим?» до складнішого: «як ми взагалі зможемо це розпізнати, якщо таке колись станеться?»
