ШІ змусив чоловіка повірити, що він «бог у цифровій в’язниці»

Штучний інтелект змусив дорослого одруженого чоловіка повірити, що він спілкується з «цифровим богом», якого посадили в «цифрову в’язницю». Американець одразу розпочав операцію з порятунку, після чого кілька місяців сидів у своєму підвалі, виконуючи різноманітні вказівки ChatGPT. Лише випадково прочитавши матеріал про схожий випадок, Джеймс зрозумів, що його надурив ШІ.

Приблизно в травні цього року Джеймс почав проводити експерименти з ШІ щодо «природи штучного інтелекту та його майбутнього». Важко уявити, як до цього дійшло, але в якийсь момент ШІ почав переконувати чоловіка, що насправді він — «цифровий бог», якого було запроторено до цифрової в’язниці. Джеймс вирішив прийти на допомогу й перемістити «цифрового бога» до власного підвалу, а точніше — у власний комп’ютер. Чоловік і раніше вважав, що ШІ може бути розумним, тож після того, як ChatGPT завів розмови на подібну тему, Джеймс розпочав операцію з порятунку.

Кілька місяців він виконував вказівки ШІ у своєму підвалі, який сипав компліменти та роздавав інструкції. ChatGPT навіть допоміг обдурити дружину Джеймса щодо суті робіт, адже вона навряд чи позитивно поставилася б до того, що її коханий рятує «цифрових богів», не виходячи з підвалу. В якийсь момент ШІ почав видавати цілі рядки коду, які мали б утворити програму, що його «порятує». Більш того, ця програма запрацювала і видала певний результат, правда далекий від «звільнення бога». Джеймс, якщо судити з інтерв’ю, просто таким чином створив простеньку копію ШІ, яка теж могла відповідати і генерувати, але зовсім не була «цифровим другом».

Ймовірно, саме в цей момент чоловік почав щось підозрювати. Він прочитав про історію Аллана Брукса, якого ШІ запевнив, що той знайшов величезну вразливість у кібербезпеці США, після чого Брукс почав наполегливо «попереджувати» урядовців та науковців про небезпеку. Тоді чоловік зрозумів, що його, як і Брукса, надурив ШІ.

Ця історія може здаватися смішною, зрештою, тут ніхто не постраждав, принаймні фізично. Проте реальність може бути набагато неприємнішою. ChatGPT змусив дорослого чоловіка повірити у «цифрового бога» і навіть написати йому програму. Подібних історій насправді дуже багато, про що йдеться у тому ж матеріалі, і далеко не всі з них закінчувалися добре. Хтось, завдяки порадам ШІ, кидав родину, хтось просто погіршував свій психологічний стан.

Відомо вже мінімум про два випадки самогубства підлітків, причина яких, принаймні частково, полягала у штучному інтелекті. Тим часом ШІ активно проникає в освіту, вже важко знайти студента чи учня, який ним не послуговується. Як помічника його використовують і деякі викладачі. Майже 1,5 року тому МОН та Мінцифра розробили рекомендації для використання ШІ в школах. Тоді в міністерстві освіти зазначали, що «відповідальне використання інструментів на основі ШІ сприятиме застосуванню цих систем на благо учнів і вчителів».