2852
Один із провідних дослідників штучного інтелекту, лауреат Нобелівської премії з фізики Джеффрі Хінтон попередив про ризик масштабної технологічної кризи наприкінці 2026 року або протягом 2027-го. Він порівняв можливі наслідки неконтрольованого розвитку ШІ з Чорнобильською катастрофою. Свої побоювання науковець висловив в інтерв’ю, опублікованому 3 листопада, а також в іншій розмові з австрійським медіа 7 листопада.
Яку катастрофу може спричинити штучний інтелект
За словами Хінтона, людство поступово наближається до моменту, коли системи ШІ зможуть створювати загрози, наслідки яких важко передбачити.
Науковець припускає, що серйозний інцидент може статися вже протягом найближчого року. Як приклад він навів кібератаку з використанням ШІ, яка здатна порушити роботу електромереж або на певний час паралізувати міжнародну фінансову систему.
Ідеться не про повторення ядерної аварії 1986 року. Порівняння з Чорнобилем дослідник використовує як метафору масштабної події, після якої уряди та суспільство можуть переглянути ставлення до технологічних ризиків.
Він припустив, що така криза може змусити світових лідерів серйозніше ставитися до безпеки ШІ. Водночас конкретних доказів неминучості катастрофи у 2026–2027 роках Хінтон не навів. Окреме занепокоєння викликає розвиток автономних ШІ-агентів, які можуть виконувати багатоступеневі завдання та взаємодіяти з цифровими системами без постійного контролю людини.
Критика керівників компаній і пропозиції щодо контролю
Дослідник висловив сумніви щодо підходу найбільших технологічних компаній до безпеки ШІ. Зокрема, він розкритикував очільника OpenAI Сема Альтмана, засновника Meta Марка Цукерберга та підприємця Ілона Маска. На думку Хінтона, конкуренція за ринок і фінансові інтереси можуть спонукати компанії впроваджувати дедалі потужніші системи без достатньої перевірки їхньої безпечності. Це його особиста оцінка, а не доведений факт щодо мотивів керівників.
Хінтон, який залишив Google у 2023 році, неодноразово застерігав, що розвиток ШІ може призвести до масового скорочення робочих місць, поглиблення нерівності та появи нових загроз кібербезпеці. Науковець визнає, що технологія здатна принести суспільству значну користь, однак вважає нинішній рівень контролю за її розвитком недостатнім.
Хінтон закликає створити міжнародну систему перевірки передових моделей ШІ, яка передбачатиме незалежне оцінювання ризиків до виходу нових продуктів на ринок. Він порівняв такий підхід із перевіркою лікарських препаратів, коли виробники мають довести їхню безпечність і ефективність до масового застосування. На думку дослідника, добровільних обіцянок компаній недостатньо: потрібні спільні стандарти, міжнародна співпраця та контроль незалежних органів.
Попри песимістичні сценарії, Хінтон не вважає втрату контролю над ШІ неминучою. Він переконаний, що людство ще здатне запобігти небезпечним наслідкам, якщо приділятиме більше ресурсів дослідженню безпеки нових систем. Наразі масштабної катастрофи, яку прогнозує науковець, не сталося, тож його попередження залишається оцінкою ризиків, а не підтвердженим прогнозом.
Джерело: ukrmedia.news
