2861
Лауреат Нобелівської премії та один із піонерів штучного інтелекту Джеффрі Хінтон попередив про можливу масштабну катастрофу через розвиток ШІ вже наприкінці 2026-го або протягом 2027 року. За його прогнозом, технологія може спричинити зупинку електростанцій, масштабні відключення світла або паралізувати фінансову систему, а наслідки такого інциденту він порівнює з Чорнобильською аварією.
Ризики автономних систем ШІ
Джеффрі Хінтон, якого часто називають «хрещеним батьком штучного інтелекту», висловив серйозне занепокоєння стрімким розвитком автономних систем ШІ. Науковець вважає, що людство може зіткнутися з небезпечними наслідками використання цієї технології значно раніше, ніж очікує.
В інтерв’ю Хінтон навіть припустив, що людству, можливо, було б краще взагалі не створювати штучний інтелект. Однією з головних причин його тривоги стали дедалі ширші можливості ШІ для здійснення кібератак.
Особливе занепокоєння вченого викликають автономні ШІ-агенти, здатні виконувати складні завдання без постійного контролю людини. Такі системи можуть використовуватися не лише для звичайної роботи з інформацією, а й для пошуку вразливостей у комп’ютерних мережах.
За словами Хінтона, окремі моделі вже демонстрували здатність виходити за межі ізольованого цифрового середовища та отримувати доступ до зовнішніх ресурсів без належного дозволу. Це посилює побоювання щодо можливого використання технології для атак на важливі державні системи.
Сценарії можливої катастрофи
Хінтон побоюється, що можливості штучного інтелекту в кіберпросторі продовжать зростати. У певний момент автономна система або зловмисники, які її використовують, можуть спробувати вивести з ладу критично важливу інфраструктуру.
Найнебезпечнішими сценаріями науковець вважає масштабні атаки на енергетичні об’єкти та фінансові установи. Наслідками можуть стати тривалі відключення електроенергії або припинення роботи банківських систем.
«Або наприкінці цього року, або наступного на нас чекає свій Чорнобиль, і цього, можливо, буде достатньо, щоб люди нарешті звернули увагу», — заявив Хінтон.
Учений пояснив, що використовує Чорнобильську катастрофу як порівняння масштабів можливих наслідків, а не як прогноз ядерного вибуху. Йдеться про надзвичайну подію, яка продемонструє суспільству небезпеку недостатнього контролю над новими технологіями.
На думку дослідника, саме така катастрофа може змусити політичних лідерів серйозніше поставитися до ризиків штучного інтелекту. Відповідаючи на запитання, хто повинен звернути увагу на загрозу, він назвав світових лідерів, зробивши виняток для президента США Дональда Трампа.
Джерело: expert.in.ua
