4104
Нобелівський лауреат з фізики Девід Гросс попередив, що найближчі 50 років можуть бути особливо небезпечними для людської цивілізації. У своїй оцінці він поєднав кілька глобальних ризиків — насамперед ядерне протистояння та швидке впровадження штучного інтелекту у військові системи.
Гросс, який отримав Нобелівську премію 2004 року, використав математичний підхід для оцінки накопичуваного ризику. Він підкреслює, що такі розрахунки не дозволяють передбачити конкретну дату катастрофи, але показують, наскільки небезпечною може бути навіть невелика щорічна ймовірність великої події.
За оцінкою фізика, щорічна ймовірність масштабного ядерного конфлікту може становити близько 2%. Якщо уявити, що такий рівень ризику зберігається протягом десятиліть, сумарна ймовірність серйозної катастрофи швидко зростає.
Окрему увагу Гросс звертає на послаблення систем міжнародного контролю над озброєннями. Згортання частини домовленостей, збільшення числа ядерних держав і погіршення каналів комунікації підвищують ризик помилки або неконтрольованої ескалації.
Ще однією небезпекою він називає військовий штучний інтелект. У кризовій ситуації держави можуть дедалі більше покладатися на алгоритми, які мають за секунди оцінювати загрози та рекомендувати рішення.
Проблема полягає в тому, що сучасні системи ШІ все ще помиляються й можуть видавати непередбачувані результати. Якщо подібний алгоритм стане частиною системи ядерного попередження або військового управління, ціна помилки може бути надзвичайно високою.
Водночас Гросс не стверджує, що людство приречене. Він подає свої оцінки як попередження й заклик посилювати міжнародне співробітництво, контроль над небезпечними технологіями та людський нагляд за критично важливими рішеннями.
