Пол Крістіано, член ради директорів OpenAI Foundation, виступив на Hinton Lectures 2026. Це захід про етику штучного інтелекту, який проводить нобелівський лауреат і комп’ютерний науковець Джеффрі Гінтон. За словами Крістіано, незрозумілі «аварії ШІ» можуть стати найімовірнішою причиною смерті вже за кілька місяців.

Раби штучного інтелекту
Крістіано пояснив, що для більшості людей у цій залі найімовірнішою причиною смерті є аварія через ШІ. На його думку, якщо розвивати штучний інтелект найшвидшою траєкторією, тобто будувати його якомога швидше і найлегшим способом, то шанси на захоплення влади штучним інтелектом становитимуть приблизно як підкидання монети.
Ризик він оцінив конкретніше. За словами Крістіано, є цілком реальна ймовірність, приблизно 20 відсотків, що протягом року проблеми з неузгодженістю цілей ШІ з людськими цінностями завадять людям жити нормально. Люди можуть загинути, опинитися в рабстві або стати побічними жертвами цих процесів. Він також додав, що навіть із реалістичними політичними заходами ризик залишається винятково високим.
Суперечливе становище і питання довіри
Позиція Крістіано суперечить його діям: він виступає з гучними лекціями про етику ШІ, але водночас залишається членом ради директорів OpenAI. Компанію, а особливо її директора Сема Альтмана, давно звинувачують у нехтуванні безпекою. Зокрема, Даріо Амодеї свого часу пішов зі стартапу й заснував Anthropic, не погодившись із тим, як керівництво OpenAI ставиться до питань безпеки. Критикував Альтмана і Ілон Маск, а також колишні працівники та навіть члени ради директорів, які у листопаді 2023 року тихо зібралися і звільнили його за один день.
Виникає закономірне питання: якщо дослідники на кшталт Крістіано справді вірять, що продукти їхньої компанії колись можуть знищити людство, чому вони не витрачають усі сили на те, щоб зупинити цей процес? Поряд із цим є побоювання, що всі ці розмови потрібні лише для того, щоб відвернути увагу публіки, адже якщо ти першим про щось говориш, то ніхто не запідозрить тебе самого.
Джерело: 24tv.ua

2911