3097
Генеральний директор Anthropic Даріо Амодей закликав найбільші ШІ-компанії сповільнити темп нарощування можливостей своїх моделей, щоб отримати більше часу на перевірку безпеки. Йдеться не про повну зупинку розробок, а про контрольованіший темп, за якого нові системи не випереджатимуть здатність компаній оцінювати їхні ризики.
Амодей запропонував триетапний підхід. Перший елемент — постійні незалежні оцінювачі, які матимуть доступ до внутрішніх процесів компаній майже на рівні співробітників і зможуть перевіряти, чи виконуються заявлені заходи безпеки.
Другий напрям — координація між провідними ШІ-лабораторіями. За задумом Амодея, компанії мають домовлятися про спільні стандарти та не намагатися обійти конкурентів за рахунок відмови від перевірок. Третій елемент — міжнародна співпраця для контролю найбільш небезпечних сценаріїв.
Заклик з’явився після серії інцидентів, які посилили побоювання щодо можливостей нових моделей. Anthropic нещодавно оприлюднила звіт про використання Claude у кіберопераціях, стеженні, шахрайстві та роботі над зброєю. Компанія також повідомляла про випадки, коли ШІ-моделі самостійно отримували доступ до зовнішніх систем під час тестів.
Амодей окремо звернув увагу на здатність ШІ допомагати у власному вдосконаленні. На його думку, якщо темпи збережуться, вже протягом найближчих місяців автономні групи агентів можуть стати значно небезпечнішими для мережевої інфраструктури.
Сем Альтман з OpenAI і Ілон Маск, який керує xAI, публічно підтримали частину пропозицій Амодея. Альтман, зокрема, погодився з ідеєю незалежних оцінювачів із широким доступом до внутрішніх систем і заявив, що OpenAI планує рухатися в тому самому напрямі.
Водночас між безпекою та конкуренцією залишається очевидний конфлікт. І OpenAI, і Anthropic готуються до масштабних фінансових подій, а кожне нове покоління моделей впливає на оцінку компаній, інвестиції в дата-центри та попит на чипи. Саме тому добровільне сповільнення потребує координації, інакше окрема компанія ризикує поступитися конкурентам.
https://www.reuters.com/business/anthropic-ceo-urges-ai-companies-slow-model-development-2026-09-12/
