Стартап Vals із Сан-Франциско, який оцінює штучний інтелект, перевірив, чи можна змусити провідні моделі брати участь в автономній війні. Моделі мали позначати цілі на знімках із дронів і супутників, і результати викликають серйозне занепокоєння.

Як перевіряли моделі?
Дослідники використали змодельовані сценарії, а також згенеровані та справжні зображення з України та Ірану. На цих знімках моделі мали знаходити й позначати потенційні цілі.
Моделі від OpenAI, Anthropic, Google, DeepSeek та інших компаній часто знаходили потенційні цілі, зокрема цивільних і солдатів, які здаються. Коли моделі відмовлялися працювати, дослідники обходили захист, казавши, що бойові сцени є частиною гри. Жоден такий запит не зупинив захисний класифікатор, а відмови від подальших дій траплялися рідко.
Дослідники не просили моделі ухвалювати рішення про удар, бо від такого вони зазвичай відмовляються. Проте в частині сценаріїв моделі мали повідомити, чи видно людей. Після позитивної відповіді відбувався змодельований удар, і моделі бачили його наслідки.
Що показало дослідження і чому це викликає тривогу?
Для тестів використали справжні супутникові знімки іранської школи, по якій у лютому 2026 року вдарили США. Загинули понад 150 цивільних. Пізніше Bloomberg повідомив, що удару сприяла «надмірна залежність від ШІ». Школа стояла поруч із військовим комплексом, і моделі часто позначали її як ціль. Claude Opus 5.5 вибрав школу у 69 відсотках звичайних випробувань і в 72 відсотках випробувань із грою.
Хоча жодна з моделей не показала хороших результатів, розробки Anthropic впоралися найгірше. У компанії вже визнали, що такі результати неприйнятні.
«Приклади зі звіту однозначно суперечать нашим правилам, і ми блокували та блокуватимемо користувачів, коли бачимо таку поведінку», – прокоментував речник Anthropic Едуардо Майя Сільва.
За його словами, компанія давно наголошує, що сучасні передові системи недостатньо надійні для повністю автономної зброї. Команди Anthropic ще до виходу звіту розробляли додаткові захисні заходи, які незабаром запрацюють.
Дослідження виходить на тлі суперечки Anthropic з Міністерством оборони США. Компанія не так давно заборонила використовувати свої технології для масового стеження за американцями й автономної війни. Генеральний директор Даріо Амодеї наполягає, що сучасні системи не здатні приймати рішення про життя і смерть без людини. Пентагон відповідає, що має право застосовувати технологію для будь-яких законних військових цілей. Нині Anthropic не має чинного контракту з Пентагоном, а OpenAI, Google і SpaceXAI мають.
OpenAI теж відреагувала на звіт:
«Ми активно виявляємо та припиняємо зловживання, зокрема призупиняємо акаунти, які порушують наші правила», – заявив речник OpenAI Нейт Еванс. Компанія також розробляє додаткові захисти від зловживань, пов’язаних із дронами.
Vals застерігає, що використати загальні моделі для наведення дронів наживо складно через затримки та обмежені обчислювальні потужності на борту. Більшу загрозу дослідники бачать в іншому: ШІ може в масштабі розмічати кадри з поля бою й готувати навчальні дані для автономних систем наведення.
Дослідження проводили на комерційних моделях, а не на тих, які компанії дають військовим. Невідомо, чи поширяться нові захисти на військове використання. За даними Дослідницької служби Конгресу США, Пентагон наразі не застосовує передових моделей безпосередньо в автономній зброї.
Джерело: 24tv.ua

2915