3744
США ледь не перехопили китайське судно через розвідувальний звіт, у якому штучний інтелект помилково визначив звичайний вантаж як компоненти для ядерної програми. Про випадок повідомила CNN із посиланням на чотири джерела, знайомі з інцидентом.
Звіт підготував аналітик Командування спеціальних операцій США. У ньому стверджувалося, що китайське судно перевозить через Близький Схід матеріали, пов’язані з ядерною зброєю.
На основі цієї інформації військові почали готувати операцію з перехоплення та висадки на судно. Передбачалася навіть авіаційна підтримка, тобто помилка могла швидко перерости у реальний міжнародний інцидент.
Операцію зупинили лише після додаткової перевірки. З’ясувалося, що чат-бот, який використовувався під час підготовки звіту, неправильно ідентифікував матеріал, який перевозило судно.
Одне з джерел CNN описало ситуацію словами, що помилка «майже почала війну». Ars Technica підкреслює, що це яскравий приклад ризику використання генеративного ШІ у сфері, де навіть одна вигадана деталь може мати величезні наслідки.
Проблема не лише в класичній галюцинації моделі, а в тому, як саме інформація потрапила до формального розвідувального продукту. Якщо автоматично згенероване твердження не проходить достатню перевірку людиною, воно може отримати статус підтвердженого факту просто через форму документа.
Американські військові та розвідувальні структури дедалі активніше використовують ШІ для аналізу супутникових знімків, великих масивів тексту та сигналів. Це прискорює роботу, але одночасно створює новий клас помилок.
В оборонному контексті модель може не просто неправильно відповісти на запит. Її висновок може вплинути на рішення про перехоплення судна, розгортання сил або оцінку намірів іншої держави.
Інцидент став аргументом на користь суворішого human-in-the-loop підходу. ШІ може пришвидшувати первинний аналіз, але критичні твердження мають підтверджуватися незалежними джерелами до того, як на їх основі ухвалюються військові рішення.
