3967
У США розгорівся скандал навколо використання генеративного ШІ у військовій аналітиці після того, як помилковий звіт ледь не став підставою для силової операції проти китайського цивільного судна. За даними CNN, аналітичний документ стверджував, що корабель нібито перевозить компоненти для ядерної зброї, але під час повторної перевірки ця інформація не підтвердилася.
Звіт був створений із використанням ШІ одним з аналітиків, пов’язаних із Командуванням спеціальних операцій США. Система неправильно інтерпретувала інформацію про вантаж і подала висновок так, ніби мова йшла про ядерні компоненти.
Проблема стала серйозною тому, що документ не залишився на рівні експерименту. За даними джерел CNN, військові почали готувати операцію з перехоплення судна, а озброєні групи готувалися до висадки.
В одному з повідомлень також зазначалося, що військова авіація вже була піднята в повітря. Тобто неправильно сформована аналітична довідка фактично почала впливати на реальні оперативні рішення.
Операцію зупинили лише після того, як посадовці уважніше перевірили джерела. Саме тоді з’ясувалося, що ключове твердження в документі не мало надійного підтвердження й походило від помилкової інтерпретації ШІ.
Інцидент особливо важливий через контекст. У звичайному чаті галюцинація може означати неправильну дату або вигадане посилання. У військовій розвідці така сама помилка може вплинути на рішення про перехоплення судна, застосування сили або оцінку намірів іншої держави.
Генеративні моделі добре працюють із великими масивами тексту, але вони не відрізняють факти від правдоподібно сформованих припущень так само, як це робить професійний аналітик із перевіреними джерелами. Саме тому їхній результат не можна автоматично вважати підтвердженою розвідінформацією.
Критична проблема полягає ще й у формі. Якщо ШІ генерує впевнено написаний аналітичний документ, читач може несвідомо сприймати його як більш надійний, ніж сирі дані. Це підвищує ризик так званої automation bias — схильності довіряти автоматизованому висновку.
Для безпечного використання ШІ у розвідці потрібні окремі процедури перевірки. Кожне критичне твердження має підтверджуватися незалежними джерелами, а модель повинна чітко розділяти факти, припущення та рівень невизначеності.
Історія з китайським судном не означає, що ШІ взагалі не можна використовувати у військовій аналітиці. Вона показує інше: швидкість обробки даних корисна лише тоді, коли остаточне рішення залишається за людьми, які перевіряють джерела до того, як аналітичний текст перетвориться на наказ.
https://www.rbc.ua/rus/news/feykova-derna-zbroya-shtuchniy-intelekt-led-1790064843.html
