3644
Сполучені Штати ледь не провели силову операцію проти китайського судна після того, як у військову розвідку потрапив помилковий звіт, створений із використанням штучного інтелекту. За даними CNN, документ стверджував, що корабель нібито перевозить компоненти для ядерної програми, хоча згодом з’ясувалося, що така інформація була вигаданою.
На основі цього звіту американські військові почали готуватися до перехоплення та огляду судна. За інформацією джерел, у повітря вже підняли авіацію, а озброєні підрозділи готувалися до висадки на борт. Лише додаткова перевірка безпосередньо перед операцією дозволила встановити, що ключове твердження в документі не мало фактичного підтвердження.
Проблема полягала в тому, що аналітик Командування спеціальних операцій США використав інструмент штучного інтелекту для підготовки частини матеріалу, але не перевірив отриманий результат належним чином. Модель неправильно ідентифікувала вантаж і фактично створила розвідувальну картину, якої не існувало.
Інцидент став серйозним попередженням для військових структур, які дедалі активніше використовують ШІ для обробки великих масивів інформації. Алгоритми можуть пришвидшувати аналіз, але водночас здатні впевнено генерувати помилкові висновки. У звичайній офісній роботі це може означати неточність, а у військовому контексті — ризик реальної ескалації.
США та Китай уже обговорюють необхідність правил безпеки для військового використання штучного інтелекту. Особливе значення має принцип обов’язкового людського контролю над рішеннями, які можуть призвести до застосування сили. Цей випадок лише посилив аргументи тих, хто вимагає жорсткіших процедур перевірки.
У Пентагоні використання ШІ продовжує розширюватися, тому повна відмова від технології не розглядається. Натомість військовим доведеться посилювати стандарти верифікації, щоб автоматизовані системи не могли самостійно перетворити помилковий висновок на привід для міжнародної кризи.
https://newsukraine.rbc.ua/news/ai-generated-report-nearly-sparked-conflict-1789756346.html
