3727
Американський удар по об’єкту в Ірані, який виявився школою, міг стати наслідком серії розвідувальних помилок і надмірної довіри до автоматизованих систем аналізу. За даними Bloomberg, один із ключових етапів оцінки цілі спирався на інформацію, яку не перевірили достатньо ретельно перед ухваленням рішення.
Повідомляється, що частина аналітичних матеріалів була підготовлена за допомогою інструментів штучного інтелекту. Алгоритми допомагали класифікувати об’єкти та зіставляти дані з різних джерел, але в цьому випадку система могла неправильно інтерпретувати інформацію або надати надто впевнений висновок.
Проблема не означає, що рішення про удар ухвалював ШІ. Остаточне рішення залишалося за людьми, однак вони могли спиратися на помилкову картину, сформовану в результаті автоматизованої обробки. Саме цей момент зараз викликає найбільше занепокоєння.
У Пентагоні вже кілька років активно інтегрують алгоритми в розвідку, планування та аналіз великих масивів даних. Це дає значну швидкість, але створює ризик так званих «галюцинацій» і неправильних класифікацій, особливо коли вихідні дані неповні або суперечливі.
Після інциденту посилилася дискусія про обов’язкові процедури подвійної перевірки. Військові експерти наголошують, що ШІ може бути корисним інструментом, але не повинен замінювати критичне мислення та незалежне підтвердження цілі.
Інцидент в Ірані може вплинути на майбутні правила використання автоматизованих систем у бойових операціях. США навряд чи відмовляться від ШІ, але можуть суттєво посилити вимоги до верифікації перед ударами.
