3451
Іспанське агентство із захисту даних AEPD отримало перше повідомлення про витік, який, за твердженням організації-заявника, був здійснений ШІ-агентом на базі відомої великої мовної моделі. Регулятор ще не завершив перевірку обставин, тому використання автономного ШІ під час атаки поки вважається заявленим, а не остаточно доведеним фактом.
Організація, яка повідомила про інцидент, заявила, що агент почав із пошуку вразливостей у загальнодоступних файлах, після чого зміг авторизуватися у внутрішній системі. Уже всередині він нібито продовжив автономно перевіряти застосунки на наявність додаткових слабких місць.
На фінальній стадії атаки агент, за описом заявника, отримав можливість змінювати персональні дані та відкривати фінансові документи, включно з рахунками. AEPD підкреслює, що навіть до завершення розслідування сам факт такого повідомлення показує, що сценарії атак за участю автономних агентів перестали бути суто теоретичними.
Регулятор зазначає, що штучний інтелект сам по собі не створює принципово нових типів кіберзагроз. Однак автоматизація може суттєво збільшувати швидкість, масштаб і здатність атаки адаптуватися до захисту, одночасно скорочуючи час, який має команда безпеки для реагування.
AEPD вважає, що процедури реагування, розраховані на ручні атаки, можуть виявитися недостатньо швидкими проти агентів, які паралельно аналізують активи, перевіряють різні способи доступу і змінюють поведінку залежно від результатів.
Окрема увага приділяється цифровій ідентичності та обліковим даним. Якщо агент отримає скомпрометований обліковий запис, API-ключ або токен із надмірними правами, він може перевіряти й використовувати доступ до багатьох сервісів із машинною швидкістю.
Іспанський регулятор наголошує, що ручний контроль має доповнюватися швидкими засобами виявлення, локалізації та блокування атак. Організаціям радять переглянути моделі ризиків так, щоб у них окремо враховувалися ШІ-асистовані та повністю агентні сценарії.
AEPD також уточнила важливий момент: навіть якщо розслідування підтвердить використання автономного ШІ, це саме по собі не означатиме, що була зламана модель або інфраструктура її розробника, і не означатиме, що сама модель була спеціально створена для шкідливих операцій.
У матеріалі BleepingComputer згадуються й інші випадки використання агентних систем у кіберопераціях: зловмисники застосовували багатoагентні системи Gemini для пошуку вразливостей та масового викрадення облікових даних, а Claude використовували для аналізу великої кількості Android-застосунків у пошуку залишених у коді секретів.
