2887
Anthropic повідомила про кілька кампаній, у яких її моделі Claude намагалися використовувати для кібератак, шпигунства та інших шкідливих завдань. Серед виявлених операцій була активність, пов’язана з російськими структурами, де штучний інтелект застосовувався проти українських цілей.
За даними нового Threat Intelligence Report компанії, російська група Midnight Blizzard використовувала Claude для підтримки операцій, спрямованих на українські сектори. Ця група відома також під іншими назвами й раніше неодноразово пов’язувалася західними дослідниками з російською розвідкою.
ШІ застосовувався не як повністю автономний хакер, а як інструмент на окремих етапах кампаній. Anthropic описує використання моделей для підготовки фішингових матеріалів, аналізу технічної інформації та спроб обходити механізми виявлення шкідливого коду.
Можливості сучасних моделей особливо корисні нападникам у завданнях, де потрібно швидко створювати багато варіантів тексту або адаптувати матеріали під конкретну мову й аудиторію. Це може зменшувати час, потрібний для підготовки персоналізованого фішингу.
Anthropic заявляє, що виявлені облікові записи були заблоковані, а отримані під час розслідування дані використані для вдосконалення внутрішніх систем моніторингу.
Звіт охоплює не лише Росію. Компанія повідомила про шкідливі кампанії, пов’язані з китайськими структурами, кіберзлочинцями та іншими групами. У деяких випадках Claude намагалися використовувати для створення програм, пов’язаних зі зброєю або розвідувальними завданнями.
Окремо Anthropic описала масштабні спроби китайських ШІ-лабораторій копіювати поведінку Claude за допомогою дистиляції. За твердженням компанії, Alibaba була пов’язана з найбільшою такою активністю — понад 151 млн взаємодій.
Reuters зазначає, що розвиток потужніших моделей створює двоїсту ситуацію. Ті самі можливості, які допомагають програмістам знаходити помилки або автоматизувати роботу, можуть використовуватися нападниками для аналізу вразливостей, створення фішингових кампаній і вдосконалення шкідливого коду.
Anthropic підкреслює, що її політики забороняють використання Claude для кібератак та інших небезпечних операцій. Компанія розвиває автоматизовані системи виявлення, але визнає, що зловмисники постійно змінюють підходи й намагаються обходити захист.
Для України цей випадок показує практичний вимір нової технології: генеративний ШІ вже використовується не лише у теоретичних дослідженнях кібербезпеки, а й у реальних кампаніях, пов’язаних із війною та державним шпигунством.
