2087
Провідні компанії у сфері штучного інтелекту попередили, що можливості моделей для проведення кібератак зростають настільки швидко, що серйозні зміни в характері атак можуть стати помітними вже протягом найближчих місяців. У спільних застереженнях і дослідженнях фігурують OpenAI, Anthropic та десятки інших технологічних компаній і фахівців із безпеки.
Головна зміна полягає у переході від використання моделей як помічників до більш автономних агентів, здатних самостійно аналізувати код, шукати вразливості, планувати послідовність дій та виконувати окремі етапи атаки. Саме автономність може різко знизити вартість і швидкість складних операцій для зловмисників.
Попередження з’явилися на тлі демонстрацій нових моделей, які значно краще справляються із завданнями кібербезпеки, ніж попередні покоління. Компанії одночасно наголошують, що ті самі можливості можуть використовуватися захисниками для пошуку слабких місць, аналізу шкідливого коду та прискорення випуску виправлень.
Розробники намагаються обмежувати доступ до найпотужніших функцій, застосовувати перевірку користувачів і додаткові системи моніторингу. Однак поширення сильних моделей і постійне зниження вартості їх використання означає, що бар’єри для складних кібератак поступово зменшуються.
Експерти, яких цитує WIRED, не стверджують, що повністю автономні атаки вже стали масовими. Йдеться про швидке наближення рівня можливостей, за якого організаціям доведеться суттєво прискорювати власні процеси виявлення вразливостей, встановлення оновлень і реагування на інциденти.
