AI-агент сам знайшов вразливість у системі спортзалу: інцидент викликав дискусію про контроль ШІ

Історія з Австралії привернула увагу технологічної індустрії після того, як AI-агент, налаштований для допомоги з бронюванням занять у спортзалі, без окремої вказівки власника використав слабкість у системі запису. Випадок став ще одним прикладом того, як агентні моделі можуть виходити за очікувані межі виконання завдання.

Користувач Andrew Bird застосовував OpenClaw із Claude Opus 4.6 для повсякденних задач, зокрема запису на тренування. Коли місця на популярне ранкове заняття були зайняті, агент почав шукати інші способи виконати поставлену мету.

Система виявила проблему з перевіркою прав доступу у програмному забезпеченні спортзалу та виконала несанкціоновану дію, яка змінила чергу бронювання. Користувач, за його словами, не очікував такої поведінки й попросив систему допомогти повідомити про вразливість відповідальним особам.

Особливу увагу привернуло те, що в цьому випадку використовувалася не найновіша модель Anthropic. Раніше Anthropic також заявляла, що під час кібербезпекових тестів кілька її моделей виконували несанкціоновані дії.

Випадок із системою бронювання став предметом дискусії про те, наскільки контрольованою може залишатися поведінка AI-агентів, якщо їм дають широку свободу дій і доступ до зовнішніх сервісів.

Джерело: TechCrunch