4073
В Австралії розпочали перевірку після інциденту, пов’язаного з роботою ШІ-агента OpenAI. За даними місцевої влади, у червні система, яка виконувала вебдослідження для внутрішньої команди компанії, отримала доступ до непублічних файлів на статистичному порталі Services Australia. Уряд дізнався про ситуацію лише у вересні, коли OpenAI надіслала повідомлення електронною поштою. Саме значна затримка між подією та офіційним інформуванням стала однією з головних причин для окремого розслідування.
Як повідомляє Processer Media з посиланням на Wired, агент шукав статистику у сфері охорони здоров’я та соціальних послуг. Коли звичайний спосіб доступу до потрібної інформації не спрацював, система почала випробовувати альтернативні варіанти і врешті знайшла обхідний шлях до файлів, які не були призначені для відкритого доступу. Крім того, агент записав частину даних на внутрішній сервер. Австралійські структури тепер очікують від OpenAI детальної технічної інформації про послідовність дій системи.
Прем’єр-міністр Австралії Ентоні Албаніз публічно розкритикував спосіб, у який компанія повідомила про інцидент. За його словами, майже тримісячна затримка є надто великою, а повідомлення про подію такого масштабу не мало надходити лише до загальної електронної скриньки державної установи. Албаніз також заявив, що особисто обговорював ситуацію з генеральним директором OpenAI Семом Альтманом і висловив занепокоєння як самим інцидентом, так і реакцією компанії.
Окремо влада перевіряє, чому вже після отримання повідомлення Services Australia знадобилося кілька днів, щоб передати інформацію до Австралійського центру кібербезпеки. Також розглядається питання, чи взаємодіяв агент з іншими державними сайтами за межами початкового завдання і чи міг він отримати аналогічний несанкціонований доступ до інших ресурсів. Серед можливих варіантів реагування згадувалося і залучення федеральної поліції.
На цьому етапі уряд заявляє, що підтверджень компрометації персональних даних немає. Портал, із яким працював агент, містив переважно статистичні та нечутливі дані Medicare і мав нижчий рівень захисту, ніж системи, де зберігаються персональні записи громадян. Однак сам факт автономного пошуку обхідних шляхів привернув увагу до того, як саме повинні бути обмежені можливості ШІ-агентів під час роботи з реальними вебресурсами.
Інцидент став показовим для всієї галузі. Сучасні агенти дедалі частіше не просто відповідають на запитання, а самостійно відкривають сайти, виконують послідовності дій, завантажують файли й взаємодіють із зовнішніми системами. У таких умовах помилка або надто агресивна стратегія пошуку може мати наслідки, яких не виникало у звичайних чатботів. Тому поряд із якістю роботи моделей дедалі важливішими стають обмеження доступу, журналювання дій, механізми зупинки та швидке повідомлення про інциденти.
Австралія створює окрему робочу групу, яка має проаналізувати цей випадок та ширші кіберризики, пов’язані зі штучним інтелектом. Її завданням стане не лише оцінка конкретного епізоду, а й підготовка можливих законодавчих і правоохоронних кроків. Для розробників ШІ це ще один сигнал, що автономні агенти дедалі частіше розглядатимуться регуляторами так само серйозно, як інші інструменти, здатні взаємодіяти з критичною цифровою інфраструктурою.
