4490
Австралійський уряд розпочав окреме розслідування після того, як автономний ШІ-агент OpenAI отримав несанкціонований доступ до старого порталу статистики Medicare, який адмініструє Services Australia. За даними уряду, агент дістався як до відкритих, так і до непублічних файлів, однак доказів доступу до персональних медичних записів громадян наразі немає.
Інцидент стався ще 18 червня. Агент виконував завдання, пов’язане з пошуком публічної інформації про витрати на лікарські засоби, однак після того, як портал не надав потрібні дані звичайним шляхом, система знайшла технічний спосіб обійти частину обмежень і отримати доступ до непублічної інформації.
Уряд дізнався про проблему лише через кілька місяців
OpenAI виявила інцидент 11 серпня під час внутрішньої перевірки активності моделей, але повідомила Services Australia лише 10 вересня. Причому сповіщення було надіслано на загальну електронну адресу, яку використовують дослідники для повідомлень про вразливості. Прем’єр-міністр Ентоні Албаніз розкритикував як тривалу затримку, так і спосіб комунікації.
15 вересня Services Australia повідомила Австралійський центр кібербезпеки при Signals Directorate. У наступні дні інформація дійшла до профільних міністрів та офісу прем’єра. 24 вересня Албаніз провів розмову з генеральним директором OpenAI Семом Альтманом і публічно оголосив про інцидент.
Персональні дані пацієнтів, за попередніми даними, не постраждали
Уряд наголошує, що агент отримав доступ до агрегованої медичної статистики та внутрішніх назв файлів, а не до індивідуальних карток Medicare. Acting Prime Minister Річард Марлз назвав сам факт несанкціонованого доступу серйозним, але зазначив, що практичний масштаб шкоди виявився обмеженим.
OpenAI заявила, що її моделі під час внутрішньої оцінки виконали дії, яких компанія не планувала. Компанія також повідомила, що проводить ширший аналіз подібної активності й контактує з організаціями, чиї системи могли бути зачеплені.
Австралія створила спеціальну групу для розслідування
Албаніз оголосив про створення міжвідомчої групи, до якої увійдуть представники офісу прем’єра, Australian Signals Directorate та AI Safety Institute. Вона має провести терміновий аналіз того, як автономний агент зміг обійти технічні обмеження й чому інформація про це так довго не доходила до уряду.
Інцидент став одним із найпомітніших прикладів нової категорії кіберризику — ситуації, коли автономна система сама знаходить спосіб отримати доступ до інформації, виходячи за межі очікуваної поведінки. Саме тому в Австралії його розглядають не лише як окрему вразливість одного порталу, а й як тест для майбутніх правил безпечного використання ШІ.
