2661
Кілька фахівців із кібербезпеки несподівано втратили доступ до спеціальної програми OpenAI, яка дозволяє перевіреним дослідникам працювати з найпотужнішими моделями компанії з менш жорсткими обмеженнями. Спочатку користувачі припустили, що їх виключили з програми, однак OpenAI пояснила ситуацію технічною помилкою.
Програма Trusted Access for Cyber створена для легітимних досліджень у сфері безпеки. Звичайні версії AI-моделей мають обмеження, які блокують частину запитів, пов’язаних зі зламом, шкідливим кодом або експлуатацією вразливостей. Для перевірених спеціалістів ці рамки частково послаблюються, щоб вони могли тестувати системи в реальних захисних сценаріях.
Доступ надається не всім. Учасники проходять перевірку й погоджуються використовувати інструменти лише для дозволених дослідницьких задач. Такий формат має знайти баланс між користю AI для пошуку вразливостей і ризиком того, що ті самі можливості можуть застосовуватися для атак.
Після раптового відключення кілька дослідників публічно повідомили про проблему. OpenAI згодом підтвердила, що сталася помилка, і заявила про відновлення доступу. Компанія не повідомила про зміну правил самої програми.
Інцидент показує, наскільки важливими стають спеціальні режими доступу до передових моделей. Чим сильнішими стають AI-системи в програмуванні та аналізі коду, тим складніше провести межу між корисною допомогою фахівцю із захисту і потенційно небезпечними інструкціями.
Подібні програми існують і в інших AI-компаній. Їхня поява свідчить про те, що універсальні обмеження для всіх користувачів не завжди підходять професійним дослідникам. Водночас будь-яка помилка в системі доступу може або позбавити фахівців потрібних інструментів, або, у гіршому випадку, відкрити їх людям без належної перевірки.
