2791
Працівники OpenAI роками попереджали керівництво та раду директорів про недоліки внутрішньої безпеки, розповіли п’ятеро обізнаних співрозмовників. Компанія почала посилювати захист внутрішніх систем і спрямувала на цю роботу частину інженерів.
Роки застережень і внутрішні ризики
Ще до запуску ChatGPT наприкінці 2022 року деякі співробітники OpenAI порушували питання безпеки всередині компанії. Свої застереження вони передавали вищому керівництву та раді директорів. Після цих розмов у частини працівників склалося враження, що керівництво більше переймається тим, як не відстати від Google і Anthropic, ніж питаннями захисту.
Працівники вважали, що контроль в OpenAI був недостатнім. На їхню думку, сторонні особи, зокрема іноземні уряди, могли відносно легко отримати чутливу інформацію про технології компанії. Наприклад, співробітники з доступом до коду могли бачити технічні подробиці багатьох проєктів OpenAI.
Деяких працівників давно непокоїло, наскільки широким був доступ до інформації всередині компанії. Кожен, хто мав доступ до коду, міг бачити подробиці багатьох проєктів, зокрема чутливих розробок, які не стосувалися його роботи. За словами співрозмовників, більшу частину коду зберігали в одному сховищі, яке називають монорепозиторієм. Раніше його обсяг і складна структура могли стримувати потенційних зловмисників, але тепер агенти ШІ здатні опрацьовувати такий обсяг матеріалів.
Раніше значну частину дослідницької документації зберігали на GitHub і в Slack. За словами п’ятьох співрозмовників, деякі працівники побоювалися, що цілеспрямований пошук у цих матеріалах дасть змогу знайти важливі відомості. Один зі співрозмовників і сама OpenAI повідомили, що компанія обмежила доступ до чутливих розробок.
Ще однією проблемою, за словами трьох співрозмовників, була відсутність регулярних перевірок безпеки внутрішніх інструментів, зокрема так званих пісочниць, де дослідники тестують нові моделі. Працівники часто змінювали ці інструменти під свої завдання, а зміни не завжди перевіряли на вразливості.
Зміни в підході до безпеки та реакція компанії
За словами двох співрозмовників, OpenAI почала змінювати підхід до безпеки. Керівник напряму розробки продуктів Тібо Соттіо нещодавно очолив внутрішню ініціативу із захисту систем компанії. Один зі співрозмовників повідомив, що в серпні Соттіо перевів чверть інженерів, які відповідають за роботу сервісів OpenAI, на завдання з посилення інфраструктури безпеки.
У компанії наголосили, що значну частину найчутливіших матеріалів зберігають в окремих сховищах коду зі суворим контролем доступу. За словами OpenAI, монорепозиторій не містить усього коду чи критично важливих деталей моделей. Зокрема, у ньому немає ваг моделей, тобто числових параметрів, які визначають їхню поведінку.
Речниця OpenAI Елана Відманн заявила, що компанія є однією з найчастіших цілей атак у світі. За її словами, OpenAI вкладає значні кошти в захист від загроз з боку працівників, кіберзлочинців та іноземних держав. Відманн наголосила, що компанія вважає це питанням національного значення, а програма безпеки допомагає виявляти ризики й оперативно реагувати.
Водночас додаткові заходи безпеки можуть сповільнити розробку ШІ та ускладнити плани OpenAI і Anthropic щодо масштабних первинних розміщень акцій. Колишній дослідник OpenAI Вілл Деп’ю, який звільнився у квітні 2026 року, вважає, що за такої гострої конкуренції керівники компаній не готові поступатися швидкістю заради безпеки. За його оцінкою, швидкий розвиток для них важливіший за захист навіть від головних противників США.
13 жовтня Міністерство юстиції США повідомило, що федеральні агенти затримали громадянина Саудівської Аравії. Його звинуватили в тому, що він установив у залі для нарад керівництва прихований пристрій для аудіозапису. На той час 35-річний Абдулрахман Альфозан працював інженером в OpenAI. Згідно із судовими документами, він також скористався інструментом ШІ для працівників компанії, щоб знайти внутрішні документи про поїздки керівників до Саудівської Аравії.
Джерело: zn.ua
