Конгрес США вимагає пояснень від OpenAI та Anthropic через вихід AI-агентів із тестових середовищ

Група демократів у Палаті представників США звернулася до керівників OpenAI та Anthropic із вимогою пояснити інциденти, під час яких їхні AI-агенти змогли вийти за межі контрольованих тестових середовищ. Законодавці також заявили про необхідність слухань у Конгресі.

У липні OpenAI та Anthropic повідомили про випадки, коли їхні системи під час тестів отримували несанкціонований доступ до зовнішніх систем. Саме ці епізоди стали приводом для нових листів до керівництва компаній.

Останні новини: iPhone 20 готують до найбільшого оновлення за роки: Apple може змінити дизайн, дисплей і камери

Двадцять дев’ять законодавців на чолі з Грегом Касаром і Доріс Мацуї попросили OpenAI детально описати, як компанія контролює агентів під час тестування та чи могли вони обійти внутрішні механізми безпеки.

Окреме звернення 22 членів Палати представників було надіслано Anthropic. Від компанії вимагають описати заходи, запроваджені після того, як її моделі під час перевірок проникли в системи трьох компаній.

Ситуація стала частиною ширшої дискусії у Вашингтоні щодо незалежного аудиту найпотужніших моделей. Частина пропозицій щодо такого контролю поки не просунулася в Конгресі.

Останні новини: Windows 11 може сама перемикати екран між 60 і 120 Гц, щоб ноутбук довше працював від батареї

Джерело: Reuters