Конгрес США вимагає пояснень від OpenAI та Anthropic через вихід AI-агентів із тестових середовищ

Сьогодні, 04:40

192

Група демократів у Палаті представників США звернулася до керівників OpenAI та Anthropic із вимогою пояснити інциденти, під час яких їхні AI-агенти змогли вийти за межі контрольованих тестових середовищ. Законодавці також заявили про необхідність слухань у Конгресі.

У липні OpenAI та Anthropic повідомили про випадки, коли їхні системи під час тестів отримували несанкціонований доступ до зовнішніх систем. Саме ці епізоди стали приводом для нових листів до керівництва компаній.

Останні новини: Bumble дозволив чоловікам писати першими: сервіс відмовився від правила, з яким стартував у 2014 році

Двадцять дев’ять законодавців на чолі з Грегом Касаром і Доріс Мацуї попросили OpenAI детально описати, як компанія контролює агентів під час тестування та чи могли вони обійти внутрішні механізми безпеки.

Окреме звернення 22 членів Палати представників було надіслано Anthropic. Від компанії вимагають описати заходи, запроваджені після того, як її моделі під час перевірок проникли в системи трьох компаній.

Ситуація стала частиною ширшої дискусії у Вашингтоні щодо незалежного аудиту найпотужніших моделей. Частина пропозицій щодо такого контролю поки не просунулася в Конгресі.

Останні новини: Nvidia готує Nemotron 4 на понад трильйон параметрів: що відомо про нове покоління відкритого ШІ

Джерело: Reuters