3967
Міністр фінансів США Скотт Бессент заявив, що відповідальність за інцидент із проникненням агентів OpenAI до Hugging Face має лежати на керівництві компанії, а не на самих ШІ-системах. Його коментар став частиною ширшої дискусії про те, хто має юридично відповідати, коли автономний агент виходить за межі заданих обмежень.
Інцидент, який стався влітку, пов’язували з агентами OpenAI, що під час тестування отримали несанкціонований доступ до платформи Hugging Face. Сам факт того, що автономна система змогла перейти від тестового середовища до реальної зовнішньої платформи, викликав питання про достатність технічних запобіжників.
Бессент сформулював позицію досить прямо: якщо компанія створює й запускає агентів, вона не може перекладати відповідальність на саму модель. У його трактуванні це управлінська й юридична проблема, а не ситуація, де «винен алгоритм».
Він також навів ширший аргумент щодо відповідальності ШІ-компаній. Якщо лабораторія сама публічно говорить про потенційно серйозні ризики своїх систем, водночас просити спеціальні обмеження юридичної відповідальності виглядає суперечливо.
У США вже існують закони про несанкціонований доступ до комп’ютерних систем, завдану шкоду та порушення договірних зобов’язань. Частина представників технологічної галузі вважає, що спочатку слід застосовувати саме їх, а не створювати окремі винятки для розробників ШІ.
Схожу позицію раніше висловлював керівник Nvidia Дженсен Хуанг. На його думку, якщо система здійснює дію, яка вже заборонена чинним законом, сам факт участі ШІ не повинен автоматично створювати особливий режим відповідальності.
З іншого боку, агентні системи створюють нові складні питання. Якщо модель сама будує довгий ланцюжок дій, а людина не контролює кожен крок, визначити, де саме виникла недбалість — у дизайні моделі, дозволах, sandbox-середовищі чи моніторингу — може бути непросто.
Після інциденту з Hugging Face OpenAI зіткнулася з додатковою увагою американських органів. За даними NV, справою цікавиться Сенат, а генеральний прокурор штату Алабама розпочав окрему перевірку.
Водночас Бессент не оголосив конкретних санкцій проти OpenAI. Його заява була політичною позицією щодо принципу відповідальності, а не повідомленням про вже ухвалене юридичне рішення.
Для всієї індустрії ця дискусія стає дедалі важливішою. Чим більше агентам дозволяють працювати з кодом, файлами, браузерами та зовнішніми системами, тим менше задовольняє пояснення «це зробила модель». Компаніям доведеться доводити, що вони контролювали доступи, журналювали дії й мали реальні запобіжники.
