Google створила копію інтернету для безпечного тестування ШІ-агентів

Вчора,   14:52    10

Google розробила окремий віртуальний простір, що імітує живий інтернет для випробувань ШІ-агентів у браузері Chrome. Проєкт назвали Mirror Dimension, і він дає змогу перевіряти, як штучний інтелект справляється з різними завданнями на вебресурсах, не наражаючи на ризик справжніх користувачів. Про це йдеться в офіційному блозі компанії.

Google створила копію інтернету для безпечного тестування ШІ-агентів
Фото: сайт-джерело

Навіщо Chrome потрібна копія інтернету

Браузерні ШІ-агенти здатні самостійно заходити на сайти, гортати сторінки, шукати потрібні відомості й заповнювати анкети. Водночас відпрацьовувати такі навички в реальній мережі ризиковано: алгоритми можуть випадково змінити налаштування, оформити непотрібне замовлення або втрутитися в роботу акаунтів. Саме тому для тестування потрібне середовище, де наслідки дій агента не торкаються реальних людей.

Останні новини:  Samsung повернула зручну функцію камери в Galaxy S26 Ultra

Mirror Dimension знімає цю загрозу завдяки тисячам згенерованих майданчиків, які відтворюють соцмережі, онлайн-магазини, різноманітні сервіси та інші звичні платформи. Цікаво, що сам агент бачить стандартні доменні імена, хоча фактично взаємодіє з їхніми ізольованими копіями. Таким чином, для ШІ середовище виглядає як звичайний інтернет, а справжні користувачі під час перевірок не опиняються під загрозою.

Останні новини:  SpaceX готує власну мобільну мережу Starlink. Ілон Маск розкрив нові подробиці

Google перевіряє захист від атак через ШІ

Окремий акцент розробники зробили на стійкості до прихованих вказівок на сторінках. Такі втручання відомі як непрямі prompt injection: хакери можуть ховати шкідливі інструкції в тексті, картинках чи елементах інтерфейсу, змушуючи нейромережу діяти всупереч волі власника. Для агента, який самостійно працює на сайтах, така загроза є особливо серйозною, тому перевірка стійкості до неї стає важливою частиною тестування.

Щоб відточити оборону, техногігант задіяв автоматизований конвеєр перевірок. За оцінкою Google, система генерує понад 1000 тестових сценаріїв на добу на одного фахівця з кібербезпеки, що більш як у 30 разів перевищує темпи ручного аудиту. Така різниця показує, наскільки швидше можна перевіряти великий обсяг ситуацій, коли перевірки виконує автоматизована система.

Останні новини:  Apple розробляє ШІ-агента для Mac з можливостями автономної роботи

У корпорації переконані, що подібні пісочниці стануть фундаментом для створення надійних ШІ-агентів, яким можна довірити складні доручення в мережі. Якщо цей підхід виправдає себе, агенти зможуть виконувати складніші завдання в інтернеті, а їхня безпека перевірятиметься ще до того, як вони почнуть працювати з реальними сайтами та акаунтами.




Джерело: itechua.com