ШІ-агенти споживають значно більше ресурсів, ніж звичайні чат-боти: що стоїть за новою хвилею дата-центрів

Сьогодні,   05:48    157

Технологічні компанії вкладають мільярди доларів у нові дата-центри не лише через популярність звичайних чат-ботів. WIRED пов’язує значну частину майбутнього попиту на обчислення з переходом до ШІ-агентів — систем, які здатні самостійно виконувати довгі послідовності дій замість одноразової відповіді на запит.

Серверні стійки великого дата-центру

Звичайний діалог із чат-ботом часто складається з одного запиту та однієї відповіді. Агент працює інакше: отримавши завдання, він може сам сформувати сотні дрібніших запитів, перевіряти проміжні результати, повторно звертатися до моделі та запускати допоміжні процеси.

Останні новини:  Фальшива CAPTCHA заражає і Windows, і Mac: ClickFix змушує користувача самому запустити шкідливу команду

Наприклад, якщо доручити агенту створити сайт, він може працювати годинами, окремо будуючи сторінки, меню, структуру даних та інші компоненти. Користувач бачить одну задачу, але за нею стоїть велика кількість прихованих звернень до обчислювальної інфраструктури.

WIRED наводить як крайній приклад експеримент OpenAI, під час якого понад 10 тисяч агентів надіслали 2,7 мільйона повідомлень, працюючи над математичною проблемою. Точні витрати енергії компанія не оприлюднила, але масштаб такого процесу незрівнянний зі звичайним запитом у чаті.

Останні новини:  Людям платять за відео з приготуванням кави й ремонтом авто: навіщо роботам потрібні записи звичайного життя

Через це традиційні оцінки на кшталт «скільки енергії витрачає один запит до ШІ» дедалі менше описують реальну картину. Одне агентне завдання може тривати годинами або цілий день і використовувати паралельно кілька допоміжних агентів.

Додатковою проблемою є брак прозорих даних. Приватні ШІ-компанії публікують обмежений обсяг інформації про реальне енергоспоживання своїх моделей, а наукових досліджень саме про агентні системи поки значно менше, ніж про звичайні мовні моделі.

Останні новини:  Gemini прийшов у Google Таблиці на Android: ШІ вже може аналізувати дані та будувати графіки зі смартфона

Саме тому майбутнє, в якому сотні або тисячі агентів працюють у фоновому режимі для однієї компанії чи окремого користувача, потребує зовсім іншого масштабу інфраструктури. WIRED називає це одним із ключових пояснень нинішньої гонки за новими дата-центрами та енергетичними потужностями.

https://www.wired.com/story/ai-agents-are-thirsty-for-power/