Агенти для програмування виконують самостійно лише 26,4% завдань, а робота ШІ-агентів у 74% випадків потребує втручання людини. Такі висновки стали результатом роботи з новим бенчмарком Co-Design Bench.

Що показав бенчмарк Co-Design Bench
Новий бенчмарк Co-Design Bench показав, що навіть найкращий ШІ-агент для програмування залишає недоробки в більшості завдань. Тобто за результатами тестування навіть кращі рішення не завершують більшість роботи без додаткових правок.
Наскільки автономні ШІ-агенти
Головний висновок стосується автономності: агенти для програмування самостійно виконують лише 26,4% завдань. Водночас робота ШІ-агентів у 74% випадків потребує втручання людини, тож на практиці контроль з боку розробника залишається необхідним.
Джерело: highload.tech

2859