2810
Дослідники перевірили, чи може один штучний інтелект самостійно знайти й виправити збій в іншій нейромережі. Зазвичай моделі покращують через додаткове навчання на великих масивах даних, а тут Astra аналізувала внутрішню структуру моделі та змінювала її параметри. Результати науковці назвали виняткovими.
Як Astra виправила помилки Qwen
Йдеться про ваги — величезну кількість чисел, які визначають, як саме нейромережа обробляє інформацію та формує свої відповіді. Саме їх і змінювала Astra.
Найпомітніший ефект з’явився під час роботи з Qwen3.5-0.8B — невеликою мовною моделлю, яка має приблизно 800 млн параметрів. Під час розв’язання математичних задач вона часто зациклювалася і повторювала однакові міркування.
Astra проаналізувала внутрішні параметри моделі, знайшла механізм, відповідальний за зациклення, і змінила лише 131 072 ваги. Це становить 0,016 відсотка від їхньої загальної кількості.
Після такого втручання результат Qwen у тесті MATH-500 зріс із 7,9 до 48,1 відсотка. У тесті GSM8K показник піднявся з 13,8 до 67,1 відсотка, а здатність виконувати інструкції користувачів помітно покращилася.
Ігрові експерименти та програмування ваг
Дослідники провели ще кілька масштабних тестів. Astra отримала числові параметри чотирьох нейромереж, які грали в Breakout, Pong, Pac-Man і Freeway, і мала визначити, для якої гри створена кожна з них. Ігри при цьому не запускали і процес їхньої роботи не переглядали. Astra успішно визначила всі чотири відеоігри виключно за їхніми числовими параметрами.
Крім того, за допомогою опису та програмного забезпечення Astra самостійно створила параметри трьох нових нейромереж для цих ігор, і це відбулося без жодного процесу навчання.
Науковий підхід отримав назву Weight-Space Programming, тобто програмування безпосередньо через ваги нейромереж. У майбутньому він дозволить уникнути тривалого перенавчання моделей. Серед головних переваг дослідники виділяють значне здешевлення вдосконалення ШІ, швидкий пошук прихованих вразливостей і можливість ШІ-моделей покращувати одна одну.
Проте науковці зауважують, що до універсального редагування будь-яких моделей ще далеко. Під час експерименту з моделлю Gemma 3 270M, яка помилялася в розрахунках без зациклень, Astra не змогла суттєво покращити її показники. Це доводить, що складні логічні помилки значно важче усунути простим редагуванням параметрів, хоча, на думку вчених, сам підхід уже відкриває нову сторінку у розробці ШІ.
Джерело: www.rbc.ua
