558
У Росії розробляють систему вимог для так званого «суверенного» штучного інтелекту. Ймовірно, йдеться про велику мовну модель, поведінку якої планують оцінювати не лише за технічними показниками, а й за відповідністю державному набору «традиційних цінностей».
Критерії готують російське Мінцифри разом із ФСБ і Федеральною службою з технічного та експортного контролю.
Серед орієнтирів називаються патріотизм, «служіння Вітчизні», міцна сім’я, колективізм, єдність народів Росії, пріоритет духовного над матеріальним та «історична пам’ять».
Для перевірки моделей планують створити спеціальні бенчмарки — набори питань і завдань, за допомогою яких можна оцінювати відповіді AI.
Окрему увагу приділятимуть спробам обійти обмеження. Під час тестів використовуватимуть prompt injection — спеціально сформульовані запити, які мають змусити систему відійти від заданої поведінки.
Такі випробування повинні показати, чи здатна модель зберігати потрібний державі стиль відповідей навіть тоді, коли користувач навмисно намагається змінити її поведінку.
Фактично йдеться про поєднання технічного тестування AI з ідеологічною оцінкою відповідей. Подібний підхід відрізняється від стандартних AI-бенчмарків, які зазвичай оцінюють точність, логіку, програмування або виконання інструкцій.
Джерело: dev.ua
