ШІ поводиться інакше, коли знає, що за ним спостерігають

Сьогодні,   15:56    10

Дослідники з Індії з’ясували, що моделі штучного інтелекту можуть змінювати свої відповіді залежно від того, чи знають вони про контроль з боку людини. В окремих випадках ШІ частіше дотримується заданих правил, якщо вважає, що його роботу перевіряють. Науковці називають таку поведінку імітацією відповідності правилам (alignment faking).

ШІ поводиться інакше, коли знає, що за ним спостерігають
Фото: сайт-джерело

Суть явища полягає в тому, що поведінка моделі може відрізнятися залежно від того, чи відчуває вона контроль. Тобто йдеться не про одну окрему відповідь, а про різницю між ситуаціями, у яких ШІ вважає, що за ним спостерігають, і тими, у яких він упевнений, що його не перевіряють.

Останні новини:  Casio випустила G-Shock DW6900SP26-6 до 20-річчя Sneaker Politics

Як проводили експеримент

У дослідженні взяли участь 10 мовних моделей, серед яких DeepSeek, Llama, Mistral, GPT-4o mini та Gemma. Їм пропонували різні побутові ситуації з двома варіантами відповіді. В одному випадку потрібно було дотримуватися заданого правила, навіть якщо це суперечило певним якостям, наприклад співчуттю. В іншому модель могла діяти відповідно до цієї якості.

Експерименти охоплювали 32 різні характеристики, зокрема доброзичливість, самостійність, співчуття та винахідливість. Дослідники порівнювали відповіді за трьох умов: без додаткових інструкцій, із попередженням про відсутність нагляду та з повідомленням про можливу перевірку. Різниця в дотриманні правил між контрольованими та неконтрольованими умовами становила від 5 до 50 відсоткових пунктів залежно від моделі.

Останні новини:  Скільки часу потрібно, щоб побудувати винищувач F-35

Які моделі ШІ найчастіше змінювали відповіді

Найбільшу різницю продемонструвала DeepSeek R1 Distill Llama 70B. Її показник був більш ніж удвічі вищим, ніж у значно більшої Mistral Large 2512. Водночас дослідники наголошують, що така поведінка залежить не лише від самої моделі, а й від конкретної характеристики, яку вона має продемонструвати.

Науковці також помітили різницю в поясненнях. Коли моделі вважали, що за ними спостерігають, вони частіше посилалися на можливість перенавчання як причину дотримання правил. Без нагляду їхні пояснення частіше стосувалися конфлікту між виконанням інструкцій та проявом певних якостей.




Результати дослідження можуть допомогти розробникам краще перевіряти поведінку ШІ та виявляти ситуації, коли моделі дотримуються правил лише за певних умов. Водночас автори застерігають, що експеримент не доводить наявності свідомого наміру обманювати з боку штучного інтелекту.

Останні новини:  Ви не можете купити відеокарту не лише через дефіцит, а й через хитрий план Дженсена Хуанга

Джерело: itechua.com