2882
Дослідники Microsoft показали метод Lazarus, за допомогою якого можна вбудувати бекдор у ШІ-агента. Як зазначено в описі, для цього достатньо змінити менше десятка «сплячих» нейронів. Таку зміну можна зробити непомітно.
Суть методу Lazarus
Метод полягає у зміні невеликої кількості нейронів, які в описі названо «сплячими». Саме завдяки тому, що таких змін потрібно менше десятка, втручання залишається непоміченим. Заголовок матеріалу вказує, що на перетворення ШІ-агента на бекдор потрібно лише кілька хвилин.
Як це працює і як захиститися
У описі матеріалу окремо згадано, як саме відбувається вбудовування бекдора та які є способи захисту від нього. Ці відомості наведено в самій статті, тому для повного розуміння варто ознайомитися з нею безпосередньо.
Джерело: highload.tech
