4496
Упередження алгоритмів штучного інтелекту дедалі більше впливають на те, як суспільство інтерпретує історичні події та постаті, повідомляє Scienmag.
Дослідники наголошують, що системи на основі штучного інтелекту навчаються на великих масивах даних. Якщо ці дані містять історичні перекоси, алгоритми відтворюють їх. Це може посилювати домінування певних наративів. Альтернативні голоси залишаються менш представленими.
Термін «алгоритмічне упередження» означає систематичну помилку в результатах моделі через структуру даних або дизайн алгоритму. У контексті історії це проявляється у вибірковому відображенні подій. Наприклад, цифрові архіви частіше містять матеріали про політичні еліти. Соціальні меншини можуть бути недопредставленими.
Вчені зазначають, що генеративні моделі формують узагальнені відповіді. «ШІ не вигадує історію з нуля, але він може відтворювати дисбаланси, закладені в джерелах», — підкреслюють автори. Це впливає на освітні ресурси й публічні дискусії. Особливо вразливою є популярна історія в онлайн-просторі.
Окрему увагу приділено ролі великих мовних моделей. Вони агрегують інформацію з численних текстів. Проте відсутність прозорості джерел ускладнює перевірку фактів. Це створює ризики для академічної доброчесності.
Дослідження закликає до розвитку етичних стандартів і критичного мислення в роботі з цифровими інструментами. Необхідна більша різноманітність навчальних даних і міждисциплінарний контроль. Лише так можна мінімізувати викривлення історичної пам’яті в епоху алгоритмів.
Упередження ШІ впливають на наше бачення історії з’явилася спочатку на Цікавості.
