1023
Перша у світі енциклопедія, повністю написана штучним інтелектом, не виправляє упередження Вікіпедії, як обіцяв Ілон Маск, а створює нові — менш прозорі та важчі для виявлення. Масштабне дослідження виявило систематичний зсув до правих джерел у політично чутливих темах.
Дослідники з Трініті-коледжу Дубліна та Технологічного університету Дубліна проаналізували майже 18 000 статей на платформі Grokipedia — першій у світі енциклопедії, повністю згенерованій штучним інтелектом, — і порівняли їх з відповідними статтями Вікіпедії. Результати опубліковані в журналі PNAS (Proceedings of the National Academy of Sciences), повідомляє EurekAlert.
Що відомо коротко
- Проаналізовано майже 18 000 пар статей Grokipedia та Вікіпедії
- 66% статей Grokipedia суттєво відрізняються від Вікіпедії — вони довші, складніші й мають менше посилань
- У темах релігії, історії, літератури та мистецтва Grokipedia систематично зміщується до правих джерел
- ШІ-генерація не усуває упередження, а змінює спосіб їх проникнення в контент
- Дослідження опубліковане в престижному журналі PNAS
Що це за явище
Grokipedia була запущена Ілоном Маском у жовтні 2025 року з обіцянкою «систематично виправити ліві упередження», які нібито існують у Вікіпедії. На відміну від Вікіпедії, контент якої створюється та редагується добровольцями-людьми, Grokipedia повністю генерується великою мовною моделлю Grok від компанії xAI Маска.
Ідея полягала в тому, що ШІ, позбавлений людських упереджень, зможе створити «об’єктивнішу» версію знань. Але чи це так насправді? Саме це питання поставили ірландські дослідники.
Деталі відкриття
Команда під керівництвом Сайде Мохаммаді та професора Тахи Яссері з Центру соціології людей і машин (SOHAM) використала методи обчислювального текстового аналізу та машинного навчання для порівняння статей на однакові теми у двох енциклопедіях.
Результати виявили глибокий розкол. У загальному масиві статті Grokipedia демонструють подібне політичне спрямування до Вікіпедії, спираючись переважно на ліво-центристські новинні джерела. Однак у 66% проаналізованих статей Grokipedia суттєво переписана — тексти стали довшими, складнішими, але з меншою кількістю посилань на джерела.
Ключове відкриття стосується конкретних тематичних категорій. У статтях про релігію, історію, літературу та мистецтво — тобто саме в тих темах, де культурні та політичні погляди найбільше впливають на інтерпретацію, — Grokipedia демонструє послідовний зсув до правих новинних джерел порівняно з Вікіпедією.
«На відміну від Вікіпедії, де упередження видимі та оспорюються через людське редагування, ШІ-системи працюють переважно непрозоро. Це означає, що зміни у перспективі або джерелах можуть відбуватися без чіткої відповідальності чи редакційного нагляду», — зазначає Сайде Мохаммаді.
Що показали нові спостереження
Дослідження спростовує головну обіцянку, з якою запускалася Grokipedia. Замість «виправлення» упереджень Вікіпедії ШІ-енциклопедія вибірково перетворює існуючі знання, створюючи систему, де частина контенту скопійована, а інша — реінтерпретована менш прозорими способами.
«Наші висновки свідчать, що ШІ-генеровані енциклопедії на кшталт Grokipedia вибірково перебудовують існуючі знання. Це створює клаптикову систему, в якій деякий контент копіюється, а інший переінтерпретовується способами, які є менш прозорими і важчими для критичного аналізу», — пояснює професор Тахa Яссері, директор SOHAM.
Це підтверджує ширші побоювання вчених щодо того, як штучний інтелект впливає на критичне мислення суспільства. Якщо люди не можуть побачити, як саме ШІ відбирає та переформатовує інформацію, вони втрачають можливість оцінити її об’єктивність.
Чому це важливо для науки
Дослідження піднімає фундаментальне питання про майбутнє знань у епоху ШІ. Онлайн-енциклопедії є основою публічних знань — і водночас використовуються для навчання наступних поколінь мовних моделей. Якщо ШІ-генеровані енциклопедії містять систематичні зміщення, ці зміщення «вплетуться» у майбутні моделі ШІ, створюючи замкнуте коло упереджень.
«Ми вже бачили, як відсутність редакційної відповідальності на платформах соціальних мереж уможливила генерацію та поширення дезінформації, часто з катастрофічними наслідками для виборів, громадського здоров’я та соціальної стабільності. Тепер ми є свідками масштабної, непрозорої регенерації інформації великими мовними моделями», — попереджає Яссері.
Фахівці з етики штучного інтелекту вже давно наголошують на необхідності прозорості та підзвітності ШІ-систем. Це дослідження додає конкретних доказів до цієї дискусії.
Важливо також зазначити, що дослідження проаналізувало найбільш редаговані сторінки англомовної Вікіпедії, що, ймовірно, перепредставляє резонансні та суперечливі теми. Тим не менш, за словами авторів, воно надає корисні докази про відмінності між ШІ-генерованими та людсько-редагованими системами знань.
Цікаві факти
- Вікіпедія містить понад 63 мільйони статей 326 мовами і є п’ятим за відвідуваністю сайтом у світі, за нею стоїть робота понад 300 000 активних добровольців-редакторів щомісяця, за даними Вікімедіа.
- Grokipedia була запущена у жовтні 2025 року і за перші місяці згенерувала мільйони статей мовною моделлю Grok від xAI — при цьому жоден з цих текстів не пройшов людську верифікацію перед публікацією, згідно з дослідженням у PNAS.
- Дослідження 2024 року з Університету Стенфорда показало, що великі мовні моделі можуть засвоювати та підсилювати людські упередження, присутні в навчальних даних, навіть якщо розробники намагаються цього уникнути.
- Щомісяця Вікіпедію відвідують понад 1,5 мільярда унікальних користувачів, і вона є одним із найпопулярніших джерел для тренування нових моделей ШІ, що створює потенційний «цикл зворотного зв’язку» між ШІ-контентом і навчальними даними, повідомляє Фонд Вікімедіа.
FAQ
Чим Grokipedia відрізняється від Вікіпедії? Вікіпедію пишуть і редагують живі люди-добровольці, і кожна правка видима та може бути оспорена. Grokipedia повністю генерується ШІ-моделлю Grok без людського редагування, що робить процес створення контенту непрозорим.
Чи означає це, що Grokipedia поширює дезінформацію? Дослідження не стверджує, що Grokipedia містить неправдиву інформацію. Воно виявило систематичний зсув у виборі джерел — у політично чутливих темах Grokipedia більше спирається на праві медіа. Це не дезінформація, але це упередження, яке важче виявити.
Чому це важливо для звичайних користувачів? Коли енциклопедію пише ШІ, звичайний читач не може побачити, як було прийнято рішення про вибір джерел, формулювання чи акцентів. На відміну від Вікіпедії, де є історія редагувань і дискусії, ШІ-генеровані тексти приховують механізми прийняття рішень.
WOW-факт. Grokipedia згенерувала більше статей за кілька місяців, ніж Вікіпедія створила за перші десять років свого існування. Але за кожною статтею Вікіпедії стоять у середньому десятки людських правок, обговорень та перевірок джерел — процес, який ШІ замінив одним натисканням кнопки, позбавивши суспільство єдиного інструмента контролю: можливості побачити, хто і чому змінив текст.
Дослідження довело політичну упередженість ШІ-енциклопедії Маска з’явилася спочатку на Цікавості.
