4132
Папа Лев XIV знову звернув увагу на ризики, пов’язані зі швидким розвитком штучного інтелекту. У публічних виступах він наголошує, що технологія може принести значну користь суспільству, але за відсутності зрозумілих правил і відповідальності створює небезпечні сценарії. Найбільше занепокоєння викликає не сам факт появи потужних моделей, а можливість їх використання без належного людського контролю.
У повідомленнях, які цитують позицію понтифіка, слово «апокаліпсис» використовується як застереження щодо найгірших сценаріїв, а не як прогноз неминучої катастрофи. Ідеться про ризик того, що автономні системи можуть бути інтегровані у військові технології, інформаційні кампанії, критичну інфраструктуру або процеси ухвалення рішень без достатніх механізмів перевірки.
Ватикан уже не вперше піднімає тему штучного інтелекту. У попередніх документах та зверненнях представники Католицької церкви наголошували на необхідності зберігати людську гідність, відповідальність і контроль над рішеннями, які мають серйозні наслідки. Особливе місце займає питання автономної зброї, де помилка алгоритму або неправильна цільова модель можуть мати незворотний результат.
Інший напрям занепокоєння — вплив ШІ на суспільство та інформаційний простір. Генеративні моделі здатні створювати переконливі тексти, аудіо, відео та зображення, що спрощує масштабне поширення маніпулятивного контенту. Паралельно автоматизація може змінити ринок праці, посилити нерівність між компаніями та країнами і сконцентрувати технологічний вплив у руках невеликої кількості великих гравців.
Водночас позиція папи не зводиться до заклику зупинити технологічний розвиток. Центральна теза полягає у необхідності міжнародних правил, які повинні встигати за швидкістю прогресу. Серед можливих напрямів — прозорість роботи високоризикових систем, визначення відповідальності за їхні дії, заборона окремих автономних військових сценаріїв та захист людей від зловживання персональними даними.
Схожі дискусії вже точаться серед урядів, науковців і технологічних компаній. Одні експерти вважають, що найбільшу небезпеку сьогодні становлять практичні проблеми — шахрайство, кібератаки, дискримінаційні алгоритми та автоматизована дезінформація. Інші наголошують на необхідності готуватися і до значно серйозніших ризиків у міру появи більш автономних та універсальних систем.
Таким чином, застереження Лева XIV варто сприймати як частину ширшої міжнародної дискусії про межі застосування ШІ. Ключове питання полягає не в тому, чи буде технологія розвиватися, а в тому, які правила діятимуть у сферах, де помилка або зловживання можуть зачепити мільйони людей. Саме поєднання інновацій із людським контролем, прозорістю та відповідальністю стає центральною темою цієї дискусії.
