2869
Google розробляє нову функцію безпеки для чат-бота Gemini, яка автоматично повідомлятиме батьків, якщо дитина говоритиме зі штучним інтелектом про самоушкодження. Нова можливість інтегрується в систему батьківського контролю і має допомогти вчасно помічати потенційні загрози для неповнолітніх.
Як планується працювати функції
Про згадки нової функції стало відомо після того, як фахівці дослідили версію 17.73.15 застосунку Google. За прихованим кодом, діти побачать спеціальне попередження: батьки отримуватимуть сповіщення, якщо Gemini виявить розмови про заподіяння шкоди собі. Таким чином дитина заздалегідь дізнаватиметься про те, що її розмови з чат-ботом можуть стати відомими дорослим.
Наразі батьки можуть обмежувати доступ до застосунків і налаштовувати фільтри контенту через Family Link. Однак нова функція піде далі. Вона не лише блокуватиме небезпечні відповіді чат-бота, а й відстежуватиме тривожні повідомлення, які надсилають самі діти. Саме це відрізняє задум від уже наявних інструментів контролю.
Можливі ризики та поточний статус
Водночас автоматичні сповіщення можуть мати і негативні наслідки. Експерти побоюються, що підлітки, знаючи про контроль з боку батьків, почнуть приховувати свої переживання та рідше говоритимуть із ШІ про психологічні проблеми. Тобто захисний механізм може спрацювати протилежно до задуманого, адже дитина перестане шукати підтримки там, де могла б її отримати.
Водночас Google поки офіційно не анонсувала нову можливість і не повідомила дату її запуску. У коді також знайшли згадки про розробку обмежень щоденного часу використання Gemini. Це свідчить про те, що компанія поступово розширює інструменти батьківського контролю для захисту дітей під час взаємодії зі штучним інтелектом.
Джерело: itechua.com
