Meta Muse має проблеми з конфіденційністю даних користувачів

Сьогодні,   03:26    0

ІІ-агент Muse, який розробляє компанія Meta, продемонстрував критичні вразливості в обробці особистих даних: він змішував інформацію різних користувачів і надавав несанкціонований доступ до конфіденційних відомостей. Про це стало відомо під час внутрішнього тестування продукту.

ИИ-агент Muse: Что стоит за новым стражем искусственного интеллекта?
ІІ-агент Muse. Джерело: Meta

Проблеми з конфіденційністю даних у Meta Muse

Під час внутрішнього тестування співробітники Meta отримували від ІІ-агента Muse особисту інформацію, яка не стосувалася їхніх запитів. Серед некоректно виданих даних були поради щодо догляду за дітьми, рекомендації щодо кар’єри, відомості про замовлення товарів і навіть залишки на банківських рахунках, які належали іншим особам.

Останні новини:  У Кремнієвій долині затримали росіянина: шпигував за працівниками IT-компанії, яка допомагає Україні

В одному із зафіксованих випадків ІІ-агент Muse у відповідь на запит про погоду та припливи несподівано надав користувачу дані про баланси рахунків у банках Capital One і Charles Schwab. В іншому інциденті співробітниця отримала від Muse на свій особистий телефон нагадування відповісти на повідомлення сестри в Signal, месенджері зі наскрізним шифруванням. Вона наголосила, що не надавала застосунку Meta Muse доступу до інших сервісів і не пам’ятає, щоб її про це запитували.

Останні новини:  Кібератаки, ШІ чи випадковість: що відбувається зі світовим інтернетом останні кілька днів

Таким чином, у межах тестування з’ясувалося, що Muse міг відповідати на запит даними, які не мали прямого зв’язку з цим запитом. Особливо чутливим є те, що серед таких відповідей траплялися фінансові відомості та персональні нагадування, що стосувалися інших людей, а не тих, хто ставив запит.

Реакція Meta на інциденти

Представник Meta прокоментував ситуацію, заявивши, що тестування за участю співробітників є стандартною частиною процесу розробки продукту. За його словами, це дозволяє компанії збирати цінні відгуки та впроваджувати необхідні заходи безпеки й захисту приватності. Він також уточнив, що співробітники використовують спеціалізовані версії Meta Muse, які відрізняються від тих, що доступні звичайним користувачам, і тестують функціонал, який ще не призначений для широкої аудиторії.

Останні новини:  Британський суд дозволив Apple розкрити таємний наказ уряду

Отже, компанія пояснює описані ситуації етапом перевірки продукту, а не роботою версії, яка вже доступна всім. Водночас, за словами представника, тестовані функції ще не розраховані на широку аудиторію, тож питання про те, як саме вони працюватимуть після запуску, залишається відкритим.




Джерело: itnet.com.ua