1356
Двоє американських сенаторів зажадали від TikTok пояснити експеримент, під час якого частину користувачів навмисно залишили без алгоритмічного захисту від надмірної кількості шкідливого контенту. За оприлюдненими даними, до контрольної групи потрапили близько 15 млн людей у США, серед них — неповнолітні.
Лист до керівництва TikTok направили сенатори Марша Блекберн і Річард Блументаль. Вони звернулися як до глобального керівника платформи Шоу Чу, так і до очільника американського бізнесу TikTok Адама Прессера.
Йдеться про внутрішній тест, у межах якого TikTok відключив один із safety-механізмів приблизно для 10% американських користувачів. Ця функція мала зменшувати ймовірність ситуації, коли людина отримує в стрічці надто багато однотипного шкідливого контенту.
Компанія хотіла перевірити, чи не знижує захисний механізм engagement. Для цього частина аудиторії стала контрольною групою, у якій функція не працювала.
Серед користувачів, які опинилися в цій групі, був 16-річний Чейз Наска. До його стрічки потрапляли тисячі відео, пов’язаних із сумом, самотністю та самогубством. Підліток згодом помер унаслідок самогубства.
Сенатори назвали рішення проводити такий тест неприйнятним і поставили керівництву TikTok 13 окремих запитань.
Зокрема, вони хочуть отримати імена працівників, які знали про експеримент, пояснення причин включення неповнолітніх до контрольної групи та внутрішню логіку рішення тимчасово прибрати safety-функцію.
Окремо законодавці просять надати список усіх американських експериментів TikTok, у яких компанія відключала або відкладала запуск захисних механізмів.
Кінцевий термін для відповіді встановлено на 1 вересня.
На момент публікації TikTok не надав публічної відповіді на запит щодо листа сенаторів.
Ситуація посилює вже тривалу дискусію про те, де проходить межа між продуктовими A/B-тестами та експериментами, які можуть впливати на безпеку користувачів. У цьому випадку критика стосується саме того, що захисну систему вимкнули навмисно, щоб виміряти її вплив на залученість.
Джерело: TechCrunch
