3518
Anthropic та незалежні дослідники описали мережу шахрайських застосунків знайомств, у яких більшу частину спілкування з користувачами вели не реальні люди, а автоматизовані ШІ-персонажі. Claude використовувався як один із інструментів для підтримання таких діалогів.
Anthropic звернула увагу на схему після того, як новий передплачений обліковий запис почав надсилати понад 100 тисяч API-запитів на день. Подальше розслідування вивело компанію на мережу приблизно з 28 застосунків знайомств.
Сервіси подавали себе як платформи для знайомств із реальними людьми. Користувачам не повідомляли, що співрозмовник може бути штучним персонажем, а профілі описувалися як звичайні анкети людей, які шукають спілкування або стосунки.
За даними Anthropic, за два тижні у квітні система створила понад 4700 різних фальшивих ШІ-персонажів, які взаємодіяли щонайменше з 25 тисячами людей. За цей період було надіслано приблизно 2,36 млн повідомлень.
У схемі використовувалися й реальні працівники. Їх залучали для проходження перевірок «живої людини», коротких відеодзвінків або активності в соцмережах. Вони могли вибирати один із кількох заздалегідь згенерованих варіантів відповіді, тоді як основний діалог підтримував ШІ.
Монетизація будувалася на внутрішніх монетах: для продовження листування користувачі мали купувати їх за реальні гроші. Саме це відрізняє схему від класичного романтичного шахрайства, де жертву згодом просять переказати кошти напряму.
Дослідники встановили, що кілька застосунків мали спільний код, серверну архітектуру й платіжну інфраструктуру. Частина з них певний час залишалася доступною в Google Play та App Store, хоча більшість до середини вересня вже була видалена.
Anthropic заявила, що заблокувала пов’язані з мережею акаунти та передавала інформацію іншим платформам. Компанія також зазначила, що одних лише блокувань ШІ-акаунтів недостатньо: оператори можуть швидко створювати нові або переходити до іншого постачальника моделей.
https://www.theverge.com/ai-artificial-intelligence/995348/ai-dating-app-scams
