1289
Інструменти, які обіцяють визначати текст, написаний ШІ, дедалі частіше використовують у школах, університетах, редакціях і видавництвах. Проблема в тому, що навіть розробники таких систем попереджають: результат не повинен бути єдиною підставою для звинувачення людини.
Чому детектори помиляються
Такі системи не бачать приховану «мітку ChatGPT», а аналізують статистичні особливості письма.
Формальний стиль або англійська як нерідна мова можуть випадково виглядати для алгоритму «занадто машинними».
Наслідки вже реальні
The Verge описує академічні розслідування, скасовані можливості й публічні звинувачення.
Навіть невеликий відсоток хибних спрацьовувань стає великою проблемою на мільйонах перевірок.
Чому установи змінюють підхід
Частина університетів переходить до перевірки чернеток, історії редагування та усної розмови з автором.
У світі, де ШІ вбудований у звичайні редактори, провести чітку межу стає дедалі складніше.
Що це означає на практиці
Функції ШІ змінюються швидше, ніж усталюються правила їх використання, тому компанії дедалі частіше запускають нові режими поступово й залишають адміністраторам окремі політики доступу.
Найкращий критерій оцінки нової ШІ-функції — не ефектна демонстрація, а те, чи економить вона час у реальній роботі та чи можна перевірити результат.
Джерело: https://www.theverge.com/column/976690/ai-writing-detectors-suspicion
