Главная > Аналитика , Технологии

Как искусственный интеллект убьет демократию

18.09.2018   09:36    186

Распространять фейковую информацию становится проще. Проплаченным заметкам в газетах приходит на смену искусственный интеллект

Несколько дней назад директор Национальной разведки США Дэн Коутс получил письмо от трех конгрессменов. Набирающая популярность технология deepfake — алгоритм искусственного интеллекта для редактирования видео — может подорвать мировые демократические устои и аспекты жизни общества, написали в разведку Адам Шифф, Стефани Мерфи и Карлос Курбел. Если раньше технологию использовали ради забавы — к примеру, вставляли лица знаменитостей в порно-ролики, то сейчас инструмент может стать мощнейшим рупором в распространении неправдивой информации. Любой неугодный политик, активист или сосед по подъезду может стать не только главным героем ролика с пикантным сюжетом, но и превратиться в виртуальную марионетку, мимику которой синхронизируют с чужой речью и движениями.


«Deepfake становится все более передовой и доступной широким массам технологией. Реалистичные цифровые подделки людей, изображения которых говорят или делают то, что никогда не происходило, могут использовать для шантажа и распространения дезинформации. Подобные действия могут подорвать устои нашего общества и привести к сложным внутренним и международным последствиям», — отмечают авторы письма.

Директор компании ASI Data Science Джон Гибсон на 15-й ежегодной встрече Ялтинской Европейской Стратегии (YES) рассказал, чего ожидать от использования технологии deepfake, кто ей может воспользоваться и как противостоять распространению дезинформации с помощью того же искусственного интеллекта.

На пороге новой эры

Технология искусственного интеллекта (AI — Artificial intelligence) – пока что новая и еще не до конца изученная сфера. Но если говорить о дезинформаци, особенно политической, она почти такая же древняя, как и сама политика. Политическая дезинформация и политика все время шли рука об руку. Тому есть яркие примеры в истории: распространение дезинформации влияло не только на судьбы конкретных людей, но и на будущее целых стран. Есть один важный момент  — контент, который вы распространяете, должен вызывать у публики доверие.

Это интересно:  Американцы показали первого в мире робота-курьера

Появление интернета способствовало зарождению новой эры политической дезинформации. Если раньше в арсенале недоброжелателей одним из самых действенных инструментов были публикации или заметки в печатной прессе, то сейчас нужный им контент, в том числе и видео, они могут мгновенно распространять среди миллионной армии подписчиков соцсетей. И это только начало. Ситуация будет ухудшаться.

Видео-deepfake

Развитие технологии deepfake не стоит на месте. В прошлом году появился алгоритм, который позволяет наложить образ любого человека на живого актера в реальном времени. Причем очень реалистично. Чтобы сделать подобный видеофейк, многого не потребуется. Важно знать специальный код и подобрать актера с похожим тембром голоса.

С последним моментом есть некоторая загвоздка. Ведь найти человека, который сможет реалистично изобразить нужного персонажа, да еще и с одинаковым звучанием голоса, — задача не из легких. Но это только полбеды.

Фото — скрин из видео YES2018

Аудио-ложь

В мире активно генерируется аудио-контент. Например, программа Wavenet (глубокая нейронная сеть для генерации необработанного звука. – Ред.), разработанная Google в 2016 году, позволяет синтезировать речь из напечатанного текста.

Например, ради эксперимента, разработчики создали прототип голоса президента США Дональда Трампа и записали текст, который он читал. Параллельно дали прочитать тот же текст известному пародисту Льюису Маклауду. Опрошенные разработчиками люди в результате практически не отличали машинную речь от живой речи человека.

Алгоритмы со временем будут только улучшаться, поэтому нужда в актерах и пародистах отпадет. Распространять пропаганду станет проще. И тогда использовать подобные технологии смогут не только государственные структуры, но и террористические группировки.

Это интересно:  Украина стала главным источником IT-талантов для Израиля

Самое страшное — через два года каждый, кто имеет элементарные навыки программирования, сможет вложить, например, в уста политика любой тест. Это будет новый вектор распространения фейковой информации и это — потенциальная угроза мировому порядку.

Как с этим бороться?

Нужно признать, джинна уже выпустили из бутылки. Код уже существует и очень быстро распространяется. При этом государство пока не в силах регулировать угрожающую тенденцию. Что можно сделать? Нужно принимать решения и разрабатывать технологии, которые смогут уменьшить негативный эффект от подобных фейков.

Во-первых, технологию того же искусственного интеллекта можно использовать для определения фейкового контента. Сейчас существуют определенные алгоритмы, на основе которых можно разработать программы, направленные на отслеживание подобного контента в интернете. И это ключевой момент для выживания и здорового будущего демократии.

Самое важное — подобные инструменты должны быть общедоступными. Тем же журналистам и активистам нужны специальные инструменты, чтобы отслеживать пропаганду.

«Искусственный интеллект может помочь в просветительской деятельности, чтобы у граждан демократических стран была возможность критически относиться к пропаганде. Например, чтобы люди понимали, как просто подделывать видео, им нужно показывать это на практике», — отметил господин [Андерс Фог] Расмуссен (генсек НАТО в 2009-2014 годах. – Ред.).

Именно технология искусственного интеллекта может стать эффективным инструментом в борьбе с дезинформацией. Но ее нужно использовать с умом. Программы обнаружения фейков сработают только в том случае, если они будут доступны для всех граждан, а не только для госорганов или определенных частных корпораций.

Борьбу с неправдивой информацией нужно начинать с самых низов – с населения.

liga.net


Загрузка...





загрузка...


Загрузка...



загрузка...


Загрузка...



Загрузка...

© 2018, НОВОСТИ Ю
(Служба поддержки) E-mail: admin@newsyou.info

При копировании материалов со страниц сайта для интернет-изданий – обязательна прямая, открытая для поисковых систем гиперссылка. Ссылка должна быть размещена в независимости от полного либо частичного использования материалов. Администрация Сайта Newsyou.info (Главный редактор, редакторы, авторы материалов) прикладывает все усилия, чтобы обеспечить пользователей точной и достоверной информацией, но в то же время не исключает возможности возникновения ошибок. Некоторые ссылки на этом Сайте ведут к ресурсам, расположенным на сторонних сайтах. Данные ссылки размещены для удобства пользователей и не означают, что Администрация Сайта одобряет содержание других сайтов. Кроме этого, Администрация Сайта не несет никакой ответственности за доступность этих ресурсов и за их контент. Это заявление относится ко всем ссылкам, представленным на Сайте, и материалам всех веб-сайтов, доступных через баннеры и ссылки. За рекламу, размещаемую на Сайте, несет ответственность лишь рекламодатель. Администрация сайта не несет ответственности за содержание и достоверность рекламных материалов размещенных на нашем сайте, а так же возможный вред от их использования.