Дипфейк – это поддельное видео или аудиозапись, созданные с целью имитировать реального человека. Однако исследователи предупреждают, что люди не могут распознать более четверти образцов речи, созданных искусственным интеллектом. Именно поэтому растет опасение, что эту технологию могут использовать преступники и мошенники для выманивания денег у людей.
Люди плохо распознают дипфейки
Для создания ранних подделок речи, возможно, требовались тысячи образцов голоса человека, чтобы создать оригинальное аудио. В настоящее время новейшие алгоритмы могут воспроизводить голос человека, используя всего лишь трехсекундный фрагмент его разговора.
Команда лондонских исследователей использовала алгоритм для создания 50 образцов дипфейков и воспроизвела их для 529 участников. Последние смогли идентифицировать фальшивую речь лишь в примерно 73% случаев. Результаты лишь немного улучшились, когда люди прошли обучение, как распознавать аспекты дипфейков.
Автор исследования Кимберли Мэй говорит, что это лишь подтверждает предыдущие выводы о неспособности человека надежно выявлять фальшивую речь, независимо от того, проходил ли он обучение по распознаванию искусственного контента. Она также отмечает, что в эксперименте использовались относительно старые алгоритмы.
Поэтому возникает вопрос, не станут ли люди еще менее способными выявлять дипфейки, созданные более сложными технологиями сейчас и в будущем. Например, компания Apple недавно анонсировала программное обеспечение для iPhone и iPad, которое позволяет пользователю создать копию своего голоса за 15 минут записи.
Между пользой и рисками
Как отмечает издание Daily Mail, задокументированные случаи использования дипфейков преступниками включают один инцидент 2019 года. Тогда генеральный директор британской энергетической компании был убежден перевести крупную сумму денег фальшивому поставщику с помощью дипфейкового записи голоса своего босса.
Тем не менее, наряду с ростом страхов перед технологией, она также может быть полезной. Например, для тех, чья речь может быть ограниченной, или тех, кто может потерять голос из-за болезни.
Старший автор исследования, профессор Льюис Гриффин, говорит, что из-за усложнения технологий ИИ и открытого доступа ко многим из этих инструментов человечество находится на пороге множества преимуществ и рисков. Поэтому, конечно, было бы разумно, чтобы правительства и организации разрабатывали стратегии борьбы с злоупотреблениями этими инструментами.
Как распознать дипфейк?
Технология дипфейков, являющаяся формой ИИ, была разработана в 2014 году. Система изучает целевого человека на фотографиях и видео, позволяя захватывать различные ракурсы и имитировать его поведение и речь. Однако есть определенные признаки, которые отличают настоящее от поддельного.
Неприродное движение глаз
Трудно воспроизвести моргание так, чтобы это выглядело естественно. Также сложно воспроизвести движения глаз реального человека. Поэтому неприродные движения или их отсутствие являются серьезным предупреждением о дипфейке.
Неприродная мимика
Когда на лице что-то выглядит не так в мимике, это может свидетельствовать о его изменении, происходящем путем наложения одного изображения на другое.
Неправильное расположение черт лица
Если чье-то лицо смотрит в одну сторону, а нос – в другую, следует скептически относиться к подлинности видео.
Отсутствие эмоций
Если на чьем-то лице, кажется, нет эмоций, которые должны соответствовать тому, что они якобы говорят, то это «морфинг лица» или сшивание изображений.
Неуклюжее тело или поза и неприродные движения
Поскольку технология дипфейков обычно фокусируется на чертах лица, то проще всего заметить, что форма тела человека выглядит неприродно, или положение головы и тела не согласовано. Также если движения резкие и разрозненные от одного кадра к другому, то следует подозревать дипфейк.
Неприродные цвета, волосы и зубы
Ненормальный тон кожи, обесцвечивание, странное освещение и неправильные тени – все это признаки дипфейка. Фальшивые изображения не смогут создать индивидуальные волосы (кудрявые или развивающиеся). Также алгоритмы не могут сгенерировать отдельные зубы, поэтому отсутствие контуров отдельных зубов может быть признаком дипфейка.
Размытие или смещение
Если края изображений размыты или визуальные элементы не выровнены (например, где чье-то лицо и шея соприкасаются с телом), то можно понять, что это – дипфейк.
Непостоянный шум или звук
Плохая синхронизация губ, роботизированное звучание голосов, странное произношение слов, цифровой фоновый шум или даже отсутствие звука – все это может быть признаками дипфейка.
Неприродность изображения при замедлении
Если на экране, большем чем на смартфоне, замедлить воспроизведение видео или увеличить его масштаб и рассмотреть ближе, то можно увидеть дипфейк. Например, увеличение губ поможет увидеть, действительно ли они говорят.
Обратный поиск изображений
С помощью этого можно обнаружить похожие видео в интернете, что поможет определить, было ли изображение, аудио или видео каким-либо образом изменено. Эта технология не является общедоступной, однако инвестиции в этот инструмент могут быть полезными.
Фото: unsplash.com, pixabay.com
