Как работают дипфейки и как их распознать
Видео, где знаменитость говорит то, чего никогда не говорила, может оказаться подделкой, которую сделал не человек, а нейросеть. Разбираемся, как машины учатся подделывать лица и голоса и по каким приметам подделку всё ещё можно поймать.
Представь: ты открываешь видео, где известный человек спокойно говорит то, чего никогда бы не сказал. Голос его, лицо его, мимика его. Но он этого не делал. Это сделала нейросеть. Такие подделки называют дипфейками, и сегодня мы разберём, как они устроены и почему их всё ещё можно вычислить.
Что вообще такое дипфейк
Слово дипфейк склеено из двух английских: deep learning (глубокое обучение, то есть метод обучения нейросетей) и fake (подделка). Получается «подделка, сделанная нейросетью». Чаще всего речь идёт о видео, где одно лицо заменили другим, или о записи, где голос человека произносит слова, которые он никогда не говорил.
Главное отличие дипфейка от обычного монтажа в том, что его делает не человек кадр за кадром, а алгоритм. Раньше, чтобы убедительно подменить лицо в фильме, студия тратила месяцы и кучу денег. Сегодня нейросеть учится копировать лицо по нескольким минутам видео и делает это почти сама. Именно поэтому дипфейки стали массовым явлением: инструменты подешевели и оказались в руках у кого угодно.
Как нейросеть учится подделывать лицо
В основе многих дипфейков лежит идея под названием состязательные сети (по-английски GAN). Звучит сложно, но смысл простой и даже немного спортивный. Представь себе двух соперников.
Первый — фальшивомонетчик. Его задача рисовать поддельные «банкноты», то есть генерировать фейковые картинки лица. Второй — детектив. Его задача смотреть на картинки и решать, настоящая перед ним или подделка. Сначала оба ужасны: фальшивомонетчик рисует мазню, детектив угадывает наугад. Но они тренируются друг против друга тысячи и тысячи раз.
Фальшивомонетчик становится всё хитрее, потому что детектив всё время его ловит. А детектив становится всё зорче, потому что подделки всё лучше. В этой бесконечной дуэли обе стороны растут — и в итоге фейки получаются настолько правдоподобными, что обмануть могут уже и человека.
Когда обучение закончено, детектив больше не нужен — забираем только фальшивомонетчика. Теперь он умеет рисовать лица, которых не существует, или ловко натягивать чужое лицо на нужное видео. Отдельно нейросеть учится мимике: как двигаются губы при разговоре, как моргают глаза, как лицо реагирует на эмоции. Чем больше исходного материала — фото и видео человека — тем точнее копия.
А что с голосом
Лицо — это половина дела. Чтобы дипфейк звучал убедительно, нужен и голос. Здесь работает клонирование голоса: нейросеть слушает записи речи человека и выучивает его тембр, интонацию, манеру растягивать или глотать слова. После этого ей можно дать любой текст, и она «прочитает» его голосом этого человека.
Это похоже на пародиста, который долго слушает кого-то, а потом начинает говорить точь-в-точь как он. Только нейросети не нужны годы тренировки — иногда хватает нескольких минут чистой записи. Именно поэтому появились мошеннические схемы, когда злоумышленники подделывают голос родственника и по телефону просят срочно перевести деньги. Поэтому важное правило: если по голосу из трубки просят денег и торопят — это повод насторожиться, а не верить.
Как распознать подделку
Хорошая новость: даже продвинутые дипфейки часто оставляют следы. Нейросеть отлично копирует общее впечатление, но спотыкается на мелочах, которые наш мозг подмечает не сразу. Вот на что стоит смотреть.
- Глаза и моргание. Иногда взгляд кажется стеклянным, а моргание — слишком редким или, наоборот, неестественно ровным.
- Границы лица. Присмотрись к линии волос, к краю щёк и подбородка: там бывает лёгкое мерцание, размытие или «плавающий» контур, особенно когда человек поворачивает голову.
- Зубы и язык. При быстрой речи внутренняя часть рта часто выглядит как смазанное пятно — нейросети тяжело даётся прорисовка деталей в движении.
- Свет и тени. Тени на лице могут не совпадать с освещением вокруг, а блики в глазах — отличаться от того, как падает свет в кадре.
- Рассинхрон губ и звука. Звук может чуть-чуть отставать от движения губ или опережать его.
Но самый надёжный приём — это вообще не про пиксели. Прежде чем поверить шокирующему видео, задай себе простые вопросы: откуда оно взялось? кто его выложил первым? пишут ли об этом серьёзные источники? Если громкое заявление есть только в одном анонимном ролике и больше нигде — это уже сильный повод усомниться. Дипфейк опасен не сам по себе, а тем, что заставляет нас поверить и сразу действовать: репостить, паниковать, переводить деньги.
Гонка щита и меча
Технологии распознавания тоже не стоят на месте. Учёные обучают нейросети-детекторы, которые ищут невидимые глазу артефакты в фейковых видео, разрабатывают «цифровые подписи» для подлинных записей и системы, отмечающие контент, созданный ИИ. Получается та же дуэль, что и внутри GAN, только теперь в масштабе всего интернета: подделки становятся лучше — детекторы тоже, и наоборот.
Чем это всё закончится, пока никто не знает. Но один навык точно не устареет — здоровый скепсис. Раньше говорили «не верь всему, что написано». Теперь к этому добавилось: не верь всему, что видишь и слышишь, пока не проверил. Дипфейки — мощный инструмент, и, как любой инструмент, они бывают и для добра (кино, озвучка, спецэффекты), и для обмана. Понимая, как они устроены, ты уже на шаг впереди тех, кто надеется тебя одурачить.