Эксперт UserGate Светлана Газизова проанализировала актуальные индикаторы дипфейков и назвала признак, по которому сегодня можно распознать видеозвонок от плута за секунды. Как оказалось, генераторы до сих пор не могут подделывать биомеханику обычной пряди волос, сообщает пресс-служба компании.
Мошенники клонируют наружность, мимику и голос родственника или руководителя своей жертвы за минуты. Но физика мягкого тела ИИ пока еще неподвластна: разные его части реагируют на нагрузку неравномерно, с задержкой и собственной инерцией. Волосы - наглядный тому пример: тысячи самостоятельных нитей, при этом у каждой своя масса, жёсткость и демпфирование; прядь у виска запаздывает условно пряди на затылке, отдельные волоски вибрируют от потока воздуха, который создаёт движение головы. Данный лёгкий хаос зрение считывает как «живое».
«Генеративная модель пока еще не может считывать биомеханику волос. Она не решает уравнения движения мягкого тела для каждой пряди, а только статистически разгадывает следующий кадр. Тысяча самостоятельных частиц с трением и инерцией не воспроизводится статистическим усреднением: чтобы подделать биомеханику волоса “честно”, её придётся честно посчитать, - а это подчас дороже, чем сгенерировать само лицо», - объясняет Светлана Газизова, владелец продукта по безопасности ИИ UserGate.
Когда модель усредняет тысячи траекторий, множество деформаций превращается в движение одного жёсткого объекта. Профессионалы в детекции характеризуют это безошибочно: «волосы двигаются единым ломтем, никоим образом приклеенным шлемом». При этом ни одна собака признак не даёт стопроцентной уверенности: реальное видео может выглядеть странно из-за сжатия или плохой связи, а качественный дипфейк - не показать виду недостатков.
Физика мягких тел, как отмечает Газизова, - пока скорее наблюдение практиков, чем академический стандарт. Рецензируемых научных исследований, измеряющих достоверное событие этого признака на больших датасетах, на сегодняшний день нет, объясняет эксперт. Индикаторы дипфейков, в свою очередь, со временем утрачивают актуальность. Так, например, ещё несколько лет назад надёжным признаком считался артефакт апсемплинга в частотном спектре GAN-моделей, однако позднее индустрия перешла на диффузионные модели, и след почти исчез. Поэтому задача проверок - повысить уровень подозрения до того, как эмоция превратится в действие.
Эксперт рекомендует превратить в повадку оценку видео по пяти индикаторам:
1. Физика вокруг лица. В реальной жизни при завороте головы волосы запаздывают и продолжают движение, серьги качаются, складки одежды меняются, блики на очках движутся согласованно со светом. Отыскивайте не «некрасивость», а потерю причинно-следственной связи.
2. Сбои во времени. Замедлите ролик и посмотрите несколько секунд подряд: не «плывут» ли контур лица, линия волос, зубы, родинки, фон. Особенно показательны завороты в профиль, скорые движения и моменты, когда лицо перекрывается рукой или предметом.
3. Изображение и звук. Совпадают ли усты с темпом речи, есть ли натуральные вдохи и паузы? Слишком ровный голос, странная интонация или равный фоновый шум во всех паузах повышают подозрение.
4. Нарушьте сценарий живого звонка. Попросите собеседника повернуться в профиль, провести рукой пред лицом, отойти от камеры или стать признаком случайную фразу. Неожиданное действие единовременно проверяет лицо, глубину сцены, перекрытия и способность реагировать в живую.
5. Проверяйте не ролик, а ситуацию. Отыщите первоисточник, сделайте обратный поиск по ключевому кадру. Если вас подталкивают к переводу денег, раскрытию кода, скачиванию файла или спешному решению, - остановитесь и свяжитесь с человеком по заранее общеизвестному самостоятельному каналу. UserGate также советует проводить краткие обучающие сессии для сотрудников, принимающих решения по видео, и выслеживать обновления дипфейк-генераторов.
«Дипфейк - больше не экзотика из новостей, это рабочий инструмент мошенника, и он уже стучится в ваши видеоконференции. Мы желаем выработать у сотрудников в крови рефлекс: увидел видео, в каком тебя просят перевести деньги или выдать доступ, - посмотри на волосы, серьги и складки одежды. Это как прирости корнями, когда уже перейти дорогу», - резюмирует Светлана Газизова.
Фото: TelecomDaily.