ИИ научился распознавать дипфейки в видеоконференциях в реальном времени
Он анализирует лицо и голос за несколько секунд.
Полина ТихоноваАвтор Hi-Tech Mail
Мошенники все чаще используют дипфейки во время видеозвонков, чтобы выдавать себя за начальников, коллег или деловых партнеров. Исследователи из немецкого института Fraunhofer SIT создали систему, которая прямо во время разговора проверяет изображение и голос и предупреждает, если замечает признаки подделки. При этом запись никуда не передается. Все работает на компьютере пользователя.
Такие атаки уже давно перестали быть редкостью. В 2025 г. финансовый директор одной из компаний в Сингапуре перевел около 500 тыс. долларов после разговора в Zoom. Позже выяснилось, что все участники встречи, включая его руководителя, были созданы с помощью ИИ. Деньги удалось вернуть, но подобных историй становится все больше. По данным Агентства кибербезопасности Сингапура, только в январе 2026 г. произошло более 1200 случаев видеомошенничества. Годом раньше за тот же месяц их было всего 43.
Найти подделку во время видеозвонка оказалось намного сложнее, чем на обычной записи. Качество связи постоянно меняется, сервисы сжимают изображение, многие включают размытие фона, а освещение и шум вокруг у каждого свои. Из-за этого привычные способы проверки часто дают сбой.
Новая система одновременно следит за картинкой и голосом. Если что-то кажется подозрительным, на экране появляется предупреждение с оценкой вероятности, что перед пользователем дипфейк. Дальше решение принимает сам человек. Авторы советуют задать собеседнику вопрос, ответ на который знает только настоящий участник разговора, или перезвонить ему через другой сервис.
Для работы не нужен отдельный сервер. Достаточно ноутбука с современной видеокартой и 12 ГБ видеопамяти. Все вычисления проходят прямо на устройстве, поэтому аудио и видео не покидают компьютер. Это особенно важно для компаний, где обсуждают финансовые вопросы, сделки или другую закрытую информацию.
Во время обучения алгоритму показали тысячи настоящих записей и около 160 тыс. поддельных аудиофайлов. Затем исследователи специально ухудшали их качество, добавляли шум, размытие и сжатие, чтобы сделать материалы похожими на обычные видеозвонки. По словам разработчиков, подготовить убедительные дипфейки оказалось сложнее, чем научить систему их распознавать.
Пока технология существует в виде прототипа. Теперь команда хочет проверить ее в реальных компаниях и встроить в сервисы видеосвязи. Еще предстоит разобраться с юридическими вопросами, например, нужно ли заранее получать согласие участников на такую проверку. Исследователи считают, что одной технологии все равно недостаточно. Если во время разговора кто-то неожиданно просит срочно перевести деньги или отправить важные документы, безопаснее сначала подтвердить просьбу через другой канал связи.
Ранее мы писали о том, что ученые научились отслеживать источник дипфейков.
НейросетиИскусственный интеллектПоделиться
