Роскомнадзор заинтересовался разработками по выявлению дипфейков

Роскомнадзор заинтересовался разработками по распознаванию лжи в видеозаписях. Сервис Expert, разработанный НИУ ИТМО на основе искусственного интеллекта, позволяет проверять видеозаписи выступлений на предмет лжи и манипуляций. В РКН считают, что такая система поможет с определением дипфейков.

Expert анализирует видео или аудио, оценивая уверенность, уровень согласованности вербальной и невербальной информации, сравнивает слова с научными статьями и высказываниями других специалистов.

Сейчас сервис работает только с английским языком, в ближайших планах доработка системы для анализа речи на русском. В научно-исследовательской лаборатории поясняют, английский выбран как самый распространенный язык. Также есть мнение, что выбор языка связан с тем, что сейчас более 90% российских ИИ-разработок построены на основе открытых зарубежных библиотек вместе с дата-сетами для их обучения.

Заинтересованность РКН в подобной разработке не безосновательна. В последнее время дипфейки встречаются все чаще. Например, летом этого года ФБР предупреждало американские ИТ-компании о волне случаев, когда злоумышленники с помощью дипфейков устраивались на работу по видеоинтервью для последующей кражи корпоративной информации.

Распознать дипфейк невооруженным глазом непросто, но можно по движению губ. Например, при кашле и чихании звук может не совпадать с нарисованным лицом.

Отметим также, что в середине августа две технологии по выявлению дипфейков запатентовал «Сбер». Разработку планируют использовать для борьбы с фейковыми новостями, а также для защиты от кибератак во время видеоконференций.

Источники: Коммерсантъ