Алгоритм NtechLab по распознаванию deepfake оказался самым устойчивым к атакам
Алгоритм компании NtechLab по распознаванию дипфейков назван самым устойчивым к обману с использованием так называемых состязательных атак. Такой вывод был сделан в научной статье, опубликованной на сайте Корнеллского университета за авторством исследователей из лаборатории Facebook AI и Калифорнийского университета в Сан-Диего.
В июне 2020 года Amazon, Facebook и Microsoft провели международные соревнования по распознаванию дипфейков на видео Deepfake Detection Challenge, по итогам которых алгоритм NtechLab занял третье призовое место. После подведения итогов конкурса команда исследователей из лаборатории Facebook AI и Калифорнийского университета в Сан-Диего подвергла три алгоритма, занявших наивысшие места в Deepfake Detection Challenge, дополнительным испытаниям для того, чтобы выяснить насколько алгоритмы-победители устойчивы к так называемым «состязательным атакам». В рамках «состязательной атаки» изображение подвергается малозаметным человеческому глазу искажениям с целью обмануть нейросеть. В данном исследовании «состязательные атаки» применялись, чтобы не дать алгоритму определить, есть ли на видео дипфейк или нет.
В статье исследователи описали результаты проведенных тестов. В частности, в статье говорится: «Алгоритм NtechLab более устойчив к состязательным атакам по сравнению с другими моделями».
«Инженер NtechLab Азат Давлетшин, автор представленного на Deepfake Detection Challenge алгоритма по распознаванию дипфейков, изначально ставил перед собой задачу создать не просто модель для успешного участия в конкурсе, а стабильно работающее решение, устойчивое к различным типам атак. Исходный код алгоритма NtechLab, в соответствии с условиями конкурса, опубликованный в открытом доступе, показал достойный результат при попытках обмануть его даже без дополнительного обучения на широких базах фотографий. Мы надеемся, что его использование внесет вклад в мировую борьбу с неконтролируемым производством дипфейков»,— отметил сооснователь NtechLab и директор R&D компании Артем Кухаренко.
В промышленной эксплуатации NtechLab планирует использовать улучшенную версию алгоритма по распознаванию дипфейков. Наработки помогут компании выявлять сложные случаи мошенничества при использовании распознавания лиц в системах типа facepay для оплаты товаров и услуг.
