Компания Facebook, Inc. ищет способ определить происхождение изображений - дипфейков. Это должно помочь бороться с дезинформацией. Дипфейк - методика создания поддельных изображений людей и объектов при помощи искусственного интеллекта. Обычно это делается путем соединения и наложения существующих изображений на другие изображения или видеоролики. Технология может использоваться для создания видеороликов, имитирующих знаменитостей или политиков, в которых они делают или говорят что-то, чего они не делали.
Что такой дипфейк?
Наиболее частое применение дипфейка на сегодняшний день - это использование в порнографических видео. Обычно это делается для имитации того, что в конкретном видеоролике снималась определенная знаменитость - популярная актриса или певица, политик. Эксперты предполагают, что в будущем методика будет использоваться намного шире, в том числе и для создания фейковых новостей, что несет потенциальную угрозу.
По мере того как технология совершенствуется, многие компании готовятся к ее потенциальному использованию для распространения дезинформации.
В чем суть исследования?
При сотрудничестве с университетом штата Мичиган компания Facebook, Inc. разрабатывает метод, который позволит выяснить происхождение дипфейков (методику, которая была использована для их создания). Это поможет определить источник происхождения контента, даже если он опубликован на разных онлайн-платформах. Техника называется реверс-инжиниринг.
Facebook утверждает, что она будет полезна для обнаружения скоординированной дезинформации или других вредоносных атак. Также сообщается, что исследователи изучают уникальный след, оставляемый используемой методикой для создания дипфейков. Это поможет понять, кто автор изображения и как оно сделано.
Как проводились опыты?
В процессе исследования были внимательно проанализированы компоненты различных моделей искусственного интеллекта. Для того чтобы протестировать этот метод, исследователи создали набор данных из 100 тысяч поддельных изображений, сгенерированных путем использования 100 моделей дипфейка, которые находятся в общем доступе в интернете.
Университет предоставляет всем желающим код и модели с набором данных, чтобы другие исследователи могли также изучать технологию. Они надеются, что в будущем можно будет объеденить работу разных специалистов и сделать более эффективную платформу для поиска дипфейков, а также наладить коммуникацию между различными социальными сетями.
