Борец за чистоту: искусственный интеллект будет удалять фейковые новости и оскорбления в "Фейсбуке"

Искусственный интеллект удалит все фальшивые новости и оскорбления в "Фейсбуке". Объем удаляемых работ может охватить от тысячи до миллиона публикаций. Специально для удаления оскорблений и фейковых новостей в Сети разработчики представили программу SimSearchNet. Это новейшая технология, являющаяся, по сути, искусственным интеллектом, которая находит практически идентичные изображения или тексты, автоматически сверяет их, вычисляет потенциально опасные и неприемлемые. То есть выполняет ту работу, за которую обычно отвечают модераторы в реальном времени.

Работа модераторов существенно облегчится

Например, как только сотрудник социальной сети заметит, что сообщение содержит ложные сводки о коронавирусе, эта информация будет отправлена в SimSearchNet и перепроверена искуственным интеллектом с помощью поиска дубликатов или похожих текстов и изображений. Если информация будет признана фейком, то ее просто удалят из Сети. Этот способ увеличит охват работы, выполняемой модераторами во много раз, ведь система, в отличие от людей, сможет удалить тысячи или даже миллионы сообщений за один раз.

Согласно записи в официальном блоге "Фэйсбука", в предварительных тестах искусственный интеллект научился правильно распознавать 88,8 % публикаций, которые "призывают к ненависти". Таким образом, модераторам социальной сети не пришлось вручную удалять около 9,6 млн сообщений с призывами к ненависти.

Исследователи отмечают, что искусственный интеллект только начал учиться. Некоторые публикации могут содержать ссылки или тексты, которые могут быть правильно поняты только человеком или нестандартно мыслящим устройством. Кроме того, сеть должна будет рассмотреть, кто пишет публикацию, кому она адресована и какое другое содержимое прикреплено к сообщению - например, изображение, аудио или видео.

Кроме того, "Фэйсбук" продолжит эксперименты по улучшению обработки естественного языка. Искусственный интеллект сможет перевести текст примерно на 100 разговорных языков и определить, какие публикации нарушают правила сайта.

Нашли нарушение? Пожаловаться на содержание

Что вы думаете по поводу искусственного интеллекта?
Подписаться
Я хочу получать
Правила публикации
Следят за новыми комментариями — 8
Редактирование комментария возможно в течении пяти минут после его создания, либо до момента появления ответа на данный комментарий.