Новые способы подавления преследований и оскорблений в интернете

Опыт расставания с первой любовью был особенно травмирующим для 18-летней Никки Мэттокс. Вместо того, чтобы надеяться на поддержку и помощь в освобождении от душевной боли, она стала получать полные ненависти сообщения в соцсетях от друзей ее бывшего парня. Один из них даже убеждал ее покончить с собой.

Опасность преследований в Сети

"Эти сообщения приводили меня в состояние депрессии", - рассказывает Мэттокс. Она является всего лишь одним человеком из миллионов в мире, которые оказались жертвами интернет-издевательств. Даже в нашем прогрессивном обществе этика общения нередко упускается из виду. Однако исследования показывают, что издевательства в интернете могут оставить серьезный шрам на психике человека, нанося ущерб его душевному здоровью. Растущее количество времени, которое мы проводим в Сети, подвергает нас все новым формам запугивания. Хотя они и безлики, все же их разрушительное воздействие велико.

Проблема, над которой ученые только начинают работать

К счастью для Мэттокс, ее расставание и последующие запугивания произошли как раз в то время, когда она планировала поступать в университет. В новой обстановке девушка смогла завести новых друзей, которые помогли ей справиться. Она выбрала одну из психологических специализаций, и в настоящее время занимается исследованием данных вопросов, а также помощь тем, кто подвергается оскорблениям в Сети.

"Киберзапугивание изменило мои взгляды", - говори Никки. "Я стала сильнее и добрее. Однако чтобы обуздать издевательства в Сети, предстоит сделать многое".

"Результаты моих исследований показывают, что нам нужны специальные фильтры, которые отлавливали бы ненавистнические высказывания", - говорил Хаджи Салим, научный руководитель Мэттокс. "Такой инструмент должен быть как можно более точным, способным распознавать особые ключевые слова. Также программа должна определять некоторые злоупотребления лексикой. Например, вроде бы нейральное слово "животное" может оказаться оскорблением".

В группе риска все: и подростки, и взрослые, и даже знаменитости

Обнаружение издевательств в Сети имеет не только научный смысл. В качестве примера можно взять гигантские соцсети - такие, как "Инстаграм". Один из опросов, проведенных в 2017 году, показал: порядка 42 % подростков стали жертвами оскорблений на данном сервисе. И это один их наиболее высоких показателей во всех соцсетях. В самых ужасных случаях хейтерам удавалось склонить пользователей к самоубийству. Причем речь идет не только о подростках. Например, гитарист группы Queen Брайан Мэй является одним из тех, кто подвергся буллингу в "Инстаграме".

"Это заставило меня взглянуть по-новому на истории о спаме, запугивании и доведении людей до суицида. Теперь мне известно на собственной шкуре, что значит быть у себя дома, в спокойной обстановке, и - бац! - внезапно стать объектом ненависти и оскорблений".

В настоящее время в "Инстаграме" используются особые фильтры для распознавания текста и изображений, которые обнаруживают издевательства, буллинг или преследования. В то время как данная программа используется для сокрытия ядовитых комментариев с 2017 года, не так давно ученые начали ее совершенствовать посредством машинного обучения. Она выискивает фразы, которые принижают человека или его внешность, обнаруживает угрозы, появляющиеся на подписях и в комментариях.

Исследователи считают активное выявление и удаление данного материала одной из важнейших мер, поскольку многие жертвы издевательств не сообщают об этом в администрацию сайта. Однако даже с данными мерами злонамеренные пользователи все еще создают "страницы ненависти" ради отправки своим жертвам оскорбительных сообщений.

Новый чат-робот Spot

Издевательства в Сети существуют во множестве форм, и бороться с ними крайне сложно. Например, почти половина женщин сталкиваются с той или иной формой дискриминации - в том числе и с интимными домогательства и - работая в технологической индустрии Европы. Но помогут ли технологии? Пока что этот вопрос остается открытым. Одной из попыток защитить пользователей является специальный чат-робот Spot, цель которого - безопасность в Сети на рабочем месте. Программа записывает разговор с пометкой времени. Пользователь может отправить его анонимно своему работодателю. Идея заключается в том, чтобы превратить информацию в доказательства, как поясняют разработчики Spot.

Еще одно приложение: Botler AI

Еще один инструмент носит название Botler AI. Программа предоставляет советы людям, подвергшихся домогательствам интимного плана в Сети. Botler AI была создана на основе более чем 300 000 судебных документов США и Канады. Программа применяет обработку информации, полученной от пользователя, и позволяет сделать вывод: был ли человек жертвой сексуального домогательства в глазах закона. Botler AI создает отчет об инциденте, который пользователь может передать руководству компании, в которой работает, ибо полиции. Первая версия была выпущена приблизительно полгода назад. Ее точность составляет порядка 89 %.

Программа для выявления потенциальных самоубийц

Исследователи из Медицинского центра Университета Ванербильта обучили специальные роботизированные программы тому, чтобы выявлять записи пользователей, склонных к суициду. Алгоритмы этих ботов в состоянии предсказать, попытается ли пациент покончить с собой или заняться самоповреждением с точностью до 92 %. "Мы можем собирать данные в обычном режиме, чтобы прогнозировать суицидальное поведение, и это внушает надежду", - говорил Колин Уолш, доцент кафедры биомедицины.

Одно из исследований, проведенное учеными из Университета Карнеги-Меллона в Питтсбурге, позволило выявить людей с мыслями о самоубийстве с точностью до 91 %. Участников эксперимента попросили подумать о 20 конкретных вещах, относящихся к приятным и неприятным сторонам жизни. Затем их мозг просканировали при помощи МРТ. Полученная информация была использована для машинного обучения компьютерных программ.

Технологии распознавания опасных наклонностей

Исследователи также обнаружили, каким образом здоровые люди и личности с суицидальными склонностями размышляют о таких терминах, как "смерть" и "счастье". Компьютер смог с точностью до 92 % различить девять человек, подумывающих о самоубийстве или когда-то совершивших попытку свести счеты с жизнью. Поисковики и социальные медиа могут использовать данные программы, чтобы выявлять людей, находящихся в кризисе. К примеру, когда человек вводит в поисковик запрос о том, как покончить с собой, Google может выдать справочную линию психологической помощи. Также приложения вскоре будут внедряться и в соцсети.

Безопасность важнее приватности

В серьезных случаях администрация соцсетей может связаться с местными властями. Одним из сервисов, который уже работает с такой программой, является Facebook. "Мы не врачи, и не пытаемся поставить психиатрический диагноз", - поясняет Дэн Муриелло, инженер из команды разработчиков. "Мы просто стараемся донести нужную информацию до нужных людей". И хотя подобный подход может вызвать проблемы с конфиденциальностью, тысячи людей уже оценили все плюсы искусственного интеллекта в борьбе с оскорблениями и запугиванием в Сети. Многие мобильные приложения также позволяют обсуждать свои проблемы тем, кто страдает от депрессии и тревоги. Эти программы соответствуют всем критериями современной когнитивно-поведенческой терапии.

Статья закончилась. Вопросы остались?
Добавить смайл
  • :smile:
  • :wink:
  • :frowning:
  • :stuck_out_tongue_winking_eye:
  • :smirk:
  • :open_mouth:
  • :grinning:
  • :pensive:
  • :relaxed:
  • :heart:
Подписаться
Я хочу получать
Правила публикации
Следят за новыми комментариями — 7
Редактирование комментария возможно в течении пяти минут после его создания, либо до момента появления ответа на данный комментарий.