Новые способы подавления преследований и оскорблений в интернете

Опыт расставания с первой любовью был особенно травмирующим для 18-летней Никки Мэттокс. Вместо того, чтобы надеяться на поддержку и помощь в освобождении от душевной боли, она стала получать полные ненависти сообщения в соцсетях от друзей ее бывшего парня. Один из них даже убеждал ее покончить с собой.

Опасность преследований в Сети

�Эти сообщения приводили меня в состояние депрессии�, — рассказывает Мэттокс. Она является всего лишь одним человеком из миллионов в мире, которые оказались жертвами интернет-издевательств. Даже в нашем прогрессивном обществе этика общения нередко упускается из виду. Однако исследования показывают, что издевательства в интернете могут оставить серьезный шрам на психике человека, нанося ущерб его душевному здоровью. Растущее количество времени, которое мы проводим в Сети, подвергает нас все новым формам запугивания. Хотя они и безлики, все же их разрушительное воздействие велико.

Проблема, над которой ученые только начинают работать

К счастью для Мэттокс, ее расставание и последующие запугивания произошли как раз в то время, когда она планировала поступать в университет. В новой обстановке девушка смогла завести новых друзей, которые помогли ей справиться. Она выбрала одну из психологических специализаций, и в настоящее время занимается исследованием данных вопросов, а также помощь тем, кто подвергается оскорблениям в Сети.

�Киберзапугивание изменило мои взгляды�, — говори Никки. �Я стала сильнее и добрее. Однако чтобы обуздать издевательства в Сети, предстоит сделать многое�.

�Результаты моих исследований показывают, что нам нужны специальные фильтры, которые отлавливали бы ненавистнические высказывания�, — говорил Хаджи Салим, научный руководитель Мэттокс. �Такой инструмент должен быть как можно более точным, способным распознавать особые ключевые слова. Также программа должна определять некоторые злоупотребления лексикой. Например, вроде бы нейральное слово �животное� может оказаться оскорблением�.

В группе риска все: и подростки, и взрослые, и даже знаменитости

Обнаружение издевательств в Сети имеет не только научный смысл. В качестве примера можно взять гигантские соцсети — такие, как �Инстаграм�. Один из опросов, проведенных в 2017 году, показал: порядка 42 % подростков стали жертвами оскорблений на данном сервисе. И это один их наиболее высоких показателей во всех соцсетях. В самых ужасных случаях хейтерам удавалось склонить пользователей к самоубийству. Причем речь идет не только о подростках. Например, гитарист группы Queen Брайан Мэй является одним из тех, кто подвергся буллингу в �Инстаграме�.

�Это заставило меня взглянуть по-новому на истории о спаме, запугивании и доведении людей до суицида. Теперь мне известно на собственной шкуре, что значит быть у себя дома, в спокойной обстановке, и — бац! — внезапно стать объектом ненависти и оскорблений�.

В настоящее время в �Инстаграме� используются особые фильтры для распознавания текста и изображений, которые обнаруживают издевательства, буллинг или преследования. В то время как данная программа используется для сокрытия ядовитых комментариев с 2017 года, не так давно ученые начали ее совершенствовать посредством машинного обучения. Она выискивает фразы, которые принижают человека или его внешность, обнаруживает угрозы, появляющиеся на подписях и в комментариях.

Исследователи считают активное выявление и удаление данного материала одной из важнейших мер, поскольку многие жертвы издевательств не сообщают об этом в администрацию сайта. Однако даже с данными мерами злонамеренные пользователи все еще создают �страницы ненависти� ради отправки своим жертвам оскорбительных сообщений.

Новый чат-робот Spot

Издевательства в Сети существуют во множестве форм, и бороться с ними крайне сложно. Например, почти половина женщин сталкиваются с той или иной формой дискриминации — в том числе и с интимными домогательства и — работая в технологической индустрии Европы. Но помогут ли технологии? Пока что этот вопрос остается открытым. Одной из попыток защитить пользователей является специальный чат-робот Spot, цель которого — безопасность в Сети на рабочем месте. Программа записывает разговор с пометкой времени. Пользователь может отправить его анонимно своему работодателю. Идея заключается в том, чтобы превратить информацию в доказательства, как поясняют разработчики Spot.

Еще одно приложение: Botler AI

Еще один инструмент носит название Botler AI. Программа предоставляет советы людям, подвергшихся домогательствам интимного плана в Сети. Botler AI была создана на основе более чем 300 000 судебных документов США и Канады. Программа применяет обработку информации, полученной от пользователя, и позволяет сделать вывод: был ли человек жертвой сексуального домогательства в глазах закона. Botler AI создает отчет об инциденте, который пользователь может передать руководству компании, в которой работает, ибо полиции. Первая версия была выпущена приблизительно полгода назад. Ее точность составляет порядка 89 %.

Программа для выявления потенциальных самоубийц

Исследователи из Медицинского центра Университета Ванербильта обучили специальные роботизированные программы тому, чтобы выявлять записи пользователей, склонных к суициду. Алгоритмы этих ботов в состоянии предсказать, попытается ли пациент покончить с собой или заняться самоповреждением с точностью до 92 %. �Мы можем собирать данные в обычном режиме, чтобы прогнозировать суицидальное поведение, и это внушает надежду�, — говорил Колин Уолш, доцент кафедры биомедицины.

Одно из исследований, проведенное учеными из Университета Карнеги-Меллона в Питтсбурге, позволило выявить людей с мыслями о самоубийстве с точностью до 91 %. Участников эксперимента попросили подумать о 20 конкретных вещах, относящихся к приятным и неприятным сторонам жизни. Затем их мозг просканировали при помощи МРТ. Полученная информация была использована для машинного обучения компьютерных программ.

Технологии распознавания опасных наклонностей

Исследователи также обнаружили, каким образом здоровые люди и личности с суицидальными склонностями размышляют о таких терминах, как �смерть� и �счастье�. Компьютер смог с точностью до 92 % различить девять человек, подумывающих о самоубийстве или когда-то совершивших попытку свести счеты с жизнью. Поисковики и социальные медиа могут использовать данные программы, чтобы выявлять людей, находящихся в кризисе. К примеру, когда человек вводит в поисковик запрос о том, как покончить с собой, Google может выдать справочную линию психологической помощи. Также приложения вскоре будут внедряться и в соцсети.

Безопасность важнее приватности

В серьезных случаях администрация соцсетей может связаться с местными властями. Одним из сервисов, который уже работает с такой программой, является Facebook. �Мы не врачи, и не пытаемся поставить психиатрический диагноз�, — поясняет Дэн Муриелло, инженер из команды разработчиков. �Мы просто стараемся донести нужную информацию до нужных людей�. И хотя подобный подход может вызвать проблемы с конфиденциальностью, тысячи людей уже оценили все плюсы искусственного интеллекта в борьбе с оскорблениями и запугиванием в Сети. Многие мобильные приложения также позволяют обсуждать свои проблемы тем, кто страдает от депрессии и тревоги. Эти программы соответствуют всем критериями современной когнитивно-поведенческой терапии.