В половине сообществ во «ВКонтакте» появился фильтр на основе нейросети, которая борется с травлей в комментариях
У половины администраторов пабликов во «ВКонтакте» появилась возможность включить фильтр для борьбы с враждебными высказываниями в комментариях. В основе функции лежит нейросеть, она скоро станет доступна во всех сообществах, сообщили «Таким делам» в пресс-службе соцсети.
Фильтр можно включить и отключить в настройках сообщества, по умолчанию он отключен. Алгоритмы умеют определять пожелания смерти, обещания причинить вред здоровью и угрозы расправы.
В соцсети рассчитывают, что в будущем нейросеть сможет распознавать и другие признаки нетерпимости. Руководители сообществ могут видеть комментарии, которые отсеяла нейросеть, при желании их можно восстановить.Тестовый запуск показал, что отбракованные комментарии возвращают в 1% случаев.
«Мы хотим дать администраторам возможность сделать среду в их сообществах более доброжелательной: подписчики смогут вести конструктивный диалог и не бояться получить жестокий комментарий в ответ. Наша модерация за считаные минуты реагирует на обращения пользователей, а с помощью фильтра враждебных высказываний это время будет сведено до минимума — прямые угрозы удалятся мгновенно», — заявили в пресс-службе соцсети.
Журналист, экоблогер Варя Валовиль прокомментировала «Таким делам» нововведения «ВКонтакте». Варю стали оскорблять пользователи после того, как она рассказала в тиктоке о том, что один поисковый запрос в Google обходится планете в 0,2 грамма оксида углерода. Видео набрало около 600 тысяч просмотров. После ее стали критиковать на форуме «Двач» во «ВКонтакте».
Я, как человек, который подвергался оскорбительным комментариям, отношусь к инициативе «ВКонтакте» очень хорошо. Наверное, кто-то может посчитать это цензурой. Но у человека должна быть своя цензура — не позволять себе оскорблять других. Если у него такой цензуры нет, то это должна контролировать площадка, на которой у него есть аккаунт.
Я обратилась в поддержку соцсети, чтобы удалили комментарии по двум причинам. Во-первых, было размещено мое изображение из тиктока без моего согласия. Во-вторых, после публикации я подверглась травле. В комментариях мне желали смерти, писали оскорбительные вещи в личку в инстаграме. Самое безобидное: «Эконутая, иди в Швецию к Грете Тунберг».
Поддержка «ВКонтакте» ответила, что если я столкнулась с чем-то неприемлемым в открытом доступе, то могу воспользоваться их интерфейсом жалоб. Это, как я понимаю, крестик напротив комментария, нажав который можно пожаловаться. Я написала, что уже так делала, но мой вопрос оставили без внимания. К этой ситуации, к сожалению, я была готова.
Надеюсь, если «ВКонтакте» будет бороться с враждебными высказываниями, то это позволит пользователям реже обращаться в поддержку с просьбой удалить оскорбительные комментарии и в целом сделает соцсеть более дружелюбной.
Тестирование нейросети во «ВКонтакте» началось в ноябре 2020 года. Для того, чтобы обучить искусственный интеллект, соцсеть добавила новую категорию жалоб для пользователей — «Враждебные высказывания». Ее можно выбрать при нажатии кнопки «Пожаловаться» у оскорбительной публикации.