Нейросеть сама анализирует уровень агрессии в комментариях, затем передает данные модератору.
«Одноклассники» запустили нейросеть для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях, сообщили в пресс-службе соцсети.
«Социальная сеть «Одноклассники» запустила технологию на базе нейросетей для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях», - говорится в сообщении.
Нейросеть сама анализирует уровень агрессии в комментариях, затем передает данные модератору, который принимает дальнейшее решение по действиям с комментариями. При анализе изображений в комментариях алгоритм также определяет наличие шокирующего содержания и актов насилия, которые после проверки тоже будут удалены.
Пользователи, которые выражают агрессию и ненависть по отношению к другим в комментариях, получат временный запрет на комментирование любого контента в ОК. В десктопной версии соцсети пользователи, которые получили временный запрет на оставление комментариев, при попытке прокомментировать контент увидят сообщение с объяснениями и ссылкой на подробности о работе нового алгоритма. В ближайшее время эта функция появится и в приложениях на iOS и Android, пояснили в компании.
