"ВКонтакте" привлекла нейросеть для борьбы с оскорблениями и угрозами

"ВКонтакте" тестирует систему искусственного интеллекта, которая сможет автоматически выявлять публикации с враждебными высказываниями на просторах социальной сети и наказывать нарушителей

"ВКонтакте" тестирует систему искусственного интеллекта, которая сможет автоматически выявлять публикации с враждебными высказываниями на просторах социальной сети и наказывать нарушителей. "Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости", — пояснили в компании.

Нейросеть должна помочь быстрее находить как посты с оскорблениями и угрозами, так и материалы, которые провоцируют аудиторию проявлять агрессию. При этом система сама будет решать, к какой категории категории относится высказывание, выражающее ненависть к определенной группе людей.

"Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний", — рассказали представители "ВКонтакте".

Для обучения ИИ команда сервиса создала новую категорию жалоб — "Враждебные высказывания". Её можно указать, нажав на стрелку в углу поста или крестик в комментариях. Затем заявка будет рассмотрена модераторами.

За первую половину 2020 года "ВКонтакте" удалила 520 тысяч единиц контента по теме разжигания вражды и ненависти. Кроме того, в соцсети было заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.

С агрессией при помощи ИИ активно борется и Facebook (запрещена в РФ). В июле компания заявила, что разработала "хулиганский" искусственный интеллект для имитации поведения людей, нарушающих правила соцсети. Симуляция — WW — является почти полной копией соцсети, только населена ботами, которые ругаются, продают оружие и наркотики, публикуют непристойный контент и спамят.