Новости
24.03.2017
15:35

"ВКонтакте" научили автоматически определять суицидальные материалы, порнографию и спам

Фото из архива Клопс.Ru Фото из архива Клопс.Ru
Фото из архива Клопс.Ru
Социальная сеть "ВКонтакте" начала использовать специальный алгоритм, помогающий автоматически определять и удалять опасный контент. Об этом пишет газета "Известия".

Технология способна анализировать текстовые надписи на изображениях, определяет, что находится на картинке. Алгоритм умеет отличать символ "групп смерти", "растение", "человека", "ребёнка" и "животное".
В целом нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям — от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как "опасное", оно отправляется модераторам для проверки. Если же фото признано "умеренно опасным", оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет. Механизм помогает остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг и другой противоправной деятельности, — пишет издание.
Для борьбы с суицидным контентом в алгоритме прописан отдельный сценарий. Страницы авторов таких постов блокируются, а фото и записи на тему автоматически удаляются. При блокировке владельцу страницы предлагается сообщить о причинах публикации. На основании ответов определяется, когда страницу разблокируют. Пользователю могут предложить советы по безопасности страницы и помощь психологов фонда "Твоя Территория".

Отметим, что при помощи алгоритма проводится мониторинг только контента, публикуемого для общего доступа. Не анализируются фотографии, отосланные в личных сообщениях.
0