«ВКонтакте» запустили нейросеть

1584
2 минуты
«ВКонтакте» запустили нейросеть

Соцсеть «ВКонтакте» начала использовать «обученный» алгоритм собственной разработки (нейросеть), который может выявлять суицидальный контент. Кроме того, новейшая технология способна способна определять опасные и мошеннические материалы, спам и порнографию.

Как рассказали журналистам представители компании, нейросеть умеет определять предметы и сущности, изображенные на фото по классам опасности (а их насчитали несколько тысяч).

Если алгоритм характеризует фото как «опасное», оно отправляется модераторам для проверки. Если же фото признано «умеренно опасным», оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет. Такой механизм помогает остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг и другой противоправной деятельности.

Отдельный сценарий предусмотрен для борьбы с суицидальным контентом. Записи и фото на эту тему удаляются автоматически, а страницы их авторов блокируются.  

Если пользователь загружает картинку или упоминает хэштеги, которые ранее использовали в качестве призыва к суициду, «ВКонтакте» блокирует его страницу и предлагает сообщить о причинах публикации.

На основании ответов определяется, когда страница будет разблокирована, и дальнейшие действия: пользователю может быть предложена помощь психологов фонда «Твоя Территория» или советы по безопасности страницы.

Присвоение классов нужно не только для удаления противоправных изображений, но и для формирования ленты пользователя с учетом его интересов. Если человек, например, ставит лайки на фотографиях с кошками, то в персонализированной ленте в приоритете ему будут чаще выводиться записи с кошками. Записи от друзей и сообществ отображаются в ней не в хронологическом порядке, а по приоритету, максимально интересному конкретному пользователю.

На сегодняшний день, по данным «ВКонтакте», «умной» лентой пользуется 80 процентов активной аудитории соцсети.

Нейронные сети справляются с простыми задачами по распознаванию объектов гораздо лучше, чем люди, погрешность при обнаружении однородного объекта, как правило, составляет всего несколько процентов

Важно отметить, что нейросеть анализирует только изображения, загружаемые для общего доступа, то есть отправляемые фото в личных сообщениях не анализируются.

Материалы по теме "Социальные сети Интернет"

Рекомендуем

Загрузка...