ВКонтакте развивает безопасную среду для пользователей

Команда ВКонтакте разработала уникальную нейросеть, способную определять ругательства, оскорбления и другие негативные высказывания в постах и комментариях.

С помощью собственных алгоритмов соцсеть будет выявлять всплески подобной активности на страницах пользователей, предупреждать их о возможной опасности и предлагать включить режим «Личное пространство» — специальный набор настроек, который позволяет на время ограничить круг общения, оградить себя от нежелательных собеседников и отдохнуть от лишнего внимания.

Предложение активировать режим будет приходить пользователям, которые за час получили более трёх негативных комментариев или постов от юзеров, не входящих в список их друзей. Подобная активность будет отслеживаться и фиксироваться с помощью нейросети: алгоритм на основе искусственного интеллекта будет сразу отправлять уведомление с предложением включить режим. После отправки уведомления нейросеть приостановит свою работу на сутки, а потом возобновит. В сумме пользователю может прийти не более трёх уведомлений за месяц. Нейросеть считывает активность только в открытых профилях.

После активации режима «Личное пространство» настройки приватности страницы изменятся на неделю: писать и звонить смогут только друзья или друзья друзей, а отправлять заявки в друзья — только друзья друзей. Профиль пользователя станет закрытым: добавлять его в чаты и отмечать на фотографиях получится только у друзей. Помимо этого, после включения режима пользователи будут видеть в ленте новостей специальные тематические материалы и рекомендации для улучшения ментального здоровья. Через неделю режим отключится, при необходимости его можно активировать снова.

null

«Главный приоритет ВКонтакте — безопасность и комфорт наших пользователей. В социальной сети есть более 20 настроек приватности, выбрать которые можно по своему усмотрению, а благодаря режиму „Личное пространство“ пользователи могут оградить себя от нежелательного общения всего в одно касание. В рамках нашего подхода по внедрению полезных инноваций мы разработали уникальную нейросеть. Она была обучена на сотнях тысяч специально размеченных негативных комментариев. Благодаря этому она способна эффективно распознавать токсичные фразы, чтобы помочь пользователям лучше понять, когда стоит оградить себя от нежелательного внимания, чтобы сохранить ментальное здоровье» — Иван Корнеев, глава команды модерации и администрирования ВКонтакте.

Поделись с друзьями — нажми на одну из кнопок ниже!

Рекомендованные статьи

Добавить комментарий

© 2020 - 2023 «Типичный айтишник». Копирование и видоизменение материалов возможно только при наличии активной ссылки на типичный-айтишник.рф