790

В России разработали систему для выявления экстремистов в соцсетях

Алгоритмы анализируют посты и комментарии пользователей, ранее анонимных авторов обязали раскрыть свои личные дынные
В России разработали систему для выявления экстремистов в соцсетях. Фото автора
Фото автора

В России разработали математическую модель для автоматического выявления экстремистских высказываний в социальных сетях. Методическое пособие доцента Института компьютерных наук и технологий ПГНИУ Андрея Рабчевского победило на конкурсе МВД по защите информации.


Автор предложил структурный набор данных, при помощи которого можно обучать нейросеть распознавать комментарии и публикации пользователей соцсетей, несущих в себе экстремистскую направленность. Также с её помощью можно анализировать профили пользователей, открытые группы и лайки.

«Я разработал синтетический датасет, который использовался для обучения нейросети, выявляющий роли пользователей социальных сетей, вовлечённых в деструктивные социальные явления. Поиск производился с помощью поисковой системы SEUS», — цитируют его на сайте пермского университета.

Как пишут в «Известиях», модель также можно адаптировать для других задач, в частности — поиска террористов и информации о готовящихся терактах. Для каждой направленности существуют свои ключевые слова и словосочетания, обнаружив которые можно рассматривать субъект на причастность к преступлениям.

Сейчас, по информации автора методики, российские спецслужбы для поиска запрещённых публикаций работают «вручную».

С начала ноября всех публичных пользователей соцсетей — блогеров и владельцев страниц с аудиторией более 10 тысяч человек — обязали передавать свои личные данные через портал «Госуслуг». С 1 января на страницах, оставшихся анонимными, запретят размещать официальную рекламу — с 2022 года все рекламные посты в интернете должны содержать специальную маркировку.

Напомним, в прошлом месяце в России заблокировали популярный геймерский сервис Discord. В конце лета в стране началось замедление работы мирового видеохостинга YouTube.



Последние новости