Сотрудники лаборатории искусственного интеллекта Института систем информатики им. А. П. Ершова СО РАН создали программу, способную искать онлайн-магазины по продаже наркотиков.
«Идея проекта в том, что современные методы типа машинного обучения или нейронных сетей плохо справляются с поиском запрещенного контента. Злоумышленники могут использовать сленг при продаже наркотиков. Они называют их совершенно обычными словами, такими как "молоко" или "корова". Если блокировать эти слова, то будет заблокировано слишком много сайтов», — цитирует «Наука в Сибири» старшего научного сотрудника лаборатории искусственного интеллекта ИСИ СО РАН Елену Сидорову.
Обработка сайта происходит так: сначала программа анализирует структуру, затем с помощью словаря проводится лингвистический анализ содержания, исходя из чего оценивается, связан ли текст с темой наркотиков.
«Одно сообщение на веб-странице может содержать ссылку на другое, и эти цепочки помогают постоянно проверять подозрительную лексику и пополнять базу. Для обновления словаря названий наркотических средств также привлекались эксперты-наркологи, которые знают этот сленг», — сказала Сидорова.
Продукт можно поставить на сервер, и он будет сканировать сайты по расписанию. «Это уже работающее и эффективное решение. В то время как методы машинного обучения определяют нелегальное содержание с точностью около 70%, нам удалось добиться точности выявления в 86% случаев. При этом почти 90% нейтральных сайтов наш метод не относит к нежелательным — важно было сделать так, чтобы безопасные сайты не блокировались по ошибке», — сказала Сидорова.
Так как ответственность за размещение незаконного контента несут провайдеры, то в первую очередь программа ориентирована на них, но также ее может применять Роскомнадзор и обычные пользователи.
