ICL Services разработали решение по распознаванию запрещённого контента

Для решения задачи специалисты ICL Services разработали плагин для браузера с использованием технологий искусственного интеллекта (ИИ), TorchAudio , TorchVision и ResNet . Плагин с точностью до 90% определяет запрещенный и подозрительный контент в аудио и сообщает модератору, на какой конкретно секунде зафиксировано нарушение.

Также технологии ИИ были использованы для классификации видео-контента социальной сети. Для этого командой ICL был доработан интерфейс, который выводит подсказки для модераторов, и проведено A/B-тестирование . Все это позволило сократить время модерации видео-ролика на 18,3%.

— Для выявления запрещенного контента больше не нужно просматривать тонны видео и просушивать километры аудио дорожек вручную. Задача модераторов сводится к контролю системы и принятия окончательного решения, — поясняет специалист в области гибких методологий ICL Services Виктория Капмар.

Благодаря предложенным решениям качество модерации выросло более чем на 14%, так как служба модерации заказчика стала быстрее реагировать на выявление запрещенного контента, оперативно принимать меры по блокировке пользователя и удалять контент из сети.




Torchvaudio — библиотека удобных инструментов для работы с аудио в формате волн.
Torchvision — библиотека удобных инструментов для работы с изображениями.
ResNet — остаточная нейронная сеть, называемая.
A/B-тестирование — это эксперимент, который позволяет сравнить две версии чего-либо, чтобы проверить гипотезы и определить, какая версия лучше.