Новости
29 ноября 2021
Новости
Прочитать позже
Готово!
Скоро материал придет на указанную электронную почту. Также подписывайте на нас в Facebook
Ok
ICL Services разработали решение по распознаванию запрещённого контента
Специалисты ICL Services разработали решение по распознаванию запрещенного контента для стриминговой социальной сети.
У заказчика появилась необходимость ускорить процесс выявления и блокировки запрещенного аудио- и видео-контента и сократить численность модераторов, которые занимаются идентичной работой.
У заказчика появилась необходимость ускорить процесс выявления и блокировки запрещенного аудио- и видео-контента и сократить численность модераторов, которые занимаются идентичной работой.
Для решения задачи специалисты ICL Services разработали плагин для браузера с использованием технологий искусственного интеллекта (ИИ), TorchAudio , TorchVision и ResNet . Плагин с точностью до 90% определяет запрещенный и подозрительный контент в аудио и сообщает модератору, на какой конкретно секунде зафиксировано нарушение.
Также технологии ИИ были использованы для классификации видео-контента социальной сети. Для этого командой ICL был доработан интерфейс, который выводит подсказки для модераторов, и проведено A/B-тестирование . Все это позволило сократить время модерации видео-ролика на 18,3%.
— Для выявления запрещенного контента больше не нужно просматривать тонны видео и просушивать километры аудио дорожек вручную. Задача модераторов сводится к контролю системы и принятия окончательного решения, — поясняет специалист в области гибких методологий ICL Services Виктория Капмар.
Благодаря предложенным решениям качество модерации выросло более чем на 14%, так как служба модерации заказчика стала быстрее реагировать на выявление запрещенного контента, оперативно принимать меры по блокировке пользователя и удалять контент из сети.
Torchvaudio — библиотека удобных инструментов для работы с аудио в формате волн.
Torchvision — библиотека удобных инструментов для работы с изображениями.
ResNet — остаточная нейронная сеть, называемая.
A/B-тестирование — это эксперимент, который позволяет сравнить две версии чего-либо, чтобы проверить гипотезы и определить, какая версия лучше.
Также технологии ИИ были использованы для классификации видео-контента социальной сети. Для этого командой ICL был доработан интерфейс, который выводит подсказки для модераторов, и проведено A/B-тестирование . Все это позволило сократить время модерации видео-ролика на 18,3%.
— Для выявления запрещенного контента больше не нужно просматривать тонны видео и просушивать километры аудио дорожек вручную. Задача модераторов сводится к контролю системы и принятия окончательного решения, — поясняет специалист в области гибких методологий ICL Services Виктория Капмар.
Благодаря предложенным решениям качество модерации выросло более чем на 14%, так как служба модерации заказчика стала быстрее реагировать на выявление запрещенного контента, оперативно принимать меры по блокировке пользователя и удалять контент из сети.
Torchvaudio — библиотека удобных инструментов для работы с аудио в формате волн.
Torchvision — библиотека удобных инструментов для работы с изображениями.
ResNet — остаточная нейронная сеть, называемая.
A/B-тестирование — это эксперимент, который позволяет сравнить две версии чего-либо, чтобы проверить гипотезы и определить, какая версия лучше.