Специалисты ICL Services разработали решение по распознаванию запрещенного контента для стриминговой социальной сети.У заказчика появилась необходимость ускорить процесс выявления и блокировки запрещенного аудио- и видео-контента и сократить численность модераторов, которые занимаются идентичной работой. Для решения задачи специалисты ICL Services разработали плагин для браузера с использованием технологий искусственного интеллекта (ИИ), TorchAudio , TorchVision и ResNet . Плагин с точностью до 90% определяет запрещенный и подозрительный контент в аудио и сообщает модератору, на какой конкретно секунде зафиксировано нарушение.Также технологии ИИ были использованы для классификации видео-контента социальной сети. Для этого командой ICL был доработан интерфейс, который выводит подсказки для модераторов, и проведено A/B-тестирование . Все это позволило сократить время модерации видео-ролика на 18,3%.— Для выявления запрещенного контента больше не нужно просматривать тонны видео и просушивать километры аудио дорожек вручную. Задача модераторов сводится к контролю системы и принятия окончательного решения, — поясняет специалист в области гибких методологий ICL Services Виктория Капмар.Благодаря предложенным решениям качество модерации выросло более чем на 14%, так как служба модерации заказчика стала быстрее реагировать на выявление запрещенного контента, оперативно принимать меры по блокировке пользователя и удалять контент из сети.Torchvaudio — библиотека удобных инструментов для работы с аудио в формате волн.Torchvision — библиотека удобных инструментов для работы с изображениями.ResNet — остаточная нейронная сеть, называемая.A/B-тестирование — это эксперимент, который позволяет сравнить две версии чего-либо, чтобы проверить гипотезы и определить, какая версия лучше.