Одновременно с многообразием возможностей Интернет стал источником серьезных правонарушений, среди которых наиболее опасными являются распространение детской порнографии и сексуальная эксплуатация несовершеннолетних.
Для защиты пользователей от неправомерных действий владельцы онлайн сервисов используют различные подходы, преимущественно ручную фильтрацию или автоматическую обработку по тексту. Тем не менее, внедрение таких механизмов не приносит ожидаемого результата.
Ручная модерация не позволяет отследить все возникающие угрозы и качественно классифицировать большие объемы данных. Используемые слова и теги для определения «порнографичности» в автоматическом режиме часто не соответствуют контенту или попросту отсутствуют.
Подобные меры безопасности предусмотрены в поисковых системах, предлагающих пользователям «семейный» или «безопасный» поиск. Выбор этого режима подразумевает включение фильтра, основанного на анализе тегов и текстов на веб-страницах, тем самым поисковая система блокирует доступ к ресурсам с сомнительным текстовым, но не визуальным содержанием. Текстовые фильтры не детектируют порно в изображениях, широко распространенных в социальных сервисах, хостингах и файлообменных сетях, и потому не обеспечивают высокий уровень надежности выбранного режима.
Понимая важность решения задачи защиты пользователей от опасного контента, особенно детской аудитории, поисковые системы и Интернет-порталы стараются найти более эффективные способы детектирования порнографии.
Так, компания WeSEE оказывает компании «Яндекс» услуги обработки данных с целью анализа изображений на предмет наличия в них нежелательного содержания. Решение pifilter основано исключительно на анализе визуального контента без учета текстовых описаний. Система обеспечивает уровень надежности детектирования порно в изображениях не менее 91.5% и используется владельцами Интернет-ресурсов в различных странах мира. PiFilter является распространенным инструментом модерации видео чатов, обеспечивающим детектирование пользователей с неподобающим поведением.
