Censorfy for Web Apps

Я веду небольшой форум сообщества уже пару лет, и, чувак, какой спам и странные вещи люди публикуют? Это утомительно. Раньше я пробовал несколько бесплатных инструментов, но они либо что-то пропускали, либо отмечали невинные сообщения типа «моя собака съела мою домашнюю работу». Именно тогда я нашел Censorfy for Web Apps. Честно говоря, я сначала отнесся к этому скептически — еще один API с кучей шагов настройки — но на подключение и запуск фильтрации ушло меньше десяти минут.

Хорошие вещи

Что действительно поразило, так это то, насколько быстро он обрабатывает и текст, и изображения в одном запросе. Я тестировал его на комментариях пользователей и биографиях профилей, и он уловил такие вещи, как оскорбления, символы ненависти и даже какое-то закодированное дерьмо, которое могло бы ускользнуть от человеческих глаз. Функция категоризации также надежна: прямо в ответе вы можете увидеть, помечено ли что-то как «разжигание ненависти», «оскорбительная лексика» или «оскорбление изображений». Это избавило меня от необходимости вручную просматривать журналы. А часть пользовательских рекомендаций? Я установил правила для нашей конкретной атмосферы сообщества — никаких политических напыщенных высказываний, никакой саморекламы — и они действительно соблюдались. Намного лучше, чем обычные фильтры, которые я использовал раньше.

Не очень хорошо

Это не идеально. Бывают случаи, когда он реагирует слишком остро: однажды он отметил фразу «никого не волнует» как «агрессивный тон», потому что он короткий и резкий. Не то чтобы неправильно, но раздражает. Кроме того, вебхуков пока нет. Это означает, что мне приходится вручную проверять результаты каждые несколько часов вместо того, чтобы получать оповещения в режиме реального времени. Немного неуклюже, если у вас работающий сайт. А поскольку он основан на подписке и цены не являются общедоступными, я не уверен, как он масштабируется в случае резкого увеличения трафика. Плюс неизвестность разработчика — что заставляет меня задуматься, особенно если я доверяю ему конфиденциальные данные.

Итог

Если вам нужна быстрая модерация текста и изображений с помощью искусственного интеллекта без создания собственной системы, стоит попробовать Censorfy for Web Apps. Это надежно и легко подключиться к существующим приложениям. Но пропустите его, если вам нужна автоматизация, оповещения в реальном времени или прозрачность цен. Для небольших проектов, где вам не нужны навороты, это достойная замена. Только не ждите чудес — это не волшебство, просто умный код делает свою работу.