Musubi представила модель AI для модерации контента
ModelPing RU
Компания Musubi анонсировала новую легковесную модель принятия решений для модерации контента, названную PolicyLM-1.7B. Модель предназначена для работы в реальном времени и выпущена с открытыми весами.
PolicyLM-1.7B позволяет применять контентные политики, написанные на простом английском, к сообщениям за менее чем 50 миллисекунд. Модель разработана так, чтобы быть сопоставимой по стоимости и скорости с системами классификации AI, которые используются для модерации на большинстве социальных платформ.
Одним из ключевых преимуществ модели является ее гибкость, позволяющая применять сложные политики без специального обучения. Кроме того, модель не требует повторного обучения при изменении политики, что дает возможность людям, устанавливающим политику, вносить изменения по мере необходимости.
Филип Янкович, соучредитель и главный AI-офицер Musubi, отметил, что такая модель предоставляет менеджерам платформ возможность проактивно маркировать контент. Это особенно важно в условиях экспоненциального роста объема контента на платформах.
Модели принятия решений стали популярной темой в мире AI с момента выхода Jev от Typesafe AI в сентябре, за которым последовали конкурирующие модели от OpenAI и Amazon. Эти модели, в отличие от больших языковых моделей, выдают вероятности исходов, ограничивая вывод до заранее определенных категорий.
Musubi не боится сравнения с Jev и стремится использовать растущий интерес к моделям принятия решений для привлечения внимания к проблемам модерации контента. Компания уверена, что PolicyLM-1.7B является аналогом Jev, но специально разработанным для модерации контента.
Оригинальная статья: https://techcrunch.com/2026/10/06/how-ai-decision-models-could-change-content-moderation/