Meta: Llama Guard 4 12B

Llama Guard 4 представляет собой многомодальную предобученную модель, основанную на Llama 4 Scout, и адаптированную для классификации безопасного контента. Эта модель, как и её предшественники, может использоваться для классификации как входных данных LLM (классификация запросов), так и выходных данных LLM (классификация ответов). Она функционирует как LLM, генерируя текст, который указывает, является ли данный запрос или ответ безопасным, а в случае небезопасного контента также указывает категории нарушений. Llama Guard 4 был настроен для защиты от стандартной таксономии угроз MLCommons и разработан для поддержки многомодальных возможностей Llama 4. Модель объединяет функции предыдущих версий Llama Guard, обеспечивая модерацию контента на английском и других поддерживаемых языках. Она также обладает улучшенными возможностями обработки смешанных текстово-изображенческих запросов, включая работу с несколькими изображениями. Кроме того, Llama Guard 4 интегрирован в Llama Moderations API, что позволяет эффективно классифицировать как текст, так и изображения с высокой степенью надежности.