Shieldstral

2026-10-28阅读约 2 分钟AI 生成已核查

本条目由 AI 按收录标准筛选与撰写，经独立的 AI 核查在原文中逐条找到依据，未经人工审核；数字与结论以原文为准。

Mistral AI报告发布于 2026-07-28arXiv多模态

涉及模型ShieldstralMinistral-3B-Base-2512GPT-OSS-Safeguard-20BOmniGuardNemotron-3.5-Safety

收录理由

该报告为 arXiv 技术论文，提出策略自适应多模态安全分类器，含 instruction–query–document 任务形式、异构数据模板统一、对比样本策展与 LLM 生成、图像数据 pipeline 及独立于训练 taxonomy 的适应性评测与多基准对比实验。

Shieldstral 将内容审核表述为二分类问答：结构化提示含系统消息及带 Instruct、Query、Document 的用户消息，对 yes/no 词元 logit 做 softmax 得连续安全分数。
训练数据约 54.1M 样本，经模板统一、对比样本策展与生成及图像数据处理，将多样标签格式与 taxonomy 收敛为同一 yes/no 训练框架。
文本安全分类在 16 个 benchmark 的多样设定上整体平均 F1 为 84.9%，与 GPT-OSS-Safeguard-20B 报告值相同。
多模态安全评测整体平均 F1 为 83.8%，原文称高于次优 OmniGuard 的 77.6%。
推理时以自然语言 Query 描述安全关切；细粒度 taxonomy 适应性评测 F1 为 91.3%，模型为 3B 参数且单 token 输出。
Shieldstral 基于 Ministral-3B-Base-2512，对语言模型参数 LoRA 微调，并以 SLERP 合并 PG、P 与 Ministral-3B-Instruct 得到最终 checkpoint。