法国 AI 公司 Mistral 开源推理模型 Magistral Small 1.2

法国 AI 公司 Mistral AI 推出了 Magistral 系列最新的开源推理模型 Magistral Small 1.2。该模型拥有 24B 参数，采用 Apache 2.0 许可，支持 128k 上下文、多语言及视觉输入，并引入了创新的 [THINK]...[/THINK] 特殊 token 以包裹推理过程。

相比 1.1 版，新版本增加了视觉编码器，并引入了 [THINK]...[/THINK] 特殊 token 来包裹模型的推理过程。系统提示中内置了推理模板，支持 vLLM、Transformers、llama.cpp 等框架即开即用，同时提供了 GGUF 量化版本与 Unsloth 微调示例。

企业版 Magistral Medium 1.2 也同步升级，继续通过 Le Chat 提供对话服务，其 API 已上线 La Plateforme 平台。