法国 AI 公司 Mistral 开源推理模型 Magistral Small 1.2
法国 AI 公司 Mistral AI 推出了 Magistral 系列最新的开源推理模型 Magistral Small 1.2。该模型拥有 24B 参数,采用 Apache 2.0 许可,支持 128k 上下文、多语言及视觉输入,并引入了创新的 [THINK]...[/THINK] 特殊 token 以包裹推理过程。
相比 1.1 版,新版本增加了视觉编码器,并引入了 [THINK]...[/THINK] 特殊 token 来包裹模型的推理过程。系统提示中内置了推理模板,支持 vLLM、Transformers、llama.cpp 等框架即开即用,同时提供了 GGUF 量化版本与 Unsloth 微调示例。
企业版 Magistral Medium 1.2 也同步升级,继续通过 Le Chat 提供对话服务,其 API 已上线 La Plateforme 平台。
