Mistral Small 3
定义
Mistral Small 3是Mistral AI推出的第三代Mistral Small系列开源大语言模型，模型卡将其标注为Mistral Small 3（2501），参数规模为240亿[3]。它属于参数规模低于700亿的「小模型」类别，发布时同时提供预训练基础权重与指令微调权重两条版本线[4]。
该模型的上下文窗口为32K个词元，采用词表规模13.1万的Tekken分词器，支持英语、法语、德语、西班牙语、意大利语、中文、日语、韩语、葡萄牙语、荷兰语、波兰语等数十种语言[5]。按命名习惯，「Small 3」中的数字3表示该系列的第3代，而模型在服务端使用的标识为mistral-small-2501，其中的2501指2025年第1个月[6]。
原理
Mistral Small 3沿用Transformer一类的自回归语言模型架构，通过在海量文本上做下一词元预测完成预训练，再用指令数据做有监督微调，使其能够按对话形式遵循指令[7]。与当前常见的推理模型不同，该模型在训练流程中既没有引入强化学习，也没有使用由其他模型生成的合成数据，因此处于训练流水线更靠前的位置[8]。
在效率设计上，研发团队的主要手段是减少网络层数，从而缩短每次前向传播所需的计算时间，据官方数据其生成速度可达每秒150个词元[9]。模型训练使用了8万亿个词元，而同期可比模型的训练语料约为15万亿词元，Mistral AI首席科学官纪尧姆·兰普莱将性能提升归因于训练优化方法的调整而非单纯扩大算力[1]。
部署时通常配合量化技术降低显存占用，把权重压缩到较低精度后，模型可在单张RTX 4090显卡或配备32GB内存的笔记本电脑上运行[10]。基础模型与指令模型共享同一套架构与分词方案，二者的差别在于是否经过指令微调阶段[3]。
发展历程
Mistral Small系列最早于2024年2月以企业级模型形式推出，随后在2024年9月更新到第2代，这两代权重均采用限制商业使用的Mistral研究许可证[6]。2025年1月30日，Mistral AI发布第3代Mistral Small 3，并首次把这一系列的核心模型改用Apache 2.0许可证开放，允许商用与修改[2]。
发布当日，模型同步上线Hugging Face、Ollama、Kaggle、Together AI、Fireworks AI等平台，随后陆续进入watsonx、Databricks、NVIDIA NIM、Groq、SageMaker与Snowflake等渠道[6]。开放权重之外，Mistral AI表示面向企业的增强版本（更长上下文、特定模态、领域知识等）会以商业模型形式另行提供[5]。
此后该系列继续迭代，2025年3月19日发布Mistral Small 3.1，上下文窗口扩展至128K词元并首次为该系列加入图像理解能力，可在RTX 4090等消费级硬件上本地运行[11]。2025年6月发布的Mistral Small 3.2则侧重于改善指令遵循、输出稳定性和函数调用的可靠性[11]。
应用
该模型面向的是生成式人工智能任务中占多数、对延迟敏感的常规请求，官方定位为满足这类「八成」需求[7]。典型用途包括响应速度要求高的对话助手与客户支持自动化、需要低延迟执行外部动作的函数调用与工作流自动化，以及在垂直数据上微调出的领域专家模型[8]。
由于权重可自由下载，该模型适用于希望数据不出内网的机构。Mistral AI称其客户已在机器人、金融服务和制造业等场景中部署该模型，其中不少客户选择本地部署以兼顾隐私与可靠性[1]。在云端托管方面，Together AI等平台提供无服务器按词元计费与专用GPU端点两种接入方式，并兼容OpenAI风格的接口[12]。
局限
模型规模决定了其能力上限。Mistral AI自身的对比显示，Mistral Small 3的定位是与Llama 3.3 70B指令模型相当，而非超越更大规模的模型；在MMLU基准上基础版得分为80.73，MMLU Pro为54.37，GPQA Main为34.37，数学与研究生水平难题上的差距较为明显[5]。
32K的上下文窗口小于部分同代模型，处理超长文档时需要额外的切分或检索方案；初代Mistral Small 3也不具备原生多模态输入能力，图像理解是在后续的3.1版本才引入[11]。
此外，由于未经过强化学习与合成数据训练，该模型并不以长链推理见长，Mistral AI将其视为可供后续训练增强推理能力的基座，而非开箱即用的推理模型[6]。各种性能对比多来自厂商内部评测，其结果与第三方公开榜单之间可能存在差异[9]。
参见
-
Mistral AI —— 开发并发布Mistral Small 3的法国人工智能公司。
-
大语言模型 —— Mistral Small 3所属的模型类别。
-
Transformer —— 该类模型所依托的神经网络架构。
-
Llama 3.3 —— 常被用作Mistral Small 3性能对照的更大规模开源模型。
-
量化 —— 使该模型得以在消费级硬件上运行的关键技术。
-
Apache许可证 —— Mistral Small 3权重所采用的开源许可协议。
参考资料
- venturebeat.com 上的网页 [引用日期2026-10-29]
- Mistral Small 3 - 30th January 2025 [引用日期2026-10-29]
- language: [引用日期2026-10-29]
- README [引用日期2026-10-29]
- library_name: mistral-common [引用日期2026-10-29]
- Mistral Small : ce qui change avec la version 2025 de ce LLM [引用日期2026-10-29]
- Mistral 和 Ai2 发布新的开源大语言模型 [引用日期2026-10-29]
- gadgets360.com 上的网页 [引用日期2026-10-29]
- Mistral AI推出24B开源模型，能运行于32GB RAM苹果MacBook [引用日期2026-10-29]
- 开源新秀 Mistral Small 3：低延迟、高性能、Apache 2.0 许可，赋能 AI 应用 [引用日期2026-10-29]
- Mistral Small [引用日期2026-10-29]
- together.ai 上的网页 [引用日期2026-10-29]