MiniMax

义项:人工智能大模型
MiniMax

MiniMax 是上海稀宇科技有限公司(稀宇科技)研发的通用大模型系列,覆盖语言、视频、语音、图像和音乐等模态[1][2]。其技术特点是采用线性注意力与混合专家结构处理超长上下文,2025 年 1 月发布的 MiniMax-01 系列推理上下文窗口达 400 万 token,是同期主流模型输入长度的 20 至 32 倍[3][4]。

目录
  1. 定义
  2. 原理
  3. 发展历程
  4. 应用
  5. 局限
  6. 参见

定义

MiniMax 是由上海稀宇科技有限公司研发的通用人工智能大模型系列,属于基于 Transformer 类结构改进的多模态基础模型[2]。该系列并非单一模型,而是一个覆盖语言、视频、语音、图像与音乐五个方向的模型族,语言方向包含 MiniMax-Text-01、MiniMax M2、MiniMax-M3 等版本,另有多模态视觉版本 MiniMax-VL-01[1][3]。模型以开放平台接口和企业级服务为主要交付形式,同时也支撑海螺AI、星野、Talkie 等原生应用[5]。

在技术谱系上,MiniMax 属于大语言模型(LLM)与多模态模型的范畴,其区别性特征是在商用规模上引入线性注意力机制替代部分传统 softmax 注意力,从而降低长序列推理的计算开销[3][6]。

原理

标准 Transformer 的自注意力需要先计算完整的 $N \times N$ 注意力矩阵,序列长度增加时计算量按平方增长,这是上下文窗口难以扩大的主要制约[7]。线性注意力改用右乘形式,即把 $\mathrm{Norm}((QK^{\top})V)$ 变换为 $\mathrm{Norm}(Q(K^{\top}V))$,先求出 $d \times d$ 的键值状态矩阵再与查询相乘,使复杂度随序列长度呈线性增长[7]。

MiniMax-Text-01 采用混合架构:每个由 7 层线性注意力(闪电注意力)构成的模块之后接 1 层 softmax 注意力,共 80 层;专家混合(MoE)部分设 32 个专家,采用 top-2 路由,总参数 4560 亿,每个 token 激活 4590 亿[8][4]。之所以保留少量 softmax 层,是因为纯线性注意力在信息检索类任务上表现不足,而混合结构在检索与外推能力上反而优于纯 softmax 模型[7]。

在工程层面,训练使用变长环形注意力与改进的线性注意力序列并行(LASP+)处理打包数据,推理解码阶段则对闪电注意力做了批量化算子融合与预填充、解码分离调度,端到端模型算力利用率在 H20 上超过 75%[7]。视觉版本 MiniMax-VL-01 沿用 ViT-MLP-LLM 范式,以 3.03 亿参数的视觉编码器接投影层再接入语言主干[8]。


flowchart LR

A[输入序列] --> B[线性注意力层 ×7]

B --> C[Softmax 注意力层 ×1]

C --> D{是否满 8 层}

D -->|否| B

D -->|是| E[MoE 前馈层 32 专家 top-2]

E --> F[输出表示]

发展历程

研发布局起步较早。据公司介绍,稀宇科技成立于 2021 年 12 月,是国内在 ChatGPT 发布前即投入大模型研发的两家企业之一[2]。2023 年,公司推出基于 Transformer 架构的语音大模型 Speech 01,随后在 2024 年升级为 Speech 02[5]。2024 年 8 月,公司发布视频生成模型 Video-01 及配套的海螺AI 产品,该系列后于 2025 年 6 月升级为 Hailuo 02[9]。

2025 年 1 月 15 日,MiniMax 发布并开源 MiniMax-01 系列,包括语言模型 MiniMax-Text-01 与视觉多模态模型 MiniMax-VL-01,公开了完整权重,并称这是线性注意力机制首次扩展到商用模型规模[10][11]。该系列训练上下文为 100 万 token,推理时可外推到 400 万 token[7]。2025 年 4 月,两款模型上线国家超算互联网平台的开源社区[4]。

2025 年 10 月,公司发布并开源文本模型 MiniMax M2,在 Artificial Analysis 榜单上进入全球前五、开源第一,并在 OpenRouter 平台上于国内模型中 token 用量居首[12]。2025 年 12 月 21 日,稀宇科技刊发港交所聆讯后资料集,此后完成在港上市[5][9]。2026 年初,公司发布新一代基础模型 M2.5,并在此后推出 M3 与 M3.1-Flash,语言模型上下文窗口扩展至 100 万 token 级别[13][1]。

应用

语言与多模态能力通过开放平台以接口形式提供给开发者,可用于对话生成、工具调用、代码工程和文档理解等任务,兼容 Anthropic 与 OpenAI 两种接口格式[14][15]。公司披露,其模型与产品应用于内容创作、智能客服、教育、企业服务以及娱乐社交等场景[2]。

在消费级产品侧,海螺AI 提供文本与视频生成能力,星野、Talkie 属于面向社交与陪伴的产品,MiniMax Audio 侧重语音与音乐生成[16][5]。语音模型支持语音合成、音色克隆与音色设计,覆盖 40 种语言[14]。视频方向支持文生视频、图生视频、首尾帧与多模态参考输入,分辨率最高 2K、时长 4 至 15 秒[17]。

面向开发者的基础设施合作方面,MiniMax-Text-01 与 MiniMax-VL-01 已入驻国家超算互联网的 AI 开源社区,并提供对话服务入口[4]。长上下文能力被认为适用于合同与长篇文档分析、大型代码库理解以及多智能体协作中的上下文共享等任务[18]。

局限

线性注意力的检索能力存在结构性短板。研究显示,纯闪电注意力模型在大多数下游任务上与 softmax 模型相近,但在大海捞针一类的检索任务上明显落后,这也是 MiniMax 采用混合层结构的原因[7]。混合结构缓解而非消除了这一取舍,注意力层比例与深度都需要通过小规模实验确定[7]。

超长上下文并不等同于同等水平的理解能力。公司研发人员提到,多数模型难以完成对千页合同、长篇小说或数十万行代码的完整处理,长窗口只是必要条件之一[18]。在评测方法上,大海捞针任务在训练早期即接近满分,难以反映长上下文能力的持续提升,需要更复杂的评测集补充[7]。

模型版本迭代速度快,旧版本会按计划下线,依赖特定模型版本的业务需要迁移;官方文档显示 M2.5、M2.7 系列已公布停止向新用户开放调用与正式下线的时间表[17]。音乐生成的部分接口也已调整服务范围,付费接口停止面向新用户提供,免费接口停止服务[1]。

参见

参考资料

  1. 概览 - MiniMax 开放平台文档中心 [引用日期2026-10-29]
  2. 2025中国互联网企业家座谈会丨闫俊杰——MiniMax创始人兼CEO [引用日期2026-10-29]
  3. MiniMax-01开源:新架构开启Agent时代 [引用日期2026-10-29]
  4. 超长文本多模态模型MiniMax-01上线国家超算平台-上海证券报·中国证券网 [引用日期2026-10-29]
  5. 成立不足四年 MiniMax通过港交所聆讯 [引用日期2026-10-29]
  6. 输入长度是GPT-4o的32倍,国产开源大模型突破瓶颈,迎接智能体时代 [引用日期2026-10-29]
  7. 2501/2501.08313.md · huggingchat/papers-content [引用日期2026-10-29]
  8. MiniMax-01:基于混合架构与MoE的大语言模型项目 [引用日期2026-10-29]
  9. MiniMax港股上市创全球最快纪录 首日股价飙升市值超800亿港元 [引用日期2026-10-29]
  10. MiniMax-01开源 探索布局Agent时代 [引用日期2026-10-29]
  11. 上海基础大模型MiniMax首次开源 [引用日期2026-10-29]
  12. AI公司MiniMax通过港交所聆讯 [引用日期2026-10-29]
  13. 直击MiniMax业绩电话会:从大模型公司跃迁为AI平台公司 [引用日期2026-10-29]
  14. API Overview - MiniMax API Docs [引用日期2026-10-29]
  15. AI SDK - MiniMax API Docs [引用日期2026-10-29]
  16. 已通过港股聆讯!MiniMax冲刺“全球AGI第一股” [引用日期2026-10-29]
  17. 模型列表 - MiniMax 开放平台文档中心 [引用日期2026-10-29]
  18. 国家超算互联网平台上线超长文本多模态大模型,助力AI智能体开发 [引用日期2026-10-29]
词条评价
词条统计

浏览次数:0 次

阅读量:0 次 · 阅读完成量:0 次

最近更新:2026-10-28T18:51:02Z

历史版本

本条目引用的词条
上海稀宇科技有限公司 Transformer 线性注意力 混合专家模型 上下文窗口 海螺AI