MiniMax 开源新一代 01 系列模型
来自:www.oschina.net 收录时间:2025-01-15
MiniMax 发布并开源了 MiniMax-01 全新系列模型,其中包含:基础语言大模型MiniMax-Text-01和视觉多模态大模型MiniMax-VL-01。 根据介绍,MiniMax-01系列模型首次大规模实现线性注意力机制,传统Transformer架构不再是唯一的选择。这个模型的参数量高达4560亿,其中单次激活459亿。模型综合性能比肩海外顶尖模型,同时能...
阅读更多