Kimi-K3 即将开源,第一个 3 万亿参数的开放权重模型
来自:www.oschina.net 收录时间:2026-07-27
7 月 27 日,月之暗面在 HuggingFace 上发布了 Kimi-K3 的开放权重。3 万亿参数。这是业界第一个开源的 3T 级别模型。 HuggingFace 页面上挂着一个倒计时,到点才会放出权重文件。但模型卡已经公开了关键信息:全新架构,基于自研的 Kimi Delta Attention 和 Attention Residuals。超长上下文窗口,设计目标之一是仓库级...
阅读更多