月之暗面:优化推理效率 加卡加机器

AI资讯1天前发布 ainav
3 0

针对近日用户反馈,月之暗面就Kimi K2模型API速度问题作出回应。官方表示,目前主要面临两大挑战:一是访问量激增,二是模型规模庞大。为了解决这一问题,我们正在全速推进性能优化工作,并持续增加硬件资源投入。预计在未来几天内,服务响应速度将得到显著提升。

值得注意的是,Kimi K2是一个完全开源的项目。开发者和企业可以灵活选择接入方式,例如通过硅基流动、无问芯穹等第三方模型供应商获取服务,同时也欢迎技术爱好者自行部署使用。

月之暗面:优化推理效率 加卡加机器

值得一提的是,月之暗面于7月11日正式发布了备受瞩目的Kimi K2模型,并同步开启源代码开放。该模型基于先进的MoE架构,拥有1T的总参数量和32B的激活参数,展现出卓越的代码生成能力和强大的通用代理任务处理能力。

目前,Kimi K2的API服务已经全面上线,支持最长128K上下文窗口,具备更加强大的通用性和工具调用功能。具体计费标准如下:

  • 每百万输入tokens:4元

  • 每百万输出tokens:16元

© 版权声明

相关文章