加拿大初创公司发布轻量级AI模型Command A

AI资讯3天前发布 ainav
7 0

近日,加拿大人工智能初创公司Cohere正式推出了其最新研发的AI模型——Command A。这款轻量化设计的模型以卓越性能著称,仅需两块英伟达A100或H100 GPU即可实现高效部署,性能足以与当前主流的大语言模型GPT-4相媲美。

加拿大初创公司发布轻量级AI模型Command A

据Cohere官方介绍,Command A专为中小型企业量身打造,具备支持最长256k上下文长度的处理能力,并能识别和生成23种语言。与其他同类产品相比,Command A展现出显著优势:通常情况下,部署类似功能需要多达32块GPU资源,而Command A仅需两块即可完成。

在实际测试中,Command A表现优异。其峰值输出速度达到每秒156个Token,较GPT-4快出整整1.75倍。特别是在指令追踪、SQL查询、代理程序和工具任务等关键基准测试中,Command A均展现出色性能。

加拿大初创公司发布轻量级AI模型Command A

Cohere强调,过度规模化的模型在实际应用中可能面临严重的延迟问题。Command A则以其精简设计和强大性能,为需要快速获取准确结果的应用场景提供了理想选择。

目前,Command A已在Hugging Face平台正式上线(点此访问),面向学术界开放使用,并计划在未来扩展至更多云服务平台。这一举措将有助于推动AI技术在更广泛应用领域的落地与创新。

© 版权声明

相关文章