加拿大初创公司发布轻量级AI模型Command A

近日，加拿大人工智能初创公司Cohere正式推出了其最新研发的AI模型——Command A。这款轻量化设计的模型以卓越性能著称，仅需两块英伟达A100或H100 GPU即可实现高效部署，性能足以与当前主流的大语言模型GPT-4相媲美。

据Cohere官方介绍，Command A专为中小型企业量身打造，具备支持最长256k上下文长度的处理能力，并能识别和生成23种语言。与其他同类产品相比，Command A展现出显著优势：通常情况下，部署类似功能需要多达32块GPU资源，而Command A仅需两块即可完成。

在实际测试中，Command A表现优异。其峰值输出速度达到每秒156个Token，较GPT-4快出整整1.75倍。特别是在指令追踪、SQL查询、代理程序和工具任务等关键基准测试中，Command A均展现出色性能。

Cohere强调，过度规模化的模型在实际应用中可能面临严重的延迟问题。Command A则以其精简设计和强大性能，为需要快速获取准确结果的应用场景提供了理想选择。

目前，Command A已在Hugging Face平台正式上线（点此访问），面向学术界开放使用，并计划在未来扩展至更多云服务平台。这一举措将有助于推动AI技术在更广泛应用领域的落地与创新。