国内高校首家:东南大学正式推出阿里QwQ-32B AI大模型,支持消费级显卡本地运行

AI资讯1周前更新 ainav
17 0

3月10日,东南大学官方微信公众号发布消息显示,该校借助昇腾国产算力平台成功引入了阿里的最新开源模型QwQ-32B,成为全国首家提供该模型服务的高校。

国内高校首家:东南大学正式推出阿里QwQ-32B AI大模型,支持消费级显卡本地运行

尽管仅有32B参数量,QwQ-32B通过大规模强化学习训练,在数学推理(AIME24评测)、代码生成(LiveCodeBench)、工具调用(BFCL测试)等多个领域展现出色性能。其表现可与拥有671B参数的DeepSeek-R1相媲美,甚至在部分指标上实现了超越。

国内高校首家:东南大学正式推出阿里QwQ-32B AI大模型,支持消费级显卡本地运行

该模型的一大特色在于其对消费级显卡的本地部署支持,这显著降低了硬件门槛。同时,通过昇腾平台提供的高效算力资源适配,为师生在科研中快速实现AI推理需求提供了有力支撑。

此外,QwQ-32B集成了工具调用与动态推理能力,可以根据环境反馈实时调整策略。这一特性使其特别适用于需要复杂处理的数据分析、实验模拟等科研场景。

figcaption

上图展示了QwQ-32B与其他领先模型在数学推理(AIME24评测)、代码生成(LiveCodeBench)、工具调用(BFCL测试)中的性能对比。结果显示,QwQ-32B的表现可与DeepSeek-R1相媲美,并且远超o1-mini以及相同尺寸的R1蒸馏模型。

相关阅读:

  • 《阿里云推出最新通义千问 QwQ-32B 推理模型并开源,仅 1/20 参数媲美 DeepSeek R1》

© 版权声明

相关文章