AMD推出开源项目GAIA:支持本地大模型高效运行,专为锐龙AI 300优化

AI资讯2周前发布 ainav
25 0

3月22日,AMD官方宣布推出了一款名为GAIA(发音为/ˈɡaɪ.ə/)的生成式AI应用,并在GitHub上开源。该工具专为本地运行大语言模型(LLM)设计,目前仅支持Windows平台。

AMD推出开源项目GAIA:支持本地大模型高效运行,专为锐龙AI 300优化

GAIA是一款在Windows PC上实现本地化私密运行LLM的生成式AI应用,特别针对AMD锐龙AI 300系列处理器进行了深度优化。这一发布标志着AMD在边缘计算领域的重要战略部署。

AMD推出开源项目GAIA:支持本地大模型高效运行,专为锐龙AI 300优化

GAIA在NPU上的运行能够显著提升AI任务的性能表现。从Ryzen AI软件版本1.3开始,支持同时使用NPU和核显进行量化LLM的混合部署。

AMD推出开源项目GAIA:支持本地大模型高效运行,专为锐龙AI 300优化

GAIA采用了MIT开源协议,其代码库已托管在GitHub上。AMD特别欢迎开发者为该项目贡献自定义代理模块,目前已有多个行业定制化代理处于开发阶段。

虽然GAIA当前仅限于支持Windows系统,但据AMD官方文档显示,未来可能会扩展到更多平台。

项目GitHub地址:
https://github.com/amd/gaia

© 版权声明

相关文章