3月22日,AMD官方宣布推出了一款名为GAIA(发音为/ˈɡaɪ.ə/)的生成式AI应用,并在GitHub上开源。该工具专为本地运行大语言模型(LLM)设计,目前仅支持Windows平台。
GAIA是一款在Windows PC上实现本地化私密运行LLM的生成式AI应用,特别针对AMD锐龙AI 300系列处理器进行了深度优化。这一发布标志着AMD在边缘计算领域的重要战略部署。
GAIA在NPU上的运行能够显著提升AI任务的性能表现。从Ryzen AI软件版本1.3开始,支持同时使用NPU和核显进行量化LLM的混合部署。
GAIA采用了MIT开源协议,其代码库已托管在GitHub上。AMD特别欢迎开发者为该项目贡献自定义代理模块,目前已有多个行业定制化代理处于开发阶段。
虽然GAIA当前仅限于支持Windows系统,但据AMD官方文档显示,未来可能会扩展到更多平台。
项目GitHub地址:
https://github.com/amd/gaia
© 版权声明
文章版权归作者所有,未经允许请勿转载。