Arm将Kleidi软件库扩展至车用领域以优化AI推理性能

AI资讯5天前发布 ainav
12 0

3月12日,Arm公司宣布将其AI推理性能优化软件库Kleidi扩展至车用领域,此举将帮助合作伙伴更好地利用下一代特定应用的AI模型优势,从而加速在汽车领域的部署。

据了解到, Arm Kleidi正式发布于2024年,其最大特色是无需开发人员进行任何额外配置,即可自动为Arm CPU上的AI推理任务提供性能优化。此前该软件库已在移动设备、云服务和数据中心等领域得到了广泛应用。

Arm将Kleidi软件库扩展至车用领域以优化AI推理性能

值得注意的是,Arm与Corellium联合开发的虚拟平台中,亚马逊AWS借助KleidiAI打造了一款专为软件定义汽车(SDV)设计的概念验证AI聊天机器人。这款机器人使驾驶员能够直接与车辆交互,通过提问或获取仪表盘警报信息来提升驾驶体验,而无需查阅传统用户手册。

借助集成最新版Llama.cpp的KleidiAI,亚马逊AWS实现了显著的技术突破:聊天机器人的响应时间缩短至1~3秒,并且性能提升了十倍。更重要的是,这个软件库为开发人员节省了长达六周的底层软件优化工作。

Arm将Kleidi软件库扩展至车用领域以优化AI推理性能

Arm车用事业部产品与解决方案副总裁Suraj Gajendra指出:

虽然AI常被视为自动驾驶汽车的核心技术,给人一种未来科技的感觉,并且距离其大规模普及上路仍需数年时间。

但事实上,目前的新车型已经广泛采用了AI技术。从自适应巡航控制系统、智能化车载信息娱乐系统到先进的驾驶和乘客监控系统,这些功能都已成功应用了AI技术。

这一切离不开Arm运算平台在灵活性、性能、能效以及扩展性方面的卓越表现,使其成为汽车行业中开发人员的首选平台。

© 版权声明

相关文章