Arm将Kleidi软件库扩展至车用领域以优化AI推理性能

3月12日，Arm公司宣布将其AI推理性能优化软件库Kleidi扩展至车用领域，此举将帮助合作伙伴更好地利用下一代特定应用的AI模型优势，从而加速在汽车领域的部署。

据了解到， Arm Kleidi正式发布于2024年，其最大特色是无需开发人员进行任何额外配置，即可自动为Arm CPU上的AI推理任务提供性能优化。此前该软件库已在移动设备、云服务和数据中心等领域得到了广泛应用。

值得注意的是，Arm与Corellium联合开发的虚拟平台中，亚马逊AWS借助KleidiAI打造了一款专为软件定义汽车（SDV）设计的概念验证AI聊天机器人。这款机器人使驾驶员能够直接与车辆交互，通过提问或获取仪表盘警报信息来提升驾驶体验，而无需查阅传统用户手册。

借助集成最新版Llama.cpp的KleidiAI，亚马逊AWS实现了显著的技术突破：聊天机器人的响应时间缩短至1~3秒，并且性能提升了十倍。更重要的是，这个软件库为开发人员节省了长达六周的底层软件优化工作。

Arm车用事业部产品与解决方案副总裁Suraj Gajendra指出：

虽然AI常被视为自动驾驶汽车的核心技术，给人一种未来科技的感觉，并且距离其大规模普及上路仍需数年时间。

但事实上，目前的新车型已经广泛采用了AI技术。从自适应巡航控制系统、智能化车载信息娱乐系统到先进的驾驶和乘客监控系统，这些功能都已成功应用了AI技术。

这一切离不开Arm运算平台在灵活性、性能、能效以及扩展性方面的卓越表现，使其成为汽车行业中开发人员的首选平台。