樟脑– Apple发布的新一代设备端小型语言模型多代理架构

CAMPHOR指的是樟脑

苹果团队开发了名为CAMPHOR的端侧小语言模型（SLM）多智能体框架，旨在加强移动设备上的隐私保护并加快响应速度。该框架通过在设备本地处理多个用户输入及进行个性化上下文推理来保障用户的隐私安全。CAMPHOR采用了分层设计结构，其中高层次的推理代理负责分解复杂的任务，并协调专家代理完成个人上下文检索、工具交互以及动态计划生成等工作。借助于智能体之间的参数共享和提示压缩技术，CAMPHOR能够显著降低模型大小、延迟时间和内存使用量。

CAMPHOR的核心作用

• 处理多个用户的输入请求能够同步管理多位用户的数据输入。
• 局部环境逻辑推断在设备上直接处理个人信息的推理任务，以保障隐私安全。
• 将复杂的任务拆解为更简单的部分把复杂的作业拆分成若干个小任务，有利于更好地组织和实施。
• 软件操作：利用设备中的工具及软件完成预定的操作任务。
• 动态方案制定依据用户的需要及情境背景灵活制定实施策略。
• 共用参数通过在各个智能体间共用参数，可以减小模型的规模并增强其效率。

CAMPHOR的核心技术机制

• 多层次结构采用层次化的代理结构，涵盖高级推理代理及若干专业代理。
• 高级推断高级推理智能体承担着策划及统筹整体任务执行流程的任务。
• 专业知识型代理专门的智能体承担着具体的职责，包括但不限于个人信息查询和设备互动等功能。
• 共用参数通过让智能体共用同一组参数，可以降低对存储空间及计算资源的需求。
• 建议使用压缩技术通过把功能描述浓缩成一个标记来缩短指令长度，从而在受限条件下运作。
• 在本地运行所有的操作均在用户的设备内部执行完毕，无须同服务器进行交互，这样既能保障个人隐私安全又可以降低响应时间。

CAMPHOR项目的仓库位置

• 官方网站访问链接 https://machinelearning.apple.com/research/collaborative-agents 以获取更多信息。
• 关于arXiv上的科技文章访问此链接以查看最新的研究论文: https://arxiv.org/pdf/2410.09407，这里提供了未经修改的原始内容。请注意，由于您请求的是伪原创改写且保持原意不变，但给定的信息是一篇论文的具体网址，并没有可更改的文字内容或描述信息以进行再创作表达。因此，在此情况下无法改变其形式而同时满足您的要求。

CAMPHOR的使用场合

• 定制化手机助理在智能手机中，作为一个定制的个人助理应用程序，负责执行用户的各种日常事务，包括但不限于日程安排、设定提醒和搜索信息等功能。
• 数据处理中的隐私防护适合于需保障用户隐私的情况，例如健康管理、财务管理等领域。
• 同时执行多项任务处理适用于需同时处理多任务的场景，如智能家居系统。
• 地方适应性服务当缺乏稳定的互联网接入时，能够供应依赖于本地存储的数据服务，比如路线指引和地方资料搜索等功能。
• 智能装置互动能够与多种智能化装置互动，比如家庭智能装备，并达成装置之间的协作运行。