斯坦福大学与华盛顿大学联合发布经济实惠且性能卓越的AI推断模型

123 0 0

s1代表什么

研究团队来自斯坦福大学及华盛顿大学，他们开发了一款名为s1的低成本且高性能的人工智能推理系统。该系统的推理能力是通过“蒸馏”技术从谷歌研发的Gemini 2.0 Flash Thinking Experimental模型中提取而来。整个训练过程仅利用了经过精心挑选的1000个问题与答案，耗资不足50美元，并在不到30分钟内完成培训。测试结果显示，在数学和编程能力方面，s1的表现可媲美如OpenAI的o1以及DeepSeek R1等顶尖推理模型。

s1的核心作用

卓越的推断技能：专注于复杂问题分析的S1模型，在数学和编程方面展现出了卓越的能力。它能够处理高难度的竞争性数学挑战，例如美国数学邀请赛（AIME）中的题目。在解决竞赛级别的数学难题上，S1模型的表现尤为突出，其性能相比OpenAI的o1-preview模型提高了最多27%。
低花费培训：通过运用一套包含1000个细致规划的问题及相应推理路径的数据集对S1模型进行培训，使其在花费少于50美元的云服务计算资源和不足半小时的时间内完成了整个训练过程，大大降低了成本与时间投入。
在评估过程中应用的缩放技术（Scaling Technique during Evaluation Phase）S1模型利用预算约束技巧，在测试阶段灵活改变其处理复杂度。该技术要么提前结束模型的信息处理流程，要么插入额外的“等待”命令来增加分析时长，从而使模型有机会复查结果、纠正逻辑偏差，并最终提高推理解释的质量。
开放源代码及灵活性S1模型的相关代码、数据及训练策略现已在GitHub平台上公开发布，以便于研究人员和技术开发者参考与优化。

s1的工作机制

构建数据集合(s1K)
- 信息出处S1模型采用的s1K数据集精选了来自包括数学、物理和化学等多个学科领域的1000个优质问题，涉及各种类型的逻辑推理任务。
- 选择准则依据难易程度、多样化以及品质这三个准则来挑选问题。其中，难易程度由模型的表现及推理路径的长短决定；多样化则是根据问题所处的知识范畴来进行区分；而品质则依赖于数据的形式规范性和信息的精确度来保障。
- 最后决定选定的问题涵盖了50个不同的领域，保证了数据的多样性和典型性。
指导性精调（Guided Fine-Tuning）
- 挑选模型以Qwen2.5-32B-Instruct为基本框架，该模型在处理数学相关任务时展现了卓越的能力。
- 培训流程于s1K数据集实施监督微调任务，耗时26分钟，借助16块NVIDIA H100 GPU完成训练。在此期间，模型掌握了构建从问题到推理路径及最终答案之间关联的能力。
预算强加（Budget Imposition）
- 在执行控制检验过程中计算数据的数量为了调控计算资源，在测试阶段可以通过人为中断或是延展算法的处理时间来管理模型的工作负荷。实现这一目标的方式有多种：
  - 强行结束当模型产生的思维标记数量超出设定的最大值时，将立即停止其思维流程，并促使模型直接呈现结果。
  - 增加“暂停”如需让模型延长思考时间，可以在现有推理路径之后添加一个“等待”命令，以鼓励模型进一步深入分析。
在进行测试的过程中对方法进行拓展性评估
- 评价标准在对各种扩展方法进行评测时，依据的是控制力、可拓展性和效能这三大标准。
- 对比分析方法在评估各类测试阶段拓展策略的过程中，S1模型考察了令牌导向调控、进程导向调控以及类别导向调控等多种方式。结果显示，在可控性、扩展能力和性能方面，实施预算约束的方法表现出色。

s1的工程链接

GitHub代码库：可在GitHub上的simplescaling仓库中找到s1项目。
HuggingFace的模型集合库：访问此链接以查看简单的缩放模型s1-32B: https://huggingface.co/simplescaling/s1-32B
关于arXiv上的科技学术文章访问该链接可查阅文档的PDF版本：https://arxiv.org/pdf/2501.19393，内容保持原意但以不同的方式表达。请注意，实际内容需通过提供的链接进行查看和改写，此处仅提供对指令的理解示例。