找回密码
 立即注册

成本仅50美元,性能媲美Deepseek-R1,李飞飞带着S1来炸场了

2025-2-6 18:05客服142人阅读

在DeepSeek火爆全球之际,一个更低成本的AI推理模型悄然登场...

近日,一项来自斯坦福大学和华盛顿大学等机构的研究成果引起了市场关注,李飞飞等人以不到50美元的云计算费用成功训练出了一个名为s1的AI推理模型。研究成果表明,s1在数学和编码能力测试中与OpenAI的o1和DeepSeek的R1等模型的表现不相上下。

s1论文作者Niklas Muennighoff表示:

“DeepSeek r1令人兴奋,但缺少OpenAI的测试时间扩展图,并且需要大量数据。我们推出了s1,仅使用1K样本和简单的测试时间干预即可重现o1的预览扩展和性能。”

简单高效的训练方法,挑战传统AI研发模式

s1的研究团队表示,s1模型是以谷歌推理模型Gemini2.0 Flash Thinking Experimental为基础模型,通过蒸馏法提炼出来的。

他们采用了一种名为test-time scaling的方法。研究团队构建了一个小型数据集s1K,通过难度、多样性和质量三个标准来筛选,其中包括1000个经过精心挑选的问题以及相应答案,并附上了“推理”过程,仅使用了16台英伟达H100 GPU,耗时26分钟就完成了训练。

这种方法与传统的大规模强化学习方法(RL)形成鲜明对比,后者的成本通常较高,DeepSeek、OpenAI都采用了这种方法。而s1的研究通过较小的数据集和监督微调(SFT)蒸馏推理模型,大大降低了训练成本并提高了效率。

此外,为了提高答案的准确度,研究团队还运用了一种“预算强制”技术,可以控制测试时间计算,通过强制提前终止模型的思考过程,或在s1推理时多次追加“等待”指令以延长思考,从而优化性能。

研究显示,新模型s1-32B在使用该技术后,性能与测试时的计算资源成正相关。

性能媲美顶级模型,引发行业关注和担忧

根据研究团队的测试结果可知,在竞赛数学问题上,s1-32B的表现较o1-preview高27%(MATH和AIME24);且该模型在AIME24上的表现几乎与Gemini 2.0 Thinking API相当,显示其蒸馏过程是有效的。

而s1的出现也引发了行业的担忧。此前,OpenAI曾指控DeepSeek不当使用其API数据进行蒸馏。

有分析人士质疑,如果任何人都可以轻易复制和超越现有的顶级模型,那么大型AI公司多年的研发投入和技术积累可能会受到威胁。而且,尽管蒸馏技术在以较低成本复现AI模型方面表现出色,但其对新AI模型性能的提升效果并不显著。


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!

热门推荐

风险提示:差价合约(CFD)属于复杂的金融产品,其使用杠杆交易的属性导致本金快速亏损的可能性较高,您有可能因此被要求追加保证金。请在入市前先了解差价合约的产品原理并考虑是否能够承受此风险。所有金融衍生产品工具的过往价格与表现并不担保或代表未来走势。此类金融产品并不适合所有投资者,请务必在入市前完全了解所有潜在的风险,并在有需要时寻求独立意见。

Zeal Capital Zeal Capital Market(Seychelles)Limited 是一家专注于向机构及零售投资者提供外汇、大宗商品、指数、股票等多元资产交易服务的金融机构,其经纪业务主要基于交易产品的买、卖点差及/或交易手续费。Market(塞舌尔) Limited为 Zeal Group成员,是由塞舌尔金融服务局(FSA)授权及监管的证券经纪商,牌照号:SD027,公司地址:Suite C, Orion Mall, Palm Street, Victoria, Mahe, Seychelles。

Zeal Capital Market (Seychelles) Limited不向特定国家的居民提供其服务,包括美国、巴西、加拿大、埃及、伊朗和北韩(朝鲜民主主义人民共和国)以及欧盟国家。

Zeal Capital Market(Seychelles) Limited 是由塞舌尔金融服务管理局(FSA)授权及监管的证券经纪商,牌照号:SD027,公司地址:Room 2, Green Corner Building, Providence Industrial Estate, Mahe, Seychelles。

Zeal Capital Market (UK) Limited 获英国金融行为监管局FCA(注册号码(FRN): 768451)授权从事特定金融活动及产品类型,包括代理投资交易、委托投资交易、安排并促进投资交易。公司地址:No. 1 Royal Exchange, London, EC3V 3DG, United Kingdom。

Copyright © 2025 Zeal Capital Market