2025/03/18 15:34:36 1,583次浏览

降低 AI 成本,依然是目前的一大难题。

作者|芯芯 编辑|靖宇

两个月前 DeepSeek R1 横空出世,震惊所有人。除了成本巨低,大模型在回答问题时候显示的思维链 CoT 也功不可没。

在 AI 领域,大规模语言模型(LLMs)已经展示了强大的推理能力。这些模型通常生成长长的「思维链(Chain-of-Thought, CoT)」来逐步推导答案,好处显而易见,问题是计算成本和延迟高。

最近,Zoom 的研究团队提出了一种全新的推理范式——「草稿链(Chain-of-Draft, CoD)」,试图通过模仿人类的简洁思维过程,来提升 AI 的推理效率,从而节省成本。

数据显示,相同的任务,使用 CoD 能将 Token 使用减少 80%,大幅度降低成本。

成本更低,准确率却不低的 CoD,会成为大模型的下一个趋势吗?

01

如何让 AI「少写点」?

无论是 OpenAI 的 o1,还是 DeepSeek 的 R1,在使用「思维链」处理任务时都有出色表现,这个范式鼓励模型将问题分解成一步步的推导,类似于人类在纸上写下完整的解题过程。

「尽管这一方法有效,但它在推理时需要大量的计算资源,导致输出冗长且延迟较高。」Zoom 研究人员指出,LLM 通常会在得出最终答案之前消耗大量 Token。

在他们看来,人类通常解决问题的方式根本没有这么冗长,「ag凯发_凯发一触即发依赖简洁的草稿或速记来捕捉必要的见解,而不做不必要的详细阐述。」

受此启发,他们提出「草稿链」这一新范式,鼓励模型生成极简的中间推理步骤,只要捕捉解决问题的关键信息。

Zoom 华人团队发表「草稿链」研究论文 |图片来源:arXiv

这一灵感来自人类的认知过程。因为在解决复杂任务时——无论是解决数学问题、撰写论文还是编程——人类通常只记录下有助于推进的关键信息。通过模仿这一行为,LLMs 可以专注于推进解决方案,而不受冗长推理的影响。

其研究论文称,这一方法不仅减少了冗余,还显著降低了计算成本和延迟,同时保持了与「思维链」相当的准确性。

用一个简单的算术题例子感受直接回答(标准)、「思维链」与「草稿链」的区别:

标准:

问:杰森有 20 个棒棒糖。他给了丹尼一些棒棒糖。现在杰森有 12 个棒棒糖。杰森给了丹尼多少个棒棒糖?

答:8

思维链:

问:杰森有 20 个棒棒糖。他给了丹尼一些棒棒糖。现在杰森有 12 个棒棒糖。杰森给了丹尼多少个棒棒糖?

答:让ag凯发_凯发一触即发一步步来思考:

最初,杰森有 20 个棒棒糖。

2. 在给丹尼一些棒棒糖后,杰森现在有 12 个棒棒糖。

3. 为了找出杰森给了丹尼多少个棒棒糖,ag凯发_凯发一触即发需要计算最初的数量和剩余数量之间的差异。

4. ag凯发_凯发一触即发可以设置一个简单的减法问题:最初的棒棒糖数 - 剩余的棒棒糖数 = 给丹尼的棒棒糖数

5. 把数字带入:20 - 12 = 给丹尼的棒棒糖数

6. 解决减法:20 - 12 = 8

因此,杰森给了丹尼 8 个棒棒糖。

草稿链:

问:杰森有 20 个棒棒糖。他给了丹尼一些棒棒糖。现在杰森有 12 个棒棒糖。杰森给了丹尼多少个棒棒糖?

答:20 - x = 12;x = 20 - 12 = 8。#### 8

在标准的直接回答中,模型直接输出答案「8」,没有任何推理过程。虽然答案正确,但缺乏透明性,可解释性不强,且在多步推理任务中容易出错。

「思维链」则生成了冗长的推理。相比之下,「草稿链」的推理被简化为一个简洁的方程,答案应放在响应的结尾,并使用分隔符「####」,减少了 Token 数,同时保持透明性和正确性。

为了评估「草稿链」的有效性,Zoom 的研究团队进行了多种基准测试,包括算术推理、常识推理和符号推理任务。其实验结果称,草稿链在「准确性」上与思维链相当,甚至在某些任务中表现更好,同时显著减少了 Token 使用和延迟。

三种提示策略准确性与 Token 量对比 |图片来源:arXiv 论文

以算术推理任务为例,使用草稿链的 GPT-4o 和 Claude 3.5 Sonnet 模型在 GSM8k 数据集上的准确率分别为 91.1% 和 91.4%,而思维链的准确率分别为 95.4% 和 95.8%。

尽管草稿链的准确率略低,但它将 Token 使用减少了 80%,并将延迟降低了 76.2% 和 48.4% 。

在常识推理和符号推理任务中,他们称草稿链同样表现出色。例如,在掷硬币任务中, 草稿链将 GPT-4o 的 Token 使用减少了 68%,而 Claude 3.5 Sonnet 的 Token 使用减少了 86% ,同时保持了 100% 的准确率。

02

部署 AI,更省钱了?

Zoom 的研究人员还提到,与「草稿链」类似,去年圈内已有研究提出「简洁思维(Concise Thoughts,CCoT)和 Token 预算感知 LLM 推理,建议对推理步骤使用固定的全局 Token 预算。

然而,不同的任务可能需要不同的预算,以实现性能和成本之间的最佳平衡。此外,LLM 可能无法遵守不切实际的预算,通常生成的 Token 数量远超预期。即使是动态估算,也要额外的 LLM 调用,这增加了延迟。

「相比之下,ag凯发_凯发一触即发的方法采用每步预算,允许无限的推理步骤,使其更适应各种结构化推理技术。」研究团队称。

但「草稿链」也有其局限性,对于需要大量反思、自我纠正或外部知识检索的任务,它可能效果较差。

这项研究目前被讨论较多的用处在于,它可能改变企业部署 AI 的成本,让 AI 模型以更少的资源更便宜地思考,对成本敏感的场景尤其适用。

例如,AI 研究人员 Ajith Prabhakar 分析认为,对于每月处理 100 万条推理查询的企业,「草稿链」可以将成本从 3800 美元(CoT)降至 760 美元,每月节省超过 3000 美元——在大规模应用时,节省更多。

除了成本,「草稿链」可能使 AI 驱动的应用程序更加响应迅速,特别是在实时支持、教育和对话式 AI 等领域尤其有价值,因为即使是短暂的延迟也会严重影响用户体验。

不过,值得注意的是,OpenAI 在 3 月 10 日发文称,他们相信「思维链(CoT)监控」可能是未来监督超人类模型的少数工具之一,「 建议不要对前沿推理模型的 CoT 施加强烈的优化压力,保持 CoT 不受限制,以便进行监控 。」

因为模型通常会在「思维链」中非常清楚地陈述其意图,让人类可以看到模型的思维,从而检测模型一些不当行为,比如在编程任务中绕过测试、欺骗用户,或者在问题过于困难时放弃。

OpenAI 发文提到思维链监控的好处|图片来源:X

无论如何,从「思维链」到「草稿链」,AI 推理范式还在不断进化。

目前看来,随着应用场景扩展,在不谈 AI 安全时,成本与速度越来越成为绕不过的关键指标。而 CoD 的出现,证明了人们依然在探索如何在保持大模型进步的前提下,进一步降低成本,加速 AI 的普及。

*头图来源:Quanta Magzine

本文为极客公园原创文章,转载请联系极客君微信 geekparkGO

极客一问

你觉得大模型成本降低,是目前行业的首要挑战吗?

机器人也能当摇子?众擎机器人再上新!大跳斧头帮舞蹈致敬星爷。

点赞关注 极客公园视频号 ,

ag凯发_凯发一触即发

华人团队提出「CoD」草稿链,减少 80% Token,AI 省钱第一名!
华人团队提出「CoD」草稿链,减少 80% Token,AI 省钱第一名!

团伙诱导买榜涉案超千万

「活动」sfFjdwYpxFst4ZS2

119.71MB
版本V3.90.38
下载中国无码❌❌❌❌视频网站腹肌男安装你想要的应用 更方便 更快捷 发现更多
喜欢 51%好评(9人)
评论 16
华人团队提出「CoD」草稿链,减少 80% Token,AI 省钱第一名!截图0 华人团队提出「CoD」草稿链,减少 80% Token,AI 省钱第一名!截图1 华人团队提出「CoD」草稿链,减少 80% Token,AI 省钱第一名!截图2 华人团队提出「CoD」草稿链,减少 80% Token,AI 省钱第一名!截图3 华人团队提出「CoD」草稿链,减少 80% Token,AI 省钱第一名!截图4
详细信息
  • 软件大小: 75.1MB
  • 最后更新: 2025/03/18 15:34:36
  • 最新版本: V6.3.7
  • 文件格式: apk
  • 应用分类:ios-Android 原神成人游戏㊙️免费
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.86以上
应用介绍
一,雷电将军被爆❌JK漫画,林钰珊㊙️被男人桶到爽
二,免费观看的被爆❌❌❌视频,女性裸体被❌羞羞被扒胸衣
三,把🍌伸进女人的🍑洗澡的视频,男人🍌放进女人的🍑
四,鸣人与雏田❌自慰爽,онлаин❤вhd
五,美女❌又黄❌又爽,💚奇优电影
六,91高清自慰❤️动漫,小兰被新一❌到爽羞羞,亚洲18禁AV㊙️一区二区三区
七,国产精品🍊
【联系ag凯发_凯发一触即发】
客服热线:134-2881-646
加载更多
版本更新
V7.5.17
蜜桃臀美女裸体被❌羞羞嗯
  • 沙奈朵扒开腿做❌网站

    91❌❌⭕娇蕊白丝

    女被c到爽🔞流

    319.18MB
    102好评

    原神美女裸体被❌羞羞视频

  • 户外美女撒尿❌❌❌

    花火被扒开腿❌❌

    瑟瑟色涩涩黄🐻乳胸男男视频

    773.95MB
    44好评

    动漫❌羞免费网站中国字幕

  • 几个男的不戴套🌿一个男的h

    欧美成人片🈲️6699

    动漫美女被❌到爽🔞奶头

    13.08MB
    311好评

    成人免费🔞色情美女抹茶黄油

  • 把🍌❌🍑很疼被c哭视频

    大胸男被c❎黄漫画动漫

    迷丝媛媛骚臭灰丝脚车内给粉丝足交长筒🤩?丝男土视频

    53.88MB
    273好评

    高清码🔞❌♋裸身网站视频就要捆绑

  • 性欧美❌❌潮喷内谢

    免费看把j❌🍑🍑🍑视频

    成人免费大片❌❌❌秋水

    71.75MB
    708好评

    脱了内裤自慰喷水❌女动漫

  • 蒂法3D被❌18禁同人

    偷拍男人撒尿㊙️网站

    同性Gay❌❌❌在线

    83.02MB
    334好评

    千仞雪❌到喷水18禁

  • 蒂法被❌❌爆乳触手

    被❌小胸羞羞奶头嗯啊学生

    🔞成人免费网站

    23.90MB
    108好评

    女性脱👙给我揉🐻绑架动漫

  • 免费➕精品➕国产在线观看

    扒开美女❌狂揉❌游戏

    纲手被❌🔞歪歪漫画

    50.04MB
    920好评

    12孩岁女裸体㊙️网站

  • 动漫被❌爽🔞巨乳视频

    银龙王被❌到高潮两天两夜同人

    动漫男♂yaoi自慰GAY漫画

    83.44MB
    563好评

    www.😍.com.本子在线播放

  • 女同被❌c🐻扒衣服小说

    性精品❌❌❌A片小说

    18🈲欧美日韩在线观看

    83.36MB
    754好评

    91❌羞羞网站老师

  • 欧美人妖❌❌❌深喉

    原神人物被❌黄漫免费网站

    小舞3D同人18❌网站

    32.70MB
    628好评

    cos芙宁娜❌暴爽自慰喷水网

  • ❌❌❌免费漫画裸体

    动漫人物憋尿无遮挡㊙️

    做爰黄✌片全过程漫画下载

    26.74MB
    275好评

    动漫❌裸体❌女同❌3D

  • 崩坏三同人18❌本子免费

    免费白丝jk爆❌❌乳❌❌❌视频动漫

    亚洲AV㊙️无码白峰美羽

    65.93MB
    749好评

    大胸美女视频❌❌爆乳戴口罩动漫

  • 女女扒开🍑伸进🍌❌真人

    樱空桃㊙️无码一区srds

    小舞裸乳被爆❌白浆

    54.49MB
    750好评

    裸体捆绑㊙️视频免下载网站

  • 原神纳西达涩涩被❌黄漫

    蓝莓黄网站❌🈲🈲

    女学生被打屁股♥网站×

    57.35MB
    688好评

    国产精品㊙️久久久久久绯

  • 白秀秀被❌到高潮2天2夜

    国产精品㊙️入口奶姬

    欧美18🈲在线播放偷偷

    24.72MB
    353好评

    美女打开🍑让老师🍌进去

  • 羞辱调教扒开🍑女仆视频

    国产日韩精品㊙️入口

    白丝护士女仆啪啪❌

    13.08MB
    316好评

    雷电将军❌八重神子

  • 美女露出大雷❌❌❌

    小🐔手戳进㊙ tao

    男男被❌黄

    84.66MB
    218好评

    典韦被❌同人🔞🈲

  • 在线观看🔞禁无码免费

    虐乳➕虐菊➕动漫

    小🐥🐥伸入🍑视频麻豆

    45.27MB
    733好评

    甘雨爆乳被❌🔞🔞㊙️游戏

  • 原神⚠️羞羞漫画sss入口

    18美女被❌吸乳羞羞免费

    成人扒开🍑伸进🍌❌火影

    10.63MB
    186好评

    性巴克app❤网站在线观看

  • www.女自慰❌❌好多水

    白丝jk❌❌爆乳❌

    女性裸体被❌羞羞被扒胸小说

    44.94MB
    367好评

    女性裸体㊙️无遮挡小萝卜

  • 国产➕18➕爽➕免费

    free ❌❌ hd

    免费无遮挡🚫网站

    91.47MB
    205好评

    嫩草视频入口❤️

  • 91美女㊙️动漫网站

    18🈲一区二区三区亚欧喷水

    动漫女的被❌到爽羞羞网站

    30.47MB
    904好评

    被同学粗大的🐔巴进出微博

  • 国产精品㊙️精东国产

    欧美精品❌❌❌❌❌动漫

    ㊙️黄动漫免费网站H漫画

    30.18MB
    541好评

    成人浏览器㊙️免费下载

  • 夏沃蕾裸体❌自慰喷水

    女同❌裸乳❌漫画❌

    成人免费毛片❌❌❌观看

    29.53MB
    122好评

    男男动漫裸体被❌羞羞

  • 87在线无码精品㊙️入口

    动漫旅游者被❌爆乳吸乳

    美女❌又爽❌又黄在线观看

    70.74MB
    456好评

    欧美接受❌❌❌高潮手拳

  • 免费无遮挡🔞动画网站在线观看亚欧成人影院18🈲️在线 title="92在线无码j精品㊙️桃" class="0v5366j9r7414 app-list-img" src="https://t11.baidu.com/it/u=1040017057,165456434&fm=30&app=106&f=JPEG?w=312&h=208&s=15B07D95426079116A1494FD03009032"">

    女又爽❌又黄漫画

    美女㊙️片黄在

  • 体育生GAY无套✅免费视频少妇被c🔞黄❌在线吃瓜网站 title="巨胸美女被❌❌爆乳" class="0v5366j9r7414 app-list-img" src="https://t10.baidu.com/it/u=3070224572,165461829&fm=30&app=106&f=JPEG?w=312&h=208&s=C6000AAC4838BAC8463F54AC0300A00B"">

    ❌18禁污污免费网站下载

    8❌8ⅹ华人永久免费AV

  • 成人精品动漫H无码🔞在线看直播挤奶㊙️喷奶水 title="被巨型章鱼触手❌到高潮" class="0v5366j9r7414 app-list-img" src="https://t12.baidu.com/it/u=1041590673,165100299&fm=30&app=106&f=JPEG?w=312&h=208&s=D7383EC642E1D8EA0A87937F0300C078"">

    奇优影院❤

    🔞🍌进🍑里❌❌❌抖音

{{.转码Keywords}} 类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
包含 饿了么 的应用集
评论
  • 18🍆🍑🔞无直套17.c 2天前
    国产做受❌❌❌高潮软件电话
  • 猛男互摸🐔巴免费漫画 1天前
    雷影爆❌纲手视频在线
  • 动漫美女被狂❌到高潮 5天前
    国产91玩精品㊙️福利姬
  • 曰本户外偷拍撩裙子撒尿㊙️ 3天前
    1024app色版❤网站下载
  • 美美裸身㊙️免费网站 5天前
    人与野鲁❌毛片在线视频
  • 18禁被❌到爆浆高潮 7天前
    原神琳妮特裸体❌开腿网站
  • 3D同人动画18❌AV网站 0天前
    美女被❌到高潮喷出白浆漫画入口
  • 日本裸体裸乳🍑免费看 2天前
    男女c🔞黄㊙️❌P站
  • 60BRAZZERS💋💋 9天前
    Free❌❌❌国产鲁交
  • 男男㊙️无套 2天前
    二次元➕光屁屁➕元遮挡