壹一玩AI
08-13·AI领域创作者
DeepSeek-V4
Kimi-K3
豆包
AI 编程榜:AI 编程实战任务
减少词元(token)我是这样做的
在用AI执行任务的过程中,我们经常会遇到一个问题:有没有一种方法,我们既可以让模型表现得足够好,又能减少token的消耗量?我向大家分享一个经常用的小技巧,它可以让你减少至少30%的token消耗!我在做复杂任务时,通常会用一些参数较大的模型去做任务的统筹、拆分,到具体任务执行的时,我会用一些参数较小的模型去做。这就是我诸多技巧中的常用的一个。值得注意的是,这里的模型参数大小,我们可以粗浅地理解为token消耗倍率的多少。举个例子,遇到一个复杂编程问题时,我们可以使用K3去进行问题的拆解,在具体做子任务的时候,我们可以通过DeepSeekV4或者 Doubao 去执行。这样不仅可以减少token的消耗,也可以让模型很好地理解我们的意图,去准确地执行操作。同时也欢迎各位大佬在评论区里进行反馈,交换想法😁
发布于 山西
分享
1
1
未登录
友善发言
image-upload
评论
加载中