纳德拉：企业切勿无节制消耗Token
纳德拉五天没忍住又开炮了——点名行业存在“Tokenmaxxing”乱象，很多企业在无节制消耗Token，就是在烧钱。话说得难听，句句是实话。80%的企业日常AI请求根本不需要GPT-4级别。写周报调GPT-4，整理表格调GPT-4，改个错别字也要过旗舰模型。杀鸡用牛刀，牛刀还按次收费。我见过一个财税代账公司更离谱——会计做基础发票识别、凭证录入，统统调顶配大模型。月度Token账单吃掉大半利润，最后直接把AI停了。纳德拉给的就四个字：分层用模。微软自己建了AI Gateway，所有调用自动判定用什么模型，高阶模型要审批。支出降了三成以上。大部分企业的问题根本不是“模型不够强”，是“不知道什么时候该用什么模型”。一刀切全上最贵的，不是大方，是懒。你公司的Token账单，你敢看一眼吗？
发布于 广东
1
评论
1
未登录
友善发言
评论
加载中
