GPT-6即将发布，你最期待哪些优化？
用AI干活最烦啥？聊着聊着它就忘了前面说过啥。这就是上下文窗口的瓶颈。GPT-6把上下文干到了200万Token，是上一代的两倍。理论上你可以把一整部《三体》三部曲扔进去，它还能记住开头和结尾的关联。对做产品、做运营的来说，这意味着什么？你扔进去一整年的用户反馈数据，它能帮你找出趋势；扔进去整个项目的需求文档和技术方案，它能帮你排查矛盾点。但问题是——窗口大了，推理成本也高了。每次调用都在处理海量信息，响应速度会不会变慢？实际用起来会不会卡顿？还有个更现实的问题：大部分人的日常工作，真的需要200万Token的上下文吗？还是说这只是参数竞赛的又一个数字游戏？
发布于 北京
分享
4
1
未登录
友善发言
评论
加载中
