GitHub Copilot
如何减少Copilot幻觉？
上周被Copilot坑了一回，它给我生成了一段看起来很美但根本不存在的API上周调一个支付接口，Copilot补全了一段代码，注释写的是“调用支付网关查询接口”。逻辑工整、参数命名规范，连异常处理都写了。我直接复制进去，跑起来才发现——那个API根本不存在，是Copilot自己编的。那是我第一次真正意识到AI幻觉的杀伤力不是“写错字”，是让你以为它是对的。它能把不存在的API写得跟真的一样，能把自己编的逻辑说得头头是道。你信了，系统崩了。怎么减少这种幻觉？试下来有用的三个方法：第一，明确限定范围。 不要让AI“猜”你应该用什么，告诉它“只用我项目里已有的方法和类”，或者“不要生成我代码里没出现过的方法”。上下文越明确，它越不会瞎编。第二，把事实性任务拆开。 不要问“帮我查一下XX的最新动态”，它大概率会编。先问“搜索XX的官方网站”，再问“根据官网内容总结”，把“搜”和“总结”拆成两步。AI擅长的是整理已知信息，不是创造未知事实。第三，重要信息让它给来源。 涉及代码、API、配置、数据，要求它“附上出处”或“引用文档具体章节”。它懒得编的时候，翻车的概率会低一点。AI有幻觉是常态。重要的不是祈祷它别犯错，是建立一道你自己的人工校验关卡——尤其是那些看起来特别完美、特别顺眼的部分。太顺了，反而要小心。你们也被AI坑过吗？
发布于 江西
分享
评论
赞
未登录
友善发言
评论
加载中
