尹智
IT咨询
只处理信息分析和信息流转的软件都很危险；提供经验/Know-how的系统才有生存空间 part2—— 接上文 ，有人会说大模型还不靠谱，还有幻觉，而关键目前我们并不是让大模型自由发挥—— Skills就是大模型最好的引导，甚至可以直接在Skills/提示词里规定，只能根据特定知识库的内容回答（我看到了这样的Skills被引用后，大模型连“你好”都不回答了）；而且，很多情况下，我们不是让大模型做“填空”题，而是让大模型做“选择”题，也就是让大模型通过调用工具，函数等来完成一件事，这不是让大模型在上十万个可能Token空间里预测下一个，而是在十来个工具的列表中做一个最可能对的选择，这在简单工作流中处理已经是可用状态了。最后，最重要一点，我们通常不是让大模型独自完成任务，而是会设置审查机制，让大模型对不太确信的结果，提交给我们审查（当红的智能体工程中的Harness和Loop engineering的精髓就在于设定大模型的输出置信度及审查条件），这就是Salesforce在AI应用走了弯路后总结出的，大模型不完美，但人+AI可以做到可用。最后数据库层的变化就更直接了，向量数据库成为智能体应用的主要数据源，其他数据技术各显神通合力为大模型提供信息。看完大家的POC DEMO，我最大的感受，系统开发这事会被大大加快，复杂应用系统还是需要数字化团队的开发者（环境配置，复杂Skills和代码编写还不是一般人能做的），而开发者会被大大赋能加速，因为那套需求分析-设计-编码-测试的老套路在智能体应用环境（有点类似低代码平台）会迭代得飞快，Skills/提示词改改就能看到结果；非开发，业务的同事也能独自很快搞出一些小功能。当组织里每个人都能快速把想法变成POC，这种效率提升，夸张点可以用“恐怖”来形容。那些只是做信息处理流转，做流程控制的软件，会很快找不到“既然用户自己可以开发我们的功能，用户为什么要用我们”的理由。那些内嵌了行业经验，行业模型，专业Know-how的系统，还能作为更好的业务逻辑处理的模块，有存在的价值。—— 仅代表尹智个人观点 Ken's personal view only
发布于 广东
分享
评论
2
未登录
友善发言
评论
加载中
