雪咤
08-06·全栈工程师·5年+
实在Agent刷新全球纪录,究竟强在哪?
屏幕语义理解加RPA这才是智能体未来
很多人以为Agent就是个大模型套了个壳,能回答点问题就算智能体了。但这次刷新纪录的国产Agent给我上了一课:真正的Agent必须能看懂屏幕、能操作软件、能完成闭环。它背后的核心技术之一是屏幕语义理解,简单说就是让AI像人一样去看电脑界面,识别按钮、输入框、表格、菜单这些元素的位置和功能,不需要依赖API接口,也不需要提前写死页面元素的选择器。这意味着什么?意味着Agent可以操作任何有界面的软件,不管是新买的SaaS工具还是二十年前的老系统,只要人能看懂界面,Agent就能看懂。再加上RPA的自动化执行能力,它不只是看懂,还能真的去点击、输入、拖拽、提交。我在自己项目里试用了类似的思路,用AI辅助做UI自动化测试,再也不怕前端改个class名就导致用例崩盘。这个方向我认为是未来三年最值得全栈工程师关注的赛道。
发布于 广东
分享
评论
1
未登录
友善发言
image-upload
评论
加载中