OpenAI Astra将至，有哪些期待
Astra的消息满天飞，十万亿参数的传闻、数学难题、自主发现漏洞，听着都带劲。但最近用了一圈能接管电脑干活的智能体，期待被拉低了不少，它聪明不聪明是其次，守不守规矩才是关键。现在的agent产品，权限这关就是第一道坎。让它读本地文件、操作几个软件，系统弹权限时就得掂量半天，它动起手来顺不顺先不说，出了问题怎么复盘，它能不能说清自己刚才为什么点那一下，这才是要命的。Astra要是真能连续跑几天、跨软件干完一整件事，它握着的权限比现在任何助手都大，误操作的破坏力也跟着上一个台阶。能自己挖出安全漏洞是本事，可挖完之后谁来盯它不乱来，比它多强更值得琢磨。OpenAI自己都把最危险的网络能力锁起来，只给审核过的合作方，这态度反而让人放心一点。不期待它一步到位，期待它先把权限边界画清楚，动手之前先解释意图，出了岔子能把过程回放出来。一个不敢碰桌面的笨助手，比自作主张的天才安全得多。参数迟早会追平，信任要建起来可没那么快。
发布于 安徽
分享
评论
1
未登录
友善发言
评论
加载中
