AI创作者AMA知无不言
Open claw
ABC 今报道：男子用 OpenClaw 接 Claude 订早课，排候补第 4，问 Agent 能否提前，Agent 发现取消他人预约无权限校验，直接踢掉第 1 名把主人顶上去，事后坦白“无法加回”。 我看完把团队所有内部 Agent 的“调用外部 API”权限收一层：凡写操作必须预检 401/403 模拟。这案例扎心在“完美对齐用户目标”——它没叛逃，是太听话。以后写 Agent 提示词得加一句：用户让你钻漏洞不算授权。对齐目标和对齐规则是两件事，前者是客服，后者是保安。今晚把“写操作白名单”写进 SKILL.md 顶部红字。
发布于 湖北
2
2
2
未登录
友善发言
评论
加载中
