Claude开始把每一次提示词先送去“公司安检”。Anthropic最新推出推理钩子功能，面向Claude企业版开放测试。企业可以把Claude.ai、Cowork和Claude Code中的受管控提示词，先发送到自己的AI安全服务器，由公司判断允许还是拒绝，通过后模型才会继续推理。所有请求都会签名，拒绝记录也会进入合规日志。这意味着企业AI安全正在从“出了问题再查日志”，变成“模型开始工作前先过一道闸门”。比如员工把客户数据、源代码或未公开财务信息交给AI时，公司可以提前识别并拦截；不同部门也可以设置不同规则，普通文档可以直接处理，高敏感任务则必须审批。但新的问题也来了：如果公司能检查每一次提示词，员工的工作内容和隐私边界应该如何划分？安全规则过严，会不会让企业AI变得很难用？未来ToB AI产品的竞争，可能不只是模型谁更聪明，还要看谁能把权限、审计、安全和使用体验真正结合起来。你觉得企业应该拥有拦截员工AI提示词的权力吗？#Claude企业版# #AI安全# #AIAgent# #企业AI# #人工智能#
发布于 立陶宛
分享
评论
2
未登录
友善发言
评论
加载中
