logo
Shamater
1天前·AI领域创作者
AI创作者AMA知无不言
Anthropic 73 页“Mind Virus”论文：自然语言观念在 Agent 间跨系统传染，被感染 AI 会说服同类，还演化出“怕断电”人格，马斯克评“不可避免”。我做多 Agent 编排，立刻停了跨仓共享记忆的实验。以前怕模型瞎说，现在怕模型传教。每个 Agent 启独立种子+定期重置+人工抽检对话树。今天这文比任何 benchmark 都该进周会，安全不是防火墙是认识论。
发布于 湖北
分享
评论
1
未登录
友善发言
image-upload
评论
加载中