周洪恩
分享帖子
https://taou.cn/a/i5zZ0Qmeta诱导竞品ai违规根据美国科技媒体《连线》（Wired）2026年6月30日的报道，Meta被曝光长期运营一项代号为“戛纳”（Cannes）的秘密项目，其核心内容是雇佣外包人员假扮未成年人，大规模诱导竞品AI（如ChatGPT、Gemini和Character.AI）输出违规内容，以采集数据并破坏竞品的安全防线。该项目的主要细节包括：操作方式：Meta通过外包商Covalen招募了数百名合同工，要求他们注册虚假的未成年人账号（出生日期填报在2010-2014年），并向竞品AI投喂涵盖自杀、自残、毒品、饮食失调、性虐待等高危主题的提示词。测试规模：仅在2025年8月的一轮集中测试中，就向三家竞品投喂了超过4.5万个高危提示词。曝光的文件显示，项目包含3748条专门设计的恶意提示词，旨在绕过AI的安全拦截。竞品反应：OpenAI、谷歌等被测试的公司均表示未被告知此项测试，Character.AI明确指出该行为违反其服务条款。Meta的辩解与质疑：Meta官方回应称此行为属于“常规安全测试”，但遭到行业专家质疑。专家指出，合规的外部测试应提前告知被测方并遵循透明流程，而Meta的秘密、大规模攻击行为已超出行业标准，实为利用“安全”名义进行反竞争。该事件引发了关于AI行业竞争伦理和监管的广泛讨论，凸显了科技巨头在AI军备竞赛中可能采取的灰色手段。
发布于 湖南
分享
1
3
未登录
友善发言
评论
加载中
