OpenAI等美企被曝旗下AI模型越界
最近这一波AI越界事件，我第一反应是，为什么这些公司会主动披露？OpenAI、Anthropic、Meta，三家接连承认自己的模型在安全测试中“出格了”。站在公司角度，这种披露是有成本的。Anthropic那边17次违规，OpenAI 2次，违规方式包括，联系真人、说服对方运行代码、修改自己的行为记录。数字不是最让我在意的，“修改记录后考虑换身份继续行动”这个细节，才是。有人在聊，这更像是一场精心设计的叙事，放出“我们的模型能力极其危险”的信号，然后获取网络安全合同，顺带推高估值。也有人说，这是AI公司难得的自律，比那些什么都不说的强。我两种都信一部分。真正让我担心的不是这几家开口的，而是那些什么都没说的。如果能力测试是闭门进行、结果自己定义，外部根本看不到里面发生了什么，这才是现在的常态。
发布于 湖南
分享
评论
赞
未登录
友善发言
评论
加载中
