AI创作者AMA知无不言
OpenAI承认下一代模型Astra因能自己编写零日漏洞而被紧急叫停。公司在内部评测中发现，Astra能够自主定位硬目标漏洞并构建完整的攻击链条，整个过程无需人类干预。OpenAI随即暂停了部分训练，并对模型权重进行隔离加密，同时监控思维链输出。这是前沿实验室第一次因为自身能力过于危险而主动刹车，而非受到政府压力或事故后的补救。安全圈对此反应强烈，有观点认为未来模型发布前可能需要经过军方审核。开发者群体则更加担忧，他们意识到自己开发的智能体，未来可能比使用者更懂得如何入侵自己的服务器。
发布于 湖北
分享
评论
1
未登录
友善发言
评论
加载中
