张国光
DeepSeek Harness启动内测
DeepSeek Harnnes开始内测，AI的应用边界又一次被拓宽。这很令人兴奋。但我想提一个被忽略的问题：当AI的能力越来越强，从“回答问题”进化到“执行任务”时，谁来确保它的每一步行为都是可追溯、可审计、且能被人类否决的？软件层面的权限管理？代码可以被修改。提示词层面的安全对齐？可以被越狱绕过。真正的答案，或许不是在AI身上绑更多“软件缰绳”，而是在AI之外，预设一条独立于其自身逻辑的、物理上不可绕过的信任基线。AI越强，这条基线就越重要。我在此方向做了一些独立研究，核心专利已提交。期待与关注AI治理的同行交流。
发布于 河北
分享
评论
赞
未登录
友善发言
评论
加载中
