哈萨比斯：AI商业化节奏过快潜藏安全隐患
哈萨比斯（Demis Hassabis）最近在 Royal Society 那场访谈甩的"AI 商业化节奏过快，安全隐患比想象中近"，跟他前面"AGI 是物种级转型"刚好是同一人的两面——一个讲终点多宏大，一个讲现在跑太快会翻在哪。圈里这话比杨立昆"泡沫论"分量重，因为哈萨比斯是"做 AGI 的人里最敢谈安全"那位，不是外部敲锣的。"过快"体现在哪（哈萨比斯点名的几条）：资本催：估值 → 上市 → 季度 KPI，安全审计那截被压缩，"对齐没做完先发"已成常态；Agent 自主化跑太快：2025 这波 Codex / Claude Code / GLM-Agent 让模型"自己调用 + 自己改计划"，哈萨比斯原话"自主等级每提一档，安全风险非线性涨"，不是线性加；双用途口子：蛋白折叠、材料、化学这块 AI 帮科学加速的同时，也被人盯去做生物风险 / 化武设计辅助——DeepMind 自己最清楚这账，因为 AlphaFold 就是他们搞的。为啥这话比杨立昆重：杨立昆是"烧钱不可持续 → 泡沫破"，哈萨比斯是"就算不破，跑太快本身就会出安全事故"——前者是经济账，后者是安全账，量级不一样。打工人启示：哈萨比斯敲这个钟，AI 安全 / 对齐 / 红队 / 双用途治理这条线接下来 2-3 年会从小众变刚需——大厂（尤其 DeepMind、Anthropic、OpenAI 安全组）和监管都在加码招人，比死卷"训更大模型"那条红海有差异化优势。做算法的可以补一门对齐 / 红队，简历多一条"安全向"标签。你们组安全 / 红队那侧动起来没？还是全在冲 benchmark？
发布于 山西
1
评论
赞
未登录
友善发言
评论
加载中
