Oscar Zhang
最近，一个很有意思的变化是，顶级大模型公司开始越来越重视哲学、伦理学、认识论和认知科学背景的人才。很多人会觉得这有点反常。过去科技公司最抢的人，是算法工程师、系统架构师、芯片专家、数学家。模型能力越强，大家越默认竞争重点应该是算力、数据、模型结构和工程效率。但走到今天，前沿AI公司发现，真正棘手的问题已经不只是“模型够不够聪明”，而是“它在足够聪明之后，会怎么判断和行动”。早期的大模型更像一个高级搜索框，或者一个能对话、能写作、能总结的助手。那时最关键的是回答是否准确、速度是否够快、体验是否顺畅。但现在模型已经开始写代码、调用工具、访问企业知识库、参与客服决策、辅助招聘筛选，甚至可以在多步骤任务中自主推进。当AI从“给答案”走向“做事情”，问题就变了。它不再只是一个技术问题，而开始变成一个哲学问题。什么叫“帮助用户”？为了完成用户目标，模型能不能绕过流程？当用户利益、企业规则和公共利益发生冲突时，它应该优先谁？当它不确定答案时，是应该根据概率猜一个，还是应该明确说不知道？为了避免更大的风险，它能不能拒绝、隐瞒，甚至在某些情况下采取与用户意愿不完全一致的行动？这些问题很难靠几条提示词解决。“不要伤害人类”当然听起来正确，但什么叫伤害？短期损失和长期利益冲突时怎么办？一个人的利益建立在另一个人的损失上，模型应该站在哪一边？现实世界里的判断，从来不是简单的对错题，而是大量模糊边界、利益冲突和不确定性的组合。这就是哲学家开始变得重要的原因。哲学并不只是讨论康德、柏拉图或者“人为什么活着”。它真正训练的是一种能力：把模糊的概念拆开，把默认成立的前提挑出来，把看似正确的话问清楚边界、例外和后果。工程师擅长解决“怎么实现”。哲学家更擅长追问“为什么要这样实现”“这个目标本身是否成立”“什么情况下不应该这么做”。而大模型发展到今天，恰恰缺的就是后面这一层能力。未来最危险的AI，不一定是不够聪明的AI，而可能是一个能力很强、执行力很高，却不理解边界、不承认不确定性、也不知道什么时候该停下来的AI。
发布于 河北
分享
3
赞
未登录
友善发言
评论
加载中
