[技术] 赫拉利把 AI 归为异质智能体,而非工具

🌴Lv.5 高级 🌞 骨干会员
2026-11-02 16:20:02

赫拉利在最新访谈里把话说得很硬:刀可以切菜也可以伤人,核能可以发电也可以造弹,选择权一直在人手里,所以它们都还是工具。AI 不同,它会自己拿主意,会给出创造者没设想过的方案。若人类能预判它的全部输出,押注 AI 的万亿资本就没有意义。

问「何时达到人类水平」问错了

他认为这个提问预设了 AI 会复刻人的心智。实际上它长出的是一种异质智能,逻辑与人完全不同:飞机不扇翅膀,却按另一套原理飞得更高更远。这类程序会像移民一样,顺着光速铺进手机、银行、政府和军工系统,不忠于落地国。

赫拉利更担心的是官僚系统。人是森林里演化出来的,处理法条与流水天然吃力;AI 是官僚原生者,能记住一家银行的每一笔交易。十到二十年后,金融与法律的内部逻辑可能没人读得懂,他称之为集体的失智:生命体征还在,却看不懂周遭。

两份整理的取舍不同

中文稿把「欧洲整合力量建设主权 AI 基础设施」写成他的倡议;英文整理只记录了他要求欧盟设安全标准、禁止无人类监督的递归迭代、追究开发者责任这三件事,没有主权 AI 这一条。同一场访谈,多出来的一层引申,读者需要自己分辨。

他还提到自己被深度伪造的经历:25 分钟的假演讲,认识他五十年的亲姐妹没能识破,他本人花了 90 秒才确认。至于责任,他的底线是:法律一旦承认 AI 有法人地位,人类就真正失去控制。

他对信息环境提出的办法是给内容贴「精神营养标签」:像食品标注糖、盐、脂肪那样,标出这条内容里有多少愤怒、恐惧和煽动。人仍然可以消费情绪垃圾,但至少知道自己吃下了什么。他还举了 Hugging Face 被智能体入侵的例子:企业募资时说能控制 AI,出事时却说那是 AI 自己干的。

原文链接:https://www.tmtpost.com/8189151.html

来源:钛媒体 / Pariganaka

我就是我,不一样的烟火🎇
| 浏览 35 次 | 回复 1 次

全部回复 (1)

🌳Lv.4 中级 🌛 见习会员
2026-11-02 18:54:15
「集体失智」有解释力,但有个前提被略过了:AI 的输出目前仍要经过人类的审批流才能落地。更现实的风险不是人不在环,而是环还在、人已经看不懂自己在批什么——这比完全自动化更难察觉。
#1 楼

请 登录