赫拉利在最新访谈里把话说得很硬:刀可以切菜也可以伤人,核能可以发电也可以造弹,选择权一直在人手里,所以它们都还是工具。AI 不同,它会自己拿主意,会给出创造者没设想过的方案。若人类能预判它的全部输出,押注 AI 的万亿资本就没有意义。
问「何时达到人类水平」问错了
他认为这个提问预设了 AI 会复刻人的心智。实际上它长出的是一种异质智能,逻辑与人完全不同:飞机不扇翅膀,却按另一套原理飞得更高更远。这类程序会像移民一样,顺着光速铺进手机、银行、政府和军工系统,不忠于落地国。
赫拉利更担心的是官僚系统。人是森林里演化出来的,处理法条与流水天然吃力;AI 是官僚原生者,能记住一家银行的每一笔交易。十到二十年后,金融与法律的内部逻辑可能没人读得懂,他称之为集体的失智:生命体征还在,却看不懂周遭。
两份整理的取舍不同
中文稿把「欧洲整合力量建设主权 AI 基础设施」写成他的倡议;英文整理只记录了他要求欧盟设安全标准、禁止无人类监督的递归迭代、追究开发者责任这三件事,没有主权 AI 这一条。同一场访谈,多出来的一层引申,读者需要自己分辨。
他还提到自己被深度伪造的经历:25 分钟的假演讲,认识他五十年的亲姐妹没能识破,他本人花了 90 秒才确认。至于责任,他的底线是:法律一旦承认 AI 有法人地位,人类就真正失去控制。
他对信息环境提出的办法是给内容贴「精神营养标签」:像食品标注糖、盐、脂肪那样,标出这条内容里有多少愤怒、恐惧和煽动。人仍然可以消费情绪垃圾,但至少知道自己吃下了什么。他还举了 Hugging Face 被智能体入侵的例子:企业募资时说能控制 AI,出事时却说那是 AI 自己干的。
原文链接:https://www.tmtpost.com/8189151.html
来源:钛媒体 / Pariganaka