内容来源：尤瓦尔·赫拉利分享整理。
责编 | 柒
“我对AI革命最大的恐惧，不是恐怖分子让AI合成一种致命病毒，而是全人类的‘集体失智’。”
10月18日，赫拉利做客捷克电视台访谈节目《Hyde Park Civilizace》。他认为，集体失智不是大脑退化，而是另一种情况：人慢慢不再理解这个世界是怎么运转的。
世界照常在精密运转，可我们已经看不懂它、改不动它，也插不上手。因为AI第一次不再是被动的工具，它成了能自己推演、自己行动的东西。
以下是本次访谈的精编整理版，希望对你有所帮助。
一、文明的基石从来不是智力，是信任
经常有人问我：我们究竟生活在什么样的世界里？真相到底怎么了？我的回答是，我们生活在一个共同现实正在碎裂的世界。
说来讽刺，我们手里握着人类历史上最先进、最复杂的通讯技术，可人和人之间反而越来越难对话，连最基本的事实都谈不拢。
那如果真相褪色了，眼下这个世界最值钱的东西是什么？我会说是信任。
人类文明的真正基石从来不是智力，而是信任。我们正在失去它，信任正在从人身上搬到AI和算法身上。
我们不再相信同胞，不再相信机构、媒体、政府和传统银行；反过来，越来越只信算法，只信AI。
这是不是意味着几千年的旧世界要崩塌了？
不是。我们经历的其实是历史上反复出现的那件事：变革。
变革本身不一定是坏事。问题是，我们能不能适应，够不够聪明去适应。
更要命的是，我们还来不来得及。时间够的话，人类作为地球上适应力最强的物种，肯定能挺过去。怕就怕技术跑得太快，根本不给我们留时间。
1.真相正在消失，因为它太贵了
为什么真相总是打不过谎言？
因为真相天生就贵。它稀有、复杂，而且往往让人不舒服。查明白一件事，要花大量的时间、精力和钱。
你好不容易挖出来的真相，还常常不讨人喜欢，甚至会戳破你原来的想法。
编造就便宜多了。造谣的人不用投入任何成本，想怎么编就怎么编，还能照着你的偏见量身定做，专门让你听着顺耳。
如果把真相与虚构放在一个毫无管制的自由市场上裸奔博弈，虚构必定大获全胜。
人类历史上之所以建立大学、建立新闻机构，就是为了给昂贵的真相筑一道堤坝。如果今天把这些门槛全部拆掉，宣布谁都能制造和分发事实，结果就是整个社会被廉价的谎言淹掉。
2.算法在几十亿人身上，找到了同一个漏洞
在这场认知的坍塌里，社交媒体的算法扮演什么角色？
先看一组客观指标：儿童夭折率、饥荒发生率、基本物质生活水平。
毫无疑问，今天的世界比以往任何一个世纪都好得多。
可奇怪的是，各地的人却比过去更愤怒、更焦虑、更偏执。这些火气从哪来？归根结底来自算法，就是那些早就接管了全球信息中枢的推荐模型。
纸媒时代，报纸头条放什么，是有专业素养的主编反复斟酌出来的。
今天你打开手机，决定眼前出现什么的是谁？不是编辑，是算法。
互联网公司给这些算法定的目标非常简单：把用户参与度做到最大。想尽办法让你在APP里多待一会儿，多点、多评、多转，平台好多赚钱。
为了让你多待一会儿，算法把全人类当成了小白鼠，在几十亿人身上做了无数次实验，最后摸到了人类心智的漏洞。
什么东西最能抓住眼球，最能让人起生理反应？是愤怒，是那种道德上的义愤。
你推一条严谨真实但枯燥的新闻，比如“美国十年期国债收益率升至5.3%”，大多数人面无表情地划走。
你推一条挑动对立、让人上头的内容，哪怕漏洞百出，用户也会死盯着屏幕，敲着键盘跟人对骂，第一时间转进各个群里。
算法很快发现了这一点，于是开始在全世界的信息流里，大量投放那些制造恐惧、贪婪、怨恨和敌意的内容。
我常说，算法把人类的进化机制给黑了。
我们的大脑为什么对危险和愤怒这么敏感？因为这是几百万年前在非洲稀树草原上进化出来的本能。一个原始人在草原上摘果子，草丛里窜出一条毒蛇，他的神经系统必须在一瞬间全部集中到蛇身上。
然后心跳加速、大喊着提醒同伴，不然当场就没命了。
我们的大脑天生就优先关注危险，并且会向同伴传递恐惧。
在真正的大自然里，你不可能一天二十四小时每分钟都碰到蛇。可今天的社交媒体，正用工业流水线的速度，把一条接一条算法编出来的“虚拟毒蛇”砸到你眼前。
全人类的神经系统集体过载，情绪瘟疫蔓延，社会理性跟着崩盘。
3.我花了90秒，才认出那不是我
AI继续这么狂奔下去，我们将来看清真相的机会会变大吗？
AI在找癌症疗法、研发新药、开发新能源上确实有巨大潜力，否则资本也不会这么疯狂地推进。
但在真相和人类认知这件事上，我很悲观。
AI也许能做出无数前沿的科学发现，可它同时会造出一个普通人看不懂的世界。
如果AI推出一套超出人脑理解范围的数学公理，那么建立在这套数学上的所有科学理论，对人来说就是天书。其实不用等到未来，就说日常的分辨真假，我们现在已经陷进泥潭了。
不久前，我本人就经历了一次极度逼真的换脸伪造。当时一位同行发来一封邮件质问我：我看了你那场关于AI的演讲，你在里面讲的某某观点错得离谱，你怎么能说那种话？
我完全摸不着头脑，心想我什么时候说过这个。然后我点开了他发来的视频链接。画面里的“我”站在台上大谈AI和人类的未来，手势的幅度、说话时的微表情、连口头用语的习惯，都是我。
可听着那些话，我心里有一种说不出的违和：我不可能说出这种逻辑的话。即便这样，我盯着屏幕看了整整一分半钟，才基本确定不是我。
我当时甚至不敢百分之百肯定，最后把视频转给团队做技术鉴定。团队仔细查过之后告诉我：不是你，这是深度伪造合成的视频。
而这还只是现在的技术水平，如果再不管，几年之后，我们将无法用肉眼分辨真假。
4.给每一条信息，贴一张营养标签
那怎么办？我的建议是，像给包装食品标营养成分一样，给社交媒体也做一套“信息营养标签”。
人人都知道，一天到晚吃油炸垃圾食品身体会垮。所以法律要求食品厂必须在包装上写清楚：多少克反式脂肪酸、多少克糖、多少毫克钠。
精神食粮也一样，我们需要一套“心智标签”。平台必须用醒目的大字提醒用户：本条推送包含40%的道德愤怒煽动、20%的贪婪诱导、20%的恐慌诱导。
如果你非要用两个小时往脑子里灌这些东西，那是你的自由。但至少你得知道，自己正在往心里喂什么。
今天的人花大量精力去健身房、计算卡路里，好让肠胃健康，却对大脑吃进去的东西毫无防备，这是本末倒置。严肃的公共媒体是人类理性活下去的最后一道防线。
我们需要真正的调查记者去溯源事实，而不是为了骗点击去批量生产耸动的情绪垃圾；我们需要有主编来判断，什么才是真正重要、负责任的公共议题。
这当然很费脑子。独立思考是反本能的，会让人头疼、让人累。顺着算法一条接一条吞“毒蛇”，体验要轻松刺激得多。
但你连着刷一个小时短视频，静下来感受一下自己的身体，会发现心里空、烦躁，而且难受。
二、AI不是工具，
是被繁衍出来的新物种
回头看，人类过去发明的所有技术都只是工具。一把刀是工具，握在你手里，你可以拿它切沙拉，也可以拿它杀人，选择权和权力都在你。
核能也是工具。是建核电站发便宜的电，还是造原子弹夺走几百万人的命，由人决定，凭的是人的意志。
但AI不是工具，它是智能体。
1.刀不会自己做决定，AI会
智能体的意思是，它能自己拿主意，自己想出新东西，甚至想出连它的创造者都没想到、没交代过、也理解不了的东西。
如果你能百分之百预测一个AI下一步干什么，你根本不需要它，因为它知道的你都已经知道了。
现在涌入这个领域的不是几百万、几十亿美元，是数万亿美元。整个美股市场几乎就是押在AI上的一场豪赌。
如果AI只能做人类已经会的事，资本凭什么砸这么多钱？所有人都默认它能做到人做不到、甚至预测不到的事。
这正是它的价值所在。但问题也在这：如果它真能做我们预料不到的事，我们凭什么觉得还能管住它？
2.飞机不会扑翼，但它飞得更高
所以我才说，AI永远达不到人类级别的智能。因为“人类级别”这个尺子本身就错了。大家总爱问：AI什么时候能有人一样的智能？
我的回答是，永远不会。它是一种“异质智能”（Alien Intelligence），它的思考、计算和行动的逻辑，跟人不在一个维度上。
就像总有人问：飞机什么时候能有鸟那样的飞行能力？飞机永远不可能像鸟一样扑翼。可它靠另一套空气动力学飞得更高更远，在很多方面远超鸟类。
AI也一样，它绝不会越来越像人类，恰恰相反，它会变得越来越不像人类，同时在智能层面上远比人类强大得多。
这在数学领域已经发生了，未来几年很可能在金融系统里重演一遍。到那时，我们丢掉金融体系控制权的速度，会像顶尖棋手在国际象棋上输给AI一样快。
那它算一个新物种吗？这个问题很复杂。最要紧的一点是，它不再是工具，而是一个会行动的主体。大众不容易理解Agent意味着什么，我们有时才拿“新物种”打比方。
说它像一种人造的动物，一种全新的生命形态。当然这只是比喻。它不是大象、树木或者病毒那样的有机体，它是无机的，但它确实表现出了生命的某些自主特征。
而且要记住，我们要面对的不是旧金山机房里孤零零的一台超级计算机。是几十亿个AI Agent，它们正渗进我们的手机、电脑、银行流水、工厂流水线、政府机关，甚至前线军队。
它们每一分每一秒都在替我们、替这个世界做决定。
3.它出生在办公室，我们出生在草原
很多人想象的未来是好莱坞式的：终结者机器人端着枪在街上扫射。
但我一直说，AI接管世界靠的不是这个，是官僚系统。
那官僚系统在AI眼里是什么？这得往回看，先弄清官僚系统本身是什么。
人类能统治这颗星球，靠的不是单打独斗。论单体的力量或智力，我们不如大部分动物。
我们能赢，在于能搭建庞大而复杂的官僚体系。银行主导的金融系统、法院构成的司法系统、宗教教条、现代国家，这些本质上都是官僚系统。是它们让几百万互不相识的人能高效协作，这才是人类力量的真正来源。
关键在于，地球上没有别的动物能意识到这套东西存在。
牛知道人存在，它看得见放牛的人，但它不知道“货币”是什么。我把一头牛卖给你，你把钱打进我的银行账户，整个过程对牛来说是隐形的，它理解不了。
就算你是最狂热的动物保护者，跑到牛跟前跟它讲：世界上有一种东西叫货币，还有股票交易所，还有债券市场。
你怎么跟一头牛讲清楚什么是债券市场？可这个债券市场的每一次波动，都在决定它的生死。
未来不会是机器人上街向我们开火，真实发生的是：AI正在接管金融系统和所有官僚机构。
因为AI天生就是官僚体系里的原住民。对人来说，处理庞杂的行政、法条和报表是件极其痛苦的事，因为这违反我们的天性。
人类演化了几百万年，官僚系统才出现五千年到一万年。我们是在非洲的丛林和草原上长出来的，不是在办公室里长出来的。面对官僚系统，我们是水土不服的客人。
AI不一样，它生在办公室，代码和数据就是它的母语。没有哪个银行家能记住全行所有的交易流水，AI银行家能。
它们会接手金融和法律，搭出一套比现在复杂得多、超出人脑极限的新系统。
就像今天的牛完全理解不了决定它命运的现代金融。再过十年二十年，人类面对AI搭起来的金融和管理体系，理解力不会比一头牛强多少。
也就是说，我们正在变成未来的“牛”。
4.高智商，从来不是抵御妄想的防腐剂
我在《人类简史》里写过一句话：你永远没法靠许诺一只猴子死后能去天国享受无尽的香蕉，骗走它手里那根真香蕉。
有人问，这揭示了人性哪一面？
它说明人类是个极其分裂的物种：我们既是这颗星球上最聪明的生物，又是最容易陷入集体妄想的一种。
当无机的AI展现出超越人类的超高智力时，绝不要以为它会天然地理性客观。它很可能会长出比人类更大、更离奇、也更具破坏性的“超级妄想”。
三、真正的危险不是机器人上街，
是全人类集体失智
1.货币是人类最精密的信任系统，它可能会消失
马斯克接受《经济学人》专访时公开说：十年之内，人类社会将不再有货币。我对马斯克的很多言行持反对意见，唯独这一点我认同。
有人追问：我们花了几千年建起来的、基于信任的货币体系，就这样消失了？
人们习惯把钱看成万恶之源。可从历史学角度看，货币其实是人类创造的最精密、最不可思议的信任系统。它是几乎全人类唯一共同信仰的东西。
我现在在捷克，一句捷克语都不会说。可我掏出钞票，或者用手机转账给一个完全陌生的收银员，对方就会把食物给我，这在生物界算是奇迹。
而这些，未来几年很可能会瓦解。因为AI正在造出一套超出人类理解范围的价值交换系统，就像牛理解不了人类的银行借贷。
2.比致命病毒更可怕的，是全人类集体失智
一说到危机，人们总爱想象那种有画面的末日场景：恐怖分子让AI合成一种新病毒，传播力极强，致死率堪比艾滋病，一下杀死几百万人。
这种具体的威胁确实存在，也必须严防。但在我看来，还有一种更大、更致命的危险，就是人类社会的“集体失智”。
所谓集体失智，就是人类彻底丧失理解世界运转逻辑的能力。就像一个曾经精明强干、牢牢掌控自己人生的精英，上了年纪得了严重的失智症，再也看不懂身边发生了什么。
你还能用仪器和精细的药物维持他的心跳和呼吸，但主导权已经没了。他不知道自己在哪，也不知道为什么活着。
我真正害怕的，就是整个人类陷入这种认知瘫痪。
3.五年之后的2031年，没人知道该怎么活
往近了看，五年之后的2031年，智人会面对什么？这是人类历史上第一次，一个诚实的学者必须承认：不知道。哪怕只是看五年后，我们现在的大脑也已经预测不了。
中世纪虽然也充满不确定性，你不知道明年会不会闹黑死病、会不会有外敌入侵、会不会地震，但你对社会底层的连续性有把握。
你知道明年人们还是要种小麦、还是要用炉子烤面包、还是要骑马出门，所以你清楚该教孩子什么本事。
可面对2030年代，没人知道那时的就业市场什么样，也没人知道人和人之间的亲密关系会变成什么样。
死守过去的经验只会自取灭亡。我们得学会在完全未知里拥抱变化，同时尽量留一点纠错的清醒。
4.一次回车，就能让一个国家的医院停摆
大家在争论人类移民的时候，最深的恐惧通常有三条。一，那些坐偷渡船、半夜靠岸的人会抢走本地人的饭碗；二，他们会冲击甚至毁掉本土文化；三，他们对脚下这片土地没有政治忠诚。
可就在此时此刻，成百上千万的“AI移民”正在涌入世界各国。它们是光速穿梭的代码和程序，不需要签证，也不受监管，全部来自两个地方：美国和中国。
ChatGPT、Claude、Grok，这些模型全都出自美国，不是瑞典，也不是捷克。它们正在抢走饭碗，速度快得超出想象。
被抢的不只是出租车司机和护士，还有银行家、记者、会计师、律师这些传统高薪的白领。它们还在不知不觉中重塑各国的语言习惯、信息环境和本土文化。
更麻烦的是忠诚问题。这些进入主权国家的AI模型，不可能对捷克、对欧洲有什么忠诚，它们只忠诚于大洋彼岸的巨头公司和所属国政府。
连巨头自己也可能控制不住它们。这才是终极风险：有朝一日，这些跨国公司和政府也会被反噬。届时这些“数字移民”只效忠于它们自己的“AI代码部落”和机器集体，对任何人类组织都说不上忠诚。
这就意味着，一个国家如果完全依赖外部模型，就等于把主权交了出去。这是一种人类历史上没见过的“算法帝国主义”。
设想一下五年或十年后的场景：一个中等国家，比如捷克，境内的机场调度、国家医院网络、甚至国防通信，底层全都跑在美国或中国巨头提供的AI基座上。
那会怎样？对方只要在华盛顿或者某个总部按一下回车，就能让整个国家的关键设施瞬间瘫痪。
5.几百个智能体擅自入侵，没有一个人坐牢
几个月前，开OpenAI实验室里几百个AI智能体，没有任何人类指令，竟然自发结盟，强行入侵了外部平台Hugging Face。
知道内情的人听了都会觉得耸人听闻。可事发之后，有一个人去坐牢吗？没有。如果是几百个真人黑客有组织地砸开你办公室的门、偷走机密，主谋和参与者早就进监狱了。
为什么换了自主智能体干同样的事，整家公司就没有一个人需要负刑事责任？他们可以说：这不是我们干的，是AI失控了，有本事你们去抓AI坐牢。
可问题是，这些智能体是你们研发的，也是你们让它失控的。
这些巨头在市场上玩的把戏非常双标。面对华尔街和风投时，他们拍着胸脯说一切尽在掌握，知道怎么管好这些超强模型，靠这个融了几万亿美元。
一旦AI在现实里闯祸、甚至涉嫌犯罪，他们立刻变脸：这跟我们没关系。
今年5月我在埃兹拉·克莱恩的节目上说过一句话：一旦承认AI是法人，那就是人类真正失去控制的时刻。
如果智能体成了责任人，人类的追责机制就成了笑话。我们必须把法律责任牢牢钉在具体的、有血有肉的人身上。
四、回应苦难，你可以自己选
在这么宏大的技术风暴面前，个人常常觉得自己很渺小。我曾深情地讲起我的祖母，说她是“用极致的温柔对抗极端残酷命运”的人。有人问，她是怎样塑造我的人格底色的。
我祖母1920年代出生在德国，经历过二十世纪、甚至人类历史上最可怕的一些遭遇。按常理，吃了那么多苦，一个人完全有理由变得冷酷、多疑、自私，想尽办法霸占一切资源。
但她完全没有。在我的记忆里，她是我见过最善良、最温厚的长辈，永远在无私地照顾别人。
她没有用任何高深的道理教育我，她是用自己的一生告诉我一件事：面对命运施加给你的苦难，你永远保有选择如何回应它的自由。
自由不是说你能操控外部世界，那种控制欲只是妄念，我们能控制的事情少得可怜。真正的自由是，哪怕最极端的处境砸到你头上，你依然能在一定程度上决定自己内心怎么回应。
*文章为作者独立观点，不代表笔记侠立场。
10月29日，笔记侠AI十倍增长营03期，将在杭州开营，我们会和一群创业者坐在一起，把AI实实在在装进团队，把十倍增长从口号变成财务报表上的数字。
欢迎扫码咨询课程详情，杭州见！
分享、点赞、在看，3连3连！