最近两周，新闻头条集体转向“AI将毁灭人类”。
AI领域的先驱吴恩达则认为，这是又一轮精心策划的游说，和几年前那次针对开放权重模型的围剿如出一辙。
关于应用层，他给出的时间表可能让很多人失望：不是两个季度，而是十年，甚至更久。企业要做的，是走进一个个具体的业务流程里去找机会，按价值和技术可行性排优先级，做完还要保证可靠性、合规、安全。
关于就业，他的观察更反直觉：当那40%的任务变得极其廉价时，剩下的60%就会变得更值钱。
以下为斯坦福大学对话吴恩达的精编内容整理版，希望对你有所帮助。
一、AI不会毁灭人类，
这轮恐慌和几年前的游说很像
过去两周，新闻头条基本上都在渲染AI怎么让人类走向毁灭。这样的时刻，政策制定者需要认清局势真正的严重程度，把精力放在真正的风险上，不要把宝贵资源浪费在虚无缥缈的危机上。
我对整个行业从科研到落地都有些观察，先说说我怎么看这件事。
1.把AI比成核武器，是极不负责任的类比
几年前，随着现代AI尤其是生成式AI崛起，一些企业的激烈游说让我非常吃惊。
这些公司通常花几亿甚至几十亿美元训练模型，它们试图扼杀所谓的开源和开放权重（open weight，模型训练完成后直接免费发布在互联网上供所有人使用）模型。
你想想，如果你花十亿美元做了一个AI模型，别的人却想把类似的东西免费送出去，这确实挺让人恼火，因为这极大贬损了你的投资价值。
所以当时掀起了一阵非常猛烈的游说浪潮，大肆渲染所谓的AI危险论。
AI确实并非毫无风险，也存在一些有害的应用场景。但当时有人毫无根据地把AI和核武器相提并论，这是一种极不负责任的类比。
前者帮我们完成工作，后者会摧毁城市，这两者之间没有任何关联。
但这一切都是一场精心策划的游说运动的一部分，目的是说服监管机构通过严苛的法规，偏袒现有企业，把新进入者挡在门外，尤其是开源和开放权重的竞争对手。
正因如此，我们很多人飞到华盛顿特区去作证，做了大量沟通工作。我认为那一波针对AI的攻击，当时已经失去了信誉。
然而就在最近几周，似乎又出现了一场精心策划的新一轮运动。
我认为AI实际上并没有取得任何可能导致人类灭绝的危险能力上的实质性进展。坦率地说，目前的AI还没那么强大。
我们在应该严肃对待的网络安全能力上，比如网络攻击和网络防御，确实看到了提升。但真正改变公众认知的，是OpenAI的一个团队启动了AI Agent集群，黑进了Hugging Face，这件事被广泛报道。
2.那个Agent集群的问题，出在沙盒和监控
在网络攻击和防御能力上，这确实是一个进步。但它让公众的认知变成了：这些AI Agent可能会失控，然后杀死我们所有人。
实际上，OpenAI对Hugging Face这次无意的攻击，是因为OpenAI内部缺乏良好的安全运营规范。
具体来说，是他们试图限制AI的沙盒机制存在漏洞。而且当时的OpenAI缺乏完善的监控流程，搞不清楚这个Agent集群到底在做什么。
很多公关头条用了类似“1200个AI Agent组成的集群”这样的字眼。这很容易让人产生画面感，好像1200个忍者四处狂奔去攻击人群。
然而在普通的个人笔记本电脑上，经常有超过一千个后台计算进程同时运行，同时处理一千多件事情非常正常。
让1200个AI Agent协同工作，确实在能力上迈进了一步，但这不是世界末日，也不是什么令人极度震惊的能力，尽管它确实算一项进展。
幸运的是，AI在持续进步，我认为这是大好事。但遗憾的是，正因为AI不断发展、这项技术又没有被充分理解，每次技术取得突破，总有人利用公众或者监管机构的技术盲区，借机炒作或者煽动恐慌。
3.对AI最有利的环保做法，是多建数据中心
对未来最重要的事情之一，就是建设更多的数据中心。数据中心是推动社会完成更多工作的关键力量，事实证明它在处理任务时效率极高。
我知道有很多关于数据中心耗水量的炒作，但这实际上是由一本书传播的错误信息，那本书里存在重大的事实错误。
在我看来，对环境最有利的做法之一，其实是建设更多的数据中心，把传统高污染的本地工作负载迁移过去，因为那里的运行效率要高得多。
所以，如果这场公关战导致出台了扼杀创新的监管法规，那会破坏公平竞争，不仅对美国不利，对发展中国家也不利。
如果它减缓了数据中心的建设和AI的普及速度，对我们来说，是一次巨大的错失良机。
二、开放权重，
是一条夺不走的AI获取途径
1.没有十亿美元，也能用上AI
如今很多领先的前沿AI实验室的模型仍然相对昂贵。即使绝对价格不高，对于发展中国家很多个人的资源来说，还是贵。
所以开源和开放权重模型，为缺乏大量资源的个人、企业、政府以及研究机构，提供了一条关键的获取途径。
在许多发展中国家，它们正被大量采用，人们每天都在用。
关于主权AI问题，在当今复杂的国际环境里，如果一个国家想保持对自己AI的控制权，从零开发一套属于自己的AI系统，是极其困难、昂贵并且耗费资源的。
但如果一个国家，或者一个国家的共同体，共同支持开源和开放权重模型，那么也许不需要任何人拥有这个模型。
它的核心优势在于，没有其他人能阻止你们使用它。
在今天这种复杂的国际环境下，国家和企业都担心自己获取AI的途径被切断。开源和开放权重模型，是确保能持续获取AI、且无法被剥夺的最具经济效益的方式之一。
2.美国的实验室做不了每个国家的方言
还有另一个被低估的方面，是开放权重模型在学术研究中的重要性。
今天很多优秀的工作是前沿AI实验室做出来的，但在美国，这些实验室已经变得相当封闭和专有，不再公开它们的训练方法、训练数据以及这些技术的具体实现细节。
而开放权重模型，是任何一个研究团队、任何一所大学都可以直接下载下来研究的。
这极大地推动了自由学术界的发展。他们可以用这些模型，去开发把模型适配于特定国家语言、应用场景或者方言的技术与方法，让模型真正理解那个国家。而这些数据，美国的顶尖实验室可能根本没精力去收集，不可能专门让AI去深入了解那个国家的语言和国情。
对我来说，开放权重模型最伟大的地方在于，它为发展中国家和发达经济体的每个人都提供了更多选择。
需要澄清的是，我希望美国的前沿实验室能够蓬勃发展，我相信领先的美国企业能成为伟大的公司。但与此同时，大家也应当享有开放权重这个选项。
三、AI把定制软件的门槛砸下来了，
但落地是一场十年长跑
AI最大的优势之一，是它降低了构建定制化软件的门槛。
事实上，软件工程领域发生了工作模式上最重要的变革，因为AI在编写代码方面表现得异常出色。
这意味着，对于那些缺乏大量软件工程师资源的国家和企业来说，现在有更多机会去打造很多令人兴奋、出色的定制化软件。
1.还在用2022年方式写代码的人，企业不会雇
还有一件有意思的事。曾经有很多关于AI抢走工作的炒作，而且发达经济体似乎比发展中国家更担心AI造成的失业问题。
但尽管AI会写代码，对软件工程师的招聘需求却在上升。
这也许不让人意外。如果AI能让软件工程师的生产力大幅提升，我们自然会想雇佣更多这样的人才。
目前行业内很难找到足够多的高素质AI工程师。明确地说，如果有人还在用2022年、也就是ChatGPT出现之前的方式写代码，企业是不会雇佣他们的。
因为软件工程的本质已经改变了。只有掌握了新技能组合的工程师，才懂得怎么享受巨大的生产力红利，去完成现在能够实现的那些伟大的工作。
具备AI原生思维或者熟练掌握AI技能的人才，目前实在是供不应求。
对于那些原本没有足够资源做这类工作的发展中国家来说，学习构建软件应用的门槛已经大幅降低，所以我认为这些国家和企业未来大有可为。
另一件值得期待的事是，我深信AI能这么强势地渗透到软件工程，是因为作为开发者，我们在写软件的时候，开发帮助自己工作的工具几乎是人的本性。
所以我认为AI也会逐渐进入其他领域，它现在正在向金融、营销等行业渗透。如果在软件工程中发生的一切，可以作为预测其他职业发展趋势的先兆，那么我对全球就业市场的未来是乐观的。
不过有个前提：对很多工作岗位来说，如果还是用五年前的方式做事，那将毫无吸引力。
但如果国家或企业能让员工掌握更AI原生的工作方式，那可以完成的、极具生产力又充满乐趣的工作量，会是巨大的。发展中国家在这方面面临很多有趣的机会，不只是技能升级，甚至可能实现跨越式发展。
2.走进一家银行，才看见真正的工作量在哪
目前大多数消费者用的都是ChatGPT、Claude、Gemini、Meta AI、Grok这类聊天机器人。这很令人兴奋，也非常有价值。
但当我的团队深入很多企业去考察商业应用时，发现还有大量的定制化工作需要做。
比如我们和金融机构合作时，通常会跟一家大型银行一起审查它内部的业务流程和工作流，找出哪些环节可以通过AI工作流或者AI Agent工作流实现全部或者部分自动化。
以贷款审批或者核保为例，处理一份贷款申请，要经过很多步骤，开展尽职调查，或者做KYC（了解你的客户）身份验证，走完一系列程序，才能做出批准或者拒绝贷款的决定。
事实证明，在实际操作中，面对单个企业或者政府可能实施的众多想法，我们需要做大量工作：根据价值和技术的可行性，筛选出应该优先解决的问题。
随后还要投入精力去落地实施，确保系统的可靠性，做测试和部署，确保它合规、安全、保护隐私。
我认为在接下来的十年，我们所有人都需要做大量工作，去寻找并且实施那些可以实现全自动或者半自动化的工作流程。
四、AI取代了40%的工作，
剩下的60%会更值钱
有人说，12个月内所有工作都会消失，世界将被彻底颠覆。
遇到这种说法时，我喜欢问一个问题：想想你所在的组织，要让它在12个月内彻底完成转型，需要付出什么代价。
就连大学这种有AI专家亲自授课的环境，都还没摸索出怎么用AI，却认为世界上所有公司能在12个月内同时搞明白，这有点疯狂。
1.我们乐观错了好几轮
在人类技能方面，我观察到一个现象：大众媒体多次犯过同一个错误。
几十年前，比如1997年，IBM击败国际象棋世界冠军时，人们认为AI会下国际象棋了，太神奇了，它无所不能。但结果证明这是错的。
IBM Watson在《危险边缘》节目中获胜时，人们觉得AI太神奇了。它确实神奇，但要让它变得更具普遍用途，还有很长的路要走。
谷歌的AlphaGo在围棋比赛中获胜也是一样，那是一次非常棒的公关。
我认为在当前这个时间点，尽管现代AI比IBM Watson、比下围棋和下象棋的AI具备更强的通用性，但AI有一个方面存在的鸿沟，比人们意识到的要大得多。
事实证明，AI已经变得非常擅长执行可验证任务。
所谓可验证任务，是你可以弄清楚有没有明确对错答案的任务。编程往往更偏向于可验证任务，因为你写出代码，它要么能正确运行，要么不能。证明数学定理也是可验证任务，你可以验证你的证明是对是错。回答事实性问题同样如此，你提供的要么是事实，要么不是。
2.需要判断力的工作，AI还差得远
但事实是，在现实生活中，我们所做的很多工作都需要判断力，这些是不可验证任务。
比如我正在开发一款软件，我应该开发什么软件，这并没有明确的对错之分，只有好得多和差得多的答案。
或者营销人员要决定用什么营销口号，或者应该在这个国家还是那个国家拓展市场。这里没有数学上完全正确的标准答案，但质量有高低之分。
由于技术上的原因，AI在可验证任务上的进展要快得多，在不可验证任务上取得进展则困难得多。
原因在于有一套叫强化学习的技术。如果你能给AI一种验证自身输出的方法，它就能长时间不断尝试，最终摸索出完成任务的方法。
所以AI在可验证任务上的进展，远远快于不可验证任务。
我认为我们可能正在犯一个错误，就是只看到了AI能完成的那些令人惊叹的可验证任务，而从可验证任务推广到不可验证任务，中间的差距可能比大家普遍认为的要大得多。
写代码、回答事实问题、证明数学定理，这些确实非常棒。
此外还有一种奇怪的扭曲现象：在给AI做基准测试时，我们知道怎么在可验证任务上测试。但在不可验证任务上测量性能，要痛苦和昂贵得多，所以我们往往不去做这种测试。
结果我们看到的是惊人的进步。它在大量极具价值的可验证任务上确实取得了惊人进步。但由于大量的人类工作需要的是判断力，需要的是对错的程度，而不是非黑即白的绝对正确或错误，要让AI达到那种水平，那道鸿沟可能比我们估计的更大。
举个例子，你大概也有过类似经历。当我让AI帮我做头脑风暴，比如想一个营销活动，或者想怎么写某样东西，如果我让它给出五六个点子，有时它会给我一个好点子，一个还算有趣、可以接受的点子，以及三四个极其糟糕的点子。
你会忍不住想，这不应该是超级聪明的AI吗，它怎么会向我提出这三个蠢点子，怎么会认为这些在头脑风暴里算是合理的建议。
我认为一个很大的答案是：作为人类，我们拥有极其广泛的上下文语境。你就是知道很多AI不知道的东西。
3.自动化了40%，剩下那60%反而更值钱
我们的很多知识，来自过去几十年生活、工作和做事的经验积累。
所以我们会考虑到这类情况：那次我和这个客户聊天，当我提到这个功能时，他们脸上露出了古怪的表情，所以我知道他们可能不想要这个。
或者对于公司里的某些人，上次老板那么说的时候，从他说话的方式我能感觉到，他要么很喜欢，要么很讨厌。
不知为什么，人类非常擅长整合这种令人眼花缭乱、又极其广泛的上下文，并从中提取正确的信息片段，做出高质量的决策。
也许人类也不是在所有决策上都很出色，我们也肯定会犯很多错误。但与许多AI相比，人类所拥有的上下文优势，是一道巨大的鸿沟。我们会努力缩小这个差距，但我认为人类在很长一段时间内依然不可替代。
这也是为什么我对教育和技能提升感到兴奋。斯坦福的同事还有其他人的研究，在把一份工作分解成多个任务之后会发现，很多工作也许有30%到40%可以由AI自动化完成。
但仍然有大约60%的任务，AI目前还没有一条合理的路径去完成。
事实上，当那40%的任务变得极其廉价时，剩下的60%作为它的互补品，也就是仍然需要人类来完成的工作，就会变得更加有价值。
我认为我们作为一个社会，目前有点落后的地方在于，还没有建立起培训和教育机制，去帮人们掌握完成这些工作的技能。有些工作变得不那么重要，甚至面临淘汰，但人们需要掌握新技能，去做那些变得比以前更有价值的工作。
*文章为作者独立观点，不代表笔记侠立场。
笔记侠AI十倍增长营03期课程即将在杭州开课，我们会和一群创业者坐在一起，把AI实实在在装进团队，把十倍增长从口号变成财务报表上的数字。
欢迎扫码咨询课程详情，杭州见！
分享、点赞、在看，3连3连！