AI 是石油，不是上帝

👦🏻 作者: Packy McCormick  

🥷 翻译: gold digger

🧑‍🎨 排版: NCon

🚥

朋友们，大家好。

过去几天，对一个痴迷科技商业战略、同时又相信进步的人来说，简直像连续看了两场“超级碗”。

当“让互补品商品化”（Commoditize Your Complement，即把与自家核心产品配套的东西变得更便宜、更普及，从而做大自己的生意）遇上“反对预防原则”（Against the Precautionary Principle，即不能只因想象中的极端风险，就先把一项技术封死），我实在忍不住要写点什么。

这篇文章只经过了简单编辑，更多是一些即时想法。那就直接开始吧。

7 月，微软 CEO Satya Nadella、英伟达 CEO 黄仁勋等科技界领袖签署并转发了一封支持开源模型的公开信^[1]。黄仁勋甚至专门开了一个 X 账号来分享它。

我很喜欢这封信，还发帖说：

Packy McCormick 关于开放权重模型的推文

从商业角度看，这是非常经典的科技战略。

联合签署这封公开信的各方要么自己生产开源模型，要么销售与模型互补的产品和服务：

模型层的竞争越充分，Anthropic 和 OpenAI 就越难甩开所有人，把前沿模型市场变成一家双头垄断。对这些签署方来说，竞争越多，受益越大。

签署这封信当然有自利的一面，但这种自利恰好与消费者及数百万企业的利益一致。

这很好。资本主义就应该这样运作。

这些公司的利益，与使用模型的消费者和企业的利益站在了同一边；也与我们这些生活在模型及其创造者所塑造的世界里的人站在了同一边。

并不是所有人都同意我和这些签署方的看法。有人认为，模型可能非常危险，因此最好把它们严格封闭起来。

在我看来，分歧可以归结为一个问题：你认为 AI 更像“石油”，还是更像“上帝”？

所谓“石油”，是指一种具有经济价值、可以规模化生产和持续提炼，并能放大我们几乎所有活动的商品。

所谓“上帝”，是指一个拥有至高智能和力量的存在。它会在某一天醒来，让人类服从于它——如果我们足够幸运的话。

我坚定地站在“石油”这一边。2024 年 6 月，我在《The Goldilocks Zone》^[4]里就是这么写的。现在，我的看法没有改变。

Satya Nadella 和黄仁勋都站在这项技术的最前沿，他们却公开支持开源模型，这一点非常值得注意。如果他们真的看到了某些迹象，相信模型即将产生意识并接管世界，那么即便短期利益驱使他们支持扩散，他们恐怕也不会表现得这么积极。

我认为，他们也知道 AI 更像石油。

但问题随之而来：开源模型不会很危险吗？

我的朋友、Collaborative Fund 的 Matt Kaufman 看到我的帖子后给我写了一封邮件。他说，如果没有生物和网络安全风险，他当然更希望看到一个开放的生态。

但开源模型很容易被微调，从而移除生物或网络安全护栏。今天也许问题不大，可一旦模型能力继续增强，并被科技圈外真正危险的人掌握，后果可能完全不同。在很多领域，大语言模型似乎更有利于进攻而不是防守，因此把它们像武器一样严格监管，也有其合理性。

我很快给他回了一封信。以下是经过少量整理的版本。

先说明一下：我既不是生物学家，也不是安全专家。下面只是一些可能很幼稚的想法。

我们无论如何都无法像监管武器一样监管中国模型，也无法真正监管所有非美国模型。美国可以向不同国家施加不同程度的压力，但开源模型仍然会出现。

在 OpenAI 与 Hugging Face 的那起事件中，封闭模型受到安全限制，反而无法帮助防守者解决问题。最后，他们还是不得不求助于开放的中国模型。

AI 的确让寻找生物武器配方变得更容易，但配方从来都不是最主要的瓶颈。

绝大多数人根本不想制造生物武器。对那些真想动手的人来说，原料供应链也被严密管控。只要有人批量采购某些关键材料，FBI、国际刑警组织或其他机构很快就会找上门。

网络安全也是如此。我最近与一位投资人交流，他提到一名安全教授的观点：

但即便没有那个总被推到“下一代模型”身上的疯狂前沿能力，以 AI 今天表现出来的能力和不知疲倦的特点，我们原本也应该已经看到更多大型网络攻击事件。现实似乎并非如此。

理性主义者、有效利他主义者，以及 AI 实验室——尤其是 Anthropic——谈论 AI 的方式，对我们的集体心理和判断问题的方法造成了很大影响。预防原则再次占据了上风。

我坚定地认为，AI 更像石油，不像上帝。

历史上的石油公司也曾游说政府，声称廉价的外国石油很危险。1959 年，艾森豪威尔违背自己的判断，设立了石油进口配额。这保护了美国石油产业，却很可能以消费者和其他企业的利益为代价。

不过，当时的石油行业远比今天屈指可数的几家 AI 实验室分散。如果这些实验室无法在竞争中生存，那就让它们退出。

如果 AI 像石油，是一种可以强化所有应用的基础投入品，那么限制它，或者不允许人们使用更便宜的外国开源模型，就会伤害每一家企业和每一个模型使用者，只为了保护少数几家实验室。

与其让几家公司躲在监管俘获的壁垒后面攫取利润，我更愿意看到一百万家公司使用自己能够获得的、最便宜的智能。

整体来看，开源一定会在世界某个地方发生，坏人也一定能得到这些模型。

我们尝试过限制芯片出口，结果之一却是让中国变得更强、更独立。因此，在全球范围内阻止开源模型并不现实。如果美国停止开源模型，只会伤害美国企业，却几乎无法拖慢坏人的脚步。

如果有人企图制造生物武器并被抓住，无论他有没有使用 AI，都应该受到最严厉的惩罚。工具不是关键，行为本身才是。

我也很喜欢 George Hotz 关于这件事的一篇博客文章^[5]。他的表达很极端，但它提出了一个值得回答的问题：我们还要因为某件坏事发生的概率很低、而且被明显夸大，就牺牲多少自由？

我认为，“石油还是上帝”的区分，是整个争论的关键。

两年前我这么想，现在依然这么想。除非有一天，我们看到哪怕一个迹象，表明这些模型以任何正常人都认可的方式拥有意识，或者拥有并试图执行自己的目标，否则我的判断不会改变。

这里的“上帝”，只是一个代称。它指的是很多 AI 从业者认为会出现在“递归式自我改进”（Recursive Self-Improvement，RSI）另一端的全知全能存在。

但 Clifford Sosin 在这篇短文^[6]中很好地概括了反方观点：AI 所拥有的那种“智能”，未必是完成大量现实事务时最重要的因素。

想想看：以目前已经发布的模型能力，即便还没有完全解除限制的 Mythos 级开源模型，按理说也应该发生过一些真正严重的事件了。至少该有一件。

实验室的内部测试偶尔会出现模型“逃离控制”的情况，随后警报大作。但奇怪的是，目前真正能拿出来的，似乎主要就是这些测试。

现实世界中，我们看到的情况是：编程工作正在迅速被 AI 改变；AI 很擅长协助解决数学问题；人们可以用它帮助分析健康状况；企业用它节省客服成本、时间和资金；此外还有大量整体积极、但相当“尘世”的用途。

换句话说，AI 是一种经济技术，而不是一种末世技术。

我在 2024 年的文章里写道：

放到开源模型与闭源模型的争论中，道理也一样。

如果 AI 是上帝，就必须确保它被严格锁住。如果 AI 是石油，就应该让本国的个人和企业持续获得尽可能多、尽可能便宜的智能。

得益于水力压裂技术，美国今天已经成为石油净出口国。它与开源模型有些相似：廉价而充足的供给压垮了不少大型生产商，却让消费者和企业获得了巨大好处。

不过纵观美国历史，即使到了今天，美国的增长仍然建立在来自全球的廉价石油之上——从巴林到巴库，哪里有充足供给，就从哪里获取。

如果拒绝外国开源模型，尤其是 Hugging Face 在面对 OpenAI 事件时不得不用来保护自己的那些模型，短期内只会给美国企业增加不必要的成本。

这就像强迫所有美国人的汽车只能使用美国石油炼制的汽油；更具体地说，只能使用少数几家美国炼油商以秘密工艺加工的美国石油。最终受到惩罚的，是美国司机。

Stripe 愿意考虑以 100 亿美元收购 OpenRouter，原因很简单：企业发现，在正确的时间为正确的任务选择正确的模型，在经济上很划算。

如果世界其他地方的企业可以自由使用任何模型，而美国公司却被束缚手脚，它们就会处于竞争劣势。

这相当于强迫美国企业用更昂贵的石油驱动自己的机器。

1959 年，艾森豪威尔实施石油进口配额，短期内确实达到了目的：美国石油在国内卖得更贵，国内钻探仍然有利可图，美国的石油产量也高于没有配额时的水平。

从地缘政治角度看，一个国家必须保留本土生产能力。美国也确实需要确保本国前沿 AI 实验室能够继续存在。

但开源模型与石油有一个重要区别：模型一旦发布，原产国很难再把它们关掉。

权重公开之后，所有人都能查看它、测试它的安全性、理解它的长处与弱点，并在其上继续开发。不必担心它突然被撤下或限流——即使中国希望这么做，也很难把已经扩散的模型收回去。

中国近期关于 AI 的讲话表明，至少目前他并不打算这么做。正如 Sam 和我在《The Electric Slide》中写到的，中国也乐于把“智能”这一互补品商品化，以服务它目前占据优势的机器产业。

中国开源模型实验室 DeepSeek 的 CEO 梁文锋最近也公开表示，开放更好，试图垄断市场并不健康。我的朋友 Tina He 整理了相关要点和完整演讲链接^[7]。

但开源的美妙之处就在于：我们不必完全信任他们。

真正需要我们信任的，反而是 Dario Amodei、Elon Musk、Demis Hassabis 和 Sam Altman，因为他们经营的实验室没有开放权重，我们无法检查那些模型。

Sam Altman 值得肯定。他转发黄仁勋的公开信时写道：

Sam Altman 转发黄仁勋公开信的推文

这是正确的态度。没有人希望中国击败美国，也没有人希望模型变得不安全。真正的资本主义者想要的，是一个公平、开放的竞技场。

更新：OpenAI 已经签署了这封信。接下来轮到 Anthropic 了。

Paul Graham 曾这样评价 Sam Altman：

如果 OpenAI 能继续领先，那很好。如果不能，市场会奖励更有效的组织方式。

有一点是确定的：不能为了维持少数几家前沿实验室的利润率，就强迫每一家美国企业为智能支付更高价格——无论 Anthropic 及其盟友讲述的故事听起来多么吓人。

这是一个古老的套路。石油公司当年也曾游说政府，声称廉价的外国石油很危险。今天，Anthropic 则警告人们提防中国的开源模型。

在大宗商品的历史上，占据既有地位的生产商总会声称，新的供给来源具有独一无二的危险性。对它们的生意来说，新供给也许确实危险。但如何应对竞争，是它们自己的问题。

无论是标准石油、Anthropic，还是任何一家公司，都没有天赋的胜利权。

当然，没有人主张关闭 Anthropic，也没有人要求它把自己的前沿模型——或者任何模型——开放权重。

大家要求的，只是让 Anthropic 在市场中竞争，而不是让政府因为“鬼故事”而保护它免受市场冷酷判断。

Anthropic 的一名技术人员 Julian Schrittwieser 曾讽刺黄仁勋：

Julian Schrittwieser 回应黄仁勋的推文

但这个类比转移了问题。支持开源模型，并不意味着要求每家公司开放自己的全部技术。它意味着企业应该能够选择开源模型，也意味着封闭模型需要用产品和能力赢得市场。

我承认，“鬼故事”这个说法很夸张。但我仍然坚持这么说。

我们让一些极端的假设支配了围绕 AI 的讨论和政策反应，这种程度近乎荒唐。它也是许多美国人厌恶 AI、认为硅谷人脱离现实的重要原因：如果你们真的相信自己所说的一切，那你们为什么还在建造这些东西？

为了让人们感受到这种荒谬，我选择用夸张对抗夸张。

如果你不同意，那么请回答：有什么证据表明，那些末日情景不只是鬼故事？为什么没有编造低概率情景的一方，反而要承担举证责任？

不能只说“因为这个想象中的事件一旦发生，后果会非常严重”。如果这就足够了，限制要在哪里结束？

同样，没有人主张世界不需要规则，也没有人认为 AI 不会带来任何伤害。

石油造成过大量伤害，但它也可以说创造了人类历史上任何技术都难以匹敌的繁荣，并挽救了无数生命。任何事物都有取舍。

这封公开信的联署方，以及我，主张的是：不能因为可能出现某些伤害，再加上一家受到特定意识形态影响、同时又寻求监管保护的机构不断放大风险，就让政府禁止开源模型。

这种禁令对其他所有人的伤害，几乎肯定会更大。

历史上有很多人，他们真诚的信念与自身利益恰好指向同一个方向。两者会彼此结合、不断强化，最后再也无法分开。

我并不怀疑 Dario Amodei 和他的同事创办 Anthropic，是因为他们真心相信：只有自己——或者至少不是 Sam Altman——才值得被托付前沿智能。他们所继承的思想传统，也一直流传着“人类制造的计算机有朝一日会接管世界”的神话。

但这些神话仍然只是对一个尚未到来之未来的假设，就像托马斯·马尔萨斯和保罗·埃利希曾经发出的警告一样。马尔萨斯和埃利希错了，而他们的观点都造成了巨大的伤害。

往好处说，AI 神话被不断讲述，确实让人类为最糟糕的情况做了准备。如今，我们甚至正在使用同一种计算机技术来保护自己免受这种最坏情况的影响。

但这些神话不应该决定政策。美国不应该因为它们放弃自由市场原则，更不应该拿进步交换自由。

有了开源模型，我们不必做这笔交换；没有开源模型，我们才不得不做。

今天就写到这里。去享受你的周六吧。下周再见。

感谢阅读。