阅读,与值得关注的内容Readance

从 X 跳槽 OpenAI,他觉得马斯克是“最大的混蛋”,但依然敬佩!

强烈推荐 B 站播客"创见"最新一期对谈。

嘉宾叫赵迪,来自 OpenAI,之前在 X(Twitter)工作,现在在 OpenAI 当 ML Infra(机器学习基础设施)工程师。


查看内嵌内容

过往履历:

甲骨文(2001年,6年)→ 摩根士丹利(2011年)→ Salesforce(2014年)→ Fanatics(2016年)→ Netflix(2018年)→ Twitter/X(2019年,近7年)→ OpenAI(2025年初至今)。

这期播客信息密度很高,看完对马斯克又有了新认知。

赵迪对他的评价:"他是一个 the biggest asshole(最混蛋的人)。但他能够让你真的做到不可能的事情。"

Image

B 站独家完整视频地址:

https://www.bilibili.com/video/BV1wkbF61ERR/

AGI 是什么?一个工程师的定义

OpenAI 昨天发布了 GPT6-Astra,关于 AGI 是否已经到来的讨论又热了起来。

Image

赵迪认为,AGI 本身是个很模糊的定义,学术界和产业界吵了很多年也没有共识。

但对他这个做工程的人来说,只需要对模型说“给我 build(构建)一个 application(应用)”,它就能做完,而且不出错。

Image

他认为现在已经非常接近 AGI 了。

2022 年 11 月 ChatGPT 3.5 的发布,是人类通往 AGI 奇点最关键的一步,是从 0 到 1。

后面所有的 Agent(智能体)、所有的 agentic(智能体化的)创新,都是从 1 到 100。

他说:"震撼,再也没有了。"


查看内嵌内容

马斯克是"最混蛋的人"

赵迪在 X 工作了近 7 年。

原来 Twitter 被称为“小谷歌”,因为很多来自谷歌的人,也沿袭了谷歌的文化。

做任何事情都要先达成共识,写文档(事无巨细),再去做,做个计划一来就几个月。

大家都很聪明,但聪明人互相制衡,最后变成一个缓慢的组织。

马斯克来了之后,他下面有个叫 George 的工程师(第一个破解 iPhone 的人),说:100 个工程师就够了。

那时 Twitter 有 2000 多、3000 多人。

现在 X 的工程师规模,好像确实裁到 100 人左右了。

马斯克给团队安排任务,周期只有几周,几个月的项目在他脑海里根本不存在。你不能对他说 No。

Image

但赵迪说,他做事完全遵循第一性原理,直接聚焦事情的本质,完全忽略无关的边角因素。

很多人其实都知道,大部分业务 20% 的人就能完成,只有他能下得了这个决心。

马斯克对赵迪来说,以前是纯粹的敬佩,现在是在认清他是个混蛋的基础上,仍然很敬佩。


查看内嵌内容

用 Rust 帮 Twitter(X) 省了几百万美元

赵迪在马斯克收购 X 的前半年,出于个人兴趣,用 Rust 写了一个玩具级的推理引擎。

测试发现,性能比 X 当时在用的系统高出一个数量级。

他把这个引擎命名为 Navi,名字来自《阿凡达》里潘多拉星球上驾驭飞鸟的纳威族人。

 

Image

当时看电影,有个镜头特别震撼,鸟从悬崖上俯冲 dive 下去,然后再拉上来,非常 free。"

这是我们做 Infra(基础设施)的人,唯一能有的一点点浪漫。"


查看内嵌内容

Navi 解决的核心问题是推理引擎的成本和延迟。

X 每天产生约 10 亿条推文,推荐系统要把这 10 亿条最终筛选到 100 条展示给用户。

整个过程分三步:先从 10 亿筛到几百 K(千条),再用轻量级神经网络粗排到几十 K,最后精排到 100 条以内。

Navi 负责粗排和精排环节的神经网络推理服务,先后覆盖 X 的广告和推荐系统,为平台省了几百万美元。

这和今天大模型推理的核心优化思路几乎完全一致:Batching(批量处理)加 KV Cache。

早年推荐系统沉淀的经验,可以直接复用到大模型推理场景。

AI可能会成为区分阶级的工具

赵迪说,人类本性是自私的。什么好的东西都会据为己有,AI 智能可能也一样。

"Intelligence(智能)到最后,会变成区分阶级的工具。"

他加入 OpenAI,很大程度上是因为认同 Sam Altman 说的:Intelligence as a Service(智能即服务)。

Image

把智能变成一个 utility(公共服务),大家都能用,总比变成某个特权阶级的工具要伟大。

但他有点不乐观。

资本以前需要人的劳动才能产生价值,如果机器人成熟后,可能连劳动力也不需要了。

如果资本加资本就能产生价值,滚雪球的速度会远超以往任何时代。有钱人,甚至不再需要底层的人。

"那底下的人,存在的意义是什么?"

Image

他有小孩。他说,他不想人类社会生活在这样急速分割的社会里。


查看内嵌内容

模型能力高 10%,可以定价高 10 倍

模型能力是第一核心壁垒。

赵迪说,你的模型也许只比别的模型高 10%,但你可以定价翻倍,甚至十倍定价。

很多人会愿意付费,就像苹果手机比安卓贵那么多,但功能上也许只好 10% 到 20%。

如果目标是把智能作为公共服务提供给全人类,那推理服务的工程化能力和模型训练能力同等重要,直接决定大规模服务的成本和稳定性。

他不认为会出现一家通吃的局面。

大模型市场体量足够大,每个人的切入点不一样,都有存在空间。


查看内嵌内容

工程师的核心价值不再是写了多少代码

OpenAI 内部,Codex的使用量从年初到现在增长了 8 到 10 倍,亚太地区涨幅达到 12 倍。

原本可能需要一个月完成的开发任务,现在一周就能做完。

赵迪说,以前工程师还可以躲在“我写了多少代码”里自我陶醉,现在这一层已经没有了。

Image

但他不认为工程师会消失。

没有亲手写过代码的人,无法建立对系统的敏感度。

你必须经历过那个过程,才能对系统有直觉,知道哪些该做,哪些不做。

他预判,未来初级工程师可能出现断层,反而让有完整底层编码经验的工程师更吃香。

主持人提到:"未来优秀工程师的定义,不是谁手写了多少代码,而是谁能更清楚地发现问题,然后更高质量地驾驭这个模型,把复杂的事情给做出来。"

赵迪认为有没有大模型都应该是这个标准,最终看的是你创造的价值和影响。


查看内嵌内容

写在后面

没想到,竟能在 B 站看到这么有趣的 OpenAI 员工深度访谈,听到这么多犀利、有洞见的观点。

视频中不少观点细思极恐。

比如:“资本加资本就能产生价值,那底下的人存在的意义是什么?”

另外公布个消息,我和橘子、歸藏、杨攀做了一款视频播客节目「词元之外」,也刚今天上架到 B 站。

https://www.bilibili.com/video/BV1qdtz6LEHf/

Image

B 站就是中国的 Youtube,有很多深度 AI 视频内容/教程。

各路高手不约而同,都愿把自己最好的专业内容放到这儿。

如果你想深入学习研究 AI,或分享自己在 AI 领域的想法见解与作品,B 站都是最佳选择。




前往微信阅读全文

内容来自公众号,可前往微信查看原文。

查看作者的更多文章 →