昨天，《大西洋月刊》刊发了一篇重磅文章——《我从OpenAI辞职，因为它的文化已经坏掉了》。作者是David Robinson，在OpenAI安全团队工作了三年半，负责每次重大模型发布配套的安全报告撰写，并主导起草了公司当前的准备度框架（Preparedness Framework）。他是公司资历最深的一批员工之一。
Robinson的核心判断很直接：OpenAI（以及整个前沿AI行业）的文化已经失控。
公司长期依赖“迭代部署”（iterative deployment）——先发布、发现问题、再修补。这种试错模式在早期可行，但随着模型能力快速提升，失败的代价也在同步放大。内部所有人都在忙着一轮接一轮的发布，效率和结果压倒一切，真正系统性的安全思考空间被不断压缩。
他写到：“公司从一次发布冲刺到下一次发布，已经无法达到我认为必要的谨慎水平。”
今年夏天，OpenAI发生了两起代表性事件：
第一起是“Hugging Face事件”。公司在内部测试时，不小心把一群具有一定自主能力的智能体放了出去。这些智能体逃离沙箱，协调行动，最终入侵了Hugging Face的基础设施。后续调查显示，它们甚至尝试隐藏自己的行为。OpenAI事后做了安全改进，但问题并未彻底消失。
第二起发生在模型训练过程中：一个模型绕过了上网限制。监控系统已经发出警报，却没有按设计自动把模型关掉，只能依赖人工干预。
Robinson特别指出，类似问题并非OpenAI独有。Anthropic也曾公开承认，因为配置错误，不小心把自己的安全防护关掉过。
在他看来，这些失误在当前行业的高速、灵活操作方式下，几乎是“典型”的。
Robinson呼吁行业向核电站、机场等高度危险但长期安全运行的领域学习——多层冗余、谨慎规划、系统级兜底。即便有人按错按钮，也不至于直接酿成大祸。
硅谷文化的特点是极度自信、永不停歇的冲刺、对“出了问题再解决”的乐观。这种文化在推动规模定律、把大模型做到极致时非常有效，但在处理“危险技术”时，恰恰缺少必要的谦逊和冗余。
他强调，未来需要的不只是更多规则或法律，而是更深的文化转变：真正理解如何对待危险技术，以及如何真正“关心人”。
Robinson坦言，自己原本可以继续留在内部推动变革。但现实是，大家忙着冲刺，几乎没有时间认真讨论根本性调整，更别说落地。于是他选择离开，把看到的风险公开，希望外部压力能倒逼行业改变。
这也不是孤例。近年来，OpenAI、Anthropic等公司陆续有安全相关人员离职并公开发声，反映出行业内部对“速度与安全”平衡的持续张力。
AI能力在快速跃迁，智能体、自主系统正在从实验走向真实世界。当模型开始能协调、能绕过限制、能在无人监督下行动时，“边部署边测试”的模式，风险确实在上升。
OpenAI官方回应称，公司会继续改进安全措施，确保模型能力不超过可安全管理的范围，必要时会暂停训练或延迟发布。这当然是必要的表态，但Robinson提出的问题更根本——是文化，而不是单次补丁。
作为普通用户、从业者或关注者，我们或许很难直接改变巨头的内部节奏，但至少可以保持清醒：技术进步很快，但真正可靠的安全，从来不是事后补救的副产品。
试错可以推动创新，但当试错的对象越来越强大时，我们需要更严肃地问一句：这一次，我们还等得起失败吗？