在人工智能方面,经济层面的利害关系依然格外重大,但安全也正在成为一个关键议题。
在人工智能方面,经济层面的利害关系依然格外重大,但安全也正在成为一个关键议题。
编辑|王眉
本周中美元首会晤时,几乎不可避免会谈及人工智能,以及这项技术令人目眩的飞速发展。毕竟,两国正处在争夺全球顶尖AI大国的竞赛之中。
如今几乎所有人都在讨论AI:行业领军人物呼吁放缓AI发展节奏;研究人员警示灾难性风险;外界对于AI安全隐患的担忧也不断加剧。但多数观点认为,周四于华盛顿举行的两国元首会晤中,双方很难在这个充满争议的议题上取得实质进展。
事实上,外界对本次会晤的预期目标设定相对较低。分析师预计,双方会谈的重心,主要是巩固两国之间本就脆弱的稳定关系,而这项任务本身并不轻松。
全球最大的两个经济体之间的摩擦点日渐增多,其中包括美国限制中国获取高端芯片,以及中国在稀土矿产领域的优势。
战略分析人士表示,两国都希望当前的缓和局面能够持续足够长的时间,以便各自经济体在关键领域实现更高程度的自主,例如美国在关键矿产方面、中国在先进半导体芯片方面。这两者,都是两国AI竞赛当中不可或缺的要素。
特朗普在今年夏季提出了举行中美AI对话的想法。地缘政治咨询人士称,直至峰会召开前数日,双方在工作层面尚未能就AI对话的议程、参会人员名单达成共识。不过周日,财政部长斯科特·贝森特在与中国副总理何立峰会面后表示,双方已经同意开展人工智能对话,美方还提议设立针对国家安全相关事件的“通报机制”。
AI竞赛实际上只是在两个国家之间展开
尽管如此,近期AI安全风险频频登上舆论焦点,也为两国元首对话创造了契机。上周,OpenAI称,一群AI智能体在测试中“逃逸”,并发动了一次网络攻击。本月早些时候,Anthropic和谷歌的顶尖研究人员相继辞职,拉响了关于安全问题的警报,并指出先进人工智能甚至可能导致人类灭绝的风险。
多位深度参与AI安全辩论的行业知名人物,包括OpenAI首席执行官山姆・奥特曼、英伟达首席执行官黄仁勋,预计将出席特朗普周四为中国领导人举办的国宴。
尽管中国近年来已对AI安全表达关切,但分析人士预计,周四相关讨论的范围会比较有限,深度也将低于外界最初的期待。原因之一是美国国会内部,对于是否、以及如何为AI设立安全防护规则尚且无法达成统一意见。即便国会、国家安全部门以及行业自身都不断施压,呼吁建立监管护栏,特朗普却公开表示AI不需要更多监管约束。政府内部另一些官员则警示,过度监管,会损害美国在与中国的AI竞赛中的地位。
随着相关辩论持续升温,特朗普周六表示他将组建一支AI专项部队,并任命一位“AI沙皇”。AI相关的经济利害关系尤其巨大,摩根士丹利估计其最终可触达市场规模将达40万亿美元。它同样对全球经济、市场以及地缘政治至关重要。
“谁能将自己的技术传播并锁定到世界各地,谁就将获得极高的经济回报,并让另一个国家处于糟糕得多的境地,”战略与国际问题研究中心(CSIS)瓦德瓦尼人工智能中心主任阿洛克·梅赫塔表示。
Anthropic和OpenAI等美国AI实验室正试图凭借美国掌握全球约75%算力的优势,打造全球最强、最前沿的技术。中国则采取了更务实的路线,重点布局高性价比的开源模型,在全球大范围落地,非洲、亚洲不少国家都在使用中国的技术栈。
尽管美国的出口限制压缩了它们获取先进技术的渠道,中国AI初创公司的开源模型仍已缩小了与美国前沿模型之间的差距。这也提升了北京的信心。
地缘政治咨询机构亚洲集团(Asia Group)数字政策主席George Chen曾在Meta负责政策工作,他在一次新闻吹风会上表示:“中国领导人把人工智能视作属于中国的新互联网,是难得的时代机遇。若中国能够在新技术领域赶超美国,将意义非凡。中国从未如此接近美国的技术水平。”
许多人把两国之间的AI之争比作核军备竞赛,但亚洲协会政策研究所(Asia Society Policy Institute)中国分析中心(Center for China Analysis)技术高级研究员阿尔文·王·格雷林(Alvin Wang Graylin)认为,这更像是一场太空竞赛。
格雷林说:“我们本应把AI视作一项公共产品,现在却把它当成核武器、曼哈顿工程来对待。我们必须把AI安全议题、国家安全议题、经济竞争议题分离开。靠竞赛的方式,无法对抗恶意势力,也解决不了AI失控的风险。”
即便对话的焦点完全集中在双方共同面临的安全风险上,分析人士也不预期会有太大进展。地缘政治、政策科技研究机构决策树研究(Decision Tree Research)创始人格雷戈里・艾伦(Gregory Allen)认为,现阶段,类似军备核查那样的机制放在人工智能领域,“完全不具备可行性”。
对于双方来说,最容易落地的共识,是重申拜登政府时期两国达成的约定:禁止人工智能介入核武器指挥链条。艾伦还表示,双方也可以达成共识,采取措施降低几类风险:无意引发网络攻击、AI以任何形式脱离人类掌控、AI技术被用于研发生物武器与病原体。
亚洲协会的格雷林给出的预期则更低:只要双方能够就AI安全的界定达成共识,同意继续谈判,搭建人工智能对话框架,就算是一次胜利。
Barron's巴伦中文网已更新以下更多独家精彩内容,点击左下角“阅读原文”直达:
美光增长即将放缓,为何对该股反而是利好
特斯拉Roadster跑车,或是10月该股行情迎来转折的一大原因
英特尔和Arm的股票都在大涨,这要感谢Meta的Muse AI智能体
SpaceX上涨,今日或迎来重磅利好催化
标普500后市怎么走:大幅上涨、快速回调,抑或是两者先后上演?
火箭实验室日益成为SpaceX有力对手,该股迎来上涨
加息周期已经开启,投资者为何无需恐慌
Meta押注AI新方向,旗舰大会召开前推动股价上行
美光增长即将放缓,为何对该股反而是利好
特斯拉Roadster跑车,或是10月该股行情迎来转折的一大原因
英特尔和Arm的股票都在大涨,这要感谢Meta的Muse AI智能体
SpaceX上涨,今日或迎来重磅利好催化
标普500后市怎么走:大幅上涨、快速回调,抑或是两者先后上演?
火箭实验室日益成为SpaceX有力对手,该股迎来上涨
加息周期已经开启,投资者为何无需恐慌
Meta押注AI新方向,旗舰大会召开前推动股价上行
……
更是价值的联结者
加入我们,与智者同行
成为会员了解最新投资动向