《华尔街日报》说,中美正考虑建立官方 AI 对话机制,避免双方在 AI 领域的激烈竞争,演变成数字时代的军备竞赛。

报道说,接下来双方在北京的会面,AI 议题也可能被纳入议程。

报道引述知情人士表示,中美目前规划建立定期对话机制,聚焦 AI 模型失控、自主军事系统,及非国家行为者利用强大开源 AI 工具发动攻击等潜在风险。

双方都意识到,AI 技术快速发展,恐带来连两国政府都难以控制的危机。

报导提到,中美其实早在拜登政府时期便曾启动 AI 对话。双方2023 年 11 月在美国加州会面期间曾建立 AI 沟通机制,并于 2024 年共同宣布,核武发射决策权将保留在人类手中,不会交由 AI 决定。

目前,中美已透过非官方管道持续交流。讨论重点包括如何建立 AI “护栏”系统,确保 AI 能力即使持续增强,仍能遵守人类法律与意图。

分析人士认为,双方未来恐将一边竞争、一边透过对话维持战略稳定,以避免 AI 风险全面失控。

《纽约时报》专栏作家,《世界是平的》的作者托马斯·弗里德曼‌(Thomas L. Friedman),日前发表了专栏文章,将AI可能失控的风险,定义为“中美共同的敌人”。

文章说,1972年尼克松访华与中国领导人进行的会晤,缓和了中美之间长达数十年的敌意,促成了美中两国针对苏联的默契同盟。本次(即将举行的)会晤同样发生在国际局势发生类似变革的时刻,中美如今正面临一个全新的共同威胁。这是一种不断扩散的失序风险,若两国无法在竞争的同时开展合作、应对日益增多的挑战,这种风险或将动摇全球稳定,损害两国利益。唯有中美两国携手行动,才能有效应对这些挑战——首先,鉴于最新的人工智能模型已展现出惊人的网络攻击能力,中美两国应携手建立防护机制,防止人工智能被恶意利用。

弗里德曼‌认为,人工智能工具的出现为小型恶意行为体赋予极大的能力,无论是恐怖分子、无政府主义者、犯罪分子、政治团体,还是小型国家。

两个人躲在山洞里,仅用一台笔记本电脑、接入最新AI模型和星链终端,就能对任何国家的关键基础设施发动攻击。

文章说,由于中美企业率先研发出这类代理式系统,“两国必须牵头管控它们的传播,并构建防御体系——既要保护自身,也要防范技术泄露后危害他人”。

文章还说,在众多全球性议题上,如减缓气候变化、防止核武器与生物武器扩散、管理全球移民、遏制疫情、维护全球供应链顺畅运转等领域,中美尚且能够通过有限的合作来拖延或是勉强应对,但面对人工智能的网络攻击能力,中美已经没有时间。再没有拖延的余地,已经无路可退。

人类历史已经第一次进入这样一个全新阶段:我们智人必须以地球为尺度,开展治理、创新、协作与共存,才能实现繁荣发展。我们要么构建复杂且自适应的合作联盟来实现这一目标;要么就是一起沉沦。

弗里德曼没有用“人类命运共同体”这个词,但事实上,因为全球化和技术进步,人类命运已经互相融合成为了一个共同体。