当地时间9月23日至25日，中国国家主席习近平对美国进行国事访问。其间，两国元首会晤并达成多项共识。在白宫就此发布的情况说明靠近末尾的位置，有极具影响力的一句话，表示美国和中国就先进人工智能的风险与益处建立了“超级智能对话机制”，确定下一次交流将在2026年11月举行，并同意建立一个双边AI事件沟通渠道。

　　今年5月在北京举行元首会晤期间，双方曾讨论过AI磋商机制，但始终没有将其正式化。这一次，这一机制有了名称，这一进程有了明确的时间节点，也有了一条可以拨通的“热线”。而一个以“超级智能”为名的对话机制，很难将“失控”问题长期排除在讨论之外。

　　真正使这一轮成果不同于2024年的，是后续落实。2024年11月，在利马，习近平主席与拜登总统确认，人类必须掌控核武器发射决策；这一承诺一直得到维持。但2023年伍德赛德会晤之后启动的政府间AI对话机制，只在日内瓦举行过一次会议，此后便陷入停滞。

　　一个没有确定下一次会议日期、就此休会的对话渠道，会悄无声息地被遗忘。而在前沿AI能力每隔几个月就取得进步的情况下，再一次无声消亡的代价会很高。

　　在竞争中寻找

　　AI安全领域合作空间

　　尽管会晤前确实出现了一些挑衅和摩擦，但双方仍然保持住了整体基调。

　　Anthropic公司首席执行官达里奥·阿莫代伊发表的《我们必须放慢前沿AI的发展步伐》（We Must Pace the Frontier）一文，遭到“制造恐慌”的批评。批评意见认为，他同时提出的进一步收紧芯片限制的主张带有遏制意味。

　　就在习近平主席抵达美国前夕，美国民主党参议员推动就三项旨在收紧出口管制的法案进行表决。美国贸易代表贾米森·格里尔则没有把芯片管制纳入AI议程，而正是这种区分使安全合作得以延续。

　　如果把AI安全机制与遏制议程捆绑在一起，这样的安全机制就会遭到拒绝。

　　两国领导人的表态也指向同一个方向。在欢迎仪式上，习近平主席强调，如果没有中美合作，世界上的许多问题都很难解决。两国元首在白宫会谈时，习近平主席指出，中美双方有竞争，更可以合作，正确的方向应当是各展所长而不是互相设防，双方还应当“共同防范人工智能被滥用恶用”。

　　特朗普总统则表示，美中都是大国，我同习近平主席是好朋友，保持着深入密切沟通。人工智能关乎人类未来，美中应就此保持对话，加强合作。在晚宴上，他为两个制度不同的国家举杯，并表示“坚持互相尊重，继续培育两国友好，为子孙后代带来持久繁荣和安全”。

　　其他议题为AI合作提供支撑

　　非AI领域取得的成果，有助于降低AI合作的紧张程度，而这一点正是AI合作能够持续下去所需要的。

　　新成立的贸易理事会同意改善双向300亿美元非敏感商品的关税待遇，并启动农业市场准入工作组。双方还成立了投资委员会；据白宫消息，中国将在2027年和2028年分别购买至少1000万吨美国煤炭。

　　在芬太尼问题上，北京方面安排将一类新型合成阿片类药物纳入管制，对另外两种前体化学品实施控制。

　　上述每一项议题，都给两国政府机构提供了继续保持沟通的理由。

　　长期来看，民间交流方面的安排或许最为重要。习近平主席邀请10万名美国青少年在未来五年内访华，这一数字是2023年目标的两倍。新华社称，2023年的目标已经提前完成。

　　两国之间的人员交流存在明显的不对称：2024/2025学年，有265919名中国学生在美国高校学习，而据估计，在中国学习的美国学生只有约800人，前者是后者的300多倍。会说汉语、了解中国机构运行方式的美国人，是避免双方产生误读的一种“低成本保险”，也将成为中美关系长期稳定的基础。

　　欢迎宴会的座次安排本身也传递出一些信息。英伟达首席执行官黄仁勋、AMD首席执行官苏姿丰、苹果公司董事会执行主席蒂姆·库克以及特斯拉首席执行官埃隆·马斯克，与两国元首同坐主桌；Anthropic则不在名单之列，而北京方面也没有带来任何企业首席执行官。

　　这在一定程度上反映了这些企业对中国市场的依存度，但在我看来，也显示出一种倾向：相较于前沿AI实验室，华盛顿似乎更加重视芯片、设备和制造业，这些领域能够创造更持久的就业和回报，而前沿AI实验室的模型正在逐渐商品化，同时亏损巨大。中国几十年来一直专注于实体产业和制造业，华盛顿或许也正在重新向这一方向靠拢。

　　AI对齐问题应纳入下一轮对话

　　目前最大的缺口是AI对齐问题，即如何确保AI系统的目标和行为始终符合人类意图。

　　特朗普总统曾将有关AI灾难的担忧称为“骗局”，而双方此次发布的会谈信息则主要聚焦于AI的误用问题。

　　目前而言，这一重点是合理的。根据我对已经部署的AI系统所做的梳理，具备生物或网络能力增强功能的小型模型，可能比前沿大型模型带来更为迫切的危险；而非国家行为者发动的攻击，则会同样威胁中美两国。

　　批评者有理由回应，如果只讨论AI的误用，就回避了一个更加棘手的问题：如何控制那些能力超过其开发者自身的AI系统。

　　中国似乎已经做好了准备：全国网络安全标准化技术委员会本月发布了《人工智能安全治理框架3.0》，将范围进一步扩展至对齐失败（alignment failure）和自主复制（autonomous replication）等问题。

　　这份文件清楚地反驳了那些反对与中国开展联合AI安全讨论的人的观点，即“中国不会放慢步伐，也不会对自己的AI实验室进行监管，他们并不真正重视AI安全”。

　　即将举行的对话需要设置一个技术层面的议程，让中美两国研究人员就这些问题开展具体合作。

　　我此前曾提出两项建议：建立一个有固定日期的常设对话机制，以及建立一个双方同意的AI事件沟通渠道。这两点在此次元首会晤上都实现了。

　　11月举行的会议，需要进一步补齐目前缺失的部分。双方应进一步明确共同的事件报告格式、严重程度分级以及两国各自负责的技术人员；就危险AI能力形成共同定义；将两国政府已经接受的四条红线正式确定下来——不得由AI发起核武器发射，不得进行不受控制的自主复制，不得利用AI攻击民用基础设施，不得利用AI增强生物武器能力。同时，应鼓励对重大AI模型发布进行相互认可的第三方评估。

　　1971年，一场乒乓球比赛为两个国家彼此猜疑的公众提供了一个可以共同讲述的故事。在此次访美期间，习近平主席回忆起尼克松访华的往事；而两只熊猫“平平”和“福双”也已前往亚特兰大动物园。

　　没有任何一次会议能够解决AI安全问题，这次会晤也没有试图做到这一点。它所做的是：在第一场严重的AI危机发生前，先建立起一个以相互尊重、一个日程表和一条电话沟通渠道为基础的框架，而不是等到危机发生后才开始行动。考虑到AI风险正在快速逼近，这一提前行动本身，足以成为真正值得期待的理由。

　　（作者系美国斯坦福大学以人为本人工智能研究院（HAI）数字研究员、亚洲协会政策研究所中国分析中心技术高级研究员）

　　（作者立场说明：本文观点系我以独立学者身份提出，仅代表个人立场，不代表我所任职或关联的任何机构。我的分析始终以全人类为单位，衡量任何主张的标准是它能否让整个人类共同受益，而不是它对哪一方更为有利）