中美AI安全对话：先别谈大协议，从小事做起How Trump and Xi Can Do AI Safety

美中元首即将再次会晤，但双方在AI安全对话上仍缺乏具体进展。过去类似对话往往沦为互相指责，或被无关事件干扰。作者作为前美国外交官，认为关键是先谈起来，但要选对话题。

过去的失败教训

历史上的美中对话多次受挫：佩洛西访台后，中国暂停多项对话；间谍气球事件中，中国军方甚至不接美国防长的热线电话。仅靠纸面协议难以执行，如2015年两国关于不进行网络窃密的承诺就因无法核实而未落实。

专家建议：从小处着手

作者调查了两组专家：一组是参与过美中官方对话的前官员，另一组是从事AI安全非官方对话的研究者。他们评估了十二个可能的合作议题，结果出人意料：两组对合作价值的看法相近，但对可行性的评估差异很大。前官员对多数议题的可行性持悲观态度，仅认为核风险、开源软件漏洞等少数话题有较大成功可能。

哪些事值得谈

综合可行性和价值，专家建议优先关注：防止AI被用于化学、生物、核武器等威胁，讨论生物安全，以及控制非国家行为者带来的风险。这些领域技术性较强，双方利益一致，容易开展低风险的信息共享，逐步升级到实质性合作。

别忘了邀请专家

政府应主动征求AI实验室、学术界和专家的意见，通过公开征求意见等方式，弥补信息缺口。例如，可以询问业界：哪些安全措施若缺少对方国家的参与就难以奏效？如何察觉开源模型的风险信号？

鹰派的质疑

强硬派认为中国在谈判中不会让步，可能只是想拖着不行动，或借机宣传“负责任大国”形象。双方对“安全”“可控”等词的定义可能不同，协议难以落实。作者承认这些担忧有道理，但认为这不意味着合作完全无望。出口管制等议题已在经济渠道讨论，不必在此纠缠；对于价值观分歧，美国应通过发展自身能力来应对。

先做起来

作者建议，九月的峰会应至少确认“不造成伤害”，并宣布政府间会谈有了后续行动，为实际合作提供政治支持。雄心勃勃的条约短期内不现实，但就双方共同关心的问题进行充分的信息交流，可以为未来更深入的合作奠定基础。AI前沿发展迅速，政府需要尽快行动起来，以免灾难性风险成为现实。