AI领袖联名呼吁立法防范AI辅助生物武器风险

人工智能行业的一些最大竞争对手为了一个共同的事业而搁置了诸多分歧：让人们更难利用他们的技术来开发生物武器。在一封致美国立法者的公开信中，科技领袖们敦促国会制定规则，以缩小他们所称的令人担忧的生物安全漏洞，该漏洞可能引发全球大流行。

Anthropic的Dario Amodei、OpenAI的Sam Altman和微软的Mustafa Suleyman等签署者呼吁美国立法者要求销售合成DNA和RNA（可在网上订购并在实验室组装的遗传材料）的公司对订单进行筛查，以识别可能用于制造危险病原体的序列。

令人担忧的是，AI工具可能使设计潜在危险序列、从制造商订购并以以往需要更专业知识和技能的方式使用它们变得更加容易。

其他签署者包括Meta的AI负责人Alexandr Wang和Google DeepMind的Demis Hassabis，后者因基于AI的蛋白质预测研究获得了2024年诺贝尔化学奖。

这封信还得到了著名科学家、国家安全与政策专家以及生物技术公司高管的签署，包括Twist Bioscience和Ansa Biotechnologies——这两家都是合成遗传材料的主要销售商。据报道，这封信由两个智库组织：美国创新基金会和进步研究所。

科学家们长期以来一直警告，合成生物学的进步可能使科学家更容易设计危险生物，甚至复活早已灭绝的病原体——如果滥用、处理不当或意外释放，这些工作可能造成巨大破坏。但这种能力主要掌握在拥有先进实验室、设备和资源的熟练科学家手中。

现在的担忧是，随着生物工具变得更便宜、更易获得，AI模型变得更强大，防止滥用的壁垒正在瓦解。专家还警告，AI可能助长化学武器等其他威胁。尽管信中指出许多最大的合成DNA和RNA提供商已在自愿基础上筛查订单，但并非强制要求。

信中还要求保留所有订单的详细记录，以便追踪任何逃避初步筛查的威胁。信中写道：“鉴于基础技术变化的速度，我们认为这一需求是紧迫的。这是经常存在分歧的利益相关者之间罕见的达成一致的时刻。”

我们希望政策制定者能以果断行动回应这一挑战。”