OpenAI与Anthropic联名致信，呼吁立法防范AI用于开发生物武器

几家主要人工智能公司的首席执行官敦促国会议员通过新法律，使不良行为者更难利用其技术开发生物武器。

Google DeepMind的Demis Hassabis、OpenAI的Sam Altman、Anthropic的Dario Amodei和Microsoft AI的Mustafa Suleyman是一封公开信的签署者，

呼吁制定法律要求销售合成DNA和RNA的公司筛查客户并下令防止滥用遗传物质。这封信由无党派进步研究所和右倾美国创新基金会组织，信中承认，考虑到人工智能的发展速度，“历史上阻止不良行为者获得生物武器的知识障碍确实有可能被有意义地削弱。

”科学家阿瑟·科恩伯格（Arthur Kornberg）是20世纪50年代第一个成功合成DNA的人。现在，该过程已实现自动化，世界各地的数十家公司使用商业合成器“打印”和销售用于科学研究、药物开发和诊断的定制基因序列。

许多提供商仅向合格的研究人员、生物技术公司和教育机构销售产品，但并非所有这些提供商都会审查客户或他们订购的基因序列。2017年，加拿大研究人员使用价值10万美元的邮购DNA重建已灭绝的天花病毒，引发了警报。

批评者表示，同样的方法可以用于构建天花，这是一种密切相关且致命的病毒。从那时起，基因合成变得越来越便宜。结合人工智能的进步，现在可以使用大型语言模型设计危险的新毒素和病原体，尽管可能仍然需要一些生物学训练才能从头开始制造功能性病毒。

虽然生物恐怖袭击很少见，但有可能造成大规模伤亡、公众恐慌和经济损失。一个主要担忧是人工智能设计的病原体可能有意或无意地引发全球大流行。

签署这封信的斯坦福大学微生物学家兼生物安全专家大卫·雷尔曼（David Relman）表示：“人工智能工具使用户能够快速识别从哪里转向无需经过筛查的有序序列。

”“如果得到适当的提示，他们还可以告诉您如何改变订单的性质，这样即使是那些正在筛选的人也可能无法检测到您想要做的是什么。”签署者包括其他科学家、国家安全专家以及基因合成公司Twist Bioscience和Ansa Biotechnologies的高管。

这些公司是国际基因合成联盟的成员，该联盟成立于2009年，旨在实施自愿筛查实践。许多公司已经使用软件来筛查订单中是否有可能导致生物体毒性或致病能力的“关注序列”。

“如果你拥有能够合成DNA的技术，那么你应该确保负责任地使用它，其中一部分是确保你了解你正在制造什么以及你为谁制造它，”Twist Bioscience政策和生物安全副总裁詹姆斯·迪根斯（James Diggans）说。

该公司多年来一直支持实施正式规则。拜登政府期间推出的联邦指导方针要求接受联邦资金的科学家和公司从筛查购买的提供商订购合成基因序列。今年早些时候在参议院提出的一项两党法案将要求所有在美国运营的基因合成提供商对订单和客户进行筛查，以寻找不良行为者或危险病原体。

但筛查工具并不完美。去年，微软研究人员发表了一项研究，表明人工智能蛋白质设计工具能够生成潜在危险的基因序列，这些序列无法通过公司的筛选软件。这些模型提出了新的蛋白质序列，其结构与已知危险的蛋白质序列相似。

Y Combinator前总裁、Safe AI基金合伙人杰夫·拉尔斯顿（Geoff Ralston）认为，具有生物模型的人工智能实验室应该对用户进行自己的筛选。签署这封信的拉尔斯顿说：“要求模型帮助你做一些迫在眉睫的危险的事情，如果不是不可能的话，应该是非常困难的。

”雷尔曼同意，有关筛查程序的法规只是解决方案的一部分。

“鉴于筛查在某些情况下可能会失败，我们必须有其他控制点，”他说。“这就是人工智能公司必须加强的领域。”