Anthropic今年多次阻止AI研发生物武器，安全问题亟待监管！

Anthropic披露，今年已阻止多起利用其AI技术研发生物武器的尝试，并列举了五个案例，如“不受支持地区”研究人员用Claude模型规划禽流感实验，被安全过滤机制拦下。该公司封禁相关账户，但未透露涉事机构与国家。此外，其安全研究人员Jacob Coxon本周辞职，称开发人员认为AI或在本十年末前致命。

这背后，AI在生物学领域应用的安全问题凸显。AI高管和生物安全研究人员已达成共识，认为要加强安全防护和监管。不过，现实中制造生物武器存在资源和可行性等障碍。