AI公司主动寻求监管！Anthropic向美国政府提交AI监管法案草案 拟设“杀伤红线”

智通财经APP获悉，在对快速发展的人工智能技术潜在风险的担忧加剧之际，Anthropic PBC已向美国立法者提交了一份自己的法案草案，提出对人工智能安全与安保进行监管的方案。

据最先报道该法案的Politico称，该提案建议，如果认定某款AI模型存在迫在眉睫的风险——可能导致超过50人死亡或受伤，或造成超过10亿美元的损失——政府可以阻止该模型的发布。Politico报道称，此类威胁必须源于该模型制造或释放生物武器、AI脱离人类控制，或网络攻击。

公司发言人表示：“该法案代表了Anthropic《高级AI框架》中概述的各项提案，自6月以来我们一直在向联邦和州立法者倡导这些内容。”

发言人称，该法案将强制要求AI开发商必须测试其模型并向公众公开测试结果；还将要求AI公司允许独立评估机构定期审查模型。

发言人表示：“我们的提案还赋予联邦政府阻止或威慑最强大模型的危险部署的能力。我们认为这些是国会应当采取行动的合理政策。”

公司拒绝就其提案的推介范围以及迄今获得的反响置评。

近几个月来，一系列由AI模型主导的入侵和黑客事件加剧了人们对该技术潜在灾难性风险的焦虑，从华盛顿到硅谷都掀起了要求出台新保障措施的呼声，但到目前为止，特朗普总统的政府已拒绝加强监管的呼吁。