Anthropic推介AI安全法案 将允许10亿美元损失、50人死伤时封锁模型

　　据三名了解相关行动、获准匿名讨论内部磋商的人士透露，人工智能巨头Anthropic的代表已经悄悄向美国国会山的议员推介一份前沿AI安全监管法案草案。

　在国会正斟酌如何应对快速发展的AI行业之际，这份文件代表这家前沿AI实验室的一项重要行动——试图塑造管理自身技术的法规。

　　Anthropic发言人表示：“本法案体现了我们《高级人工智能框架》中提出的各项方案，自6月起，我们一直在向联邦及各州议员倡导这套框架。我们认为这些是合理的政策，国会应当就此采取行动。”

　　根据该法案，只有在满足以下条件时，政府才有权阻止模型的发布或投入使用：模型存在可预见的紧迫风险，可能造成超过10亿美元损失，或是导致50人以上死亡或重伤。该风险必须来源于生物武器研发与释放、模型绕开开发者管控，或是网络攻击。条款文字借鉴了加州AI相关法律，包括去年签署生效的SB 53法案。

　　今年夏天，多家头部AI实验室披露了一系列事件：AI智能体入侵或探查各类网站与平台。目前披露的案例均未造成大规模人员死亡，也没有产生超过10亿美元的损失。

　　Anthropic尚未公开表态支持国会任何特定立法提案，但已经支持部分州级AI安全法案，包括加州的两项法案。该公司负责美国州与地方政府关系的主管此前表示，希望各州持续推出力度更强的AI安全法规，在全国范围内抬升监管标准。

　　依据这份法案，独立评估机构需要在商务部完成注册，负责定期对AI实验室及其前沿模型开展评估。评估机构可由实验室支付报酬，但报酬不得与评估结果挂钩。

　　若评估机构判定企业前沿模型存在“列明的紧迫风险”，必须在评估完成后72小时内向商务部上报。

　　商务部认定模型存在风险后，可以向法官申请叫停模型发布；但条文明确禁止美国其他任何“部门、机构或官员”暂停模型的研发、部署或是内部使用，仅哥伦比亚特区联邦地区法院法官有权下达模型停用令。

　　今年夏季，Anthropic遭遇大范围出口管制，旗下两款最先进模型被迫下线。相关决定由政府官员与企业高管在一连串紧急电话沟通后敲定，令科技行业部分人士担忧：企业的AI技术权限，可能仅凭政府官员的个人意愿遭到限制。

　　Anthropic这份法案还将优先于部分州AI法律，涉及风险公开披露、第三方评估、重大安全事件上报等领域。监管优先权问题是国会山的政治火药桶，民主党人反对部分提案，担心这类提案会废掉加州、伊利诺伊、纽约等州已经出台的监管法规。

　　大量科技行业团体认为，相比全国统一标准，各州五花八门的法规会大幅增加企业合规难度。

　　该法案还要求前沿AI实验室建立安全框架、为新前沿模型发布透明度报告、设立举报人保护机制，并向商务部上报重大安全事故。

　　今年夏天，国会山围绕AI安全立法动作频繁。众议院方面，马萨诸塞州民主党众议员洛里·特拉汉与加州共和党众议员杰伊·奥伯诺尔特牵头推出《前沿AI法案》（FRONTIER Act），该法案授权政府叫停高风险模型部署，并优先于部分州AI法规。

　　参议院方面，多数党领袖约翰·休恩、明尼苏达州民主党参议员埃米·克洛布查尔、得克萨斯州共和党参议员泰德·克鲁兹正在协商一份旨在降低灾难性风险的AI安全法案。但该法案遭遇阻力：一批安全导向组织，以及克鲁兹所在的商务委员会首席民主党议员玛丽亚·坎特威尔，希望赋予政府更大的AI模型审查权限。

　　还有进步派议员，包括得州民主党众议员格雷格·卡萨尔、佛蒙特州独立参议员伯尼·桑德斯，诉求更为激进，呼吁暂停高级AI研发，并禁止“超级智能”——这类理论上认知能力远超人类的人工智能。