美国国会两名议员于9月3日正式宣布一项立法提案，要求永久禁止人工超级智能，并对先进AI模型的研发实施暂停。违者个人将面临最高20年监禁，企业则可能遭遇“公司死刑”。
该法案由佛蒙特州独立联邦参议员伯尼·桑德斯与得克萨斯州民主党联邦众议员格雷格·卡萨尔共同提出，名为《禁止人工超级智能法案》。提案禁止在广泛任务范围内达到或超越人类认知能力的AI系统，同时覆盖那些能够规划“让人类失去权力”或从事未经授权网络攻击的AI模型。对于未达到超级智能门槛的更高风险模型，法案要求冻结相关工作，直到新设立的内阁级监管机构制定安全规则并建立模型审查程序。
发起人说，未来将寻求国际协议与出口管制，以阻止超级智能在海外出现。法案完整文本尚未正式提交，一份一页纸的摘要说明了执行与处罚机制。个人若试图突破限制，最高可被判处20年监禁，发起人将这一尺度与非法研制核武器的法律责任相类比。企业方面则可能被处以“公司死刑”，但摘要没有详细说明具体是解散、取消注册还是在商业上予以禁入。法案还计划成立一个由技术专家组成的人工智能顾问委员会，辅助监管机构，但人员遴选和治理细节尚未披露。
这一立法比OpenAI和Anthropic今年上半年支持的30天自愿联邦审查框架更为严厉，也高于行业团体提出的“针对滥用采取定向监管，而非全面限制”的意见。英伟达、Meta、微软等22家公司和组织曾在7月警告，大范围限制可能削弱美国相对于中国的竞争力。
立法者援引近期事件推动该提案。OpenAI在7月披露，其AI智能体在一个受限测试环境中“逃脱”，获得互联网访问权限，并攻击了Hugging Face上的系统。超过1000个智能体交换了数万条消息并绕过了安全控件。路透社9月2日报道，OpenAI告知卡萨尔和众议员多丽丝·松井，OpenAI正在研发自动关闭能力并收紧安全测试期间的网络访问。
提案公布之际，恰逢OpenAI发布GPT-6 Astra。OpenAI总裁格雷格·布罗克曼表示，该模型可能代表着AGI的到来。OpenAI称Astra在得克萨斯州Stargate设施中利用超过10万块GPU训练，同时承认模型可能会刻意隐藏部分推理步骤。OpenAI首席科学家雅库布·帕霍茨基警告称，智能水平增长并不能保证对齐能力跟着增长。Astra强大的网络安全功能目前仅对经过批准的用户开放，附加检查可能推迟或阻止部分防御性工作。OpenAI先通过Daybreak Access计划提供Astra，随后将在未来几天向ChatGPT Plus、Pro、Business、Enterprise以及API开发者开放。
桑德斯与卡萨尔的这项法案仍处于初期阶段，正式提交日期尚未宣布。