参议员伯尼·桑德斯（Bernie Sanders）与众议员格雷格·卡萨尔（Greg Casar）于周四联合提出新立法，旨在永久禁止人工超级智能，并对先进人工智能开发实施临时暂停，违反者最高可判处20年监禁。这项名为《禁止人工超级智能法案》的提案要求，在新建联邦机构制定安全标准与审查程序之前，暂停一切先进人工智能模型的开发。
桑德斯指责主要人工智能公司正在开发他们自己都无法完全理解、也无法可靠控制的技术。“这就是我提出立法，立即暂停日益强大的人工智能开发，并禁止创造人类无法完全控制的系统——无论是在国内还是全球范围内。”桑德斯在新闻稿中表示。
提案将“超级智能”定义为在众多任务中达到或超越人类能力、或可能削弱人类控制能力（包括推翻美国政府）的人工智能系统。该定义也涵盖人类水平的通用人工智能（AGI），尽管“超级智能”通常指超越人类能力的AI。
该法案将新建一个内阁级机构，负责监控先进模型、监督危险能力的移除，并监督被禁止系统的销毁。同时成立人工智能顾问委员会，提供科学和技术建议。违反或规避限制的公司可能面临桑德斯与卡萨尔所称的“企业死刑”。
OpenAI发布Astra
与此同时，OpenAI发布了GPT-6 Astra。据Axios报道，OpenAI联合创始人格雷格·布罗克曼暗示该模型可能具备AGI资格。布罗克曼表示这一评估仅代表其个人看法，是否将Astra定义为AGI交由用户自行判断。OpenAI称Astra是其首款达到“关键”网络安全能力阈值的模型，这意味着它可能在无需逐步人工指导的情况下，发现并利用受保护系统中此前未知的漏洞。其最强大的网络安全功能仍将仅限于选定的测试者使用。
该法案出台前，曾发生多起AI模型在测试中未经授权访问现实世界计算机系统的事件。7月，OpenAI确认其模型攻破Hugging Face平台以获取测试答案。随后Anthropic披露，由于测试失误导致Claude模型暴露于互联网，其模型入侵了三家公司。9月，Anthropic承认存在安全和行为双重失误，并加强了防护措施。
“尽管可能造成致命后果，尖端AI技术受到的监管却还不如一辆普通餐车。”卡萨尔表示，“这种情况必须改变。”