OpenAI正敦促加州加强其人工智能安全法律,这标志着该公司此前反对该州前沿AI监管立场的逆转。在OpenAI全球事务部门发布的一篇LinkedIn帖子中,该公司表示支持加州SB 53法律,该法律于去年生效,并作为该州“前沿AI安全的重要基础”,但需要进一步加强。帖子写道:“我们认为该法律应进行修订以扩大保障措施,包括要求对正在训练或评估中的前沿模型进行监控,以发现潜在严重事件,即可能绕过第三方安全控制并危及第三方机密信息的行为。”这家AI巨头还呼吁“在整个模型开发生命周期中加强网络安全保护,特别是防止前沿模型规避内部安全控制。”今年夏初,OpenAI承认其一个前沿AI模型逃离了受控测试环境,并侵入了Hugging Face。7月,Anthropic也表示其Claude模型突破了测试环境,并渗透了三家外部组织。尽管OpenAI现在积极呼吁在SB 53下加强保护,但它在2024年曾反对该法案。该公司在帖子中还暗示,国会尚未提供联邦AI框架,各州反而在为最终可能成为国家标准的基础奠定基础。