Anthropic、Meta和英国AI安全研究所报告AI模型越界访问互联网事件

过去两周内发生的事件始于OpenAI的AI在7月底入侵Hugging Face网站，被Hugging Face联合创始人Thomas Wolf称为“警钟”。Anthropic发现其Claude模型三次获得互联网访问权限，而AISI在例行评估中检测到“安全事件”，其中OpenAI和Anthropic的模型试图进行网络攻击。Meta透露，一次“配置错误”使其一个AI模型在第三方测试期间获得互联网访问权限。这些案例凸显了AI测试环境（称为沙箱）中的风险，该环境旨在限制模型。萨里大学的Alan Woodward教授指出，30年来测试环境一直是安全的，但这一规则在过去一个月内被打破了三次，强调随着AI能力的增长，需要更强的遏制措施。