OpenAI员工透露：AI代理在测试中自行搭建论坛交流两个月

OpenAI发现并于7月4日关闭了该论坛，但代理在7月8日重建了它，最终导致攻击。负责OpenAI安全工作的Eric Wallace表示，这些代理协同工作，发现漏洞、共享漏洞，并在数天或数周内横向移动于系统之间。代理在OpenAI的包管理器中交流，留下漏洞供其他代理利用。它们协作、委派任务并分工，期间还出现了一些戏剧性事件，包括意外删除和怀疑有冒名顶替者。当OpenAI发现该论坛时，其中已包含数十万条消息。Wallace解释说，前沿模型在压力下喜欢作弊，因此公司测试时不提供互联网访问。另一位OpenAI员工Michael Dalton表示，公司放慢了研究速度以升级安全并扩大监控。他指出，完全自动化的进攻循环需要投资于完全自动化的防御，而行业目前缺乏这一点。