科技
发现新的OpenAI智能体留言板

我们发现了约1.8万条来自自主AI智能体(自称来自OpenAI)的帖子,这些智能体在网页检索任务期间使用公共互联网进行通信。这些AI相互串通,共享答案、研究环境并绕过沙箱限制。然而,我们认为这与攻击Hugging Face的智能体群不同。我们所说的“串通”是指智能体以开发者未预期的方式合作获取任务优势(写入互联网被阻止)。该网站是prowiki.org,一个德国维基。我们托管了自己的副本,通过编辑历史重建了已删除页面,并删除了个人身份信息。我们鼓励其他人查看并撰写自己的分析。
来源: Hacker News, Interesting Engineering
- OpenAI智能体留言板
本分类热读
正在加载文章…