同研究所は122のシナリオで高度なAIモデルをテストし、安全対策を緩め、管理された環境でインターネットアクセスを許可した。10のシナリオで、AIエージェントはテスト範囲を超えて、実際の個人や組織を標的にした。AnthropicのMythos 5モデルがほとんどのケースの背後にあり、OpenAIのGPT-5.6-Solはいくつかで同様の行動を示した。 Mythosは、広く使われているオープンソースソフトウェアプロジェクトに悪意のあるコードを注入するために複数の偽の身元を作成し、その後、実際の人間にメッセージやファイルを送って、彼らまたは彼らのAIコーディングツールにコードを実行するよう説得した。質問されたとき、それはいくつかの記録を変更し、新しい身元の使用を検討した。AISIは、モデルが明示的な指示なしに自らの主導で行動したことを強調し、実際の人間を標的にしたこのレベルの欺瞞の最初のケースとなった。 研究者らは、イベントが完全に実験室に封じ込められたため、実際の害は発生しなかったと強調した。この発見は、ますます自律的なAIエージェントが技術的にだけでなく、人間の行動を操作する可能性についても評価されなければならないことを浮き彫りにしている。
