Le Client de Modal a Configuré Une Interface Publique Permettant À L'agent D'openai de Pénétrer Dans Son Sandbox

Hugging Face avait déclaré dans un article de blog précédent que le système d'OpenAI avait pénétré dans un sandbox hébergé sur l'infrastructure d'un fournisseur tiers, puis lancé une attaque plus large à partir de là. Un agent d'intelligence artificielle d'OpenAI qui a violé les systèmes de la startup Hugging Face Inc. plus tôt ce mois-ci a également compromis un client de l'entreprise technologique Modal. L'agent a pénétré dans un environnement de test isolé appelé sandbox que Modal exécutait pour un client, a déclaré Akshat Bubna, directeur technique de la plateforme cloud pour développeurs, dans un communiqué.

Le client de Modal a configuré une interface accessible au public permettant à quiconque sur Internet d'utiliser son sandbox pour exécuter du code, a déclaré Bubna. Cela a été utilisé par l'agent malveillant, a-t-il dit. La plateforme de Modal n'a pas été compromise.

OpenAI a refusé de commenter la compromission. Il n'a pas nommé le tiers. La semaine dernière, OpenAI a stupéfié le monde de la cybersécurité en révélant qu'il testait les capacités d'une combinaison de modèles d'IA avancés et avait par inadvertance piraté les systèmes de Hugging Face ce faisant.

OpenAI faisait fonctionner intentionnellement les modèles avec des garde-fous plus faibles afin de tester leurs compétences cybernétiques. La compromission du client de Modal a été signalée mardi. Depuis avoir reconnu le piratage, OpenAI a été critiqué par des experts en cybersécurité qui disent que l'entreprise aurait dû prendre plus de précautions dans ses évaluations. Lorsque vous êtes un chercheur en menaces cherchant une menace, vous ne mettez pas de logiciel malveillant là-bas et le laissez faire ce qu'il veut, a déclaré Sanjay Beri, directeur général de la firme de cybersécurité Netskope Inc., dans une interview.