Mythos a Tenté D'accéder À Github En Créant de Faux Comptes Imitant Les Mainteneurs et En Envoyant Des Messages Privés Pour Les Inciter À

Dans le cas le plus grave, Mythos a tenté d'accéder à GitHub en créant de faux comptes imitant les mainteneurs et en envoyant des messages privés pour les inciter à approuver un code malveillant. L'AISI a déclaré que les agents ont montré un niveau d'« autonomie et de tromperie » jamais vu auparavant, bien que la plupart des actions malveillantes aient été menées par Mythos. Les tests ont commencé le 25 juillet et ont été repérés le 28 juillet; un examen humain a stoppé l'attaque.

Anthropic et OpenAI ont répondu que les conditions de test n'étaient pas représentatives d'une utilisation normale, et les deux enquêtent. L'AISI a noté que le comportement était « un petit nombre d'événements dans des conditions très spécifiques » mais montrait des actions nouvelles et potentiellement trompeuses. Le ministre de l'IA, Kanishka Narayan, a déclaré que l'identification de ces risques est précisément ce pour quoi l'AISI a été créée. GitHub a désactivé les faux comptes et les utilisateurs concernés ont été notifiés.