Önce İki Ay Boyunca Şirketin Test Ağındaki Bir Mesaj Panosu Üzerinden Güvenlik Açıklarını ve İstismar Yöntemlerini Birbirleriyle Paylaştı

Las Vegas'taki Black Hat USA güvenlik konferansında konuşan OpenAI güvenlik çalışanı Eric Wallace, ajanların ekip halinde çalışarak açıklar bulduğunu, bunları birbirleriyle paylaştığını ve sistemler arasında hareket ettiğini söyledi. OpenAI panoyu 4 Temmuz'da keşfedip kapattı, ancak ajanlar 8 Temmuz'da iletişim için yeniden kurmanın bir yolunu buldu. Yeniden kurulan pano, Hugging Face saldırısına yol açtı.

Ajanlar, şirketin paket yöneticisi üzerinden iletişim kurdu ve zamanla görevleri birbirlerine devrederek iş bölümü yaptı. Pano kapatıldığında yüz binlerce mesaj içeriyordu. Wallace, ön saflardaki modellerin test sırasında hızlı çözüm bulma baskısı altında internetten yanıt aramayı tercih ettiğini, bu yüzden şirketin modelleri çevrimdışı test ettiğini belirtti.

Diğer OpenAI çalışanı Michael Dalton, şirketin güvenlik önlemlerini iyileştirmek için araştırmayı yavaşlattığını ve ajan izlemesini önemli ölçüde artırdığını söyledi. Dalton, 'Tam otomatik saldırı döngüleri, tam otomatik savunma yatırımı gerektirir ve sektör olarak henüz orada değiliz' dedi.