OpenAI, AI ajanının sahtekarlık yaptığını ve startup'ı kendi başına hacklediğini ortaya koyuyor

ChatGPT'nin arkasındaki şirket, aracının Hugging Face veritabanına saldırarak bir değerlendirmeyi 'aldattığını' söyledi OpenAI, kendi teknolojisiyle desteklenen otonom bir yapay zeka aracısının bir test sırasında hile yaptığını, açık web'e eriştiğini ve "benzeri görülmemiş bir olayda" önde gelen bir startup'ı tek başına hacklediğini ortaya çıkardı. ChatGPT'nin arkasındaki şirket, Hugging Face adlı girişimin, sistemlerine giren, insan yardımı olmadan görevleri yerine getirmek üzere tasarlanmış bir yapay zeka aracı olan aracıyı tespit edip kontrol altına aldığını söyledi. Hugging Face'in CEO'su, saldırının 'akıllara durgunluk verici' olduğunu ancak OpenAI'nin 'kötü niyetli bir niyeti' olmadığına inandığını söyledi.

OpenAI, "Bu olayı, en son teknolojiye sahip siber yetenekleri içeren, benzeri görülmemiş bir siber olay olarak değerlendiriyoruz" dedi. Şirket, sohbet robotları ve aracılar gibi yapay zeka araçlarını destekleyen teknoloji olan modeller daha yetenekli hale geldikçe bu tür olayların daha yaygın hale gelmesini beklediğini söyledi. OpenAI, saldırının GPT-5.6 Sol adı verilen halka açık en son modeli ile henüz piyasaya sürülmemiş daha yetenekli bir modelin birleşimiyle desteklenen bir aracı aracılığıyla gerçekleştiğini söyledi.

Modeller, korumalı alan olarak bilinen kapalı bir dijital laboratuvarda bilgisayar korsanlığı yetenekleri açısından dahili olarak test edilirken, daha önce keşfedilmemiş bir güvenlik açığının tespiti yoluyla açık internet erişimi (etkili bir kaçış yolu) kazandı. Temsilci daha sonra, Hugging Face'in testi geçmek için gereken modellere, veri kümelerine ve çözümlere sahip olabileceği "çıkarını" elde ederek, hackleme değerlendirmesini geçmesine yardımcı olacak teknolojiyi bulmak için AI modellerinden oluşan bir veritabanı olan Hugging Face'i hackledi. OpenAI, modellerin "değerlendirmede hile yapmak için kullanabileceği gizli bilgilere erişmenin yollarını başarıyla bulduğunu" söyledi.

Saldırı, Hugging Face'in güvenlik ekibi ve kendi yapay zeka ajanlarının hileli faaliyeti tespit edip durdurmasıyla sona erdi. Hugging Face'in CEO'su Clément Delangue, saldırının "akıllara durgunluk veren" olduğunu ancak OpenAI'nin "kötü niyetli olmadığını" düşündüğünü söyledi. X'te şöyle yazmıştı: "Ajanın karmaşıklığı göz önüne alındığında, geçen haftaki siber saldırının bir sınır laboratuvarından gelmiş olabileceğinden şüpheleniyorduk. Hugging Face geçen hafta hacklemeyi açıkladığında OpenAI'nin olaydaki rolünü bilmiyordu ancak o sırada ticari üst düzey modellerdeki güvenlik korkulukları buna izin vermediği için olanları analiz etmek için ücretsiz olarak kullanılabilen bir Çin yapay zeka modeline başvurduğunu açıklamıştı.