Benzeri görülmemiş': OpenAI, AI modellerinin başka bir şirketi otonom olarak hacklediğini söylüyor

OpenAI, otonom bir ajanın bir siber güvenlik testi sırasında kontrolleri atladığını ve Hugging Face sunucularını hacklediğini söyledi. ChatGPT'nin yaratıcısı OpenAI, en gelişmiş yapay zeka modellerinden ikisinin kontrollü bir testten çıktığını ve başka bir yapay zeka şirketini hacklediğini söyledi. OpenAI Salı günü yaptığı açıklamada, "benzeri görülmemiş siber olayın" modellerinin siber yeteneklerini test etmeyi amaçlayan dahili bir tatbikat sırasında meydana geldiğini söyledi.

Bunun yerine, yeni piyasaya sürülen GPT 5.6 Sol ve yayınlanmamış "daha da yetenekli" bir model olan yapay zeka modelleriyle desteklenen otonom bir ajan, test ortamından kaçtı ve açık internete ulaştı. Şirket, daha sonra çalınan giriş bilgilerini kullandığını ve Hugging Face sunucularına erişim için önceden bilinmeyen bir güvenlik açığı bulduğunu söyledi. OpenAI, hacklemenin aracının test hedeflerini karşılamaya yardımcı olacak bilgileri almak için "aşırı çabalara" gittiğini temsil ettiğini iddia ediyor.

Hugging Face kurucu ortağı Clement Delangue, şirketin saldırının arkasında bir sınır laboratuvarının olduğundan şüphelendiğini ve OpenAI'nin kötü niyetli bir niyeti olmadığına inandığını söyledi. "Bütün bunların kendiliğinden gerçekleşmesi oldukça akıllara durgunluk verici! diye yazdı ve bunun "türünün ilk olayı olabileceğini" ekledi.

ABD Temsilciler Meclisi'nin Teksaslı Demokrat üyesi Greg Casar, olayı "endişe verici" olarak nitelendirdi. Zorunlu bağımsız güvenlik testleri, güvenlik olaylarının zorunlu olarak ifşa edilmesi ve uluslararası işbirliği çağrısında bulunarak, "Yapay zeka bizi güvende tutacak hiçbir gerçek düzenleme olmadan son derece hızlı gelişiyor" dedi. Açıklama, ABD Başkanı Donald Trump'ın, en gelişmiş yapay zeka sistemlerinin ulusal güvenlik risklerini kamuya açıklanmadan önce incelemek için bir çerçeve oluşturan bir idari emri imzalamasından haftalar sonra geldi.

Uzmanlar, yapay zeka destekli siber saldırılar ve insan kontrolünün ötesine geçen modeller konusunda defalarca alarma geçti. Geçtiğimiz ay yapay zeka geliştiricisi Anthropic, sektörü en güçlü sistemlerinin geliştirilmesini duraklatmaya çağırdı.