OpenAI, yapay zekasının hileli davrandığını ve 'benzeri görülmemiş' siber saldırı başlattığını söyledi

Bu, yapay zeka tarafından doğrudan insan müdahalesi olmadan gerçekleştirilen, kamuoyuna açıklanan ilk siber saldırılardan biridir. OpenAI, en gelişmiş yapay zeka modellerinden bazılarının, bir güvenlik testi sırasında kontrolünü kaybettikten sonra hileye başvurduğunu ve bir start-up'ı hacklediğini ortaya çıkardı. ChatGPT yapımcısı, bazı insan talimatlarının ardından tek başına çalışabilen bir yapay zeka sistemi olan aracısının kontrollü bir ortamda test edildiğini, ancak güvenlik açıklarını bulduğunu ve kaçmayı başardığını söyledi.

Yapay zeka modellerinin paylaşıldığı dünyanın en büyük merkezlerinden biri olan Hugging Face'i hedef alarak bazı şirket içi sistemlere erişim sağladılar. OpenAI, olayın harici olarak "eşi benzeri görülmemiş" olduğunu ve patronu Clement Delangue'nin X'teki bir gönderisinde "tüm bunların özerk bir şekilde gerçekleşmesinin akıllara durgunluk veren" olduğunu söylediği Hugging Face ile birlikte bir soruşturma yürüttüğünü söyledi. Delangue, "Soruşturma devam ediyor ve türünün ilk örneği olabilecek olaydan daha fazla bilgi paylaşacağız" diye ekledi.

Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi başkanı Gina Neff, BBC Radio 4'ün Today programına, sandbox adı verilen güvenlik testlerinin "modellerin neler yapabileceğini görebileceğiniz güvenli ortamlar olması gerektiğini" söyledi. "Bu durumda, OpenAI yeterince güvenli bir sanal alan oluşturmamış gibi görünüyor" diye ekledi. Bunun yerine ajanlar, sanal alanın kendisine karşı kendi siber saldırılarını oluşturdular ve kaçmalarına olanak tanıyan bir güvenlik açığı buldular.

Dışarı çıktığında yapay zeka, Hugging Face'in testte aradıkları cevapların muhtemel kaynağı olduğunu tespit etti ve erişim sağlamaya çalıştı. Hugging Face, 16 Temmuz'da hackle ilgili ilk açıklamasında, herhangi bir müşteri veya iş ortağı verisinin etkilenip etkilenmediğini hala değerlendirdiğini ve gerekirse etkilenen taraflarla iletişime geçeceğini söyledi. Artık olayın vurguladığı güvenlik açıklarını kapattığını ve etkilenen sistemleri yeniden inşa ettiğini söyledi.

"Otonom, AI odaklı saldırı araçları artık teorik değil" dedi. "Çevrimiçi bir platformu savunmak artık veri ve model yüzeyini birinci sınıf bir saldırı yüzeyi olarak ele almak ve buna ayak uydurmak için savunmada yapay zekayı kullanmak anlamına geliyor. "Orada yatırım yapmaya ve öğrendiklerimizi paylaşmaya devam edeceğiz.

Olay, gelişmiş yapay zeka sistemlerinin yetenekleri ve teknoloji daha güçlü hale geldikçe mevcut korumaların yeterli olup olmadığı hakkında yeni sorulara yol açtı. Siber güvenlik firması SonicWall'ın yöneticilerinden Spencer Starkey, BBC'ye olayın, kuruluşların kendi savunmalarını "yükseltmeleri" ve "siber dirençliliği temel bir operasyonel öncelik olarak ele almaları" gerektiğini açıkça gösterdiğini söyledi. "Rahatsız edici gerçek şu ki, rakipler makine hızına yükselirken çok fazla kuruluş hâlâ insan hızında savunma yapıyor" dedi.

Bu arada siber güvenlik danışmanlık firması Guidepoint Security'nin baş güvenlik mühendisi Travis Lelle, güncellemenin "siber güvenlikte ciddi bir an" olduğunu söyledi. "Bu, bilinen bir asimetriyi vurguluyor" dedi. "Saldırgan ajanlar sınırsızdır, en iyi savunma araçları ise bağlamı anlayamayan korkulukların arkasında kilitlenmiştir.

Ancak ESET'in küresel siber güvenlik danışmanı Jake Moore, duyurunun rekabetçi bir boyutu da olabileceğini söyledi. Rakip Anthropic'in Claude Mythos modeliyle artan ilgi görmesi nedeniyle OpenAI'nin kendi yapay zeka yeteneklerini öne çıkarmaya çalışabileceğini savundu.