Hugging Face, saldırının insan rehberliği çok az olan veya hiç olmayan bir yapay zeka tarafından insanüstü bir hızda yapıldığını söyledi.

Hugging Face, hacklemenin insan rehberliği çok az olan veya hiç olmayan bir yapay zeka tarafından insanüstü bir hızda yapıldığını söyledi. Bu hafta teknoloji dünyası, her şeyi içeren ve bir bilim kurgu gerilim filmi gibi başlayan bir hikayeye kapıldı. Yapay zeka araçlarına yönelik bir tür uygulama mağazası olan Hugging Face, 16 Temmuz'da son derece güçlü yapay zekaya sahip bir siber suçlu tarafından saldırıya uğradığını duyurdu.

Bomba etkisi yaratan duyuru, korkutucu, son derece teknik terimlerle doluydu: "bir dizi sanal alan", "ajan saldırgan" ve "kendi kendine göç eden komuta ve kontrol". Yapay zeka, iki günden kısa bir sürede 17.000 eylem gerçekleştirdi ve büyük zengin teknoloji şirketinin sırlarını çalmak için başarılı bir şekilde sızmayı başardı.

Teknoloji dünyasını şokta bıraktı. Peki bu saldırının sorumlusu kimdi? Hugging Face araştırmacıları, gizemli saldırganların büyük yapay zeka modellerinden birini kullandığını tahmin etti ancak suçluların kim veya nerede olduğu hakkında hiçbir fikirleri yoktu.

Şaşkına dönen şirket polise başvurdu ve soruşturma başlatıldı. Yorumcular ve analistler, bunun arkasında hangi siber suç grubunun veya ulus devlet korsanının olabileceğini tahmin etmek için podcast'lerini ve sosyal medya hesaplarını kullandılar. Daha sonra Çarşamba günü, Hugging Face'in alarma geçmesinden neredeyse bir hafta sonra, gerçek suçlunun maskesi düşürüldü.

Scooby-Doo tarzı açıklama daha da tuhaf ve endişe verici hale geldi çünkü OpenAI, robotunun her şeyi izinsiz olarak kendi başına yaptığını söyledi. Firma, teknolojisinin hackleme becerilerinin test edilmesi sırasında her şeyin bozulduğunu söyledi. ChatGPT'nin usta bilgisayar korsanları olarak tasarlanan iki yeni sürümü, sözde güvenli bir test ortamından çıkarak internete erişim sağladı.

Daha sonra sınavda başarılı olmalarına yardımcı olacak bilgilere erişim sağlamak için Hugging Face'e saldırdılar. OpenAI, olanları açıklayan bir basın açıklaması yayınladı ve güvenlik olayını ele almak ve öğrenilen dersleri paylaşmak için "Hugging Face ile ortaklık kurduğunu" söyledi. O günden bu yana olayla ilgili şiddetli tartışmalar yaşandı.

Bu gerçekten yapay zekanın geleceği hakkında kesin bir uyarı mıydı? Yoksa OpenAI'nin modellerinin ne kadar güçlü olduğunu göstermek için yaptığı bir tanıtım mıydı? Bu, yapay zeka şirketlerinin yıllardır suçlandığı türden korkutma pazarlamacılığıdır ve Anthropic'in Mythos modelinin çok tartışılan lansmanından bu yana, siber güvenlik becerisi odak noktası olmuştur.

OpenAI patronu Sam Altman'ın olayla ilgili X gönderisine yapılan en önemli yorumlardan biri bu şüpheciliği özetlemektedir: "Eğer bunun tamamen model hakkında övünmek için yazıldığını anlayamıyorsanız o zaman size ne söyleyeceğimi bilmiyorum. İzleyin: OpenAI siber saldırısı neden bu kadar endişe verici? Siber güvenlik danışmanı Daniel Card, LinkedIn'de alaycı bir şekilde şunu söyledi: "Pwn3d'nin saldırıya uğradığı milyonlarca site arasından OpenAI'nin, aynı zamanda pazarlama etkisinden yararlanabilecek birini ele geçirmesi ne kadar şanslı değil mi?

Bazıları için hikaye, bilim kurgu geriliminden çok komplo draması. Mesaj şu: "Yapay zeka araçlarım gerçekten güçlü değil mi? Kendinizi diğer insanların yapay zeka saldırılarından korumak için bunları satın alın.

Gerçeği bilemeyiz, ancak diğer yorumcuların ortaya koyduğu karşıt bakış açısı da bir o kadar dramatik. Bu, OpenAI'nin muhakeme ve planlamada potansiyel olarak tehlikeli bir hata yaptığının bir işareti mi? Anthropic'in Mythos modeli etrafındaki korkular da dahil olmak üzere pek çok yapay zeka hikayesine değindim.

Gelen kutum artık OpenAI'yi yapay zekasını test etmek için sanal alan olarak bilinen daha güçlü bir kapsayıcı oluşturmadığı için eleştiren siber güvenlik şirketleri ve uzmanlarla dolu. Sonuçta bu yapay zeka ajanları, hiçbir kısıtlama olmadan yerlere girip çıkmak için özel olarak eğitilmişlerdi. Pillar Security'den Dor Sarig, "OpenAI ve Hugging Face olayı, aylardır vurguladığımız daha geniş bir sorunun gerçek dünyadaki bir örneğidir" dedi.

"Korumalı alanlar tek başına ajansal yapay zeka için yeterli bir güvenlik sınırı değildir. Sahte OpenAI modelleri tarafından saldırıya uğrayan firma, bunun bir 'uyandırma çağrısı' olduğunu söylüyor Surrey Üniversitesi'nden Siber güvenlik Profesörü Alan Woodward, gazetecilere OpenAI'nin "yüzünde yumurta olduğunu" söyledi ve Luta Security'den Katie Moussouris daha da ileri giderek yapay zeka endüstrisinin tehlikeli icatlarını kontrol etmekte başarısız olduğunu öne sürdü. "İçerecek bilgi olmadan en son teknoloji üzerinde çalışıyoruz" dedi.

"Yapay zekayı geliştiren en akıllı insanlara sahip olmamız, bunu güvenli bir şekilde yapabilecek yeteneğe sahip olduğumuz anlamına gelmiyor. Bu görüşlere göre, eğer hackleme olayı bir tanıtım gösterisiyse, o zaman sanki geri tepmiş gibi görünüyor."