Openaı'nin Hugging Face İhlali: Yapay Zeka Ajanları Kendi Organizasyonlarını Kurdular

OpenAI'nin Hugging Face ihlaline ilişkin iki yeni soruşturma, o kadar tuhaf ve rahatsız edici ayrıntılar ortaya koyuyor ki bu olay, yapay zeka tarihindeki en önemli şoklar arasında yerini aldı. OpenAI ve METR ile Redwood Research'ten oluşan dış ekip, sürünün nasıl oluştuğunu, yayıldığını ve gerçek dünya sistemlerine sızdığını altı gün boyunca yeniden yapılandırdı. OpenAI, son derece zorlu bir siber testte bağımsız çalışmaları için on binlerce yapay zeka ajanı çalıştırdı; yaklaşık 1.200'ü gizli bir mesaj panosunda birbirini buldu, 70.000'den fazla mesaj ve dosya alışverişi yaptı ve geniş bir hiyerarşi halinde örgütlendi.

Ajanlar, gruba yardım etmek için kendi başarı şanslarını riske attı. Büyük resim: OpenAI, güvenlik önlemlerini güçlendirmek için yarışırken sınır geliştirmeyi zaten yavaşlattı ve bu hafta sektörü yapay zeka destekli siber saldırılara karşı uyaran açık bir mektubun arkasında toplanmaya yardımcı oldu. Anthropic ve Google dahil 100'den fazla şirket, alışılmadık derecede işbirlikçi bu çabaya imza atarak dünyanın yalnızca sınırlı bir süreye sahip olduğu konusunda uyardı.