Openaı, Astra Modeli İçin Kritik Siber Yetenek Riskine Karşı Önlemler Alıyor

Meta, Astra modelinin geliştirilmesini yavaşlattı çünkü 'kritik siber yetenekleri dışlayamadı. Yapay zeka devi, yaklaşan Astra modeli söz konusu olduğunda 'kritik siber yetenekleri dışlayamadığını' söyledi. OpenAI'nin modellerinin açık kaynaklı makine öğrenimi platformu Hugging Face'e sızdığı büyük bir siber güvenlik olayından kısa bir süre sonra şirket, en yeni yapay zeka modeli için güvenlik önlemlerini ve kontrollerini güçlendirdiğini duyurdu.

OpenAI, web sitesindeki bir gönderide, Astra adlı yaklaşan modeline ilişkin iç değerlendirmelerin 'aracılı kodlama ve siber güvenlikte önemli ilerlemeler' gösterdiğini ve bunun sonucunda OpenAI'nin 'kritik siber yetenekleri dışlayamadığını' belirtti. OpenAI'ye göre, yayınlanmamış Astra modelinin 'Kritik yetenek seviyesi' olarak belirleneceğinden kesin olarak emin olamaz. OpenAI, kendi Hazırlık Çerçevesi'nde ayrıntılı olarak açıkladığı gibi, Kritik tanımının, bir modelin 'işlevsel sıfırıncı gün açıklarını tanımlayıp geliştirebileceği' anlamına geldiğini söyledi.