Off-by-1-labs'ın Yeni Çalışması, Yapay Zeka Modellerinin Yazılım Güvenlik Açıklarını Yamalama Konusunda Henüz Hazır Olmadığını Ortaya Koydu

Perşembe günü yayımlanan araştırmada, altı açık kaynaklı yazılım güvenlik açığı için üretilen 6.080 yama denemesinin yalnızca yüzde 26'sının kullanılabilir olduğu belirtildi. Sonuçların yüzde 21'inde yamanın hatayı düzelttiği ancak uygulamanın davranışını değiştirdiği, yüzde 53,9'unda ise modelin yama üretemediği, yeni hata eklediği veya her ikisini birden yaptığı kaydedildi. Araştırmacılar, modellerin 'FLAWED' adını verdikleri, yüzeysel olarak işe yarar görünen ancak güvenlik açığını tam kapatmayan, kırılgan mekanizmalar içeren ve yeni hatalara yol açabilen yamalar ürettiğini ifade etti.

Off-By-1-Labs Başkanı Keith Hoodlet, insan savunucuların ve yapay zeka araçlarının güvenlik açığı tespiti ve önceliklendirmeye odaklanması gerektiğini, yama sürecinde insan gözetiminin kritik olduğunu söyledi. Ekip, araştırma araçlarını GitHub'da yayımladı.