Yapay zekalarda “mobil” devrimi: iPhone’da çalışabilen dev model

ABD'li PrismML, yapay zeka modellerini küçültmenin yeni bir yolunu buldu. Şirket, yeni yaklaşımın yapay zekada "zeka yoğunluğu" dönemini başlatabileceğini savunuyor. Tam Boyutta Gör Yapay zeka modelleri ölçekleme yasası doğrultusunda giderek büyümeye devam etse de bu yaklaşım özellikle telefon, bilgisayar ve robotlar gibi cihazlarda ciddi donanım ve enerji gereksinimi yaratıyor.

ABD merkezli AI girişimi PrismML ise model boyutunu büyütmek yerine " zeka yoğunluğu " kavramına odaklanarak aynı donanımla daha yüksek performans sunmayı hedefliyor. PrismML, yalnızca belirli katmanları küçülten geleneksel kuantizasyon yöntemlerinden farklı olarak tüm modeli 1-bit veya üçlü (ternary) ağırlık yapısına dönüştürüyor. Şirket ayrıca bu yapı için özel çıkarım çekirdekleri geliştirerek sıkıştırılmış ağırlıkların doğrudan kullanılmasını sağlıyor.

Böylece model boyutu, bellek kullanımı ve veri aktarımı önemli ölçüde azaltılıyor. Tam Boyutta Gör Mart 2026'da tanıtılan ve bu tekniği kullanan 1-bit Bonsai 8B, şirketin ticari kullanıma uygun ilk modeli olmuştu. PrismML'ye göre model, Llama 3 8B'den 14 kat daha küçük, 8 kat daha hızlı ve 4-5 kat daha verimli çalışıyor. Yaklaşık 1,15 GB boyutundaki model, M4 Pro işlemcili Mac'te 131 token/saniye, RTX 4090'da 368 token/saniye, iPhone 17 Pro Max'te ise 44 token/saniye hızına ulaşıyor.