D-Matrix ने विकसित की नई मेमोरी आर्किटेक्चर, AI प्रोसेसर में HBM का विकल्प बन सकती है

D-Matrix ने एक नई मेमोरी आर्किटेक्चर विकसित की है जो AI प्रोसेसर में HBM का विकल्प बन सकती है। कंपनी का Raptor डिज़ाइन कम मेमोरी क्षमता के बदले कहीं अधिक बैंडविड्थ प्रदान करता है। AI प्रोसेसर में मेमोरी एक्सेस गति बढ़ाने पर केंद्रित D-Matrix ने Hot Chips 2026 कार्यक्रम में नया एक्सेलेरेटर आर्किटेक्चर पेश किया। पारंपरिक HBM दृष्टिकोण के विपरीत, कंपनी DRAM चिप्स को प्रोसेसर लॉजिक के बगल में नहीं, बल्कि सीधे उसके नीचे रखती है। Raptor में, TSMC की N4 प्रक्रिया से निर्मित लॉजिक चिप को विशेष रूप से डिज़ाइन किए गए DRAM के ऊपर रखा जाता है। यह संरचना प्रोसेसर और मेमोरी के बीच कनेक्शन को काफी छोटा करती है। D-Matrix का कहना है कि यह उच्च बैंडविड्थ और कम डेटा ट्रांसफर पावर प्रदान कर सकता है। Raptor 3D-DRAM डिज़ाइन 32 GB मेमोरी क्षमता और 100 TB/s से अधिक बैंडविड्थ प्रदान करता है। D-Matrix की तुलना के अनुसार, 192 GB HBM4 वाला कॉन्फ़िगरेशन लगभग 18 TB/s बैंडविड्थ तक पहुंच सकता है। इसलिए, Raptor का मुख्य विशिष्ट क्षेत्र इसकी डेटा ट्रांसफर क्षमता है। जबकि HBM बहुत बड़ी मात्रा में डेटा रख सकता है, D-Matrix का 3D-DRAM दृष्टिकोण छोटे डेटा पूल तक बहुत तेज़ पहुंच प्रदान करने का लक्ष्य रखता है। कंपनी इस आर्किटेक्चर को गेमिंग ग्राफिक्स कार्ड के बजाय विशेष रूप से AI वर्कलोड के लिए विकसित कर रही है। मुख्य कारणों में से एक बड़े भाषा मॉडल के अनुमान चरण के दौरान गहन मेमोरी एक्सेस मांग है। हर बार जब कोई भाषा मॉडल नया टोकन उत्पन्न करता है, तो उसे मॉडल डेटा और KV कैश नामक कैश तक बार-बार पहुंचना पड़ता है। इस चरण में, प्रदर्शन प्रोसेसिंग पावर की तुलना में मेमोरी बैंडविड्थ से अधिक सीमित हो सकता है। नया समाधान इस बाधा को कम करता है। मेमोरी को प्रोसेसर के बहुत करीब रखने से डेटा को कम ऊर्जा के साथ स्थानांतरित करने की भी अनुमति मिलती है। D-Matrix का कहना है कि Raptor में मेमोरी कनेक्शन HBM4 की तुलना में प्रति बिट लगभग 5 से 8 गुना कम ऊर्जा खपत करता है। हालांकि, Raptor द्वारा प्राप्त 100 TB/s से अधिक की गति अभी भी उच्च बिजली लागत वहन करती है। सिस्टम केवल मेमोरी के साथ डेटा एक्सचेंज के लिए लगभग 296 W बिजली की खपत करता है। D-Matrix यह भी बताता है कि Raptor, Nvidia के Rubin R200 HBM4 समाधान की तुलना में समान क्षेत्र में लगभग 20 गुना अधिक बैंडविड्थ प्रदान करता है और प्रति बैंडविड्थ 13.5 गुना कम बिजली खपत करता है। हालांकि, DRAM को उच्च-शक्ति प्रोसेसर के इतने करीब रखने से गर्मी, मेमोरी रिफ्रेश और विश्वसनीयता की समस्याएं आती हैं। इसके अतिरिक्त, 32 GB क्षमता HBM-आधारित AI एक्सेलेरेटर की तुलना में काफी कम है। इन मुद्दों को दूर करने के लिए, D-Matrix तेज़ रिफ्रेश, ECC त्रुटि सुधार और अनावश्यक मेमोरी बैंकों का उपयोग करता है। Raptor अभी तक एक वाणिज्यिक उत्पाद नहीं है। Hot Chips 2026 प्रस्तुति में, नियोजित वाणिज्यिक एक्सेलेरेटर की विशेषताओं और लक्षित तकनीकी मूल्यों को साझा किया गया। कंपनी ने पहले Pavehawk नामक 3D-DRAM परीक्षण चिप के साथ प्रौद्योगिकी की अंतर्निहित संरचना का प्रदर्शन किया था। यह इंगित करता है कि प्रौद्योगिकी केवल एक अवधारणा नहीं है।