ڈی میٹرکس نے نئی میموری آرکیٹیکچر تیار کیا جو AI پروسیسرز میں HBM کا متبادل بن سکتا ہے

ڈی میٹرکس نے ایک نیا میموری آرکیٹیکچر تیار کیا ہے جو AI پروسیسرز میں HBM کا متبادل بن سکتا ہے۔ کمپنی کا Raptor ڈیزائن کم میموری گنجائش کے بدلے بہت زیادہ بینڈوتھ پیش کرتا ہے۔ ڈی میٹرکس، جو AI پروسیسرز میں میموری تک رسائی کی رفتار بڑھانے پر توجہ مرکوز کرتی ہے، نے Hot Chips 2026 ایونٹ میں نیا ایکسلریٹر آرکیٹیکچر پیش کیا۔ روایتی HBM طریقے کے برعکس، کمپنی DRAM چپس کو پروسیسر لاجک کے ساتھ کی بجائے براہ راست اس کے نیچے رکھتی ہے۔ Raptor میں، TSMC کے N4 عمل سے تیار کردہ لاجک چپ خصوصی طور پر ڈیزائن کردہ DRAM کے اوپر رکھی جاتی ہے۔ یہ ڈھانچہ پروسیسر اور میموری کے درمیان کنکشن کو نمایاں طور پر مختصر کرتا ہے۔ ڈی میٹرکس کا کہنا ہے کہ یہ زیادہ بینڈوتھ اور کم ڈیٹا ٹرانسفر پاور فراہم کر سکتا ہے۔ Raptor 3D-DRAM ڈیزائن 32 GB میموری گنجائش اور 100 TB/s سے زیادہ بینڈوتھ پیش کرتا ہے۔ ڈی میٹرکس کے موازنے کے مطابق، 192 GB HBM4 استعمال کرنے والی کنفیگریشن تقریباً 18 TB/s بینڈوتھ تک پہنچ سکتی ہے۔ لہٰذا، Raptor کا اہم نمایاں شعبہ اس کی ڈیٹا ٹرانسفر صلاحیت ہے۔ جبکہ HBM بہت بڑی مقدار میں ڈیٹا رکھ سکتا ہے، ڈی میٹرکس کا 3D-DRAM طریقہ چھوٹے ڈیٹا پول تک بہت تیز رسائی فراہم کرنے کا ہدف رکھتا ہے۔ کمپنی یہ آرکیٹیکچر خاص طور پر AI ورک لوڈز کے لیے تیار کر رہی ہے، گیمنگ گرافکس کارڈز کے لیے نہیں۔ ایک اہم وجہ بڑے لینگویج ماڈلز کے انفرنس مرحلے کے دوران میموری تک شدید رسائی کی مانگ ہے۔ جب بھی لینگویج ماڈل نیا ٹوکن تیار کرتا ہے، اسے بار بار ماڈل ڈیٹا اور KV کیش تک رسائی حاصل کرنی پڑتی ہے۔ اس مرحلے پر، کارکردگی پروسیسنگ پاور سے زیادہ میموری بینڈوتھ سے محدود ہو سکتی ہے۔ نیا حل اس رکاوٹ کو کم کرتا ہے۔ میموری کو پروسیسر کے بہت قریب رکھنے سے ڈیٹا کم توانائی کے ساتھ منتقل کیا جا سکتا ہے۔ ڈی میٹرکس کا کہنا ہے کہ Raptor میں میموری کنکشن HBM4 کے مقابلے میں فی بٹ تقریباً 5 سے 8 گنا کم توانائی استعمال کرتا ہے۔ تاہم، Raptor کی 100 TB/s سے زیادہ رفتار اب بھی زیادہ توانائی کی لاگت رکھتی ہے۔ نظام میموری کے ساتھ ڈیٹا کے تبادلے کے لیے صرف تقریباً 296 W توانائی استعمال کرتا ہے۔ ڈی میٹرکس یہ بھی کہتی ہے کہ Raptor Nvidia کے Rubin R200 HBM4 حل کے مقابلے میں اسی علاقے میں تقریباً 20 گنا زیادہ بینڈوتھ پیش کرتا ہے اور فی بینڈوتھ 13.5 گنا کم توانائی استعمال کرتا ہے۔ تاہم، DRAM کو زیادہ طاقت والے پروسیسر کے اتنے قریب رکھنے سے گرمی، میموری ریفریش اور قابل اعتمادی کے مسائل پیدا ہوتے ہیں۔ مزید برآں، 32 GB گنجائش HBM پر مبنی AI ایکسلریٹرز کے مقابلے میں کافی کم ہے۔ ان مسائل پر قابو پانے کے لیے، ڈی میٹرکس تیز ریفریش، ECC غلطی کی اصلاح اور اضافی میموری بینک استعمال کرتی ہے۔ Raptor ابھی تک تجارتی مصنوعات نہیں ہے۔ Hot Chips 2026 پریزنٹیشن میں، منصوبہ بند تجارتی ایکسلریٹر کی خصوصیات اور ہدف شدہ تکنیکی اقدار شیئر کی گئیں۔ کمپنی نے پہلے Pavehawk نامی 3D-DRAM ٹیسٹ چپ کے ساتھ ٹیکنالوجی کی بنیادی ساخت کا مظاہرہ کیا تھا۔ یہ ظاہر کرتا ہے کہ ٹیکنالوجی صرف ایک تصور نہیں ہے۔