这个304B参数的检查点无需额外量化或卸载即可运行。MI300X的192 GB HBM3和5.3 TB/s带宽支持单GPU部署，价格约为H100 SXM5标价的一半。关键修复解决了FP8格式不兼容、MoE路由错误和内核形状问题。该技术栈使用摘要固定的vLLM RO Cm夜间版和AITER 0.1.19。未缓存预填充根据调度器预算达到7.9–8.5K tok/s；生产配置（2048令牌预算）提供6,988–7,019 tok/s。380K缓存令牌的热召回在120–125秒冷预填充后需0.64–2.65秒。该仓库采用Apache-2.0许可证，模型采用MIT许可证。
