高通向部分客户开放Dragonfly AI200机架级推理系统云测试
高通通过Cirrascale Cloud Services,向部分客户开放Dragonfly AI200机架级推理系统的云端测试,并称测试可通往生产部署。该系统单卡配768GB LPDDR内存,56卡液冷机架合共约43TB,面向大语言、多模态等推理负载。
推荐分析:高通经Cirrascale向部分客户开放AI200云测试,使低功耗省钱主张从供应商表述进入可实测环节,并称测试可通往生产部署。 云测试让客户按大模型推理负载检验其功耗与运营成本,这正是LPDDR液冷机架能否兑现省钱主张的环节。 但开放测试不等于客户采购或量产,节省效果与支持模型范围目前均为高通方面说法,Cirrascale仅提供评估入口。