IT之家 · 评分61
寒武纪完成商汤SenseNova Loop-9B的Day 0适配,打通MLU平台推理链路
寒武纪宣布已完成对商汤新发布模型SenseNova Loop-9B的Day 0适配,基于vllm_mlu打通该模型在MLU平台上的推理链路。适配围…
推荐分析:这次适配使MLU平台对这类新模型的可用性判断多了一个具体条件:发布当日能否由软件栈跑通推理。 其Loop结构将32个物理解码层…
寒武纪宣布已完成对商汤新发布模型SenseNova Loop-9B的Day 0适配,基于vllm_mlu打通该模型在MLU平台上的推理链路。适配围…
推荐分析:这次适配使MLU平台对这类新模型的可用性判断多了一个具体条件:发布当日能否由软件栈跑通推理。 其Loop结构将32个物理解码层…