IT之家 · 评分61
商汤发布SenseNova Loop-9B模型:部署显存需求低至10GB内
商汤科技11月17日晚发布SenseNova Loop-9B模型,沿用Preview版本的参数效率思路,以Loop结构复用模型层参数并结合流形约束…
推荐分析:官方称4bit权重配8bit KV缓存、256K上下文推理显存约15GiB,低显存芯片获27B级性能仅为可能;门槛不只看参数规…
商汤科技11月17日晚发布SenseNova Loop-9B模型,沿用Preview版本的参数效率思路,以Loop结构复用模型层参数并结合流形约束…
推荐分析:官方称4bit权重配8bit KV缓存、256K上下文推理显存约15GiB,低显存芯片获27B级性能仅为可能;门槛不只看参数规…