商汤发布SenseNova Loop-9B模型:部署显存需求低至10GB内
商汤科技11月17日晚发布SenseNova Loop-9B模型,沿用Preview版本的参数效率思路,以Loop结构复用模型层参数并结合流形约束超连接,在约9B参数规模下扩展计算深度,面向复杂推理、代码、工具调用和多模态任务。官方称4bit量化后权重约4.9GB,部署显存需求低至10GB内,模型权重与代码已开放。
推荐分析:官方称4bit权重配8bit KV缓存、256K上下文推理显存约15GiB,低显存芯片获27B级性能仅为可能;门槛不只看参数规模。 做法是将第4至27层组成共享权重循环模块并执行两次,把32个物理解码层扩为56次层计算,以参数复用增加推理深度。 与Qwen3.8-27B比肩是官方在Agent与数据分析榜单的说法,非全面超越;权重代码已开放。