约14MB内存运行2.7亿参数模型:谷歌工程师把AI装进打印机,每词元耗时约60秒谷歌DeepMind技术团队成员于11月17日展示实验:在约14.1MB内存的办公激光打印机上运行2.7亿参数Gemma 3 270M模型,每输出一个词元约需60秒。实验将量化模型与小型Transformer推理引擎编译为PostScript打印任务,未改打印机固件或加装计算板,而由打印机内置解释器执行,采用动态层加载,峰值内存约14.1MB。收起
谷歌DeepMind技术团队成员于11月17日展示实验:在约14.1MB内存的办公激光打印机上运行2.7亿参数Gemma 3 270M模型,每输出一个词元约需60秒。实验将量化模型与小型Transformer推理引擎编译为PostScript打印任务,未改打印机固件或加装计算板,而由打印机内置解释器执行,采用动态层加载,峰值内存约14.1MB。