端侧小模型

近 30 天 4 条动态

近期动态

周五 2 条

IT之家评分34约14MB内存运行2.7亿参数模型:谷歌工程师把AI装进打印机,每词元耗时约60秒谷歌DeepMind技术团队成员于11月17日展示实验:在约14.1MB内存的办公激光打印机上运行2.7亿参数Gemma 3 270M模型,每输出一个词元约需60秒。实验将量化模型与小型Transformer推理引擎编译为PostScript打印任务,未改打印机固件或加装计算板,而由打印机内置解释器执行,采用动态层加载,峰值内存约14.1MB。展开收起

谷歌DeepMind技术团队成员于11月17日展示实验:在约14.1MB内存的办公激光打印机上运行2.7亿参数Gemma 3 270M模型,每输出一个词元约需60秒。实验将量化模型与小型Transformer推理引擎编译为PostScript打印任务,未改打印机固件或加装计算板,而由打印机内置解释器执行,采用动态层加载,峰值内存约14.1MB。

IT之家评分51三星自研AI新进展:Gauss 4现身One UI 9.5代码科技媒体SammyGuru称,三星One UI 9.5首个Beta版代码中出现Gauss 4 E2B,相关名称见于Personal Agent Core和新款Memory应用;内部列表还有Gauss 3.8 3B、GaussA 26B-A4B等型号。Memory应用将其与Gemini Nano、Gemma并列,或暗示测试手机端直接运行。展开收起

科技媒体SammyGuru称,三星One UI 9.5首个Beta版代码中出现Gauss 4 E2B,相关名称见于Personal Agent Core和新款Memory应用;内部列表还有Gauss 3.8 3B、GaussA 26B-A4B等型号。Memory应用将其与Gemini Nano、Gemma并列,或暗示测试手机端直接运行。

周四 1 条

第一财经评分46吉林:发展智能网联汽车,支持迭代高阶自动驾驶技术吉林省人民政府办公厅印发《吉林省“人工智能+”发展“十五五”规划》,提出发展智能网联汽车,支持迭代高阶自动驾驶技术,开发智能座舱产品,并推进车载端侧大模型部署,支持本地化推理决策与智能服务。展开收起

吉林省人民政府办公厅印发《吉林省“人工智能+”发展“十五五”规划》,提出发展智能网联汽车,支持迭代高阶自动驾驶技术,开发智能座舱产品,并推进车载端侧大模型部署,支持本地化推理决策与智能服务。

周二 1 条

IT之家评分22每秒最高输出43个词元:Garlic LLM可让越狱PS4运行90亿参数本地AI模型开源项目Garlic LLM由开发者Leonardo Alegria创建,可让越狱版PS4离线运行90亿参数本地大语言模型,最高生成速度达每秒43个词元;其采用Qwen3.5-9B基座、3位或4位量化和推测解码,支持文本与语音对话,语音模式下速度约降至每秒22个词元。展开收起

开源项目Garlic LLM由开发者Leonardo Alegria创建,可让越狱版PS4离线运行90亿参数本地大语言模型,最高生成速度达每秒43个词元;其采用Qwen3.5-9B基座、3位或4位量化和推测解码,支持文本与语音对话,语音模式下速度约降至每秒22个词元。