Google AI:DEV 作者专属(RSS)· Gemini Team·· 2026-07-14精选AI 评分68
DiffusionGemma 发布:文本扩散模型实现 4 倍加速推理
DiffusionGemma: 4x faster text generation
AI 导读
Google 发布实验性开源模型 DiffusionGemma,采用文本扩散技术并行生成 256 token 块,推理速度最高提升 4 倍。该 26B MoE 模型仅激活 3.8B 参数,量化后适配 18GB VRAM 消费级 GPU,在单张 H100 上达 1000+ tokens/s。
推荐理由
Google把扩散模型首次做进大语言模型,生文速度提升4倍,还开源了权重。虽然实验性质量打折,但本地实时交互的开发者终于有个新选项可以玩了。
来源:Google AI:DEV 作者专属(RSS) · dev.to