Liquid AI 用 300M 草稿模型把解码提速 3.18 倍
编辑精选 一套六月底才在国内开源的投机解码方法，两个月后被一家美国端侧模型公司做成了默认加速件，连推理框架里的算法开关都直接沿用了它的名字。开源代码的扩散速度，比论文引用数诚实得多。 8 月 20 日，Liquid AI 在 Hugging
编辑精选 一套六月底才在国内开源的投机解码方法，两个月后被一家美国端侧模型公司做成了默认加速件，连推理框架里的算法开关都直接沿用了它的名字。开源代码的扩散速度，比论文引用数诚实得多。 8 月 20 日，Liquid AI 在 Hugging