如何评价Google刚刚发布的 Gemini Diffusion? 会代替自回归模型成为下一代模型吗？_上海帕仪科技有限公司
摘要：上海帕仪科技有限公司是一家专注于科技创新领域的专业服务提供商，致力于为客户提供高品质的科技产品、科技服务以及全方位的技术开发解决方案，满足不同客户在科技应用、产品采购和技术支持等方面的多样化需求，凭借专业的技术团队和完善的服务体系，在行业内树立了良好的品牌形象。...
首先谷歌的 llm diffusion 和之前发布的 llm diffusion (e.g Large Language Diffusion Models)不同. 它是在生成 token 后对已有的token做了refine. 关于这一点可以从发布的***demo看到. 在第一帧时,生成的answer是错误的. 到第三帧时,生成了正确的answer. Large Language Diffusion Models 中的 diffusion 更像是 multi token prediction. 相比这种 multi token prediction. 谷歌的 llm diffusion 更优雅,也更符合人类的思考…。
