GoogleがI/Oで発表した「Gemini Diffusion」は、従来のオートレグレッシブ生成に代わり、ノイズから出力を生成する拡散モデルを採用した初の商用LLMです。生成速度の高速化と自己修正能力の向上により、コードや数式の編集タスクに強みがあります。従来のTransformer構造を維持しつつ、出力方式が革新的で、次世代のLLMとして注目されています。