Jeff Dean演讲回顾LLM发展史，Transformer、蒸馏、MoE、思维链等技术都来自谷歌

机器之心报道

编辑：Panda

4 月 14 日，谷歌首席科学家 Jeff Dean 在苏黎世联邦理工学院举办的信息学研讨会上发表了一场演讲，主题为「AI 的重要趋势：我们是如何走到今天的，我们现在能做什么，以及我们如何塑造 AI 的未来？」

在这场演讲中，Jeff Dean 首先以谷歌多年来的重要研究成果为脉络，展现了 AI 近十五年来的发展轨迹，之后又分享了 Gemini 系列模型的发展历史，最后展望了 AI 将给我们这个世界带来的积极改变。

机器之心将在本文中对 Jeff Dean 的演讲内容进行总结性梳理，其中尤其会关注演讲的第一部分，即谷歌过去这些年对 AI 领域做出的奠基性研究贡献。我们将看到，Transformer、蒸馏、MoE 等许多在现代大型语言模型（LLM）和多模态大模型中至关重要的技术都来自谷歌。正如