论文分享 | NeurIPS-22 | Diffusion-LM:用于提升可控生成的扩散语言模型

4625
1
2022-10-27 17:53:10
正在缓冲...
87
40
214
41
论文名称:Diffusion-LM Improves Controllable Text Generation 论文链接:https://arxiv.org/abs/2205.14217 可控性是自然语言生成中一项重要的能力。当前的可控方法在一些简单的控制任务取得了不错的表现,但是无法处理条件复杂的控制生成任务。在这篇文章中,作者提出将扩散模型应用到可控生成任务中来,通过从一系列高斯噪声向量中逐渐去噪,从而产生句子的表示向量,并解码为真实的文本。扩散模型的连续且多层的性质使其可以执行简单的梯度下降的优化方式,因此可以处理复杂的控制场景。作者在六种细粒度的控制任务上进行了实验,结果表明,扩散语言模型大幅度超越了现有的工作。
揣摩研习社关注自然语言和信息检索前沿技术,解读热门科技论文,分享实用科研工具,挖掘人工智能冰山之下的学术和应用价值!
Diffusion Model
(7/7)
自动连播
2.5万播放
简介
Diffusion model (1) 概述:从VAE谈起
21:24
Diffusion model (2) 概述:从VAE出发推导VDM
14:13
Diffusion model (3) 概述:VDM相关公式推导
39:02
Diffusion model (4) 概述:另一种形式下VDM的推导
16:22
Diffusion model (5) 概述:Score based Model
16:11
Diffusion model (6) 概述:VDM视角下的score base model
10:57
论文分享 | NeurIPS-22 | Diffusion-LM:用于提升可控生成的扩散语言模型
26:29
客服
顶部
赛事库 课堂 2021拜年纪