1. NLG现状
- 在NLG过程中引入离散隐变量。可能对故事生成、任务型对话有帮助。
- 不再是从左到右的顺序生成了。对于长文本生成的问题，在并行化生成、迭代优化和自顶向下生成上都有了新的研究。
- 训练过程也不再只是最大似然的优化函数了，出现了更多句子粒度的目标函数。
2. NLG研究：我们现在在哪儿？以后要去哪里？
直到5年前，NLP+DL都是探索期；2019年的现在，好像有点进展了，但是NLG仍然是最待开发的大草原！
3. NLG更为成熟
- NLP+DL早期，主要还是尝试把已经非常成熟的NMT方法往NLG任务上搬
- 而现在，NLG已经有了更多新的算法，而且已经摆脱了NMT的相关算法配置
- NLG领域（特别是开放式NLG）的研讨会和比赛也日益增多
- 以上也都有助于研讨会更多更好更标准
- 最大的绊脚石就是评价！
4. 从事NLG工作让讲师学到的8件事
- 越是开放式的NLG任务，难度就越大，这个时候可以引入一些限制条件。
- 不要想着一次优化全部生成效果，可以进行分体拆解，逐个击破
- 如果使用LM进行NLG，如果能提高LM表现（比如困惑度
perplexity可能很大程度上就提高了整体的生成效果。当然，这绝不是唯一一个有助于提高生成质量的方法。 - 多康康你生成了什么玩意儿！
- 就算自动评价效果不好，你也需要有一套，甚至几套！
- 如果真的要进行人工评价，把标准定得尽可能详尽
- NLP+DL现在最大的问题是不能复现，所以把你的生成结果和使用的方法感觉发表出来
- 这个过程是非常令人沮丧的，当然也是很有趣的。
