【NLP最新进展】自然语言处理中的预训练模型（复旦大学邱锡鹏教授）

[视频作者] 木尧の

[视频时长] 101:51

[视频类型] 校园学习

复旦大学邱锡鹏教授：自然语言处理(NLP)的最新进展，预训练语言模型（BERT大家族及其后续改进） 论文：Pre-trained Models for Natural Language Processing: A Survey（https://arxiv.org/pdf/2003.08271.pdf） 大纲： • 介绍语言表示学习及相关研究进展 • 从四个方面对现有PTM进行系统分类 • PTM使用的预训练任务类型 • 为特定场景与输入类型所设计的 PTM • 宣传了一下自家的fastNLP工具