从 Word Embedding 到 Bert:一起肢解 Bert!

在 NLP 中,BERT 最近很火,是 NLP 重大进展的集大成者,是最近最火爆的 AI 进展之一。对最新的 Google BERT 模型我们有这样的疑问:

  1. 什么是 BERT,这个模型是怎么来的;
  2. 刷新了很多 NLP 任务的最好性能,有些任务还被刷爆了,BERT 值得这么高的评价吗;
  3. 它有重大的理论或者模型创新吗?

这篇 Chat 中除了得到以上疑问的答案,您可以得到:

  1. 从图像预训练为例,解释预训练的过程和意义;
  2. Word Embedding 的发展历程;
  3. Embedding from Language Models,ELMO 模型讲解;
  4. Generative Pre-Training,GPT 模型讲解;
  5. BERT 的诞生和“肢解”(ELMO 和 GPT 的优势集成)。

阅读全文: http://gitbook.cn/gitchat/activity/5c05f31f2749dc3af26ebd53

您还可以下载 CSDN 旗下精品原创内容社区 GitChat App ,阅读更多 GitChat 专享技术内容哦。

FtooAtPSkEJwnW-9xkCLqSTRpBKX

相关推荐
©️2020 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页