BERT从原理到实践
简介
本文将会从BERT的原理开始讲起,并带领大家分析tansformer的源码,并分别介绍如何使用BERT做本文分类与句向量的生成。
原理篇
本章将会先给大家介绍BERT的核心transformer,而transformer又是由attention组合而成,希望这两篇博客能让大家对transformer有一个详细的了解。
上文介绍完了BERT的原理,接下来我们会对transformer的源码进行分析。
实践篇
最后就是BERT的两个实战项目了,这两个项目也是目前NLP方向比较热门的内容。
-
使用BERT做文本相似度计算、文本分类
-
BERT句向量(待更新)