nlp学习路线
date
Dec 15, 2021
slug
learnlp
status
Published
tags
学习
summary
根据知乎博主李rumor推荐的nlp学习路线整理的知识结构
type
Post
基础知识
- 线性代数
- 概率论与统计
- 评估指标
经典模型
- 统计机器学习
- 神经网络
任务范式与技巧
- 文本分类：计算机将载有信息的一篇文本映射到预先给定的某一类别或某几类别主题的过程
- 句间匹配
- 序列标注：序列标注是一个比较广泛的任务，包括分词，词性标注，命名实体识别，关系抽取等等
- 文本生成
- 语言模型
应用场景
- 单一任务
- 复杂任务
统计机器学习：
- 线性分类：感知机、逻辑回归、朴素贝叶斯
- SVM
- 树模型
- HMN/CRF
神经网络：
- 词向量：Word2Vec、Glove、Fasttext
- CNN
- RNN/LSTM/GRU/Bidirectional
- ELMo
- BERT
文本分类：ReNN、MLP、RNN、CNN、Attention、Transformer、GNN
句间匹配：
- Representation-based
- Interaction-based
序列标注：
- Embedding Module
- Context Encoder Module
- Inference Module
语言模型：
- word-level
- sentence-level