自然语言理解跟整个人工智能的发展历史类似,一共经历了3次迭代:

  1. 基于规则的方法
  2. 基于统计的方法
  3. 基于深度学习的方法

最早大家通过总结规律来判断自然语言的意图,常见的方法有:CFG、JSGF等。 后来出现了基于统计学的 NLU 方式,常见的方法有:SVM、ME等。

随着深度学习的爆发,CNNRNNLSTM 都成为了最新的”统治者”。 到了2019年,BERT 和 GPT-2 的表现震惊了业界,他们都是用了 Transformer

https://easyai.tech/ai-definition/nlu/