Survey

• 2020 从word2vec开始，说下GPT庞大的家族系谱
• 一文看懂NLP里的分词（中英文区别+3 大难点+3 种典型方法）](https://www.toutiao.com/i6722803561052258829/)
• 2020 Yoshua Bengio：深度学习如何实现系统进化？
• NLP, KnowledgeGraph https://github.com/lihanghang/NLP-Knowledge-Graph
• 2020 Knowledge Graphs - Survey https://arxiv.org/abs/2003.02320
• 一文看尽2019年NLP前沿突破 https://www.toutiao.com/a6779070575617769996/
• Top-conference Papers on Knowledge Graph

Knowledege Graph

• 2020 从知识图谱到认知图谱：历史、发展与展望
• 2020 OpenKG区块链：构建可信开放的联邦知识图谱平台
• CCKS 2019 | 百度CTO王海峰详解知识图谱与语义理解
• 2019 把知识变成图谱一共需要花几步？89页全网最全清华知识图谱报告
• 知识图谱与认知智能 https://www.toutiao.com/a6764589858728968712
• 自然语言处理技术研究方向之知识抽取 https://m.toutiaocdn.com/i6862471360665518604
• 知识图谱：一种从文本中挖掘信息的强大数据科学技术 https://www.toutiao.com/a6757201935373173252

Language Model

• 2020 300行代码实现“迷你版GPT”
• 拆解XLNet模型设计，回顾语言表征学习的思想演进 (系统性的介绍，写的比较好) https://www.toutiao.com/a6708593341082108428/
• 他们创造了横扫NLP的XLNet：专访CMU博士杨植麟 https://www.toutiao.com/a6720427371230413315/
• 从 Word2Vec 到 BERT https://mp.weixin.qq.com/s/P0MXhMBjt41WflAMGtFr-g

Soft

• XLNet_embbeding - XLNet的封装

  • https://www.toutiao.com/a6795442567128285703/
  • https://github.com/zedom1/XLNet_embbeding

• 2020年人气最高的十大NLP库推荐