当前位置: 主页 > 学术动态 >

单词嵌入表示学习综述

点击数:   更新日期: 2022-06-30

论文题目:单词嵌入表示学习综述

发表期刊:控制理论与应用(EI)

论文链接:http://kns.cnki.net/kcms/detail/44.1240.TP.20220216.1748.038.html

作者列表:

1) 刘建伟(中国石油大学(北京) 信息科学与工程学院 自动化系)

2) 高悦 (中国石油大学(北京) 信息科学与工程学院 自动化系 2019级硕士

摘要:

本文从模型涉及到的语种数的角度出发,将单词嵌入表示模型分为单语言单词嵌入表示模型和跨语言单词嵌入表示模型两大类.在单语言中,根据模型输入的颗粒度又将模型分为字符级、单词级、短语级及以上的单词嵌入表示模型

主要内容:

单词嵌入表示学习的主要分类如下图所示:



字符级单词嵌入表示模型主要变种如表 1所示。

表1 字符级单词嵌入表示模型总结



单词级单词嵌入表示模型种类如表2所示。

表2 单词级单词嵌入表示模型总结



短语级嵌入表示模型种类如表3所示。

表3 短语级嵌入表示模型总结



基于上下文信息的单词嵌入表示种类如表4所示。

表4 考虑上下文信息的单词嵌入表示



跨语言单词嵌入表示模型如表5所示。

表5 跨语言单词嵌入表示模型总结



结论:

单词嵌入表示是目前研究的一个热点,目前已经取得了大量的成果,拥有重要的理论价值和应用价值,有力地推动着自然语言处理的研究及应用.随着理论研究的进一步深入和应用领域的进一步扩展.

作者简介:

博士生导师/硕士生导师。长期从事模式识别与智能系统、复杂系统分析与智能控制、机器学习和数据挖掘方面的研究工作。美国数学会《数学评论》评论员,中国人工智能学会机器学习分会高级会员。在计算机学报,自动化学报、计算机研究与发展、Neurocomputing、TNNLS等期刊上和国内国际会议上发表学术研究论文200多篇,其中三大检索150多篇。联系方式:liujw@cup.edu.cn