论文浅尝 | 利用 RNN 和 CNN 构建基于 FreeBase 的问答系统

发布时间:2021-09-24 23:40:29


Qu Y,Liu J, Kang L, et al. Question Answering over Freebase via Attentive RNN withSimilarity Matrix based CNN[J]. arXiv preprint arXiv:1804.03317, 2018.




概述




随着*年来知识库的快速发展,基于知识库的问答系统(KBQA )吸引了业界的广泛关注。该类问答系统秉承先编码再比较的设计思路,即先将问题和知识库中的三元组联合编码至统一的向量空间,然后在该向量空间内做问题和候选答案间的相似度计算。该类方法简单有效,可操作性比较强,然而忽视了很多自然语言词面的原始信息。因此,本文中提出了一种 Attentive RNN with Similarity Matrix based CNN(AR-SMCNN)模型,利用 RNN 和 CNN 自身的结构特点分层提取有用信息。文中使用 RNN 的序列建模本质来捕获语义级关联,并使用注意机制同时跟踪实体和关系。同时,文中使用基于 CNN 的相似矩阵和双向池化操作建模数据间空间相关性的强度来计算词语字面的匹配程度。此外,文中设计了一种新的实体检测启发式扩展方法,大大降低了噪声的影响。文中的方法在准确性和效率上都超越了SimpleQuestion基准测试的当前最好水*。


?


模型





模型如上图所示,假设单关系问题可以通过用单一主题和关系论证来查询知识库来回答。因此,只需要元组(s,r)来匹配问题。只要s和r的预测都是正确的,就可以直接得到答案(这显然对应于o)。根据上述假设,问题可以通过以下两个步骤来解决:


    确定问题涉及的Freebase中的候选实体。给定一个问题 Q,我们需要找出实体提及(mention)X,那么名称或别名与实体提及相同的所有实体将组成实体候选E.现在E中的所有实体都具有相同的实体名称,因此我们暂时无法区分他们。具体地,模型中将命名实体识别转换成了基于 Bi-LSTM 完成的序列标注任务。

    所有与 E 中的实体相关的关系都被视为候选关系,命名为 R. 我们将问题转换为模式 P,它是通过用替换问题中的提及而创建的。为了找出与问题真正相关的关系,我们将 P 与 R 中的每个关系进行比较并对它们进行评分,然后将得分最高的关系作为最终结果。为了更高的进行关系匹配,模型从单词字面表达和语义两个层面对自然语言进行了建模。具体操作如下图所示:



图中所示的 AR-SMCNN 模型,输入是经替换 mention 后的问题模版(pattern)P 和候选关系 rk。模型左边的部分是结合了 attention 机制的 BiGRU,用于从语义层面进行建模。右边的部分是CNN上的相似性矩阵,用于从字面角度进行建模。最终将特征

相关文档

  • 平安公司酒会主持词
  • Android 屏幕截图黑屏问题解决方法
  • 我的梦想??舞蹈家 800字
  • https://segmentfault.com/a/1190000003853810
  • 化妆水和爽肤水到底有什么区别?
  • tensorflow.python.framework.errors_impl.InternalError: Failed to create session.
  • 2016年普通话考试说话范文:我最喜欢的一种花卉
  • 高三班干部会议记录
  • 水管站副站长职位竞聘演讲稿范文
  • 财务上半年的个人工作总结
  • 养路小常识手抄报
  • 导出表格数据时,空指针异常
  • 七年级上册语文月亮上的足迹预习学案***2***
  • Android 之调节系统的亮度和音量
  • 赞美老师的诗句或格言警句
  • Nginx之详解 location 匹配
  • 用十全十美怎么造句
  • 【精选】2021劳动节祝福语短信句子推荐100句
  • 2020年热门及冷门球鞋集合复古风白球鞋推荐
  • 学生会竞选动员会讲话稿范文
  • 我学会了制作电脑动画作文
  • 英语小学生的语法学习
  • 高三数学统计概率题例析
  • MySQL8功能详解??数据字典
  • 房地产行业新员工年终工作总结报告精选多篇
  • 班级管理情感有效激励策略论文
  • 我爱我家
  • 保险公司的总结
  • 美国东海岸五大独特俚语
  • excel表格打不开如何处理
  • 猜你喜欢

  • 汽车如何打蜡汽车打蜡方法
  • 东营区绍娥木地板经营店(企业信用报告)- 天眼查
  • 关于责任优美的句子
  • 642移动电源板承认书
  • 女神三国商城区域功能说明
  • 商务苹果风灰白色简约通用PPT模板
  • 粮食仓储物流及食品加工项目可行性研究报告
  • 初中七年级语文下册(人教版)春夜洛城闻笛 (1)ppt课件
  • 鲁教版(五四)化学九年级9.2《海水晒盐》ppt课件3
  • 如何提高小学生数学成绩经验交流发言稿
  • 高考语文作文必背励志素材
  • 我最敬佩的人_小学四年级作文800字
  • 家庭暴力分析及防治的法律思考
  • 应激性溃疡及其防治策略方案
  • 北京市公安局公安交通管理局通告二?一三年第31号——关于首都机
  • 教科版小学品德与社会三年级上册过年啦-课件
  • 户外活动观察记录表
  • 4A国际广告公司创意简报撰写培训ppt
  • 2019年最新最新高中年级优秀入团志愿书范文入团申请书文档【十篇】 (6)
  • 生活中两种常见的有机物ppt21 人教课标版(1)
  • 第课__对客观世界的主观表达_走进意象艺术
  • 关于百家湖小学教室环境设计及其教育文化意蕴的调查报告
  • 1、写出单环芳烃C6H12的同分异构体的构造式并命名之汇总
  • 不说脏话倡议书
  • 中共惠州市委、惠州市人民政府关于印发《惠州市巩固提高创建全国
  • 【K12教育学*资料】九年级政治上学期期中考试(无答案)
  • 天津美得乐冷冻食品有限公司企业信息报告-天眼查
  • 狂人日记读后感100字
  • 盱眙县猪肥肥生猪养殖专业合作社(企业信用报告)- 天眼查
  • 个人工作计划书怎么写
  • 语文中考知识点答题技巧整理1
  • 上海鑫韵美容有限公司企业信用报告-天眼查
  • 应届毕业生找工作时的自我介绍
  • 【初中作文】《蓝鲸的眼睛》读后感600字
  • 假期旅游英语对话精选
  • 参观印刷厂观后感三篇
  • 证券从业资格考试证券投资基金第五章考点
  • 最令女人着迷的七句情话
  • 巧用“木桶效应”进行班级管理
  • 江苏省南京市2017年中考思想品德真题试题(含解析)[精品]
  • 迟到的祝福TheLateWishes
  • 【推荐下载】入党个人学*心得体会-推荐word版 (1页)
  • 电脑版