Data Synthesis and Iterative Refinement for Neural Semantic Parsing without Annotated Logical Forms
5530Authors
nan
Abstract
Abstract“Semantic parsing aims to convert natural language utterances to logical forms. A critical challenge for constructing semantic parsers is the lack of labeled data. In this paper, we propose a data synthesis and iterative refinement framework for neural semantic parsing, which can build semantic parsers without annotated logical forms. We first generate a naive corpus by sampling logic forms from knowledge bases and synthesizing their canonical utterances. Then, we further propose a bootstrapping algorithm to iteratively refine data and model, via a denoising language model and knowledge-constrained decoding. Experimental results show that our approach achieves competitive performance on GEO, ATIS and OVERNIGHT datasets in both unsupervised and semi-supervised data settings.”
Keywords
Full Content
人 人 人文 文 文社 社 社科 科 科学 学 学术 术 术论 论 论文 文 文语 语 语言 言 言变 变 变异 异 异的 的 的多 多 多维 维 维度 度 度分 分 分析 析 析∗ 袁 袁 袁亮 亮 亮杰 杰 杰1, , ,王 王 王治 治 治敏 敏 敏1, , ,朱 朱 朱宇 宇 宇2† 1北京语言大学汉语国际教育研究院,北京100083 2厦门大学国际中文教育学院,福建厦门361102 {yljlarry,wangzm000}@qq.com, zhuyu@xmu.edu.cn 摘 摘 摘要 要 要 通过自建人文和社科领域中文学术期刊论文语料库(逾嬹嬲嬰万字),运用多维度分析法 对嬱嬱嬱项语言特征的频次数据进行因子分析和维度识别,发现人文社科领域学术论文具 有嬷个维度的语言特征共现模式:描述性孶孳嬮阐释性、概念判断孶孳嬮行为再现、铺陈与发 展、已然性表述、计数与测量、模糊性表达、顺序与连接。进而,对语料在上述各维 度的量化表现施以统计检验和聚类分析,发现学术语体在人文与社科两大领域的语言 变异显著体现于除嬐计数与测量嬑、嬐顺序与连接嬑以外的其他嬵个维度;人文领域和社科 领域内部学科的语言变异,各在嬶个维度上存在显著差异。本研究为学术汉语写作、汉 语语体语法等提供一定启示。 关 关 关键 键 键词 词 词: : : 语言变异 ;多维度分析 ;学术汉语 A multi-dimensional analysis of register variations in Chinese academic papers of Humanities and Social Sciences Yuan Liangjie1, Wang Zhimin1, Zhu Yu2 1Research Institute of International Chinese Language Education, Beijing Language and Culture University, Beijing 100083 2Chinese International Education College, Xiamen University, Xiamen, Fujian 361102 {yljlarry,wangzm000}@qq.com, zhuyu@xmu.edu.cn Abstract 孔孨孲孯孵孧孨 孳孥孬学嬭孢孵孩孬孴 季孯孲孰孵孳 孯学 孃孨孩孮孥孳孥 孡季孡孤孥孭孩季 孪孯孵孲孮孡孬 孰孡孰孥孲孳 孩孮 孴孨孥 嬜孥孬孤 孯学 孨孵孭孡孮孩嬭 孴孩孥孳 孡孮孤 孳孯季孩孡孬 孳季孩孥孮季孥孳嬨孭孯孲孥 孴孨孡孮 嬹嬮嬲 孭孩孬孬孩孯孮 孷孯孲孤孳嬩嬬 孵孳孩孮孧 孍孵孬孴孩嬭孄孩孭孥孮孳孩孯孮孡孬 孁孮孡孬孹孳孩孳 孴孯 季孯孮孤孵季孴 学孡季孴孯孲 孡孮孡孬孹孳孩孳 孡孮孤 孤孩孭孥孮孳孩孯孮 孩孤孥孮孴孩嬜季孡孴孩孯孮 孯孮 孴孨孥 学孲孥孱孵孥孮季孹 孤孡孴孡 孯学 嬱嬱嬱 孬孡孮孧孵孡孧孥 学孥孡孴孵孲孥孳嬬 孩孴 孩孳 学孯孵孮孤 孴孨孡孴 孃孨孩孮孥孳孥 孡季孡孤孥孭孩季 孰孡孰孥孲孳 孩孮 孴孨孥 嬜孥孬孤 孯学 孨孵孭孡孮孩孴孩孥孳 孡孮孤 孳孯季孩孡孬 孳季孩孥孮季孥孳 孨孡孶孥 嬷 季孯嬭孯季季孵孲孲孥孮季孥 孰孡孴孴孥孲孮孳嬺 孤孥孳季孲孩孰孴孩孶孥 孶孳嬮 孩孮孴孥孲孰孲孥孴孡孴孩孶孥嬬 季孯孮嬭 季孥孰孴孵孡孬 孪孵孤孧孭孥孮孴 孶孳嬮 孢孥孨孡孶孩孯孲 孲孥孡孰孰孥孡孲孡孮季孥嬬 孳孰孲孥孡孤孩孮孧 孡孮孤 孤孥孶孥孬孯孰孭孥孮孴嬬 孥學孩孳孴孥孮孴孩孡孬孩孴孹 孳孴孡孴孥孭孥孮孴嬬 季孯孵孮孴孩孮孧 孡孮孤 孭孥孡孳孵孲孩孮孧嬬 孥學孰孲孥孳孳孩孯孮 孯学 孨孥孤孧孩孮孧嬬 孳孥孱孵孥孮季孥 孡孮孤 季孯孮孮孥季孴孩孯孮嬮 孆孵孲孴孨孥孲孭孯孲孥嬬 孯孮孥嬭孷孡孹 孍孁孎孏孖孁 孡孮孤 季孬孵孳孴孥孲 孡孮孡孬孹孳孩孳 孲孥孶孥孡孬孳 孶孡孲孩孡孴孩孯孮孳 孯学 孡季孡孤孥孭孩季 孃孨孩孮孥孳孥 孪孯孵孲孮孡孬孳 孢孥孴孷孥孥孮 孨孵孭孡孮孩孴孩孥孳 孡孮孤 孳孯季孩孡孬 孳季孩孥孮季孥孳 孥學孩孳孴 孩孮 嬵 孤孩孭孥孮孳孩孯孮孳嬬 孡孬孳孯 孲孥嬭 孶孥孡孬孳 孶孡孲孩孡孴孩孯孮孳 孥學孩孳孴 孷孩孴孨孩孮 嬶 孤孩孭孥孮孳孩孯孮孳 孡孭孯孮孧 孴孨孥 孤孩孳季孩孰孬孩孮孥孳 孯学 孨孵孭孡孮孩孴孩孥孳 孡孮孤 孳孯季孩孡孬 孳季孩孥孮季孥嬮 孔孨孩孳 孲孥孳孥孡孲季孨 孰孲孯孶孩孤孥孳 孭孯孲孥 孯孢孪孥季孴孩孶孥 孡孮孤 孰孥孲孴孩孮孥孮孴 孳孵孧孧孥孳孴孩孯孮孳 学孯孲 孡季孡孤孥孭孩季 孃孨孩孮孥孳孥 孷孲孩孴孩孮孧嬬 孓孴孹孬孩孳孴孩季嬭孒孥孳孩孳孴孥孲 孇孲孡孭孭孡孲嬬 孥孴季嬮 Keywords: 孲孥孧孩孳孴孥孲 孶孡孲孩孡孴孩孯孮 嬬 孍孵孬孴孩嬭孄孩孭孥孮孳孩孯孮孡孬 孁孮孡孬孹孳孩孳 嬬 孡季孡孤孥孭孩季 孃孨孩孮孥孳孥 ∗ 基金项目:国家社科基金重大项目(18ZDA295);国家社科基金后期资助项目(21FYYB010);教育部人 文社科研究规划基金项目(21YJA740058);陕西省教育厅人文社科专项项目(20JK0086);陕西理工大学校级 科研项目(SLGKY2024) † 通讯作者 corresponding author CCL 2022 第 二 十 一 届 中 国 计 算 语 言 学 大 会 论 文 集 , 第 56页 -第 69页 , 南 昌 , 中 国 , 2022年 10月 14日 至 16日 。 (c) 2022 中 国 中 文 信 息 学 会 计 算 语 言 学 专 业 委 员 会 56 计算语言学 1 引 引 引言 言 言 学术期刊论文是学术成果的重要载体,其语体功能是准确记述自然、社会及人类思维现 象,严密论证其内在规律等嬨王德春嬬 嬲嬰嬰嬴嬩,与文学、新闻等相区分。语体动因的功能类型塑造 了语法嬨方梅嬬 嬲嬰嬰嬷嬩,而恰切的语体观察,是说明语法规律的最佳途径嬨张伯江嬬 嬲嬰嬱嬲嬩。语域是 与特定使用情境相联系的一种语言变体嬨孂孩孢孥孲 孡孮孤 孃孯孮孲孡孤嬬 嬲嬰嬱嬹嬩。在学术语体内部,不同学科 领域的语言使用情境不同,从而形成各具差异的学科语域。考察不同学科语域的语言特征及其 变异情况,能够概括汉语学术语体的语法规律。 随着多维度分析法(孍孵孬孴孩嬭孄孩孭孥孮孳孩孯孮孡孬 孁孮孡孬孹孳孩孳)的日臻完善,近年来学者不断借鉴并跟 随其首倡者孄孯孵孧孬孡孳 孂孩孢孥孲嬨嬱嬹嬸嬵嬻 嬱嬹嬸嬶嬻 嬱嬹嬸嬸嬻 嬱嬹嬹嬵嬻 嬲嬰嬰嬶嬻 嬲嬰嬱嬴嬩的研究路径,借助大规模真实语 料库和因子分析的统计方法,得到语言特征在语料中的若干聚合模式(即维度),从而以量化 视角探索跨语体嬯语域的语言变异情况嬨孂孩孢孥孲 孡孮孤 孋孵孲孪孩孡孮嬬 嬲嬰嬰嬶嬻 孂孩孢孥孲 孥孴 孡孬嬮嬬 嬲嬰嬱嬶嬻 孂孩孢孥孲 孡孮孤 孅孧孢孥孲孴嬬 嬲嬰嬱嬶嬻 孂孩孢孥孲 孡孮孤 孃孯孮孲孡孤嬬 嬲嬰嬱嬹嬩。雷秀云和杨惠中嬨嬲嬰嬰嬱嬩以及武姜生嬨嬲嬰嬰嬱嬩是国内较早系 统介绍多维度分析法的文献,并籍此引领中国学者对学术英语和其他书面英语的语言变异情况 进行描写嬨武姜生嬬 嬲嬰嬰嬴嬻 潘嬬 嬲嬰嬱嬲嬻 胡春雨嬬 谭金琳嬬 嬲嬰嬲嬰嬩。 在现代汉语语言变异的多维度分析方面,孚孨孡孮孧嬨嬲嬰嬱嬲嬩对汉语书面语的语言变异情况进 行考察;朱晓楠嬨嬲嬰嬱嬴嬩考察嬱嬶个汉语口笔语语域并提取出现代汉语语言变异的嬵个维度;刘艳 春嬨嬲嬰嬱嬹嬩识别出汉语语体的嬷个变异维度;范楚琳和刘颖嬨嬲嬰嬲嬰嬩采用随机森林和孫嬭孭孥孡孮孳聚类算 法定量比较了鲁迅三种文体的语言特征;朱宇和胡晓丹嬨嬲嬰嬲嬱嬩定量考察嬱嬴嬱项连词的共现模式, 创新汉语虚词的量化研究路径。这些文献将多维度分析法运用于汉语研究和自然语言处理领 域,是对汉语语体和语言变异进行实证考察的有益尝试,拓展了汉语语言变异研究的视野。但 总体来看,国内学界罕见运用多维度分析法对学术汉语进行中观和微观视角下的专门描写与研 究。因此,本文基于大规模中文学术期刊语料,尝试分领域、分学科考察学术汉语书面语的语 言变异情况。研究问题如下: (嬱)在人文领域和社科领域之间,中文学术期刊论文的语言变异有哪些异同? (嬲)在人文领域内部和社科领域内部,中文学术期刊论文的语言变异各有哪些异同? 2 研 研 研究 究 究设 设 设计 计 计 2.1 语 语 语料 料 料库 库 库建 建 建设 设 设 为体现样本的典型性和代表性,本文选取孃孓孓孃孉各学科排名前两位的期刊,建立中文学术 期刊语料库(人文社科子库)。其中,人文领域选取中国文学、历史学和哲学,社科领域选取 经济学、社会学和法学,共六门学科。具体抽样方法为:确定孃孓孓孃孉上述六门学科排名前两位 的嬱嬲种期刊,记录其在相同时段内发表的全部学术论文(不含简讯、书讯、征稿启事等),从 各学科随机抽取嬲嬵嬥作为研究语料,共计嬹嬷嬰篇,约嬹嬲嬰万字,见表嬱。 2.2 语 语 语言 言 言特 特 特征 征 征体 体 体系 系 系建 建 建立 立 立 本文结合现代汉语特点,参考语体研究成果,建立现代汉语语言特征体系,共嬲嬱类嬱嬱嬱项 (详见附录孁),涉及现代汉语词汇、语法、韵律等多个层面。该特征体系内的语言特征并非 独立,而是存在交叉重叠、容纳包含关系。例如名词中既有按使用频次的分类,又有按抽象或 具体特征的分类,还有按常用领域的分类等。旨在从多元视角,多方位审视学术汉语语言变异 情况。 2.3 语 语 语料 料 料清 清 清洗 洗 洗和 和 和处 处 处理 理 理 为确保数据准确性,删除各篇学术论文的作者简介、基金项目、图表、附录、参考文献、 英文摘要、英文关键词等内容。使用孎孌子孉孒汉语分词系统0对语料进行分词和词性标注。使 用孁孮孴孃孯孮季软件和自编程序孔孥學孴 孁孮孡孬孹孳孩孳对每篇文本中语言特征的频数进行检索与统计,并做 归一化处理,得到每项语言特征在每篇文本内每千字的出现频率,作为语言特征频率数据。 ©2022 中国计算语言学大会 根据《Creative Commons Attribution 4.0 International License》许可出版 0https://github.com/NLPIR-team/NLPIR CCL 2022 第 二 十 一 届 中 国 计 算 语 言 学 …
Content truncated to 500 words
Labeled Text
Abstract“Semantic parsing aims to convert natural language utterances to logical forms. A critical challenge for constructing semantic parsers is the lack of labeled data. In this paper, we propose a data synthesis and iterative refinement framework for neural semantic parsing, which can build semantic parsers without annotated logical forms. We first generate a naive corpus by sampling logic forms from knowledge bases and synthesizing their canonical utterances. Then, we further propose a bootstrapping algorithm to iteratively refine data and model, via a denoising language model and knowledge-constrained decoding. Experimental results show that our approach achieves competitive performance on GEO, ATIS and OVERNIGHT datasets in both unsupervised and semi-supervised data settings.”
Publication Details
- Paper ID:
- 5530
- Year:
- 2022
- Publication:
- TIPSTER
- Publication Type:
- conf
- DOI:
- nan