基於貝氏定理自動分析語料庫與標定文步 (A Bayesian approach to determine move tags in corpus) [In Chinese]

基於貝氏定理自動分析語料庫與標定文步 * A Bayesian approach to determine move tags in corpus 張瓊文 Chiung-Wen Chang 、徐嘉連 Jia-Lien Hsu1 私立輔仁大學資訊工程學系 Department of Computer Science and Information Engineering, Fu Jen Catholic University, Taiwan (R.O.C.) 張俊盛 Jason S. Chang 國立清華大學資訊工程學系 Department of Computer Science, National Tsing Hua University, Taiwan (R.O.C.) 摘要 利用科技幫助語言學習，是一個重要的研究議題，英文是現今人們主要的溝通語言，對於 非英語體系的國家，學習英語 (從聽力、閱讀到寫作) 是一件困難的事情。尤其在寫作方面，由 於英文文法跟中文文法上的差異，導致在學習英文寫作時，常常會將組成句子的架構搞混，使 得在學習寫作有較大的困難。 英文學術論文寫作，不同於一般文章寫作，通常有明確的架構與段落，如「簡介」、「相關 文獻」、「方法」、「結果」等，此結構稱為「文步」。此外，學術論文寫作與一般寫作有些許的不 同，在寫作的用詞上就有些差異，因此，為了幫助需要寫學術論文的同學們，我們參考學術論 文的文步架構，設計文步分類器訓練語言模組，擷取在特定文步使用的字詞。 在語言處理方面，學者們依照文步架構，提出自動化分析，但是在訓練語言模組中通常需 要大量人工標註資料，為了降低人工標註的部分，我們將專家整理歸納的詞彙，透過機器學習 與迭代 (bootstraping) 的方法達到學習效果，再利用訓練過的語言模型，預測文章句子當中的 文步。 在本研究中，我們提出一套系統，以貝氏方法 (Bayesian approach) 做語言文步分析，此 系統分為兩部分，一為訓練階段 (Training phase)，另為測試階段 (Testing phase)。在訓練階 段中，透過大量的文本 (Corpus) 建立學習模型，採用專門蒐集學術論文簡介的語料集 (Cite- SeerX) 與初始規則 (Initial pattern) 做為分析的依據，利用貝氏方法判斷語料庫中每篇簡介裡 的句子所屬的文步 (move)，當句子被標定完文步之後，利用迭代的方法更新貝氏模型，達到學 習效果。而在測試模型中，將訓練階段得到的結果，給予一篇新的簡介，一樣透過貝氏方法， 預測文步，經過測試階段，我們得到文步預測精確率為 56%。 關鍵詞：學術英文寫作、輔助寫作、文步分析 Abstract English of Academic Writing (EAW) is essential to the research community for sharing knowledge. Research documents using EAW, especially the abstract and introduction, may *此研究由科技部資助，編號為：MOST-103-2511-S-007-002-MY3 1通訊作者：徐嘉連 Jia-Lien Hsu (E-mail: alien@csie.fju.edu.tw) The 2015 Conference on Computational Linguistics and Speech Processing ROCLING 2015, pp. 87-99  The Association for Computational Linguistics and Chinese Language Processing 87 follow a simple and succinct picture of the organizational patterns, called move. This paper introduces a method for computational analysis of move structures, the Background-Purpose- Method-Result-Conclusion in this paper, in abstracts and introductions of research documents, instead of manually time-consuming and labor-intensive analysis process. In our approach, sentences in a given abstract and introduction are automatically analyzed and labeled with a specific move (i.e., B-P-M-R-C in this paper) to reveal various rhetorical functions. As a result, it is expected that the automatic analytical tool for move structures will facilitate non-native speakers or novice writers to be aware of appropriate move structures and internalize relevant knowledge to improve their writing. In this paper, we propose a Bayesian approach to determine move tags for research articles. The approach consists of two phases, training phase and testing phase. In the training phase, we build a Bayesian model based on a couples of given initial patterns and the corpus, a subset of CiteSeerX. In the beginning, the priori probability of Bayesian model solely relies on initial patterns. Subsequently, with respect to the corpus, we process each document one by one: extract features, determine tags, and update the Bayesian model iteratively. In the testing phase, we compare our results with tags which are manually assigned by the experts. In our experiments, the promising accuracy of the proposed approach reaches 56%. Keyword: Academic English Writing, Assisted Writing, Move Tag Analysis 一、緒論 自然語言處理是近幾年學術所關心的議題，在科技尚未發展以前，語言處理幾乎靠人力檢 查與校正拼字與文法錯誤，但是靠人力，則會產生人為的失誤，意思是指並非人工檢查就表示 寫作的用詞與語法正確，所以採用機器學習來替代人工的方式，相較於機器學習，人工校正或 是處理文字相對花費較多時間。 英文是在學術上主要溝通的語言，所以非英語體系的國家，對於英文寫作這一部分相較之 下，發生文法與拼字的錯誤率會明顯提高，因此在資訊發達的世代，學術機構開始收集寫作資 料，譬如：英文檢定考的作文 (ETS)、學生寫的作文資料集 (CLEC) 與維基百科的編輯紀錄等 等，有這些語料集 (Corpus)，學者們開始從事多方面的語言處理與分析研究。利用語料庫，分 析英語的用法 (搭配詞、文法)，運用統計，找出大部分人們所使用的句法，嘗試著從數據當中 找到理論，藉此幫助學習，以及提升寫作上的效率。 在學術論文中，簡介此一章節，通常會描述：問題的背景、主要目的、解決方法、結果與 結論，此修詞結構的組成稱之為「文步」。在過去的研究中 [1–3]，針對論文簡介定義出四個 文步，包括：問題 (Problem)、方法 (Solution)、評估 (Evaluation) 與結論 (Conclusion) 等部 分。美國國家標準協會 (American National Standard Institute, ANSI) [4]，審核並規範寫作的 文步結構為目的 (Problem)、方法 (Method)、結果 (Result) 與結論 (Conclusion)。Swales [5] 定義在論文寫作依循的三大文步修辭結構 (Creating a Research Space, CARS)，包括：為建 立研究領域 (Establishing a research territory)、建立利基 (Establishing a niche)、占領利基 (Occupying the niche)，並在每一個文步修辭結構之下定義細節，藉此幫助描述文章內容。 特別針對學術英文寫作，Glasman-Deal [6] 提出寫作上文步模組，包括：介紹、方法、結 果、討論。Weissberg & Buker [7] 定義學術論文寫作文步為 BPMRC，即背景 (Background, B)、目的 (Purpose, P)、方法 (Method, M)、結果 (Result, R)、討論 (Conclusion, C)。 在本篇論文使用 Weissberg & Buker 提出文章的文步架構 (背景、目的、方法、結果、 結論)，利用大量的學術論文資料 (CiteSeerX) 與少量初始規則，訓練貝氏模型 (Bayesian approach)，學習如何判別句子所屬的文步。 為了得知訓練完畢的貝氏模型所提供文步的精確度，則利用單一篇新的學術論文簡介，透 過貝氏分類器進行文步標定，最終由人為判別文步的正確性。 本論文接著的部分會先探討相關研究 (Section 2)，進而描敘分類器自動學習標定文步的過 程 (Section 3)，與實驗設計、結果 (Section 4)。最後，討論未來的研究方向與結論 (Section 5)。 88 二、相關研究 隨著資訊發展，為了讓資訊交流快速，關於自然語言處理為相當重要的研究領域，在純文 字的應用包括機器翻譯、拼字校正、資料檢索等等。近年來學者對於學術論文或是期刊，有進 一步的研究 (Swales & Feak, 2004)。主要針對論文的段落與句子進行人為的分析研究，經過歸 納之後提出關於論文修辭的架構規則-「文步」。在本研究中，則是針對論文的「簡介」這一個 章節做分析，提出自動化分析論文文步結構的方法。 大部分論文簡介有著簡單文步結構–IMRD [8]，即為介紹 (Introduction)、方法 (Method)、 結果 (Result)、討論 (Discussion)，許多學者也定義出不同的論文文步結構，例如 Swales [5] 為 簡介此小節提出 CARS(Creating a Research …

Content truncated to 500 words