自然语言处理是人工智能领域中的一个重要方向, 其研究目的是实现人与计算机之间使用自然语言进行有效通信.自然语言处理的研究成果, 让人类可以用日常的语言来使用计算机, 而无需再花大量的时间和精力去学习计算机的语言.

篇章是由连续的话段或句子构成的语言整体, 表达一个完整的语言信息.其特点是前后衔接、语义连贯, 且具有一定的交际目的和功能.无论在形式上还是意义上, 篇章都不是孤立存在的, 而是由篇章单元各自承担一定的角色, 相互作用, 并通过篇章关系关联在一起, 共同构成连贯的篇章结构, 表达一定的篇章语义和意图.因此, 我们解释、分析一个篇章的前提, 就需要理解篇章的结构和语义.篇章结构分析是自然语言处理领域的一个重要研究方向, 其研究目的是研究自然语言文本的内在结构, 理解文本单元间的逻辑语义关联, 即挖掘出文本的结构化和语义信息.篇章结构分析有助于理解篇章的结构和语义, 并为自然语言处理的应用(如自动文摘^[1-3]、机器翻译^[4-6]、信息抽取^{[7, 8]}、问答系统^[9]等)提供有力的支撑.此外, 篇章结构分析可以帮助计算机识别不同写作风格, 并为文本自动生成奠定基础.

篇章结构的研究分析根据文本层次结构可分为微观和宏观两个层面:在微观层面, 篇章结构指的是以句子为主体的篇章单元之间的结构与关系(主要包括子句与子句、句子与句子、句群与句群); 在宏观层面, 篇章结构指的是段落及以上的篇章单元之间的结构与关系(主要段落与段落、章节与章节、篇章与篇章).下面以两个具体的例子进一步阐明微观篇章结构和宏观篇章结构的含义和区别^[10].

首先, 以基于连接依存树的汉语篇章树库(Chinese discourse treebank, 简称CDTB)^[11]中的一篇新闻报道chtb_0035中的第2段为例, 说明微观篇章结构的含义.根据标注, 每一个段落可以形成一棵完整的篇章结构树.

例  1:a. 〈例如〉记者了解到, 去年天津对俄罗斯出口贸易额为两千五百万美元; b.进口两千多万美元; c.其中, 出口额比九四年增长超过80%;d.此外, 天津已有十多家企业在俄开设了公司或代表处; e.俄罗斯在天津的投资企业也达20余家; f.外方投资额约一千万美元; g.双方经贸关系正稳步发展.

在本例中, 叶子节点代表最小篇章单元(一般为子句), 非叶子节点是连接词, 连接词意味着篇章关系, 箭头指向篇章关系中主要的篇章单元.在图 1表示微观篇章结构树中, “〈·〉”括号内的连接词表示此处原本没有连接词, 但可以手工添加, 而null表示没有连接词并且不可添加.根据该结构图, 可以帮助读者直观地理解该篇章的结构, 另外, 连接词可以帮助读者理解篇章单元间的篇章关系, 即篇章的逻辑语义.

我们再以宾州中文树库(the Penn Chinese treebank 8.0, 简称CTB 8.0)^{[12, 13]}中的一篇新闻报道chtb_0094为例, 说明什么是宏观篇章结构.

例2:标题:海南洋浦开发区将动工兴建一批工业项目.

●  (P1).新华社海口一月六日电(记者柳昌林)经过5年多的开发建设, 海南洋浦经济开发区迎来工业建设高潮, 5个工业启动项目有的竣工投产, 有的即将动工兴建.

●  (P2).洋浦经济开发区管理局局长王永春说, 开发区招商工作取得突破性进展, 开发区建设已由土地开发迈向工业项目建设的新阶段.

●  (P3).日前, 洋浦开发区工业启动项目之一的60万吨木浆厂已获国务院批准兴建.这个全国最大规模的木浆厂将由新加坡亚洲浆纸业股份有限公司投资12.83亿美元兴建, 年产漂白商品木浆60万吨.

●  (P4).首个工业启动项目——金岛精米加工厂已于去年底竣工投产.这个由澳门远东(泰国)集团公司与海南省粮油集团公司等联合投资三千万美元兴建的精米加工厂, 采用国外90年代最先进的生产设备和工艺流程, 年加工30万吨糙米, 加工后的精米70%出口.

●  (P5).开发区的其他3个启动项目高速线材厂、橡木地板厂、浮法玻璃厂也将动工投产.此外, 开发区已确定和可能确定的工业项目还有20多个, 包括油汽化工、钢铁厂、还原铁等, 总投资约70亿美元.

●  (P6).洋浦位于海南西部, 是中国第一例由外商成片承包开发的工业开发区, 享有目前国内最优惠、最开放的政策.过去5年间, 土地开发商共投入40亿港元用于电厂、区内主干道及地下管网、土地平整、邮电通讯等基础设施建设.(完).

这篇新闻稿由6个段落P1~P6组成, 段落与段落之间通过篇章关系连接在一起.在图 2表示的宏观篇章结构树中, 叶子节点表示段落, 非叶子节点表示篇章关系, 箭头指向主要篇章单元.根据该结构图, 可以直观地理解该整个篇章的结构和篇章单元间的逻辑语义关系.

从微观和宏观这两个例子中可以看出, 篇章结构的分析有助于篇章内容和主旨的理解.如例1, EDU a~f描述了天津与俄罗斯之间的经贸发展情况, 是EDU g的实际例子, 因此该段落的重点是EDU g“双方经贸关系正稳步发展”, 利用此篇章结构可以直观地理解段落的重点, 进而理解作者的写作意图.如例2, 段落P1点明全文的主旨“海南洋浦经济开发区迎来工业建设高潮, 5个工业启动项目有的竣工投产, 有的即将动工兴建.”而其后的段落都为这个全文主旨服务:P2评价了这个事件的意义, P3~P5展示“5个工业启动项目”的具体进展情况, P6介绍了整个“海南洋浦经济开发区”的发展状况.因此, 整个篇章的重点是P1, 既是全文的主要内容, 也是文章的主旨.

根据这样的分析可以预见, 基于篇章结构分析可以进一步提升自然语言处理上层应用的性能, 例如, 应用篇章结构的信息总结篇章内容和篇章主旨、利用篇章关系的信息辅助问答系统的构建、利用主次关系提升自动文摘应用的性能等.然而, 现有的篇章结构研究主要集中在微观层面, 并且性能也未达到可以应用的水平.而宏观层面的研究还停留在理论研究上, 尚没有可用的语料资源, 也未见相应的计算模型.基于以上所述的原因, 本文提出了一种宏观与微观统一的多层篇章结构表示框架, 并分别构建了宏观篇章的逻辑语义结构和功能语用结构.在此基础上, 本文标注了规模为720篇新闻报道的宏观汉语篇章语料库(原始语料来源为宾州中文树库CTB 8.0).

本文的主要贡献如下.

(1) 提出一种宏观与微观统一的多层篇章结构表示框架, 以主次关系为媒介将篇章宏观结构和微观结构统一起来, 形成一个整体.

(2) 分别构建了宏观篇章结构表示体系的两个视图:逻辑语义视图和功能语用视图.基于这两个视图, 可以有效地表达篇章结构、篇章关系、主次关系和篇章单元的角色功能, 有助于整个篇章结构和语义的理解.

(3) 根据上述宏观篇章结构表示体系, 标注了720篇新闻报道的宏观篇章结构, 其中包含3 985个段落、2 870个篇章关系、8 319个句子, 共计398 829个字, 为宏观篇章结构计算模型研究奠定坚实的基础.

本文第1节对篇章结构分析的相关工作进行了总结, 阐述了篇章结构分析在理论体系、语料资源和计算模型等3个方面的研究进展.第2节提出一种以篇章主次关系为媒介的宏观与微观统一的多层篇章结构表示框架.第3节和第4节分别阐述了宏观篇章结构表示体系的逻辑语义视图和功能语用视图.第5节对语料标注的策略、方法、过程等进行了详细的描述.第6节对标注后的语料进行了统计和分析.第7节对全文进行总结, 并对未来的研究内容进行初步探讨.

1 相关工作

篇章结构的研究分析, 根据文本层次结构可分为微观篇章结构和宏观篇章结构:在微观层面, 篇章结构指的是以句子为主体的篇章单元之间的结构与关系(主要包括子句与子句、句子与句子、句群与句群); 在宏观层面, 篇章结构指的是段落及以上的篇章单元之间的结构与关系(主要段落与段落、章节与章节、篇章与篇章).

1.1 理论体系

微观篇章结构理论包括浅层衔接理论^[14]、Hobbs模型^{[15, 16]}、修辞结构理论^[17-19]、宾州篇章树库理论^[20-22]、意图结构理论^{[23, 24]}、句群理论^[25]、复句理论^{[26, 27]}、基于连接依存树的篇章结构理论^{[11, 28]}等.宏观篇章结构理论相对较少, 包括篇章模式^[29]、超主位理论^[30]、篇章宏观结构理论^[31-35]等.

(1) 修辞结构理论

修辞结构理论(rhetorical structure theory, 简称RST)创立于20世纪80年代, 是Mann & Thompson^[17-19]在系统功能理论框架下提出的篇章生成和分析的理论.修辞结构理论的提出, 对篇章结构分析的发展有着非常重要的意义, 在这一理论框架下, 研究人员进行了诸多的研究工作, 标注了语料资源, 构建了计算模型, 并取得了越来越高的系统性能.修辞结构理论认为篇章各小句之间并非是杂乱无章的, 而是通过修辞关系关联在一起的.修辞结构理论最初定义了23种篇章关系, 每个修辞关系可以连接两个或多个篇章单元, 修辞关系连接的两个或多个篇章单元中可能存在主要的篇章单元和次要的篇章单元, 主要篇章单元与次要篇章单元之间形成“核心-卫星(nuclear-satellite)”的结构, 其中“卫星”单元辅助“核心”单元的表达.当两个以上的篇章单元通过修辞关系连接在一起时, 就构成修辞结构树.

(2) 基于连接依存树的篇章结构理论

Li等人^[11]借鉴修辞结构理论的树型结构表示, 参考宾州篇章树库理论对连接词的处理方式, 提出了基于连接依存树的篇章结构理论(connective-driven dependency tree, 简称CDT), 进行了完整的篇章结构定义和描述.定义的内容包括基本篇章单元、连接词、篇章结构、篇章关系、篇章主次等.在该理论的连接依存树结构中, 叶子节点表示基本篇章单元(elementary discourse unit, 简称EDU), 内部节点为连接词(connective), 箭头指向主要篇章单元.各层篇章单元通过连接词形成更高一级的篇章单元, 层层组合, 最终形成一棵完整的篇章结构树, 如图 1所示.

(3) 宏观结构理论

van Dijk^[31-35]于1980年提出的宏观结构理论(macrostructure theory)指出:微观结构是一个句子内部或两个连续的句子之间的结构, 表现语句之间的语义连贯; 而宏观结构是更高层次的结构, 表现为篇章整体上的语义连贯.宏观结构理论强调了篇章需要有一个总摄全篇的主题, 并层层分解, 由下层命题展开, 最终形成统一的整体.微观和宏观的连贯是一体的, 语句之间的微观连贯性为篇章整体的宏观连贯性服务.

1.2 语料资源

现有的篇章语料资源中, 英文的主要包括宾州篇章树库(PDTB)、修辞结构理论篇章树库(RST-DT)等, 中文的主要包括基于连接依存树的汉语篇章树库(CDTB)和借鉴RST标注的汉语篇章语料库(CJPL)等.

(1) 修辞结构理论篇章树库(RST-DT)

修辞结构理论篇章树库(rhetorical structure theory-discourse treebank, 简称RST-DT)^[36]由美国南加利福尼亚大学和华盛顿国防部以修辞结构理论为基础标注, 并通过Linguistic Data Consortium(LDC)于2003年发布, RST- DT共标注了385个来自《华尔街日报》的篇章, 标注了53种单核关系和25种多核关系, 总词数176 000个.RST- DT标注的篇章可以构成完整的篇章结构树.

(2) 宾州篇章树库(PDTB)

宾州篇章树库(Penn discourse treebank, 简称PDTB)^[37]是由宾夕法尼亚大学、意大利托里诺大学和英国爱丁堡大学联合标注的, 分为3个层次:第1层包括4类语义, 第2层包括16类语义, 第3层包括23类语义.PDTB为每一种关系和其论元标注属性信息, 以《华尔街日报》为语料来源, 共标注了2 304篇文章, 约100万字.PDTB标注的篇章以论元对为标注对象, 所标注的篇章不能构成完整的篇章结构树.

(3) 借鉴RST标注的汉语篇章语料库(CJPL)

乐明^[38]以修辞结构理论为指导, 参考汉语复句和句群的理论, 标注了篇章单元、连接词、修辞关系、核心性等信息.共完成了97篇人民网财经评论的文章的篇章结构标注, 标注了12组47种修辞关系.

(4) 基于连接依存树的汉语篇章树库(CDTB)

Li等人^[11]以基于连接依存树的篇章结构理论为基础, 构建了包含子句切分位置、连接词信息、篇章关系、主次关系等信息的汉语篇章语料库(CDTB).目前, CDTB共有500个文档组成, 包含2 342个段落, 每个段落形成一棵独立的篇章结构树, 共标注了7 310个关系, 标注了4大类17种篇章关系.

1.3 计算模型

在上述的语料资源上, 可以形成完整的篇章结构是修辞结构篇章树库(RST-DT)和基于连接依存树的汉语篇章树库(CDTB)上, 因此, 本节重点介绍基于这两个语料库的计算模型研究.

(1) 基于RST-DT的计算模型

基于RST-DT的篇章结构分析包括两个子任务, 分别是基本篇章单位EDU的划分和篇章结构的生成.

●  基本篇章单位EDU划分子任务的目标是将篇章文本切割为基本篇章单元.

Soricut等人^[39]采用概率模型结合最大似然估计和相应的数据平滑算法进行文本切分(SPADE).该算法在标准句法树上获得了84.7%的F1性能.Hernault等人^[40]将EDU划分问题转化为序列标注问题, 采用CRF模型, 利用词汇、词性、中心词、句法等语言学特征取得了94%的F1性能.目前, 该任务已经达到了较高的性能.

●  相对而言, 篇章结构生成任务的性能还有较大的提升空间.

Hernault等人^[40]实现的篇章结构分析器(HILDA)采用贪婪的自底向上的方法构建篇章结构树, 使用SVM训练了篇章关系分类器, HILDA篇章结构识别的F1性能为72.3%、主次关系识别的F1性能为59.1%、篇章关系识别F1性能为47.8%、全树识别的F1性能为47.3%.Joty等人^[41]在前期仅针对句内构建篇章结构分析器^[42]的工作基础上, 采用动态CRF模型, 分别构建了句子级和篇章级两个篇章结构分析器, 篇章结构识别的F1性能为82.74%、主次关系识别的F1性能为68.40%、篇章关系识别F1性能为55.71%.Feng和Hirst^[43]在HILDA的基础上增加了语言学特征, 使用了线性链的条件随机场, 在进行后编辑方法使得篇章结构识别任务达到了85.7%的正确率、主次关系识别的正确率达到71.0%、篇章关系识别的正确率达到58.2%.Ji等人^[44]参考深度学习的做法, 先采用线性变换将表面特征转化成隐空间, 再进行移进规约构建篇章结构树, 篇章结构识别的F1性能达到86.0%、主次关系识别的F1性能达到72.4%、篇章关系识别F1性能达到59.7%.

专注在宏观篇章层面的研究较少, Sporlederd等人^[45]对RST-DT修正和裁剪后进行了宏观篇章结构分析, 只达到了59.0%的F1性能.

(2) 基于CDTB的计算模型

相对于英文篇章结构分析在RST-DT上的研究, 汉语篇章结构分析开始得较晚.主要原因是, 现有的汉语篇章语料资源的构建和发布都晚于英文的篇章语料资源.如前文所述, RST-DT发布于2003年, 乐明标注的CJPL发布于2008年, Li等人^[11]标注的CDTB发布于2014年, 且目前仅有基于CDTB的汉语篇章结构计算模型研究.

李艳翠^[28]在CDTB上构建了汉语篇章结构分析平台, 分别进行了子句识别、关系识别、主次关系识别等子任务的研究分析, 最终将子任务融合, 输出完整的汉语篇章结构树.系统整体的性能(结构+主次+关系)在自动识别子句和自动句法树上仅达到20.0%.Chu等人^[46]在CDTB上利用上下文特征、词与词性特征、词对特征等进行了篇章主次关系识别的研究, 宏观F1值为53.3%.

2 宏观与微观统一的多层篇章结构

本文针对宏观篇章结构目前语料资源和计算模型的研究都不充分的问题进行了深入研究, 提出利用篇章主次关系作为媒介, 将宏观和微观两个层面的篇章结构连接在一起.并以宏观篇章结构为主要研究对象构建了表示体系和语料资源, 为后续的宏观篇章结构分析奠定基础.

针对微观和宏观篇章结构的特点不同, 应采用不同的分析策略:微观层面, 由于句子间的联系比较紧密, 篇章结构分析依赖于篇章单元之间的逻辑语义因此可以借鉴修辞结构理论和基于连接依存树的篇章结构理论进行结构分析和关系判断; 宏观层面, 段落间的逻辑关系则相对松散, 一个篇章单元本身即可以表达完整的语义, 宏观篇章结构分析更依赖于篇章单元在全文中的地位和作用(如篇章单元与篇章主题的关联), 因此, 可以结合篇章宏观结构理论、超主位理论, 进行篇章结构分析研究.

通过对现有研究内容的分析, 我们发现, 现有理论体系尽管定义不同, 并且主要集中在微观层面, 但无论篇章关系和篇章结构如何定义, 篇章的主次关系的判断方法和表现形式却非常类似.因此, 本文针对这一特点, 借鉴篇章宏观结构理论、修辞结构理论、基于连接依存树的篇章结构理论等理论框架以篇章主次关系作为媒介将篇章的宏观结构和微观结构统一起来, 归纳出一个统一的多层篇章结构表示框架.

在该框架中, 用一个树型结构来表示篇章的层次关系, 自顶向下地包含篇章的标题、章节、段落、微观结构、最小篇章单元等多级篇章结构元素.其中, 第1层为篇章标题层, 第2层为章节层, 第3层为段落层, 段落以下的层次为微观结构层, 而微观结构又由篇章单元和最小篇章单元构成.在上述层次结构中, 段落层和微观结构依据逻辑语义形成多层结构.篇章单元与篇章单元之间通过篇章关系联系起来, 并利用箭头的方向表示各级篇章结构间的主要和次要关系.这个多级篇章结构框架如图 3所示.

(1) 标题层(title layer):标题层的内容即为文章的标题, 代表全文的主题和主旨.

(2) 章节层(chapter layer):章节层的内容是文章分割出的章节.例如学术论文, 其包括“引言、相关工作、系统模型、实验验证”等章节; 又如一些杂志的文章可能分割成多个子标题.根据实际文章情况, 章节层不是一个必需存在的层次.

(3) 段落层(paragraph layer):本文以自然分割的段落为该层次的对象, 即段落层由自然分割的段落集合组成.段落与段落之间由宏观篇章关系连接在一起, 表达特定的逻辑语义.

(4) 微观结构(microstructure):一个自然段落形成一个微观结构.微观结构内包含多层篇章单元(discourse unit, 简称DU).篇章单元是指两个或两个以上的基本篇章单元(EDU)通过篇章关系联系在一起所形成的更大的单元结构.

(5) 基本篇章单元:篇章中最小的语义单位, 具有独立性, 表达一个基本的、完整的语义.由标点分割, 至少包含一个谓语部分, 表达一个命题.

该多层篇章结构的表示以篇章主次关系为媒介, 尽管微观和宏观语义和表达方式有比较大的差异, 但整个篇章的主次关系是一体的.即宏观篇章结构和语义需要微观篇章结构和语义的支撑, 宏观篇章的连贯性需要微观篇章的连贯性来表达.只有在同时满足微观连贯和宏观连贯时, 才能构成整个篇章的连贯.

本文的关注点是篇章的宏观结构, 即段落层以上的篇章结构, 因此, 本文构建了一套宏观篇章结构(macro discourse treebank, 简称MDT)表示体系, 用于表示宏观篇章结构.而微观结构部分, 本文复用了Li等人^[10]提出的基于连接依存树的篇章结构理论定义, 在文中不再赘述, 可参考相应的文献.

本文提出的宏观篇章结构表示体系将篇章结构用篇章结构树的形式来表示, 并分别定义了逻辑语义和功能语用两种宏观结构视图, 以及叶子节点、非叶子节点、边指向等结构要素.逻辑语义结构的侧重点是篇章单元与篇章单元之间的逻辑关系.功能语用结构的侧重点是篇章单元的功能, 即在全文中的所承担的角色和所起的作用.本文第3节和第4节分别阐述了MDT的两个视图:逻辑语义结构和功能语用结构.

3 宏观篇章逻辑语义结构

逻辑语义结构的侧重点是篇章单元与篇章单元之间的逻辑关系.篇章单元是通过篇章关系连接在一起的, 研究者通过分析篇章单元的语义和篇章单元之间存在的逻辑联系来明确篇章关系.

3.1 叶子节点

不同于微观结构将子句或谓语短语定义为叶子节点, 在宏观篇章结构中, 我们关注的是段落以上的层次之间的关系.因此, 我们直接将自然分割的各个段落作为叶子节点.自然分割的段落, 即作者在写作时根据其写作意图和逻辑语义所分割的段落, 以换行符区分.这些自然分割的段落, 也是宏观篇章结构中最小的篇章单元.

例如, 在例2的篇章chtb_0094中, 《海南洋浦开发区将动工兴建一批工业项目》中有6个段落, 那么这6个段落P1~P6, 就是宏观篇章结构的叶子节点, 这些段落形成的逻辑语义结构如图 2所示.

3.2 非叶子节点和篇章关系

各层的篇章单元都是通过篇章关系连接在一起的, 一个篇章关系连接两个或多个篇章单元, 因此, 我们将篇章关系视为宏观篇章结构的非叶子节点.

本文篇章关系的定义主要参考修辞结构理论, 并结合汉语表达的习惯和宏观篇章结构的特点做整理和调整.主要调整的原因是:针对于宏观篇章的最小篇章单位为段落, 而修辞结构理论的篇章关系划分是子句适用的, 在颗粒度上有差异, 造成一些篇章关系因为划分过细而无法适用的情况.表 1对比了修辞结构理论和宏观篇章表示体系中的篇章关系定义.具体说明如下.

(1) 在宏观篇章结构中, 最小的篇章单元是段落, 在一个段落中常常既描述事件发生的时代背景, 又阐明了事件发生所在的地理环境、周边情况等要素, 而极少会出现分开描述这些信息的情况, 因此, 本文将环境关系(circumstance)和背景关系(background)合并为背景关系(background), 以覆盖所有关于环境和背景的描述.

(2) 在汉语篇章中, 常用“摆事实、讲道理、列数据”等手段来解释说明文章的主题, 在一个篇章单元中可能包含多种解释说明的手段, 因此, 这一类篇章关系不宜划分过细, 本文将解答关系(solutionhood)、解说关系(elaboration)、证明关系(justify)和解释关系(interpretation)合并为解说关系(elaboration).

(3) 在修辞结构理论中对于因果类关系划分很细, 并区分意愿性和非意愿性, 这对于段落为最小单元的宏观结构来说难以准确区分, 因为一个段落阐述的原因或结果可能既包含意愿性的, 也包含非意愿性, 因此, 本文将意愿性原因关系(volitional cause)和非意愿性原因关系(non-volitional cause)合并为果因关系(result-cause), 将意愿性结果关系(volitional result)和非意愿性结果关系(non-volitional result)合并为因果关系(cause-result).

(4) 使能关系(enablement)、动机关系(motivation)和目的关系(purpose)也常常会在一起描述, 并且非常抽象, 难以区分, 因此, 本文将这3种关系合并为行为目的关系(behavior-purpose).

(5) 重述关系(restatement)重点是重述前文内容, 总结关系(summary)重点是将前文的内容做概括总结, 这在宏观篇章中几乎都在同一个段落中出现, 因此, 本文将这两种关系合并为总结关系(summary).

(6) 评价关系(evaluation)、序列关系(sequence)、对比关系(contrast)和证据关系(evidence)在宏观篇章中都适用, 本文保留并沿用了这些关系.

(7) 对照关系(antithesis)、让步关系(concession)、条件关系(condition)和析取关系(otherwise)这4种关系一般只出现在句内和句间, 在宏观结构上并不适用, 因此本文没有纳入这些关系.

(8) 还有一些篇章关系在修辞结构理论最初定义的时候没有被包含, 本文增加了Purpose-Behavior(目的行为关系)用于表达目的在前行为在后的篇章关系, 递进关系(progression)用于表示后一个篇章单元在前一个篇章单元的基础上更进一步的篇章关系, 补充关系(supplement)用于表示后一个篇章单元对前一个篇章单元进行额外信息补充的篇章关系, 举例陈述关系(illustration-statement)用于表示举例在前、陈述观点在后的篇章关系.

依据上文对于篇章关系的分析, 本文将宏观篇章结构整理归纳为3大类(并列类、因果类、解说类)15种篇章关系, 见表 2.参考修辞结构理论和基于连接依存树的篇章结构理论, 我们的篇章关系也是一个可扩展的集合, 可根据需要增加新的篇章关系.

篇章关系的具体定义如下.

(1) 并列类(coordination)

●  并列关系(joint):多个篇章单元并列叙述相关的几件事情或同一事件/事物的几个方面, 在语义上它们是并存、平行的关系.并列的篇章单元之间不分主次, 逻辑上不相互依赖.一般情况下, 可任意交换其顺序, 而对全文的语义表达没有影响.

●  顺承关系(sequence):多个篇章单元之间存在时间或者步骤上的先后顺序, 在语义上存在先后相承的关系.这些篇章单元不可随意交换顺序.

●  递进关系(progression):后一个篇章单元的意义比前一个篇章单元更进了一步, 程度更深或意义更大.

●  对比关系(contrast):两个篇章单元描述的是对立的看法或态度, 或者是事物的两个对立的方面.如“机会”与“挑战”.

●  补充关系(supplement):一个篇章单元对另一篇章单元添加了一部分的说明和解释, 是对已有内容的添补.补充篇章单元对前述篇章单元起到了内容上的补充作用, 一般来说, 即使去除补充单元也不影响全文内容和语义的表述.

(2) 因果类(causality)

●  因果关系、果因关系:原因和结果是揭示客观世界中普遍联系着的事物具有先后相继、逻辑相连的一对范畴.原因是指引起一定现象的现象, 结果是指由于原因的作用而引起的现象.两个篇章单元一个描述原因, 一个描述结果, 形成因果关系或果因关系.原因在前、结果在后, 称为因果关系(cause-result); 结果在前、原因在后, 称为果因关系(result-cause).

●  行为目的关系、目的行为关系:一个篇章单元描述的内容是为了产生另一篇章单元描述的事件或事物而执行的行为和动作.行为在前、目的在后, 称为行为目的关系(behavior-purpose); 目的在前、行为在后, 称为目的行为关系(purpose-behavior).

●  背景关系(background):一个篇章单元描述的内容, 是对另一篇章单元描述的内容起作用的历史情况或现实环境.如时代背景、政治背景、历史背景、地理环境等.

(3) 解说类(elaboration)

●  解说关系(elaboration):解说的篇章单元是对被解说的事物、事件进行进一步的解释说明, 或对事物、事件的几个方面进行详细的解释说明.解说的方法有概括解说、定义解说、分类解说、数字解说、引用解说等.常见情况之一, 解说关系连接的两个篇章单元呈现“总分”结构, 即一个篇章单元为总述单元, 另一个篇章单元(该篇章单元常常由一组并列的篇章单元组合而成)为分述单元, 分述单元从不同方面或不同角度对总述单元做了进一步的细化.

●  陈述举例关系、举例陈述关系:一个篇章单元通过列举实际的事例来阐述另一个篇章单元描述的事物、事件或观点, 进一步增加事物、事件或观点的可信度.陈述在前、举例在后, 称为陈述举例关系(statement-illustration); 举例在前、陈述在后, 称为举例陈述关系(illustration-statement).

●  总结关系(summary):后一个篇章单元是对前一个篇章单元的客观重述或概括总结.在结构上, 总结呈现出先分述后总述的“分总”结构, 这是与解说关系最大的区别; 在内容上, 总结不带有主观色彩, 仅仅是对另一个篇章单元的内容做概括, 这是与评价关系最大的区别.

●  评价关系(evaluation):后一个篇章单元是对前一个篇章单元描述内容的判断、分析或看法, 常常含有主观色彩.

举例说明, 在图 2所示的篇章结构图中, “评价”“并列”“解说”和“背景”是非叶子节点.P2评价了开发区招商工作, 与P1构成评价关系(evaluation).P3~P5分别介绍了“60万吨木浆厂”“金岛精米加工厂”和“其他3个启动项目”的情况, 用来详细说明P1中提到的“海南洋浦开发区”的“5个工业启动项目”, 这3个段落之间形成并列关系(joint).P3~P5形成的整体与P1, P2形成的整体构成解说关系(elaboration).P6介绍了洋浦的基本情况以及过去5年的基础设施建设, 是全文的背景, 因此与P1~P5形成的整体构成背景关系(background).

3.3 边指向和篇章主次关系

一个篇章关系连接两个或多个篇章单元, 这些篇章单元隶属于同一个关系组, 如果其中一个篇章单元可以概括该关系组的意图和内容, 并且可以代表所在的关系组和外界发生关系, 那么这个篇章单元就是一个主要单元, 而其他的篇章单元则是次要单元.如果两个或两个以上的篇章单元都是同等重要的, 那么这个篇章关系连接的篇章单元就没有主次之分.

根据这样的现象, 我们定义了3种类型的篇章主次关系.分别是:

●  主要-次要关系(primary-secondary, 简称PS), 这种关系中, 主要篇章单元在前, 次要篇章单元在后.

●  次要-主要关系(secondary-primary, 简称SP), 这种关系中, 次要篇章单元在前, 主要篇章单元在后.

●  同等重要关系(equal importance, 简称EI), 这种关系中, 篇章单元同等重要, 不分主次.

例如, 在“举例陈述关系(statement-illustration)”中, 前一个篇章单元负责陈述信息, 而后一个篇章单元举例说明前一个陈述的篇章单元, 使得陈述单元更容易被读者所理解, 所以“举例陈述关系”是一个PS关系; 再例如, “并列关系(joint)”中两个或多个篇章单元之间没有主次之分, 是同等重要的, 因此“并列关系”是一个EI关系.

在宏观篇章结构表示体系中, 我们利用边的指向来区分主要的篇章单元和次要的篇章单元, 带箭头的边指向主要篇章单元, 而不带箭头的边指向次要篇章单元.举例说明:在图 2所示的篇章结构图中, P1指出洋浦经济开发区的“5个工业启动项目有的竣工投产, 有的即将动工兴建”, 比P2对该事件的评价与主题更为相关, 因此P1是主要的, P2是次要的, 形成PS关系.P3~P5形成的并列关系, 分别介绍这5个工业启动项目, 它们之间没有主次之分, 同等重要, 因此构成EI关系.P3~P5详细说明P1所提到的内容, 该解说关系前面是主要的, 后面是次要的, 形成PS关系.而P6作为背景的介绍, 其内容是次要的, 而P1~P5所述内容是主要的, 因此形成PS关系.依据图中的箭头指向, 可以直观地表示篇章的主次关系, 定位全文的主要内容.

3.4 完整的篇章结构树

最后, 本文将前述章节定义的叶子节点、非叶子节点、边指向相结合, 自上而下的分析篇章结构, 并生成完整的篇章结构树.在这个逻辑语义结构树中, 以自然分割的段落作为叶子节点, 篇章关系作为非叶子节点, 箭头指向篇章关系中主要的篇章单元.采用树型结构来表示宏观篇章结构是因为树型结构的形式清晰直接, 也符合一般的中文阅读习惯; 同时, 树结构也能够直观地表示篇章的层次和篇章单元间的主次关系.

4 宏观篇章功能语用结构

功能语用结构的侧重点是篇章单元的功能, 即在全文中所承担的角色和所起的作用.每一个篇章单元都不是无用的, 而是承担了一定的功能, 为全文的内容和主旨服务.van Dijk^[34]在1988年指出, 新闻篇章具有形象、具体的“图式结构(news schemata)”.该结构主要包括总述(summary)和故事(story), 总述又包括标题(headline)和导语(lead)两部分, 故事又包括情节(situation)和评论(comments).图式结构通过一个自顶向下的层级顺序展现整个新闻篇章的宏观形式, 如图 4所示.Fairclough^[47]将图式结构中的情节和评论更名为附属部分(satellite)和收尾部分(wrap-up).Bell等人^[48]认为, 新闻故事框架可由属性(attribute)、概述(abstract)和故事(story)这3大部分组成:属性部分指明了新闻的基本要素(包括记者、事件发生的时间、地点等); 概述部分包括标题及导语, 概要地介绍新闻的主题内容; 而故事部分由一个或多个情节(episode)构成, 详细地描述新闻报道的细节.有一些新闻还包含3个补充成分, 如背景(background)、评论(commentary)和追踪报道(follow-up).

受这些语言学家研究成果的启发, 本文综合语言学家的基本定义, 为所有的叶子节点和非叶子节点定义了功能(function)属性, 用来表示每个篇章单元在整个篇章中的作用和角色.如chtb_0094可用图 5的功能语用结构树来表示.在这个功能语用结构树中, 每个节点都表示其对应的节点的功能语用.例如, P1简明扼要的描述了全文的主要内容, 其功能就是全文的“导语”; 而P1和P2组合后的篇章单元是全文的总领, 其功能就是全文的“总述”.每个篇章的根节点表示全文的功能, 那么对于新闻篇章来说, 其根节点就是“新闻报道”.

4.1 叶子节点

功能语用结构与逻辑语义结构的叶子节点相同, 同样是自然分割的篇章段落.每个段落在篇章中所起的功能语用被标识为段落的一个属性, 表示该段落在所在篇章关系中和整个篇章中的功能作用.

4.2 非叶子节点

在功能语用结构中, 连接后的篇章单元的功能被标识为非叶子节点的一个属性, 根据该节点在全文中的作用和篇章关系中的角色定义.每篇文章最后都形成一个完整的篇章结构树, 本文将整个篇章的功能作为根节点的属性(新闻报道news report).一个完整的篇章, 其内容都是为全文的主旨服务的, 形式衔接, 内容连贯, 每一个篇章单元的功能也将整个篇章紧密的连接在一起.每一个节点, 无论是叶子节点还是非叶子节点, 都在全文中发挥其功能作用, 这些紧密连接的节点, 才能组成一个完整的篇章.

4.3 功能节点定义

本文定义了18种功能类型, 具体的功能节点定义如下.

●  新闻报道(news report):全文的根节点, 所有的功能节点一层层向上连接, 最终构成了一篇完整的新闻报道.

●  导语(lead):反映全文的中心话题, 同时包含新闻的来源, 即电头信息, 如记者姓名、报道时间、报道地点等.一般是新闻报道的第1段.

●  总述(summary):全文的总述部分, 一般出现在第1段, 或者由文章的前几段组合而成.

●  次总述(sub-summary):文中局部部分的总述.例如, Sub-Summary有时出现在Story的部分, 表达局部总述的含义, 相当于子话题.

●  总结(sumup):对前文或全文内容的重述或总结, 一般出现在全文的最后一段, 或部分段落之后.

●  情景(situation):支撑中心话题的细节描述, 常常描述一个情节或事件.

●  故事(story):由1个或多个情景构成, 表达完整的故事.

●  原因(cause):与结果(result)成对出现, 指引起一定现象的现象.

●  结果(result):与原因(cause)成对出现, 指由于原因的作用而引起的现象.

●  行为(behavior):与目的(purpose)成对出现, 指为某一目的而执行的行为和动作.

●  目的(purpose):与行为(behavior)成对出现, 指行为的所要达成的目的和效果.

●  陈述(statement):与举例(illustration)成对出现, 用于描述事物、事件或观点.

●  举例(illustration):与陈述(statement)成对出现, 通过列举事例来阐述陈述篇章单元所描述的事物、事件或观点.

●  背景(background):描述事件、事物的历史情况或现实环境等.

●  评论(comment):表达对前述事件、事物的判断、分析或看法.

●  补充(supplement):对前述事件、事物添加的说明、解释或额外内容.

●  对比(contrast):与前述单元对立的看法或事物, 或与前述单元对立的另一个方面.

●  递进(progression):意义比前述单元更进一步, 程度更深或意义更大.

如图 4中chtb_0094的功能语用结构, 其根节点即为该新闻报道(news report); P1是全文的导语(lead); P2评论了P1, 其功能是评论(comment); P3~P5分别是对P1内容的细节描述, 对应的功能是情景(situation); P3~P5构成一个完整的故事(story); P1, P2是全文的总述部分(summary); P6的功能是全文的背景(background).

4.4 与RST和CDT的比较

本文定义的宏观篇章结构表示体系MDT与RST和CDT的最主要的区别是:本文关注的重点是宏观篇章结构, 而RST和CDT的关注点主要是微观篇章结构.

(1) 基本篇章单元的定义:RST中的EDU定义为子句或短语, CDT中的EDU对应的是子句, 以逗号作为标志; 而MDT关注的是段落层以上的宏观篇章关系, 因此, 最基本的篇章单元对应的是作者在写作时按照其写作意图而自然分割的段落.

(2) 篇章关系定义:RST对篇章关系的定义比较细, 并且定义了每个关系Nuclear和Satellite对应的功能和要达到的目的, 最初定义了23种篇章关系, RST-DT标注时扩展成了53种单核关系和25种多核关系. CDT中定义了4大类17种篇章关系.MDT因分析对象是段落, 一个段落表达的信息量比较大, 太细致的分类无法适应, 比如一个段落既阐述了事件发生的外部环境, 也描述了事件的历史背景, 此时如果使用RST的定义, 就无法确定是Circumstance关系还是Background关系, 因此, 本文采用背景关系(background)来覆盖这两个定义.另外一些微观的篇章关系中宏观层面也不会出现, 例如转折关系、条件关系、让步关系等, 因此, MDT定义了3大类15种篇章关系.RST、CDT和MDT的篇章关系都是可扩展的, 根据需要可以增加新的篇章关系定义.

(3) 主次关系定义:RST中对应Nuclear和Satellite, 其判断标准与篇章关系直接相关.CDT中对应主次关系, 判断时需要考虑全局因素.MDT的主次关系的判断依据主要是哪个篇章单元与篇章主题更相关, 需要把握全局的内容和主旨.

(4) 篇章结构定义:根据定义, RST、CDT和MDT都可以构建完整的篇章结构树.区别是CDT是微观篇章结构, MDT是宏观篇章结构.RST可以构建一棵完整的树.根据第2节宏观和微观统一的多层篇章结构的定义, MDT和CDT结合, 亦可以生成一棵完整的篇章结构树.

(5) 功能语用结构:RST和CDT没有独立的功能语用结构定义, 其内容涵盖在逻辑语义结构的定义中. MDT中, 我们根据van Dijk的宏观结构理论(macrostructure theory)中假拟新闻图式结构^[34]和标注篇章的特点进行了定义.本文首次针对功能语用结构进行表示体系的定义, 为后续篇章单元的功能语用研究奠定了坚实的基础.

为了更清晰地展示3种篇章结构体系的区别, 本文将主要的区别罗列见表 3.

5 语料标注

大规模标注语料库的出现, 带来了自然语言处理领域思维模式的转变, 为基于统计的自然语言处理奠定了坚实的基础.根据第1节我们对相关工作的总结与分析, 宏观篇章结构分析的语料资源目前还非常匮乏, 尤其是在汉语篇章结构分析方面, 目前尚未有宏观篇章结构语料.因此, 构建宏观和微观统一的篇章结构语料库是非常有必要的, 这不仅能够为篇章结构分析奠定良好的基础, 还可以为自动文摘、机器翻译、信息抽取、问答系统等自然语言的应用提供有力的支持.

依据语料库构建的要求, 可实现、可重复、高度一致, 我们依据第2节~第4节关于宏观篇章结构表示体系的定义, 进行了宏观汉语篇章结构语料的标注工作, 并在标注的过程中, 迭代地对宏观篇章结构表示体系的定义和标注准则进行修正, 历时将近1年, 完成了720篇新闻报道的标注工作, 其来源是宾州篇章树库(Chinese treebank 8.0, 简称CTB 8.0).

篇章单元都不是孤立的, 因此对于篇章的分析, 无论是构建结构还是识别关系, 都需要考虑整个篇章的信息.也就是说, 不能单一地从篇章单元本身来判断结构和关系, 而必须对篇章全文有一个整体的认识和理解, 根据整个篇章的结构、内容和主旨来判断篇章结构和关系, 有充分的理解之后才能进行有效的标注.

5.1 标注策略

本文标注小组在进行宏观篇章结构的标注时, 首先需要通读篇章全文, 并理解每一个段落描述的内容, 全面理解篇章的主旨和主要内容.在标注中, 采用自顶向下和自底向上相结合的标注策略.

(1) 自顶向下

针对每一篇新闻报道, 首先根据全文的内容和主旨, 找到最上层的关系, 即判断第1层的切分位置, 并逐层向下递归切分, 直至每一个独立的篇章单元.例如, 全文采用一种“先总述、再分述”的形式来描述, 那么第1层的切分位置位于“总述”和“分述”之间, 保证切分位置符合篇章的逻辑语义.

采用这种自顶向下的策略, 是因为这种策略符合中文的阅读习惯, 并且有利于在宏观上整体把握全局的内容和特征.

(2) 自底向上

同时, 标注者需要根据段落的关联程度和相似程度来判断两个或多个段落是否需要优先组合.关联程度指的是相邻的段落是否论述同一个主体, 上下段落之间是否存在较强的逻辑关系.相似程度指的是两个段落的长度、形式、内容是否有较强的相似度.如果两个段落之间存在较强的关联程度或相似程度, 那么这些段落需要先行连接, 并作为一个整体再与其他篇章单元连接.例如, 连续的几个段落阐述一个事件的几个情节, 长度、内容、形式都相似, 而与其他段落有较大差异, 那么这几个段落需要优先连接.

采用这种自底向上的局部策略可以帮助标注者将部分内容优先连接后当作一个整体来处理, 避免出现逻辑上的错误拆分.如例2中的P3~P5, 从形式和内容上都较为相似, 并且从全文语义上可以判断它们都是对P1内容的详细阐述, 因此可优先使用“并列关系”进行连接.

5.2 标注方法

给定一篇生语料, 标注者需要对语料进行文本阅读分析、篇章结构检测、篇章关系识别、主次关系判别、篇章结构树构建等操作, 最终形成一棵完整的篇章结构树.完成逻辑语义视图的标注后, 通过基于规则的逻辑语义到功能语用的转换, 完成功能语用的自动标注.标注平台可将所有的标注结果最终保存为XML文件.为了保证标注一致性, 还需要对标注结果进行数据验证和一致性计算.标注完成后, 对标注结果进行数据统计和分析.具体处理流程如图 6所示.

5.3 标注过程

我们将标注工作分为3个主要阶段.

●  第1阶段, 尝试标注, 历时4个月.从CTB 8.0中选取前50篇, 3名标注人员一同标注, 经过逐篇的讨论, 形成篇章结构表示体系的定义和初步的标注规范.去掉只有一个段落不能形成宏观篇章结构的0045, 第1阶段共完成49个篇章的标注.

●  第2阶段, 优化规范, 历时3个月.3名标注人员独立标注, 并进行小组讨论, 同时讨论和修正表示体系定义和标注规范中不够明确的部分.第2阶段一共完成了98个篇章的标注.

●  第3阶段, 批量标注, 历时3个月.经过前两个阶段的标注工作, 形成了较为规范的结构定义和较为稳定的标注质量.第3个阶段增加3名新的标注人员, 6名标注人员分为3个小组, 每个小组新老标注人员搭配, 独立标注, 小组讨论.每次的标注工作分别计算一致率和Kapp值.每个标注周期, 每个小组抽样10%, 由标注小组负责人进行交叉检查, 并针对存有疑问的篇章进行组间讨论.该阶段共完成标注573篇.对每个小组的工作时间进行统计, 计算平均标注效率, 独立标注效率约6.9篇/时, 小组讨论效率约7.7篇/时.

经过3个阶段, 本文共完成720个篇章的标注工作.CTB 8.0中的新闻语料有753个篇章, 本文已完成其中所有较为规范的新闻文本的宏观篇章结构标注工作.

5.4 语料格式

本文将每一个篇章的标注结果保存在一个XML文件中.每一个XML文件包括DISCOURSE、RELATION和TEXT这3大部分, 分别存储篇章信息、关系信息和段落信息.图 7是例2所对应的XML文件.

DISCOURSE部分存储篇章级的信息, 是篇章全文的属性.标注内容包括:

(1) 篇章话题(discourse topic):存储全文的主题.

(2) 电头(dateline):存储电头信息(电头是电讯稿件发出单位、时间和地点的说明.电头多放在新闻稿件的开头, 用括号或比较显著的字体区别于正文).

(3) 导语(lead):存储篇章的导语(导语一般是新闻的开头, 以极其简洁的文字, 写出消息中最重要的事实, 提纲挈领, 牵引全文, 吸引读者), 一般对应全文的第1段主要内容.

(4) 摘要(abstract):存储全文的摘要, 由标注人员根据全文内容摘取.

RELATION部分主要用于存储篇章结构和关系, 是标注的主体.标注内容包括:

(1) 切分方式(structure type):存储篇章关系的切分方式, 分为“逐层切分”(二元关系)和“并列切分”(对并列关系、二元或多元关系)两类.

(2) 切分层次(layer):自顶向下的切分层次, 例如Layer=“2”, 表示该篇章关系的切分层次位于自顶向下的第2层.

(3) 篇章关系(relation type):存储对应的篇章关系, 根据定义, 包括3大类15种关系(篇章关系定义参见第3.2节).

(4) 关系个数(relation number):一个篇章关系为多个关系预留, 分为“单个关系”和“多个关系”两类.

(5) 切分位置(paragraph position):存储篇章关系的切分位置, 形如“2...3|4...4”, 表示该关系为二元关系, 前一个篇章单元由第2段和第3段组成, 后一个篇章单元由第4段组成.

(6) 主次关系(primary secondary):存储该篇章关系的主次关系, 根据定义, 分别以“1”“2”“3”对应“主要-次要关系”“次要-主要关系”“同等重要关系”(主次关系定义参见第3.3节).

(7) 孩子节点(ChildList):存储下一个篇章关系的列表, 最下层的孩子节点为空字符串.

(8) 父亲节点(parent Id):存储上一个篇章关系的编号, 根节点的父亲节点为“-1”.

(9) 单元功能(function):存储篇章关系对应的非叶子节点的功能, 如切分位置为“2...3|4...4”的篇章关系, 其Function=“Story”表示的是“2...4”的功能语用.

TEXT部分用于存储篇章的段落信息(即叶子节点).标注内容包括:

(1) 段落话题(paragraph topic):存储该段落的主题信息.

(2) 段落功能(function):存储该段落对应的功能语用.

(3) 段落内容:存储整个段落对应的文本内容.

6 语料统计 6.1 标注一致性计算方法

为了验证标注质量, 我们在第2和第3阶段分别进行一致性测试.一致性评估两名标注者的一致率.考虑到标注偶然一致的情况, 本文还进行了Kappa值的计算.一致率Agreement的计算公式如公式(1)所示, Kappa值的计算公式如公式(2)所示.公式(1)中, A和B分别代表两名标注者.公式(2)中, P(A)表示标注一致的比例, P(E)表示偶然一致的比例.

$ Agreement = \frac{{A \cap B}}{{A \cup B}} \times 100\% $

(1)

$ k = \frac{{P(A) - P(E)}}{{1 - P(E)}} $

(2)

本文采用的一致率计算方法参考RST的语料标注工作^[49], 并根据我们的标注内容做了适应性调整.具体的一致率计算方法, 我们用例子加以说明.

首先, 将树型的层次结构表示成边界标签的集合.如图 2的篇章结构树, 可将其结构表示成一组篇章单元边界的二元组[1,2],[3,5],[1,5],[1,6]构成.如另一名标注者的标注信息如图 8所示, 那么其标注的篇章结构可以用[1,2],[3,5],[3,6],[1,6]的二元组集合表示.

如果出现多元关系, 则需要将其转换为右链接的二元关系.比如, 图 8中P3~P5之间的并列关系, 需要转换为P4和P5的并列关系; P3与P4, P5的并列关系, 如图 9所示, 其对应的边界二元组也从[3,5]转换为[4,5], [3,5].

其次, 将两名标注者的标注信息汇总入一个标注集合表, 作为待统计的元素, 见表 4.

在这个表格中, 结构列的标注信息用“1”表示有结构标注, “0”表示没有结构标注.同时, 没有结构标注的行所对应的主次和关系列值为“null”, 表示此处不存在主次和关系的标注信息.利用该标注集合表的统计数据, 使用公式(1)和公式(2)分别计算篇章结构、主次关系、篇章关系的一致率和Kappa值.如表 3所示的标注结果, 篇章结构的一致率为86.67%, Kappa值为0.70;主次关系的一致率为86.67%, Kappa值为0.70;篇章关系的一致率为73.33%, Kappa值为0.492.

由此可以看出, 主次关系和篇章关系一致性的计算需要基于正确的篇章结构, 因此, 其一致性低于篇章结构的一致性; 并且因为篇章关系的种类较多, 如果标注者对于文章的理解有一定的偏差, 基于不同的篇章结构标注出的篇章关系Kappa值将比较低.

6.2 语料标注质量

本文第2阶段标注一致性的计算结果见表 5(统计自标注者A和标注者B的标注数据).宏观的标注相对于微观的标注更为主观, 因为标注过程中没有连接词这样的线索可以参考, 并且段落间的关系相对于句内和句间的关系更为松散, 因此标注的一致性不是很高, 其中, 篇章结构的标注一致率为88.54%, Kappa值为0.771;主次关系的标注一致率为80.67%, Kappa值为0.694;篇章关系的标注一致率为83.05%, Kappa值为0.556.经过几轮迭代的标注和讨论, 第2阶段的标注工作达到了较为稳定的一致性.

第3阶段有6名标注者参与标注工作, 我们采用分组的形式来进行标注工作.为了避免因个人风格相似而造成的小组风格差异, 我们在过程中也进行了多次小组轮换, 并分别统计了各个工作周期两名标注者之间的标注一致性.该阶段的标注一致性计算结果见表 6.

6.3 语料统计

本文已标注720篇文章, 共有3 985个段落, 形成2 870个篇章关系.平均每篇有5.53个段落, 每篇最大段落数为22, 最小段落数为2.总句子数为8 319句, 平均段落长度为2.1个句子.共计398 829个字, 平均每篇文档554个字.具体的统计数据见表 7.

本文对标注的篇章关系和篇章主次关系进行了数据统计.篇章关系方面, 并列类关系共1 253个, 占43.66%;因果类关系共414个, 占14.43%;解说类关系共1 203个, 占41.92%.与并列类和解说类关系相比, 因果类关系数据量偏少, 数据集存在不平衡显现.主次关系方面, PS关系共有2 030个, 占70.73%;SP关系共有80个, 占2.79%;EI关系共有760个, 占26.48%.与PS和EI关系相比, SP关系的数据量很小, 数据集存在较为严重不平衡的现象.统计数据见表 8.

每个类别的篇章关系的数量以及主次关系的分布情况见表 7.在720个篇章关系中, 并列关系出现了634次, 占22.09%;解说关系出现了994次, 占34.63%.这两个关系一共占所有篇章关系的56.72%, 超过了整个语料的半数.由此现象可以推断, 新闻报道类的文章常存在“总述-分述”这样的篇章模式, 由1个或几个段落总领全文, 再由一些段落分别从几个方面或几个角度进行详细阐述.这符合我们通常对于新闻类文章的认知, 也符合新闻语料的写作框架.

统计数据同时显示了篇章关系和主次关系之间存在着很强的关系, 例如, 634个并列关系均为EI关系, 994个解说关系全部是PS关系, 补充、背景、陈述举例关系都是PS关系等.这种篇章关系和主次关系存在着极强关联性的现象, 也是未来将要进一步分析和研究的方向之一.

针对功能语用结构的标注, 统计数据见表 9.可以看出, 大部分的新闻报道(news report)从基本形式上由总述(summary)和故事(story)组成, 形成一种“总-分”的结构.新闻报道的内容上包含大量的事实描述, 即故事(story)和情节(situation), 而其他的信息, 如评价(comment)、原因(cause)、结果(result)、行为(behavior)、目的(purpose)出现的较少.这些都符合新闻报道的特点.

6.4 实验验证

宏观篇章结构分析的任务包括篇章结构检测、主次关系判别、篇章关系识别和篇章结构树构建, 其最终目标是构建一棵完整的宏观篇章结构树.其中, 篇章结构检测是形成完整的篇章结构树的第1步, 也是最重要的环节.因此, 为了评估本文标注的语料的可计算性, 本文给出了篇章结构检测的实验结果.

本文利用线性条件随机场作为基础分类器进行篇章结构检测和主次关系判别, 为了减少相关任务之间的错误传递, 构建了这两个任务的联合学习模型, 并提出了一种基于整数线性规划的方法来实现全局优化. MCDTB共有8 863个实例, 其中正样例3 261个, 负样例5 602个, 本文采用5倍交叉验证来确保实验的客观性, 使用准确率(accuracy)和宏观F1值(macro-F1)来评价系统性能.

表 10比较了运用不同的特征组合后, 篇章结构检测和主次关系判别基础模型的性能.数据表明, 组织结构特征对模型的贡献最大, 结合了语义相似性特征后模型的性能得以提高, 篇章结构检测和主次关系判别任务的性能分别达到77.52%和75.50%的准确率, 相应的宏观F1值分别达到75.98%和49.83%.在下面的联合模型实验中, 用基础模型的最好性能进行比较.当应用了整数线性规划的约束条件时, 篇章结构的推理准确率和宏观F1分别达到78.54%和77.68%, 比基础模型的最优性能分别提高了1.02%和1.70%;联合学习的方法同样提高了主次关系判别的性能, 准确率和宏观F1值分别提高了0.51%和1.86%.

7 总结与展望

本文针对宏观篇章结构分析目前研究较少的问题, 分析了篇章结构分析的研究现状, 提出了一种宏观和微观统一的篇章结构表示体系, 并在宏观层面分别构建了篇章的逻辑语义结构和功能语用结构.基于本文构建的宏观篇章结构体系, 标注了720篇规模的宏观篇章语料库.

理论体系的研究和建设是自然语言处理领域研究的基石, 将直接影响到语料资源的质量和计算模型的性能.语料资源是基于统计的自然语言理解和分析的基础资源, 构建大规模、高质量的语料资源具有较高的应用价值.因此, 构建一个宏观和微观统一的理论体系, 并建设相应的篇章结构语料资源, 为后续的研究工作打好了坚实的研究基础.在此基础上, 才可以进一步深入研究篇章结构分析的计算模型建设, 从而提高篇章分析的整体性能, 进而为自然语言相关应用提供服务, 以期得到更高的系统性能, 推动人工智能领域应用的飞速发展.

本文现有标注的语料规模还不够大, 后续我们将进一步完善标注规则, 扩大语料规模, 并考虑其他领域的宏观篇章结构特点进行标注.对数据不平衡问题, 进一步分析其出现的原因及应对策略.在此基础上, 将进行篇章结构分析的计算方法和计算模型的研究, 并最终构建一个End-to-End的宏观篇章结构分析平台.