[发明专利]一种基于词向量和Bert的群体内隐立场分析方法

说明书

本发明公开一种基于词向量和Bert的群体内隐立场分析方法，通过文本语料库训练Bert模型，结合句向量进行群体内隐立场分析；包括数据解析模块、模型训练模块以及内隐立场分析模块；数据解析模块用于解析提取社会群体中用户发表的言论数据，根据内隐联想测试中提到的目标词和属性词对用户的言论分类；对其中抽取的正文文本进行分句得到言论集合A，再提取到既包含目标词又包含属性词的句子集合B，和不包含目标词和属性词的集合C；模型训练模块用于构建学习社会群体语言大数据文本偏见的模型；内隐立场分析模块根据句子的嵌入向量之间的距离远近来测量对应目标词和属性词之间的关系大小，从而量化社会群体用户的内隐立场态度。

技术领域

本发明属于社会计算和社会心理学中的群体语言数据分析领域，涉及群体内隐立场态度 分析方法，特别是涉及一种基于词向量和Bert的群体内隐立场分析方法。

背景技术

在社会媒体语言大数据(如微博，Twitter，新闻，维基百科等)中用户所发表的言论可 以潜在的反映其对事物或态度的态度。态度立场是个体或群体对概念或对象的倾向性观点。 目前，关于个体或群体的态度立场的研究主要集中在社会心理学领域。态度立场分为外显态 度和内显态度两部分，外显态度是有意识的，可控的，易于报告的态度，内显态度是不可控 的，无法有意识获取的态度[1]。同时，借助自然语言处理技术，语言也已经被用于挖掘态度 立场[2-4]，通过分析个体或群体话语的情感和语义，可以挖掘个体或群体对某些事件，对象， 人物或概念的态度[5]。

在心理学研究中，内隐联想测验需要被试人员主动配合进行实验[7]，并且仅能小规模的 群体进行测量。尽管人工只能在学习文本表示方面已经有了一些突破进展，但是对于那些言 不由衷的外显表达的句子，人类读者在没有丰富背景的情况下，很难判断其真诚性。而学习 了偏见的AI模型却能够一定程度上做到这一点。

内隐态度是个体内心以无意识的方式影响个体行为的内心态度。内隐联想测验[9]是在心 理学上测量内隐态度的主要测量方法之一，其被设计为以产生大的效应大小的方式来可靠地 评估个体态度差异[10]。Greenwald和Banaji断言隐式和显式记忆能够适用于对个体或群体社 会态度的研究[11]。内隐联想测验是Greenwald等在1998年提出的一种利用测量概念词汇与 属性词汇之间的关联性来实现对被试的内隐态度进行测量的方法。如果意识无法获得的记忆 可以影响个体的行动，那么这种关联也能够影响个体的态度和行为。利用个体的概念关联差 异，有助于心理学研究人员理解由于缺乏意识和社会期望偏差而无法通过自我报告评估方式 来衡量的态度[12]。

目前，基于文本语言的态度分析[13-19]的态度测量主要依赖于文本中态度的显式表达， 并未针对内隐态度进行深入研究。其中，文本情感分析方法是测量态度的主要方法。情感分 析是指使用自然语言处理、文本分析、计算语言学来识别、提取、量化和研究情感状态和主 观信息[6]，其旨在确定作者对某个主题的态度，或者对文档，对象或事件的态度极性。通过 情感分析可以了解在线发言评论中表达的一般或基于方面(Aspect-based)的态度[20]，这里 的态度可以是情感状态。通常情感分析会将文本中的观点分类为“积极”，“中立”和“消极”等 类别[21]。一般来说，基于情感分析研究的态度通常包括对象，属性，态度极性，态度持有 人等几个关键因素。同时，一些自然语言处理中资源和技术也被应用于态度测量，如外部词 典[18]和句法分析[19]等。

在2017年，Caliskan等人提出了词嵌入关联测试[22]来测量态度，通过将内隐联想测验 中的关联强度与单词之间的语义距离联系起来进而理解态度立场。词嵌入(wordembedding) 是一种依赖于语料库中单词上下文的词的语义表示方法。在词嵌入中，在向量空间中更靠近 的单词应该在语义上更接近。