[发明专利]一种在线心理咨询中风险控制的方法

权利要求书

1.一种在线心理咨询中风险控制的方法，包括本地对话交互设备(1)、服务器端模块(2)、远程在线咨询单元(3)、心理状态和症状对应库(4)和报警模块(5)；所述本地对话交互设备(1)包括本地处理设备(6)、音频传感设备(7)、视频传感设备(8)、自动方言选择开关(9)、敏感词和语音库(10)、音频输出模块(11)和视频传输模块(12)；其中，所述本地对话交互设备(1)和服务器端模块(2)通过通信信号连接，所述服务器端模块(2)分别和远程在线咨询单元(3)、心理状态和症状对应库(4)和报警模块(5)通信信号连接；

所述本地处理设备(6)分别和所述音频传感设备(7)、所述视频传感设备(8)、所述自动方言选择开关(9)、所述敏感词和语音库(10)、所音频输出模块(11)和所述视频传输模块(12)通信连接；咨询人员需要进行心理咨询和引导时，执行如下步骤：

S1.心理咨询者通过手动方式选择方言识别模式，实现本地处理设备自动调整到识别某地的方言；同时，也可以通过自动方言选择开关进行识别，并在进行方言识别不正确的时候，可以通过手动方式选择合适的方言模式；

S2.本地的音频传感设备(2)和视频传感设备(3)获取音频和视频的信息，所述本地处理设备在线信息数据获取与拆分以及相关处理，分别获取语音、图像、文本相关信息，其中语音信息会通过NLP自然语言处理进行相关音频转文字操作，转换之后的文本与聊天相关检测方式相同；

S101.进行在线活动数据读取，收集在线服务过程中产生的相关视频音频及文字数据；

S102.对数据进行相关分类，所述本地处理设备6利用敏感词和语音库10中的存储的敏感词和语音和所述音频和视频进行对比分析，然后分别进行对应的安全检测过滤；

S103.对数据的结果进行分析并进行相关警告反馈；

S104.对特殊的数据进行人工干预，以免意外发生；

S2.拆分并处理后的数据进行相关安全监测，并记录每句话对应情绪评分；S201在线数据流实时读取，并将数据进行分类，分别分为音频数据、文字数据、视频数据；

S202针对音频数据，首先我们需要进行VAD处理，将音频进行合理切割，去除静音部分，去除静音后的音频数据将会时长变短，因为静音部分会被剔除；剔除静音后的音频再通过ASR转为对应的文字数据；

S203音频数据需要进行关键帧提取；

S204针对文字数据，需要分别同时进行两个监测，一个是文字风险监测，一个是情绪监控；

S205针对图片数据，主要是进行图片风险监测；

S206情绪监测则是通过相关模型进行心情得分积分计算，记录相关分值，主要针对并且将当前情绪得分和时间轴进行关联；

S207文字风险监测则是将音频数据转化后的文字、弹幕文字、以及聊天文字通过NLP(自然语言处理)进行语义识别，区分文字内容中是否包含违规信息，违规内容可涉及：正常、涉政、色情、违法、谩骂、暴恐、广告、宗教、迷信、诈骗方向；其中正常则是监测无症状；

S208图片风险监测则是对图片内容进行鉴别，通过分析图片中是否包含非法或不健康内容进行风险监测；

S209记录情绪走势，就是根据情绪监测得到的不同情绪或整体情绪的情绪得分进行情绪数据分析，如果用户情绪持续下降或者一直处于低谷，则当前用户情绪就初一中很危险的状态，需要立即对当前实施服务进行接手管制措施，采取快速有效的疏导手段对问题用户进行正确的疏导；

S210验证监测是否通过就是根据之前得到的情绪走势、文字风险监测以及图片风险监测进行综合评估分析去判断当前监测是否通过；

S211如果不通过，则根据严重程度进行相关预警或相关人工干预。以及对无辜用户进行正确的开通疏导，及时挽回相关损失，防止悲剧发生，提高用户体验，拉黑或追究相关人员责任；

S212如果监测通过，则说明当前在线服务状态正常，当前服务可以正常进行下去；

S3.首先将S2中安全监测结果中疑似数据进行上报并告警，然后对相关情绪频分进行分析，当情绪走势持续低落并达到相关阈值后，进行上报并告警。并进行相关人工干预。