[发明专利]采用神经网络的手写识别

说明书

背景

近年来，计算机通常包含带用户可用指示笔在其上进行书写的触敏屏幕的用户 输入模式。该种方式让用户输入手写电子墨水，对多种应用来说，这被广泛认为是 一种与计算机交互的最便捷方式。为了让这种用户输入模式更可靠，开发了手写识 别器以解释用户的手写输入。

随着技术的成熟，现有的各种手写识别器采用执行手写输入的初始分析和分类 的神经网络。神经网络的使用成为手写识别的一个重要发展；识别的精确性取得了 成倍的提高。为了创建精确的神经网络，需要对神经网络进行训练，即对其反复提 供手写输入的实际样本并给出关于神经网络在手写输入的解释方面是否做出了正 确推测的反馈。有效训练同时意味着从大量不同人中提供手写输入样本。这是因为 每个人都有不同的书写风格。如果用户满意该最终结果，则神经网络应当足够强健 以便能够识别出各种各样的书写风格。

鉴于必须获得全部的手写样本，以及必须投入大量时间以正确训练神经网络， 因此从零开始训练神经网络的花费极其巨大。而且，训练通常仅仅针对单个语言来 执行。换言之，对神经网络进行特别训练以识别英文或中文的书写。但因为世界上 有多种语言，因此并不存在针对多种语言的高质量神经网络。事实上，对某些人们 了解得比较少的语言，根本就不存在神经网络。对于计算机和/或软件公司来说， 单单为了解比较少的语言构建并训练神经网络投入足够的经费不足以构成财务激 励。

概述

需要一种提供没有神经网络可用或没有足够质量的神经网络可用的语言的手 写识别能力的较不昂贵和/或更为容易的方式。为大量的语言从零开始构建并训练 神经网络是昂贵且耗时的。

因此，此处本发明的各方面涉及从现有神经网络构建新神经网络。基于所需目 标语言选择用于一起始语言的现有神经网络。修正该神经网络以使其可用于识别目 标语言的字符，并且该经修正的神经网络在用于该目标语言的手写识别器中使用。 修正包括复制现有神经网络的一个或多个初步输出。

本发明的另一些方面涉及基于所需目标语言选择一适当的起始语言。这可以由 用户手动和/或由计算机自动执行。可使用主观和/或客观标准来选择适当的起始语 言。

本发明的另外一些方面涉及训练经修正的神经网络以更好地识别目标语言。具 体地，可训练所复制的初步输出以对与从其中复制该初步输出的原始初步输出略微 不同的输入组合作出响应。这使新复制的初步输出对起始语言和目标语言之间字符 上的微妙差别作出响应。当然，可以使用训练来使复制的节点对与原始节点所响应 的输入组合不止有轻微差别的输入组合作出响应。

此外，还可以销售一种成套工具，它包含有用于各种不同起始语言的多个不同 的现有神经网络以及计算机可读介质上的软件，该软件帮助用户选择适当的起始语 言、对现有神经网络之一进行修正、和/或进一步对经修正的神经网络进行训练。 根据此处的本发明的再有一些方面，可提供一种“超网络”，它是被配置成从多种 不同语言中识别字符的相对较大的神经网络。可期望该超网络要比单个语言专用的 典型神经网络大得多。通过用程序设计一屏蔽以阻塞来自该超网络的对于待识别的 语言不必需的输出，可以定制使用这种超网络的手写识别器。在此描述的另一些方 面可将超网络用作可被修正或屏蔽的现有网络，或者甚至是在同一实施例中既被修 正又被屏蔽。

根据如下说明性实施例的详细描述，此处的本发明的这些或其它方面将变得显 而易见。

附图简述

当结合附图阅读时，可更好地理解以上概述以及以下说明例性实施例的详细描 述，附图是作为示例而非对所要求保护的本发明的限制被包括在内。

图1是一说明性计算环境的功能框图；

图2是一说明性手写识别器的功能框图；

图3是可在图2的手写识别器中使用的说明性神经网络；

图4是可以作为图3的的神经网络的一部分的说明性隐藏节点；

图5是一说明性神经网络选择过程；

图6和8将目标语言和潜在起始语言进行了比较；

图7和9示出了神经网络的一个说明性修正；

图10是一说明性手写识别器创建过程的流程图；

图11示出了带屏蔽的说明性“超网络”；

图12是神经网络的一部分的功能框图，它说明性地示出了可如何复制初步输 出。