/OCR-Corrector

利用语言模型，纠正OCR识别错误

Primary LanguagePythonApache License 2.0Apache-2.0

OCR-Corrector

专为OCR设计的纠错器。

未来考虑增加OCR需要的各种NLP工具，包括：

  1. 粘连文本分词
  2. 命名实体识别
  3. 键值对匹配

功能

输入OCR识别结果（文本+单字符置信度），输出修正后的文本。 (单字符置信度：识别网络最后 softmax 输出的概率值，用来进行方便地发现错字。)

示例

输入：

text = ['我爱北京大安门']
probs = [[0.99, 0.99, 0.99, 0.99, 0.56, 0.99, 0.99]]

输出：

text_corrected = ['我爱北京***']

输入：

text = ['本着平等、白愿、诚信、互利的原则']
probs = [[0.99, 0.99, 0.99, 0.99, 0.99, 0.78, 0.99, 0.99, 0.99, 0.99, 0.99, 0.99, 0.99, 0.99, 0.99, 0.99]]

输出：

text_corrected = ['本着平等、自愿、诚信、互利的原则']

细分场景

目前按照业务场景，分别开发了两种纠错器：文档识别纠错器，单据识别纠错器

文档识别

文档是指书籍内页拍摄的图片、扫描的合同等有大段文字的图片。

纠错效果

单据识别

单据是指字段、格式相对固定，有统一模板或者近似统一的图片，比如各种表单、证件、发票等等，主要特点是单据上出现的文本段相对固定。

使用央行征信报告作为示例：

纠错效果

（原图质量较差，所以识别错误很多）

使用方法

  1. clone 项目
git clone https://github.com/tiantian91091317/OCR-Corrector.git
pip install -r requirements.txt
  1. 下载模型和数据
  1. 下载预训练好的BERT模型 到 corrector/model/pre-trained 目录下

2）下载用于评价字形相似度的 char_meta.txt 放到 corrector/config 目录下 下载地址:https://pan.baidu.com/s/1iqA-GbzzHBBWfWaxe1g_fg 密码:3f11

  1. 安装
python setup.py install
pip install -r requirements

使用

方法一

可以嵌入到OCR识别的代码里面，将识别模型输出的结果输入纠错器。

import ocr_corrector

corrector = ocr_corrector.initial()
ocr_results, recog_probs = my_ocr(img)
ocr_res_corrected = corrector.correct(ocr_results, recog_probs, biz_type)

可以通过运行以下命令进行测试：

# 测试文档识别纠错
python demo.py --img=corrector/data/1.jpg --biz=doc --api=own
# 测试单据识别纠错
python demo.py --img=corrector/data/2.jpg --biz=report --api=own

方法二

可以调用识别API后进行后处理。目前支持阿里高精版识别接口的调用。
需要先申请 app code（可以开通免费试用）；然后在 corrector/api_call/ali_ocr.py 中更新app code：

url = 'https://ocrapi-advanced.taobao.com/ocrservice/advanced'
post_data = {"img":img,
             "prob":True,
             "charInfo":True
             }
app_code = your_app_code

然后可以传任意图片测试纠错结果：

python demo.py --img=corrector/data/your_img.jpg --biz=[doc|report|your_type] --api=ali

新增单据类型

文档识别的纠错主要利用局部语义信息进行纠错，无需特殊配置；
对于单据识别，由于主要基于其关键词表进行纠错，所以需要进行配置：

  1. 在 corrector/config/config.json 中增加新单据类型的配置（以新增保单识别为例）：
{
      "biz_type": "insurance",
      "corrector_type":"keyword",
      "prob_threshold": 0.9,
      "similarity_threshold": 0.6,
      "char_meta_file": "config/char_meta.txt",
      "key_words_file": "config/kwds_insurance.txt"
    }
  1. 在 corrector/config/ 目录下增加关键词表 kwds_insurance.txt：
投保人
被保险人
受益人
险种名称
……

原理

见文章： https://zhuanlan.zhihu.com/p/179957371

参考项目

  1. Faspell https://github.com/iqiyi/FASPell
  2. pycorrector https://github.com/shibing624/pycorrector

未来计划

  1. 将纠错拓展到非汉字的其他字符，比如 日期、证件号码、标点符号等；
  2. 形成OCR所需的NLP工具包，包括粘连文本分词、命名实体识别、键值对匹配等等