实战 | NLP文本智能应用研究与创新实践

欢迎金融科技工作者积极投稿!

投稿邮箱:newmedia@fcmag.com.cn

——金融电子化

文 / 华夏银行信息科技部 李大伟 徐小芳 关杏元

NLP(自然语言处理)是人工智能领域的一个重要分支,应用非常广泛。近年来,金融行业特别是银行业也在很多业务上尝试使用NLP技术,特别是NLP文本智能。华夏银行深入开展应用研究,结合自身需求,构建了企业级的NLP文本智能开发部署平台,实施创新实践,在审计、运营管理、客服等领域落地了一批示范项目,探索出一条适合华夏银行的新技术应用创新路径,为银行同业快速转化研究成果和提升自主掌控能力提供了思路。

研究背景

1.需求现状

当前,华夏银行正如火如荼开展数字化转型升级,对AI的需求,表现非常强烈。大家普遍反映在现有的文本处理工作中存在非常多的痛点和难点,例如,在文本分类、归纳、提炼、校验审核、关键信息提取等工作中,主要依靠熟练和有经验的人在做,为此投入了大量的人力、耗费了大量的精力,但效率低、效果差。而且,在众多项目内部也存在大量文本分析处理的需求。经过探索研究,我们认为,NLP技术可以为这些需求提供较好的解决方案。

2.NLP文本智能简介

NLP文本智能就是利用计算机完成对文本中的字、词、句、篇章进行识别、分析、理解、生成等操作。NLP文本智能可帮助人们高效完成文本分类、归纳、提炼、校验审核、关键信息提取、搜索、翻译、自动问答等工作。

3.能力和应用现状

商业银行的NLP文本智能能力一般主要服务于客服相关场景。除此之外应用于智能客服外部业务和内部管理的案例较少。其功能和应用范围相对固定,对外输出拓展性不强。

因此,我们认为很有必要加强NLP文本智能应用研究,努力开拓NLP应用创新。

应用研究

应用研究就是研究(技术)如何应用。一要研究技术是什么,原理是什么,做到“知其然,知其所以然”;二要研究怎么使用,方法是什么;三要研究应用场景是什么,怎么与具体的业务场景相结合。

1.原理、思路和方法的研究

“技术研究的深度决定应用水平的高度”。面对众多的NLP需求,华夏银行启动了NLP技术的应用研究工作,组织骨干力量着手研究、梳理、总结NLP核心技术原理、实现思路和主流方法。

NLP关键的技术点众多,包括分词、文本向量化、文本分类、聚类、文本相似度、关键词提取、知识图谱等。我们采用逐点突破的方式,一个一个啃骨头。比如分类问题,首先要搞清楚文本分类技术的基本原理和实现方法,其次要了解每种方法的优劣。文本分类技术包含许多不同的算法,如TextCNN、BERT、FastText、SVM、LSTM等,哪个效果更好,哪个更适合我们的需求,这就涉及到算法选择问题,需要结合具体需求和数据验证算法有效性、准确率、召回率等,通过一系列的指标对比综合衡量,最终选择相对最佳的算法。

目前,团队已完全自主掌控了文本分类、聚类、文本相似度、关键词提取等技术的应用方法。

2.前沿技术研究

自然语言处理技术发展日新月异,最新的算法、模型、方法、框架等应用效果不断提升,跟踪其前沿技术、掌握其应用方法非常必要。领先的技术,如ERNIE2.0、XLNET、BERT、FastText等算法和模型都是最近由百度、谷歌、Facebook等公司提出。经过研究,我们掌握了这些先进算法的基本原理和应用方法,结合我们的业务需求开展了实际应用,取得良好效果。

3.原型开发

原型开发实际上是一种快速确定需求的策略,是对用户的需求进行提取、求精,快速建立最终系统工作模型的方法。

就创新应用研究来看,原型开发有三个目的,一是验证技术的有效性、可用性;二是快速实现核心功能,进行效果展示,获取真实的客户体验;三是通过不断迭代优化,为最终产品的实现打下坚实基础。

针对文本搜索、文本分类、信息抽取有关的需求,我们均完成了原型开发,其实现效果获得业务部门的认可。

打造平台

为满足应用场景快速落地和批量推广,进一步提升NLP文本智能应用安全性、稳定性、客户体验。在前期应用研究的基础上,华夏银行瞄准先进技术水平,组织创新资源,打造了共性关键技术支撑平台-企业级的NLP文本智能平台。

1.架构

系统整体架构如图1所示,NLP智能平台系统结构分为三层。
图1 NLP系统整体结构

底层负责对NLP算法、数据、实验、模型、服务等进行统一的调度和资源管理,实现模型训练和服务部署。

中层为引擎层,包含多个专业领域的NLP功能模块,如自然语言理解和内容分析,未来可扩展对话管理、问答、搜索等偏上层的模块。

上层为应用层,针对具体需求进行定制化应用开发,如文本处理、智能搜索、舆情监控、对话系统等。

2.功能

作为NLP能力的核心,自然语言理解和内容分析引擎模块集合了文本分类、实体识别、聚类、自动摘要、关键词提取、相似文本、文本纠错等功能,能够完成最经典的几种文本分析任务。具体功能及适合的应用场景如图2所示。
图2 NLP平台功能及适合场景

3.特点

该平台是通用的一站式NLP文本智能开发工具,支持完整的模型全生命周期管理,支持服务的镜像导出,支持微服务部署,内置了丰富且先进的NLP算法仓库(关键算法达到39种),积木化的功能模块搭建,便于功能的进一步扩展。

该平台的建成,填补了华夏银行NLP文本智能开发部署平台的空白。

创新实践

基于NLP文本智能平台及有关技术,我们在审计、运管、客服、贸易金融等领域均开展了创新实践,具体的任务或场景包括热点分析、相似文本、文本分类、关键信息提取。

1.热点分析

应用NLP技术(文本分类和文本聚类)实现柜面及运维相关系统中文本内容的智能分类、归纳、提炼,并进行热点可视化展示。热点分析建模的逻辑设计如图3所示。
图3 实现逻辑

热点分析建模,具体步骤一是通过对部分现有评论数据进行人工热点类别标注,可以获取训练数据和评估数据,并运用文本分析引擎训练分类模型;二是分类模型自动检测新生评论的类别,当业务范围出现变化,产生了新的评论类别时,可以将无法正确检测的评论数据投入分本分析引擎的聚类模型,进行无监督的标签聚类;三是通过挑选有意义的类别和相应的评论数据汇入原始训练数据,可以进行分类模型的训练更新,以发现新的热点。

2.相似文本

相似文本是NLP应用领域的一个经典问题,也是贯穿智能客服离线、在线和运营等几乎所有环节最核心的技术,广泛应用于搜索、推荐、对话等领域。我们对所有的文本建立了向量库,然后使用待搜索文本的向量与向量库中的向量进行匹配检索,计算文本相似度,最后统计输出相似度最高的几个文本向量。

我们应用相似文本技术实现了生产支持的智能审单、审计问题的智能定性、合同文本风险条款智能识别、审核比对等需求。

3.文本分类

文本分类是NLP技术所能解决的最经典、最重要、最基本的任务类型之一。文本分类建模的实现过程包括分词、文本向量化、算法选择、建立训练网络、训练生成模型等步骤。

我们利用NLP平台提供的文本分类功能完成了客服投诉工单、生产事件的多维度智能分类和模型自迭代更新。智能分类速度快,准确率高,稳定性强,有效减轻客服人员的工作负担,生产支持工单审核时长缩短50%。应用效果获得业务部门的一致好评。

4.关键信息提取

关键信息提取包括实体识别、关键词提取等技术。其中实体识别是指识别文本中具有特定意义的实体,包括实体类(如人名、地名、机构名、专有名词等)、时间类(如成立日期、开始时间、结束时间、生效日期、签署日期等)、数字类(如金额、年龄、总价、数量等),实现过程的第一步是识别出实体词边界(位置信息),第二步是识别出实体的类型。实现方法包括基于正则规则和基于机器学习。

在合同审核场景中,我们通过NLP实体识别和关键字管理实现了合同文本中关键信息快速定位和提取,辅助业务人员比对审核,在确保审核准确度的前提下,大幅提升审核效率。

目前,我们针对热点分析、相似文本、文本分类、关键信息提取4类问题分别形成了解决方案,针对类似的需求我们可做到快速复制、批量推广。

总 结

以需求为导向,我们按照应用研究(原理、思路、方案、原型开发)、打造平台、创新实践、批量推广逐渐演进的技术路线(详见图4)开展了NLP文本智能应用探索,在关键领域、关键环节实现突破,投产数十个模型和服务,取得了初步成效。应该说,我们找到了一条行之有效的路径,可以为业界其他新技术应用创新提供借鉴。

图4 技术路线

下一步,我们一方面将扩大NLP技术的应用范围;另一方面考虑进一步扩充NLP功能,提升NLP能力,比如增加知识图谱模块,为开展风控、搜索、舆论分析、反欺诈、知识推理等应用实践提供技术支撑;再一方面要实现多技术融合,比如在合同审核中增加OCR技术,实现图片到文字的自动转化,进一步提高合同审核的数字化和智能化水平。

《金融电子化》新媒体部:主任 / 邝源 编辑 / 傅甜甜 潘婧

    THE END
    喜欢就支持一下吧
    点赞14 分享
    评论 抢沙发
    头像
    欢迎您留下宝贵的见解!
    提交
    头像

    昵称

    取消
    昵称表情代码图片

      暂无评论内容