产学研创新服务平台(开云优惠体育网页版入口)
专利申请类型:发明专利;专利名称:一种业务影像资料的高效管理系统及方法
专利类型:发明专利
专利申请号:CN202310206667.6
专利申请(专利权)人:苏银凯基消费金融有限公司
权利人地址:江苏省苏州市昆山市花桥经济开发区光明路505号建滔广场2号楼22、23层
专利发明(设计)人:蔡翔,张炳国,沈子航
专利摘要:本发明公开了一种业务影像资料的高效管理系统及方法,包含消费信贷核心、NAS文件服务器、业务影像资料系统、催收系统、预警系统和影像平台系统。本发明通过对各渠道的业务影像资料进行统一的数据抽取、加工并清洗到统一的数据库中存储,解决了不同渠道数据定义不同导致的数据质量低下的问题,并且数据统一存储到同一个NAS文件服务器上,与各渠道的服务器形成挂载关系,可以同步读取和保存数据,提高数据的使用效率,而且数据保存在同一个NAS服务器上,只需要增加这一个NAS服务器的存储空间,无需进行数据迁移,解决了历史数据存储迁移不便的问题。
主权利要求:
1.一种业务影像资料的高效管理系统,其特征在于:包含
消费信贷核心,对接各合作渠道的系统,定时批量将各个合作渠道传递过来的影像资料文件进行下载存储,并记录每一个影像资料文件的信息;
NAS文件服务器,对接各合作渠道的系统,将接受到的各个合作渠道传递过来的影像资料文件集中管理和存储;
业务影像资料系统,对接消费信贷核心,将各个合作渠道传递过来的影像资料文件整合到统一的数据库中,记录影像资料文件所在的路径、文件名和身份证信息,并将影像资料文件存储在NAS文件服务器上;
催收系统,当客户发生逾期时,调用业务影像资料系统调取逾期客户的身份证、人脸照片、授信合同和贷款合同,对催收进行辅助;
预警系统,定时检测存放在业务影像资料系统中的影像资料文件所在的路径、文件名和身份证信息,并将业务影像资料系统中的影像资料文件所在的路径、文件名和身份证信息与NAS文件服务器中存储的影像资料文件进行逐一比对,当发现有影像资料文件缺失时向运维人员发出通知;
影像平台系统,用于保存全部影像资料文件;
分别在不同合作渠道的服务器上创建目录,然后使用mount命令将NAS文件服务器挂载到各个合作渠道的服务器创建的目录下,在每一个合作渠道的服务器设置开启自动挂载目录下的NAS文件服务器;
NAS文件服务器中分别对每一个合作渠道的服务器的访问路径设置不同的读写权限,各个合作渠道的服务器只能各自读写自己所属权限的目录和文件;
各个合作渠道的服务器接收来自对应合作渠道的影像资料文件,并将接收的影像资料文件存储到挂载在服务器目录下的NAS文件服务器内;
在影像资料文件存储到NAS文件服务器过程中,解析每一个影像资料文件的文件名,不同的合作渠道分别按照各自定义的文件名规则进行解析,将解析出影像资料文件的识别信息去消费信贷核心进行校验是否正确,若正确则将影像资料文件的文件类型以及影像资料文件在NAS文件服务器上的路径登记到消费信贷核心中的对应渠道的影像件综合表中,完成一个影像文件的登记;
将影像资料文件上传至影像平台系统进行保存。
2.一种权利要求1所述的业务影像资料的高效管理系统的管理方法,其特征在于包含以下步骤:S1、消费信贷核心定时批量接收来自各个合作渠道的影像资料文件;
S2、消费信贷核心将不同合作渠道的影像资料文件保存在同一个NAS文件服务器上,并将保存记录登记到业务影像资料系统中保存;
所述步骤S2具体为:
分别在不同合作渠道的服务器上创建目录,然后使用mount命令将NAS文件服务器挂载到各个合作渠道的服务器创建的目录下,在每一个合作渠道的服务器设置开启自动挂载目录下的NAS文件服务器;
NAS文件服务器中分别对每一个合作渠道的服务器的访问路径设置不同的读写权限,各个合作渠道的服务器只能各自读写自己所属权限的目录和文件;
各个合作渠道的服务器接收来自对应合作渠道的影像资料文件,并将接收的影像资料文件存储到挂载在服务器目录下的NAS文件服务器内;
在影像资料文件存储到NAS文件服务器过程中,解析每一个影像资料文件的文件名,不同的合作渠道分别按照各自定义的文件名规则进行解析,将解析出影像资料文件的识别信息去消费信贷核心进行校验是否正确,若正确则将影像资料文件的文件类型以及影像资料文件在NAS文件服务器上的路径登记到消费信贷核心中的对应渠道的影像件综合表中,完成一个影像文件的登记;
将影像资料文件上传至影像平台系统进行保存;
S3、业务影像资料系统通过定时任务,根据不同产品读取业务影像资料系统中的保存记录,对保存记录的数据进行抽。缓蠹庸、清洗到一个统一的数据库中;
所述步骤S3中,对保存记录的数据进行抽取具体为:采用分布式调度任务中的分片,对抽取的数据进行分组并多线程对每一组数据进行处理;
所述步骤S3中,加工、清洗到一个统一的数据库中具体为:
按照统一的清洗规则,分别对身份证、人脸图片、合同、个人征信授权书、个人信息授权书和授信合同文件的类型、格式进行整合并创建统一的枚举类;
影像资料文件在NAS文件服务器上的路径根据不同产品的数据进行调整,若路径的格式满足业务需求,直接存取即可,若路径只有前缀,确定其补充路径,然后合并成有效的文件路径,最后满足影像件综合表中的路径的统一定义;S4、设置定时任务对影像资料文件的新路径进行校验。
3.根据权利要求2所述的管理方法,其特征在于:根据核心授信、支用申请ID分别进行授信、支用阶段的影像资料文件的关联,并将客户证件信息与影像资料文件进行关联,实现影像资料文件与业务的绑定关联。
4.根据权利要求2所述的管理方法,其特征在于:在创建模块表时,新增多个字段方便扩展,设计索引增加查询速度。
5.根据权利要求2所述的管理方法,其特征在于:所述步骤S4具体为:
4.1、通过授信信息表和借据信息表反向验证影像件综合表中数据的准确性,通过SQL来检验数据整体的完整性;
4.2、另设置一个定时任务,扫描影像文件路径,按照业务影像资料统一管理规则,对清洗加工后的文件路径进行验证;
4.3、确保新的路径能够指向存储影像文件的NAS文件以及相关字段有对应的影像平台流水,最后对验证的结果进行登记。
6.根据权利要求5所述的管理方法,其特征在于:所述4.1具体为:通过借据信息表与影像件综合表以支用申请ID关联,筛出借据表有,影像件综合表没有的数据;
通过影像件综合表数据中的支用申请ID作为筛选条件,在支用详情历史表与支用申请表中获得该支用下的apply_no;
通过apply_no关联影像件综合表,反查该借据信息对应的影像件;
如果无数据,则证明该数据无效,反之有效。
7.根据权利要求5所述的管理方法,其特征在于:所述4.2具体为:遍历影像件综合表,通过单条数据中的影像件流水和影像件类型查询影像平台系统,同时判断该条数据中的本地路径是否存在,本地影像件和影像平台系统对比后操作:本地影像件存在,影像平台系统不存在,上传影像平台系统,标记状态2:影像平台缺失状态;
本地影像件存在,影像平台系统存在,标记状态4:正常状态;
本地影像件不存在,影像平台系统存在,标记状态3:本地影像缺失状态;
本地影像件不存在,影响平台系统不存在,标记状态1:影像缺失状态。 说明书 : 一种业务影像资料的高效管理系统及方法技术领域[0001] 本发明涉及一种资料管理系统及方法,特别是一种业务影像资料的高效管理系统及方法,属于数据管理系统技术领域。背景技术[0002] 目前各家合作渠道方通过直接接入平台的核心系统,通过定时批量的方式直接将数据落库,业务影像资料落入到相对应产品服务器,而催收系统、预警系统分别从不同产品渠道的库中、不同服务器上分别取数据。[0003] 现有技术存在以下缺陷:[0004] 1、数据质量低。各家合作渠道方给过来的数据都不尽相同,文件格式、文件类型、枚举类等都不一样。[0005] 2、取数效率低下。在催收系统、预警系统等系统要使用业务影像资料的时候,读取数据效率低下,每个产品的数据分别存储在不同的数据库中,每个产品的影像文件分别存储在不同的服务器中,在使用这些数据时,效率低下。[0006] 3、对历史数据存储迁移不方便。当业务影像资料越来越多的时候,存储空间已满时,对历史影像文件的迁移会造成诸多不便。发明内容[0007] 本发明所要解决的技术问题是提供一种业务影像资料的高效管理系统及方法,提高各渠道影像资料文件的处理效率并解决数据迁移不便的问题。[0008] 为解决上述技术问题,本发明所采用的技术方案是:[0009] 一种业务影像资料的高效管理系统,其特征在于:包含[0010] 消费信贷核心,对接各合作渠道的系统,定时批量将各个合作渠道传递过来的影像资料文件进行下载存储,并记录每一个影像资料文件的信息;[0011] NAS文件服务器,将接受到的各个合作渠道传递过来的影像资料文件集中管理和存储;[0012] 业务影像资料系统,将各个合作渠道传递过来的影像资料文件整合到统一的数据库中,记录影像资料文件所在的路径、文件名和身份证信息,并将影像资料文件存储在NAS文件服务器上;[0013] 催收系统,当客户发生逾期时,调用业务影像资料系统调取逾期客户的身份证、人脸照片、授信合同和贷款合同,对催收进行辅助;[0014] 预警系统,定时检测存放在业务影像资料系统中的影像资料文件所在的路径、文件名和身份证信息,并将业务影像资料系统中的影像资料文件所在的路径、文件名和身份证信息与NAS文件服务器中存储的影像资料文件进行逐一比对,当发现有影像资料文件缺失时向运维人员发出通知;[0015] 影像平台系统,用于保存全部影像资料文件。[0016] 一种业务影像资料的高效管理系统的管理方法,其特征在于包含以下步骤:[0017] S1、消费信贷核心定时批量接收来自各个合作渠道的影像资料文件;[0018] S2、消费信贷核心将不同合作渠道的影像资料文件保存在同一个NAS文件服务器上,并将保存记录登记到业务影像资料系统中保存;[0019] S3、业务影像资料系统通过定时任务,根据不同产品读取业务影像资料系统中的保存记录,对保存记录的数据进行抽。缓蠹庸、清洗到一个统一的数据库中;[0020] S4、设置定时任务对影像资料文件的新路径进行校验。[0021] 进一步地,所述步骤S2具体为:[0022] 分别在不同合作渠道的服务器上创建目录,然后使用mount命令将NAS文件服务器挂载到各个合作渠道的服务器创建的目录下,在每一个合作渠道的服务器设置开启自动挂载目录下的NAS文件服务器;[0023] NAS文件服务器中分别对每一个合作渠道的服务器的访问路径设置不同的读写权限,各个合作渠道的服务器只能各自读写自己所属权限的目录和文件;[0024] 各个合作渠道的服务器接收来自对应合作渠道的影像资料文件,并将接收的影像资料文件存储到挂载在服务器目录下的NAS文件服务器内;[0025] 在影像资料文件存储到NAS文件服务器过程中,解析每一个影像资料文件的文件名,不同的合作渠道分别按照各自定义的文件名规则进行解析,将解析出影像资料文件的识别信息去消费信贷核心进行校验是否正确,若正确则将影像资料文件的文件类型以及影像资料文件在NAS文件服务器上的路径登记到消费信贷核心中的对应渠道的影像件综合表中,完成一个影像文件的登记;[0026] 将影像资料文件上传至影像平台系统进行保存。[0027] 进一步地,所述步骤S3中,对保存记录的数据进行抽取具体为:采用分布式调度任务中的分片,对抽取的数据进行分组并多线程对每一组数据进行处理。[0028] 进一步地,所述步骤S3中,加工、清洗到一个统一的数据库中具体为:[0029] 按照统一的清洗规则,分别对身份证、人脸图片、合同、个人征信授权书、个人信息授权书和授信合同文件的类型、格式进行整合并创建统一的枚举类;[0030] 影像资料文件在NAS文件服务器上的路径根据不同产品的数据进行调整,若路径的格式满足业务需求,直接存取即可,若路径只有前缀,确定其补充路径,然后合并成有效的文件路径,最后满足影像件综合表中的路径的统一定义。[0031] 进一步地,根据核心授信、支用申请ID分别进行授信、支用阶段的影像资料文件的关联,并将客户证件信息与影像资料文件进行关联,实现影像资料文件与业务的绑定关联。[0032] 进一步地,在创建模块表时,新增多个字段方便扩展,设计索引增加查询速度。[0033] 进一步地,所述步骤S4具体为:[0034] 4.1、通过授信信息表和借据信息表反向验证影像件综合表中数据的准确性,通过SQL来检验数据整体的完整性;[0035] 4.2、另设置一个定时任务,扫描影像文件路径,按照业务影像资料统一管理规则,对清洗加工后的文件路径进行验证;[0036] 4.3、确保新的路径能够指向存储影像文件的NAS文件以及相关字段有对应的影像平台流水,最后对验证的结果进行登记。[0037] 进一步地,所述4.1具体为:[0038] 通过借据信息表与影像件综合表以支用申请ID关联,筛出借据表有,影像件综合表没有的数据;[0039] 通过影像件综合表数据中的支用申请ID作为筛选条件,在支用详情历史表与支用申请表中获得该支用下的apply_no;[0040] 通过apply_no关联影像件综合表,反查该借据信息对应的影像件;[0041] 如果无数据,则证明该数据无效,反之有效。[0042] 进一步地,所述4.2具体为:[0043] 遍历影像件综合表,通过单条数据中的影像件流水和影像件类型查询影像平台系统,同时判断该条数据中的本地路径是否存在,本地影像件和影像平台系统对比后操作:[0044] 本地影像件存在,影像平台系统不存在,上传影像平台系统,标记状态2:影像平台缺失状态;[0045] 本地影像件存在,影像平台系统存在,标记状态4:正常状态;[0046] 本地影像件不存在,影像平台系统存在,标记状态3:本地影像缺失状态;[0047] 本地影像件不存在,影响平台系统不存在,标记状态1:影像缺失状态。[0048] 本发明与现有技术相比,具有以下优点和效果:本发明提供了一种业务影像资料的高效管理系统及方法,通过对各渠道的业务影像资料进行统一的数据抽取、加工并清洗到统一的数据库中存储,解决了不同渠道数据定义不同导致的数据质量低下的问题,并且数据统一存储到同一个NAS文件服务器上,与各渠道的服务器形成挂载关系,可以同步读取和保存数据,提高数据的使用效率,而且数据保存在同一个NAS服务器上,只需要增加这一个NAS服务器的存储空间,无需进行数据迁移,解决了历史数据存储迁移不便的问题。附图说明[0049] 图1是本发明的一种业务影像资料的高效管理方法的流程图。具体实施方式[0050] 为了详细阐述本实用新型为达到预定技术目的而所采取的技术方案,下面将结合本实用新型实施例中的附图,对本实用新型实施例中的技术方案进行清晰、完整地描述,显然,所描述的实施例仅仅是本实用新型的部分实施例,而不是全部的实施例,并且,在不付出创造性劳动的前提下,本实用新型的实施例中的技术手段或技术特征可以替换,下面将参考附图并结合实施例来详细说明本实用新型。[0051] 一种业务影像资料的高效管理系统,包含消费信贷核心、NAS文件服务器、业务影像资料系统、催收系统、预警系统和影像平台系统。[0052] 其中,消费信贷核心是对接各合作渠道的系统,能够定时批量将各个合作渠道传递过来的影像资料文件进行下载存储,并记录每一个影像资料文件的信息。[0053] NAS文件服务器是一款特殊设计的文件存储和备份的服务器,它能够将接受到的各个合作渠道传递过来的影像资料文件集中管理和存储,对数据进行合理有效、安全地管理,并且将存储设备与消费信贷核心服务器彻底分离,集中管理数据。[0054] 业务影像资料系统是将消费信贷核心接收的,存储在NAS文件服务器上的影像资料进行整合的系统。将各个合作渠道传递过来的影像资料文件整合到统一的数据库中,记录影像资料文件所在的路径、文件名和身份证信息等内容,并将影像资料文件存储在NAS文件服务器上。[0055] 催收系统,是当客户发生逾期时,由业务人员对客户进行还款催收的系统。当客户发生逾期催收人员对其进行催收时,调用业务影像资料系统调取逾期客户的身份证、人脸照片、授信合同和贷款合同等资料,对催收进行辅助。[0056] 预警系统,定时检测存放在业务影像资料系统中的影像资料文件所在的路径、文件名和身份证信息,并将业务影像资料系统中的影像资料文件所在的路径、文件名和身份证信息与NAS文件服务器中存储的影像资料文件进行逐一比对,当发现有影像资料文件缺失时向运维人员发出通知。[0057] 影像平台系统是总部保存全部影像资料的系统,用于保存全部影像资料文件。平台运营公司需要将影像上传至总部,用以完成一次图像采集、多次访问,实现对文档的影像获取、索引建立、自动传送、批转、检索、管理。[0058] 如图1所示,一种业务影像资料的高效管理方法,包含以下步骤:[0059] S1、消费信贷核心定时批量接收来自各个合作渠道的影像资料文件。影像资料文件包含身份证、人脸图片、合同、个人征信授权书、个人信息授权书等文件。[0060] S2、消费信贷核心将不同合作渠道的影像资料文件保存在同一个NAS文件服务器上,并将保存记录登记到业务影像资料系统中保存。该NAS文件服务器挂载到催收系统、预警系统等系统上,并将相应的文件类型、路径等信息登记各自产品的数据库下。[0061] 不同的合作渠道分别对应不同的服务器,每个服务器的IP各部相同。分别在不同合作渠道的服务器上创建目录,然后使用mount命令将NAS文件服务器挂载到各个合作渠道的服务器创建的目录下,在每一个合作渠道的服务器设置开启自动挂载目录下的NAS文件服务器。此时,每一个合作渠道的服务器中创建的目录都指向NAS文件服务器。[0062] NAS文件服务器中分别对每一个合作渠道的服务器的访问路径设置不同的读写权限,各个合作渠道的服务器只能各自读写自己所属权限的目录和文件。[0063] 各个合作渠道的服务器接收来自对应合作渠道的影像资料文件,并将接收的影像资料文件存储到挂载在服务器目录下的NAS文件服务器内。[0064] 在影像资料文件存储到NAS文件服务器过程中,解析每一个影像资料文件的文件名(文件名是由各自渠道定义,文件名中包含流水号,借据号,身份证号,用户ID号等信息,来自不同的渠道,包含的内容不一样),不同的合作渠道分别按照各自定义的文件名规则进行解析,将解析出影像资料文件的识别信息去消费信贷核心进行校验是否正确,比如来自携程合作渠道的影像文件包含的是借据号和用户ID号,当携程批量服务器收到携程影像文件后,解析出借据号和用户ID号,先去消费信贷核心进行校验借据号和用户ID号是正确。若正确则将影像资料文件的文件类型(身份证,人脸图片,合同等类型)以及影像资料文件在NAS文件服务器上的路径登记到消费信贷核心中的对应渠道的影像件综合表中,完成一个影像文件的登记。[0065] 将影像资料文件上传至影像平台系统进行保存。[0066] S3、业务影像资料系统通过定时任务,根据不同产品读取业务影像资料系统中的保存记录,对保存记录的数据进行抽。缓蠹庸、清洗到一个统一的数据库中。[0067] 由于各产品数据的历史遗留以及业务的不断扩展,生成的数据在千万级以上,在抽数过程中常规方式容易造成服务器内存溢出且效率低等问题。本发明采用分布式调度任务中的分片,对抽取的数据进行分组并多线程对每一组数据进行处理。在每分组处理时按照清洗规则进行清洗。[0068] 按照统一的清洗规则,分别对身份证、人脸图片、合同、个人征信授权书、个人信息授权书和授信合同等文件的类型、格式进行整合并创建统一的枚举类。[0069] 枚举是一个特殊的类,一般表示一组常量,Java枚举类使用enum关键字来定义,各个常量使用逗号“,”来分割,不论来自哪个合作渠道的文件类型,统一枚举值,比如如果是人脸照片,则枚举值为0,如果是身份证,则枚举值是1,如果是贷款合同,则枚举值为3。通过这种方式将来自不同渠道的各种文件类型进行整个,使其统一化。[0070] 影像资料文件在NAS文件服务器上的路径根据不同产品的数据进行调整,若路径的格式满足业务需求,直接存取即可,若路径只有前缀,确定其补充路径,然后合并成有效的文件路径,最后满足影像件综合表中的路径的统一定义。比如百度主导和唯品会两个产品,百度主导影像件表中只有路径前缀,需要开发和业务确定其补充路径,来合并成有效的文件路径;唯品会则不同,表中格式满足业务要求,直接存取即可。[0071] 根据核心授信、支用申请ID分别进行授信、支用阶段的影像资料文件的关联,并将客户证件信息与影像资料文件进行关联,实现影像资料文件与业务的绑定关联。[0072] 库表设计时考虑到后续系统的扩展及维护,在创建模块表时,新增多个字段方便扩展,设计索引增加查询速度。[0073] S4、设置定时任务对影像资料文件的新路径进行校验。[0074] 4.1、通过授信信息表和借据信息表反向验证影像件综合表中数据的准确性,通过SQL来检验数据整体的完整性。[0075] 通过借据信息表与影像件综合表以支用申请ID关联,筛出借据表有,影像件综合表没有的数据。[0076] 通过影像件综合表数据中的支用申请ID作为筛选条件,在支用详情历史表与支用申请表中获得该支用下的apply_no。[0077] 通过apply_no关联影像件综合表,反查该借据信息对应的影像件。[0078] 如果无数据,则证明该数据无效,反之有效。[0079] 4.2、另设置一个定时任务,扫描影像文件路径,按照业务影像资料统一管理规则,对清洗加工后的文件路径进行验证。定时任务验证规则:影像件本地地址有,影像平台没有,标记;影像件本地地址没有,影像平台有,标记;保证影像件信息的时效性。[0080] 遍历影像件综合表,通过单条数据中的影像件流水和影像件类型查询影像平台系统,同时判断该条数据中的本地路径是否存在,本地影像件和影像平台系统对比后操作。[0081] 本地影像件存在,影像平台系统不存在,上传影像平台系统,标记状态2:影像平台缺失状态。[0082] 本地影像件存在,影像平台系统存在,标记状态4:正常状态。[0083] 本地影像件不存在,影像平台系统存在,标记状态3:本地影像缺失状态。[0084] 本地影像件不存在,影响平台系统不存在,标记状态1:影像缺失状态。[0085] 4.3、确保新的路径能够指向存储影像文件的NAS文件以及相关字段有对应的影像平台流水,最后对验证的结果进行登记。[0086] 本发明提供了一种业务影像资料的高效管理系统及方法,通过对各渠道的业务影像资料进行统一的数据抽取、加工并清洗到统一的数据库中存储,解决了不同渠道数据定义不同导致的数据质量低下的问题,并且数据统一存储到同一个NAS文件服务器上,与各渠道的服务器形成挂载关系,可以同步读取和保存数据,提高数据的使用效率,而且数据保存在同一个NAS服务器上,只需要增加这一个NAS服务器的存储空间,无需进行数据迁移,解决了历史数据存储迁移不便的问题。[0087] 以上所述,仅是本实用新型的较佳实施例而已,并非对本实用新型作任何形式上的限制,虽然本实用新型已以较佳实施例揭露如上,然而并非用以限定本实用新型,任何熟悉本专业的技术人员,在不脱离本实用新型技术方案范围内,当可利用上述揭示的技术内容做出些许更动或修饰为等同变化的等效实施例,但凡是未脱离本实用新型技术方案内容,依据本实用新型的技术实质,在本实用新型的精神和原则之内,对以上实施例所作的任何简单的修改、等同替换与改进等,均仍属于本实用新型技术方案的保护范围之内。
专利地区:江苏
专利申请日期:2023-03-07
专利公开日期:2024-11-29
专利公告号:CN116128636B