数据质量服务

发布时间:2021-02-05

思索数据质量服务系统是思索公司根据多年数据质量管理基础上开发的数据质量监测系统,该系统提供模块化、组件式的功能管理平台,以元数据管理功能为基础,支持跨部门、跨系统的企业级数据质量问题集中监控和管理,主要起到帮助用户了解数据质量情况,发现数据质量问题,持续监测数据质量,分析数据质量趋势和对比情况,跟踪问题数据修复情况,为用户数据质量管理提供专业解决方案和应用支撑。


14576752719833662.png


系统业务框架

系统特点:

1,数据来源:可支持SQL SERVER、ORACLE、MYSQL、SYSBASE等各类主流数据库及外部文本数据,支持各类集成业务系统数据,数据检测和风险指标口径直接在原始数据结构上加工处理,保证了数据的真实性。

2,用户完全自定义维护风险指标:数据检测后台工具提供可由用户完全自定义维护的四级分类菜单,而无需开发人员修改任何程序代码。所有指标可由业务人员实时在线添加、修改且检测结果可由前台Web页面实时查看,实现数据检测结果的所见即所得。

3,通过高度智能、自动化数据加工处理算法实现数据加工结果的自动分类处理:业务人员只需关心检测指标的业务关系,复杂的数据加工完全由后台通过智能算法自行处理。数据加工结果纵向上可按单位、主管科所、科室、可疑类别、用户等分类汇总;横向上对所有数据加工结果实现历史记忆,并根据感知当前业务系统数据变化实现历史数据状态的动态修改。例如数据检测指标“个体户名称为【有限公司】的”,对此检测指标每天运行一次,检测算法处理过程为:(1)将满足此条件的历史数据(状态为未修正的)和满足此条件的当前返回数据比对,如历史数据有记录而返回数据没有记录则将历史数据状态自动修改为“已修正”;(2)将满足此条件的历史数据(状态为未修正的)和满足此条件的当前返回数据比对,如返回数据有记录而历史数据没有记录则将返回数据插入到历史数据,且插入数据状态为“未修正”;

4,数据加工分同步、异步混合模式,极大提高了数据加工的执行效率,降低了服务器资源损耗:同步模式为多个业务指标同步加工,适用于业务口径没有用的子表查询或子表数据量少的情况;异步模式用于有子表查询且数据量特别大的情况。同步、异步混合模式的使用较传统数据加工模式效率提高50到100倍。

5,提供手动与定时两种数据加工模式:手动维护一般用于业务人员数据指标维护过程,通过手动加工业务人员可实时查看数据加工结果以便于业务指标的调试、容错;定时加工用于日常业务的自动处理,一般设置为每天运行一次。

6,内置业务指标容错机制及SQL错误报告分析功能:业务人员维护业务指标过程中难免出现疏忽及逻辑错误,系统提供了别名检测、主键检测、SQL动态错误报告分析等容错机制,大大提高了维护过程中业务指标的有效性、完整性、真实性,降低了业务指标维护的出错概率,提高了业务人员的工作效率。

7,支持自定义指标维护功能:可维护除用户业务数据库以外的其他业务指标导入,支持Excel批量导入。