数据是组织最重要的资产
成于念|企业数据质量管理考核评分实践

成于念|企业数据质量管理考核评分实践

导读:数据质量管理是组织数据管理非常重要的一个领域,作者总结了自己工作中数据质量管理的一些经验和体会,尤其是数据质量的考核评分一段,对大家的数据质量管理工作具有较好的借鉴意义~

无论是任何行业或者何种背景下的企业,在步入信息化数字化阶段后,都会面临数据质量问题。没有一个组织拥有完美的业务流程、完美的技术流程或完美的数据管理实践,所有组织都会遇到与数据质量相关的问题。相比那些不开展数据质量管理的组织,实施正式数据质量管理的组织碰到的问题会更少。如何确保自己企业的数据质量比较高,或者是逐步提高。一个很重要的保障措施就是颁布管理制度。数据质量管理制度需要包含数据质量管理办法,数据质量管理规范,数据质量绩效考核方面的内容。

值得大家注意的是,管理制度搭建的过程中,有时很难区分管理办法、操作规范之间的关系。

管理办法是指对于某一流程作业或者行为进行定性规定制定文件,大部分属于对组织内约定俗成的定义、原则、管理范围、管理职责等的正式文件。因为一些具体的管理要求,会经常变化一般不包含在管理版中。管理办法相对笼统。

而操作规范是指按照管理办法的要求提出具体可落地、可执行的实施措施,一般称为XX操作细则,或XX实施细则。所以一定是很具体明确的说名了管理操作的要求。

例如:我们在管理办法中可以强调数据的及时性,但是在具体的操作规范中针对具体数据需要明确、量化及时性这一指标概念。如:获取数据后X个工作日内录入数据,发生变更时X个工作日内完成数据更新等。

细分来讲,数据质量管理制度应该由以下几个关键部分组成:

一、规范定义:

1、首先定义清楚什么样的数据称之为高质量的数据,高质量数据并不是越高越好,因为学过质量成本控制的都清楚,数据质量并不存在绝对的,而只要满足企业业务管理需要,即可认为数据质量达标的数据。

2、明确什么样的数据属于数据质量管理的范畴。比如核心,重要的数据,所以识别关键数据重要数据,并且还要确认该类数据的生成规则和维护流程。

2、达到什么程度才算高质量。例如:确保数据的及时性,究竟怎么才算及时性,是获取数据的时效?还是分发到下游的时效?还是接受数据的时效?


二、稽查监控措施:

1,针对我们已经识别的数据及其对应生成规则,我们需要确定稽查监控的措施。(提升数据质量的关键是预防,而不是事后修正)

2,对于产生问题的错误数据,我们如何去修复改正的相应流程。

3、数据稽查的频率和问题反馈频率,以及反馈渠道或稽查工具平台需要明确清楚。


三、组织与职能:

1、重点描述组织岗位对应的职能,定义需要执行遵守的数据质量管理原则。

2、各组织对数据质量流程中的职责权利需要明确清楚,例如谁生产,谁使用,谁负责,谁改进等权责。


四、绩效考核:

评价标准需要量化:一般情况下, 以单条数据为单位,通过数据质量巡检规则,从完整性、及时性、准确性、一致性、唯一性、有效性等六个维度进行检查,根据计算规则得出各区域的数据质量综合得分。常见的数据质量考核计算方法如下:

  1)员工数据质量综合得分:以该员工录入维护的相关数据质量项为范围,以数据质量检查项的单条数据质量规则为检查单元,先计算正确记录数占比作为该条数据质量规则对应的得分,再加权计算该数据项的所有数据质量规则得分作为该数据项的得分,最后取所有数据项得分的平均值作为员工的数据质量综合得分,计算过程及计算公式如下:

数据质量规则得分=(1-数据质量规则检查的问题数/数据质量规则检查的总数)*100

数据质量规则名称问题记录数记录总数数据质量规则得分
规则 A11010090.00
规则 A25020075.00
规则 B110100099.00
规则 B220100098.00
规则 C110100099.00

数据质量规则的得分表(示例)

备注:n 为数据项的数据质量规则总数。

数据项名称数据质量规则名称数据质量规则得分权重数据项得分
数据项 A规则 A190.0050%82.50
规则 A275.0050%
数据项 B规则 B199.0060%98.60
规则 B298.0040%
数据项 C规则 C199.00100%99.00

数据项的得分表(示例)

备注:n 为员工的数据项总数。

员工名称数据项名称数据项得分项目得分
张三数据项 A82.5093.37
数据项 B98.60
数据项 C99.00
李四数据项 A80.0080.00
数据项 B70.00
数据项 C90.00

员工的得分表(示例)

  2)团队数据质量综合得分:以该团队的全体成员为范围,统计每个团队的数据质量综合得分,取所有项目得分的平均值作为该团队的综合得分,计算公式如下:

备注:n 为数据对象总数。

团队名称员工名称员工数据质量综合得分区域数据质量综合得分
数据管理团队张三93.3780.84
李四80.00
数据执行团队王五99.0096.20
赵六90.00

区域的得分表(示例)

统计各团队的综合得分,并根据各团队的综合得分从高到低进行排名,由数据管理团队负责人进行有效奖惩排名。如果对数据质量评价结果有意见,可向数据管理团队提出。

团队 综合得分排名
数据对象录入方 A100.001
数据对象录入方 B96.202
数据对象录入方 C90.003
数据对象录入方 D80.844

团队数据质量综合评价表(示例)


五、附则-数据质量衡量维度

在DAMA体系中,数据质量维度是指数据的某个可测量的特性。国际上较为成熟的框架包括:Strong-Wang 框架、Redman的“可表示的三元组”还有Larry Englist的固有特征和实用特征。各个企业公司可以根据自身的业务场景、管控要求选择不同的质量维度框架,本篇文章只针对DAMA UK提出的六个核心维度进行阐述解释:

完整性:指数据在创建、传递过程中无缺失和遗漏。包括实体完整、属性完整、记录完整和字段值完整四个方面,完整性是数据质量最基础的评判维度。

及时性:指及时记录和传递相关数据,满足业务对信息获取的时间要求。数据交付的及时性,及时抽取、及时展现,如果数据交付时间过长,可能导致分析结论失去参考意义。

准确性:指真实、准确记录原始数据,无虚假数据及信息。数据准确反映其所建模的“真实世界”实体。例如:员工的身份信息必须与身份证件上的信息保持一致。

一致性:指遵守统一的数据标准,记录和传递数据和信息。主要体现在数据 记录的规范和数据是否符合逻辑。例如:同一工号数据在不同系统的员工姓名不一致。

唯一性:指同一数据只能有唯一的标识符。体现在一个数据集中,没有实体多余一次出现,并且每个唯一实体有一个键值且该键值只指向该实体。例如:员工有且仅有一个有效工号。

有效性:指数据的值、格式和展现形式符合数据定义和业务定义的要求。描述数据格式、数据类型、值域和相关业务规则的有效性。例如:员工的国籍类型必须存在于国家基础数据中定义的允许值。

企业数据质量管理体系的搭建并非一朝一夕的事情,本文只是针对管理制度的目录编写进行了详细阐述。如何针对管理制度进行组织保障、资金项目保障、人力保障等措施在后续章节会再详细讲到。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注