沈阳飞机工业(集团)有限公司 辽宁沈阳 110850
摘要:数据质量的有效评价是在数据质量管理过程中必不可少的重要环节。本文提出了模线样板业务数据质量维度的建立方法,以此方法建立的模线样板数据质量维度是以满足数据应用为基础,符合业务规则和逻辑的数据质量评价维度。
关键词: 数据质量;维度;评价
引言
数据质量直接影响数据的应用效果。只有高质量的数据时可信任的,但数据的质量高低取决于数据的应用场景和使用需求,满足应用需求的数据就是高质量的数据。在进行业务管理时,数据必须符合业务逻辑和业务规则。为了能够对数据质量进行全面评价,很多学者提出了数据质量维度的概念,数据质量维度是数据的某个可测量特性,“维度”可理解为可测量物体的长度、宽度、高度等信息。通过定义数据质量维度,为数据定义一种可以测量、评估的手段,通过维度可以评估数据的质量和改进情况。业务数据划分的数据质量维度必须满足业务特征和业务需求,并能够对业务数据进行评价。
1 模线样板数据现状及痛点
随着业务管理信息化水平的不断提升,模线样板业务积累了大量的数据,这些数据从各方面、各层次和各环节详细及深入记录了系统、业务在各种情况下的属性,为数据挖掘的广泛应用创造了必要条件,为了提升管理效率,模线样板开展了信息管理。但是在应用数据开展业务管理、分析等工作时,经常由于数据不一致、重复数据、数据缺失等问题。统计结果的不可信为业务分析、管理带来了困难,错误的数据结果的应用不但不能为业务管理提供全方位、多视角的服务,反而会导致重大的决策失误。经过对数据填报人员、数据使用人员、数据管理人员、系统管理员等角色进行调研,共总结以下一些数据质量问题,表1是模线样板数据急需解决的数据问题。
表1 模线样板数据问题
序号 | 问题 | 说明 |
1 | 一物多码 | 同一图号、共用图号、单位样板的序列号不唯一 |
2 | 一码多物 | 同一图号、共用图号、单位样板对应多个序列号 |
3 | 一物多版次 | 同一图号、共用图号、单位样板二维码版次不唯一 |
4 | 样板信息卡片状态不唯一 | 同一图号、共用图号、单位样板状态不唯一 |
5 | 卡片与表单样板状态不一致 | 同一图号、共用图号、单位样板信息卡片样板状态与业务表单样板状态不一致 |
6 | 有报废标识样板状态不是已报废 | 同一图号、共用图号、单位样板信息卡片样板状态字段为“已报废”的样板,报废字段不是“废” |
7 | 未报废样板卡片状态为已报废 | 未报废样板在样板信息卡片中的状态为“已报废” |
8 | 卡片块数不准 | 实际样板块数与样板信息卡片中样板块数不一致 |
9 | 样板信息卡片样板类型缺失 | 样板信息卡片样板类型为空 |
10 | 样板信息卡片样板使用单位不规范 | 样板信息卡片样板使用单位不规范,含有许多别名 |
11 | 样板工艺图与样板信息卡片信息不一致 | 样板工艺图与样板信息卡片的单位、样板编号、样板数量不一致 |
12 | 样板信息卡片中样板二维码与标识码不符 | 样板信息卡片样板二维码去掉后面字母与标识码不符 |
13 | 非空原则 | 样板信息卡片序列号、机型、图号、使用单位、样板类型、样板数量、样板状态等非空 |
14 | 样板信息卡片中胶板号长度过长 | 样板信息卡片中胶板号长度超出规定位数 |
15 | 样板信息卡片中设计、校对、审校、批准、打印、派工、检验、移交等信息缺失 | 样板信息卡片中设计、校对、审校、批准、打印、派工、检验、移交等信息缺失 |
2 模线样板数据质量维度研究
2.1模线样板数据质量问题与数据维度对应关系
不同行业和部门定义的数据质量维度略有不同,无论名称如何,维度都集中在数据是否正确、是否完整、是否有效等方面。DAMA数据管理知识体系指南总结了常见的数据质量维度,主要分为以下维度(包括但不限于):准确性、完备性、一致性、完整性、合理性、及时性、唯一性、数据去重、有效性等。
以模线样板数据问题为出发点,与数据质量维度建立对应关系。分析数据质量问提属于哪些维度,本次维度划分选取了模线样板数据相关的业务人员、数据治理人员、数据管理人员、数据应用人员四类角色开展了问题及维度调研,各位专家对数据维度划分意见较一致,共形成了两类维度划分意见。
表2 模线样板数据问题与维度研究
序号 | 数据质量问题 | 调研意见(一) | 调研意见(二) |
1 | 一物多码 | 唯一性 | 唯一性 |
2 | 一码多物 | 唯一性 | 唯一性 |
3 | 一物多版次 | 准确性 | 准确性、唯一性 |
4 | 样板信息卡片状态不唯一 | 准确性 | 准确性、唯一性 |
5 | 卡片与表单样板状态不一致 | 准确性 | 准确性 |
6 | 有报废标识样板状态不是已报废 | 准确性 | 准确性 |
7 | 未报废样板卡片状态为已报废 | 准确性 | 准确性 |
8 | 卡片块数不准 | 准确性 | 准确性 |
9 | 样板信息卡片样板类型缺失 | 完整性 | 完整性(数据) |
10 | 样板信息卡片样板使用单位不规范 | 规范性 | 规范性 |
11 | 样板工艺图与样板信息卡片信息不一致 | 准确性 | 准确性 |
12 | 样板信息卡片中样板二维码与标识码不符 | 准确性 | 准确性 |
13 | 非空原则 | 有效性 | 完整性(数据)、有效性(数据) |
14 | 样板信息卡片中胶板号长度过长 | 规范性 | 准确性、规范性 |
15 | 样板信息卡片中设计、校对、审校、批准、打印、派工、检验、移交等信息缺失 | 完整性 | 完整性(数据) |
2.2国内外各行业数据维度划分
GJB/Z 184-201《军事数据质量评价指南》将数据质量维度划分为3类,12个维度。Strong-Wang框架把数据质量维度划分为4种类型,分别是内在数据质量、场景数据质量、表达数据质量、访问数据质量,这4种质量类型包含15个维度;Thomas Redman 把数据质量维度划分为3种类别:数据模型、数据值、数据表达,共20多个维度;Larry English 把数据质量维度划分为两大类:固有特征和实用特征,共15个维度。
2013年,DAMA UK发布了一份白皮书,总结了数据质量的六个核心维度:
表3 数据质量核心维度
维度名称 | 定义 |
完备性 | 存储数据量与潜在数据量的百分比。 |
唯一性 | 在满足对象识别的基础上不应多次记录实体事物。 |
及时性 | 数据从要求的时间点其代表现实的程度。 |
有效性 | 如数据符合其定义的语法,则数据有效。 |
准确性 | 数据正确描述所描述的“真实世界”对象或事件的程度 |
一致性 | 比较事物多种表述与定义的差异。 |
下面是一些国内、外机构部门使用的常用数据质量维度。国际货币基金组织常用数据质量维度为:诚信的保证、方法的健全性、准确性和可靠性、适用性以及可获取性;欧盟统计局常用的数据质量维度为:相关性、准确性、可比性、连贯性及时性和准时、可访问和清晰;美国商务部常用的数据质量维度为:可比性、准确性、适用性;加拿大统计局常用的数据质量维度为准确性、及时性、适用性、可访问性、衔接性、可解释性;气象通信行业常用的数据质量维度为:学性、标准化、共享性、时效性、稳定性、可维护性;医疗行业常用的数据质量维度为:一致性、可靠性、可用性、适用性;交通行业常用的数据质量维度为:完整性、有效性、准确性、实时性;地理信息系统(GIS)常用的数据质量维度为:位置精度、现势性、一致性、完整性、可靠性。可以发现,不同的行业、部门所使用的数据质量维度是略有不同的,以上数据质量维度为模线样板数据质量维度提供借鉴。
2.3模线样板数据质量维度
参考上述国内行业、国际的数据质量维度,公司企业标准《数据质量管理 数据质量评估与监测》融合模线样板数据用户使用需求,针对课题研究内容将模线样板数据质量维度整理为5个,既完整性、准确性、规范性、唯一性、有效性。
3 结束语
模线样板数据质量维度是指对模线样板数据质量进行分析和评价的角度。从不同的角度出发,可以分析出不同的质量评价结果。因此,维度的作用就是提供了一种用于测量和管理数据质量及信息质量的方式。
参考文献:
[1] DAMA国际.DAMA数据管理知识体系指南(第二版)[M],2020
[2]韩京宇.宋爱波.董逸生 . 数据质量维度量化方法.计算机工程与应用[J],2019,44(36):1~6