sql_数据治理

倾然丶 夕夏残阳落幕 提交于 2019-12-10 20:58:07

数据治理

1、数据治理需要注意事项及问题点
1.1、跨组织的沟通协调问题:
1.1.1、数据治理是一个组织的全局性项目,需要IT部门与业务部门的倾力合作和支持,需要各个部门站在组织战略目标和组织长远发展的视角来看待数据治理。因此,

            数据治理项目需要得到组织高层的支持,在条件允许的情况下,成立以组织高层牵头的虚拟项目小组,会让数据治理项目事半功倍

1.2、投资决策的困难
1.2.1、组织的投资决策以能够产生可预期的建设成效为前提,但往往综合性的数据治理的成效并不能立马体现,它更像一个基础设施,是以支撑组织战略和长期发展为目标,

            所以,导致此类项目无法界定明确的边界和目标,从而难以作出明确的投资决策

1.3、工作的持续推进
1.3.1、数据治理是以支撑组织战略和长远发展为目标,应当不断吸收新的数据来源,持续追踪数据问题并不断改进,所以数据治理工作不应当是一锤子买卖,应当建立长效

             的数据改进机制,并在有条件的情况下,尽量自建数据治理团队

1.4、技术选型
1.4.1、这几年随着大数据的发展,有针对传统数据库的,有针对大数据数据库的,再加上组织对自身数据资产情况没有一个清晰的认识,这也就导致了数据治理的技术选型困难

一、数据标准:

1.业务定义:定义统一、口径统一、名称统一、参照统一、来源统一

2.技术定义:数据类型、数据格式、数据长度、来源系统

3.管理信息:明确标准的所有者、管理人员、使用部门

二、数据模型

1.数据结构:数据模型中的数据结构主要用来描述数据的类型、内容、性质以及数据间的联系等。数据结构是数据模型的基础,数据操作和数据约束都基本是建立在数

据结构的之上的。不同的数据结构有不同的操作和约束

2.数据操作:数据模型中的数据操作主要用来描述在相应的数据结构上的操作类型和操作方式

3.数据约束:数据模型中的数据约束主要用来描述数据结构内数据间的语法、词义联系、他们之间的制约和依存关系,以及数据动态变化的规则,以保证数据的正确、有效和相容

三、元数据

1.业务元数据:业务指标、业务规则、数据质量规则、专业术语、数据标准、概念数据模型、实体/属性、逻辑数据模型

2.技术元数据:技术规则(计算/统计/转换/汇总)、数据质量规则技术描述、字段、衍生字段、事实/维度、统计指标、表/视图/文件/接口、报表/多维分析、

数据库/视图组/文件组/接口组、源代码/程序、系统、软件、硬件

3.操作元数据:与元数据管理相关的组织、岗位、职责、流程、项目、版本,以及系统生产运行中的操作记录,如运行记录、应用程序、运行作业

四、数据服务

1.数据的深度加工和分析:报表分析、工具分析、数据挖掘:数据进行深度加工

五、主数据:从各部门的多个业务系统中整合最核心的、最需要共享的数据(主数据),集中进行数据的管理,并且以服务的方式把统一的、完整的、准确的、

具有权威性的主数据传送给企业内需要使用这些数据的操作型应用系统和分析型应用系统

六、数据分布与存储

1.交易型数据区:交易型数据区包括渠道接入、交互控制、业务处理、决策支持与管理等各类联机应用数据;存储客户自助或与操作人员在业务交互办理过过程

中产生的原始数据的存储,包括业务处理数据,内部管理数据和一些外部数据,其存储的是当前状态数据

2.集成型数据区:2.1、操作型数据(OLTP),2.2、数据仓库型数据(OLAP)

3.分析型数据区:为了对业务执行情况进行深入分析,需要对原始数据进行进一步汇总统计分析,统计分析结果用于最终的决策展示,因此分析型数据区存储了

这些统计、分析模型结构的指标数据。

4.历史数据区:这里存储了所有近线应用、归档应用、外部数据平台应用等的数据,主要满足各种历史数据归档后的数据保管和数据查询服务

七、数据质量

1.制度和规范:数据质量的评估维度,包括完整性、时效性等,按照已定义的维度,在系统建设的各个阶段都应该根据标准进行数据质量检测和规范,及时进

行治理,避免事后的清洗工作。

2.明确相应的管理流程:在需求和设计阶段就需要明确数据质量的规则定义,从而指导数据结构和程序逻辑的设计;在开发和测试阶段则需要对前面提到的规则

进行验证,确保相应的规则能够生效;最后在投产后要有相应的检查,从而将数据质量问题尽可能消灭在萌芽状态。数据质量管理措施,宜采用控制增量、消灭存

量的策略,有效控制增量,不断消除存量

八、数据生命周期:在线阶段,归档阶段:在线归档、离线归档,销毁阶段

九、数据安全

9.1、数据存储安全

  物理安全

  系统安全存储

9.2、数据传输安全

   数据的加密

   数据网络安全控制

 9.3、数据使用安全

   部署客户端安全控制工具

   信息防泄漏机制

   信息非授权传播

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!