当前位置: 首页 > 行业

数据治理分析项目调研最佳实践-世界独家

来源:数通畅联 发布时间:2023-06-20 15:59:41 分享至:

对企业而言,信息化建设已经成为企业发展的重要推动力,发展信息化已经不仅仅只是满足日常业务,更多的是要通过信息化发现问题、优化管理、提升效能。而为了实现信息化建设的价值最大化, 开展数据治理分析,深度挖掘数据价值 已经成为企业信息化建设的一个共识。


(资料图)

数据治理分析是一项复杂的工作,系统越多、数据量越大,实施建设的难度就越大,但通过数据治理分析可以将分散于各系统的数据进行整合汇聚、综合分析,充分挖掘数据价值。在实施数据治理分析项目时,主要的工作就是对数据的采集、整合,由于数据分散于各个系统,所以不仅需要了解实际业务,也要了解系统功能,能够分析并梳理出所需的数据和指标。

对于数据治理分析项目而言,最核心的内容就是 梳理业务主题和业务指标 ,然后才是基于主题和指标采集数据,所以前期的调研工作至关重要,在调研阶段,一定要明确核心业务场景和流程,基于业务梳理相关指标,同时结合行业经验、最佳实践、标准规范等,才能保证项目的实施效果。

数据治理分析方案是一套综合性的信息化解决方案,主要是为了解决企业数据整合、数据分析的难题,以达到深度挖掘数据价值,通过数据支撑业务、推动业务升级的目的。

1.方案说明

数据治理分析方案的主要内容包括基础数据治理、数据仓库建设、数据分析展现等内容,通过平台建设实现企业数据的整合汇聚,构建数据中心,基于数据进行分析展现、透视业务、价值挖掘,有效支撑企业的业务发展。

数据治理分析方案主要包括 DAP、MDM、ESB 产品,在具体实施过程中,整体架构图如下:

DAP数据分析平台作为数据分析的核心,完成数仓建设、数据分析两部分内容,数仓通过ODS、DW构建数仓模型,实现分层建设,并能进行数据集、立方体等分析模型的配置,从而 支持基于业务主题和业务指标的可视化分析 。ESB作为数据集成平台,实现源头系统到ODS以及ODS到DW数据抽取、加工、转换,完成数据汇聚的过程。而MDM基础数据平台则实现基础数据治理,为数仓提供基础数据支撑,构建数仓维表。

2.数仓架构

数仓的建设是基于DAP平台配置的多层数仓体系,具体架构体系如下:

数仓的建设过程主要是将源头数据汇聚到数仓,并进行分析配置的过程,包括了贴源层ODS、数仓DW和应用层ADS, 而DW又分为数据明细层DWD和数据服务层DWS 。数仓数据加工汇聚的过程:

1.源头数据首先进入ODS,一般直接以原始数据的形式存储,支撑数仓的同时,为湖仓一体、数据追溯提供原始数据;

落地数据后,再基于ODS构建数仓中的基础事实表,形成DWD;

3.基于DWD根据实际需要进行进一步的数据汇总, 构建数据宽表和模型 ,形成DWS;

4.数仓构建完成后,基于数仓模型,根据分析主题和分析指标的要求进行数据集、立方体、多维分析、业务报表的配置,为最终的展现效果提供分析模型。

3.实施规划

数据治理分析项目的实施主要包括:项目调研、蓝图准备、项目实施和上线验收几个阶段,其中调研和蓝图是整个项目的基础,在实施过程中非常关键,调研是基础,是后续蓝图资料和实施落地的前置条件,而蓝图是标准,是实施落地的依据。

1. 项目调研 :主要是明确需求,通过和技术、业务、领导层的沟通,明确客户的业务需求,建设目的,最终期望等,这个阶段需要尽可能多的了解业务和场景,即使是项目实施范围之外的内容也可以更多的了解。调研的目的是清晰业务,熟悉流程和场景,这样才能保证在蓝图和实施阶段能更加准确的获取数据、融合业务;

2. 蓝图阶段 :蓝图阶段主要是基于调研阶段确认的需求和场景,规划梳理实施的范围和内容,蓝图是实施阶段的依据,需要对具体的实施内容、建设效果、整体规划、标准规范等进行规划和落地,以保证实施阶段的顺利开展,并且达到预期效果,避免需求蔓延。

调研规划

调研阶段是整个数据治理分析项目实施的基础,所以前期的调研工作需要精准到位,并且尽可能涵盖所有的业务,能够将客户的业务场景整合起来, 形成业务闭环

1.调研清单

在调研开始前需要提前准备相关资料,包括调研的内容、方式、对象、问题等,对于数据治理分析项目,主要的调研内容包括业务系统、数据分析、基础数据、业务集成等。

1. 业务系统 :主要确认业务系统信息,包括已上线、建设中、待建设等,对于已经上线使用的系统,需要明确系统的建设时间、系统厂商、使用情况、使用人员、运维情况等;

2. 数据分析 :数据分析是整个项目的核心,需要重点调研,需要根据行业、业务的不同,规划业务主题、梳理业务指标,并确认各指标的来源系统、计算方式、报警阈值等;

3. 基础数据 :基础数据包括两个作用,一是支撑数据分析时构建数仓,为数仓提供维表数据,二是进行基础数据治理,对各业务系统分发基础数据,所以在调研时需要进行区分,哪些用于维表,哪些用于数据治理,或者同时满足两个作用,再基于作用确认基础数据的来源位置、同步方式、分发方式、属性信息等;

4. 业务集成 :业务集成主要是实现系统间业务数据对接,有两种实现方式,一种是先通过数仓汇总业务数据,再构建数据服务,然后对外提供查询接口,这种方式适用于数据获取,不适用于数据写入;二是通过ESB的API管理进行服务注册、治理,这种方式数据读写都可以完成,但是在平台中不会留存数据。在调研过程中,需要明确需要集成的业务单据,并根据实际需要确认集成方式。

2.调研阶段

调研是一项持续的工作, 从项目进场开始会一直持续到蓝图完成 ,甚至在实施阶段,如果有业务或需要的变更,也要进行一些调研工作,但是主要工作还是在进场后的调研工作。对于数据治理分析项目,一般调研会分几个阶段:

>>>>系统调研

1.主要面对客户的信息中心,通过信息中心了解企业的业务系统情况,了解各个业务系统的 功能模块、使用人员、业务场景、管理流程 等;

2.再调研前需要准备好可以访问的环境,并能有对应的数据,可以看到系统功能、展现效果等,能够让客户知道项目建设的效果,并根据客户的想法和意见进行设计和完善;

3.在系统调研时需要要求客户提供测试环境以及测试账号,一方面可以更好地了解业务系统的功能模块、业务场景,同时实施时也可以对对接测试环境进行验证;

4.系统调研主要通过信息中心,如果信息中心对业务系统的掌握不到位,或者系统功能了解不全面,需要通过客户协调系统厂商进行系统补充调研;

>>>>业务调研

1.在系统调研阶段已经初步了解了相关系统的使用情况,同时也对业务有了初步的了解,接下来就需要针对每一个业务部门进行详细调研, 明确业务细节 ,以及相关业务的关联关系;

2.业务调研时需要排出计划,按照业务部门分别进行调研,每个部门调研后需要及时整理相关记录和问题,之后再带着问题进行沟通或者和其他相关部门进行调研;

>>>>高层调研

1.因为数据治理分析项目有很大一部分内容是直接面对高层领导,所以前期调研时高层调研很有必要,在系统和业务调研后,需要根据调研结果整理资料,输出相关原型,再基于原型和资料进行高层调研,了解高层领导对项目的期望,同时也让领导层看到最终的效果,提出完善的意见;

2.在调研时,一定要注意了解领导层对未来的规划和想法,根据未来的规划考虑项目的建设方向和内容, 使平台具有可生长性 ,后续可以根据据业务发展不断完善升级;

3.一般高层调研都不是一次性的调研,需要根据意见对相关资料和原型进行反复迭代优化,在优化完善的过程中满足客户的需求,同时加深对客户业务的了解以及未来的规划。

3.调研输出

调研工作进行后一定要有对应的输出,包括调研过程的输出,以及相关需求、原型、设计等内容,根据调研阶段和调研内容的不同,每次调研也要输出不同的调研资料。

1. 系统调研 :需要补充完善系统情况,整理系统功能模块、业务场景清单等,同时输出初步的业务流程,按照模块化的方式将业务流程穿起来;

2. 业务调研 :每次调研后需要整理调研的会议纪要,将调研过程、相关问题、业务场景等梳理出来,并根据问题进行补充调研,或者调研其他业务部门;

3. 高层调研 :输出会议,整理领导层的意见,并根据意见对需求、原型、设计等进行完善,或者二次调研等。

准备工作

在项目正式调研开始前,需要提前准备相关调研资料,并且在调研过程中,也要不断对调研资料进行完善。数据治理分析项目前期资料包括项目实施内容的梳理、调研清单的准备,以及相关标准、行业、通用的模板等,前期准备一方面可以全面了解项目情况,调研时做到游刃有余,另一方面更容易挖掘客户的需求,了解客户的想法,加快项目实施,避免后续需求蔓延。

1.业务分析

在开始调研前,可以通过前期沟通、售前交流、项目招投标过程中的相关资料对客户的业务进行分析,包括客户的行业、业务场景、业务流程、建设内容等。由于数据治理分析需要从各个系统对接业务数据,并基于业务数据建立业务主题和指标,所以需要充分了解业务场景,如 人事、财务、成本、采购、销售、生产 等,并了解各业务场景的交互,如采购和成本、销售和生产、销售和财务、生产和采购等。在分析业务的过程中,可以结合以往同类型、同行业的相关项目,或者参考一些行业类业务。

2.标准模板

对于数据治理分析项目,由于涉及到数仓建设、基础数据治理、服务集成等内容,所以标准规范的输出非常重要,基于标准规范,可以保证数据集成过程中标准化,保证数据的准确性和全面性,同时也能 为后续的运维、扩展、考核等工作提供依据

一般而言,数据治理分析的标准规范会在蓝图阶段作为输出,同时作为实施阶段的输入,以保证实施过程中遵守标准规范,保证数据质量。而数据治理分析项目作为标准的实施方案,内部已经形成了一些标准的规范体系,可以直接整理相关规范文档模板,并在实际项目中根据具体场景进行完善,这样不仅可以提升项目交付的效率,同时也能给客户提供更加专业的指导,提升项目的效果。

3.演示环境

在进行项目调研前,一定要准备演示环境,由于目前采用的都是 K8S云平台的部署方式 ,在调研前或调研期间,需要客户提供服务器,部署演示环境,初期调研演示环境可以只部署3台的非高可用环境,主要用于调研期间对客户进行演示,同时进行原型开发需要。

通过演示环境进行调研可以做到事半功倍的效果,基于演示环境可以直接给客户呈现项目建设的效果,并能根据客户的需求进行原型的设计,大大提升项目调研、实施的效率。

数据分析

数据分析是数据治理分析项目的核心内容,包括了 数仓搭建、可视化分析、数据指标、数据服务 等内容,其中数仓搭建和可视化分析是数据分析的主体,而数据指标和数据服务可以根据客户需求进行灵活调整,但为了提升数据分析的效果,一般都会进行数据指标的建设。

1.业务主题

业务主题是进行数仓搭建和数据分析的基础,通过业务主题规划可以更好地划分企业业务,同时能够对数据进行更加精细化的管理。在调研开始前的准备阶段时,已经根据业务初步规划了业务主题,如人事、财务、采购、成本、生产、销售等,在调研过程中,需要对这些主题进行沟通确认,确认主题范围。

根据项目周期、建设规划以及业务模式,可以分阶段进行主题建设,如 一期建设人事、财务、生产、销售等主要业务,二期再进行采购、成本、市场、库存等主题 ,通过分期建设缩短建设周期,更快体现建设成果,同时也能以一期的成果作为二期的输入,进行不断优化迭代,提升建设效果。

数据分析的建设可以分期进行,但是调研时可以统一调研,总体规划,先将主题范围确认下来,在二期建设时可以在一期调研成果的基础上进行优化,加快后续的建设效率。

2.业务指标

如果说业务主题是数仓建设和数据分析的基础,那么业务指标就是数据分析的核心,在进行数据分析、可视化展现时,最重要的就是展现业务指标,体现业务指标的结果、范围、趋势等,可以说数据分析就是对业务指标的分析,通过指标展现了解业务情况,分析业务趋势,优化业务模式。

业务指标的调研不仅仅是梳理出指标,更重要的是 明确指标的计算方式 ,通过指标如何分析业务的好坏和趋势,如何通过指标的分析、组合挖掘业务的问题,促进企业的良性发展。所以在调研阶段要对指标进行重点调研,每一个指标的来源、计算、展示、组合、阈值都需要非常清晰,同时要和业务紧密结合,基于指标体现业务,基于业务分析指标。

3.数据看板

数据看板主要是业务主题和业务指标的展现形式,根据业务主题规划分析展现的看板,并且对每个看板展现的业务指标、组件样式等进行规划和原型设计。一般而言每个分析主题包括三级页面:一级看板页面、二级详情页面、三级报表页面以及数据大屏:

1. 看板页面 :综合展现当前主题下的总体指标,展现内容相对集中,大多为高度汇总的数据,一般内部无联动,但是可以穿透到二级详情页面,并带有过滤条件;

2. 详情页面 :看板页面的指标明细,一般带有树形、列表、查询条件等,可以通过看板页面穿透并接收看板参数;

3. 三级报表 :主要是多维分析和数据报表,同时带有过滤条件,可以通过看板或详情页面穿透并接收参数;

4. 数据大屏 :在进行分析主题建设时,为了加强建设效果,一般都会为每一个主题建设一个数据大屏,数据大屏不具备数据穿透能力,但是数据大屏的显示效果会更加酷炫,同时实时性相对较高,可以直接展现实时数据变化。

数据看板的调研不同于业务调研,需要先输出原型,由于客户尤其是业务人员对数据看板没有清晰的概念,所有需要根据业务主题、业务指标进行原型设计,设计数据看板的展现形式,根据展现形式让客户选择或者提出调整意见。

数据治理

数据治理的调研主要是对基础数据进行调研,在数据治理分析项目中,基础数据的主要作用是构建数仓的维表,同时支撑数据分析的指标计算、展现维度处理,根据具体业务需要,基础数据也可能支撑数据治理集成, 实现基础数据的同步分发,以及业务集成等需求

1.基础数据

首先要明确基础数据的范围,即确认基础数据类别,在前期准备时可以根据客户业务确认一些常用的基础数据,如 组织、岗位、人员、客户、供应商、物料 等,在调研过程中再根据实际业务以及业务主题、指标、分析的需要进行基础数据类别的确认。

在完成基础数据类别确认后,根据数据类别对基础数据的属性字段、参考数据、来源系统、集成方式的内容进行沟通确认,一般而言这部分调研需要和信息中心调研,如果信息中心不了解相关内容,则需要协调系统厂商进行调研确认。

另外,如果需要通过基础数据进行数据治理,实现基础数据的集成与统一,还需要对基础数据进行深入调研,确认如各类基础数据的编码规则、检验规则、同步接口、分发系统、接收接口等内容,以满足通过主数据平台进行数据采集、管理、维护、分发、启用、禁用等全生命周期管理的需求。

2.标准规范

对于基础数据,由于会作为数仓维表,为跨系统业务数据整合提供关联维度,所以必须保证基础数据的一致性和准确性,所以需要对基础数据建立相应的标准规范,如 管理规范、数据规范、集成规范、清洗规范 等。

在调研前进行准备工作时,准备的标准模板就包含基础数据规范模板,在调研过程中需要基于这些模板对内容进行补充完善,并且形成可落地的统一标准,后续无论何时搭建数据,还是进行基础数据治理,都必须严格遵守相关的标准规范,从而保证数据的准确性。

3.数据集成

数据集成包括两部分, 一是搭建数据的集成,二是基础数据治理的集成 ,二者都有相对标准的集成模式,并且已经通过平台进行了固化,在调研过程中,主要基于集成标准进行确认即可,确认基础数据的建设范围、作用、来源系统、目标系统、集成接口、集成方式等内容。

数据集成的调研一般主要面对信息中心进行调研,通过相关技术和运维人员确认基础数据的内容,但是注意在调研时结合实际业务对于基础数据的即时性要求,如果业务对基础数据即时性要求比较高,则需要在调研和设计过程中考虑数据触发推送的方式,以及可能涉及的系统改造内容。

总结分析

项目调研是项目进场实施的第一阶段 ,也是项目正式开始的标志,项目调研的结果会直接影响后续的蓝图开展和实施落地,所以对于项目人员而言,调研工作至关重要,需要加以重视,并提前做好准备工作。

1.提前准备

在正式进场开展调研之前,项目团队成员需要提前做好资料的准备工作,包括调研计划、调研内容、调研模板等,这些资料可以借鉴其他项目的相关资料模板,结合当前项目的实际情况进行整理。提前准备可以保证在进场后可以直接开展工作,提高工作效率,同时通过提前准备资料把控调研的进度和节奏,提高客户对于实施团队、项目落地的信心。

2.业务理解

数据治理分析项目是一个业务性比较强的项目,需要和众多和系统、业务交互,所以理解业务是一项非常重要的工作,只有理解业务,才能更好地分析业务主题、业务指标,并基于主题和指标进行项目规划,规划项目实施内容、落地效果。在调研阶段一定要做好充足的准备,多听、多看、多问,将产品功能、 实施模式与实际业务相结合 ,加强项目实施的效果。

3.沟通交互

由于前期调研需要反复和客户沟通,需要和技术人员、业务人员、管理人员、高层领导等进行沟通交互,甚至需要和其他业务厂商进行沟通,所以沟通能力是一项非常重要的能力,并且需要掌握沟通技巧,面对不同人员、不同身份做到举止得体、游刃有余,多从客户的角度思考问题,多从业务角度出发,保证沟通效果的同时,也能维护好人际关系。

数据治理分析项目是一个重业务、重集成的项目 ,所以在项目实施过程中需要对平台、业务、系统等进行全面地掌握,并且时刻把握业务的变化,保证实施内容有效落地的同时,也能为客户未来的业务发展带来足够的效益。调研阶段是项目的开始,但也是项目的基础,只有调研工作做到位、做精准,才能保证后续的实施工作顺利推进,最终的建设效果符合客户的预期。

本文由 原创,欢迎转发,仅供学习交流使用,引用请注明出处!谢谢~

关键词:

Copyright   2015-2022 南方礼仪网 版权所有  备案号:粤ICP备18023326号-21   联系邮箱:855 729 8@qq.com