一种用于管理数据资源的方法和系统与流程

文档序号:37218684发布日期:2024-03-05 15:12阅读:17来源:国知局

本发明涉及数据治理领域,具体涉及一种用于管理数据资源的方法和系统。


背景技术:

1、大数据时代是一个将数据当作核心资产的时代,数据呈现出战略化、资产化和社会化等特征。企业和政府部门的it系统经历了数据量高速膨胀的时期,这些海量的、分散在不同角落的数据导致了数据资源利用的复杂性和管理的高难度,无法从统一的业务视角去概览整个企业或政府部门内部的数据信息。系统与系统之间的关系,标准数据从哪里获取无从知晓,数据质量难以保障。由于系统分散,数据标准缺乏结构化的管理,致使无法提供全景检索;同时源数据变化造成数据混乱,各系统间无法快速定义数据问题,无法有效监控和改善数据质量。

2、现有的一种大数据平台及其构建方法仍具有以下缺陷:

3、1.保障数据跨系统融通以提升数据价值:传统的方法和系统在实现数据跨系统融通方面存在诸多弊端。首先,它们往往依赖人工操作,导致效率低下并容易出错。其次,传统方法缺乏自动化能力,难以快速、准确地处理大规模的数据转换和比对工作。此外,传统方法往往灵活性不足,难以适应不同系统和数据库之间的数据共享需求。最后,传统方法还存在数据安全问题,如数据泄露和数据篡改等风险。

4、2.提供统一的数据服务能力来提升业务赋能效率:传统的方法和系统在提供统一的数据服务能力和提升业务赋能效率方面存在诸多弊端。首先,数据在传统系统中往往分散且难以整合,导致数据难以共享和利用,限制了业务赋能的效率。其次,传统方法响应速度慢,难以快速响应市场需求,无法及时做出业务决策和调整。此外,传统方法提供的决策支持能力有限,难以充分利用数据来提高业务效率和竞争力。另外,数据的标准化和规范化程度不足也是传统方法的一大弊端,增加了数据使用的门槛,还可能影响数据的质量和准确性。最后,传统方法中涉及到的技术和工具可能形成技术壁垒,增加了技术门槛和学习成本,使得非技术人员难以理解和使用。

5、3.降低技术使用门槛以打破使用技术壁垒:传统的方法和系统在降低技术使用门槛和打破使用技术壁垒方面存在明显弊端。首先,它们通常涉及复杂的技术和工具,导致技术门槛过高,许多业务人员和技术人员难以充分利用数据和信息技术来支持业务发展。其次,传统方法缺乏易用性,使用过程繁琐、复杂,员工难以快速上手。这增加了员工的学习成本和负担,并可能导致他们在理解和应用数据和信息技术时遇到困难。另外,传统方法缺乏灵活性,可能无法适应不同的业务需求和技术环境,使得企业在数据利用和信息技术应用方面难以实现快速迭代和优化。此外,传统方法还存在安全性问题,如数据泄露、系统漏洞等,给企业的数据安全带来风险。


技术实现思路

1、一种用于管理数据资源的方法和系统,具体步骤如下:

2、步骤s1:通过数据开发中心模块实现了数据开发中心模块负责数据批处理、数据流处理、数据互联网采集、及数据建模工作;

3、步骤s2:数据治理中心模块负责数据标准定义、元数据管理、数据指标管理、数据资产维护、数据质量监控工作;

4、步骤s3:数据共享中心模块负责数据ftp服务管理、数据api服务管理、系统消息服务管理、数据服务订阅管理、数据服务状态监控工作;

5、步骤s4:数据分析中心模块负责自定义数据报表设计与呈现、数据在线即席查询可视化、可视化大屏综合管理、数据分析报告自动生成工作;

6、步骤s5:运行管控中心模块负责系统任务工单管理、数据资产全景视图展示、系统运行状态监控、系统多租户管理工作;

7、步骤s6:数据开放运营门户模块负责数据资产指标地图导航、数据目录管理、对外服务目录管理、系统权限设置、系统运行日志审计工作。

8、进一步的,在步骤s1中,数据开发中心模块是一个关键的组成部分,用于支持数据开发和处理工作,它包括数据批处理、数据流处理、数据互联网采集以及数据建模工作,这意味着它能够处理大规模数据的批量操作、实时数据流处理,连接外部数据源进行采集,并支持数据建模工作,此外,该模块还提供任务编排功能,使得数据处理任务可以按照需要进行排列、串联或并行操作,从而实现复杂的数据处理流程,在数据采集方面,该模块支持离线和实时的方式,能够通过多种协议如jdbc、sftp、socket等,对数据进行高效采集,满足不同场景下的数据获取需求,数据开发中心模块旨可以帮助数据开发人员高效地进行数据处理和建模工作。

9、进一步的,在步骤s2中,数据治理中心模块在数据管理方面扮演着重要角色,其职责涵盖了数据标准定义、元数据管理、数据指标管理、数据资产维护以及数据质量监控工作,这一模块支持定义多种类型的数据标准,包括分层、表名、字段等,从而帮助企业规范和统一数据的命名、格式、结构等方面的规范,通过元数据管理,该模块能够有效地记录和跟踪数据的属性、关系和业务含义,为数据资产的维护和利用提供了基础支持,此外,数据指标管理功能使得企业能够定义和监控数据质量指标,实时了解数据质量状况并采取相应的改进措施,综合来看,数据治理中心模块旨在确保数据的一致性、准确性和可信度,为企业数据资产的管理和价值实现提供了重要的支持和保障。

10、进一步的,在步骤s3中,数据共享中心模块是负责数据共享和服务管理的重要组成部分,其职责包括数据ftp服务管理、数据api服务管理、系统消息服务管理、数据服务订阅管理以及数据服务状态监控工作,这意味着该模块能够提供多种数据共享方式,包括ftp服务和api服务,在不同系统之间实现数据的安全传输和共享,此外,通过系统消息服务管理,该模块可以支持系统之间的消息通信和数据交换,满足异步数据交换的需求,数据服务订阅管理功能能够帮助用户管理数据订阅关系,确保数据服务的合规和安全,数据服务状态监控则能够实时监控数据服务的运行状况,保障数据共享服务的稳定性和可靠性。

11、进一步的,在步骤s4中,自定义数据报表设计与呈现功能使得用户可以根据具体的业务需求和分析目的,灵活地设计和定制数据报表,并将数据以直观的方式呈现出来,从而帮助用户更好地理解数据、发现规律和做出决策,同时,数据在线即席查询可视化功能允许用户通过在线工具进行实时的数据查询和分析,并将查询结果以图表等形式直观地展示出来,方便用户快速获取所需信息,可视化大屏综合管理功能为用户提供了对大屏数据展示和管理的支持,能够帮助用户构建和管理各类数据可视化的大屏展示,以及实时监控关键业务指标,这对于企业的实时监控和决策支持具有重要意义,数据分析报告自动生成工作则通过自动化流程生成数据分析报告,节省了用户在报告生成上的时间和精力,并且保证了报告的准确性和一致性。

12、进一步的,在步骤s5中,系统任务工单管理功能允许用户对系统任务和工单进行有效的管理和调度,包括任务的创建、分配、监控和执行情况的反馈,从而确保系统任务的高效运行和及时处理,数据资产全景视图展示功能提供了对企业数据资产的整体概况和详细信息的展示,帮助用户全面了解和把握企业数据资产的情况,从而有针对性地进行数据管理与利用,系统运行状态监控功能通过实时监控系统的运行状态、性能指标和异常情况,及时发现并解决系统运行中的问题,保障系统的稳定性和可靠性,这对于保障业务流程的连续性和稳定性具有重要意义,系统多租户管理工作则负责对系统的多租户环境进行管理,包括租户的划分、资源的分配和权限的控制,以满足不同租户对系统资源和服务的个性化需求,运行管控中心模块旨在为企业提供对信息系统的全面管控和监测,保障系统的稳定性和高效运行,同时满足不同业务场景下的需求,提供灵活多样的接口协议类型,如restful api、webservice、ftp等,以适应企业多样化的业务需求。

13、进一步的,在步骤s6中,数据资产指标地图导航功能允许用户通过地图或其他可视化方式直观地了解数据资产的分布情况和指标信息,帮助用户快速定位和访问所需的数据资产,从而提高数据获取的效率和准确性,数据目录管理功能用于管理和展示企业内部数据资源的目录结构和详细信息,包括数据集的描述、数据格式、数据质量等,帮助用户全面了解和利用企业的数据资产,对外服务目录管理功能则关注企业对外开放的数据服务目录,包括对外提供的接口、服务描述、数据格式等信息,方便外部用户或合作伙伴查找和使用企业开放的数据服务,系统权限设置功能用于对不同用户或角色的权限进行管理和配置,确保数据的安全性和合规性,同时满足不同用户在数据开放与共享过程中的操作需求,系统运行日志审计工作负责记录和审计系统的运行日志,包括用户操作日志、系统事件日志等,以便对系统的操作和异常情况进行监控和跟踪,并为安全问题的排查和解决提供支持,数据开放运营门户模块致力于为企业提供统一的数据开放与共享平台,提供灵活的数据分级分类和自定义管理,以适应不同客户场景下的需求,同时保障数据的安全性和合规性,促进数据资产的价值最大化和可持续运营。

14、与现有技术相比,本发明具有如下好处:

15、1.首先,传统方法能够提供人工操作的可能性,这意味着在面临大规模、复杂的数据转换和比对工作时,企业可以通过人工方式处理数据,以弥补自动化能力的不足。虽然这种方式效率相对较低,但可以保证数据的准确性和质量。其次,传统方法通常具有较好的灵活性和适应性。不同的系统和数据库之间可能存在差异,而传统方法可以根据不同的情况和需求进行调整和优化,以满足不同系统和数据库之间的数据共享需求。此外,传统方法在数据安全性方面可能具有相对优势。虽然传统方法存在数据泄露和数据篡改的风险,但相比完全自动化的系统,它们往往能够提供更多的安全控制和监管机制,例如数据加密、访问控制和审计跟踪等。这些机制有助于降低数据安全风险。总的来说,虽然传统的方法和系统存在一些弊端,如效率低下、缺乏自动化能力、灵活性不足等,但它们在保障数据跨系统融通以提升数据价值方面也具有一些优势。这些优势包括提供人工操作的可能性、较好的灵活性和适应性以及相对较好的数据安全性。然而,为了更好地提升数据价值并克服传统方法的弊端,企业需要不断探索和创新,采用更先进的数据管理和分析工具来提高效率、自动化程度和数据质量。

16、2.首先,传统方法能够实现数据的集中管理和整合。在传统系统中,数据通常存储在各个部门和系统中,难以实现数据的共享和利用。通过采用传统方法,企业可以实现对这些数据的统一管理和整合,从而更好地利用数据,提高业务赋能的效率。其次,传统方法能够快速响应市场需求。在激烈的市场竞争中,快速响应市场变化是至关重要的。传统方法可以提供快速的数据处理和分析能力,帮助企业快速做出业务决策和调整,以抓住市场机遇。此外,传统方法可以提供全面的决策支持能力。数据是决策的重要依据,而传统方法可以提供全面的数据分析和可视化工具,帮助企业做出更明智、更准确的业务决策。另外,传统方法还可以促进数据的标准化和规范化。通过对数据进行标准化和规范化处理,可以降低数据使用门槛,提高数据的质量和准确性,同时也有利于企业内部的协作和数据共享。最后,传统方法中的技术和工具相对较为成熟和稳定。与现代的数据管理和分析工具相比,传统方法中的技术和工具经过时间和实践的检验,具有更高的可靠性和稳定性。这使得非技术人员更容易理解和使用这些工具和技术,从而更好地参与到数据利用和信息技术应用中来。总的来说,虽然传统的方法和系统存在一些弊端,如数据分散、响应速度慢、决策支持能力有限等,但它们在提供统一的数据服务能力和提升业务赋能效率方面也具有一些优势。这些优势包括数据的集中管理和整合、快速响应市场需求、全面的决策支持能力、促进数据的标准化和规范化以及技术和工具的成熟和稳定性。然而,为了更好地提升业务赋能效率和数据服务能力,企业需要不断探索和创新,采用更先进的数据管理和分析工具来提高效率、灵活性和智能化程度。

17、3.首先,传统方法能够提供更清晰的技术路径。在复杂的技术和工具面前,明确的技术路径能够降低使用门槛,帮助业务人员和技术人员更好地理解和应用数据和信息技术。通过提供详细的技术指南、培训课程和操作手册等,传统方法可以帮助员工快速上手并减少学习成本。其次,传统方法注重易用性设计。为了解决使用过程繁琐、复杂的问题,传统方法注重提高产品的易用性,简化操作流程,降低使用难度。这使得员工能够更快速、更轻松地使用数据和信息技术,提高工作效率和减少出错率。此外,传统方法具有较好的灵活性和适应性。不同的业务需求和技术环境可能需要不同的解决方案。传统方法能够根据企业的实际需求提供灵活的解决方案,满足企业在数据利用和信息技术应用方面的个性化需求。这有助于企业在数据利用和信息技术应用方面实现快速迭代和优化。另外,传统方法还注重安全性问题。数据泄露和系统漏洞等安全性问题是企业需要关注的重要方面。传统方法通常会采取一系列安全措施,如数据加密、访问控制、漏洞修复等,来保障企业的数据安全。这有助于降低企业的数据安全风险。总的来说,虽然传统的方法和系统存在一些弊端,如技术门槛过高、缺乏易用性、灵活性不足等,但它们在降低技术使用门槛和打破使用技术壁垒方面也具有一些优势。这些优势包括提供更清晰的技术路径、注重易用性设计、具有较好的灵活性和适应性以及关注安全性问题。然而,为了更好地打破使用技术壁垒和提高数据利用和信息技术应用的效率和效果,企业需要不断探索和创新,采用更先进的数据管理和分析工具来提高效率、用户体验和安全性。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1