数据虚拟化:从“收集”到“连接”的革命

[复制链接]
发表于 : 2020-1-22 17:22:46 最新回复:2020-01-23 15:24:12
827 28

 
1.数据虚拟化的诞生
在这个信息爆炸的时代,大数据已经成为这个时代的关键词之一!随着云计算、物联网、移动计算、智慧城市、人工智能等领域日新月异的发展,人类社会已经步入了信息高速路的行驶轨道,数据量增长迅速,各类应用对大数据处理的需求也发生着变化。

与此同时,久经沙场的数据仓库不再一统江湖,而以流、批处理、AI、数据探索、MapReduce等为代表的应用势头迅猛。数据已经渗透到每一个行业领域,逐渐成为重要的生产要素,这迫使大数据技术必须面对新的现实:数据规模越来越大,数据复杂度越来越高,数据多样性越来越丰富,数据安全要求越来越严格。



 

 
传统的数据集成技术正面临着严峻的挑战:应用各自为政,数仓互不相通,数据存放的格式和数据安全的管理都是烟囱式模型,无法跨业务集成和使用。在这种情况下,数据的可获得性往往通过ETL来实现,这就造成了业务系统集成工作量巨大、安全系数低等多种困境。数据孤岛现象突出,资源无法共享,利用率低。对于客户或者应用而言,亟需数据融合,整合资源,消除数据孤岛,从而满足业务发展需求。



 

数据虚拟化技术应运而生,它可以屏蔽数据的格式、地域、系统等属性,最终为用户呈现出统一的视图。数据虚拟化能够统一管理全域数据,并通过按需读取所需数据的方式,实现数据的快速融合分析和可信管理。数据虚拟化不再是仅做数据的收集器,而是会走向数据连接,消灭数据烟囱。

目前从业界来看,数据虚拟化技术在未来将拥有非常好的前景。Gartner认为在2019年数据虚拟化将节省40%的数据集成成本,并预测到2020年将有50%的组织和企业采用数据虚拟化作为他们的数据集成技术,到2022年这个数据将变为60%Gartner Market Guide for DataVirtualization16 November 2018)。



Source: Gartner (September 2018)



 
根据Gartner的预测,在不远的未来,将会有越来越多的企业通过引入数据虚拟化技术来应对和解决他们的大数据业务需求;与此同时多个研究分析机构或媒体对于数据虚拟化市场也持看好姿态,均预测在未来几年数据虚拟化的市场将呈现非常可观的增长趋势。
4


2.数据虚拟化的价值


传统的大数据分析技术如ETL,更多的是以数据收集为法则,来实现对数据的处理并提供给上层应用进行分析。但在当前大数据领域的新局势之下,客户或者应用需要耗费大量的ETL开销后才能使用数据,同时还要面对ETL本身非常复杂的开发过程。

与传统ETL不同,数据虚拟化旨在实现从“收集”到“连接”的革命,通过连接数据实现数据全域统一管理。数据虚拟化具有为用户提供实时获取全面数据信息的能力,包括数据接入、数据治理、数据分析、数据检索、数据追溯、数据云化等,这些能力使得当下很多行业的复杂数据服务场景都能够被有效地应对并执行。
5


 人们对于海量数据的运用预示着新一波生产率增长和消费者盈余浪潮的到来,因此在提供诸多数据服务能力的同时,数据虚拟化最终将为用户带来一系列的价值:

1.       增加业务用户的生产能力和效率升2倍以上;

2.       减少开发资源,降低开发成本一半以上;

3.       实时响应,更快的数据访问过程,相对ETL提升30%以上;
6


3. HetuEngine——华为数据虚拟化引擎


HetuEngine,是华为打造的数据虚拟化引擎,具备数据虚拟化关键技术能力,能够协助用户打破数据壁垒,消灭数据烟囱,实现全域统一元数据和安全权限的统一管理,支撑端到端数据管理,快速实现数据价值。

7


河图引擎HetuEngine命名源自“大禹得河图后始见清明”;河图寓意是华为做好数据湖基础设施,让“大禹”(合作伙伴和客户)拿着开山斧,定海神针易于挖掘,治理数据,快速释放数据价值。HetuEngine的理念与数据虚拟化技术一脉相承,核心在于连接数据而非仅仅是收集数据,它提供了一个接口、一份数据、一个目录和统一安全等一系列的数据服务能力,

未来,华为将继续围绕支撑端到端数据管理,快速实现数据价值的理念,持续构筑数据虚拟化技术生态,不断为客户提供优秀的数据虚拟化解决方案。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x
  • x
  • 常规:

点评 回复

跳转到指定楼层
godi
godi  版主 发表于 2020-1-22 17:29:44 已赞(0) 赞(0)

干货,学习了!
  • x
  • 常规:

点评 回复

学习的皮皮猪
学习的皮皮猪   发表于 2020-1-22 17:31:15 已赞(0) 赞(0)

感谢分享
  • x
  • 常规:

点评 回复

user_3242713
user_3242713  新锐 发表于 2020-1-22 17:32:30 已赞(0) 赞(0)

学到了学到了
  • x
  • 常规:

点评 回复

fly_with_wind
fly_with_wind   发表于 2020-1-22 17:37:56 已赞(0) 赞(0)

真真的纯干货,学习到了。
得河图者all in!
  • x
  • 常规:

点评 回复

Toymax
Toymax   发表于 2020-1-22 17:55:42 已赞(0) 赞(0)

分析透彻,理解深刻,受教了!数据虚拟化:从“收集”到“连接”的革命-3206724-1
  • x
  • 常规:

点评 回复

汤磊
汤磊   发表于 2020-1-22 18:54:20 已赞(0) 赞(0)

挺不错的文章,值得学习
  • x
  • 常规:

点评 回复

SSSDATA
SSSDATA   发表于 2020-1-23 10:06:39 已赞(0) 赞(0)

原来河图是这个
  • x
  • 常规:

点评 回复

m00355150
m00355150   发表于 2020-1-23 10:17:31 已赞(0) 赞(0)

赞!做好做扎实,河图出洛书现!
  • x
  • 常规:

点评 回复

d00358191
d00358191   发表于 2020-1-23 10:18:55 已赞(0) 赞(0)

河图出,洛书现
  • x
  • 常规:

点评 回复

123
返回列表
发表回复
您需要登录后才可以回帖 登录 | 注册

警告 内容安全提示:尊敬的用户您好,为了保障您、社区及第三方的合法权益,请勿发布可能给各方带来法律风险的内容,包括但不限于政治敏感内容,涉黄赌毒内容,泄露、侵犯他人商业秘密的内容,侵犯他人商标、版本、专利等知识产权的内容,侵犯个人隐私的内容等。也请勿向他人共享您的账号及密码,通过您的账号执行的所有操作,将视同您本人的行为,由您本人承担操作后果。详情请参看“隐私声明
如果附件按钮无法使用,请将Adobe Flash Player 更新到最新版本!
登录参与交流分享

登录参与交流分享

登录