数据湖到底是神马湖？
发布时间：2021-06-04 19:15:50 所属栏目：大数据 来源：互联网
导读：数据作为一项重要资产，已经成为企业的共识，为了更好地存储数据、挖掘数据，企业需要： 一个超级大的存储库，对数据进行长期的原样的存储; 能够对这些数据高效地管理与集中治理; 需要强大的计算能力满足数据处理需求。 假设有这样一种解决方案：在一种技术
|
数据作为一项重要资产，已经成为企业的共识，为了更好地存储数据、挖掘数据，企业需要：
一个超级大的存储库，对数据进行长期的原样的存储;
能够对这些数据高效地管理与集中治理;
需要强大的计算能力满足数据处理需求。
假设有这样一种解决方案：在一种技术的支持下，企业在快速实现企业中各类的数据集成的同时，也能轻松获取企业外部数据，打通产业链上下游数据，实现生态化数据整合，实现全貌数据分析。同时，数据存储量大，支持批量历史数据和实时流数据的处理，能够实现数据的快速查询和高级分析。
这样的解决方案，你是否会心动?
其实，这个方案，通过数据湖就能实现。
一、什么是数据湖?
数据湖概念的提出，最早是在2010年，由Pentaho的创始人兼CTO詹姆斯·狄克逊(James Dixon)在纽约Hadoop World大会上提出的，就在当时，发布了如今被大数据界广泛使用的开源框架Hadoop的第一个版本。
近两年，随着大数据、云计算等技术的发展与成熟，数据湖再次被人们提起，人们对原始数据的分析、非结构化数据的分析的应用也越来越多，数据湖开始走向企业的实际应用中。
数据湖到底是什么湖？
维基百科对数据湖的定义：数据湖是一个以原始格式(通常是对象块或文件)存储数据的系统或存储库。数据湖通常是所有企业数据的单一存储，用于报告、可视化、高级分析和机器学习等任务。数据湖可以包括来自关系数据库的结构化数据(行和列)、半结构化数据(CSV、日志、XML、JSON)、非结构化数据(电子邮件、文档、pdf)和二进制数据(图像、音频、视频)。
根据网上资料，有一张数据湖的参考架构：
数据湖到底是什么湖？
从架构上来看，数据湖的主要特征有：
数据接入：数据湖提供各种类型数据的接入，包括数据库中的表、各种格式的文件、数据流、ETL工具转换后的数据、应用API获取的数据等等，并自动生成元数据信息。
数据存储：数据湖存储的数据量大、来源多，并且是以原始格式存储，不同于数据仓库的结构化存储方式，数据湖以自然格式存储数据。
数据处理：支持数据的验证、清洗、聚合、权限管理以及数据安全等。
数据应用：除了BI、报表分析、可视化分析、高级分析外，也适用于机器学习。
数据湖本质上是一套先进的企业数据架构。
 （编辑：广安站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
