大数据的三大技术支撑要素：分布式处理技术、云技术、存储技术。分布式处理技术 分布式处理系统可以将不同地点的或具有不同功能的或拥有不同数据的多台计算机用通信网络连接起来，在控制系统的统一管理控制下，协调地完成信息处理任务。比如Hadoop。
混合处理系统：Apache Flink - 特点：可处理批处理和流处理任务，提供低延迟和高吞吐率。- 优势：流处理为先的方法，自行管理内存，支持多阶段并行执行。- 局限：项目较新，大规模部署经验有限，对严格的一次处理语义有较高需求。总结：选择合适的处理架构需考虑数据状态、处理时间需求和结果要求。
Lambda架构算是大数据系统里面举足轻重的架构，大多数架构基本都是Lambda架构或者基于其变种的架构。Lambda的数据通道分为两条分支：实时流和离线。实时流依照流式架构，保障了其实时性，而离线则以批处理方式为主，保障了最终一致性。
在传统大数据架构的基础上，直接拔掉了批处理，数据全程以流的形式处理，所以在数据接入端没有了ETL，转而替换为数据通道。优点：没有臃肿的ETL过程，数据的实效性非常高。缺点：流式架构不存在批处理，对于数据的重播和历史统计无法很好的支撑。对于离线分析仅仅支撑窗口之内的分析。
数据源 所有大数据架构都从源代码开始。这可以包含来源于数据库的数据、来自实时源（如物联网设备）的数据，及其从应用程序（如Windows日志）生成的静态文件。实时消息接收 假如有实时源，则需要在架构中构建一种机制来摄入数据。数据存储 公司需要存储将通过大数据架构处理的数据。
1、数据源 所有大数据架构都从源代码开始。这可以包含来源于数据库的数据、来自实时源（如物联网设备）的数据，及其从应用程序（如Windows日志）生成的静态文件。实时消息接收 假如有实时源，则需要在架构中构建一种机制来摄入数据。数据存储 公司需要存储将通过大数据架构处理的数据。
2、事务使用：这指的是数据的收集方式。互联网收集数据相对简单，通过网页、App等就能收集到数据，比如许多银行现在都有自己的App。更深层次的还能收集到用户的行为数据，能切分出许多维度，进行细致的分析。但对于涉及线下的行业，数据收集就需要借助各类事务体系去完成。
3、大数据的三大技术支撑要素：分布式处理技术、云技术、存储技术。分布式处理技术 分布式处理系统可以将不同地点的或具有不同功能的或拥有不同数据的多台计算机用通信网络连接起来，在控制系统的统一管理控制下，协调地完成信息处理任务。比如Hadoop。
4、分布式处理技术 分布式处理技术允许将多台计算机通过通信网络连接起来，这些计算机可以在不同地点、具有不同功能或存储不同数据。在统一的管理控制下，这些系统能够协同工作，完成信息处理任务。例如，Hadoop就是一个分布式处理框架。
1、分布式处理技术 分布式处理技术允许将多台计算机通过通信网络连接起来，这些计算机可以在不同地点、具有不同功能或存储不同数据。在统一的管理控制下，这些系统能够协同工作，完成信息处理任务。例如，Hadoop就是一个分布式处理框架。
2、云基础架构，如Kubernetes（K8s），则简化了平台的部署与运维。
3、数据存储：指的便是数据仓库的建设了，简略来说能够分为事务数据层（DW）、指标层、维度层、汇总层（DWA）。数据同享层：表明在数据仓库与事务体系间提供数据同享服务。Web Service和Web API，代表的是一种数据间的衔接方法，还有一些其他衔接方法，能够依照自己的情况来确定。
4、Lambda架构 大多数架构基本都是Lambda架构或者基于其变种的架构。Lambda的数据通道分为两条分支：实时流和离线。优点：既有实时又有离线，对于数据分析场景涵盖的非常到位。缺点：离线层和实时流虽然面临的场景不相同，但是其内部处理的逻辑却是相同，因此有大量荣誉和重复的模块存在。
5、如图所示，整体架构中一共分为5个部分，分别是数据同步部分，离线数仓、实时数据仓库、元数据管理、数据监控，只有五部分完善化，才能做到数据高效同步、数据易于使用、数据问题及时发现，达到需求快速迭代和提高用户提要的目的，接下来将简要介绍模块内容。
Hadoop核心架构，分为四个模块：Hadoop通用：提供Hadoop模块所需要的Java类库和工具。Hadoop YARN：提供任务调度和集群资源管理功能。Hadoop HDFS：分布式文件系统，提供高吞吐量的应用程序数据访问方式。Hadoop MapReduce：大数据离线计算引擎，用于大规模数据集的并行处理。
MapReduce为大数据场景下数据计算提供了一套通用框架，用于处理TB级别数据的统计、排序等问题（单机内存无法处理）。用户需自己实现mapper和reducer方法，仅可用于离线批量计算，实时性不高。Spark作为更新一代的分布式计算引擎，更多的利用内存存储中间结果，减少了磁盘存储的IO开销，计算性能更高。
Hadoop是一个开源框架，用于以分布式方式存储和处理大数据。Hadoop的核心组件是 - HDFS（Hadoop分布式文件系统） - HDFS是Hadoop的基本存储系统。在商用硬件集群上运行的大型数据文件存储在HDFS中。即使硬件出现故障，它也能以可靠的方式存储数据。Hadoop MapReduce - MapReduce是负责数据处理的Hadoop层。
