1.大数据开发之安装篇-7 LZO压缩
2.Hadoop 的源码 Lists.newArrayList和正常的 new ArrayList()有什么区别？
3.Flink系列十九Flink 作业Hadoop 依赖冲突解决NoSuchMethodError
4.如何用ollydbg调试delphi程序
5.Hudi 基础入门篇

大数据开发之安装篇-7 LZO压缩

       在大数据开发中，Hadoop默认不内置LZO压缩功能，源码若需使用，源码需要额外安装和配置。源码以下是源码安装LZO压缩的详细步骤：

       首先，确保你的源码源码编程器移动教程Hadoop版本为hadoop-3.2.2。安装过程分为几个步骤：

       1. 安装LZO压缩工具lzop。源码你可以从某个下载地址获取源代码，源码然后自行编译。源码如果编译过程中遇到错误，源码可能是源码缺少必要的编译工具，需要根据提示安装。源码

       2. 完成lzop编译后，源码编辑lzo.conf文件，源码选品指标源码并在其中添加必要的源码配置。

       3. 接下来，安装Hadoop-LZO。从指定的下载资源获取hadoop-lzo-master，解压后进入目录，使用Maven获取jar文件和lib目录中的.so文件。执行一系列操作后，将生成的native/Linux-amd-/lib文件夹中的内容复制到hadoop的lib/native目录。

       4. 将hadoop-lzo-xxx.jar文件复制到share/hadoop/common/lib目录，确保与Hadoop环境集成。

       5. 配置core-site.xml文件，添加LZO相关的配置项，以便在Hadoop中启用LZO压缩。java源码系列

       对于Hadoop 和版本，也需要重复上述步骤。如果是在集群环境中，可以考虑使用分发方式将配置同步到其他主机。

       最后，记得重启集群以使更改生效。这样，你就成功地在Hadoop中安装并配置了LZO压缩功能。

Hadoop 的 Lists.newArrayList和正常的 new ArrayList()有什么区别？

       这个方法在google工具类中也有，源码内容如下

public static <E> ArrayList<E> newArrayList() {

           return new ArrayList();

       }

       内容是差不多的，唯一的好处就是可以少写泛型的部分。

       这个方法有着丰富的重载：

Lists.newArrayList(E... elements)

       Lists.newArrayList(Iterable<? extends E> elements)

       Lists.newArrayList(Iterator<? extends E> elements)

       还有很多前缀扩展方法：

List<T> exactly = Lists.newArrayListWithCapacity();

       List<T> approx = Lists.newArrayListWithExpectedSize();

       使得函数名变得更有可读性，一眼就看出方法的道歉代码源码作用。

       但是查看源码发现官方的注解里头是这么写的：

       Creates a mutable, empty ArrayList instance (for Java 6 and earlier).

       创建一个可变的空ArrayList（适用于java 6及之前的版本）

       Note for Java 7 and later: this method is now unnecessary and should

       be treated as deprecated. Instead, use the ArrayList constructor

       directly, taking advantage of the new "diamond" syntax.

       针对java 7及之后版本，本方法已不再有必要，应视之为过时的方法。取而代之你可以直接使用ArrayList的构造器，充分利用钻石运算符<>（可自动推断类型）。

Flink系列十九Flink 作业Hadoop 依赖冲突解决NoSuchMethodError

       Flink提交作业时，可能会遇到NoSuchMethodError的异常，这通常与Hadoop依赖冲突有关。查看源码后发现，错误源于2.6.0-cdh5..1版本的FsTracer通过hadoop-common加载了TraceUtils，但实际加载的是2.7.x版本的TraceUtils。因此，问题出在版本兼容性上。csgo otc源码有以下两种解决方案：

       第一类解决方案是手动从jar包中排除冲突依赖。这需要识别冲突的库，并在Flink构建过程中排除它们，确保加载的库版本与期望一致。

       第二类解决方案是通过打包工具精确排除字节码。这可以更细致地控制类加载过程，避免不兼容版本的类被加载。

       深入理解这一问题，有助于我们意识到在使用Flink与外部系统集成时，版本兼容性是一个不容忽视的挑战。为避免此类问题，需要仔细管理依赖库的版本，确保它们之间无冲突。

       解决此类问题的最新方法（适用于所有Flink版本）在上一篇文章中已有详细描述，参见Flink系列十八HDFS_DELEGATION_TOKEN过期的问题解决汇总。

如何用ollydbg调试delphi程序

       ä¸‹è½½å¯¹åº”hadoop源代码，hadoop-2.5.5-src.tar.gz解压，hadoop-2.5.2-src\hadoop-common-project\hadoop-common\src\main\java\org\apache\hadoop\io\nativeio下NativeIO.java

       å¤åˆ¶åˆ°å¯¹åº”çš„Eclipse的project，然后修改public static boolean access(String path, AccessRight desiredAccess)方法返回值为return true！

Hudi 基础入门篇

       为了深入理解Hudi这一湖仓一体的流式数据湖平台，本文将提供一个基础入门的步骤指南，从环境准备到编译与测试，再到实际操作。

       在开始之前，首先需要准备一个大数据环境。第一步是安装Maven，这是构建和管理Hudi项目的关键工具。在CentOS 7.7版本的位操作系统上，通过下载并解压Maven软件包，然后配置系统环境变量，即可完成Maven的安装。确保使用的Maven版本为3.5.4，仓库目录命名为m2。

       接下来，需要下载Hudi的源码包。通过访问Apache软件归档目录并使用wget命令下载Hudi 0.8版本的源码包。下载完成后，按照源码包的说明进行编译。

       在编译过程中，将需要添加Maven镜像以确保所有依赖能够正确获取。完成编译后，进入$HUDI_HOME/hudi-cli目录并执行hudi-cli脚本。如果此脚本能够正常运行，说明编译成功。

       为了构建一个完整的数据湖环境，需要安装HDFS。从解压软件包开始，配置环境变量，设置bin和sbin目录下的脚本与etc/hadoop下的配置文件。确保正确配置HADOOP_*环境变量，以确保Hadoop的各个组件可以正常运行。

       下一步，需要配置hadoop-env.sh文件，以及核心配置文件core-site.xml和HDFS配置文件hdfs-site.xml。这些配置文件中包含了Hadoop Common模块的公共属性、HDFS分布式文件系统相关的属性，以及集群的节点列表。通过执行格式化HDFS和启动HDFS集群的命令，可以确保HDFS服务正常运行。

       总结而言，Hudi被广泛应用于国内的大公司中，用于构建数据湖并整合大数据仓库，形成湖仓一体化的平台。这使得数据处理更加高效和灵活。

       为了更好地学习Hudi，推荐基于0.9.0版本的资料，从数据湖的概念出发，深入理解如何集成Spark和Flink，并通过实际需求案例来掌握Hudi的使用。这些资料将引导用户从基础到深入，逐步掌握Hudi的核心功能和应用场景。