2024-12-14 厉飞雨 阅读(523) 评论(0) 赞(13)

配置前必看 本帖的主要目的是用最平实的语言描述配置的进程，同时在每个章节为可能涉及的知识点提供相应的网站以供读者学习。最重要的还是给我自己留个配置的日记。这样Linux玩崩了也能找到回家的路。 1. 本帖主要涉及的目录一共有三个，如有需要，在根目录`/`下创建`export`目录存放以下三个目录(建议)。(解压目录)`servers`、(软件安装目录)`software...

2024-12-14 厉飞雨 阅读(405) 评论(0) 赞(21)

<p>项目中提交任务至Hadoop中，在Reduce阶段以及Applicationmaster阶段均有提示：</p> <pre><code>java.lang.OutOfMemoryError: GC overhead limit exceeded </code></pre> <h4>解决办法&...

2024-12-14 厉飞雨 阅读(418) 评论(0) 赞(13)

<p>嗨，你好呀，我是<strong>猿java</strong></p> <p>Hadoop是什么？它是如何工作的？为什么 Hadoop可以成为全球最流行的大数据处理框架之一？如何基于 Hadoop搭建一套简单的分布式文件系统？这篇我们一起来来深入讨论。</p> <ol> <li>...

2024-12-14 厉飞雨 阅读(521) 评论(0) 赞(17)

spark 丢失临时文件问题 HHH 日志改造问题 背景 目前 HHH 日志初筛程序由于 RPC 处理时间过长，需要优化改造成 SparkStreaming 处理； 同时，HHH 日志解析后续 DP、DK、DEL 表生成同样适用MR 处理，浪费大量资源，可改造合并到 Spark Streaming 中一块处理。但在合并初筛、HHH 日志解析、DP、DK、DEL 时，碰到...

2024-12-14 厉飞雨 阅读(490) 评论(0) 赞(16)

英文: How to transform in DataFrame in PySpark? 问题 {#heading} ============= 以下是翻译好的部分： 我在 Py Spark 中有一个数据框，其中包含列：id、name、value。 列名应为每个id取值`A、B、C`。value列包含数值。 样本数据框: dat...

2024-12-14 厉飞雨 阅读(342) 评论(0) 赞(20)

英文: Add new timestamp column with interval in dataframe in pyspark 问题 {#heading} ============= 我正在使用PySpark，并且有一个Spark数据框。我想要添加一个新列"timestamp interval"，间隔为15分钟。请问有人可以帮忙吗？ 我的数...

2024-12-14 厉飞雨 阅读(347) 评论(0) 赞(19)

英文: How to get Parquet row groups stats sorted across multiple files with Pyspark? 问题 {#heading} ============= 你可以尝试使用`repartition`方法来改变数据分区的分布，从而达到你想要的效果。例如： df = df.repartition(2...

2024-12-14 厉飞雨 阅读(533) 评论(0) 赞(16)

英文: Write to Iceberg/Glue table from local PySpark session 问题 {#heading} ============= 我想要能够从我的本地机器使用Python操作托管在AWS Glue上的Iceberg表（读/写）。 我已经完成了以下工作： * 创建了一个Iceberg表并在AWS Glue上注册了它 * 使...

2024-12-14 厉飞雨 阅读(464) 评论(0) 赞(23)

英文: How to create a Spark UDF that returns a Tuple or updates two columns at the same time? 问题 {#heading} ============= Here's the modified code with the necessary changes to fix th...

2024-12-14 厉飞雨 阅读(440) 评论(0) 赞(15)

英文: Spark driver stopped unexpectedly (Databricks) 问题 {#heading} ============= 我在Azure Databricks中有一个Python笔记本，其中包含一个包含137次迭代的for循环。对于每次迭代，它使用`dbutils.notebook.run`调用另一个Scala笔记本。Scala笔记...