2024-12-14 厉飞雨 阅读(410) 评论(0) 赞(19)

英文: How to get Parquet row groups stats sorted across multiple files with Pyspark? 问题 {#heading} ============= 你可以尝试使用`repartition`方法来改变数据分区的分布，从而达到你想要的效果。例如： df = df.repartition(2...

2024-12-14 厉飞雨 阅读(512) 评论(0) 赞(24)

英文: How to create a Spark UDF that returns a Tuple or updates two columns at the same time? 问题 {#heading} ============= Here's the modified code with the necessary changes to fix th...

2024-12-14 厉飞雨 阅读(581) 评论(0) 赞(16)

英文: Write to Iceberg/Glue table from local PySpark session 问题 {#heading} ============= 我想要能够从我的本地机器使用Python操作托管在AWS Glue上的Iceberg表（读/写）。 我已经完成了以下工作： * 创建了一个Iceberg表并在AWS Glue上注册了它 * 使...

2024-12-14 厉飞雨 阅读(448) 评论(0) 赞(20)

<p>英文:</p> <p>PySpark using OR operator in filter</p> <h1>问题 {#heading}</h1> <p>这个过滤器有效：</p> <p><code>raw_df_2 = raw_df_1.filter(a...

2024-12-14 厉飞雨 阅读(504) 评论(0) 赞(15)

英文: Spark driver stopped unexpectedly (Databricks) 问题 {#heading} ============= 我在Azure Databricks中有一个Python笔记本，其中包含一个包含137次迭代的for循环。对于每次迭代，它使用`dbutils.notebook.run`调用另一个Scala笔记本。Scala笔记...

2024-12-14 厉飞雨 阅读(401) 评论(0) 赞(13)

<p>英文:</p> <p>How does reduceByKey() in pyspark knows which column is key and which one is value?</p> <h1>问题 {#heading}</h1> <p>我是一个对Pyspark新手，正在阅读&...

2024-12-14 厉飞雨 阅读(2034) 评论(0) 赞(15)

<blockquote> <p>死非生的对立面，而作为生的一部分永存。------《挪威的森林》</p> </blockquote> <p>✨? 2000 多种方法为您的产品增添设计风格、用户满意度和奇思妙想。</p> <p><a href="https://github.com...

2024-12-14 厉飞雨 阅读(503) 评论(0) 赞(15)

<p>为了防止不必要的报错，部署之前请务必从开头开始看，切勿跳过其中一个部署模式，因为每一个部署模式都是从上一个模式的配置上进行的</p> <h2>环境说明 {#环境说明}</h2> <ul> <li><code>hadoop-2.7.5</code></li> <...

2024-12-13 厉飞雨 阅读(356) 评论(0) 赞(12)

Git介绍 {#Git介绍} -------------- * Git是分布式版本控制系统 * 集中式VS分布式，SVN VS Git 1. SVN和Git主要的区别在于历史版本维护的位置 2. Git本地仓库包含代码库还有历史库，在本地的环境开发就可以记录历史而SVN的历史库存在于中央仓库，每次对比与提交代码都必须连接到中央仓库才能进行。 3. 这样的好处在于：...

2024-12-13 厉飞雨 阅读(440) 评论(0) 赞(11)

通过命令修改 {#%E9%80%9A%E8%BF%87%E5%91%BD%E4%BB%A4%E4%BF%AE%E6%94%B9} ---------------------------------------------------------------- > 配置全局的用户名（--global此电脑所有git仓库都会使用该配置） ```shell git con...