pyspark里如何进行SELECT DISTINCT操作?

  统计/机器学习 Python    浏览次数:832        分享
0

sql里可以SELECT DISTINCT col1, col2 FROM tab

怎么对pyspark的dataframe进行这样的select distinct的操作呢?

 

thatdeep   2018-11-08 10:54



   1个回答 
3


df.select('Col1', 'Col2').distinct()


SofaSofa数据科学社区DS面试题库 DS面经

AlphaCat   2018-11-08 19:51

多谢 - thatdeep   2018-11-22 12:10


  相关主题

如何对pyspark dataframe删除一列   3回答

怎么对pyspark dataframe里的空缺值填值?   1回答

spark ml和spark mllib区别   5回答

如何获取pyspark DataFrame的行数和列数?   1回答

返回pyspark dataframe的行数?   1回答

怎么对pyspark.sql.dataframe按照某一列降序排列?   1回答

怎么对pyspark dataframe更改列名   2回答

pyspark dataframe的collect()方法是什么意思?   2回答

SparkML里线性回归底层是什么原理?   0回答

怎么在pyspark里把dataframe写入csv文件?   1回答

pyspark里unpersist()什么作用?   1回答

怎么将两个pyspark dataframe以串联的形式合并?   1回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!