博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
spark shell的学习
阅读量:7078 次
发布时间:2019-06-28

本文共 1599 字,大约阅读时间需要 5 分钟。

hot3.png

spark shell的学习 博客分类: spark

Spark的交互式脚本是一种学习API的简单途径,也是分析数据集交互的有力工具。

Spark抽象的分布式集群空间叫做Resilient Distributed Dataset (RDD)弹性数据集。

其中,RDD有两种创建方式:

(1)、从Hadoop的文件系统输入(例如HDFS);

(2)、有其他已存在的RDD转换得到新的RDD;

下面进行简单的测试:

 

1. 进入SPARK_HOME/bin下运行命令:

 

[java] 
 
  1. $./spark-shell  

2. 利用HDFS上的一个文本文件创建一个新RDD:

 

 

[java] 
 
  1. scala> var textFile = sc.textFile("hdfs://localhost:50040/input/WordCount/text1");  
[java] 
 
  1. textFile: org.apache.spark.rdd.RDD[String] = MappedRDD[1] at textFile at <console>:12  

3. RDD有两种类型的操作 ,分别是Action(返回values)和Transformations(返回一个新的RDD)

 

(1)Action相当于执行一个动作,会返回一个结果:

 

[java] 
 
  1. scala> textFile.count() // RDD中有多少行  

 

 

输出结果2:

 

[java] 
 
  1. 14/11/11 22:59:07 INFO spark.SparkContext: Job finished: count at <console>:15, took 5.654325469 s  
  2. res1: Long = 2  

 

 

 

[java] 
 
  1. scala> textFile.first() // RDD第一行的内容  

结果输出:

 

 

[java] 
 
  1. 14/11/11 23:01:25 INFO spark.SparkContext: Job finished: first at <console>:15, took 0.049004829 s  
  2. res3: String = hello world  

 

(2)Transformation相当于一个转换,会将一个RDD转换,并返回一个新的RDD:

 

[java] 
 
  1. scala> textFile.filter(line => line.contains("hello")).count() // 有多少行含有hello  

结果输出:

 

 

[java] 
 
  1. 14/11/11 23:06:33 INFO spark.SparkContext: Job finished: count at <console>:15, took 0.867975549 s  
  2. res4: Long = 2  

4. spark shell的WordCount

 

 

[java] 
 
  1. scala> val file = sc.textFile("hdfs://localhost:50040/input")  
  2. scala>  val count = file.flatMap(line => line.split(" ")).map(word => (word, 1)).reduceByKey(_+_)  
  3. scala> count.collect()  

 

输出结果:

 

[java] 
 
  1. 14/11/11 23:11:46 INFO spark.SparkContext: Job finished: collect at <console>:17, took 1.624248037 s  

 

http://blog.csdn.net/yeruby/article/details/41043039

转载于:https://my.oschina.net/xiaominmin/blog/1597255

你可能感兴趣的文章
大型网站技术架构(六)网站的伸缩性架构
查看>>
MyBatis学习总结(四)——解决字段名与实体类属性名不相同的冲突
查看>>
Linux发生问题怎么处理啊?建议流程是这样...[鸟哥的Linux私房菜]
查看>>
Mysql学习总结(6)——MySql之ALTER命令用法详细解读
查看>>
大型网站技术架构(五)网站高可用架构
查看>>
SVN学习总结(2)——SVN冲突解决
查看>>
MySQL基本
查看>>
<org manual>翻译--3.2 列的宽度与对齐
查看>>
我的友情链接
查看>>
《未测试》如何使用自己已经编译过的lamp安装cacti nagios zabbix
查看>>
SCVMM 2012 R2之为云分配虚拟机
查看>>
中国企业的等级制度
查看>>
pfSense安装和配置pfBlockerNg
查看>>
Ubuntu 14.04 X64 下安装Appcelerator Titanium Studio。
查看>>
R.java was modified manually! Reverting to generated version!(R文件丢失异常原因汇总)
查看>>
ASP.NET MVC Model验证(一)
查看>>
opensuse12.1安装VirtualBox
查看>>
获取系统特殊文件
查看>>
C语言中的for命令
查看>>
Hash算法
查看>>