标签:wc Python 练习 wclist gedit sh conf Spark spark
一、安装Spark
1、检查基础环境hadoop,jdk
echo $JAVA_HOME java -version start-dfs.sh jps hadoop version
2、配置文件
cp ./conf/spark-env.sh.template ./conf/spark-env.sh gedit ./conf/spark-env.sh
3、环境变量
gedit ~/.bashrc
4、试运行Python代码
print('spark') 8*2-5 sc
二、Python编程练习:英文文本的词频统计
1、准备文本文件
cd ~/wc gedit f1.txt
2、读文件、预处理、分词、统计每个单词出现的次数、按词频大小排序
wc.py:
path='/home/hadoop/wc/f1.txt' with open(path) as f: text=f.read() words = text.split() wc={} for word in words: wc[word]=wc.get(word,0)+1 wclist=list(wc.items()) wclist.sort(key=lambda x:x[1],reverse=True) print(wclist)
3、结果写文件
gedit wc.py python3 wc.py
标签:wc,Python,练习,wclist,gedit,sh,conf,Spark,spark 来源: https://www.cnblogs.com/sealion/p/15954051.html
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。