电脑桌面
添加蜗牛文库到电脑桌面
安装后可以在桌面快捷访问

任务117: spark集群环境安装.docVIP免费

任务117: spark集群环境安装.doc_第1页
任务117: spark集群环境安装.doc_第2页
任务117: spark集群环境安装.doc_第3页
我写的每一个字都要认真读,不然就掉坑里3台linux虚拟机,注意注意注意::::最好都是centos,我挑战了一下两个centos一个ubuntu,结果ubuntu上的worker死活起不来。耗费了好长时间才起来,这里是坑,切记切记!!1、安装配置JDK1.82、安装配置scala3、下载spark(注意注意注意,下载和解压的目录位置要一样,如果不这样做,那么要配置sparkhome)wgethttps://mirrors.tuna.tsinghua.edu.cn/apache/spark/spark-2.4.0/spark-2.4.0-bin-hadoop2.7.tgz4、修改主机名,配置hostsvim/etc/sysconfig/network把内容写进去HOSTNAME=spark-master然后重启,生效。重启后输入hostname,检查是否与自己设置的一致vim/etc/hosts格式:ip主机名192.168.1.12spark-master192.168.1.7spark-slave1192.168.1.27spark-slave25、配置用户useraddsparkpasswdspark回车后添加密码6、master做免登陆:要切换到spark用户下执行主机登陆到另外两个从机上需要免密,所以主机配置即可生成秘钥:ssh-keygen-trsa然后一直回车无秘登陆设置:ssh-copy-id-i~/.ssh/id_rsa.pub192.168.1.7以下是所有服务器都要操作,并且都要用sprak用户操作,只有再解决权限问题的时候才到root下7、复制文件cpspark-2.4.0-bin-hadoop2.7/conf/spark-env.sh.templatespark-env.sh创建文件夹修改vimspark-2.4.0-bin-hadoop2.7/conf/spark-env.sh添加exportJAVA_HOME=/home/jdk1.8.0_181这里是你自己的jdkhomeexportSPARK_MASTER_IP=192.168.1.12这里是主机的ip8、复制conf下的slaves文件cpslaves.templateslaves添加/data/service/bigdata/spark/conf/slaves文件添加主机名称:vimslavesspark-masterspark-slave1spark-slave29、启动服务注意关闭防火墙,不然连不上命令:systemctlstopfirewalldcdspark/sbin/start-all.sh启动所有服务这个命令会自动启动在slave配置下的worker服务(如果这里启动有问题,可手动输入一下密码解决,也可以看一下免密配置)start-slave.shspark://主机名称:7077单独启动某一个workerspark://主机名称:7077是master的连接地址启动成功访问master的ip:8080

1、当您付费下载文档后,您只拥有了使用权限,并不意味着购买了版权,文档只能用于自身使用,不得用于其他商业用途(如 [转卖]进行直接盈利或[编辑后售卖]进行间接盈利)。
2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。
3、如文档内容存在违规,或者侵犯商业秘密、侵犯著作权等,请点击“违规举报”。

碎片内容

蜗牛文库的最新文档

二年级数学下册其中检测卷二年级数学下册其中检测卷附答案#期中测试卷.pdf
10.00金币
0下载
二年级数学下册期末质检卷(苏教版)二年级数学下册期末质检卷(苏教版)#期末复习 #期末测试卷 #二年级数学 #二年级数学下册#关注我持续更新小学知识.pdf
10.00金币
0下载
二年级数学下册期末混合运算专项练习二年级数学下册期末混合运算专项练习#二年级#二年级数学下册#关注我持续更新小学知识 #知识分享 #家长收藏孩子受益.pdf
10.00金币
1下载
二年级数学下册年月日三类周期问题解题方法二年级数学下册年月日三类周期问题解题方法#二年级#二年级数学下册#知识分享 #关注我持续更新小学知识 #家长收藏孩子受益.pdf
10.00金币
0下载
二年级数学下册解决问题专项训练二年级数学下册解决问题专项训练#专项训练#解决问题#二年级#二年级数学下册#知识分享.pdf
10.00金币
1下载
二年级数学下册还原问题二年级数学下册还原问题#二年级#二年级数学#关注我持续更新小学知识 #知识分享 #家长收藏孩子受益.pdf
10.00金币
1下载
二年级数学下册第六单元考试卷家长打印出来给孩子测试测试争取拿到高分!#小学二年级试卷分享 #二年级第六单考试数学 #第六单考试#二年级数学下册.pdf
10.00金币
0下载
二年级数学下册必背顺口溜口诀汇总二年级数学下册必背顺口溜口诀汇总#二年级#二年级数学下册 #知识分享 #家长收藏孩子受益 #关注我持续更新小学知识.pdf
10.00金币
0下载
二年级数学下册《重点难点思维题》两大问题解决技巧和方法巧算星期几解决周期问题还原问题强化思维训练老师精心整理家长可以打印出来给孩子练习#家长收藏孩子受益 #学霸秘籍 #思维训练 #二年级 #知识点总结.pdf
10.00金币
0下载
二年级数学下册 必背公式大全寒假提前背一背开学更轻松#二年级 #二年级数学 #二年级数学下册 #寒假充电计划 #公式.pdf
10.00金币
0下载
蜗牛文库+ 关注
实名认证
内容提供者

提供各种专业文档内容

确认删除?
QQ
  • QQ点击这里给我发消息
微信客服
  • 微信客服
回到顶部