Spark脚步文件作用说明
来源:互联网 发布:手机轴承查询软件 编辑:程序博客网 时间:2024/09/21 06:39
sbin目录下的脚本文件
slaves.sh 在所有定义在${SPARK_CONF_DIR}/slaves的机器上执行一个shell命令spark-config.sh 被其他所有的spark脚本所包含,里面有一些spark的目录结构信息spark-daemon.sh 将一条spark命令变成一个守护进程spark-daemons.sh 在所有定义在${SPARK_CONF_DIR}/slaves的机器上执行一个spark命令spark-executor 运行org.apache.spark.executor.MesosExecutorBackend,具体作用暂时没关注start-all.sh 启动master进程,以及所有定义在${SPARK_CONF_DIR}/slaves的机器上启动Worker进程start-history-server.sh 启动历史记录进程start-master.sh 启动spark master进程start-slave.sh 启动某机器上spark slave进程start-slaves.sh 在所有定义在${SPARK_CONF_DIR}/slaves的机器上启动Worker进程stop-all.sh 在所有定义在${SPARK_CONF_DIR}/slaves的机器上停止Worker进程stop-history-server.sh 停止历史记录进程stop-master.sh 停止spark master进程stop-slaves.sh 停止某机器上spark slave进程
bin目录下的脚本文件
这个目录下有很多.cmd的脚步,就不管了,只关注在linux上可能用到的脚步
compute-classpath.sh 计算spark的classpath并打印出来load-spark-env.sh 加载spark-env.sh中的配置信息,确保仅会加载一次run-example 运行example需要用到spark-class 内部最终为变成用java运行java类spark-shell Spark Shell连接spark 集群spark-submit 提交作业到master
http://www.cnblogs.com/hujunfei/category/563669.html
http://my.oschina.net/heartdong/blog/294509?p=1
0 0
- Spark脚步文件作用说明
- Oracle密码文件的作用和说明
- 安卓build.prop文件作用说明
- PC Lint 用法说明,文件的作用
- linux开机自启的脚步文件
- shell 脚步批量转换文件编码
- ECSHOP各目录结构及文件作用说明
- SQLserver 2005文件和文件组的作用说明
- Oracle 11gR2 Patchset 不同文件作用 说明
- linux下各文件和文件夹作用的详细说明
- Oracle 11gR2 Patchset 不同文件作用 说明
- Oracle 11gR2 补丁 不同文件作用 说明
- Oracle 11gR2 Patchset 不同文件作用 说明
- linux 头文件作用 功能说明!!!
- linux 头文件作用 功能说明!!!
- 调用dcrf32.dll头文件,函数的作用说明
- linux基本权限--权限对文件,目录作用说明
- discuz各个目录与文件的作用说明
- HYSBZ 1012 最大数maxnumber
- Mastering the game of Go with deep neural networks and tree search 中文版来了
- Spark 伪分布式 & 全分布式 安装指南
- Spark 独立部署模式
- bzoj2150部落战争 最小路径覆盖
- Spark脚步文件作用说明
- static使用小结
- MySQL5日期类型DATETIME和TIMESTAMP相关问题详解
- 毕业设计第4-5周
- leetcode-6 ZigZag Conversion
- Commons BeanUtils 中对Map的操作
- 优先使用TimeUnit类中的sleep()
- [Mac]Homebrew — OS X 的套件管理員
- log4j打印类路径,及行号