Spark脚步文件作用说明

来源:互联网 发布:手机轴承查询软件 编辑:程序博客网 时间:2024/09/21 06:39

 sbin目录下的脚本文件

slaves.sh               在所有定义在${SPARK_CONF_DIR}/slaves的机器上执行一个shell命令spark-config.sh         被其他所有的spark脚本所包含,里面有一些spark的目录结构信息spark-daemon.sh         将一条spark命令变成一个守护进程spark-daemons.sh        在所有定义在${SPARK_CONF_DIR}/slaves的机器上执行一个spark命令spark-executor          运行org.apache.spark.executor.MesosExecutorBackend,具体作用暂时没关注start-all.sh            启动master进程,以及所有定义在${SPARK_CONF_DIR}/slaves的机器上启动Worker进程start-history-server.sh 启动历史记录进程start-master.sh         启动spark master进程start-slave.sh          启动某机器上spark slave进程start-slaves.sh         在所有定义在${SPARK_CONF_DIR}/slaves的机器上启动Worker进程stop-all.sh             在所有定义在${SPARK_CONF_DIR}/slaves的机器上停止Worker进程stop-history-server.sh  停止历史记录进程stop-master.sh          停止spark master进程stop-slaves.sh          停止某机器上spark slave进程

  bin目录下的脚本文件

 这个目录下有很多.cmd的脚步,就不管了,只关注在linux上可能用到的脚步

 

compute-classpath.sh    计算spark的classpath并打印出来load-spark-env.sh       加载spark-env.sh中的配置信息,确保仅会加载一次run-example             运行example需要用到spark-class             内部最终为变成用java运行java类spark-shell             Spark Shell连接spark 集群spark-submit            提交作业到master

 http://www.cnblogs.com/hujunfei/category/563669.html

http://my.oschina.net/heartdong/blog/294509?p=1

0 0
原创粉丝点击