Job

在Linux下部署kettle的Job

こ雲淡風輕ζ 提交于 2021-02-12 03:20:16
关于如何用kettle创建job以及如何部署kettle到linux上,我就不细说了,大家应该都会,下面重点说一下,如何让job执行起来先将创建好的脚本上传到kettle指定目录下面,创建调用job执行的脚本文件, export JAVA_HOME=/usr/java/jre1.6.0_23 export PATH=$JAVA_HOME/bin:$PATH export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar /opt/pentaho/data-integration/kitchen.sh -file=/opt/pentaho/KettleJob/test.kjb 然后赋权 chmod +x /opt/pentaho/KettleJob/test.sh 执行 ./opt/pentaho/KettleJob/test.sh 执行过程可以控制台会输出具体信息最后,大家通过使用crontab命令添加定时任务,具体就不多说了。 本文出自 “ 乔磊的博客 学习 进步 ” 博客,请务必保留此出处 http://sucre.blog.51cto.com/1084905/1408826 来源: oschina 链接: https://my.oschina.net/u/79159/blog/296359

SaltStack Job 管理 及 saltutil.signal_job 模块的问题

我的未来我决定 提交于 2020-05-07 10:59:26
原文链接: http://www.huangdc.com/66 1、什么是 Job 在salt 中,每次执行一次salt命令就会产生一个Job ,Salt 实时管理的任务都是作为Job来执行的;在maste执行一次salt 命令,minion 就会产生一个唯一的 job id ,job id 可以在minion 机器 /var/cache/salt/minion/proc/ 查看 ,我们可以通过 job id 获取到job 的执行状态等信息 例如,测试环境如下: master : 192.168.202.72 minion : 192.168.201.37 我们在master 执行一个命令: salt '192.168.201.37' cmd.run "sh /root/dc.sh" ## minion 的脚本:(为方便测试及查看,dc.sh 脚本做了 sleep 50s) [root@localhost ~]# cat /root/dc.sh #!/bin/sh i=1 while (($i<50)) ; do echo "$i" let ++i sleep 1 done ## master 执行: [root@local200-72 ~]# salt '192.168.201.37' cmd.run "sh /root/dc.sh" ## minion 查看: [root

SGE中将job投递到指定的节点

折月煮酒 提交于 2020-01-08 21:46:24
【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>> 在Sun Grid Engine 中将job投递到指定的节点有两种方式: 1、 qsub -q qname@hostname xxxxxx 2、qsub -l hostname=xxxxx -cwd -b y sleep 20 经测试,以上两种方式在 SGE中都可以用, 不同的环境可能会有差别。 来源: oschina 链接: https://my.oschina.net/u/1172578/blog/807146

Play框架拾遗之五:其他知识点

不羁岁月 提交于 2019-12-10 08:57:20
1、Job异步处理 Job可以有结果返回: package jobs; import play.jobs.*; public class MyJob extends Job<String> { public String doJobWithResult() { // 执行一些业务逻辑 return result; } } Job不仅可以设置启动调用(用@OnApplicationStart),还停止时调用: import play.jobs.*; @OnApplicationStop public class Bootstrap extends Job { public void doJob() { Fixture.deleteAll(); } } 如果希望Web应用启动后,能够在执行Bootstrap Job的同时,又能很快地处理到来的请求,可以为@OnApplicationStart注解添加async=true属性:@OnApplicationStart(async=true)。这样应用程序开启后,Bootstrap Job就会作为后台程序异步执行了。不仅如此,所有的异步Job(async=true)也会在Web应用开启之后同时运行。 @OnApplicationStart(async=true) public class Bootstrap extends Job {

spark 查看 job history 日志

亡梦爱人 提交于 2019-12-01 11:34:37
SPARK_HOME/conf 下: spark-defaults.conf 增加如下内容 spark.eventLog.enabled true spark.eventLog.dir hdfs://master:8020/var/log/spark spark.eventLog.compress true spark-env.sh 增加如下内容 export SPARK_HISTORY_OPTS=”-Dspark.history.ui.port=18080 -Dspark.history.retainedApplications=3 -Dspark.history.fs.logDirectory=hdfs:/master.et2:8020/var/log/spark” 启动start-history-server.sh SPARK_HOME/conf 下: 执行 ./start-history-server.sh spark job history web: master:18080 这样在spark任务运行完成之后,就可以通过web页面查看日志了 history server相关的配置参数描述 spark.history.updateInterval   默认值:10   以秒为单位,更新日志相关信息的时间间隔 spark.history

spark1.2.0版本搭建伪分布式环境

时光毁灭记忆、已成空白 提交于 2019-12-01 02:58:17
、下载scala2.11.5版本,下载地址为: http://www.scala-lang.org/download/2.11.5.html 2、安装和配置scala: 第一步:上传scala安装包 并解压 第二步 配置SCALA_HOME环境变量到bash_profile 第三步 source 使配置环境变量生效: 第四步 验证scala: 3、下载spark 1.2.0,具体下载地址: http://spark.apache.org/downloads.html 4、安装和配置spark: 第一步 解压spark: 第二步 配置SPARK_HOME环境变量: 第三步 使用source生效: 进入spark的conf目录: 第四步 修改slaves文件,首先打开该文件: slaves修改后: 第五步 配置spark-env.sh 首先把spark-env.sh.template拷贝到spark-env.sh: 然后 打开“spark-env.sh”文件: spark-env.sh文件修改后: 5、启动spark伪分布式帮查看信息: 第一步 先保证hadoop集群或者伪分布式启动成功,使用jps看下进程信息: 如果没有启动,进入hadoop的sbin目录执行 ./start-all.sh 第二步 启动spark: 进入spark的sbin目录下执行“start-all.sh”:

Oracle 使用DBMS_SCHEDULER创建定时任务

喜欢而已 提交于 2019-11-27 13:03:12
在Oracle10g里面,已经不赞成使用DBMS_JOB,推荐使用DBMS_SCHEDULER,它的健壮为调度提供更好的规划和结构。下面我只简单写一个例子。 begin DBMS_SCHEDULER.CREATE_PROGRAM( program_name => 'guozhw', program_type => 'STORED_PROCEDURE', program_action => 'guozhwTest', number_of_arguments => 0, enabled => true, comments => '定时调度测试' ); end; program_name:program的名字 program_type:program的类型。STORED_PROCEDURE存储过程 program_action:要执行的程序。guozhwTest 存储过程的名字 举例如下: BEGIN DBMS_SCHEDULER.CREATE_PROGRAM ( program_name => 'PRM_CREATEDUNDATA', program_action => 'PKG_SCHEDULER.CREATEDUNDATA', program_type => 'STORED_PROCEDURE', enabled => FALSE, number_of_arguments => 5

#研发中间件介绍#定时任务调度与管理JobCenter

会有一股神秘感。 提交于 2019-11-27 00:32:58
郑昀 最后更新于2014/11/11 关键词: 定时任务 、调度、监控报警、Job、crontab、Java 本文档适用人员:研发员工 没有JobCenter时我们要面对的: 电商业务链条很长,业务逻辑也较为复杂,需要成百上千种定时任务。窝窝的大多数定时任务其实调用的是本地或远端 Java/PHP/Python Web Service。如果没有一个统一的调度和报警,在集群环境下,我们会: 不知道哪一个定时任务执行失败或超时,不见得能第一时间知道——直到最终用户投诉反馈过来; 要求每一个定时任务输出统一格式的日志供监控系统解析? 对每一位定时任务维护者提出高要求?这不是我们的解题思路。 不知道哪一个定时任务没配好瞎跑; 比如忘记配成开机自启动; 比如曾经线上环境B与环境A并存导致定时任务互相争抢; 不知道现在线上跑了多少个定时任务,都是干什么的,负责人都是谁; 有些定时任务非常重要,不能单点,但又不能同时起多个 crontab,只能采取 master/slave 模式跑——比如退款处理。 什么是JobCenter? 窝窝的定时任务管理和调度平台,一个实用工具, 它是一个由 任务管理、任务调度、任务监控报警以及宿主任务执行(注意不再是 crontab了) 这四部分组成的,分布式多任务协调系统 。 2012年时,我看到暴风影音的马晨开源了一个 CronHub(时间调度系统)项目 (

ORACLE中JOB的使用

蹲街弑〆低调 提交于 2019-11-26 14:42:32
JOB:和JAVA中的job类似,都是定时任务。 首先,建表: -- Create table create table MYDAILYDK ( ID NUMBER(19) not null, NAME VARCHAR2(255), DKTIME DATE ) tablespace NG_DATA pctfree 10 initrans 1 maxtrans 255 storage ( initial 64K next 1M minextents 1 maxextents unlimited ); 然后,建个存储过程,用来向表里插入数据: create or replace procedure mbproc_mydailydk as begin insert into mydailydk(id,name,dktime) values(s_madailydk.nextval,'小明',sysdate); commit; end; JOB参数简介: /** job参数是由Submit()过程返回的binary_ineger。这个值用来唯一标识一个工作。 what参数是将被执行的PL/SQL代码块。 next_date参数指识何时将运行这个工作。 interval参数何时这个工作将被重执行。 no_parse参数指示此工作在提交时或执行时是否应进行语法分析——TRUE 指示此PL

Oracle Job 定时任务执行Sql

淺唱寂寞╮ 提交于 2019-11-26 14:41:58
第一步: 创建一个存储过程 1:比如创建一个存储过程名:PROC_DAYCUT_CTRL_UPDATE plSql中执行SQL命令: SELECT * FROM dba_Jobs a WHERE a.WHAT = 'PROC_DAYCUT_CTRL_UPDATE;'; 检查是否已经存在这个存储过程,如果没有存在,则可以创建这个名 create or replace procedure PROC_DAYCUT_CTRL_UPDATE as begin update t_daycut_ctrl t3 set t3.prev_settle_date=TO_DATE(to_char(sysdate,'YYYY-MM-DD'),'YYYY-MM-DD');commit; end; / 创建名为:PROC_DAYCUT_CTRL_UPDATE 的存储过程,执行想要的Sql 补充:查询存储过程的sql select TEXT from user_source where name='PROC_DAYCUT_CTRL_UPDATE'; 第二步:创建一个Job plSql中执行SQL命令: declare proc_daycut_job number; begin dbms_job.submit(proc_daycut_job, 'PROC_DAYCUT_CTRL_UPDATE;', sysdate