1、如何保证执行脚本不重复 每个脚本都带有一个key.在执行脚本的时候,key都会维护到一个聊表中,在执行前,先确定列表中是否有这个key,对key的数量也有限制,防止太多语句执行 2、如何保证数据的同步 每天都会去查询业务库中的id,和绩效库匹配,如果没有这个id,就认为这条数据已删,每天都会采集两天的数据(因为有些表只到日期,没有小时) 3、登录有效期是8小时,使用session和kokke实现自动登录 来源:https://www.cnblogs.com/zj-xu/p/11754063.html 标签 大数据 数据采集系统