Flume之Failover和Load

Flume之Failover和Load balancing原理

て烟熏妆下的殇ゞ 提交于 2020-03-04 22:36:41
Failover Sink Processor Failover Sink Processor维护了一个sink的优先级列表,具有故障转移的功能,具体的配置如下(加粗的必须配置): 属性名称 默认值 描述 sinks – 多个sink用空格分开。 processor.type default 组件的名称,必须是: failover processor.priority.<sinkName> – 优先级值。<sinkName> 必须是sinks中有定义的。优先级值高Sink会更早被激活。值越大,优先级越高。 注 :多个sinks的话,优先级的值不要相同,如果优先级相同的话,只会有一个生效。且failover时,同优先级的不会Failover,就算是同优先级的还存在也会报All sinks failed to process。 processor.maxpenalty 30000 失败的Sink最大的退避时间(单位:毫秒)(退避算法(退避算法为我们在解决重试某项任务的时候,提供了一个比较好的等待思想。),参考:http://qiuqiang1985.iteye.com/blog/1513049 ) 示例: a1.sinkgroups = g1 a1.sinkgroups.g1.sinks = k1 k2 a1.sinkgroups.g1.processor.type =