更新于 

发布确认高级

在生产环境中由于一些不明原因，导致Rabbitmq重启，在RabbitMQ重启期间生产者消息投递失败，导致消息丢失，需要手动处理和恢复。于是，我们开始思考，如何才能进行RabbitMQ的消息可靠投递呢？特别是在这样比较极端的情况，RabbitMQ集群不可用的时候，无法投递的消息该如何处理呢:

1
2
应用[xxx]在[08-1516:36:04]发生[错误日志异常]，alertId=[xxx]。由[org.springframework.amqp.rabbit.listener.BlockingQueueConsumer:start:620]触发。
应用xxx 可能原因如下 服务名为： 异常为：org.springframework.amqp.rabbit.listener.BlockingQueueConsumer:start:620, 产生原因如下:1.org.springframework.amqp.rabbit.listener.QueuesNotAvailableException: Cannot prepare queue for listener. Either the queue doesn't exist or the broker will not allow us to use it.||Consumer received fatal=false exception on startup:

发布确认springboot版本

确认机制方案

代码架构图

配置文件

在配置文件当中需要添加

spring.rabbitmq.publisher-confirm-type=correlated

其中：

NONE: 禁用发布确认模式，是默认值

CORRELATED：发布消息成功到交换器后会触发回调方法

SIMPLE：有两种效果

  • 效果和 CORRELATED 值一样会触发回调方法
  • 在发布消息成功后使用 RabbitTemplate 调用 waitForConfirms 或 waitForConfirmsOrDie 方法 等待 broker 节点返回发送结果，根据返回结果来判定下一步的逻辑，要注意的点是 waitForConfirmsOrDie 方法如果返回 false 则会关闭 Channel，则接下来无法发送消息到 Broker
1
2
3
4
5
spring.rabbitmq.host=182.92.234.71
spring.rabbitmq.port=5672
spring.rabbitmq.username=admin
spring.rabbitmq.password=123
spring.rabbitmq.publisher-confirm-type=correlated

添加配置类

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
@Configuration public class ConfirmConfig { 
    public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange"; 
    public static final String CONFIRM_QUEUE_NAME = "confirm.queue"; 
    
    //声明业务Exchange 
    @Bean("confirmExchange") 
    public DirectExchange confirmExchange(){ 
        return new DirectExchange(CONFIRM_EXCHANGE_NAME); 
    } 
    // 声明确认队列 
    @Bean("confirmQueue") public Queue confirmQueue(){ 
        return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build(); 
    } 
    // 声明确认队列绑定关系 
    @Bean public Binding queueBinding(@Qualifier("confirmQueue") Queue queue, 
                                      @Qualifier("confirmExchange") DirectExchange exchange){ 
        return BindingBuilder.bind(queue).to(exchange).with("key1"); 
    } 
}

消息生产者

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
@RestController 
@RequestMapping("/confirm") 
@Slf4j 
public class Producer { 
    public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange"; 
    
    @Autowired 
    private RabbitTemplate rabbitTemplate; 
    
    @Autowired private MyCallBack myCallBack; 
    
    //依赖注入rabbitTemplate之后再设置它的回调对象 
    
    @PostConstruct 
    public void init(){ rabbitTemplate.setConfirmCallback(myCallBack); 
                      } 
    
    @GetMapping("sendMessage/{message}") 
    public void sendMessage(@PathVariable String message){

        //指定消息id为1 
        CorrelationData correlationData1=new CorrelationData("1"); 
        String routingKey="key1";
        rabbitTemplate.convertAndSend(CONFIRM_EXCHANGE_NAME,routingKey,message+routingKey,correlationData1);
        CorrelationData correlationData2=new CorrelationData("2"); routingKey="key2";
        rabbitTemplate.convertAndSend(CONFIRM_EXCHANGE_NAME,routingKey,message+routingKey,correlationData2); log.info("发送消息内容:{}",message); 
    } 
}

回调接口

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
@Component 
@Slf4j 
public class MyCallBack implements RabbitTemplate.ConfirmCallback 
{ 
    /** 
    * 交换机不管是否收到消息的一个回调方法 
    * CorrelationData 
    * 消息相关数据 
    * ack 
    * 交换机是否收到消息 
    */ 
    @Override public void confirm(CorrelationData correlationData, boolean ack, String cause) { 
        String id=correlationData!=null?correlationData.getId():""; 
        if(ack){ 
            log.info("交换机已经收到id为:{}的消息",id); 
        }else{ 
            log.info("交换机还未收到id为:{}消息,由于原因:{}",id,cause); 
        } 
    } 
}

消息消费者

1
2
3
4
5
6
7
8
9
10
11
@Component 
@Slf4j 
public class ConfirmConsumer { 
    public static final String CONFIRM_QUEUE_NAME = "confirm.queue";
    
    @RabbitListener(queues =CONFIRM_QUEUE_NAME) 
    public void receiveMsg(Message message){ 
        String msg=new String(message.getBody()); 
        log.info("接受到队列confirm.queue消息:{}",msg); 
    } 
}

可以看到，发送了两条消息，第一条消息的 RoutingKey 为 “key1”，第二条消息的 RoutingKey 为 “key2”，两条消息都成功被交换机接收，也收到了交换机的确认回调，但消费者只收到了一条消息，因为第二条消息的 RoutingKey 与队列的 BindingKey 不一致，也没有其它队列能接收这个消息，所有第二条消息被直接丢弃了。

回退消息

Mandatory参数

在仅开启了生产者确认机制的情况下，交换机接收到消息后，会直接给消息生产者发送确认消息，如果发现该消息不可路由，那么消息会被直接丢弃，此时生产者是不知道消息被丢弃这个事件的。那么如何让无法被路由的消息帮我想办法处理一下？最起码通知我一声，我好自己处理啊。通过设置mandatory参数可以在当消息传递过程中不可达目的地时将消息返回给生产者。

消息生产者代码

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
@Slf4j 
@Component public class MessageProducer implements RabbitTemplate.ConfirmCallback , RabbitTemplate.ReturnCallback { 
    
    @Autowired private RabbitTemplate rabbitTemplate; 
    
    //rabbitTemplate注入之后就设置该值 
    
    @PostConstruct 
    private void init() { 
        rabbitTemplate.setConfirmCallback(this); 
        /** 
        * true： 
        * 		交换机无法将消息进行路由时，会将该消息返回给生产者 
        * false： 
        * 		如果发现消息无法进行路由，则直接丢弃 
        */ 
        rabbitTemplate.setMandatory(true); 
        //设置回退消息交给谁处理 
        rabbitTemplate.setReturnCallback(this); 
    } 
    @GetMapping("sendMessage") 
    public void sendMessage(String message){ 
        //让消息绑定一个id值 
        CorrelationData correlationData1 = new CorrelationData(UUID.randomUUID().toString());
        rabbitTemplate.convertAndSend("confirm.exchange","key1",message+"key1",correlationData1); 
        log.info("发送消息id为:{}内容为{}",correlationData1.getId(),message+"key1");
        CorrelationData correlationData2 = new CorrelationData(UUID.randomUUID().toString());
        rabbitTemplate.convertAndSend("confirm.exchange","key2",message+"key2",correlationData2); 
        log.info("发送消息id为:{}内容为{}",correlationData2.getId(),message+"key2"); 
    } 
    
    @Override 
    public void confirm(CorrelationData correlationData, boolean ack, String cause) { 
        String id = correlationData != null ? correlationData.getId() : ""; if (ack) { 
            log.info("交换机收到消息确认成功, id:{}", id); 
        } else { 
            log.error("消息id:{}未成功投递到交换机,原因是:{}", id, cause); 
        } 
    } 
    
    @Override 
    public void returnedMessage(Message message, int replyCode, String replyText, String exchange, String routingKey) { 
        log.info("消息:{}被服务器退回，退回原因:{}, 交换机是:{}, 路由key:{}", new String(message.getBody()),replyText, exchange, routingKey); 
    }
}

回调接口

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
@Component 
@Slf4j 
public class MyCallBack implements RabbitTemplate.ConfirmCallback,RabbitTemplate.ReturnCallback { 
    /** 
    * 交换机不管是否收到消息的一个回调方法 
    * CorrelationData 
    * 消息相关数据 
    * ack 
    * 交换机是否收到消息 
    */ 
    @Override public void confirm(CorrelationData correlationData, boolean ack, String cause) { 
        String id=correlationData!=null?correlationData.getId():""; 
        if(ack){ 
            log.info("交换机已经收到id为:{}的消息",id); 
        }else{ 
            log.info("交换机还未收到id为:{}消息,由于原因:{}",id,cause); 
        } 
    } 
    //当消息无法路由的时候的回调方法 
    @Override public void returnedMessage(Message message, int replyCode, String replyText, String exchange, String routingKey) { 
        log.error("消息{},被交换机{}退回，退回原因:{},路由key:{}",new String(message.getBody()),exchange,replyText,routingKey); 
    }
}
结果分析
结果分析

备份交换机

有了 Mandatory 参数和回退消息，我们获得了对无法投递消息的感知能力，有机会在生产者的消息无法被投递时发现并处理。但有时候，我们并不知道该如何处理这些无法路由的消息，最多打个日志，然后触发报警，再来手动处理。而通过日志来处理这些无法路由的消息是很不优雅的做法，特别是当生产者所在的服务有多台机器的时候，手动复制日志会更加麻烦而且容易出错。而且设置 mandatory 参数会增加生产者的复杂性，需要添加处理这些被退回的消息的逻辑。如果既不想丢失消息，又不想增加生产者的复杂性，该怎么做呢？前面在设置死信队列的文章中，我们提到，可以为队列设置死信交换机来存储那些处理失败的消息，可是这些不可路由消息根本没有机会进入到队列，因此无法使用死信队列来保存消息。在 RabbitMQ 中，有一种备份交换机的机制存在，可以很好的应对这个问题。什么是备份交换机呢？备份交换机可以理解为 RabbitMQ 中交换机的“备胎”，当我们为某一个交换机声明一个对应的备份交换机时，就是为它创建一个备胎，当交换机接收到一条不可路由消息时，将会把这条消息转发到备份交换机中，由备份交换机来进行转发和处理，通常备份交换机的类型为 Fanout ，这样就能把所有消息都投递到与其绑定的队列中，然后我们在备份交换机下绑定一个队列，这样所有那些原交换机无法被路由的消息，就会都进入这个队列了。当然，我们还可以建立一个报警队列，用独立的消费者来进行监测和报警。

代码架构图

修改配置类

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
@Configuration 
public class ConfirmConfig {
    public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange"; 
    public static final String CONFIRM_QUEUE_NAME = "confirm.queue"; 
    public static final String BACKUP_EXCHANGE_NAME = "backup.exchange"; 
    public static final String BACKUP_QUEUE_NAME = "backup.queue"; 
    public static final String WARNING_QUEUE_NAME = "warning.queue"; 
    
    // 声明确认队列 
    @Bean("confirmQueue") 
    public Queue confirmQueue(){ 
        return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build(); 
    } 
    
    //声明确认队列绑定关系 
    @Bean 
    public Binding queueBinding(@Qualifier("confirmQueue") Queue queue, 
                                @Qualifier("confirmExchange") DirectExchange exchange){
        return BindingBuilder.bind(queue).to(exchange).with("key1"); 
    } 
    
    //声明备份Exchange 
    @Bean("backupExchange") 
    public FanoutExchange backupExchange(){ 
        return new FanoutExchange(BACKUP_EXCHANGE_NAME); 
    } 
    //声明确认Exchange交换机的备份交换机 
    @Bean("confirmExchange") 
    public DirectExchange confirmExchange(){ 
        ExchangeBuilder exchangeBuilder = ExchangeBuilder.directExchange(CONFIRM_EXCHANGE_NAME) .durable(true) 
            //设置该交换机的备份交换机 
            .withArgument("alternate-exchange", BACKUP_EXCHANGE_NAME); 
        return (DirectExchange)exchangeBuilder.build(); 
    } 
    
    // 声明警告队列 
    @Bean("warningQueue") 
    public Queue warningQueue(){ 
        return QueueBuilder.durable(WARNING_QUEUE_NAME).build(); 
    } 
    
    // 声明报警队列绑定关系 
    @Bean 
    public Binding warningBinding(@Qualifier("warningQueue") Queue queue,
                                        @Qualifier("backupExchange") FanoutExchange backupExchange){ 
        return BindingBuilder.bind(queue).to(backupExchange); 
    } 
    
    // 声明备份队列 
    @Bean("backQueue") 
    public Queue backQueue(){ 
        return QueueBuilder.durable(BACKUP_QUEUE_NAME).build(); 
    } 
    
    // 声明备份队列绑定关系 
    @Bean 
    public Binding backupBinding(@Qualifier("backQueue") Queue queue,
                                       @Qualifier("backupExchange") FanoutExchange backupExchange){ 
        return BindingBuilder.bind(queue).to(backupExchange); 
    } 
}

报警消费者

1
2
3
4
5
6
7
8
9
10
11
@Component 
@Slf4j 
public class WarningConsumer { 
    public static final String WARNING_QUEUE_NAME = "warning.queue"; 
    
    @RabbitListener(queues = WARNING_QUEUE_NAME)
    public void receiveWarningMsg(Message message) { 
        String msg = new String(message.getBody()); 
        log.error("报警发现不可路由消息：{}", msg); 
    } 
}

测试注意事项

重新启动项目的时候需要把原来的 Confirm.exchange 删除因为我们修改了其绑定属性，不然报以下错:

结果分析

Mandatory 参数与备份交换机可以一起使用的时候，如果两者同时开启，消息究竟何去何从？谁优先级高，经过上面结果显示答案是备份交换机优先级高。

快来参与讨论吧