MQ技术（消息队列）
消息中间件概述
消息队列技术是分布式应用间交换信息的一种技术。
消息队列可驻留在内存或磁盘上,队列存储消息直到它们被应用程序读走。
通过消息队列，应用程序可独立地执行–它们不需要知道彼此的位置、或在继续执行前不需要等待接收程序接收此消息。
消息队列为构造以同步或异步方式实现的分布式应用提供了松耦合方法。
消息队列的API调用被嵌入到新的或现存的应用中，通过消息发送到内存或基于磁盘的队列或从它读出而提供信息交换。
消息队列可用在应用中以执行多种功能，比如要求服务、交换信息或异步处理等。
消息队列的四大好处：
1.解耦：每个成员不必受其他成员影响，可以更独立自主，只通过一个简单的容器来联系。
2.提速
3.广播
4.削峰
消息队列的成本：
1.引入复杂度
2.暂时的不一致性
中间件是一种独立的系统软件或服务程序，分布式应用系统借助这种软件在不同的技术之间共享资源，管理计算资源和网络通讯。
它在计算机系统中是一个关键软件，它能实现应用的互连和互操作性，能保证系统的安全、可靠、高效的运行。
中间件位于用户应用和操作系统及网络软件之间，它为应用提供了公用的通信手段，并且独立于网络和操作系统。
中间件为开发者提供了公用于所有环境的应用程序接口，当应用程序中嵌入其函数调用，它便可利用其运行的特定操作系统和网络环境的功能，为应用执行通信功能。
如果没有消息中间件完成信息交换，应用开发者为了传输数据，必须要学会如何用网络和操作系统软件的功能，编写相应的应用程序来发送和接收信息，且交换信息没有标准方法，每个应用必须进行特定的编程从而和多平台、不同环境下的一个或多个应用通信。
例如，为了实现网络上不同主机系统间的通信，将要求具备在网络上如何交换信息的知识（比如用TCP/IP的socket程序设计）；
为了实现同一主机内不同进程之间的通讯，将要求具备操作系统的消息队列或命名管道(Pipes)等知识。
IBM 消息中间件MQ以其独特的安全机制、简便快速的编程风格、卓越不凡的稳定性、可扩展性和跨平台性，以及强大的事务处理能力和消息通讯能力，成为业界市场占有率最高的消息中间件产品。
一.为什么要使用MQ?
核心：解耦,异步,削峰
二、使用MQ有什么缺点？
核心： 系统可用性降低、系统复杂性提高、一致性问题
三、如何保证消息队列高可用
核心：集群部署
四、如何保证消息不被重复消费啊
如何保证消息消费时的幂等性
保证幂等性的几个思路:
1）先根据主键查询一下,如果这数据有了,就别插入了,update一下
2）比如你是写redis,那就没问题了,反正每次都是set,天然幂等性
3）让生产者发送每条数据的时候加一个全局唯一ID,消费端拿到这个ID去数据库里查一下,之前有没有效果,如果没消费过,就处理,如果消费过了,就不处理
4）利用数据库唯一键来保证重复数据不会重复插入多条,重复数据拿到之后,因为有唯一键约束,重复数据就只会插入报错,不会导致数据库中出现脏数据五五
如何保证消息的可靠性传输
1.生产者弄丢了数据生产者将数据发送到MQ时,可能数据在半路就给搞丢了,因为网络等问题,都有可能.
解决方法:
(1)rabbitmq提供事务功能,生产端发送数据开启rabbitmq事务,
然后发送消息,如何消息没有被rabbitmq接收到,那么生产者会收到异常保存,
此时可以回滚事务,然后重试发送消息;如果收到消息,可以提交事务.
缺点是,同步发送,吞吐量会下降,太耗性能.
(2)rabbitmq开启confirm模式,每次写的消息都会分配一个唯一ID,
然后写入到rabbitmq中,rabbitmq会回传一个ack消息,告诉你这个消息OK了.
如果rabbitmq没能处理这个消息,会回调你一个nack接口,告诉你这个消息失败了,
你可以重试.confirm机制是异步的,异步发送,rabbitmq接收之后会异步回调你的接口,
通知你这个消息是否接收到了.2.mq弄丢了数据
解决方法:开启rabbitmq持久化,就是消息写入之后要持久化到磁盘,哪怕rabbitmq挂了,
恢复之后会自动读取之前存储的数据.
3.消费端弄丢了数据如果消费端刚消费到数据,还没处理进程就挂了,比如重启了,mq认为你消费了,数据就丢了.
解决方法:用rabbitmq提供的ack机制,关闭rabbitmq自动ack,手动处理ack,
如果程序中断了,就没有ack确认,rabbitmq就认为你还没处理完,
这个时候rabbitmq会把消息再次分发消费端处理，消息不会丢失。
MQ的基本概念：
- 队列管理器
队列管理器是MQ系统中最上层的一个概念，由它为我们提供基于队列的消息服务。
- 消息
在MQ中，我们把应用程序交由MQ传输的数据定义为消息，我们可以定义消息的内容并对消息进行广义的理解，比如：用户的各种类型的数据文件，某个应用向其它应用发出的处理请求等都可以作为消息。消息有两部分组成：
消息描述符(Message Discription或Message Header)，描述消息的特征，如：消息的优先级、生命周期、消息Id等；
消息体(Message Body)，即用户数据部分。在MQ中，消息分为两种类型，非永久性(non-persistent)消息和永久性(persistent)消息，非永久性消息是存储在内存中的，它是为了提高性能而设计的，当系统掉电或MQ队列管理器重新启动时，将不可恢复。当用户对消息的可靠性要求不高，而侧重系统的性能表现时，可以采用该种类型的消息，如：当发布股票信息时，由于股票信息是不断更新的，我们可能每若干秒就会发布一次，新的消息会不断覆盖旧的消息。永久性消息是存储在硬盘上，并且纪录数据日志的，它具有高可靠性，在网络和系统发生故障等情况下都能确保消息不丢、不重。
此外，在MQ中，还有逻辑消息和物理消息的概念。利用逻辑消息和物理消息，我们可以将大消息进行分段处理，也可以将若干个本身完整的消息在应用逻辑上归为一组进行处理。
- 队列
队列是消息的安全存放地，队列存储消息直到它被应用程序处理。
消息队列以下述方式工作：
a) 程序A形成对消息队列系统的调用，此调用告知消息队列系统，消息准备好了投向程序B；
b) 消息队列系统发送此消息到程序B驻留处的系统，并将它放到程序B的队列中；
c) 适当时间后，程序B从它的队列中读此消息，并处理此信息。
由于采用了先进的程序设计思想以及内部工作机制，MQ能够在各种网络条件下保证消息的可靠传递，可以克服网络线路质量差或不稳定的现状，在传输过程中，如果通信线路出现故障或远端的主机发生故障，本地的应用程序都不会受到影响，可以继续发送数据，而无需等待网络故障恢复或远端主机正常后再重新运行。
在MQ中，队列分为很多种类型，其中包括：本地队列、远程队列、模板队列、动态队列、别名队列等。
本地队列又分为普通本地队列和传输队列，普通本地队列是应用程序通过API对其进行读写操作的队列；传输队列可以理解为存储-转发队列，比如：我们将某个消息交给MQ系统发送到远程主机，而此时网络发生故障，MQ将把消息放在传输队列中暂存，当网络恢复时，再发往远端目的地。
远程队列是目的队列在本地的定义，它类似一个地址指针，指向远程主机上的某个目的队列，它仅仅是个定义，不真正占用磁盘存储空间。
模板队列和动态队列是MQ的一个特色，它的一个典型用途是用作系统的可扩展性考虑。我们可以创建一个模板队列，当今后需要新增队列时，每打开一个模板队列，MQ便会自动生成一个动态队列，我们还可以指定该动态队列为临时队列或者是永久队列，若为临时队列我们可以在关闭它的同时将它删除，相反，若为永久队列，我们可以将它永久保留，为我所用。
- 通道
通道是MQ系统中队列管理器之间传递消息的管道，它是建立在物理的网络连接之上的一个逻辑概念，也是MQ产品的精华。
在MQ中，主要有三大类通道类型，即消息通道，MQI通道和Cluster通道。消息通道是用于在MQ的服务器和服务器之间传输消息的，需要强调指出的是，该通道是单向的，它又有发送(sender), 接收(receive), 请求者(requestor), 服务者(server)等不同类型，供用户在不同情况下使用。MQI通道是MQ Client和MQI通道是MQ Client和MQ Server之间通讯和传输消息用的，与消息通道不同，它的传输是双向的。群集(Cluster)通道是位于同一个MQ 群集内部的队列管理器之间通讯使用的。
MQ的通讯模式
-
点对点通讯：点对点方式是最为传统和常见的通讯方式，它支持一对一、一对多、多对多、多对一等多种配置方式，支持树状、网状等多种拓扑结构。
-
多点广播：MQ适用于不同类型的应用。其中重要的，也是正在发展中的是"多点广播"应用，即能够将消息发送到多个目标站点(Destination List)。可以使用一条MQ指令将单一消息发送到多个目标站点，并确保为每一站点可靠地提供信息。MQ不仅提供了多点广播的功能，而且还拥有智能消息分发功能，在将一条消息发送到同一系统上的多个用户时，MQ将消息的一个复制版本和该系统上接收者的名单发送到目标MQ系统。目标MQ系统在本地复制这些消息，并将它们发送到名单上的队列，从而尽可能减少网络的传输量。
-
发布/订阅(Publish/Subscribe)模式：发布/订阅功能使消息的分发可以突破目的队列地理指向的限制，使消息按照特定的主题甚至内容进行分发，用户或应用程序可以根据主题或内容接收到所需要的消息。发布/订阅功能使得发送者和接收者之间的耦合关系变得更为松散，发送者不必关心接收者的目的地址，而接收者也不必关心消息的发送地址，而只是根据消息的主题进行消息的收发。在MQ家族产品中，MQ Event Broker是专门用于使用发布/订阅技术进行数据通讯的产品，它支持基于队列和直接基于TCP/IP两种方式的发布和订阅。
-
群集(Cluster)：为了简化点对点通讯模式中的系统配置，MQ提供Cluster(群集)的解决方案。群集类似于一个域(Domain)，群集内部的队列管理器之间通讯时，不需要两两之间建立消息通道，而是采用群集(Cluster)通道与其它成员通讯，从而大大简化了系统配置。此外，群集中的队列管理器之间能够自动进行负载均衡，当某一队列管理器出现故障时，其它队列管理器可以接管它的工作，从而大大提高系统的高可靠性。
认为消息队列的主要特点是异步处理，主要目的是减少请求响应时间和解耦。所以主要的使用场景就是将比较耗时而且不需要即时（同步）返回结果的操作作为消息放入消息队列。同时由于使用了消息队列，只要保证消息格式不变，消息的发送方和接收方并不需要彼此联系，也不需要受对方的影响，即解耦和。
来源：CSDN
作者：熬熊
链接：https://blog.csdn.net/axhehe/article/details/104551729