消息队列已经逐渐成为企业应用系统内部通信的核心手段。它具有低耦合、可靠投递、广播、流量控制、最终一致性等一系列功能。
专业成都网站建设公司,做排名好的好网站,排在同行前面,为您带来客户和效益!成都创新互联公司为您提供成都网站建设,五站合一网站设计制作,服务好的网站设计公司,做网站、网站制作负责任的成都网站制作公司!
当前使用较多的消息队列有 RabbitMQ、RocketMQ、ActiveMQ、Kafka、ZeroMQ、MetaMQ 等,而部分数据库如 Redis、MySQL 以及 PhxSQL 也可实现消息队列的功能。
消息队列概述
消息队列是指利用高效可靠的消息传递机制进行与平台无关的数据交流,并基于数据通信来进行分布式系统的集成。
通过提供消息传递和消息排队模型,它可以在分布式环境下提供应用解耦、弹性伸缩、冗余存储、流量削峰、异步通信、数据同步等等功能,其作为分布式系统架构中的一个重要组件,有着举足轻重的地位。
消息队列的特点
采用异步处理模式
消息发送者可以发送一个消息而无须等待响应。消息发送者将消息发送到一条虚拟的通道(主题或队列)上,消息接收者则订阅或是监听该通道。
一条信息可能最终转发给一个或多个消息接收者,这些接收者都无需对消息发送者做出同步回应。整个过程都是异步的。
应用系统之间解耦合
主要体现在如下两点:
比如在线交易系统为了保证数据的最终一致,在支付系统处理完成后会把支付结果放到消息中间件里,通知订单系统修改订单支付状态。两个系统是通过消息中间件解耦的。
消息队列的传递服务模型
消息队列的传递服务模型如下图所示:
消息队列的的传输模式
点对点模型
点对点模型用于消息生产者和消息消费者之间点到点的通信。消息生产者将消息发送到由某个名字标识的特定消费者。
这个名字实际上对于消费服务中的一个 队列( Queue),在消息传递给消费者之前它被存储在这个队列中。
队列消息可以放在内存中也可以持久化,以保证在消息服务出现故障时仍然能够传递消息。
传统的点对点消息中间件通常由消息队列服务、消息传递服务、消息队列和消息应用程序接口 API 组成。
其典型的结构如下图所示:
特点如下:
示意图如下所示:
发布/订阅模型(Pub/Sub)
发布者/订阅者模型支持向一个特定的消息主题生产消息。0 或多个订阅者可能对接收来自特定消息主题的消息感兴趣。
在这种模型下,发布者和订阅者彼此不知道对方,就好比是匿名公告板。这种模式被概括为:多个消费者可以获得消息,在发布者和订阅者之间存在时间依赖性。
发布者需要建立一个订阅( Subscription),以便消费者能够订阅。订阅者必须保持持续的活动状态并接收消息。
在这种情况下,在订阅者未连接时,发布的消息将在订阅者重新连接时重新发布,如下图所示:
特性如下:
注意以下三点:
消息队列应用场景
当你需要使用消息队列时,首先需要考虑它的必要性。可以使用消息队列的场景有很多,最常用的几种,是做应用程序松耦合、异步处理模式、发布与订阅、最终一致性、错峰流控和日志缓冲等。
反之,如果需要强一致性,关注业务逻辑的处理结果,则使用 RPC 显得更为合适。
异步处理
非核心流程异步化,减少系统响应时间,提高吞吐量。例如:短信通知、终端状态推送、App 推送、用户注册等。
消息队列 一般都内置了高效的通信机制,因此也可以用于单纯的消息通讯,比如实现点对点消息队列或者聊天室等。
应用案例:网站用户注册,注册成功后会过一会发送邮件确认或者短信。
系统解耦
系统之间不是强耦合的,消息接受者可以随意增加,而不需要修改消息发送者的代码。
消息发送者的成功不依赖消息接受者(比如:有些银行接口不稳定,但调用方并不需要依赖这些接口)。
不强依赖于非本系统的核心流程,对于非核心流程,可以放到消息队列中让消息消费者去按需消费,而不影响核心主流程。
最终一致性
最终一致性不是消息队列的必备特性,但确实可以依靠消息队列来做最终一致性的事情:
先写消息再操作,确保操作完成后再修改消息状态。定时任务补偿机制实现消息可靠发送接收、业务操作的可靠执行,要注意消息重复与幂等设计。
所有不保证 100% 不丢消息的消息队列,理论上无法实现最终一致性。
像 Kafka 一类的设计,在设计层面上就有丢消息的可能(比如定时刷盘,如果掉电就会丢消息)。哪怕只丢千分之一的消息,业务也必须用其他的手段来保证结果正确。
广播
生产者/消费者模式,只需要关心消息是否送达队列,至于谁希望订阅和需要消费,是下游的事情,无疑极大地减少了开发和联调的工作量。
流量削峰和流控
当上下游系统处理能力存在差距的时候,利用消息队列做一个通用的 “漏斗”,进行限流控制。在下游有能力处理的时候,再进行分发。
举个例子:用户在支付系统成功结账后,订单系统会通过短信系统向用户推送扣费通知。
短信系统可能由于短板效应,速度卡在网关上(每秒几百次请求),跟前端的并发量不是一个数量级。于是,就造成支付系统和短信系统的处理能力出现差异化。
然而用户晚上个半分钟左右收到短信,一般是不会有太大问题的。如果没有消息队列,两个系统之间通过协商、滑动窗口等复杂的方案也不是说不能实现。
但系统复杂性指数级增长,势必在上游或者下游做存储,并且要处理定时、拥塞等一系列问题。
而且每当有处理能力有差距的时候,都需要单独开发一套逻辑来维护这套逻辑。
所以,利用中间系统转储两个系统的通信内容,并在下游系统有能力处理这些消息的时候,再处理这些消息,是一套相对较通用的方式。
应用案例:
日志处理
将消息队列用在日志处理中,比如 Kafka 的应用,解决海量日志传输和缓冲的问题。
应用案例:把日志进行集中收集,用于计算 PV、用户行为分析等等。
消息通讯
消息队列一般都内置了高效的通信机制,因此也可以用于单纯的消息通讯,比如实现点对点消息队列或者聊天室等。
消息队列的推拉模型
Push 推消息模型
消息生产者将消息发送给消息队列,消息队列又将消息推给消息消费者。
Pull 拉消息模型
消费者请求消息队列接受消息,消息生产者从消息队列中拉该消息。
两种类型的区别
两种类型的区别如下图:
消息队列技术对比
本部分主要介绍四种常用的消息队列( ActiveMQ/RabbitMQ/RocketMQ/Kafka)的主要特性、优点、缺点。
ActiveMQ
ActiveMQ 是由 Apache 出品, ActiveMQ 是一个完全支持 JMS1.1 和 J2EE1.4 规范的 JMS Provider 实现。
它非常快速,支持多种语言的客户端和协议,而且可以非常容易的嵌入到企业的应用环境中,并有许多高级功能。
主要特性:
有很多种方法可以监控 ActiveMQ 不同层面的数据,包括使用在 JConsole 或者在 ActiveMQ 的 WebConsole 中使用 JMX。
通过处理 JMX 的告警消息,通过使用命令行脚本,甚至可以通过监控各种类型的日志。
部署环境:ActiveMQ 可以运行在 Java 语言所支持的平台之上。
使用 ActiveMQ 需要:
优点如下:
缺点如下:
RabbitMQ
RabbitMQ 于 2007 年发布,是一个在 AMQP(高级消息队列协议)基础上完成的,可复用的企业消息系统,是当前最主流的消息中间件之一。
主要特性如下:
使用 RabbitMQ 需要:
优点如下:
缺点如下:
RocketMQ
RocketMQ 出自阿里的开源产品,用 Java 语言实现,在设计时参考了 Kafka,并做出了自己的一些改进,消息可靠性上比 Kafka 更好。
RocketMQ 在阿里内部被广泛应用在订单,交易,充值,流计算,消息推送,日志流式处理,Binglog 分发等场景。
主要特性如下:
部署环境:RocketMQ 可以运行在 Java 语言所支持的平台之上。
使用 RocketMQ 需要:
优点如下:
缺点如下:
Kafka
Apache Kafka 是一个分布式消息发布订阅系统。它最初由 LinkedIn 公司基于独特的设计实现为一个分布式的日志提交系统(a distributed commit log),之后成为 Apache 项目的一部分。
Kafka 性能高效、可扩展良好并且可持久化。它的分区特性,可复制和可容错都是不错的特性。
主要特性如下:
部署环境,使用 Kafka 需要:
优点如下:
缺点如下:
几种消息队列对比
这里列举了上述四种消息队列的差异对比:
Kafka 在于分布式架构,RabbitMQ 基于 AMQP 协议来实现,RocketMQ 的思路来源于 Kafka,改成了主从结构,在事务性和可靠性方面做了优化。
广泛来说,电商、金融等对事务一致性要求很高的,可以考虑 RabbitMQ 和 RocketMQ,对性能要求高的可考虑 Kafka。
小结
本文介绍了消息队列的特点,消息队列的传递服务模型,消息的传输方式,消息的推拉模式。
然后介绍了 ActiveMQ,RabbitMQ,RocketMQ 和 Kafka 几种常见的消息队列,阐述了各种消息队列的主要特点和优缺点。
通过本文,对于消息队列及相关技术选型,相信你会有更深入的理解和认识。更多细节和原理性的东西,还需在实践中见真知!
作者:陈林
简介:五年研发与架构经验,曾任职 SAP 中国研发中心后端研发、上海冰鉴科技信息科技有限公司架构师助理,目前担任成都 ThoughtWorks 有限公司高级咨询师与研发人员。熟悉大数据、高并发、负载均衡、缓存、数据库、消息中间件、搜索引擎、容器和自动化等领域。个人学习能力强,技术热情高,热爱开源和写技术博客,善于沟通和分享。
当前名称:消息中间件这么多,到底应该如何选型?
浏览路径:http://www.shufengxianlan.com/qtweb/news11/303511.html
网站建设、网络推广公司-创新互联,是专注品牌与效果的网站制作,网络营销seo公司;服务项目有等
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联