作者:沙茶敏碎碎念 2019-10-18 09:40:19
新闻
Kafka 在今天的很多程序员招聘里,都会要求能够熟练运用Apache Kafka等至少一种消息队列,Apache Kafka也是程序员面试里的常客。在大多数人的映象中,写磁盘都是比较慢的,可是,为什么Apache Kafka在各大MQ性能的评测中,还能够击败众多对手,取得不错的成绩呢?
十余年的芒市网站建设经验,针对设计、前端、开发、售后、文案、推广等六对一服务,响应快,48小时及时工作处理。营销型网站建设的优势是能够根据用户设备显示端的尺寸不同,自动调整芒市建站的显示方式,使网站能够适用不同显示终端,在浏览器中调整网站的宽度,无论在任何一种浏览器上浏览网站,都能展现优雅布局与设计,从而大程度地提升浏览体验。创新互联从事“芒市网站设计”,“芒市网站推广”以来,每个客户项目都认真落实执行。
在今天的很多程序员招聘里,都会要求能够熟练运用Apache Kafka等至少一种消息队列,Apache Kafka也是程序员面试里的常客。在大多数人的映象中,写磁盘都是比较慢的,可是,为什么Apache Kafka在各大MQ性能的评测中,还能够击败众多对手,取得不错的成绩呢?
顺序写磁盘
在我们的生产环境中,为了节约成本,大部分服务器仍然使用机械磁盘,而非固态硬盘。我们知道,机械磁盘读写数据,首先需要寻道,将磁头调整到对应的磁道上,紧接着,会进行旋转,将磁头旋转到对应的位置上,最后才是读写数据,寻道跟旋转,占用了磁盘读写的大量时间,所以,Apache Kafka在写磁盘的时候,大量地使用了追加写的模式,减少了磁盘寻道与旋转地时间,从而达到更高的磁盘利用率。
大量使用内存页
我们知道,即便是顺序写磁盘,磁盘的读写速度任然比内存慢慢的多得多,好在操作系统已经帮我们解决这个问题了,在linux操作系统中,Linux会将磁盘中的一些数据读取到内存当中,我们称之为内存页。当需要读写硬盘的时候,都优先在内存页中进行处理。读的话大家比较好理解,就是缓存嘛,写的话如果只写在缓存没有落盘不是会形成脏数据么?的确如此,只有当脏页到达一定比例之后,Linux操作系统才会把数据刷到磁盘当中。在机器发生掉电的时候,的确会出现脏数据。但是,我们更应该使用分布式写到多台机器上来从根本上解决这个问题。
并且,写在内存页的另外一个好处是减少应用内存的使用,我们都知道Apache Kafka是用Java语言编写的,不得不避免的便是Java的GC问题,随着应用内存的增多,垃圾回收的时间会更多,带来整体性能的下降。
零拷贝技术的使用
作为一个消息系统,不可避免的便是消息的拷贝,常规的操作,一条消息,需要从创建者的socket到应用,再到操作系统内核,然后才能落盘。同样,一条消息发送给消费者也要从磁盘到内核到应用再到接受者的socket,中间经过了多次不是很有必要的拷贝。
在Linux操作系统中,同样为我们提供了零拷贝技术,零拷贝技术并非真的不用拷贝,而是大大地减少了拷贝次数。举个例子,原本从磁盘到接收者Socket中,需要见过内核态,又要经过Apache Kafka应用,那么有没有可能直接越过这两层状态,达到更少的拷贝次数呢?Java 的NIO库,帮我们实现了这一切,借用JavaNIO库封装的API,我们可以直接使用Linux操作系统的零拷贝技术,让系统更快。
总结
以上三点,便是Apache Kafka虽然使用了硬盘存储,但是仍然可以速度很快的原因,当然,除此之外,Apache Kafka还有很多特性让他很快,如果你有兴趣,欢迎大家关注我,共同学习,共同进步。大家的支持是我继续唠嗑的动力。
分享题目:程序员经典面试题,Kafka读写硬盘为什么速度还那么快
网站网址:http://www.shufengxianlan.com/qtweb/news10/189510.html
网站建设、网络推广公司-创新互联,是专注品牌与效果的网站制作,网络营销seo公司;服务项目有等
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联