干货｜Kafka在大数据环境中的应用

作者：冯燕青 2017-04-28 11:45:16

大数据

Kafka 我们生活在一个数据爆炸的时代，数据的巨量增长给我们的业务处理带来了压力，同时巨量的数据也给我们带来了十分可观的财富。随着大数据将各个行业用户、运营商、服务商的数据整合进大数据环境，或用户取用大数据环境中海量的数据，业务平台间的消息处理将变得尤为复杂。如何高效地采集、使用数据，如何减轻各业务系统的压力，也变得越来越突出。

创新互联公司长期为上千多家客户提供的网站建设服务，团队从业经验10年，关注不同地域、不同群体，并针对不同对象提供差异化的产品和服务；打造开放共赢平台，与合作伙伴共同营造健康的互联网生态环境。为牡丹企业提供专业的网站设计、成都做网站，牡丹网站改版等技术服务。拥有十年丰富建站经验和众多成功案例,为您定制开发。

我们生活在一个数据爆炸的时代，数据的巨量增长给我们的业务处理带来了压力，同时巨量的数据也给我们带来了十分可观的财富。随着大数据将各个行业用户、运营商、服务商的数据整合进大数据环境，或用户取用大数据环境中海量的数据，业务平台间的消息处理将变得尤为复杂。如何高效地采集、使用数据，如何减轻各业务系统的压力，也变得越来越突出。在早期的系统实现时，业务比较简单。即便是数据量、业务量比较大，大数据环境也能做出处理。但是随着接入的系统增多，数据量、业务量增大，大数据环境、业务系统都可出现一定的瓶颈。下面我们看几个场景。

场景一：我们开发过一个设备信息挖掘平台。这个平台需要实时将采集互联网关采集到的路由节点的状态信息存入数据中心。通常一个网关一次需要上报几十甚至几百个变化的路由信息。全区有几万个这种互联网关。当信息采集平台将这些变化的数据信息写入或更新到数据库时候，会给数据库代理非常大的压力，甚至可以直接将数据库搞挂掉。这就对我们的数据采集系统提出了很高的要求。如何稳定高效地把消息更新到数据库这一要求摆了出来。

场景二：数据中心处理过的数据需要实时共享给几个不同的机构。我们常采用的方法是将数据批量存放在数据采集机，分支机构定时来采集;或是分支机构通过JDBC、RPC、http或其他机制实时从数据中心获取数据。这两种方式都存在一定的问题，前者在于实时性不足，还牵涉到数据完整性问题;后者在于，当数据量很大的时候，多个分支机构同时读取数据，会对数据中心的造成很大的压力，也造成很大的资源浪费。

为了解决以上场景提出的问题，我们需要这样一个消息系统：

缓冲能力，系统可以提供一个缓冲区，当有大量数据来临时，系统可以将数据可靠的缓冲起来，供后续模块处理;

订阅、分发能力，系统可以接收消息可靠的缓存下来，也可以将可靠缓存的数据发布给使用者。

这就要我们找一个高吞吐的、能满足订阅发布需求的系统。

Kafka是一个分布式的、高吞吐的、基于发布/订阅的消息系统。利用kafka技术可以在廉价PC Server上搭建起大规模的消息系统。Kafka具有消息持久化、高吞吐、分布式、实时、低耦合、多客户端支持、数据可靠等诸多特点，适合在线和离线的消息处理。

使用kafka解决我们上述提到的问题。

互联网关采集到变化的路由信息，通过kafka的producer将归集后的信息批量传入kafka。Kafka按照接收顺序对归集的信息进行缓存，并加入待消费队列。Kafka的consumer读取队列信息，并一定的处理策略，将获取的信息更新到数据库。完成数据到数据中心的存储。

数据中心的数据需要共享时，kafka的producer先从数据中心读取数据，然后传入kafka缓存并加入待消费队列。各分支结构作为数据消费者，启动消费动作，从kafka队列读取数据，并对获取的数据进行处理。

Kafka生产的代码如下：

  
 
 
 
   
  
  
  public void produce(){     
   
  
  
  
   
  
  
                     //生产消息预处理
   
  
  
  
   
  
  
          produceInfoProcess();       
   
  
  
  
   
  
  
          pro.send(ProducerRecord,new Callback(){
   
  
  
  
   
  
  
                              @Override
   
  
  
  
   
  
  
                              onCompletion() {
   
  
  
  
   
  
  
                                       if (metadata == null) {
   
  
  
  
   
  
  
                                                 // 发送失败
   
  
  
  
   
  
  
                                                 failedSend();
   
  
  
  
   
  
  
                                       } else {
   
  
  
  
   
  
  
                                                 //发送成功!" 
   
  
  
  
   
  
  
                                                 successedSend();     
   
  
  
  
   
  
  
  }
   
  
  
  
   
  
  
                              }                      
   
  
  
  
   
  
  
                });  
   
  
  
  
   
  
  
       }

消息生产者根据需求，灵活定义produceInfoProcess()方法，对相关数据进行处理。并依据数据发布到kafka的情况，处理回调机制。在数据发送失败时，定义failedSend()方法;当数据发送成功时，定义successedSend()方法。

Kafka消费的代码如下：

  
 
 
 
   
  
  
  public void consumer() {
   
  
  
  
   
  
  
                         //配置文件
   
  
  
  
   
  
  
              properties();
   
  
  
  
   
  
  
              //获取当前数据的迭代器
   
  
  
  
   
  
  
              iterator = stream.iterator();
   
  
  
  
   
  
  
              while (iterator.hasNext()) {
   
  
  
  
   
  
  
                  //取出消息
   
  
  
  
   
  
  
                  MessageAndMetadata next = iterator.next();
   
  
  
  
   
  
  
                  messageProcess();
   
  
  
  
   
  
  
                   }      
   
  
  
  
   
  
  
      }

Kafka消费者会和kafka集群建立一个连接。从kafka读取数据，调用messageProcess()方法，对获取的数据灵活处理。

结论

Kafka的高吞吐能力、缓存机制能有效的解决高峰流量冲击问题。实践表明，在未将kafka引入系统前，当互联网关发送的数据量较大时，往往会挂起关系数据库，数据常常丢失。在引入kafka后，更新程序能够结合能力自主处理消息，不会引起数据丢失，关系型数据库的压力波动不会发生过于显著的变化，不会出现数据库挂起锁死现象。

依靠kafka的订阅分发机制，实现了一次发布，各分支依据需求自主订阅的功能。避免了各分支机构直接向数据中心请求数据，或者数据中心依次批量向分支机构传输数据以致实时性不足的情况。kafka提高了实时性，减轻了数据中心的压力，提高了效率。

网页标题：干货｜Kafka在大数据环境中的应用
当前路径：http://www.shufengxianlan.com/qtweb/news0/234350.html

网站建设、网络推广公司-创新互联，是专注品牌与效果的网站制作，网络营销seo公司；服务项目有等

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源：创新互联

猜你还喜欢下面的内容