Linux下部署分布式消息系统Kafka

Kafka是最初由Linkedin公司开发，是一个分布式、支持分区的（partition）、多副本的（replica），基于zookeeper协调的分布式消息系统，它的最大的特性就是可以实时的处理大量数据以满足各种需求场景：比如基于hadoop的批处理系统、低延迟的实时系统、storm/Spark流式处理引擎，web/nginx日志、访问日志，消息服务等等。

成都创新互联专注于禅城企业网站建设,响应式网站建设,成都商城网站开发。禅城网站建设公司,为禅城等地区提供建站服务。全流程按需网站设计，专业设计，全程项目跟踪，成都创新互联专业和态度为您提供的服务

Kafka：2.12-2.5.0

1、安装JDK 1.8

yum -y install java-1.8.0*

java -version 命令查看JDK版本，如图安装成功：

2、安装zookeeper服务

参考文章：Linux下ZooKeeper的安装及使用

3、创建工作目录，下载安装包：

#创建安装目录

mkdir -p /opt/kafka



#移动到目录

cd /opt/kafka



#下载kafka安装包

wget https://mirrors.aliyun.com/apache/kafka/2.5.0/kafka_2.12-2.5.0.tgz



#解压缩

tar -zxvf kafka_2.12-2.5.0.tgz

4、配置文件：

#进入配置目录

cd kafka_2.12-2.5.0/config/



#备份配置文件

cp server.properties server.properties.bak



#修改配置文件

vim server.properties



#修改及添加以下配置

broker.id=1

listeners=PLAINTEXT://127.0.0.1:9092

advertised.listeners=PLAINTEXT://127.0.0.1:9092



#其他自定义配置（根据实际修改）

zookeeper.connect=127.0.0.1:2181

zookeeper.connection.timeout.ms=18000



#保存退出

:wq

#配置说明 broker.id：当前机器在集群中的唯一标识。例如有三台Kafka主机，则分别配置为1,2,3。

listeners：服务监听端口。

advertised.listeners：提供给生产者，消费者的端口号，即外部访问地址。默认为listeners的值。

zookeeper.connect：zookeeper连接地址。如有集群配置，每台Kafka主机都需要连接全部zookeeper服务，实例如下：

zookeeper.connect=192.168.1.41:2181,192.168.1.42:2181,192.168.1.47:2181

zookeeper.connection.timeout.ms：zookeeper连接超时时间。

5、启动Kafka：

（首先确保已启动zookeeper）

#移到工作目录

cd /opt/kafka/kafka_2.12-2.5.0/bin/



#启动kafka

./kafka-server-start.sh -daemon ../config/server.properties



#关闭kafka服务

./kafka-server-stop.sh

查看端口已被监听，启动成功：

6、测试创建一个topic：

#移到工作目录

cd /opt/kafka/kafka_2.12-2.5.0/bin/



#创建topic

./kafka-topics.sh --create --zookeeper 127.0.0.1:2181 --replication-factor 1 --partitions 1 --topic topic1



#查看topic信息

./kafka-topics.sh --describe --zookeeper 127.0.0.1:2181 --topic topic1

#启动生产者控制台

./kafka-console-producer.sh --broker-list 127.0.0.1:9092 --topic topic1



#启动消费者控制台（新开一个窗口）

./kafka-console-consumer.sh --bootstrap-server 127.0.0.1:9092 --topic topic1 --from-beginning

此时在生成者控制台发一条测试消息，消费者控制台即可收到：

本文题目：Linux下部署分布式消息系统Kafka
网页网址：http://www.mswzjz.cn/qtweb/news25/13325.html

攀枝花网站建设、攀枝花网站运维推广公司-贝锐智能，是专注品牌与效果的网络营销公司；服务项目有等

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 贝锐智能