千锋教育-做有情怀、有良心、有品质的职业教育机构

400-811-9990
手机站
千锋教育

千锋学习站 | 随时随地免费学

千锋教育

扫一扫进入千锋手机站

领取全套视频
千锋教育

关注千锋学习站小程序
随时随地免费学习课程

上海
  • 北京
  • 郑州
  • 武汉
  • 成都
  • 西安
  • 沈阳
  • 广州
  • 南京
  • 深圳
  • 大连
  • 青岛
  • 杭州
  • 重庆
当前位置:西安千锋IT培训  >  技术干货  >  Kafka 的工作原理是什么?

Kafka 的工作原理是什么?

来源:千锋教育
发布人:xqq
时间: 2023-10-18 04:52:03

一、Kafka 的工作原理

Kafka 通过以下五个核心功能实现流式事件处理:

1、发布

数据源可以将数据事件流发布到或放入一个或多个 Kafka 主题,或类似的数据事件分组中。例如,您可以从物联网设备(例如网络路由器)获取数据流,然后将其发布到进行预测性维护的应用中,以计算该路由器何时可能发生故障。

2、使用

应用可以订阅一个或多个 Kafka 主题,从中获取数据,并处理生成的数据流。例如,一个应用可以从多个社交媒体流中获取数据,并对其进行分析,以确定关于一个品牌的在线对话的基调。

3、处理

Kafka Streams API 可以作为流处理器,使用来自一个或多个主题的传入数据流,并生成向一个或多个主题发布的传出数据流。

4、连接

您还可以构建可重复使用的生产者或使用者连接,以关联 Kafka 主题与现有应用。目前已经有数百个可用的连接器,包括连接 Dataproc、BigQuery 等关键服务的连接器。

5、存储

Apache Kafka 可提供持久的存储服务。Kafka 可以作为“真实来源”,将数据分布在多个节点上,以实现单个数据中心内或多个可用区的高可用性部署。

二、Kafka 作为代管式服务

尽管 Kafka 具有许多优点,但要部署这项技术仍然很有挑战性。本地 Kafka 集群在生产过程中很难建立、扩容和管理。在搭建本地基础架构以运行 Kafka 时,您需要预配机器并配置 Kafka。您还必须设计分布式机器集群以确保可用性、确保数据的存储和安全、设置监控,并谨慎地为数据扩容以支持负载变化。然后,您必须维护基础设施,在机器出现故障时更换机器,并进行例行修补和升级。

另一种方法是将 Kafka 作为云中的代管式服务。第三方供应商负责预配、构建和维护 Kafka 基础架构。您负责构建及运行应用。这使您无需具备特定的 Kafka 基础架构管理专业知识就能轻松部署 Kafka,减少在管理基础架构上耗费的时间,把更多时间投入到创造业务价值上。

以上就是关于Kafka 的工作原理以及Kafka 作为代管式服务的全部内容了,希望对你有所帮助。

声明:本站稿件版权均属千锋教育所有,未经许可不得擅自转载。

猜你喜欢LIKE

ldo和dcdc的区别?

2023-10-18

需求管理组成部分主要包括哪些?

2023-10-18

什么是敏捷模型有什么优缺点?

2023-10-18

最新文章NEW

大数据、云计算、全链路UI有什么区别?

2023-10-18

fat32和exfat的区别?

2023-10-18

SAS 9.0中,class指令跟by指令有哪些区别?

2023-10-18

相关推荐HOT

更多>>

快速通道 更多>>

最新开班信息 更多>>

网友热搜 更多>>