云产品优惠活动与资讯中心

云服务器、物理服务器、虚拟主机、智能建站、企业上云等产品活动、资讯与知识百科

< 返回资讯列表

腾讯云消息队列 CKafka-分布式、高吞吐量、高可扩展性的消息系统

发布时间:2023-08-04 11:16:41

产品推荐:

1、安全稳定的云服务器租用,2核/2G/5M仅37元,点击抢购>>>

2、高防物理服务器20核/16G/50M/500G防御仅350元,点击抢购>>>

3、百度智能建站(五合一网站)仅880元/年,点击抢购>>> 模板建站(PC+手机站)仅480元/年,点击抢购>>>

4、阿里云服务器2核2G3M仅99元/年、2核4G5M仅199元/年,新老同享,点击抢购>>> 

5、腾讯云服务器2核2G4M仅99元/年、新老同享,点击抢购>>>   


腾讯云消息队列 CKafka(Cloud Kafka)是一个分布式、高吞吐量、高可扩展性的消息系统,100%兼容开源 Kafka API 0.9.0至3.2.0版本。CKafka 基于发布/订阅模式,通过消息解耦,使生产者和消费者异步交互,无需彼此等待。CKafka 具有高可用、数据压缩、同时支持离线和实时数据处理等优点,适用于日志压缩收集、监控数据聚合、流式数据集成等场景。


xyhdlb.jpg


点击这里点击这里申请腾讯云VIP帐号,立即体验消息队列 CKafka>>>


产品特性

兼容开源

100% 兼容 Apache Kafka 0.9.0至3.2.0版本,迁移上云0成本。兼容开源上下游组件,对于 Kafka Streams、Kafka Connect 无缝支持。

上下游生态

支持与数据库、ES、COS、容器、流计算、日志服务等15+云上产品打通,低成本一键部署数据流转链路。

高可靠

消息队列 CKafka 集群性能强劲,生产性超越开源方案;此外,消息队列 CKafka 分布式的部署,集群稳定性也有很好的保障。

高扩展性

支持集群水平扩容,实例无缝升配,底层系统根据业务规模自动弹性伸缩,上层业务无感知。

业务安全

不同租户间网络隔离,实例的网络访问在账户间天然隔离;支持管理流的 CAM 鉴权及数据流的 SASL 权限控制,严格控制访问权限。

统一运维监控

提供腾讯云平台整套的运维服务,包括租户隔离、权限控制、消息堆积查询、消费者详情查看等多维度监控告警等运维服务。

应用场景

日志分析系统

消息队列 CKafka 结合大数据套件 EMR,构建完整的日志分析系统。首先通过部署在客户端的 agent 进行日志采集,并将数据聚合到消息队列 CKafka,之后通过后端的大数据套件如 Spark 等进行数据的多次计算消费,并且对原始日志进行清理,落盘存储或进行图形化展示。


流数据处理平台

消息队列 CKafka 结合流计算 Oceanus , 用于实时/离线数据处理及异常检测,满足不同场景需要:


对实时数据进行分析和展示,并做异常检测,快速定位系统问题。
消费历史数据进行落盘存储和离线分析,对数据进行二次加工,生成趋势报表等。


消息存储

消息队列 CKafka 结合无服务器云函数 SCF , 可用于日志消费处理、微服务以及大数据分析等场景。同时支持自定义数据处理,满足不同场景下的消息转储需求。


数据上报查询

CKafka 连接器可应用在需要进行数据上报的场景。如手机 App 的操作行为分析、前端页面的 Bug 日志上报、业务数据的上报等等。一般情况下,这些上报的数据都需要转储到下游的存储分析系统里面进行处理(如 Elasticsearch,HDFS 等)。在常规操作中,我们需要搭建 Server、购买存储系统、并在中间自定义代码进行数据接收、处理、转储等。流程繁琐,长期系统维护成本高。

CKafka 连接器旨在用 SaaS 化的思路解决这个问题,目标是通过如下两步:界面配置、SDK 上报,完成整个链路的搭建,并基于 Serverless 理念,以按量计费,弹性伸缩,无需预估容量等方式,简化客户的研发投入成本和实际的使用成本。


数据库变更信息订阅

CKafka 连接器支持基于 CDC(Change Data Capture)机制订阅多款数据库的变更数据。如订阅MySQL 的 Binlog,MongoDB 的 Change Stream,PostgreSQL 的行级的数据变更(Row-level Change),SQL Server 的行级的数据变更(Row-level Change)等。例如,在实际业务使用过程当中,业务经常需要订阅 MySQL 的 Binlog 日志,获取 MySQL 的变更记录(Insert、Update、Delete、DDL、DML 等),并针对这些数据进行对应的业务逻辑处理,如查询、故障恢复、分析等。

在默认情况下,客户往往需要自定义搭建基于 CDC 的订阅组件如(Canal、Debezium、Flink CDC 等)来完成对数据库的数据订阅。而在搭建、运维这些订阅组件的过程中,人力投入成本较高,需要搭建配套的监控体系,保证订阅组件的稳定运行。

基于此种情况,CKafka 连接器提供 SaaS 化的组件,通过界面配置化的完成数据的订阅、处理、转储等整个流程。


数据集成

CKafka 连接器支持将不同环境(腾讯公有云、用户自建 IDC、跨云、混合云等)的不同数据源(数据库、中间件、日志、应用系统等)的数据集成到公有云的消息队列服务中,以便进行数据的处理和分发。在实际业务过程中,用户经常需要将多个数据源的数据汇总到消息队列中,例如同一个应用业务客户端数据、业务 DB 的数据、业务的运行日志数据汇总到消息队列中进行分析处理。正常情况下,需要先将这些数据进行清洗格式化后,再做统一的转储、分析或处理。

CKafka 连接器提供了数据聚合、存储、处理、转储的能力。简而言之,就是提供数据集成的能力,将不同的数据源连接到下游的数据目标中。


数据清洗/转储

有一些客户的场景中,数据已经存在作为缓存层的消息队列(例如 Kafka)中了,需要进行清洗格式化(ETL)处理后,存储到下游(例如 Kafka,Elasticsearch、COS)等。常见的情况下,用户需要使用 Lostash、Flink 或自定义编码进行数据的清洗,并维护这些组件的稳定运行。当数据只需要简单的处理的情况下,学习数据处理组件的语法、规范、技术原理,维护数据处理组件就显得比较繁琐,额外增加了研发和运维的成本。

CKafka 连接器提供了轻便、界面化、可配置的数据处理(ETL)和转储的能力,支持界面化的配置数据的 ETL,同时将数据转储到下游存储。


常见问题


CKafka 支持开源 Kafka 哪些版本?

当前消息队列 CKafka 兼容 Apache Kafka 的 0.10、1.1、2.4、2.8、3.2 版本,版本可以向下兼容。详情可以参考 版本选择建议。


CKafka 相比开源自建有哪些优势?

相比开源自建,CKafka 具备免运维、智能运维、高可靠、高可用、自带监控告警、商业化技术支持等方面优势,详情参考开源对比 和 产品优势。


CKafka 产品形态分为哪几个版本?

CKafka 当前分为标准版,专业版和 Serverless 版,详细区别请参考产品规格。


CKafka 是否支持公网访问?

CKafka 默认内网传输,如需通过公网访问,需要单独开通一条公网路由,具体操作参见 添加路由策略,当前单台 Broker 默认提供3Mbps 免费公网带宽。

CKafka 专业版实例支持升配公网带宽,最高可提升至198Mbps,若您有更高的带宽需求,您可以额外支付费用购买。具体价格请参见 计费概述。

由于公网访问会涉及延时、网络环境和安全性等问题,不建议客户长期开启公网传输。


CKafka 实例是否支持数据压缩?

当前 CKafka 支持开源的 snappy 和 lz4 的消息压缩格式。由于 Gzip 压缩对于 CPU 的消耗较高,暂未支持。

测试期间建议客户关闭消息压缩参数进行测试。

配置开启方法:Producer 的配置文件中参数 compression.type = snappy 或者 lz4,默认为关闭 none。


如何选取 CKafka 副本数?

建议您创建 Topic 时选择2副本或3副本存储数据,保障数据可靠性。默认创建的 Topic 是2副本,如果业务需要更高的可用性,则可以指定选择3副本运行。如果 Topic 需要更多的副本数,可以 提交工单 进行处理。



TOP云网站建设、小程序开发服务:

1、TOP云百度智能建站-980元起做一个最懂百度搜索的网站(包含小程序),点击了解>>>

2、TOP云WordPress建站-498元起,会打字就会做网站,4万+模板、5万+功能套件任意用,点击了解>>>


TOP云服务器推荐(性价比很高,且安全稳定、续费同价):

1核1G 300M大带宽 50G硬盘 1个独立IP 2G独享防御   106元/月
2核2G 5M独享带宽 90G硬盘 1个独立IP 20G独享防御   37元/月
4核4G 2M独享带宽 50G硬盘 1个独立IP 10G独享防御   50元/月
4核8G 3M独享带宽 50G硬盘 1个独立IP 10G独享防御   80元/月
8核8G 5M独享带宽 50G硬盘 1个独立IP 10G独享防御   120元/月
8核16G 5M独享带宽 50G硬盘 1个独立IP 10G独享防御  160元/月
如需购买请进入网址:https://topyun.vip/server/buy.html


TOP云裸金属服务器推荐(独立物理服务器,性能强劲,大型应用首选):

高防BGP物理机:20核/16G/240G ssd/50M/1ip/200G独享防御   350元/月
高防BGP物理机:40核/32G/500G ssd/100M/1ip/200G独享防御   550元/月
高防BGP物理机:48核/64G/500G ssd/100M/1ip/200G独享防御   750元/月
高防BGP物理机:56核/128G/1.5T ssd/100M/1ip/100G独享防御   900元/月
显卡物理服务器:24核/64G/256 ssd/200M/1050ti 4G独显  430元/月  
如需购买请进入网址:https://topyun.vip/baremetal/buy.html


TOP云虚拟主机推荐(经济实惠,建站首选!):

国内虚拟主机1G空间、100M数据库、独享2M带宽、支持.NET,PHP,ASP,仅39元/年
香港虚拟主机1G空间(免备案)、100M数据库、支持.NET,PHP,ASP,仅58元/年
如需购买请进入网址:https://topyun.vip/host/buy.html


/template/Home/ZdsjuAE/PC/Static