1、安全稳定的云服务器租用,2核/2G/5M仅37元,点击抢购>>>;
2、高防物理服务器20核/16G/50M/500G防御仅350元,点击抢购>>>
3、百度智能建站(五合一网站)仅880元/年,点击抢购>>> 模板建站(PC+手机站)仅480元/年,点击抢购>>>
4、阿里云服务器2核2G3M仅99元/年、2核4G5M仅199元/年,新老同享,点击抢购>>>
5、腾讯云服务器2核2G4M仅99元/年、新老同享,点击抢购>>>
腾讯云消息队列 CKafka(Cloud Kafka)是一个分布式、高吞吐量、高可扩展性的消息系统,100%兼容开源 Kafka API 0.9.0至3.2.0版本。CKafka 基于发布/订阅模式,通过消息解耦,使生产者和消费者异步交互,无需彼此等待。CKafka 具有高可用、数据压缩、同时支持离线和实时数据处理等优点,适用于日志压缩收集、监控数据聚合、流式数据集成等场景。
点击这里申请腾讯云VIP帐号,立即体验消息队列 CKafka>>>
消息队列 CKafka 结合大数据套件 EMR,构建完整的日志分析系统。首先通过部署在客户端的 agent 进行日志采集,并将数据聚合到消息队列 CKafka,之后通过后端的大数据套件如 Spark 等进行数据的多次计算消费,并且对原始日志进行清理,落盘存储或进行图形化展示。
消息队列 CKafka 结合流计算 Oceanus , 用于实时/离线数据处理及异常检测,满足不同场景需要:
消息队列 CKafka 结合无服务器云函数 SCF , 可用于日志消费处理、微服务以及大数据分析等场景。同时支持自定义数据处理,满足不同场景下的消息转储需求。
CKafka 连接器可应用在需要进行数据上报的场景。如手机 App 的操作行为分析、前端页面的 Bug 日志上报、业务数据的上报等等。一般情况下,这些上报的数据都需要转储到下游的存储分析系统里面进行处理(如 Elasticsearch,HDFS 等)。在常规操作中,我们需要搭建 Server、购买存储系统、并在中间自定义代码进行数据接收、处理、转储等。流程繁琐,长期系统维护成本高。
CKafka 连接器旨在用 SaaS 化的思路解决这个问题,目标是通过如下两步:界面配置、SDK 上报,完成整个链路的搭建,并基于 Serverless 理念,以按量计费,弹性伸缩,无需预估容量等方式,简化客户的研发投入成本和实际的使用成本。
CKafka 连接器支持基于 CDC(Change Data Capture)机制订阅多款数据库的变更数据。如订阅MySQL 的 Binlog,MongoDB 的 Change Stream,PostgreSQL 的行级的数据变更(Row-level Change),SQL Server 的行级的数据变更(Row-level Change)等。例如,在实际业务使用过程当中,业务经常需要订阅 MySQL 的 Binlog 日志,获取 MySQL 的变更记录(Insert、Update、Delete、DDL、DML 等),并针对这些数据进行对应的业务逻辑处理,如查询、故障恢复、分析等。
在默认情况下,客户往往需要自定义搭建基于 CDC 的订阅组件如(Canal、Debezium、Flink CDC 等)来完成对数据库的数据订阅。而在搭建、运维这些订阅组件的过程中,人力投入成本较高,需要搭建配套的监控体系,保证订阅组件的稳定运行。
基于此种情况,CKafka 连接器提供 SaaS 化的组件,通过界面配置化的完成数据的订阅、处理、转储等整个流程。
CKafka 连接器支持将不同环境(腾讯公有云、用户自建 IDC、跨云、混合云等)的不同数据源(数据库、中间件、日志、应用系统等)的数据集成到公有云的消息队列服务中,以便进行数据的处理和分发。在实际业务过程中,用户经常需要将多个数据源的数据汇总到消息队列中,例如同一个应用业务客户端数据、业务 DB 的数据、业务的运行日志数据汇总到消息队列中进行分析处理。正常情况下,需要先将这些数据进行清洗格式化后,再做统一的转储、分析或处理。
CKafka 连接器提供了数据聚合、存储、处理、转储的能力。简而言之,就是提供数据集成的能力,将不同的数据源连接到下游的数据目标中。
有一些客户的场景中,数据已经存在作为缓存层的消息队列(例如 Kafka)中了,需要进行清洗格式化(ETL)处理后,存储到下游(例如 Kafka,Elasticsearch、COS)等。常见的情况下,用户需要使用 Lostash、Flink 或自定义编码进行数据的清洗,并维护这些组件的稳定运行。当数据只需要简单的处理的情况下,学习数据处理组件的语法、规范、技术原理,维护数据处理组件就显得比较繁琐,额外增加了研发和运维的成本。
CKafka 连接器提供了轻便、界面化、可配置的数据处理(ETL)和转储的能力,支持界面化的配置数据的 ETL,同时将数据转储到下游存储。
当前消息队列 CKafka 兼容 Apache Kafka 的 0.10、1.1、2.4、2.8、3.2 版本,版本可以向下兼容。详情可以参考 版本选择建议。
相比开源自建,CKafka 具备免运维、智能运维、高可靠、高可用、自带监控告警、商业化技术支持等方面优势,详情参考开源对比 和 产品优势。
CKafka 当前分为标准版,专业版和 Serverless 版,详细区别请参考产品规格。
CKafka 默认内网传输,如需通过公网访问,需要单独开通一条公网路由,具体操作参见 添加路由策略,当前单台 Broker 默认提供3Mbps 免费公网带宽。
CKafka 专业版实例支持升配公网带宽,最高可提升至198Mbps,若您有更高的带宽需求,您可以额外支付费用购买。具体价格请参见 计费概述。
由于公网访问会涉及延时、网络环境和安全性等问题,不建议客户长期开启公网传输。
当前 CKafka 支持开源的 snappy 和 lz4 的消息压缩格式。由于 Gzip 压缩对于 CPU 的消耗较高,暂未支持。
测试期间建议客户关闭消息压缩参数进行测试。
配置开启方法:Producer 的配置文件中参数 compression.type = snappy 或者 lz4,默认为关闭 none。
建议您创建 Topic 时选择2副本或3副本存储数据,保障数据可靠性。默认创建的 Topic 是2副本,如果业务需要更高的可用性,则可以指定选择3副本运行。如果 Topic 需要更多的副本数,可以 提交工单 进行处理。
TOP云网站建设、小程序开发服务:
1、TOP云百度智能建站-980元起做一个最懂百度搜索的网站(包含小程序),点击了解>>>
2、TOP云WordPress建站-498元起,会打字就会做网站,4万+模板、5万+功能套件任意用,点击了解>>>
TOP云服务器推荐(性价比很高,且安全稳定、续费同价):
1核1G 300M大带宽 50G硬盘 1个独立IP 2G独享防御 106元/月
2核2G 5M独享带宽 90G硬盘 1个独立IP 20G独享防御 37元/月
4核4G 2M独享带宽 50G硬盘 1个独立IP 10G独享防御 50元/月
4核8G 3M独享带宽 50G硬盘 1个独立IP 10G独享防御 80元/月
8核8G 5M独享带宽 50G硬盘 1个独立IP 10G独享防御 120元/月
8核16G 5M独享带宽 50G硬盘 1个独立IP 10G独享防御 160元/月
如需购买请进入网址:https://topyun.vip/server/buy.html
TOP云裸金属服务器推荐(独立物理服务器,性能强劲,大型应用首选):
高防BGP物理机:20核/16G/240G ssd/50M/1ip/200G独享防御 350元/月
高防BGP物理机:40核/32G/500G ssd/100M/1ip/200G独享防御 550元/月
高防BGP物理机:48核/64G/500G ssd/100M/1ip/200G独享防御 750元/月
高防BGP物理机:56核/128G/1.5T ssd/100M/1ip/100G独享防御 900元/月
显卡物理服务器:24核/64G/256 ssd/200M/1050ti 4G独显 430元/月
如需购买请进入网址:https://topyun.vip/baremetal/buy.html
TOP云虚拟主机推荐(经济实惠,建站首选!):
国内虚拟主机1G空间、100M数据库、独享2M带宽、支持.NET,PHP,ASP,仅39元/年
香港虚拟主机1G空间(免备案)、100M数据库、支持.NET,PHP,ASP,仅58元/年
如需购买请进入网址:https://topyun.vip/host/buy.html
Copyright © 2023 版权所有:湖南尊托云数科技有限公司 工信部ICP备案号:湘ICP备2022009064号-1 湘公网安备 43019002001723号 统一社会信用代码:91430100MA7AWBEL41 本站为小鸟云代理商:《增值电信业务经营许可证》B1-20160477