跳至主要内容

迁移至 Amazon Managed Streaming for Apache Kafka

借助 Amazon MSK 复制器将您的 Apache Kafka 工作负载迁移至 Amazon MSK Express 代理,无基础设施开销,无配置复杂性。

什么是 Amazon MSK 迁移?

Amazon MSK 迁移是指将 Kafka 工作负载从其他 Kafka 部署环境(包括在本地、AWS 或其他云提供商上运行的部署)以及 Kafka 协议兼容服务(如 Confluent Platform、Aiven、RedPanda、WarpStream 或 AutoMQ)迁移至 Amazon MSK 上的 Express 代理的过程。Amazon MSK 复制器建立在支持跨区域复制的相同技术之上,通过主题数据和元数据的托管复制来自动化迁移过程,同时提供双向复制、消费者偏移量同步和内置监控。

Missing alt text value

主要功能

托管式 Kafka 迁移

无需预置 MirrorMaker 2 等迁移基础设施,即可将来自其他 Kafka 部署(包括在本地、AWS 或其他云提供商上运行的部署)以及 Kafka 协议兼容服务(如 Confluent Platform、Aiven、RedPanda、WarpStream 或 AutoMQ)的主题数据和元数据迁移到 MSK Express 代理。

零基础设施管理

专注于迁移策略,而非基础设施。MSK Replicator 接管所有底层资源,省去 MirrorMaker2 等传统工具所需的数周设置与调优工作。

双向复制

通过在源集群与 MSK Express 代理之间提供可靠的双向复制,支持安全回滚与分阶段迁移,让您能够无中断地完成迁移。

消费者偏移量同步

可按自身节奏以任意顺序迁移生产者与消费者,且不会造成数据丢失。MSK 复制器自动跨集群同步消费者偏移量,消除跨团队协调瓶颈。

原生 CloudWatch 集成

使用 CloudWatch 指标和日志记录监控您的迁移。实时追踪复制延迟、吞吐量与错误,无需自定义监控工具。

企业级的安全性

所有传输中的数据均使用 TLS 加密。利用 SASL/SCRAM 或双向 TLS(mTLS)身份验证,凭证通过 AWS Secrets Manager 安全管理,确保迁移符合合规要求。

优势

    将迁移时间从数周缩短至数天。传统上使用 MirrorMaker2 需要数周的工作,现在使用 MSK 复制器仅需数小时

    可按任意顺序迁移应用程序,无需等待跨团队协调。消费者偏移量同步确保无论迁移顺序如何,均不会发生重复处理。

    自信地回滚,不会造成运营中断。双向复制充当安全网,支持您在需要时还原更改,而不会影响业务。

    将 Express 代理的性能优势与降低的迁移开销相结合。Express 代理每个代理提供 3 倍的吞吐量,同时消除了管理迁移基础设施的运营成本。

使用案例

    将老化的本地 Kafka 集群迁移到 MSK Express 代理,以消除硬件更新周期并降低运营开销,同时借助 Express 代理获得 3 倍的吞吐量提升。

    从自行管理的 Kafka 集群迁移至完全托管的 MSK Express 代理,消除存储管理、数月容量规划和基础设施调优。

    在完成全面迁移之前,在您现有集群和 MSK 之间建立双向复制作为灾难恢复策略。

工作原理

  1. 配置源集群:指定您的源 Kafka 集群详细信息,包括引导服务器与存储在 AWS Secrets Manager 中的 SASL/SCRAM 凭证。
  2. 选择目标:选择您的 MSK Express 集群作为迁移目标,并进行自动网络配置。
  3. 定义主题和消费者组:选择要迁移的主题,为目标集群配置命名约定,并启用消费者组同步。
  4. 监控进度:通过带有指标和日志记录的 CloudWatch 仪表板跟踪迁移状态。
  5. 迁移应用程序:通过增强的自动偏移量同步,按任意顺序将您的生产者和消费者迁移到 MSK Express 代理。
  6. 完成迁移:成功迁移所有应用程序后,停用您的源集群。 

找到今天要查找的内容了吗?

请提供您的意见,以便我们改进网页内容的质量