基于kafka1.0建立企业级消息平台的若干思考.pdf唯品会高级架构师的kafka实际使用经验总结

文件名称: 基于kafka1.0建立企业级消息平台的若干思考.pdf

所属分类: kafka

开发工具:

文件大小: 953kb

下载次数: 0

上传时间: 2019-10-15

提供者: weixin_********

下载 (953kb)

不能下载？报告错误

详细说明：唯品会高级架构师的kafka实际使用经验总结，干货满满，非常难得唯品会消息平台演进之路使用原生态的开源产品(Kaka/ RabbitMQ) 业务各自封装原生客户端SDK ·原生态->WMSv1.0平台标准化的接入流程 ·统一客户端SDK接凵,去访问 Kafka和 RabbitMQ服务提供资源类的管理和展示,提升运维治理能力消息监控和告警的统一接入 Mercury系统 ·WMSV1.0->v2.0平台优化接入流程(如流程审核),动态配置更新统一消息引擎,迁移至 Kafka 扩展 Kafka功能,提供更友好业务支持 X个唯品会 Www.vip.cOm 唯品会仝球精选正品特卖唯品会消息平台建设中遇到问题及思考 ·业务团队维护各自消息资源,数量增多后,维护困难; 7500 TOP 7000 GROU 各应用的消息服务配置及动态更新的支持问题; 6500 P5968 6000 使用不同消息引擎,客户端SK不同,版本不统一; 5500 5000 两种引擎维护成本高,功能上的差异易使用户混淆资源数量 35 Rabbi 运维治理能力,提升服务可用性的问题 30 25 Kafka tMQ 消息可靠性问题; 20 15 ·消息服务的监控及告詟的支持等问题; 10 集群数量唯品会 Www.vip.cOm 唯品会仝球精选正品特卖唯品会消息平台建设中遇到问题及思考资源接入管理: 集群资源的管理接入资源的申请( Topic/ group)和应用认证授权消息服务配置管理运行时管理: 在线服务的配置更新故障或升级时服务迁移流量的配额限制消息服务的降级处理(启/停服务实例) 消息的回溯唯品会 Www.vip.cOm 唯品会仝球精选正品特卖堆品会消息平台建设中遇到问题及思考加强监控和告警,提升服务质量监控数据采集和时序存储监控指标的历史查询和对比按业务域SLA的要求制定服务告警 Trigger 按应用域分组的告警邮件和短信通知唯品会 Www.vip.cOm 唯品会仝球精选正品特卖唯品会消息平台VMS架构图事件驱动数据同步任务分配志归集 VMS VMS Management VMS Backend Platform VMS SDK (kafka/rabbitmq proxy) Service 集群管理延时消息服务 Meta管理应用配置管理 Restful服务 Kafka RabbitMQ 支持多语言认证授权监控指标服务治理米集服务监控告詈 VMS SDK (kafka/rabbitmg proxy) 业务系统 JOB任务数据持久化唯品会 Www.vip.cOm 唯品会仝球精选正品特卖唯品会消息平台VMS功能支持认证与增强监控及消息授权回溯配置管端到端理及流拓扑关优先级程审核系管理队列延时死信肖息消息消息/高性能队列多维度查询过滤可靠的事务 PTP模 ACK机式动态水制 Pubsub 集群资组内平扩容源管理广播消息灰度申请资重试源管理唯品会 Www.vip.cOm 唯品会仝球精选正品特卖唯品会消息平台V2.0的改进方案介绍 WMSv2.0版本重要的几点变化: 1.统一消息引擎到 Kafka1.0版本(扩展 Kafka功能替换 RabbitMQ 消费端可靠性加强及提升单实例并行消费能力 3.提供延时消息服务 4.组内广播的支持 5.灰度发布的支持 6.支持消息追踪贴88 RabbitMQ kafka 唯品会 Www.vip.cOm 唯品会仝球精选正品特卖改进方案之消息引擎的统统一到Kaka引擎的好处: 功能扩展更容易,接口设计更简单减少用户使用时混淆相比较 RabbitMQ, Kafka在综合性能上有所提升; 运维难度的降低; 需解决的问题: 解决不同元数据的映射关系; 支持 RabbitMQ的 binding路由机制用户迁移策略,平滑无感知; 实现DQ延时消息的功能; 10 唯品会 Www.vip.cOm 唯品会仝球精选正品特卖

(系统自动生成,下载前可以参看下载内容)