Overlord：Bilibili 的缓存代理与集群管理方案

文章目录OverlordBilibili 的缓存代理与集群管理方案1、它解决什么问题2、核心组件有哪些3、架构是怎样的4、适合谁用OverlordBilibili 的缓存代理与集群管理方案Overlord 在 GitHub 上已收获 2,254 个 Star。这是 Bilibili 用 Go 语言写的缓存中间件目标是为 memcache 和 Redis 提供一套自动化、高可用的代理与集群管理方案。它已经被 Bilibili 用于生产环境。1、它解决什么问题缓存服务到一定规模后运维复杂度会明显上升。Redis Cluster 的节点管理、slot 迁移、扩缩容memcache 的多实例代理这些事情如果全靠人工和脚本维护出错概率高效率也低。Overlord 把代理层和集群管理层放在一起。对业务侧它扮演一个稳定的缓存代理对运维侧它提供平台化的节点管理、扩缩容和数据同步能力。这样可以把缓存服务的日常操作收敛到统一入口减少散落在各处的运维脚本。2、核心组件有哪些Overlord 不是单一进程而是一组组件协作完成缓存服务。proxy 是轻量高可用的缓存代理模块支持 memcache 和 Redis 协议。它和 twemproxy 类似但额外支持 Redis Cluster也能把自己伪装成 cluster 模式让客户端以为自己在访问原生集群。对于不想改客户端代码、又希望后端具备集群能力的团队这一点比较实用。platform 是管理平台包含 apiserver、mesos framework 和 executor以及负责集群节点任务管理的 job 模块。它基于 mesos 和 etcd 实现自动化节点调度把创建节点、扩缩容、故障恢复等流程串起来。GUI 是 web 管理界面通过 dashboard 完成创建删除、扩缩容、加减节点等操作把集群状态可视化。anzi 是 Redis Cluster 数据同步工具可以服务化运行和 apiserver 配合完成数据迁移。enri 是 Redis Cluster 集群管理工具支持创建集群、迁移 slot 等操作。3、架构是怎样的Overlord 的架构可以分成两层上层的 platform 负责集群生命周期管理下层的 proxy 负责请求转发和协议处理。业务请求先打到 proxyproxy 根据配置把请求路由到后端的 memcache 或 Redis 节点。platform 则通过 mesos 和 etcd 调度节点执行扩缩容、failover 等任务。GUI 作为入口把 platform 的能力以界面形式暴露出来。这种分层设计让代理层可以独立部署和扩容管理层也不会成为请求路径上的瓶颈。需要调整集群拓扑时改动集中在 platform 和 GUI业务流量不受影响。4、适合谁用如果你在维护较大规模的 memcache 或 Redis 集群经常需要做节点扩缩容、slot 迁移、数据同步Overlord 提供了一套完整的方案。对于已经在使用 mesos 做资源调度的团队platform 组件会比较自然地融入现有基础设施。如果只需要一个轻量的缓存代理也可以单独部署 proxy。文档以简体中文为主对国内开发者比较友好。Overlord 是一个经过生产环境验证的缓存中间件适合需要统一代理和集群管理的团队参考或直接采用。rd 是一个经过生产环境验证的缓存中间件适合需要统一代理和集群管理的团队参考或直接采用。