后端RPC框架【免费下载链接】finagleA fault tolerant, protocol-agnostic RPC system项目地址https://gitcode.com/gh_mirrors/fi/finagle点击查看免费下载本文聚焦 Twitter 开源 RPC 框架 Finagle 中与请求重试相关的全部指标metrics。这些指标由 Retries 模块 统一追踪覆盖自动重排requeue、策略化重试retry、动态预算budget等核心机制。阅读完本文你将能准确区分retries、requeues、tries三组易混淆的统计口径理解每个指标在客户端调用链上的确切产生位置并能够基于这些指标监控与调优客户端的重试行为。一、重试指标背后的两种机制Requeue 与 RetryFinagle 对失败请求的自动重试分为两类理解二者的区别是读懂所有指标的前提Requeue重新排队由RequeueFilter自动执行仅针对被判定为安全重试的失败例如请求尚未完整写入远端服务的WriteException。重试次数由一个动态预算控制。Retry策略化重试由RetryFilter根据用户配置的RetryPolicy执行适用于通过ClientBuilder等 API 显式配置了重试策略的客户端。两者的预算都来自同一个动态预算组件 RetryBudget因此在监控时会出现指标名部分重合如budget_exhausted需要结合产生指标的过滤器来区分来源。重要语义应用层失败application level failures不会被计入这些重试统计。这一点对 Thrift 这类协议内携带异常的协议尤其关键——Thrift 应用异常被封装在正常响应中返回而非以失败形式暴露给重试层。二、指标速览8 个统计项的分类与含义Finagle 的重试指标统一以retries为 scope 前缀按类型可分为三类类型指标全名含义Stat分布统计retries按RetryPolicy实际执行的重试次数分布Statretries/requeues_per_request单个请求被重新排队的次数分布Counter计数retries/requeues请求被重新排队的累计次数Counterretries/budget_exhausted预算被耗尽的累计次数Counterretries/request_limit单个逻辑请求达到重试上限的累计次数Counterretries/not_open可重试但因底层Service非Open而未重试的次数Counterretries/cannot_retry可重排但因底层ServiceFactory非Open而未重排的次数Gauge实时值retries/budget当前可用重试预算余额三、逐项指标详解与源码印证3.1retries策略化重试次数分布Statretries是一个 stat记录按照RetryPolicy重试的次数。它由RetryFilter在每次请求终结时写入核心逻辑位于 RetryFilter.scalaprivate[this] val retriesStat statsReceiver.stat(retries)在 RetryFilter.scala 的 issueRequest 中无论重试最终成功还是预算耗尽都会执行retriesStat.add(count)其中count是本次请求已实际发生的重试次数策略判定不再重试时case None直接累加当前count预算耗尽时tryWithdraw()返回false累加count后将该失败标记为NonRetryableFailureFlags.asNonRetryable防止上游再次尝试。3.2retries/requeues与retries/requeues_per_request自动重排的两面retries/requeuesCounter请求被自动重新排队的累计次数。在 RequeueFilter.scala 中定义为statsReceiver.counter(requeues)每次真正发起一次重排无论是否带延迟都会incr()。retries/requeues_per_requestStat每次请求被重新排队次数的分布。对应 RequeueFilter.scala 第 57 行 的statsReceiver.stat(requeues_per_request)在responseFuture中每次终结响应时requeueStat.add(attempt)。哪些失败已知安全、可被重排由 RetryPolicy.scala 中的RetryableWriteException提取器 判定规则如下被标记为Interrupted或NonRetryable的失败不重排请求已被丢弃或明确不可重试被标记为Retryable的Failure重排包装在WriteException中的异常重排请求未完整写出即失败重放安全其余不重排。RequeueFilter内部通过Requeueable提取器RequeueFilter.scala 第 177-180 行复用这一判定。3.3retries/budget与retries/budget_exhausted动态预算的两个观测点retries/budgetGauge当前可用重试预算余额的实时值。定义在 Retries.scala 第 266-267 行private[this] val budgetGauge statsReceiver.addGauge(budget) { retryBudget.balance }Gauge 的生命周期与ServiceFactory绑定在close()时通过budgetGauge.remove()移除。retries/budget_exhaustedCounter预算被耗尽的次数。它有两个产生源头RetryFilter中定义于 RetryFilter.scala 第 79-80 行当策略判定应重试、但retryBudget.tryWithdraw()失败时incr()并将响应标记为NonRetryableRequeueFilter中定义于 RequeueFilter.scala 第 55 行当退避序列耗尽backoffs.isExhausted或retriesRemaining尚有余额但预算取款失败时incr()。3.4retries/request_limit单个请求的重试次数上限retries/request_limitCounter统计逻辑请求的重试尝试达到上限的次数。逻辑请求对应的上限由maxRetriesPerReq决定——在 RequeueFilter.scala 第 156 行val maxRetries Math.ceil(maxRetriesPerReq * retryBudget.balance).toInt即单个请求允许的最大重排次数 maxRetriesPerReq× 当前预算余额目的是防止单个请求消耗不成比例的预算。在 Retries.scala 第 114 行 中该比例被设为MaxRequeuesPerReq 0.2即预算的 20%。对应地在 RequeueFilter.scala 第 122-127 行 的决策逻辑中} else { if (retriesRemaining 0) budgetExhaustCounter.incr() // 还有配额但预算取款失败 → budget_exhausted else requestLimitCounter.incr() // 配额用尽 → request_limit responseFuture(attempt, t).transform(FailureFlags.asNonRetryable) }即当剩余重试配额retriesRemaining 0但预算取款失败时记budget_exhausted当配额本身用尽retriesRemaining 0时记request_limit。两者都以NonRetryable终结本次失败。3.5retries/not_open与retries/cannot_retry放弃重试的两个状态门槛这两个计数器分别描述判定可重试/可重排但因下游状态非Open而放弃的场景retries/not_openCounter在 Retries.scala 第 268-269 行 中定义。产生于**服务获取service acquisition**阶段——svcFactory的applySelf尝试获取服务失败时Retries.scala 第 281-314 行若失败属于RetryableWriteException且还有重试配额但当前status ! Status.Open则放弃重试并notOpenCounter.incr()。retries/cannot_retryCounter在 RequeueFilter.scala 第 58 行 中定义。产生于**请求应用request application**阶段当响应为可重排失败、但底层service.status ! Status.Open时RequeueFilter.scala 第 101-103 行canNotRetryCounter.incr()并直接返回原始失败。两者的共性在于Status.Open是 Finagle 对下游资源可用性的统一判定依据具体协议栈配置可能是所有可用端点或单个会话状态非Open时重试已无意义因此放弃并以原失败返回。四、tries与retries逻辑请求 vs 物理请求文档特别提示了一个易混淆点通过ClientBuilder构建的客户端还有一组以tries为 scope 的指标它们来自StatsFilter。tries系列指标代表逻辑请求logical requests即应用发起的一次调用retries系列指标代表物理请求physical requests即包含所有重试/重排在内的实际网络请求。对于使用StackAPI即client.withStack(...)等现代构建方式的客户端若希望复现ClientBuilder的这一行为可以手动将服务用 scope 为tries的StatsFilter包裹从而在日志/监控中同时看到应用视角和网络视角的两组统计。五、预算RetryBudget如何运作所有重试都受 RetryBudget 约束其设计目标是抑制进程内多客户端并发重试导致的放大效应retry amplification。核心接口只有三个deposit()存入信用额度通常在每次请求发出时调用tryWithdraw()尝试取出一次重试额度成功返回true并扣减失败返回false且余额不变balance当前可立即发起的重试次数。默认预算由 RetryBudget.apply() 创建参数为参数默认值含义ttl10 秒deposit()存入的额度约在ttl后过期合法区间 160 秒minRetriesPerSec10每秒最低重试储备保障刚启动或低 QPS 客户端的基本重试能力percentCanRetry0.2允许重试的比例即约 20% 的请求可被重试deposit与withdraw的比率底层实现是TokenBucket.newLeakyBucket(ttl, reserve, nowMillis)的令牌桶TokenRetryBudget见 RetryBudget.scala 第 79-95 行并使用ScaleFactor 1000.0的比例因子以整数运算支持percentCanRetry 1的场景。此外还提供了两个特殊实现RetryBudget.Empty永不重试余额恒为 0与RetryBudget.Infinite余额恒为 100总是允许重试。在客户端栈中RequeueFilter与RetryFilter会共享同一个预算。为避免重复计账Retries.scala 中的WithdrawOnlyRetryBudget包装器会吞掉第二个过滤器的deposit()调用只取不存确保一次请求只存入一次额度若未显式配置该参数则默认会为每个客户端新建一个未共享的预算Retries.scala 第 145-150 行 注释说明了这一细节。六、配置入口从 Stack 参数到过滤器组装对于使用StackAPI 的客户端重试行为通过 Retries 模块 的两个 Stack 参数配置Retries.Policy决定哪些失败可重试默认RetryPolicy.Never不重试。常用策略可直接复用 RetryPolicy 对象 中的现成值如RetryPolicy.tries(numTries)上限次数 5ms200ms 抖动退避、WriteExceptionsOnly、TimeoutAndWriteExceptionsOnly、ChannelClosedExceptionsOnly或通过RetryPolicy.combine(...)组合多个策略、用limit(maxRetries)动态限制上限。Retries.Budget决定多少次可重试包含retryBudget与requeueBackoffs仅作用于自动重排的退避序列默认Backoff.const(Duration.Zero)即立即重试。组装逻辑Retries.scala 第 207-230 行当retryPolicy为Never时仅装配RequeueFilter自动重排否则装配RetryExceptionsFilter 只取不存的RequeueFilterwithdrawsOnly true此时重排与策略化重试共享预算但不重复存款。此外服务获取阶段的自动重试有独立的固定预算Effort 25Retries.scala 第 24 行即在获取服务失败时最多尝试 25 次且每次成功获取后requeuesCounter.incr()失败且状态非Open时记not_open。七、测试验证与观测建议重试指标的语义在仓库测试中有完整印证可参考RequeueFilterTest.scala验证requeues、requeues_per_request、budget_exhausted、request_limit、cannot_retry等计数在预算耗尽、请求上限、状态非Open等场景下的精确行为RetryFilterTest.scala验证retriesstat 与budget_exhausted的取值RetriesTest.scala验证模块级参数Policy/Budget与过滤器组装的整体行为。实际观测建议区分口径应用侧先看tries逻辑请求判断调用量再看retries/*物理请求判断重试开销二者差距越大说明重试放大越明显关注预算retries/budget持续走低或retries/budget_exhausted快速上涨说明系统正处于高失败率下的重试风暴边缘预算正在发挥限流作用排查放弃原因request_limit上涨说明单请求配额过小或预算被过度消耗not_open/cannot_retry上涨则指向下游Status非Open如连接池耗尽、熔断器打开此时应优先排查负载均衡与连接池配置而非单纯调高重试次数。正确理解这 8 个指标是监控 Finagle 客户端重试健康度的基础它们共同构成了一套从是否重试requeues/cannot_retry/not_open到重试多少budget/request_limit/budget_exhausted再到重试成本retries/requeues_per_request的完整可观测体系。赞分享后端RPC框架【免费下载链接】finagleA fault tolerant, protocol-agnostic RPC system项目地址https://gitcode.com/gh_mirrors/fi/finagle点击查看免费下载相关推荐Firecracker Metrics 监控体系完全指南从 PUT /metrics 配置到 JSON 指标字段深度解析Firecracker Metrics 监控体系完全指南从 PUT /metrics 配置到 JSON 指标字段深度解析 Firecracker 的 Metr虚拟化云原生vLLM V1 引擎 Metrics 设计深度解析从 /metrics 指标体系到 Prometheus 可观测性落地vLLM V1 引擎 Metrics 设计深度解析从 /metrics 指标体系到 Prometheus 可观测性落地 vLLMV1 引擎为生产环境的可观人工智能大模型模型推理服务推理引擎本地部署PaddleNLP Metrics API 详解从困惑度到 F1 的完整模型评价指标体系PaddleNLP Metrics API 详解从困惑度到 F1 的完整模型评价指标体系 导读 本文系统梳理 PaddleNLP 内置的评价指标Metric人工智能大模型预训练微调LoRARLHF强化学习分布式训练模型推理服务推理引擎模型量化模型压缩本地部署NLP上一篇m3u8下载神器终极免费工具永久保存直播视频的完整方案下一篇终极Windows优化神器WinUtil完整指南 - 一键搞定所有Windows管理任务创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考