返回首页
基础设施与部署Throttling & Circuit Breaker

限速熔断

调用第三方服务被限速时自动降频;下游挂了时自动不打,给它喘息时间——防止一个小毛病拖垮整个系统。

做什么会用到

  • 01做 AI 应用:调 OpenAI 经常被 429 限速,加熔断 + 自动退避(exponential backoff)不会一路报错
  • 02做电商 / 内容站:依赖的搜索服务挂了,熔断让页面降级返回缓存,不会整站崩
  • 03做微服务:A 服务挂不能拖垮 B 服务,熔断是基本防御
  • 04做小项目:一个单体应用不用操心熔断,以后访问量大了再说

想用它怎么问 AI

我的【XXX 接口】依赖【OpenAI / 支付 / 外部 API】,经常被限速或超时。请帮我设计限速 + 熔断方案,用什么库(比如 opossum / p-retry),阈值怎么定。

打个比方

像一个保险丝,电流太大就自动跳,免得整栋楼停电。