背压

如果队列开始显著增长，队列大小可能会超过内存，导致缓存未命中、磁盘读取，甚至性能下降。背压可以通过限制队列大小来提供帮助，从而保持较高的吞吐率，并为队列中已有的任务提供良好的响应时间。一旦队列填满，客户端将收到服务器繁忙或 HTTP 503 状态码，以便稍后重试。客户端可以在稍后重试请求，甚至可以使用指数退避策略。