Rate Limits жана жүктү көзөмөлдөө

TL; DR

Ишенимдүү контур - бул бир нече деңгээлдеги лимиттердин жана квоталардын айкалышы (edge → BFF → кызмат), ресурстарды адилеттүү бөлүштүрүү (per-tenant/key/rout), SLO-адаптивдүү троттлинг жана унчукпай тайм-ауттун ордуна backpresher. "Ылдамдык" үчүн токен/leaky bucket, бухгалтердик квота үчүн жылма терезени, оор операциялар үчүн атаандаштык чектөөлөрдү, деградация учурунда dynamic throttling жана назик агымдарга circuit-breaker колдонуңуз. Баары - байкоо жана ойноткучтар менен.

1) Эмне үчүн iGaming/fintech чеги

SLO жана туруктуулук: retrais кар көчкү, турнирлердин/events чокулары, төлөмдөрдүн жарылуу коргоо.
Адилеттүүлүк: бир тенант же өнөктөш бүт бюджетти "соруп" албайт.
Antiabuse/боттор: дорилимитация логин/каттоо, спам, scraping каталогдору.
Баасы: кымбат чалууларды кармап туруу (KYC, отчеттор, агрегациялар).
Комплаенс/ак ниет пайдалануу: расмий "fair use" келишимдер боюнча квота.

2) Лимиттердин таксономиясы

3) Алгоритмдер жана кайда колдонуу

3. 1 Token Bucket (демейки)

Параметрлери: 'rate' (токендер/сек), 'burst' (макс запасы).
Мыкты үчүн API окуу, төлөө/статусу, BFF.
бош бакет менен → 429 + 'Retry-After'.

3. 2 Leaky Bucket (орточо)

Кепилденген "бузуу" RPS, вебхуктар үчүн пайдалуу болуп саналат.

3. 3 Fixed Window vs Sliding Window

Fixed - жөнөкөй, бирок "чек"; Sliding - чынчыл терезе каттоо (мин/саат/күн).
Келишимдик квота үчүн Sliding колдонуңуз.

3. 4 Concurrent Limits

Бир эле учурда активдүү милдеттердин лимити. Экспорт/репортаж, KYC пакеттери, кайра иштетүү үчүн идеалдуу.
тартыштыгы менен - 429/503 + кезек/поллинг.

3. 5 Cost/Complexity Limiter

GraphQL/издөө: тереңдик/кардиналдуулук/кеңейтүү боюнча "наркы" деп эсептейбиз.
"Кымбат" суроо-талаптарды кесип/деградациялоо, кеңеш менен жооп берүү.

4) чектөө ачкычтары (dimensioning)

per-tenant (көп ижара, адилеттүүлүк),

per-api_key/client_id (өнөктөштөр),

per-route (оор мутациялар катуураак),

per-user/device/IP/ASN/geo (antibot/антискрейп),

per-BIN/country (төлөм ыкмалары, эмитенттерди жана провайдерлерди коргоо),

per-method (GET жумшак, POST/PUT катуураак).

Курамы: негизги ачкыч + "тобокелдик мультипликатор" (жаңы эсеп, TOR/прокси, жогорку chargeback-тобокелдик).

5) SLO-Adaptive Trottling

• Триггерлер: 'p95 latency ↑', '5xx ↑', 'queue len ↑', 'CPU/IO saturation'.
• Иш-аракеттер: rate/burst төмөндөтүү, outlier-ejection күйгүзүү, "кымбат" Роут кыскартуу, убактылуу degrade (оор талаалар/жыйындысы жок).
• Кайтаруу: этап менен (25 → 50 → 100%) N аралыктарынын сигналдарын нормалдаштыруу менен.

6) Архитектура интеграция

API Gateway (edge): баштапкы rate/quotas, geo/ASN, HMAC/JWT-validation, 429/' Retry-After '.
BFF/Service Mesh: жука per-route/per-tenant лимиттери, concurrent-limits, circuit-breakers үчүн апстрим.
Кызматтын ичинде: оор операциялар үчүн семафорлор, кезек күтүүчү, өлчөмдөгү "жумушчу пулдар".
Vebhuke: leaky bucket жана буфер retrains менен өзүнчө ingress-endpoint.

7) Конфигурациялар (фрагменттер)

yaml plugins:
- name: rate-limiting config:
policy: local minute: 600    # 10 rps limit_by: consumer fault_tolerant: true
- name: response-ratelimiting config:
limits:
heavy: { minute: 60 }

yaml circuit_breakers:
thresholds: { max_connections: 1000, max_requests: 800 }
outlier_detection:
consecutive_5xx: 5 interval: 5s base_ejection_time: 30s http_filters:
- name: envoy. filters. http. local_ratelimit typed_config:
token_bucket: { max_tokens: 100, tokens_per_fill: 100, fill_interval: 1s }
filter_enabled: { default_value: 100% }
filter_enforced: { default_value: 100% }

pseudo sema = Semaphore(MAX_ACTIVE_EXPORTS_PER_TENANT)
if! sema. tryAcquire(timeout=100ms) then return 429 with retry_after=rand(1..5)s process()
sema. release()

pseudo cost = sum(weight(field) cardinality(arg))
if cost > tenant. budget then reject(429,"query too expensive")

8) ар кандай каналдар үчүн саясат

REST

GET - жумшак, POST/PATCH/DELETE - катуураак; "демпотенттик" статустарды/текшерүүлөрдү ретрациялоого болот.
Төлөмдөр үчүн: лимиттер боюнча 'auth/capture/refund' per-user/tenant/BIN/өлкө.

GraphQL

Depth/complexity caps, persisted/whitelisted queries, "Alias" боюнча лимиттер.

WebSocket/SSE

жыштык чеги 'subscribe/unsubscribe', топиктердин саны боюнча капка, иш-чаралардын өлчөмдөрүн контролдоо жана сенд-queue → 'policy _ disconnect'.

Вебхактар

Leaky bucket кабыл алуу, per-sender квота, dead-letter кезек, 2xx/429 аныкталат.

9) кардарларга пикир

• `Retry-After: `
• `X-RateLimit-Limit/Remaining/Reset`
• Квота үчүн - 403 'quota _ exceeded' коду жана планды жаңыртууга шилтеме менен.
• Документация: OpenAPI/SDL + "Fair Use" беттериндеги лимиттер.

10) Мониторинг жана дашборддор

• Лимит хиттери: 'rate. limit. hit 'ачкычтар/роуттар/тенанттар боюнча.
• 429/503 доля, latency p50/p95/p99, error rate, queue length, open circuits.
• Fair-Share: керектөө боюнча топ-тенанттар, "bully detector".
• Webhuke: кабыл алуу/retrai, drop-rate, орточо артта.

• 429 жалпы RPS 1-3% дан ашпайт (ботсуз).
• p95 кошумча лимитери ≤ 5-10 ms бир edge.
• Деградациядан кийин калыбына келтирүү убактысы ≤ 10 мин.

sql
SELECT ts::date d, tenant, route,
SUM(hits) AS limit_hits,
SUM(total) AS total_calls,
SUM(hits)::decimal/NULLIF(SUM(total),0) AS hit_rate
FROM ratelimit_stats
GROUP BY 1,2,3
ORDER BY d DESC, hit_rate DESC;

11) Playbook окуялар

Storm retrains (Down Apstream): Global throttling күйгүзүү, backoff көтөрүү, circuit-breaker ачуу, ордуна "тез каталарды" кайтып тайм-аут.
Бот-чабуул/скрейпинг: IP/ASN/GEO боюнча катуу капкак, WAF/JS-challenge камтыйт, каталогдорду чектөө/издөө.
Tournament/event чокусу: алдын алуу окуу чектерин жогорулатуу, "кымбат талааларды" азайтуу, кэш/denormalization камтыйт.
PSP From From Vebhukov: убактылуу leaky bucket, критикалык түрлөрүн артыкчылык, dead-letter жана retra кеңейтүү.

12) тестирлөө жана UAT

Жүктөө: RPS тепкич, бурст × нормалдуу 10.
Адилеттүүлүк: 1 "ач көз" тенанттын эмуляциясы - глобалдык бюджеттин X% ашпайт.
Деградация: SLO-адаптация лимиттерди азайтат жана коридордо p95 кармап турат.
Чек арадагы учурлар: терезени өзгөртүү (мин → саат), саат титиреп (clock skew), Redis масштабдоо/ачкычтарды шардана кылуу.
Контракт: 429 жана Retry-After аталыштары бар, SDK туура бэк-оффит.

13) Лимиттер үчүн сактоо

Жергиликтүү лимиттер үчүн In-memory (чакан кластерлер).
бөлүштүрүлгөн Redis/Memcached (атомдук үчүн Lua скрипт).
Хэш боюнча ачкычтарды шардалоо; TTL терезелер астында; кэш жоготуу үчүн арткы метрика.
Idempotency: Лимитердин демпотенттик кайталап чалууларды бузууга тийиш эмес (өтүнүч ачкычы боюнча эсепке алуу).

14) Саясат башкаруу (Governance)

Лимиттер каталогу: ким ээси, кандай ачкычтар/босого/рационал.
Fast Switches үчүн Feature-flags (crisis mode).
Келишимдик квоталарды өзгөртүү боюнча саясатты жана RFC процессин версиялоо.
A/B оптималдуу босоголорду тандоо боюнча эксперименттер.

15) Анти-үлгүлөрү

Глобалдык бир чектөө "бардык API".
Гана белгиленген терезелер → "четки" ат чабыш.
Кайтарымсыз лимит (жок 'Retry-After '/headers).
унчукпай убакыт ордуна тез 429/503.
Жок per-tenant fair-share - бир кардар башкаларды муунтуп.
GraphQL коргоо/татаал издөө жок.
нөлдөр concurrent-guard → "чаң соргуч" DD/PSP.

16) Mini тандоо шпаргалка

демейки: token bucket (rate + burst) per-tenant + route.
Акча/отчеттор боюнча квоталар: sliding window күнү/ай.
Оор иш: concurrent-limits + кезек.
GraphQL/поиск: complexity-budgets + persisted queries.
WS/Webhuke: leaky bucket + backpressure.
Кризис: dynamic throttling + circuit-breaker + degrade.

Резюме

Жүктү көзөмөлдөө - бул көп баскычтуу тартип: туура алгоритмдер (bucket/терезелер/атаандаштык), адилеттүү чектөө ачкычтары, SLO-ылайыкташтыруу жана ачык-айкын пикир. GraphQL/WS/Webhucks адистештирилген полистер менен куралданган жана Playbook менен байкоо туташтырып, gateway/mesh/кызматтарга чектөөлөрдү тиккенде, сиз эң жогорку окуяларды жана башкалардын ийгиликсиздиктерин башкарылуучу кырдаалдарга айландырасыз - боёктор, үзгүлтүккө учураган төлөмдөр жана конверсиялар жок.