Rate Limits-ը և բեռի վերահսկումը

TL; DR

Վստահելի իրականացումը մի քանի մակարդակներում սահմանների և քվոտաների համադրություն է (edge no BFF ռուսական ծառայություն), ռեսուրսների արդար բաշխումը (per-ten.ru/բանալին/rout), SLO հարմարվողական տրոտլինգը և backprescher 'լուռ թայմ-աուտների փոխարեն։ Օգտագործեք token/leaky bucket-ը «արագության» համար, պտտվող պատուհանը հաշվողական քվոտաների համար, մրցակցային սահմանաչափերը ծանր վիրահատությունների համար, coric throttling-ը քայքայման ժամանակ և circuit-breaker-ը փխրուն ապստրիներին։ Ամեն ինչ դիտարկվում է պլեյբուսներով։

1) Ինչու՞ են iGaming/fintech-ում սահմանները

SLO-ն և կայունությունը 'պաշտպանություն ռետրոյի լավներից, կիսագնդերի գագաթներից/events, վճարումների բարձրացումից։

Արդարություն 'մեկ տենանտ կամ գործընկեր չի «նետում» ամբողջ բյուջեն։

Անտիաբյուզը/բոտերը 'դորիլինթինգ լոգոն/գրանցում, սպամա, սկրեյպինգ ածխաջրածիններ։

Արժեքը 'թանկ զանգերի զսպում (KYC, հաշվետվություններ, ագրեգացիաներ)։

Complaens/բարեխիղճ օգտագործումը 'պաշտոնական «fronuse» քվոտաները պայմանագրերում։

2) Լիմիտների տաքսոնոմիա

3) Ալգորիթմներ և որտեղ օգտագործել

3. 1 Token Bucket (լռելյայն)

Պարամետրերը ՝ «rate» (tokens/վայրկյան), «burst» (maks)։

Հիանալի է API read, վճարումը/կարգավիճակը, BFF-ը։

Դատարկ տանկի դեպքում 429 + Retry-After "։

3. 2 Leaky Bucket (հազվադեպ)

Երաշխավորված «քանդումը» RPS-ն օգտակար է Webhuks-ի համար, որպեսզի չմոռանա գողերը։

3. 3 Fixed Window vs Sliding Window

Fixed-ը պարզ է, բայց «սահմանները»; Sliding-ը ազնիվ է պատուհանում (րոպե/ժամ/օր)։

Օգտագործեք Sliding-ը պայմանագրային քվոտաների համար։

3. 4 Concurrent Limits

Լիմիթը միաժամանակ ակտիվ խնդիրներ է։ Հիանալի է ածխաջրածինների/ռեպորտերի, KYC-2019-ի, վերամշակման համար։

Պակասի դեպքում 429/503 + հերթը/կես։

3. 5 Cost/Complexity Limiter

GraphQL/որոնում: Մենք համարում ենք «արժեք» խորության/կարդինալության/ընդարձակման վրա։

«Թանկ» հարցումների հղումը/քայքայումը, պատասխանը։

4) Սահմանման բանալիները (dimultioning)

per-tenae (multarenda, արդարություն),

per-api _ key/client _ id (գործընկերներ),

per-rome (քննադատական մուտացիաները ավելի կոշտ են),

per-user/device/IP/ASN/geo (antibot/anticrap),

per-BIN/country (հիբրիդային մեթոդներ, դիմորդների և պրովայդերների պաշտպանություն),

per-method (GET ավելի փափուկ, POST/PUT ավելի խիստ)։

Շվեյցարիա ՝ հիմնական բանալին + «ռիսկի մուլտիպլիկատոր» (նոր հաշիվ, TOR/2019, բարձր chargeback ռիսկը)։

5) SLO հարմարվողական տրոտլինգը

Միացրեք coric throttling, երբ SLO-ն վտանգում է

Ձգողականներ ՝ "p95 latency no.", "5xx 71", "queue len no '," CPU/IO saturation "։

Գործողությունները 'նվազեցնել rate/burst, ներառել www.ier-ej.ru, կտրել «թանկ» route, www.dgrade (առանց ծանր դաշտերի/ագրեգացիաների)։

Իսպանիան 'աստիճանաձև (25-50-100%), երբ նորմալացնում են N ընդմիջումների ազդանշանները։

6) Ինտեգրումը ճարտարապետության մեջ

API Gateway (Edge) 'առաջնային rate/www.tas, geo/ASN, HMAC/JWT-validation, 429/« Retry-After »։

BFF/Windows Mesh: բարակ per-ro.ru/per-tenium limits, concurrent-limits, circuit-breakers apstriams։

Շրջանակի ներսում 'ծանր վիրահատությունների սեմաֆորներ, backprescher հերթերով, «աշխատանքային փամփուշտներ»' bound չափսերով։

Ուեբհուկի 'առանձին ingress-endpoint-ից leaky bucket-ից և ռետրերի բուֆերից։

7) Կազմաձևը (բեկորները)

yaml plugins:
- name: rate-limiting config:
policy: local minute: 600    # 10 rps limit_by: consumer fault_tolerant: true
- name: response-ratelimiting config:
limits:
heavy: { minute: 60 }

yaml circuit_breakers:
thresholds: { max_connections: 1000, max_requests: 800 }
outlier_detection:
consecutive_5xx: 5 interval: 5s base_ejection_time: 30s http_filters:
- name: envoy. filters. http. local_ratelimit typed_config:
token_bucket: { max_tokens: 100, tokens_per_fill: 100, fill_interval: 1s }
filter_enabled: { default_value: 100% }
filter_enforced: { default_value: 100% }

Concurrent-limits (կեղծ)

pseudo sema = Semaphore(MAX_ACTIVE_EXPORTS_PER_TENANT)
if! sema. tryAcquire(timeout=100ms) then return 429 with retry_after=rand(1..5)s process()
sema. release()

GraphQL cost guard (գաղափար)

pseudo cost = sum(weight(field) cardinality(arg))
if cost > tenant. budget then reject(429,"query too expensive")

8) Քաղաքականություններ տարբեր ալիքների համար

REST

GET-ը ավելի մեղմ է, POST/PATCH/MSETE-ը ավելի խիստ է; «idempotent» ստատուսներ/ստուգումներ կարելի է կտրել։

Վճարելու համար 'limits' auth/capture/refund 'per-user/tenae/BIN/երկիր։

GraphQL

Depth/complexity caps, persisted/whitelisted queries, limits aliass։

WebSocket/SSE

Հաճախականության լիմիտը 'www.scribe/unsubscribe ", տոպիկների քանակի վրա, իրադարձությունների չափի վերահսկումը և send-queue-ը, երբ հալվում է" policy _ www.conn.ru "։

Ուեբհուկի

Leaky bucket տեխնիկայի վրա, per-sender քվոտա, dead-letter հերթը, դետերմինացված 2xx/429։

9) Հաճախորդների հետադարձ կապը

Միշտ վերադարձեք պարզ 429 վերնագրերով

`Retry-After: `

`X-RateLimit-Limit/Remaining/Reset`

Քվոտի համար '403 կոդով' «www.dta _ eeded» և հղում պլանի ապգրեյդի վրա։

Տե՛ ս ՝ OpenAPI/MSL + «Fox Use» էջերը։

10) Մոսկվան և դաշնամուրը

Մետրիկները

Լիմիտների հիթերը '"rate. limit. hit 'բաների/routam/tenantam։

429/503 доля, latency p50/p95/p99, error rate, queue length, open circuits.

Fox-2019 'սպառման լավագույն ստենանտները, «bully detector»։

Webhuki 'ընդունելություն/retrai, drop-rate, միջին լագը։

SLO կենտրոններ

429 ոչ ավելի քան 1-3 տոկոսը ընդհանուր RPS (առանց բոտերի)։

p95 ավելացրեք limiter 5-10 ms edge։

Վերականգնման ժամանակը 10 ռուբլու քայքայումից հետո

SQL օրինակ (բեկորների կտրվածք)

sql
SELECT ts::date d, tenant, route,
SUM(hits) AS limit_hits,
SUM(total) AS total_calls,
SUM(hits)::decimal/NULLIF(SUM(total),0) AS hit_rate
FROM ratelimit_stats
GROUP BY 1,2,3
ORDER BY d DESC, hit_rate DESC;

11) Պլեյբուկի

Ռետրոյի փոթորիկը (apstrim) 'ներառել global throttling, բարձրացնել backoff, բացել circuit-breaker, վերադարձնել «արագ սխալները» թայմ-աուտների փոխարեն։

Bot-հարձակումը/screping: կոշտ cap IP/ASN/geo, ներառել WAF/JS-Chelenge, սահմանափակել ներմուծումը և/որոնումը։

Pik/eventa: հակադրաբար բարձրացնել ընթերցանության սահմանները, նվազեցնել «թանկ դաշտերը», ներառել kes/denormalization։

Նա փորձեց Webhuks-ից 'www.laky bucket, կրիտիկական տեսակների գերակայություն, dead-letter և retray։

12) Փորձարկումը և UAT-ը և UAT

Բեռները ՝ RPS սանդուղք, բուրգեր թիվ 10 նորմալ։

Արդարություն '1 «ագահ» տենբերի էմուլյացիան գլոբալ բյուջեի ոչ ավելի քան X տոկոսն է։

Քայքայումը 'SLO հարմարեցումը կրճատում է սահմանները և պահում է p95 միջանցքում։

Սահմանափակում 'պատուհանի փոփոխությունը (րոպե 220 ժամ), ժամացույցի խմորումը (clock skew), Redis/sharding-ի մեծացումը։

Պայմանագիրը ՝ 429 և Retry-After վերնագրերը ներկա են, MSK-ը ճիշտ է փոխանակել-օֆիտը։

13) Սահմանների համար պահեստ

In-memory տեղական սահմանների համար (փոքրիկ կլաստերներ)։

Redis/Memcached-ը բաշխված (Lua-ջութակները ատոմականության համար)։

Շարդինգը պատրաստված է հեշով; TTL պատուհանի տակ; bekap-metrika կորստի համար։

Idempotency: Լիմիտերը չպետք է կոտրի idempotent կրկնվող զանգերը (նշված է հարցման վերջում)։

14) Քաղաքական կառավարումը (Governational)

Լիմիտների կատալոգը 'ո՞ վ է սեփականատերը, ինչ բանալիներ/շեմեր/սննդակարգ։

Feature-flags արագ անջատիչների համար (crisis mode)։

Քաղաքական և RFC գործընթացը պայմանագրային քվոտաների փոփոխության համար։

A/B փորձարկումները օպտիմալ շեմերի ընտրության համար։

15) Anti-patterna

Գլոբալ մեկ սահմանը «բոլոր API-ի վրա»։

Միայն ֆիքսված պատուհանները նկարագրվում են «ներկայի» նստարաններ։

Սահմանը առանց հետադարձ կապի (ոչ «Retry-After »/headers)։

Լուռ թայմ-աուտները արագ 429/503-ի փոխարեն։

Per-tenault fox-2019-ի բացակայությունը, մեկ հաճախորդը խեղդում է մյուսներին։

GraphQL/բարդության որոնում չկա։

Nuli-ը concurrent-guard-ում BD/PSA-ի «փոշեկուլն» է։

16) Ընտրության մինի-գնդակը

Լռելյայն 'token bucket (rate + burst) per-tenae + rope։

Փողի քվոտաները/զեկույցները 'sliding 210 օր/ամիս։

Ծանր վիրահատություններ 'concurrent-limits + հերթը։

GraphQL/поиск: complexity-budgets + persisted queries.

WS/webhuks: leaky bucket + backpressure։

Кризис: dynamic throttling + circuit-breaker + degrade.

Ռեզյումե

Բեռի վերահսկումը բազմաբնույթ կարգապահություն է 'ճիշտ ալգորիթմներ (bucket/պատուհան/մրցակցություն), լիմիտացիայի արդար բանալիներ, SLO հարմարեցում և թափանցիկ հետադարձ կապ։ Gateway/mesh/ծառայություններով, GraphQL/WS/Webhuks պրոֆիլային պոլիսներով և կապելով պլեյբուսների հետ, դուք վերածում եք գագաթնակետային իրադարձությունների և այլ մարդկանց և կառավարվող իրավիճակների 'առանց փլուզման, պատռված պարամետրերի և հակադարձման։