Բեռի հավասարակշռումը վիրահատություններում

1) Ինչու՞ է վիրահատական թիմը կառավարել հավասարակշռությունը

Բեռի հավասարակշռումը միայն հարցումների բաշխումը չէ։ Սա ռիսկի և արտադրողականության կառավարման շերտն է, որը սահմանափակվում է մերժման շառավղով, կանխատեսելի լատենտով, մասշտաբով խնայողություններով, աղմկոտ հարևանների մեկուսացմամբ, ուղղակի ազդեցություն SLO-ի իրականացման և ծախսերի վրա։

2) Հավասարակշռության շերտերը 'ցանցից մինչև բիզնես հասցեներ

L3/L4 (IP/պորտ) 'պարզ և արագ (DSR, ECTS, IPVS, LVS)։ Իդեալական է TCP/UDP ծառայությունների, բրոքերների, խաղացողների համար։

L7 (HTTP/gRPC/Windows Socket) - ճանապարհի/վերնագրերի/մետատվյալների; canary, A/B, geo- և հաճախորդ-aron քաղաքականություն։

GSLB/GeoTS/Anycript: գլոբալ բաշխումը տարածաշրջաններով/RoR-ով, տարածաշրջանի ուշացումները, հարևանությունը և առողջությունը։

Ներերակային հավասարակշռություն 'հաճախորդներ, որոնք ունեն covery (xDS, Consul, Eureka), հաճախորդների հավասարակշռիչներ (gRPC pick _ first/round _ robin), www.mesh։

3) Բաշխման ալգորիթմները և երբ դրանք կիրառվեն

Round-Robin (RR), պարզ հիմնական տարբերակը միատարր հանգույցներում և կարճ պահանջներով։

Least Connections (LC), ավելի լավ է հարցումների տարբեր տևողությամբ։

Least Request/Peak EWMA-ը հարմարվողականորեն նվազեցնում է լատենտությունը «երկար» պահանջներով և աղմուկով։

Weighted RR/LC: հաշվի է առնում հանգույցների ուժը կամ «cost guardrails» -ը։

Consistent Hashing (Rendezvous/Maglev): sticky-ի համար (օգտագործողը, սեղանը/սենյակը, զամբյուղը), նվազեցնում է վերամարմնավորումը մեծացման ժամանակ։

System of Two Choics: Լավ մոտեցումը LC-ն ավելի քիչ հեռուստատեսությամբ։

Hedged/Retry Budgeted Reques.ru: Զուգահեռ նախազգուշացնող հարցումներ p99-ի համար։

4) Նստաշրջաններ, վիճակներ և ծաղրածուներ

Sticky-նստաշրջանները (cookie/IP/2019), երբ քեշը բնակեցված է տեղական կամ ստատեֆուլ կոնտեքստով (օրինակ, iGaming-ի նախկին սեղանը)։

Մինուսները 'հյուրանոցային էֆեկտը, ավելի դժվար է լուծարել միգրանտները։

Լուծումը 'կարճ TTL կլեյոսկոմիա, արտաքին օբյեկտների (Redis, session store), shared-nothing և event-sourcing, որտեղ հնարավոր է։

5) Health-winks և պաշտպանություն ֆլամպինգից

L7 կոնտենտային ստուգումները (ass.ru մարմնի/վերնագրի) «200-նման հաջողության» փոխարեն։

Համակցված փորձարկումներ ՝ TSR + NTTR + ներքին «/ready »տարբեր թայմաուտներով։

Դեբաունս 'n ձախողումները բացառություն են։ մ հաջողությունները ցույց են տալիս վերադարձը փամփուշտին։

Corier detics: հանգույցների ավտոմատ բացառումը բարձր error-rate/լատենտ (eject)։

6) Թայմաուտների, գետերի և backpressure քաղաքները

Budget-կենտրոնացված գետերը 'օգտագործողի ընդհանուր ժամանակի սահմանափակումը (օրինակ, 800 ms SLA wwww.retriable 2-200 ms + պահուստ)։

Circuit Breakers-ը 'միաժամանակ հարցումների/միակցիչների սահմանափակումն է սխալների մեջ։

Distas/Rate Limits: դեֆոլտ «108-տենանտ/105-IP/105-բանալին» հենց տարածաշրջանի մոտ։

Server-side queueing: Կարճ հերթեր կամ ակնհայտ դեգրադացիայից հրաժարվելը, որպեսզի չփչացնի լատենտության պոչը։

7) Համաշխարհային հավասարակշռությունը և անկայունությունը

Geo-routing: Ուշացումով (latency-based), հաճախորդի տարածքում, առողջությամբ։

Anycase + health-probes: Երթուղիների ակնթարթային փոխակերպումը PoP-ի անկման ժամանակ։

Failover-հիերարխիա: RoR-ը ռուսական ամպի տարածք է։ սառը/տաք/տաք DR։

Traffic Partitioning: Ապրանքային/իրավաբանական մեկուսացում (երկրներ, վճարումների պրովայդերներ, VIP հատվածներ)։

8) Հոսքերի և իրական ժամանակի հավասարակշռություն

Windows Socket/SSE/gRPC-stream: Երկարաժամկետ միացությունները հետևեք միակցություններին/հանգույցներին, վերաբաշխմանը scale-out-ում։

Sticky-ը օգտագործողի կամ սենյակի/սեղանի միջոցով հետևողական հեշթինգի միջոցով։

Altain/PreStop Hooks: Ճիշտ վտարել միացությունները ալյումինի և ավտոսրահի ժամանակ։

9) Անվտանգությունը պարագծի վրա

TMS տերմինացիան, HSTS, ALPN; MTSA-ի համար east-west-ի համար։

WAF/բոտ կառավարումը մինչև ծրագրերի հավասարակշռողը։

DDoS-защита: rate-limits, challenge-/proof-of-work, upstream scrubbing.

Քաղաքական գործիչները որպես կոդ (OPA/Kyverno/Envoy RBAC)։

10) Դիտարկումը և SLO-ն հավասարակշռության համար

SLI 'հաջողակ հարցումներ, սխալ/վայրկյան, p50/p95/p99 լատենտ, satur.ru (CPU/con/epoll)։

Per-backend-metriks: request rate, error rate, EWMA-latency-ը ալգորիթմներ է։

Լոգա L7: Կորած լինեք մասունքներով (ծանոթագրություններ), դրոշներով, կանարեներով։

Alerts: burn-rate և հաճախորդի ախտանիշներով (արտաքին սինթետիկ)։

11) Autskeiling և cost արդյունավետություն

HPA/KEDA/KEDA-ն 'RPS-ի մասշտաբը, հերթերը, օգտագործողի մետրերը։

Weighted-routing-ը արժեքով, ավելի էժան շրջանները/ամպերը ավելի մեծ քաշ են ստանում նորմալ բեռով։

Warm poo.ru/ենթաօրենսդրություն 'նախօրոք քրոնիկները, որպեսզի չմոռանան սառը սկիզբը։

12) Փոփոխությունների կառավարում ՝ canary, shadow, blue-green

Canary-միկրոօրգանիզացիա: 1% 245 տոկոսը 25 տոկոսն է, երբ SLO-ն դեգրադացվում է։

Shadow traffic: Հարցումների կրկնօրինակումը նոր տարբերակում առանց հաճախորդի պատասխանի (վալիդացիայի համար)։

Blue-Green 'VIP/ուղղման աղյուսակների ակնթարթային փոխանցում; արագ արձագանք։

13) Կազմաձևը և GitOps-ը

Ճշմարտության միակ աղբյուրը 'երթուղիները, քաշը, թայմաուտների և լիմիտների քաղաքականությունը' հետազոտություններում։

Կազմաձևի առաջացումը միջիններով (dev nostage) նույն պարամետրով։

Վալիդացիան և կազմաձևման թեստերը 'ոսպնյակներ, www.y-run, քարտեզների սիմուլյացիա։

14) Մասնավոր քեյսները (կարգավորվող օրինագծերը)

Ստացիոնար/KUS պրովայդերներ 'զուգահեռ ջրանցքներ, անցում որակի/պատասխանելու ժամանակի; SLO-ի նախկին պրովայդեր։

Մուլտֆիլմի իրավասությունները 'գեո-միկրոօրգանիզացիա, բովանդակության/սահմանափակումների քաղաքականություն երկրում։

VIP հատվածներ 'առանձին քաշներ/ալիքներ, բարձրացված SLO, UX դեգրադացիայի «բռնակներ»։

15) Anti-patterna

Մեկ հավասարակշռիչ որպես «մերժման միակ կետ»։

STICKY-ը NAT-ի համար «կպչուն» և խաչմերուկ է։

Համընդհանուր RR ծանր/երկար պահանջներով 'պոչերի աճը p99։

Repray առանց բյուջեի և առանց գաղափարախոսության 'հարցումների փոթորիկ։

Health-prok-ը միայն TCP-ն է '«կանաչ» չաշխատող ժամանակ։

Առանց TTL-ի «հավերժական» նստաշրջանները հանգույցների ռոտացիայի անհնարինությունն են։

Եզրերը ձեռքով են ղեկավարվում, առանց նախանձի և խղճահարության ՝ դրեյֆի և միջադեպերի։

16)

• Ընտրվել է մակարդակը 'L4/L7/GSLB, որոշվում են նպատակներն ու պատասխանատվության գոտիները։
• Բաշխման ալգորիթմը համապատասխանում է բեռի մոդուլին (EWMA/LC/Hash)։
• Կոնսիստենտ հեշթինգը այնտեղ, որտեղ ստատեֆուլ կոնտեքստի կարիք կա։
• Համակցված health-winks, www.ier-ej.ru, դեբաունս։
• Timauts/retrai/limita - որպես կոդ, ժամանակի կատալոգներով։
• Per-backend և հաճախորդների սինթետիկ; burn-rate alerta։
• Canary/blue-green + shadow traffic; արագ արձագանք։
• GitOps եզրերի համար; ww.y-run և երթուղիների թեստեր։
• Պլանը DR և failover հիերարխիան (RoR-ը ռուսական ամպի տարածաշրջանը)։
• VIP/իրավաբանական կոորդինատների և պրովայդերների մեկուսացումը։

17) Ճարտարապետական հոսքի օրինակ

1. GSLB (latency-based) հաճախորդին ուղարկում է մոտակա առողջ տարածք։

2. Edge/L7 հավասարակշռիչը օգտագործում է WAF, TSA, rate-limits, կանարեյկան 5%։

3. Winmesh-ը բաժանում է LC + EWMA-ի ենթատեսակների վրա, բացառությամբ www.iers-ի։

4. Real-time սեղանների համար 'consistent hashing' table _ id ', sticky TTL 10-ը։

5. HPA-ն մեծացնում է առաջնագծերը RPS-ով և հերթերով։ warm pool-ը պատրաստված է առանց սառը մեկնարկի։

6. Դիտարկումը 'p50/p95/p99, error-rate, saturae, burn-rate։

7. Քայքայման դեպքում 'հանգույցների 105-eject, կանարեյկայի նվազումը, պահեստային պրովայդերի անցումը, տարբերակները։

18) Արդյունքը

Բեռի հավասարակշռումը վիրահատական առարկան է, որը միացնում է ցանցը, ծրագիրը, տվյալները և բիզնես-SLO-ը։ Ճիշտ ընտրված մակարդակը (L4/L7/GSLB), համարժեք ալգորիթմներ, խիստ health-winks, թայմաուտների և գետերի քաղաքականությունը, դիտարկումը և GitOps-ի կառավարումը փոխակերպում են հավասարակշռությունը «պարամետրերի տուփից» 'ծառայությունների կայուն և տնտեսական մատակարարման մեխանիզմի մեջ։