Əməliyyatlarda yükün balanslaşdırılması

1) Niyə əməliyyat qrupu balansı idarə edir

Yükün balanslaşdırılması yalnız sorğuların paylanması deyil. Bu risk və performans idarəetmə təbəqəsidir: nasazlıq radiusunun məhdudlaşdırılması, proqnozlaşdırıla bilən gecikmə, miqyaslı qənaət, «səs-küylü qonşuların» təcrid edilməsi, SLO-nun icrasına birbaşa təsir və hadisələrin dəyəri.

2) Balans layları: şəbəkədən biznes əməliyyatlarına

L3/L4 (IP/port): sadə və sürətli (DSR, ECMP, IPVS, LVS). TCP/UDP xidmətləri, brokerlər, gates üçün idealdır.
L7 (HTTP/gRPC/WebSocket): yol/başlıq/meta-məlumat marşrutu; canary, A/B, geo- və müştəri-aware siyasəti.
GSLB/GeoDNS/Anycast: regionlar üzrə qlobal paylama/RoR, regionların gecikməsinin, yaxınlığının və sağlamlığının uçotu.
Xidmətdaxili balans: service discovery (xDS, Consul, Eureka) ilə müştərilər, müştəri balanslayıcıları (gRPC pick_first/round_robin), service mesh.

3) Paylama alqoritmləri və onları nə zaman tətbiq etmək

Round-Robin (RR): homojen qovşaqlar və qısa sorğular üçün sadə əsas variant.
Least Connections (LC): Müxtəlif sorğu müddəti ilə daha yaxşıdır.
Least Request/Peak EWMA: «Uzun» sorğular və səs-küy ilə gecikməni uyğunlaşdırır.
Weighted RR/LC: qovşaqların gücünü və ya «cost guardrails» nəzərə alır.
Consistent Hashing (Rendezvous/Maglev): sticky açarları üçün (istifadəçi, masa/otaq, səbət), miqyaslandırma zamanı yenidən marşrutlaşdırmanı azaldır.
Power of Two Choices: Daha az telemetriya ilə yüksək yük ilə LC yaxşı yaxınlaşma.
Hedged/Retry Budgeted Requests: p99 üçün retraj büdcəsi ilə paralel tutma sorğuları.

4) Sessiyalar, vəziyyət və yapışqanlıq

Sticky sessiyaları (cookie/IP/identifikator) - cache yerli və ya stateful kontekst (məsələn, iGaming-də canlı masa) olduqda.
Mənfi cəhətləri: hotspot effekti, düyünləri boşaltmaq daha çətindir.
Həll: Qısa TTL yapışqanlıqları, sərvətin xarici saxlama yerlərinə (Redis, session store), şəred-nothing və event-sourcing.

5) Health-checks və flapping qorunması

«200-kimi-uğur» əvəzinə L7 kontent yoxlamaları (bədən/başlıq üzrə asssert).
Kombinə edilmiş nümunələr: TSR + NTTR + daxili '/ready 'müxtəlif vaxtlarla.
Debauns: n uğursuzluq → istisna; m uğur → hovuza qayıtmaq.
Outlier detection: yüksək error-rate/gecikmə (ejection) ilə komponentlərin avtomatik istisna.

6) Taymaut, retraj və backpressure siyasəti

Budget yönümlü retralar: istifadəçinin ümumi vaxtının məhdudlaşdırılması (məsələn, 800 ms SLA → retriable 2 × 200 ms + ehtiyat).
Circuit Breakers: eyni vaxtda sorğuların/bağlantıların/k-nin səhvlərin məhdudlaşdırılması.
Quotas/Rate Limits: defolt «per-tenant/per-IP/per-açar» limitləri ən kənarda.
Server-side queueing: qısa növbələr və ya gizli quyruğu «sürətləndirmək» üçün açıq deqradasiya ilə imtina.

7) Qlobal balans və pozulma müqaviməti

Geo-routing: gecikmə (latency-based), müştərinin bölgəsi, sağlamlıq.
Anycast + health-probes: PoP düşdükdə marşrutların ani yaxınlaşması.
Failover-iyerarxiya: RoR → region → bulud; soyuq/isti/isti DR.
Traffic Partitioning: ərzaq/hüquqi təcrid (ölkələr, ödəniş provayderləri, VIP seqmentlər).

8) axınlar və real vaxt üçün balans

WebSocket/SSE/gRPC-stream: uzunmüddətli bağlantılar → bağlantıları/qovşağı izləyin, scale-out zamanı yenidən bölüşdürün.
Sticky concistent hash vasitəsilə istifadəçi və ya otaq/masa.
Drain/PreStop Hooks: Reliz və avtoskeyl zamanı bağlantıları düzgün çıxarmaq.

9) Perimetr təhlükəsizliyi

TLS terminasiyası, HSTS, ALPN; mTLS east-west üçün.
WAF/bot idarəetmə app balanslaşdırıcı qədər.
DDoS-защита: rate-limits, challenge-/proof-of-work, upstream scrubbing.
Kod kimi siyasətlər (OPA/Kyverno/Envoy RBAC).

10) Balans üçün müşahidə və SLO

SLI: uğurlu sorğular, səhv/san, p50/p95/p99 gecikmə, saturations (CPU/conn/epoll).
Per-backend metrikası: request rate, error rate, EWMA-latency → alqoritmlərə giriş.
L7 Logi: Relizlər (annotasiyalar), fich bayraqları, kanaryalar ilə korellasiya.
Allerts: burn-rate büdcə səhvləri və müştəri simptomları (xarici sintetika).

11) Avtoskeylinq və cost-effektivlik

HPA/VPA/KEDA: RPS, növbələr, istifadəçi metrikləri ilə ölçmək.
dəyər üzrə Weighted-routing: daha ucuz regionlar/buludlar normal yük ilə daha çox çəki alır.
Warm pools/qızdırma: soyuq başlanğıc «tutmaq» üçün əvvəlcədən qızdırılmış nümunələr.

12) Dəyişikliyin idarə edilməsi: canary, shadow, blue-green

Canary-marşrutlaşdırma: 1% → 5% → 25% SLO ilə deqradasiya zamanı avtomatik stop ilə.
Shadow traffic: müştəriyə cavab vermədən yeni versiyaya sorğuların dublyajı (validasiya üçün).
Blue-Green: VIP/marşrut cədvəlinin dərhal dəyişdirilməsi; sürətli geri dönüş.

13) Konfiqurasiya və GitOps

Həqiqətin vahid mənbəyi: marşrutlar, çəkilər, taymaut və limit siyasəti - anbarda.
Çərşənbə konfiqurasiya promosyonu (dev → stage → prod) eyni paylayndır.
Validasiya və konfiqurasiya testləri: linterlər, dry-run, trafik kartlarının simulyasiyası.

14) Xüsusi kasalar (tənzimlənən domenlər)

Ödəniş/KUS provayderləri: paralel kanallar, cavab keyfiyyətinə/vaxtına görə keçid; SLO per-provayderi.
Multi-yurisdiksiyalar: geo-marşrutlaşdırma, ölkə üzrə məzmun/limitlər siyasəti.
VIP seqmentlər: ayrı-ayrı çəkilər/kanallar, artan SLO, UX deqradasiya «qolları».

15) Anti-nümunələr

«Yeganə uğursuzluq nöqtəsi» kimi bir balanslaşdırıcı.
NAT üçün IP Sticky - «yapışqan» klasteri və trafik çarpazlığı.
Ağır/uzun istəklərdə universal RR - p99 quyruq böyüməsi.
Büdcəsiz və idempotentsiz retrajlar - fırtına sorğuları.
Health-check yalnız TCP - proqramın işləməməsi ilə «yaşıl».
TTL olmadan «əbədi» yapışqan sessiyalar - qovşaqların boşaldılmasının mümkünsüzlüyü.
Konfiqlər əl ilə, təkan və promosyonsuz - sürüklənmə və insidentlər ilə idarə olunur.

16) Giriş çek siyahısı

• Seçilmiş səviyyə: L4/L7/GSLB, müəyyən məqsədlər və məsuliyyət sahələri.
• Paylama alqoritmi yük profilinə uyğundur (EWMA/LC/Hash).
• Stateful kontekstinə ehtiyacınız olduqda konsistent hash.
• Combo health-checks, outlier-ejection, debauns.
• Vaxtlar/retrajlar/limitlər - zaman büdcələri ilə kod kimi.
• per-backend müşahidə və müştəri sintetika; burn-rate alert.
• Canary/blue-green + shadow traffic; sürətli geri dönüş.
• Konfiqurasiya üçün GitOps; dry-run və marşrut testləri.
• DR planı və failover iyerarxiyası (RoR → region → bulud).
• VIP/hüquqi kohortlar və provayderlərin izolyasiyası.

17) Memarlıq axını nümunəsi

1. GSLB (latency-based) müştərini ən yaxın sağlam bölgəyə göndərir.
2. Edge/L7 balanslayıcı WAF, TLS, rate-limits, kanarya 5% tətbiq edir.
3. Service mesh, outliers istisna olmaqla, LC + EWMA ilə paylanır.
4. Real-time masalar üçün - consistent hashing 'table _ id', sticky TTL 10 dəq.
5. HPA RPS və növbələr üzrə frontendləri genişləndirir; warm pool → soyuq başlanğıc olmadan.
6. Müşahidə: dashboard p50/p95/p99, error-rate, saturations, burn-rate.
7. Deqradasiya zamanı: auto-eject düyünləri, kanaryanın azaldılması, ehtiyat provayderə keçid, geri dönüş versiyası.

18) Yekun

Yükün balanslaşdırılması şəbəkə, proqram, məlumat və biznes SLO birləşdirən əməliyyat intizamıdır. Düzgün seçilmiş səviyyə (L4/L7/GSLB), adekvat alqoritmlər, ciddi sağlamlıq yoxlamaları, vaxt və retraj siyasətləri, müşahidə və GitOps idarəetmə balansı «parametrlər qutusundan» davamlı və qənaətli xidmət təchizatı mexanizminə çevirir.