Awtoskeyling we SLA balansy
Awtoskeyling we SLA balansy
1) Maksatlar we ýörelgeler
Awtoskeylingiň maksady SLO-ny (gizlinligi/elýeterliligi) iň pes bahada saklamak.
SLA, SLO, SLA Cost: "tükeniksiz" masştaby kowalamaýarys - býudjetdäki ýalňyşlyklar we pul çäkleri.
Açyk ýük modeli: gelýän haýyşlar 'λ' intensiwlik akymyny emele getirýär; ulgam ortaça parallelligi üpjün etmeli 'N ≈ λ × W' (Littl kanuny), bu ýerde 'W' - hyzmatyň ortaça wagty.
2) Haýsy metrikler triggerlere laýyk gelýär
Tehniki:- CPU/RAM/IO (doýmak üçin proxy).
- Bäsdeşlik ukyby (in-flight) we pool wait.
- p95/p99 application latency (SLO-ny hakyky görkezýär).
- RPS/arrival rate (arzalaryň tizligi).
- Nobatlar: habarlaryň çuňlugy, ýaşy, gaýtadan işlemegiň tizligi.
- Üstünlikli geleşikleriň paýy ≤ T sek (goýumlar, çek-aut).
- Amallary tassyklamagyň wagty.
Maslahat: 2-3 signaly birleşdiriň: mysal üçin hyzmatlar üçin latency + pools we workerler üçin queue depth + age.
3) Reaktiw vs öňünden aýdylýan skeýl
Reaktiw (feedback): HPA/ASG hakykata görä replikalary artdyrýar/azaldar. Simpleönekeý, ýöne lag bar.
Öňünden aýdylýan (feed-forward): senenama/öňki telemetriýa/bazar-wakalar. Pre-warm-i öz içine alýar: N-i iň ýokary derejä Δ t göteriň.
Iş ýüzünde: gibrid - baseline (minimal), wakalardan öň çaklaýjy ösüş, reaktiw getirýär.
4) Skail syýasaty we durnuklylyk parametrleri
Maksatly yzarlamak: Metrikany nyşanyň golaýynda saklamak (mysal üçin, CPU 60%).
Step scaling: artykmaç basgançaklar (goşundylarda agressiw).
Stabilization window/cooldown: flapping tekizlemek (mysal üçin, 60-180 sek).
Min/Max: aşaky we ýokarky çäkler; max - DB/üpjün edijiniň çäkleriniň çäginde.
5) Derejeleriň utgaşdyrylmagy (binagärlik kaskady)
1. Perimetri/API-şlýuzy - elastik, ýöne çäkleri we backpressure bilen.
2. Hyzmatlar - HPA latency/RPS/pool wait.
3. Nobatlar/workerler - Habarlaryň çuňlugy/ýaşy boýunça KEDA/ASG.
4. BD/kesh - seresaplylyk bilen masştablamak (replika/şardlamak), öňünden.
Düzgün: Programmany "maglumatlardan" has çalt köpeltmäň.
6) Nobatlar we Little kanuny (workerleri nädip sanamaly)
Giriş 'λ' (msg/s) we ortaça bejeriş wagty 'W' (s) bilen nobat üçin:- Zerur parallellik: 'N _ min ≈ λ × W'.
- Iň ýokary/guýruklary boýunça ätiýaçlyk bilen: 'N ≈ λ × W × (1. 2–1. 5)`.