Kuwwaty meýilleşdirmek we ýüküň ýokarlanmagy

Gysgaça gysgaça

1. Islegiň çaklamasy (esasy tendensiýa + möwsümlilik + çäreler).

2. Ýük modeli (internet üçin açyk model).

3. Howpsuzlyk ätiýaçlygy (headroom) we nädogry býudjet.

4. Ölçeg (gorizont/dik/awto) + çäklendirijiler (rate-limit/backpressure).

5. Maliýe: $/1000 RPS, $/ms p95, ssenariler boýunça TCO.

Terminler we metrikler

Throughput: RPS/QPS/CPS - hakyky geçiriş ukyby.
Latency p95/p99: Ulanyjy ýollary üçin maksatly SLO.
Saturation: CPU/ýat/IO/FD/baglanyşyk/nobat ýüklemek.
Error rate: 5xx/timeout/429, döwür üçin nädogry býudjet.
Headroom: iň ýokary traffikde erkin kuwwatyň paýy (30% ≥ maslahat berilýär).
Burst: gysga möhletli bökmek (sekunt/minut), Spike: ýiti ösüş × N.

Esasy modeller we formulalar

Little's Law (nobatly ulgamlar üçin)

L = λ W

L - ulgamdaky soraglaryň ortaça sany, λ - girişiň ortaça intensiwligi (RPS), W - ulgamdaky ortaça wagt. Nobatlaryň çuňlugyna baha bermek üçin peýdalydyr.

Ýüklemek koeffisiýenti (ρ)

ρ = λ / μ

μ - hyzmat tizligi (100% CPU-da RPS). ρ → 1-de gizlinlik çyzykly däl - iş nokadyny saklaň ρ ≤ 0. 6–0. 75.

Howpsuzlyk faktor/ätiýaçlyk

Capacity_required = Peak_load (1 + Headroom) Degradation_factor

Onda Degradation_factor N-den ýüz öwürmegi, kesiň zaýalanmagyny, bir RO/sebitiň ýitmegini göz öňünde tutýar (mysal üçin 1. 2).

Islegiň çaklamasy

1. Taryhy: gündelik/hepdelik profiller, möwsümlilik, wakalar bilen baglanyşyk (oýunlar/akymlar/tölegler).
2. Wakalar: ssenariý koeffisiýentleri (adaty gün × 1, ýaryş × 2. 3, jemleýji × 3. 5).
3. Fluktuasiýa çeşmeleri: marketing kampaniýalary, relizler, botlaryň anomaliýalary.
4. Çaklama birlikleri: marşrutlar boýunça RPS (login, lobby, catalog, payments), CPS TLS, QPS DB, IOPS disk, egress Gb/s.
5. Ynam: iki ssenariýany saklaň - konserwatiw we agressiw.

Ýükleri modellemek

Açyk-model (Poisson-şuňa meňzeş): köpçülige açyk API/web üçin dogry - sizing üçin ulanyň.
Closed-model (VU + think-time): içerki yzygiderlilik üçin amatly; birleşdiriň.
Marşrutlaryň garyndysy: endpointlere agramly paýlar; diňe "gyzgyn" däl, "gymmat" (hasaba alyş, goýum) hem goşuň.
Şuny ýatdan çykarmaň: retralar, nobatlar, hyzmatdaşlaryň çäkleri (PSP, üçünji tarap API).

Güýç ätiýaçlygynyň dizaýny

Maksatly Headroom: ≥ 30% iň ýokary (internet üçin); töleg özeni we möhüm ýollar üçin - 40-50%.
N + 1/N + 2: SLO-ny bozmazdan 1-2 hadysanyň/zonanyň şowsuzlygyna çydam edýäris.
Multi-region: her sebit jemi iň ýokary derejäniň 60% -ine ≥ (goňşusynyň ýitgisinden halas bolmak üçin).
Degrade-re modeim: ikinji derejeli funksiýalary öçürýäris, tölegleri azaldýarys, nagt/stab jogaplaryny açýarys.

Gatlaklara görä

Tor/Edge

Öň tarapda CPS/RPS, TLS-handshake p95, resumption ≥ 70%, egress Gb/s.
Anycast/Geo-routing, CDN/WAF çäkleri (öňünden ylalaşyň).
Ätiýaçlyk: link/aplink ≥ pik × 1. 3, H3 üçin UDP/443 bolan SYN backlog.

Deňagramlaşdyryjylar/Proxy

RPS instansiýa, açyk baglanyşyklar, nobatlar, CPU/IRQ.
Keepalive we connection pooling - arka taraplara baglanyşyklary azaldar.
Ätiýaçlyk: ρ ≤ 0. 7, limiter по CPS/RPS per route.

Programmalar

Platoda ýadro (RPS/core) üçin maksat öndürijiligi.
Howuzlar (thread/DB/HTTP) - çäklere bil baglamaň.
Ätiýaçlyk: 60-70% CPU we latency-trigger (p95) çenli awtoskeýl.

Keshler

Hit-ratio, hotset, eviction, replika.
Ätiýaçlyk: ýat ≥ 1. 2 × hotset, network headroom ≥ 30%.

Maglumat bazalary

QPS/TPM, p95 soraglar, blokirleme, bufer kesiş, WAL/replication lag.
IOPS we disk latency - p95 açary.
Ätiýaçlyk: CPU iş nokady 50-65%, <maksat; şardlamak meýilnamasy we read-replicas.

Diskler/Ammar

IOPS (4k/64k), throughput, fsync cost.
Ätiýaçlyk: IOPS ≥ iň ýokary × 1. 5, maksatly penjirede latency p95; magazineurnal/maglumatlar üçin aýratyn howuzlar.

GPU/ML (onlaýn inferens bar bolsa)

Samples/s, latency, VRAM headroom, batching.
Ätiýaçlyk: "arra" ýüküň batch-parametrleri, warm-pool GPU.

Awto-masştab

HPA/KEDA: CPU metrleri + aýratyn (p95 latency, RPS, nobat).
Warm pools: wakalardan öň gyzdyrylan zatlar.
Step-scaling: "kesmezlik" üçin cooldown ädimleri.
Reaksiýanyň wagty: öň gatlak üçin 1-2 minut T_scale ≤ nyşana alýarys; DB üçin - öňünden.

Çäklendirijiler we backpressure

Rate-limit по IP/ASN/device/route; hyzmatdaşlar üçin kwotalar.
TTL bilen nobatlar, "sypaýy" ret etmek (429/greý-wol arkaly) taýmutlardan has ir.
Idempotentlik: tölegler üçin açarlar; budget + jitter.
Request collapsing/SWR: bökdençlik wagtynda origini oýandyrmaň.

Çalt hasaplamagyň mysaly

Berlen: API boýunça 35k RPS iň ýokary çaklamasy, p95 ≤ 250 ms, 60% CPU → μ ≈ 125 RPS/core, 8 ýadro → ~ 1000 RPS/instans.
1-nji ädim (ätiýaçsyz): 35 instans.
2-nji ädim (headroom 30%): 35 × 1. 3 = 46.
3-nji ädim (bir AZ-dan ýüz öwürmek, + 20%): 46 × 1. 2 ≈ 55.
4-nji ädim (tegelek + gyzgyn ätiýaçlyk 10%): 61 instans.
Barlamak: ρ ≈ 35k/( 61k) ≈ 0. 57 - ýaşyl zolakda.

Maliýe modeli (FinOps)

$/1000 RPS gatlaklar boýunça (edge, proxy, app, DB).
$/ms p95 (guýrugy azaltmak bahasy).
TCO ssenarileri: on-demand vs reserved vs spot (kesmek töwekgelçiligi bilen).
Kuwwat meýilnamasy: hasaplaryň/klasterleriň çärýekleýin çäkleri, bulutlaryň kwotalary, PSP/CDN çäkleri.

Şowsuzlyga taýynlyk we DR

Multi-AZ/region: her bir egin ýüküň 60% -ini ≈.
Failover-plan: withdraw Anycast, GSLB geçiş, TTL ≤ 60-120 s.
Möhüm garaşlylyk: PSP/banklaryň çäkleri, ikinji derejeli üpjün ediji.
Döwürleýin maşklar: PoP/BG/kesmek öçürilen oýun güni.

Synlamak we irki doýma signallary

Durnukly girelgede p95/p99 we nobatlar.
Kesiň hit-ratio düşmegi, origin egress.
Retransmits/ECN CE köpelýär, TLS resumption düşýär.
429/timeout we retry-rate.
DB üçin - konfliktleriň köpelmegi, checkpoint time, WAL fsync.

Amal amallary

Her aýda Capacity review: hakykat vs meýilnama.
Çärelere üýtgetmek: ýadro we çäkler.
Prewarm (CDN/DNS/TLS/howuzlar) iň ýokary derejeden 10-30 minut öň.
Çäkleriň wersiýasy: Git-de rate-limit/pullaryň gaplaryny ýazga alyň.

iGaming/fintech üçin aýratynlyklar

Ýaryşlar/oýunlar: spike + plateau profilleri, botlar üçin çal ugurlar, hasaba alyş/goýumlaryň aýratyn çäkleri.
Tölegler/PSP: üpjün ediji/usul boýunça kwotalar, fallback-marşrutlar, egress-IP howuzlar, SLA Time-to-Wallet.
Mazmun üpjün edijileri: studiýalara paýlamak, gyzgyn nagt pullar, şard-howuzlar.
Antifrod/AML: düzgünleriň çäkleri/skoring, iň ýokary bolanda ýagty düzgünlere çenli pese gaçmak.

Giriş barlagy

• Iň ýokary derejeleriň çaklamasy (baza/möwsüm/çäreler), iki ssenariýa.
• SLO/nädogry býudjet we maksat otagy ≥ 30%.
• Gatlaklara görä (edge/proxy/app/cache/DB/IO/tor).
• Çäklendirijiler: rate-limit, nobatlar, idempotency, retry-budget.
• HPA/KEDA + warm pools; çäräniň öňündäki mahabat meýilnamasy.
• Multi-AZ/region, failover-playbook, TTL we GSLB.
• Bulut/PSP/CDN kwotalary ylalaşyldy we resminamalaşdyryldy.
• Syn edilişi: capacity dashbordlary, irki doýma signallary.
• DR-maşklar we yzygiderli capacity-review.

Adaty ýalňyşlyklar

Guýruksyz orta RPS meýilnamasy.
ρ≈0. 9 "kagyz ýüzünde" - iň az ses bilen gizlinlik partlaýar.
Daşarky hyzmatlaryň çäkleri (PSP/CDN/BD-klaster).
Degrade we backpressure ýok - kaskad feýlleri.
Awto-masştab gyzdyrylmazdan - "soň" iň ýokary derejä ýetýär.
Ähli gatlaklar üçin bir headroom - dar ýer göçýär.

Kiçi pleýbuklar

Iň ýokary wakadan öň (T-30 minut)

1. MinReplicas/target HPA-ny köpeltmek, warm pool-y açmak.
2. CDN/DNS/TLS/konnektleri gyzdyryň, kesişleri gyzdyryň.
3. Ylalaşyk boýunça howuzlaryň çäklerini we PSP kwotalaryny ýokarlandyrmak.
4. Çal ugurlary/bot-süzgüçleri açyň, agyr endpoýntlary daraltyň.

Sebitiň bölekleýin ýitmegi

1. GSLB → goňşy sebit, TTL 60-120 s.
2. Degrade-re modeimi açyň.
3. PSP/egress-IP çäklerini gaýtadan paýlamak.
4. Status aragatnaşygy, p95/ýalňyşlyklara gözegçilik etmek.

Retraidleriň köpelmegi

1. Retry-budget-i azaldyň, backoff + jitter-i açyň.
2. GET-de request-collapsing/SWR-i açyň.
3. "Şowhunly" ASN üçin rate-limiti wagtlaýyn berkitiň.

Jemi

Kuwwatlylygy meýilleşdirmek - isleg çaklamasy + in engineeringenerçilik modeli + howpsuzlyk ätiýaçlygy + operasiýa gollary. SLO we headroom-y resmileşdiriň, daşarky çäkleri göz öňünde tutuň, ulalmagy we zaýalanmagy awtomatlaşdyryň, "millisekundyň bahasyny" ölçäň we yzygiderli capacity-review geçiriň. Şonda ýüküň ýokarlanmagy töwekgelçilige däl-de, işiň dolandyrylýan metrikasyna öwrüler.