Temir va resurslarni optimallashtirish

Qisqacha xulosa

Optimallashtirish - bu «bir narsani tezlashtirish» emas, balki unumdorlikni muvozanatlash. Asosiy qadamlar: SLI/SLO va profillarni o’lchash, tor joylarni topish, quvvatni «to’g’ri o’lchash», kattalashtirishni avtomatlashtirish va rasmlar/chartlar/siyosatlardagi yaxshilanishlarni mustahkamlash.

Maqsad va prinsiplar

UX dan temirga: SLOdan boshlaymiz (p95 latency, operatsiyalar muvaffaqiyati) → cheklovchi resursni qidiramiz.
To’g "ri o’lcham (rightsizing): yuklama xususiyatiga mos keladigan resurslar va instantsiyalar turlari.
Kesh va yaqinlik: omborxonalar va tarmoqlarga «qimmat» sayohatlarni kamaytiring.
Avtomatlashtirish: autoscaling, hayot sikli siyosati, IaC.
Kuzatish darajasi: «to’rt signal» metrikasi, CPU/alloc profillari, treysing.
Xavfsizlik = unumdorlik: mTLS/imzolar/limitlar - iloji boricha apparat tezlashuvi bilan.

CPU va rejalashtirish

Vazifalar: kontenshen va kesh xatolarini minimallashtirish, NUMA va uzilishlarni hisobga olish.

NUMA-xabardorlik: pinning uzellar bo’yicha (’numactl --cpunodebind --membind’), DB/brokerlar uchun - uzelda qayd etish.
IRQ/softirq: yadrolar bo’yicha taqsimlash (RSS/RPS), o’quvchilar bilan raqobatlashmasdan CPUga issiq navbatlarni biriktirish.
Giperpoteksiya: «latentlikka sezgir» bo’lganlar uchun - vorkerlarni fizik yadrolarga o’rnatish.
Kontekst-svitchi: uzun navbatlar/batchinglar/asinxron orqali kamaytirish.
Kompilyatorlar/JIT: PGO/LTO (C/C + +), Graal/HotSpot profillari (Java),’GOMAXPROCS’va vorker tanlash (Go).

bash
IRQ affinity: bind NIC queue to specific CPU echo 2 >/ proc/irq/XX/smp_affinity # kernel mask
Softirq balance on sysctl -w net network cores. core. netdev_budget=600 sysctl -w net. core. netdev_max_backlog=5000

Xotira va allokatsiyalarni boshqarish

THP/HugePages: JVM/DB uchun - odatda THP oʻchirish va hugepages qoʻlda ishlatish (TLB xatolarini kamaytiradi).
NUMA balansi: stateful uchun - lokal uzelda xotirani qayd etish.

• JVM: G1/ZGC,’-Xms = -Xmx’teng, aqlli’MaxGCPauseMillis’.
• Go:’GOGC’(100-200 dan boshlash), keraksiz allokatsiyalardan qochish,’pprof’profillari.
• Python:’uvloop’,’asyncio’,’C’kengaytmalaridan foydalanish.
• Swap/zswap: prodda odatda kritik servislar uchun swap off; umumiy maqsadli uzellarda - «yumshoq» yuklamalar uchun zswap.

Saqlash va I/O

Disk turlari: hot-path ostida NVMe, log/chekapint/temp uchun alohida pullar.
FS: XFS katta fayllar/DB-jurnallar uchun; ext4 kichik/universal uchun.
RAID/EC: past kechikishlar uchun RAID10, sovuq ma’lumotlar uchun RAID6/EC.
I/O-rejalashtiruvchilar:’none ’/’ mq-deadline’uchun NVMe.
Async/Batch: yozuvlarni guruhlang, Write-Behind/Group-Commit dan foydalaning.

bash fio --name=randread --filename=/data/test --size=20G --bs=4k \
--iodepth=64 --rw=randread --ioengine=libaio --numjobs=4 --time_based --runtime=60

Tarmoq

MTU va offload: datatsentrda 9000 MTU (agar end-to-end bo’lsa), GRO/LROni yo’l qo’yiladigan joyga qo’shing.
RSS/RPS/RFS: NIC uchun koʻp kanalli navbatlar, yadrolar boʻyicha taqsimlash; irqbalance - nazorat ostida.
SO_REUSEPORT: yadrolar boʻyicha taqsimlangan kattalashtiriladigan listen-soketlar.
Mijoz taymautlari va pullingi: qisqa TCP-keepalive, ochiq konnektlar limiti, backpressure.
TLS: TLS 1. 3, AES-NI, session resumption, OCSP stapling apparat yo’riqnomalari.

bash sysctl -w net. core. rmem_max=268435456 sysctl -w net. core. wmem_max=268435456 sysctl -w net. ipv4. tcp_rmem="4096 87380 134217728"
sysctl -w net. ipv4. tcp_wmem="4096 65536 134217728"

GPU/FPGA/SmartNIC (oʻrinli)

GPU: antifrod inferensi, tavsiyalar, CV; ’util’,’mem’,’sm _ efficiency’ni kuzatib borish.
SmartNIC/eBPF/DPDK: yadroga o’tmasdan L4/L7 tushirish, filtrlash, telemetriya.
Energoprofili: chastotalarni barqaror latentlik ostida qayd etish; tajovuzkor power-save-dan qochish.

[O’zbekiston Respublikasi Adliya vazirligi]

Ulanish pullari:’max _ conns’ni cheklash, connection pooling (PgBouncer/Hikari) ni qoʻllash.
Indekslar/rejalashtiruvchilar: indekslar, partiyalashtirishni qamrab oluvchi EXPLAIN/ANALYZE profillari.
Kesh: Redis/in-protsess kesh, statika uchun CDN, «issiq» API uchun edge-kesh.
Idempotentlik va navbatlar: retraj kaskadlaridan qoching, dedup yoqing.
Gzip/Brotli: javoblarni CPU qiymatini hisobga olgan holda siqish; balansni tanlang.

Konteynyerlar va Kubernetes

Requests/Limits и bin-packing

Requests = «kafolat», Limits = «shift». CPU → throttling va p99 uchun notoʻgʻri Limits.
Burst-yuklamalarni (turnirlar/o’yinlar cho’qqilarini) hisobga oling - p95 zaxirasi.
Bin-packing: tugun pullarini ajrating (latency-crit, batch, GPU, spot). Topologiyadan (anti-affinity, spread) foydalaning.

Avtomashtarlash

Kastom metriklar bo’yicha HPA (CPU emas, RPS/p95).
«Uzoq umr ko’radigan» va «ko’piksiz» vorkloadlar uchun VPA.
Cluster Autoscaler + alohida node-guruhlar (on-demand/spot).
KEDA hodisa yuklamalari uchun (navbatlar, Kafka, cron).

Rejalashtiruvchi va menejerlar

CPU Manager: «static» to’liq yadrolarni latency-tanqidiy postlarga pinning uchun.
Topology Manager: NUMA boʻyicha tekislash.
HugePages/Device Plugins: DB/past latentlik va GPU/FPGA uchun.

yaml apiVersion: autoscaling/v2 kind: HorizontalPodAutoscaler metadata: { name: api-gw }
spec:
scaleTargetRef:
apiVersion: apps/v1 kind: Deployment name: api-gw minReplicas: 6 maxReplicas: 60 metrics:
- type: Pods pods:
metric:
name: http_latency_p95_ms target:
type: AverageValue averageValue: 120

FinOps va qiymati

Tarif profillari: CPU/RAM/disk/tarmoq orqali instansiyalarni tanlash (compute-optimized, memory-optimized, storage-optimized).
Spot/Preemptible: batch/steyjing/multizon ortiqcha keshlar uchun.
Reservation/Savings: «doimiy» qism uchun 1-3 yillik zaxiralar.
Issiq/sovuq: tiered-storage, arxivlar uchun obyekt, log retenshn.
Idle-resurslar: kechasi/dam olish kunlarida to’xtab turish.

Energiya samaradorligi (GreenOps)

Power profiles: performance vs balanced services.
Ko-joylashtirish: «sovuq» soatlarda muhrlash, foydalanilmayotgan uzellarni o’chirish.
KPI: so’rov uchun vatt, p95/vatt, CO ₂ provayder metrikasi.

Kuzatish va test sinovlari

Метрики: CPU steal/throttle, `cycles/instructions`, LLC miss, RSS/working set, page faults, disk lat p95/99, NIC drops, retransmits.
Treysing: «oltin yo’llar» uchun taqsimlangan treyslar.
Profillash: eBPF/Perf/Flamegraphs,’pprof ’/YourKit/JFR.
Yuklash testlari: SLO-yo’naltirilgan, haqiqiy operatsiyalar mix, «isitish» fazasi, fault-inyeksiya.

promql
CPU throttling доля sum(rate(container_cpu_cfs_throttled_seconds_total[5m])) by (pod)
/ sum(rate(container_cpu_usage_seconds_total[5m])) by (pod)

Network loss sum (rate (node_net_dropped_total[5m])) by (instance)

Optimallashtirish chek-varaqasi

• SLO va «oltin yo’llar» (API/to’lovlar/to’lovlar) aniqlangan.
• CPU/alloc/IO/tarmoq profillari toʻplangan, top-N tor joylari topilgan.
• NUMA/IRQ/RSS latency-kritik tugunlarda oʻrnatilgan.
• THP off (kerak bo’lganda), hugepages DB/Java xizmatlari uchun.
• NVMe issiq ma’lumotlar ostida, XFS/IO-sched sozlangan, fio-bench tasdiqlangan.
• Tarmoq steki: MTU, RPS/RFS, SO_REUSEPORT; taymautlar/pullar.
• Kubernetes: Requests to’g’ri, Limits bo’g’ilmaydi, biznes metrik HPA, VPA/CA kiritilgan.
• «Qimmat» yo’llarda keshlash va CDN; Redis/edge kesh.
• FinOps: rightsizing/rezervlar/spot-pullar; idle-muhitni to’xtatish.
• CI da avtotestlar, p95/p99 da regressiya.

iGaming/fintech uchun o’ziga xos

Jadval bo’yicha cho’qqilar: turnirlar/o’yinlar/aksiyalar → frontlarning «elastik» hovuzi, keshlarni isitishdan oldin/CDN, HPA RPS/latentlik bo’yicha.
To’lovlar va to’lovlar: alohida «oltin» IP/domenlar, ustuvor navbatlar, resurslarni izolyatsiya qilish (taints/tolerations), baza bo’yicha zaxira.
Antibot/antifrod: heavy-modellar - GPU-vorkerlarda; onlayn-skoring ≤ 50 ms p95; fich kesh.
Regulyator: oʻzgarmas loglar va shifrlash SLOni buzmasligi kerak - apparat tezlatmalari va asinxron payplaynlarni yoqing.

Mini-pleybuklar

1. Burn-rate SLOni solishtirish; 2)’cpu/alloc’profillari; 3) orqaga qaytish/fichflag; 4) replikalarni/API-keshni ko’paytirish; 5) RCA va testni tuzatish.

1. CDN/keshni isitish; 2) minReplicas ko’tarish; 3) burst-limitlar kiritilsin; 4) navbatlarni tarqatish; 5) ikkinchi darajali funksiyalar uchun read-only-rejimini kiritish.

Tipik xatolar

Limits CPU cho’qqilarni bo’g’ib qo’yadi → yuqori p99.
Notoʻgʻri tugunlar: latency-kritik va batch aralashtiriladi.
DB/brokerlarda NUMA/IRQ sozlamalari mavjud emas.
Algoritmlarni/keshlarni/SQLni tuzatish o’rniga «simptomlarni davolaymiz» (CPU qo’shamiz).
CPU boʻyicha HPA RPS/latency → oʻrniga kech tugadi.
Prodda CI → regressiya natijadorlik testlari yoʻq.

Jami

Optimallashtirish - bu tizimli ish: SLI/SLO o’lchang, profillang, algoritmlarni tuzating, temirni (NUMA/IRQ/IO/tarmoq) sozlang, resurslarni «to’g’ri o’lchang» va kattalashtirishni avtomatlashtiring. Shablonlarda (rasmlar, jadvallar, siyosatlar) yaxshilanishlarni mustahkamlang, xarajatlar va energiyani nazorat qiling - va platformaniz keskin cho’qqilarda ham tez, tejamkor va barqaror bo’lib qoladi.