Oqimlarni ustuvorlashtirish

1) Nima uchun ustuvorlik kerak?

Agar yuk ortsa, «hamma narsa muhim» «hech narsaga vaqt topolmaymiz». Oqimlarni ustuvorlashtirish - bu cheklangan resurslarni (CPU, I/O, tarmoq, byudjet) oqimlar/joblar/tenantlar o’rtasida tanqidiy SLOlar bajarilishi va qiymati nazorat ostida qolishi uchun taqsimlashning tizimli usuli. Natija - vitrinalarning bashorat qilinadigan yangiligi, ishlamaydigan alertlar va qayta hisoblashning barqaror oynalari.

2) Oqimlar taksonomiyasi va ahamiyat mezonlari

• Vaqt: real/near-real-time (soniya-daqiqa), interaktiv (daqiqa), oflayn/batch (soat).
• Tanqidiylik: moliyaviy/tartibga solish, noxush, oziq-ovqat, tadqiqot.
• Qaramliklar: boshqa vitrinalar uchun manbalar (upstream) vs oxirgi (downstream).
• To’xtab turish narxi: kechikish daqiqasi/soati uchun zarar (SLO breach cost).
• Tenantlik: ichki jamoa, sherik, tashqi mijoz.

Amaliyot: har bir sinfga - Business Priority (BP) va Technical Priority (TP); yakun - kompozit ustuvorlik’P = w1BP + w2TP + w3CostRisk’.

3) Oqimlar uchun SLA/SLO/SI modeli

SLA: shartnoma kafolati (masalan, "moliyaviy vitrin T + 15 min. 99. 9%»).
SLO: muhandislik maqsadlari (p95 yangilik ≤ 10 min; p99 kechikish ≤ 60 sek).
SI (Saturation Index): joriy yuklashning limitlarga nisbati; dasturchi tomonidan ishlatiladi.

Gvardrails: guardrail-metriklar (masalan, validatsiya xatolari, o’tkazib yuborishlar) ta’mirlash oqimlarining ustuvorligini vaqtincha oshirishi mumkin.

4) Xizmat ko’rsatish klasslari (QoS) va siyosati

Gold (business-critical): to’lovlar, antifrod, tartibga soluvchi hisobotlar, noxush alertlar.
Silver (product-critical): qo’llanma, kampaniya dashbordlari uchun vitrinalar, risk-skoring.
Bronze (best-effort): tadqiqot batchlari, uzoq muddatli re-build va keng derazalar.

• Strict Priority (SP): Gold har doim oldinda; och qolish xavfi.
• Weighted Fair Queuing (WFQ): trafik/job vazni, adolat nazorati.
• Deficit Round-Robin (DRR): qayta ishlash uchun kvotalar, tarmoq/striming uzellari uchun yaxshi.
• Deadline-aware: yaqin muddatga ega vazifalar bustga ega.
• Cost-aware: Agar «qimmat soat» va SLO ruxsat bersa, qayta hisoblash kechiktirildi.

5) Rejalashtiruvchilar va navbatlar (darajalarda)

• Topiklar/navbatlar QoS sinflariga bo’lingan; prodyuserlar limitlari; kvotalar orqali backpressure.
• rate limit + burst tokens siyosati (token bucket).

• Gold uchun alohida executors.
• Preemption: tanqislikda (chastotasi cheklangan) resurslarni tanlash.
• Admission control: byudjet va SLO boʻyicha kirish filtri; «qimmatbaho» joblarning derazasiz chetga chiqishi.

• Raqobatbardosh I/O va so’rovlarning ustuvor navbatlari.
• Materialized views: Gold - inkremental, Silver - davriy, Bronze - jadval bo’yicha/tungi oynalarda.

6) Backpressure, limitlar va tizimlarni himoya qilish

Backpressure signallari bilan: iste’molchidan prodyuserga (lag/latency/queue depth).
Soʻrov/jobga limitlar: bytes scanned, rows returned, wall-time caps.
Circuit Breakers: ortiqcha yuklashda - soddalashtirilgan agregatlar yoki «issiq» snapshotlargacha degradatsiya.
Shed-load: tanqidiy oqimlarni qutqarish uchun best-effort oqimlarini yo’q qilish/qisqartirish.

7) Ko’p tenantlik va «adolat»

Tenantlar bo’yicha kvotalar: CPU/IO/vaqt birligidagi qiymat.
So’rovlar sinflari uchun og’irlik: tahlillar, hisobotlar, ML-fichlar - turli limitlar.
Budget envelopes: haftalik/oylik shiftlar; tugaganda - ustuvorlikni pasaytirish, off-peak ga o’tkazish.

8) Qiymati va «ustuvorlik iqtisodiyoti»

Cost-to-Freshness: yangiligini yaxshilash uchun 1 daqiqa qancha turadi.
Cost-aware rejalashtirish: Bronze off-peak ga o’tkaziladi; backfill - «arzon soatlarda».
Spot/Preemptible: past prioritetlilar uchun - preemptible resurslaridan foydalanish.
Soʻrovlarni profillash: «qimmatbaho» shablonlarning qora roʻyxati; avto-qayta yozish.

9) Batch uchun ustuvorlik

Oynalar taqvimi: Silver/Bronze oldidagi Gold uchun fix oynalar.
Dependency-aware DAG: upstream Gold modellari kaskadni ochish uchun erta slotni oladi.
Incremental first: avval inkremental partiyalar, so’ngra «sovuq» re-build.
Checkpointing: preemption muvaffaqiyatsizlikka olib kelmasligi uchun.

10) Striming uchun ustuvorlik

Ustuvor partiyalar: Gold-topikaga koʻproq consumer-instansiyalar.
sinflar bo’yicha Watermarks: Gold uchun - tor lateness-derazalar; Bronze uchun - kengroq (kech bo’lgan voqealarga nisbatan bag’rikenglik).
Dedup va idempotent sinks: Gold uchun - qattiq; Bronze uchun - evristik.
Alertlar: Gold-alertlar ko’paytirilgan QoS bilan alohida kanal bo’ylab harakatlanadi.

11) Signallar va ustuvorlikni avtomatik ravishda o’zgartirish

Tadbir triggerlari: spike trafigi, hodisa, reklama kampaniyasi → vaqtinchalik Gold/Silver.
SLA-tahdid: aniq bir vitrinaning → auto-boost yangiligini buzish prognozi.
Data Quality: ommaviy dubllar/yo’qotishlar → repair oqimlarining ustuvorligini oshirish.
Moliyaviy xavf: chargebackning o’sishi → skoring/alertlarning ustuvorligi.

12) Kuzatish darajasi: nimani kuzatish

Navbatlar/lag: uzunligi, kutish vaqti, sinflar bo’yicha kechikishlar p95/p99.
SLO taxtasi: qatlam uchun yangilik/yashirin/xato (ingest → curated → marts).
Qiymati: cost per class/tenant; budjetdan chetga chiqish.
Preemption/nosozliklar: tezlik, taraqqiyot yoʻqolishi, MTTR maʼlumotlar.
Ustuvorlik aritmetikasi: joriy’P’, ortish sabablari, rejalashtirish qarorlari tarixi.

13) Siyosatni boshqarish

-koddagi siyosatlar (policy-as-code), version va review.
Foydalanishdan oldin quruq progonlar (dry-run): jadval/qiymat qanday o’zgaradi.
Canary-qoʻshish: klasterlarning bir qismi yangi vazn/qoidalarga oʻtadi.
Runbooks: ortiqcha yuklashda nima qilish kerak, sinfni vaqtincha pasaytirish, qaytarish kerak.

14) Antipatternlar

«Hammasi Gold». Ustuvorlashtirish ma’nosini yo’qotadi; resurslar uchun urushlar boshlanadi.
Ochlikdan himoyalanmagan qattiq SP. Silver/Bronze hech qachon tugamaydi.
admission control mavjud emas. Tizimga «qimmatbaho» so’rovlar kirib, barchani tushirmoqda.
cost-aware yo’qligi. «Qimmat soatlarda» og’ir backfill bajaramiz.
OLTP/OLAP aralashmasi. Tanqidiy operatsiyalar tahlillar tufayli azob chekmoqda.
RLS/CLS boʻlmagan gibrid maʼlumotlar. Taʼmirlash/ustuvorlik tasodifan sezgir maydonlarni ochib beradi.

15) Joriy etish yo’l xaritasi

1. Discovery: oqimlar, qaramliklar va egalarini inventarizatsiya qilish; SLO va ishlamay qolish qiymatini baholash.
2. QoS klasslari: Gold/Silver/Bronze, vazn va bazaviy limitlar belgilansin; policy-as-code.
3. Rejalashtiruvchi va pullar: klaster/pullarni ajratish, admission controlni yoqish.
4. Monitoring: SLO taxtalari/lag/qiymat; SLO va budget-breach xavfiga qarshi alertlar.
5. Auto-boost: signallarni (hodisalar, kampaniyalar, DQ) ustuvorlikni o’zgartirishga integratsiyalash.
6. Cost-aware: off-peak jadvallari, spot-resurslar, «qimmat» so’rovlarni profillash.
7. Hardening: preemption-safe chek pointlari, runbooks, kanareya siyosatchilari, tartibsizlik testlari.

16) Chiqarishdan oldingi chek-varaq

• Barcha oqimlar uchun QoS sinfi, egasi, SLO va toʻxtash narxi belgilangan.
• Pullar/klasterlar va admission control, CPU/IO/skanlar chegaralari sozlandi.
• Ingest/konsumerlar uchun backpressure va rate limits kiritilgan.
• Ustuvorlik siyosati kod sifatida rasmiylashtirilgan; dry-run va revyu bor.
• Lag’lar, yangilik, narx, preemption/xatolar kuzatiladi; on-call alertlari.
• Signallar (SLA-tahdid, DQ, hodisa, kampaniya) bo’yicha avto-boost sozlandi.
• Degradatsiya runbooks hujjatlashtirilgan; xaos-stsenariylar tekshirildi.
• Bronze uchun oqimlar kaskad kechikish xavfisiz off-peak/spot ga o’tkazilgan.

17) Namunaviy siyosat namunalari (psevdo-YAML)

17. 1. Oltin sinf muddati va budjeti bilan

yaml policy: gold_finance_stream priority_base: 90 deadline_slo: freshness<=10m boost_on:
- dq_violation: duplicates_in_txn_id>0
- incident: "chargeback_spike"
limits:
max_scan_mb: 20480 max_concurrency: 32 budget:
max_hourly_cost: 200 preemption:
can_preempt_classes: [silver, bronze]

17. 2 Cost-aware backfill для Bronze

yaml policy: bronze_backfill priority_base: 20 schedule: offpeak(22:00-06:00)
limits:
max_concurrency: 4 iops_cap: low fallback:
pause_if_cluster_si>0. 8

18) Jami

Oqimlarni ustuvorlashtirish - bu biznes-ustuvorliklar, texnik SLO va iqtisodiy cheklovlarning boshqariladigan kombinatsiyasi bo’lib, tizimning navbatlari, rejalashtiruvchilari, limitlari va qayta aloqasi orqali amalga oshiriladi. QoS sinflari, auto-boost va cost-aware signallari birgalikda ishlaganda, ma’lumotlar yangi va ishonchli bo’lib qoladi, tanqidiy insaytlar o’z vaqtida keladi, infratuzilma hisobi esa oldindan aytib bo’ladi.