Ағындарға басымдық беру

1) Неге басымдық қажет

Жүктеме өскен кезде «бәрі маңызды» «ештеңеге үлгермейміз». Ағындарды басымдандыру - бұл шектелген ресурстарды (CPU, I/O, желі, бюджет) ағындар/джобтар/тенанттар арасында сындарлы SLO орындалатындай, ал құны бақыланатындай етіп бөлудің жүйелі тәсілі. Нәтижесі - витриналардың болжамды ашықтығы, тоқтаусыз алерталар және қайта санаудың тұрақты терезелері.

2) Ағындардың таксономиясы және маңыздылық критерийлері

• Уақыт: real/near-real-time (секунд-минут), интерактивті (минут), оффлайн/batch (сағат).
• Сындарлығы: қаржылық/реттеушілік, инциденттік, азық-түлік, зерттеу.
• Тәуелділіктер: басқа витриналарға арналған көздер (upstream) vs түпкілікті (downstream).
• Тоқтап тұру құны: кідіріс минутына/сағатына зиян (SLO breach cost).
• Теңгерімділік: ішкі команда, серіктес, сыртқы клиент.

Практика: әрбір сыныпқа - Business Priority (BP) және Technical Priority (TP); қорытынды - композиттік басымдық 'P = w1BP + w2TP + w3CostRisk'.

3) Ағындарға арналған SLA/SLO/SI моделі

SLA: шарттық кепілдік (мысалы, "қаржылық витрина T + 15 мин. 99. 9%»).
SLO: инженерлік мақсаттар (p95 жас ≤ 10 мин; p99 кідіріс ≤ 60 сек).
SI (Saturation Index): ағымдағы жүктелімнің лимиттерге қатынасы; жоспарлаушы пайдаланады.

Guardrails: guardrail-метриктер (мысалы, валидация қателері, ауытқулар) жөндеу ағындарының басымдығын уақытша арттыра алады.

4) Қызмет көрсету сыныптары (QoS) және саясат

Gold (business-critical): төлемдер, антифрод, реттеуші есептер, инциденттік алерталар.
Silver (product-critical): басшылық, науқан, тәуекел-скоринг дашбордтарына арналған витриналар.
Bronze (best-effort): зерттеу батчалары, ұзақ re-build және кең терезелер backfill.

• Strict Priority (SP): Gold әрқашан алда; төменгілердің ашаршылық қаупі.
• Weighted Fair Queuing (WFQ): трафик/джоб салмағы, әділдікті бақылау.
• Deficit Round-Robin (DRR): өңдеу порцияларына квоталар, желілік/стриминг тораптары үшін жақсы.
• Deadline-aware: жақын мерзімі ұзартылған тапсырмалар бусты алады.
• Cost-aware: егер «қымбат сағат» және SLO мүмкіндік берсе, қайта есептеу кейінге қалдырылды.

5) Жоспарлаушылар және кезектер (деңгейлерде)

• Топиктер/кезектер QoS кластары бойынша бөлінген; продюсерлердің лимиттері; backpressure квоталар арқылы.
• rate limit + burst tokens саясаты (token bucket).

• Ресурстар пулдары/кластерлері: Gold үшін жеке executors.
• Preemption: жетіспеушілік кезінде төмен ресурстарды іріктеу (жиілікті шектеумен).
• Admission control: бюджет және SLO бойынша кіріс сүзгісі; терезесіз «қымбат» кендірлердің ауытқуы.

• Бәсекелес I/O және сұрау салулардың басым кезектерi.
• Materialized views: Gold - инкременталды, Silver - мерзімді, Bronze - кесте бойынша/түнгі терезелерде.

6) Backpressure, лимиттер және жүйелерді қорғау

Backpressure сигналдарымен: тұтынушыдан продюсерге (lag/latency/queue depth).
Сұрау салуға/джобаға арналған лимиттер: bytes scanned, rows returned, wall-time caps.
Circuit Breakers: артық жүктеме кезінде - жеңілдетілген агрегаттарға немесе «жылы» снапшоттарға дейін тозу.
Shed-load: сыни ағындарды құтқару үшін best-effort ағындарын түсіру/қысқарту.

7) Көптененттілік және «әділеттілік»

Теңге бойынша квоталар: CPU/IO/уақыт бірлігіндегі құны.
Сұрау сыныптарына салмақтар: талдау, есептер, ML-фичтер - әртүрлі лимиттер.
Budget envelopes: апталық/айлық төбе; таусылған кезде - басымдықты төмендету, off-peak-ке көшіру.

8) Құны және «басымдық экономикасы»

Cost-to-Freshness: 1 минут жаңаруды жақсарту қанша тұрады.
Cost-aware жоспарлау: Bronze off-peak көшіріледі; backfill - «арзан сағаттарда».
Spot/Preemptible: төмен басымдылықтар үшін - preemptible-ресурстарды пайдалану.
Сұрауларды бейіндеу: «қымбат» үлгілердің қара тізімдері; автоматты түрде көшіру.

9) batch үшін басымдық

Терезе күнтізбесі: Silver/Bronze алдындағы Gold үшін фикс-терезелер.
Dependency-aware DAG: upstream Gold-модельдері каскадты ашу үшін ерте слотты алады.
Incremental first: алдымен инкременталды партиялар, содан кейін «салқын» re-build.
Checkpointing: preemption прогресті жоғалтпауы үшін.

10) Стриминг үшін басымдылық

Басым партиялар: Gold-топикадағы consumer-инстанциялар көп.
Watermarks сыныптары бойынша: Gold үшін - жіңішке lateness-терезелер; Bronze үшін - кең (кешіккен оқиғаларға төзімділігі жоғары).
Dedup және idempotent sinks: Gold үшін - қатаң; Bronze үшін - эвристикалық.
Alerts: Gold-alerts жоғары QoS бар жеке арна бойынша жүреді.

11) Сигналдар және басымдықты автоматты өзгерту

Оқиға триггерлері: spike трафик, инцидент, промо-науқан → уақытша Gold/Silver.
SLA-қатер: нақты витринаның → auto-boost жаңашылдығының бұзылу болжамы.
Data Quality: жаппай дубль/жоғалту → repair ағындарының басымдығын арттыру.
Қаржылық тәуекел: chargeback өсуі → скоринг/алерт басымдығы.

12) Бақылау: не мониторинг

Кезек/лаг: ұзындығы, күту уақыты, p95/p99 сыныптар бойынша кідірістер.
SLO тақтасы: қабаттағы жаңалық/жасырындылық/қателер (ingest → curated → marts).
Құны: cost per class/tenant; бюджеттен ауытқулар.
Preemption/істен шығу: жиілік, прогресті жоғалту, MTTR деректер.
Артықшылық аритметикасы: ағымдағы 'P', бустардың себептері, жоспарлаушы шешімдерінің тарихы.

13) Саясатты басқару

-кодтағы саясат (policy-as-code), нұсқалау және review.
Қолданар алдында құрғақ итерулер (dry-run): кесте/құн қалай өзгереді.
Canary-қосу: кластерлердің бір бөлігі жаңа салмаққа/ережелерге ауысады.
Runbooks: шамадан тыс жүктеме кезінде не істеу керек, сыныпты қалай уақытша төмендету керек, қалай қайтару керек.

14) Антипаттерндер

«Барлығы - Gold». Басымдық мағынасын жоғалтады; ресурстар үшін соғыс басталады.
Аштықтан қорғаусыз қатаң SP. Silver/Bronze ешқашан аяқталмайды.
admission control жоқ. Жүйеге «қымбат» сұраныстар келіп, бәрін түсіреді.
cost-aware болмауы. Ауыр backfill «қымбат сағаттарда» орындаймыз.
OLTP/OLAP араластыру. Күрделі транзакциялар талдаудан зардап шегеді.
RLS/CLS жоқ гибридті деректер. Жөндеу/басымдық кездейсоқ сезімтал өрістерді ашады.

15) Енгізу жол картасы

1. Discovery: ағындарды, тәуелділіктерді және иелерін түгендеу; SLO және бос тұрып қалу құнын бағалау.
2. QoS кластары: Gold/Silver/Bronze, салмақтар мен базалық лимиттерді анықтау; policy-as-code.
3. Планировщик и пулы: разделить кластеры/пулы ресурсов, включить admission control.
4. Мониторинг: SLO тақтасы/лаг/құны; SLO және budget-breach қатеріне алерта.
5. Auto-boost: басымдықты өзгертуге сигналдарды (инциденттер, кампаниялар, DQ) біріктіру.
6. Cost-aware: off-peak кестелері, spot-ресурстар, «қымбат» сұрауларды бейіндеу.
7. Hardening: preemption-safe чек пункттері, runbooks, канареялық саясаткерлер, хаос тестілері.

16) Шығарылым алдындағы чек-парақ

• Барлық ағындар үшін QoS класы, иесі, SLO және бос тұру құны анықталған.
• Пулдар/кластерлер және admission control, CPU/IO/сканер лимиттері теңшелген.
• Ингест/консумерлерге backpressure және rate limits қосылған.
• Басымдық беру саясаты код ретінде ресімделген; dry-run және ревю бар.
• Лагтар, жаңалық, құн, preemption/қателер мониторингіленеді; on-call-дағы алерттар.
• Сигнал бойынша auto-boost теңшелген (SLA-қатер, DQ, инцидент, науқан).
• Деградация runbooks құжатталған; хаос сценарийлер тексерілді.
• Bronze үшін ағындар каскадтық кідірістер қаупі жоқ off-peak/spot көшірілген.

17) Үлгілік саясаттың үлгілері (псевдо-YAML)

17. 1 Шекті және бюджеті бар Gold сыныбы

yaml policy: gold_finance_stream priority_base: 90 deadline_slo: freshness<=10m boost_on:
- dq_violation: duplicates_in_txn_id>0
- incident: "chargeback_spike"
limits:
max_scan_mb: 20480 max_concurrency: 32 budget:
max_hourly_cost: 200 preemption:
can_preempt_classes: [silver, bronze]

17. 2 Cost-aware backfill для Bronze

yaml policy: bronze_backfill priority_base: 20 schedule: offpeak(22:00-06:00)
limits:
max_concurrency: 4 iops_cap: low fallback:
pause_if_cluster_si>0. 8

18) Қорытынды

Ағындарды басымдандыру - бұл кезектер, жоспарлаушылар, лимиттер және жүйенің кері байланысы арқылы іске асырылған бизнес-басымдықтардың, техникалық SLO мен экономикалық шектеулердің басқарылатын комбинациясы. QoS кластары, auto-boost сигналдары және cost-aware саясаты бірге жұмыс істегенде, деректер жаңа және сенімді болып қалады, сыни инсайттар уақытында келеді, ал инфрақұрылымдық шот - болжамды.