Hakyky wagtyň içindäki
1) "Hakyky wagtda düşünmek" näme?
Hakyky wagtdaky insaýt - barlanylýan prosesiň/ulanyjynyň/ulgamyň häzirki ýagdaýy hakynda karar kabul etmek üçin ýeterlik bolan maksatly gijikdirmegiň (gizlinligiň) çäklerinde ýüze çykýan tassyklama (sekunt-minut).
Konturyň formulasy: Waka → Baýlaşdyrmak/Jemlemek → Çözgüt/Maslahat → Hereket → Seslenme.
Mysal üçin: geleşiklere antifrod (≤ 500 ms), hyzmatyň SLO alerti (≤ 60 s), sahypadaky şahsy maslahat (≤ 200 ms), dinamiki baha (≤ 5 s), kampaniýalara gözegçilik (≤ 1 min).
2) Eliňizdäki binagärlik
1. Ingest: wakalaryň dellaly (Kafka/Pulsar/NATS/MQTT), shema şertnamalary (Euro/Protobuf), idempotentlik açarlary.
2. Akym bejergisi (CEP/Stream): Flink/Spark Structured Streaming/ksqlDB; penjireler, watermarks, stateful-operatorlar.
3. Onlaýn fiçalar we baýlyk: Çalt join/lookup üçin Feature Store (online) + kesh/TSDB (RocksDB/Redis).
4. Onlaýn skoring/düzgünler: modeller (ONNX/TF-Lite/XGB), rule-engine, kontekst.
5. Içerki hyzmat: low-latency API, webhuklar, topar tekerleri (action bus), uýgunlaşdyrylan daşbordlar.
6. NTAR/real-time vitrinleri: artyk materializasiýa (ClickHouse/Pinot/Druid/Delta + CDC).
7. Syn edilişi we SLO: gizlinlik/laglar/ýalňyşlyklar, yzarlamalar, aladalar metrikleri.
8. Dolandyryş we howpsuzlyk: OTA/fich-baýdaklar, RLS/CLS, maskalanmak, audit.
3) Wagtlaýyn model: penjireler, watermarks, giç
Penjireler: tumbling/sliding/session; penjireler üçin - gibrid (1s → 5s → 60s roll-ups).
Watermark: penjire "ýapylýan" serhet; tazelik bilen dolulygyň arasyndaky deňagramlylyk.
Late data: 'Δ _ late' (mysal üçin 2 min) kabul etmek syýasaty, öwezini dolmak boýunça gaýtadan hasaplamalar.
Out-of-order: 'event _ time' -y birleşdirýäris, 'ingested _ at' -y forensika üçin saklaýarys.
4) Exactly-once manysy we idempotentligi boýunça
Ulag köplenç at-least-once bolýar, şonuň üçin manysy boýunça exactly-once gazanýarys:- global 'event _ id', idempotency keys tablisalary;
- upsert/merge-sinks;
- state snapshots + geleşik komissiýalary (2-phase/transaction log);
- penjireleri çap edende kesgitlenen üýtgeşmeler we atom swap.
5) Döwlet we baýlaşdyrmak
Stateful-operatorlar: key-by (user/device/merchant), agregatlar, top-K, distinct.
Onlaýn join: çalt lookup-tablisalar (mysal üçin, müşderiniň profili, töwekgelçilik çäkleri).
Kaching: LRU/TTL, gyzgyn çyzgylar, gollanmalaryň wersiýasy.
Utgaşdyrmak online/offline fich: Feature Store-da ýeke-täk aýratynlyk.
6) Insight ≠ diňe metrika
Düşünjä çözgüt kartoçkasyny goşýarys: gipoteza/kontekst → alternatiwa → maslahat berilýän hereket → durmuş. effekt → töwekgelçilik/guardrails → eýesi/gowşuryş kanaly.
Zero-click insight: gysga tekst + taýýar düwmeler (pes töwekgelçilikli bolsa awtomatiki usulda ulanylýar).
7) Anomaliýalar, sebäpler we synaglar
Jikme-jiklikler: robust z-score/ESD, seasonal-decompose, change-point (CUSUM/BOCPD), uly akymlar üçin eskizler (TDigest/HLL).
Sebäbi: "sese reaksiýadan" gaça durýarys - täsirini kwazi-synaglar/gözegçilik segmentleri arkaly tassyklaýarys.
Onlaýn synaglar: çäkli wagtlarda hereket saýlamak üçin banditler/UCB/TS, garawul-metrikler (SLA, şikaýatlar, yzyna gaýtarmalar).
8) Hakyky wagt düşünjeleri üçin SLO
Latency p95/p99 end-to-end (ingest → hereket).
Freshness vitrin (max. lag).
Penjiräniň içinde Completeness (giç hasaba alnanlaryň paýy).
Action Rate/Success Rate (näçe içerki hereket/täsir).
Cost-to-Insight (CPU/IO/GPU/$, 1 insaýt üçin).
Maksatly matrisanyň mysaly: antifrod p95 ≤ 300 ms, completeness ≥ 99. 5%, cost/1k wakalar ≤ $ X.
9) Insaýtlary eltip bermek we ileri tutmak
Nirä: webhuklar, message bus "actions. ", Dashbordlaryň API-leri, push/chatbotlar, CRM/CDP.
Ileri tutulýan ugurlar: Altyn/Kümüş/Bronze; Gold - aýratyn howuzlar we kanallar.
Möhletler: eger 'deadline' gutarsa - synpy peseltmek ýa-da ýatyrmak.
10) Ykdysadyýet we pese gaçmak
Cost-aware strategiýasy: ýönekeýleşdirilen modeller, has uly penjireler, iň ýokary derejedäki sampling.
Graceful degradation: fallback на грубые агрегаты/правила, "теплые" снапшоты.
Backpressure & shed-load: best-effort mowzuklaryny täzeden açmak, Gold -y saklamak.
11) Howpsuzlyk we gizlinlik
RLS/CLS akym penjirelerinde; tenant/sebit boýunça bölünişik.
Gyrada PII redaksiýa: merkeze çenli tokenizasiýa.
Syrlar we elýeterlilik: mTLS, gysga bellikler, haýyşlaryň/eksportyň barlagy.
Eksport syýasaty: "çig" real-time PII-ni esassyz çykarmagy gadagan etmek.
12) Konturyň hakyky wagtyna syn etmek
Topikler/açarlar, queue depth, watermark skew.
p95/p99 her gatlakda, error rate, reprocess count.
Onlaýn data-quality: dublikatlar, null-rate, paýlanyşyň anomaliýalary.
Trace: wakadan herekete çenli trace-id arkaly.
13) Antipatternler
"Hemme zat - hakyky wagt". Gereksiz çykdajylar we ses; käbir meseleler batch/near-real-time has gowudyr.
SELECT we şertnamasyz "erkin" shemalar.
Watermarks bolmadyk penjireler. Ýa baky penjireler, ýa-da giç ýitgiler.
Yhlas ýok. Goşa hereket/spam.
guardrails. "Ýalan pozitiwe" bolan reaksiýa zyýan döredýär.
OLTP analitikler tarapyndan atylýar. Izolýasiýa ýok - önümçilik amallarynyň zaýalanmagy.
14) Durmuşa geçirmegiň ýol kartasy
1. Discovery: wakalar, maksatly çözgütler, möhletler, töwekgelçilikler; Gold/Silver/Bronze.
2. Maglumat şertnamalary: shemalar (Euro/Protobuf), açarlar, idempotentlik syýasaty.
3. MVP akymy: bir möhüm çözgüt, penjire/WM, ýönekeý düzgünler + onlaýn çyzgylar.
4. Vitrinler we serwing: içerki materiallaşmalar, low-latency API.
5. Syn edilişi: lag panelleri/latency/SLO, aladalar; yzarlamak.
6. Modeller we synaglar: onlaýn skoring, bandits/guardrails.
7. Hardening: backpressure, degradasiýa, cost-profil; audit we gizlinlik.
8. Scale: köp sebit, edge-analitika, akymlaryň ileri tutulmagy.
15) Goýberilmezden öň çek-sanawy
- SLO (latency, freshness, completeness) we eýesi kesgitlenildi.
- Shemalar wersiýa edildi; "SELECT" gadagan; idempotency-keys bar.
- Penjireler we watermarks, late data/gaýtadan hasaplama syýasaty sazlandy.
- Exactly-once manysy boýunça: upsert/merge-sinks, atom publish.
- Onlaýn çyzgylar offline bilen ylalaşyldy; TTL we wersiýalary bar.
- Hereket üçin Guardrails; kanallar ileri tutulýar; möhletler görkezilýär.
- Lag/latency/SLO gözegçiligi; trasing açyldy; SLO howpy üçin aladalar.
- Gizlinlik syýasaty (RLS/CLS/PII) we eksport barlagy girizildi.
- Degradasiýalaryň we hadysalaryň Runbooks taýýar (rollback/slow-path).
16) Kiçi şablonlar (psevdo-YAML/SQL)
Penjire/gijä galmak syýasaty
yaml windowing:
type: sliding size: 60s slide: 5s watermark:
lateness: 120s late_data:
accept_until: 90s recompute: true
Idempotent sink (SQL eskiz)
sql merge into rt_fact as t using incoming as s on t. event_id = s. event_id when not matched then insert (...)
when matched and t. hash <> s. hash then update set...
Hereket etmek üçin guardrails düzgünleri
yaml action_policy:
name: promo_offer_rt constraints:
- metric: churn_risk_score; op: ">="; value: 0. 7
- metric: complaint_rate_24h; op: "<"; value: 0. 02 cooldown_s: 3600 owner: "growth-team"
SLO alertleri
yaml alerts:
- name: e2e_latency_p95 threshold_ms: 1500 for: 5m severity: high
- name: freshness_lag threshold_s: 60 severity: high
17) Jemleýji
Hakyky wagtda içerki diňe bir "çalt grafikler" däl, eýsem çözgütleriň in engineeringenerçilik kontury: wakalaryň berk şertnamalary, dogry wagt logikasy (windows/watermarks), idempotent neşirleri, ylalaşylan onlaýn fiçler, hereketleriň ileri tutulýan eltilmegi we SLO bilen synlamak. Bu kontur işleýän mahaly, gurama öz wagtynda, howpsuz we öňünden aýdyp boljak reaksiýa bildirip, wakalaryň akymyny ölçäp boljak iş gymmatlygyna öwürýär.