Hakyky wagtda signallary bejermek
1) Maksady we iş gymmaty
"Şu wagt we şu wagt" jogap bermek üçin hakyky wagt akymy gerek:- Antifrod/AML: goýumlary gurluşlaşdyrmak, "mullatlamak", welocity-hüjümler.
- Responsible Gaming (RG): çäklerden ýokary, özüňi alyp barşyň töwekgelçilik nusgalary.
- Töwekgelçilik/Utgaşma: onlaýn hasaba alnanda/geleşikde sanksiýa skriningi.
- Şahsylaşdyrma: bonuslar/missiýalar, reaktiw kampaniýalar.
- Amallar/SRE: SLA zaýalanmalary, ýalňyşlyklar, metrik anomaliýalar.
Esasy maksatlar: pes gijä galmak (p95 0. 5-5 s), ýokary doly (99 ≥. 5%), partlamalara garşylyk.
2) Signallaryň taksonomiýasy
Amal: 'payment. deposit/withdraw/chargeback`.
Oýun: 'game. bet/payout`, `game. session_start/stop`.
Tassyklamak: 'auth. login/failure ', enjamlary üýtgetmek/geo.
Özüni alyp baryş: nyrhlaryň tizligi, mukdaryň eksponensial ösüşi, gijeki işjeňlik.
Operasiýa: 'api. latency`, `error. rate ', "tupan" pod täzeden başlamak.
Her görnüşiň shemasy, eýesi (domain owner), kritikligi, SLO we "late data" düzgünleri bar.
3) Konturanyň real-wagtynyň salgylanma arhitekturasy
1. Ingest we teker: HTTP/gRPC → Edge → Kafka/Redpanda ('user _ id/tenant' boýunça partiýa ýerleşdirmek).
2. Streaming-движок: Flink/Spark Structured Streaming/Beam; stateful-operatorlar, CEP.
3. Onlaýn baýlaşdyrmak: lookup-tablisalar (Redis/Scylla/ClickHouse Read-Only), üpjün edijileriň keşi (sanksiýalar/KUS).
- Alert-topiki/kyu (case-management, SOAR).
- Fichestor onlaýn (modeller).
- Gold-stream-vitrinler (operatiw daşbordlar).
- Çalt seljeriş üçin "ýyly" ammar (ClickHouse/Pinot/Druid).
- 5. Arhiw/forensika: Lake (Parquet, time-travel).
- 6. Syn edilişi: söwda/metrika/logi + lineage.
4) Penjireler, watermarks we "late data"
Penjireleriň görnüşleri:- Tumbling: kesgitlenen penjireler (mysal üçin, 1 minut) - ýönekeý agregatlar.
- Hopping: örtülen (mysal üçin, 30 s ädim, 2 minut penjire) - "tekiz" metrikler.
- Session: hereketsizlik boýunça boşluklar - özüni alyp barşyň seljermesi.
- Watermarks: waka-wagt üçin "wagt bilimi" çäkleri; gijä galmaga rugsat berýäris (allowed lateness, mysal üçin, 2 minut).
- Giç strategiýalar: düzedişleriň goşmaça emissiýasy, "late = true", DLQ ýazgysy.
5) Stateful-operatorlar we de-duplikasiýa
Açar: 'user _ id', 'payment. account_id`, `device_id`.
Ýagdaýy: idempotency üçin jemleýjiler, süýşýän hasaplaýjylar, bloom-süzgüçler.
Dedup: '(event_id, seen_at)' state/kv; TTL = 24-72 sagat.
Exactly-Once: geleşik sink 'i (2-phase), idempotent upsert-amallary.
6) Akymy baýlaşdyrmak
Lookup-joýnlar: RG çäkleri, ulanyjynyň töwekgelçilik tizligi, KYC derejesi, geo/ASN.
Asinhron jaňlar: sanksiýa sanawy/antifrod-üpjün edijiler (async I/O, wagt we fallback).
Walýutalaryň/taýmzonlaryň kadalaşmagy: UTC we esasy walýuta birleşdirmek; 'fx _ source' belläň.
7) CEP: çylşyrymly nagyşlary ýüze çykarmak
Düzgünleriň mysallary:- Structuring: 10 minutda 3 depozit ≥, hasabatyň her
X. - Device-switch: 15 minutda 3 dürli enjam + IP/ASN çalyşmak.
- RG-fatigue: 1 sagat üçin jemi nyrhlar> çäk + ýitgi ≥ Y.
- Ops-storm: p95 latency> 2 ×, 5 minutlyk penjirede 5xx> 3%.
CEP, Flink CEP/SQL ýa-da waka şablonlarynyň kitaphanalarynda aňlatmak üçin amatly.
8) Onlaýn çyzgylar we modeller
Feature pipelines: hasaplaýjylar, velocity-metrikler, "soňky wakadan wagt", share-of-wallet.
Onlaýn/offline utgaşyklygy: bir kod transformasiýa bazasy; geçiş synaglary.
Skoring: ýeňil modeller (logit/GBDT) sinhron; agyr - nobat arkaly asinhron.
Süýşmä gözegçilik etmek: PSI/KS we alertler; Täze modeller üçin "gara uçuşlar".
9) Eltmegiň kepillikleri we tertibi
At-least-once tekerde + kabul edişlikde idempotentlik.
Açar boýunça partiýa ýerleşdirmek ýerli tertibi üpjün edýär.
Retries & backpressure: jitter bilen eksponensial retralar, basyşa awtomatiki gözegçilik.
10) SLO/SLI (maslahat berilýär)
11) Konturyň hakyky wagtyna syn etmek
Payplayn metrikleri: throughput, lag per partition, busy time, checkpoint duration.
Signallaryň hili: completeness, duplication rate, late ratio.
Daşbordlar: topikler boýunça laglaryň ýylylyk kartasy, alert-huni (waka → düzgün → kazyýet), gyzgyn açarlar kartasy.
Treýsing: aladany başlangyç wakalar bilen baglanyşdyrmak (trace_id).
12) Howpsuzlyk we gizlinlik
PII-minimalizasiýa: kesgitleýjileri bellemek, duýgur ýerleri gizlemek.
Geo-residency: sebitleýin konweýerler (EEA/UK/BR).
Audit: kararlaryň üýtgemeýän ýazgylary (kim, näme, näme üçin), kazyýet işi üçin kanuny Hold.
Giriş: RBAC düzgünleri/modelleri, iki gezek gözegçilik.
13) Bahasy we öndürijiligi
Gyzgyn açarlar: gaýtadan paýlamak (key salting), composite keys.
Döwlet: akylly TTL, artyk materiallaşma, RocksDB-sazlama.
Penjireler: iň amatly ölçegler we allowed lateness; "şowhunly" akymlar üçin pre-aggregation gatlaklary.
Sampler: kritiki däl akymlarda we metrika derejesinde (geleşiklerde/utgaşmalarda däl).
14) Mysallar (ýönekeýleşdirilen)
Flink SQL - depozitleri düzmek (10-minutlyk penjire, step 1 minut):sql
CREATE VIEW deposits AS
SELECT user_id, amount, ts
FROM kafka_deposits
MATCH_RECOGNIZE (
PARTITION BY user_id
ORDER BY ts
MEASURES
FIRST(A. ts) AS start_ts,
SUM(A. amount) AS total_amt,
COUNT() AS cnt
ONE ROW PER MATCH
AFTER MATCH SKIP PAST LAST ROW
PATTERN (A{3,})
WITHIN INTERVAL '10' MINUTE
) MR
WHERE total_amt > 500 AND cnt >= 3;
Jedeller boýunça anti-velocity pseudo-kody:
python key = event. user_id window = sliding(minutes=5, step=30) # hopping window count = state. counter(key, window)
sum_amt = state. sum(key, window)
if count > 30 or sum_amt > THRESH:
emit_alert("RG_VELOCITY", key, snapshot(state))
Kafka Streams event_id:
java if (!kvStore.putIfAbsent(event. getId(), now())) {
forward(event); // unseen -> process
}
15) Amallar we RACI
R (Responsible): Streaming Platform (infra, state, relizler), Domain Analytics (düzgünler/oýunlar).
A (Accountable): Öz domenleri boýunça Data/Risk/Compliance kellesi.
C (Consulted): DPO/Legal (PII/retention), SRE (SLO/hadysalar), Arhitektura.
I (Informed): Önüm/Goldaw/Marketing.
16) Durmuşa geçirmegiň ýol kartasy
MVP (2-4 hepde):1. 2-3 sany möhüm signal (mysal üçin, 'payment. deposit`, `auth. login`, `game. bet`).
2. Kafka + Flink, esasy baba we watermark; antifrod üçin bir CEP düzgüni we RG üçin bir.
3. Iş penjireleri üçin ClickHouse/Pinot; daşbordlar lag/completeness.
4. Waka kanaly (webhook/Jira) we el triage.
2-nji faza (4-8 hepde):- Onlaýn fichestor, ýeňil modelleriň skoringi; asinhron lookups (sanksiýalar/KUS).
- Düzgünleri kod hökmünde dolandyrmak, kanareýanyň çykmagy, A/B düzgünleri.
- Sebitleşdirme we PII-gözegçilikler, ýagdaýlar üçin kanuny Hold.
- Signallaryň katalogy, resminamalaryň awtogenerasiýasy, "replay & what-if" simulýatory.
- Awto kalibrlemek bosagalary (Bayesian/quantile), precision/recall metrikleri onlaýn.
- DR-maşklar, multi-region active-active, chargeback modelleri toparlar boýunça.
17) Önümiň öňündäki hil barlagy
- Şemalar we şertnamalar, ingest.
- Sazlanan penjireler, watermarks, allowed lateness + DLQ.
- Dedup we idempotent sink.
- lag/throughput/state size metrikleri, SLO alertleri.
- Howpsuzlyk: RBAC düzgünleri/modelleri, PII gizlemek.
- Resminamalar: owner, SLO, mysallar, garaşlylyk kartalary.
- Rollback amallary we friz düwmesi.
18) Ýygy-ýygydan ýalňyşlyklar we olardan nädip gaça durmaly
Ignor event-time: watermarks ulanyň, ýogsam metrikler "süýşer".
Dublikatlar ýalan alertler berer → idempotency giriň.
Gyzgyn açarlar: partiýanyň ýoýulmagy → salting/resharding.
Gaty gaty penjireler: gijikdirilenleriň ýitmegi → allowed lateness + düzediş emissiýalary.
PII garyşyk: tokenizasiýa we analitik akymy bölüň.
Simulýator ýok: çykarmazdan ozal düzgünleri "repleýde" synagdan geçiriň.
19) Sözlük (gysgaça)
CEP - Complex Event Processing, patternleri tapmak.
Watermark - penjiräniň taýynlygy üçin wagt çäkleri.
Allowed Lateness - gijä galan wakalara rugsat.
Stateful Operator - durnukly ýagdaýy bolan operator.
Feature Store - ML üçin onlaýn/awtonom alamatlar ammary.
20) Jemleýji
Signallary real-time gaýtadan işlemek - anyk shemalar, penjireler we watermark, stateful-logika, onlaýn baýlaşdyrmak we berk SLO bilen dolandyrylýan konweýer. Bu tejribelere eýerip, çalt we ygtybarly töwekgelçilik detektorlaryny, durnukly şahsylaşdyryjy triggerleri we tygşytly we oňat masştably operatiw dashbordlary alarsyňyz.