DataOps təcrübələri

1) DataOps nədir və niyə iGaming

DataOps - mənbələrdən və müqavilələrdən vitrinlərə, BI və ML-ə qədər məlumat axınını proqnozlaşdırıla bilən, sürətli və təhlükəsiz edən mühəndislik, məhsul və əməliyyat təcrübələri toplusudur.
iGaming dərəcələri yüksəkdir: tənzimləyici (KYC/AML/RG), real vaxt pulu, marketinq təcrübələri, oyun provayderlərinin və PSP-nin tez-tez buraxılışları.

• «Fikir → məlumat → metrika/model» dövrünün qısaldılması.
• Sabit keyfiyyət və təkrarlanabilirlik.
• Nəzarət edilən dəyişikliklər (rollout/rollback).
• Şəffaflıq: kim nəyə cavabdehdir, harada «qırılır».

2) Dəyər axını (Value Stream)

1. Mənbə/Müqavilə → 2) Ingestion → 3) Bronze/Silver/Gold → 4) Feature Store/BI → 5) İstehlakçılar (məhsul, analitik, ML) → 6) Rəy.

Hər mərhələdə - artefaktlar, testlər, metriklər, sahibləri və SLO.

3) Müqavilə yönümlü məlumat inkişafı

Data Contracts: sxem, tiplər, məcburiyyət, icazə verilən dəyərlər, təzəlik/çatdırılma SLA, DQ qaydaları, gizlilik ('pii', 'tokenized').
Uyğunluq (SEMVER): MINOR - əlavələr, MAJOR - uyğunsuzluq, PATCH - düzəlişlər.
CI-geytalar: Müqavilə pozulduqda/heç bir test/retenşn olmadıqda PR bloklayın.
Provayderlərlə məlumat müqavilələri/PSP/KYC: formatlar, imza, retrajlar, deduplikasiya.

4) Data test (əvvəl/zamanı/sonra)

Do (design): müqavilə testləri, təqribən dəsti, məlumat generatorları.

• Schema tests (tip/nullable/enum/uyğunluq),
• DQ testləri (etibarlılıq, unikallıq, dolğunluq, təravət),
• Gizlilik qaydaları (log/vitrinlərdə Zero-PII),
• İdempotentlik və dedup yoxlanılması.
• Sonra (acceptance): vitrin/fich regress testləri, v1/v2 (tolerance bands) müqayisə, metrik kalibrləmə.

5) Orkestr və mühit

Orkestrator (Airflow/ekv.) qaçışlar haqqında həqiqət mənbəyi kimi: asılılıq, retralar, SLA, alertlər.
Ətraf mühit: dev → stage → prod ilə promosyon artefaktlar (cədvəllər, modellər, fich-setów).
Brendlərə/bölgələrə/tenantlara görə təcrid: ayrı-ayrı sxemlər/kataloqlar/şifrələmə açarları.
Reliz bayraqları və konfiqurasiya reloqsuz keçid üçün verilənlər kimi.

6) Relizlər və yerləşdirmə strategiyaları

vitrinlər və modellər üçün Blue-Green/Canary: paralel v2 montaj, müqayisə, qismən trafik.
Sxemlərin miqrasiyasında dual-write/dual-read.
Aşağı yük və geri dönüşü ilə gecikmiş keçid (feature flags).
Backfill playbook: hekayənin yüklənməsi, nəzarət məbləğləri, 'recomputed' işarələri.

7) Müşahidə və həyəcan (Data Observability)

Cizgi düyünləri üzrə təzəlik/tamlıq/həcmlər/anomaliyalar.
Keyfiyyət: pass-rate DQ, KPI üçün «qırmızı» yollar.
Sxemlər/Müqavilələr: uyğunsuzluq hadisələri,% uğurlu yoxlamalar.
Performans: payplaynların gizliliyi, dəyəri (compute/storage).
Şərh oluna bilər: əlaqə «mənbə → vitrin/model», sürətli «path to dashboard/KPI».

8) Hadisələrin idarə edilməsi

Sev-səviyyələri (P1-P3), RACI, rabitə kanalları.
Runbooks: tez-tez səbəbləri (mənbə çatdırılmadı, schema drift, key leak, frod-səs).
Avto-mitiqasiya: retralar, ehtiyat kanala keçid, vitrinlərin «dondurulması».
Post-mortem: problemin kökü, hərəkətlər, backlog prevention vəzifələri.

9) DataOps-da təhlükəsizlik, məxfilik və giriş

mTLS/TLS 1. 3, paket imzası, partiyalar hash.
Vitrinlərdə və lojalarda tokenizasiya/maskalama; detokinasiya yalnız «təmiz zonada».
RBAC/ABAC/JIT auditlə; hadisə üçün break-glass.
Retention/Legal Hold paylaynlarla razılaşdırılmışdır (TTL, lifecycle).
Sıfır-PII - bölmənin metrikası.

10) BI/ML tam hüquqlu DataOps istehlakçıları kimi

BI: «qızıl» vitrinlərin sertifikatlaşdırılması, «SELECT» qadağası, KPI təriflərinin versiyalaşdırılması.
ML: versiyaları ilə Feature Store, model registry, champion-challenger, fairness/privacy-geyt, counterfactual-testlər.

11) Uğur metrikası (SLO/SLI)

• Freshness SLO (məsələn, payments_gold ≤ 15 dəq, p95).
• Job Success Rate ≥ 99. 5%, Mean Time to Detect (MTTD) / Recover (MTTR).
• Lead Time for Change (fikir → prod), Deployment Frequency (buraxılışlar/həftə).

• DQ Pass-Rate hədəf eşik ≥ (kritik yollarla).
• Schema Compatibility Pass в CI.
• Delta v1/v2 toleranslarda.

• Zero-PII in logs ≥ 99. 99%.
• Detokenization SLO və audit 100%.
• Retention On-time Deletion hədəf eşik ≥.

• Hesabat/vitrin dərc vaxtı.
• Məlumat insidentlərinin azaldılması, KPI-yə təsiri (GGR, saxlama) nəzarət daxilində.

12) Şablonlar (istifadəyə hazır)

12. 1 Data Contract (fraqment)

yaml name: game_rounds_ingest owner: games-domain schema_version: 1. 6. 0 fields:
- name: round_id type: string required: true
- name: bet_amount type: decimal(18,2)
required: true dq_rules:
- rule: bet_amount >= 0
- rule: not_null(round_id)
privacy:
pii: false tokenized: true sla:
freshness: PT15M completeness: ">=99. 9%"
retention: P12M

12. 2 Vitrin/Fich üçün PR Check-list

• Yenilənmiş müqavilə/sxem, semver düzgün
• DQ/sxem/regress testləri yaşıl
• Release Notes + Linage impact
• Backfill/rollback planı hazırdır
• Eşik Alerts və Dashboard xüsusi
• Gizlilik/Giriş siyasətlərinə riayət olunur

12. 3 Release Notes (eskiz)

Nə: 'rg _ signals v1. 3. 0 '- əlavə edildi' loss _ streak _ 7d '

Növü: MINOR, sxem uyğun

İmpakt: BI 'rg _ dashboard', ML 'rg _ model @ 2. x`

Validasiya: dual-run 14 gün, delta ≤ 0. 3% əsas KPI

Rollback: bayraq 'rg _ signals. use_v1=true`

Sahibi/tarix/sorğu

12. 4 Runbook («gecikmiş ödənişlər» hadisəsi)

1. PSP mənbəyinin SLA, konnektor statusunu yoxlayın.
2. Retrailer/ehtiyat endpoint keçid.
3. Müvəqqəti deqradasiya: ətraflı olmadan aqreqatları dərc edirik.
4. #data -status-da əlaqə, Incident Mgmt-də bilet.
5. Post-mortem, RCA, profilaktika (kvotalar/cache/sxemləri nəzarət).

13) Rollar və məsuliyyət (RACI)

CDO/Data Governance Council - siyasət, standartlar (A/R).
Domain Owners/Data Stewards - müqavilələr, keyfiyyət, vitrinlər (R).
Data Platform/Eng - orkestrator, saxlama, CI/CD, observability (R).
Analytics/BI Lead - vitrin sertifikatlaşdırma, KPI-təriflər (R).
ML Lead - feature store, registry, model monitorinqi (R).
Security/DPO - gizlilik, tokenizasiya, giriş, retenshn (A/R).
SRE/SecOps - insidentlər, DR/BCP, SIEM/SOAR (R).

14) Tətbiqi yol xəritəsi

0-30 gün (MVP)

1. Kritik yolları müəyyən edin (payments, game_rounds, KYC, RG).
2. Müqavilələri və CI-geytləri (sxemlər, DQ, məxfilik) daxil edin.
3. Müşahidə etmək: təzəlik/dolğunluq/anomaliyalar + alertlər.
4. Gold vitrinləri: KPI və «SELECT» qadağasını düzəldir.
5. Runbooks və kanal #data -status, Release Notes şablon.

30-90 gün

1. vitrinlərin/modellərin dual-run və canary buraxılışları; backfill playbook.
2. Feature Store/Model Registry versiyası ilə.
3. Giriş siyasəti (RBAC/ABAC/JIT) və log Zero-PII.
4. SLO/dəyər dashboard, retenshn avtomatlaşdırma/TTL.
5. DataOps komandalarının təlimi.

3-6 ay

1. Tam dövrü champion-challenger modelləri, fairness/privacy-geyt.
2. Geo/tenant-izolyasiya, açarlar və yurisdiksiya məlumatları.
3. Avtomatik Release Notes cetvel və diff.
4. Müntəzəm post-mortemlər və rüblük DataOps-review.
5. Proseslərin xarici auditi (lisenziya tələb olunan yerlərdə).

15) Anti-nümunələr

«Məlumatları sonra düzəldəcəyik»: testsiz/müqaviləsiz buraxılışlar.
Qeyri-şəffaf paylaynlar: heç bir linedge və sahibləri.
DataOps proseslərini «keçərək» əl ilə boşaltma.
PII ilə Logi, qum damps prod bazaları.
Rollback/backfill planı yoxdur.
KPI heç bir versiyası və sabit təriflər.

16) Əlaqəli bölmələr

Data Management, Data Mənşəyi və Yolu, Audit və Version, Access Control, Təhlükəsizlik və Şifrələmə, Data Tokenization, Model Monitorinq, Saxlama Siyasəti, Data Etikası.

Yekun

DataOps müxtəlif skriptləri və «analitiklərin qəhrəmanlığı» idarə olunan istehsal məlumat konveyerinə çevirir: dəyişikliklər sürətli, lakin proqnozlaşdırıla bilər; keyfiyyət və məxfiliyə nəzarət olunur; relizlər geri qaytarıla bilər; metriklər və modellər təkrar olunur. Bu miqyaslı iGaming platformasının təməlidir.