Meta-tahlil va metrika metrikalari
1) Meta-tahlil nima
Meta-tahlil - bu o’lchashning o’zini boshqarish: formulalar, manbalar, yangilik, barqarorlik va metriklarni olish qiymati. Maqsad - har bir metrika sinovdan o’tkaziladigan bilim birligi bo’lishi kerak: takrorlanadigan, o’z vaqtida, jamoalar o’rtasida taqqoslanadigan va tejamkor.
2) Metrika skeleti (Metric Entity Model)
Har bir metrika kartochka bilan tavsiflanadi:- Identifikator:’metric _ key’, egasi (Product/Data Owner), kritikligi (Gold/Silver/Bronze).
- Ma’nosi: aniqlash, birliklar, agregatsiya, derazalar (day/wow/mom/rolling).
- Formula va qatlam: SQL/DSL, semantik qatlam (dimensions, filters), ruxsat etilgan segmentlar.
- Manbalar va lineedj: jadvallar, versiyalar, qaramliklar (fichi/vitrinalar/modellar).
- SLO метрики: latency p95, freshness, coverage, accuracy, stability.
- Trust Signals: oxirgi tekshiruvlar, DQ-maqom, CI-test formulalari.
- Iqtisodiyot: bytes scanned, cost-per-chart (CPC), cost-per-insight (CPI).
- Kirish nazorati: RLS/CLS, sezgirlik.
- Version: semver formulasi (’ggr @ 2. 3. 0’), o’zgartirish jurnali.
3) «Metriklar metrikasi»: nimani o’lchash kerak
Sifat va ishonch
Accuracy: etalon/buxgalteriya bilan tafovut (MAE/APE).
Consistency: manbalar/dashbordlar oʻrtasidagi mos kelish (kanonik formula).
Freshness: maʼlumot yoshi vs SLO (sek/min).
Completeness: to’ldirilgan segmentlar/sanalar ulushi.
Stability: oʻzgarmas sharoitlarda dispersiya/volatillik (Levene/variance ratio).
Explainability: kartada formula/havolalar/CI/diapazonlar mavjud.
Unumdorlik va qiymat
Latency p95/p99 hisob-kitob/render.
Bytes scanned/soʻrov.
CPC/CPI: grafik/insayt qiymati.
Cache hit-rate va materiallashtirish.
Tavakkalchilik va foydalanish
Adoption: Metrikadan foydalanuvchi dashbordlar/yechimlar ulushi.
Breakage rate: sinovlar/yangilik buzilishining tezligi.
Drift score: formula/manba oʻzgarishlaridan keyin taqsimot siljishi.
Support load: metrika boʻyicha murojaatlar/hodisalar.
4) Semantik qatlam va «Metric Store»
Yagona grammatika: o’lchovlar, o’lchovlar, filtrlar, agregatsiyalar va muvofiqlik qoidalari.
API/Metriklar katalogi: qidirish, kartochkalar, versiyalash, lineage-grafa.
Oraliq hisoblash: materiallashtirish (daily/weekly), kanonik yuklar.
Nashr siyosati: faqat Metric Store’dan prod-dashbordga/AI-vizualizatsiyaga.
5) Versiyalash va muvofiqlik
Metriklar uchun SemVer:’MAJOR’- ma’noni/agregatsiyani buzuvchi o’zgarish;’MINOR’- yangi kesma/atribut;’PATCH’- ma’noni o’zgartirmasdan optimallashtirish.
Deprecation flow: ogohlantirish, parallel rejim v1/v2, oʻchirish sanasi, migratsiya gid.
Kontrakt testlari: equality/inequality, invariantlar (subsegmentlar summasi = butun).
6) Metrik lineedj va audit
Upstream: manbalar, DQ qoidalari, versiyalar.
Transform: SQL/DBT/DAG nod, sxemalarning mosligini tekshirish.
Downstream: dashbordlar/modellar/hisobotlar.
Audit: formulani kim o’zgartirdi va qachon, qanday hodisa yoki reliz ta’sir qildi.
7) Metriklarning kuzatilishi (Metric Observability)
Vaqt profillari: mavsumiylik, kalendar effektlari, promo.
Anomaliyalar: STL/ESD/BOCPD; tanqidiy sezgirlikka ega bo’lgan alertlar.
Chek-geytlar: chiqarishdan oldin - «oltin» kesimda eski/yangi formulani taqqoslash.
Drift-monitoring: segmentlar bo’yicha PSI/JS; manbani o’zgartirish markerlari.
8) Metrik va FinOps iqtisodiyoti
Kvotalar/limitlar: max bytes scanned, bajarish vaqti, off-peak rebuild.
Chargeback: jamoalar og’ir hisobotlar uchun «deyarli» to’laydilar.
Kesh/materiallashtirish: TTL va TTL profillari.
Optimallashtirish: ustunli formatlar, ZSTD, saralash/klasterlash, predagregatlar.
9) Oʻzgarishlarni boshqarish (Change Mgmt)
RFC metrikasi: maqsad, xavf, kutilayotgan siljish, orqaga qaytish rejasi.
A/B formulasi: v1 vs v2 metriklarini parallel hisoblash va taqqoslash.
Kommunikatsiya: kartochkadagi changelog, bog’langan dashbordlardagi banner.
Orqaga qaytish: oldingi materiallashtirishga tezkor o’tkazish.
10) Rollar
Metric Owner: ma’no, formula, relizlar, kommunikatsiyalar.
Data Engineer: payplaynning ishonchliligi, unumdorligi.
Analyst/Scientist: validlik va sababiy talqin.
FinOps: qiymati va kvotalari.
Compliance/Privacy: kirish, yashirish, hisobot berish.
11) Antipatternlar
Metrika formulasida SELECT.
Bitta metrikaning ikkita «rasmiy» formulasi.
Metric Store’da o’zgartirish o’rniga dashborddagi qo’lda tuzatishlar.
Taqqoslash oynasi/bazasi koʻrsatilmagan.
Nol lineyedj va egasining yo’qligi.
Yashirin filtrlar (turli mamlakatlar/valyutalar) → taqqoslanmaydigan raqamlar.
12) Joriy etish yo’l xaritasi
1. Inventory: eng yaxshi 50 metrlar ro’yxati, egalari, tanqidiyligi, joriy formulalari.
2. Metric Store MVP: kartochkalar, SemVer, API, lineage, CI-testlar.
3. Kuzatish darajasi: freshness/latency/bytes scanned/anomaliyalar, SLO panellari.
4. FinOps: limitlar, kesh, materiallashtirish, qiymat hisobotlari.
5. Governans: RFC/degradatsiya/qaytish, deprecation-siyosat.
6. Masshtab: avtomatik «metrika metrika», AI-vizualizatsiya/kontekstga integratsiya qilish.
13) Metrikaning chek-varaqasi (e’lon qilishdan oldin)
- Metrika kartochkasi to’ldirilgan (aniqlik, birliklar, segmentlar, oyna).
- Formula versiyalangan; muvofiqlik/invariantlar testlari yashil rangda.
- Freshness/Latency SLO oʻrnatilgan va kuzatilmoqda.
- DQ-manbalar yashil; lineage shaffof.
- So’rov qiymati limitlar doirasida; kesh/materiallashtirish sozlangan.
- Foydalanish siyosati (RLS/CLS) va niqoblash qoʻllanilgan.
- O’zgarishlar to’g "risidagi aloqa tayyorlandi; qaytarish rejasi bor.
14) Mini-shablonlar
14. 1 Metrika kartochkasi (YAML)
yaml metric:
key: ggr version: 2. 3. 0 owner: "product-data@company"
definition: "Bet amount minus win amount"
unit: "currency"
aggregation: "sum"
window: ["day","wow","mom"]
dims_allowed: ["country","device_os","provider","game"]
lineage:
sources: ["fact_bets","fact_payouts"]
transforms: ["ggr_daily. sql"]
slo:
freshness_s: 600 latency_p95_ms: 1500 accuracy_mae_pct: <=0. 5 finops:
max_bytes_scanned_mb: 2048 cache_ttl_min: 60 access:
sensitivity: "internal"
rls: ["tenant","region"]
14. 2 Formula testlari (dbt-uslub)
sql
-- invariant: GGR = bets - wins select count () as violations from (
select bets - payouts as ggr_calc, ggr from mart_daily
) t where abs(ggr_calc - ggr) > 1e-6;
14. 3 Metrika alertlari siyosati
yaml alerts:
- name: ggr_freshness when: freshness_s > 600 severity: high action: [page:oncall-data, degrade:use_last_materialization]
- name: ggr_stability when: variance_ratio_week > 2. 5 severity: medium action: [open:investigation, add:banner_on_dashboards]
14. 4 Formulaning versiyalarini taqqoslash
sql select dt, country,
ggr_v1, ggr_v2,
(ggr_v2 - ggr_v1) as delta,
100(ggr_v2 - ggr_v1)/nullif(ggr_v1,0) as delta_pct from compare_ggr_v1_v2 order by dt desc, abs(delta_pct) desc limit 100;
14. 5 Dashbord uchun «metrika metrika» hisoboti
yaml meta_dashboard:
tiles:
- metric: freshness_s target: <=600
- metric: latency_p95_ms target: <=1500
- metric: bytes_scanned_mb target: <=2048
- metric: anomaly_rate_7d target: <=0. 5%
- metric: adoption_rate target: >=80%
15) Jami
Meta-analitika metrikani ishonchli muhandislik ob’ektlariga aylantiradi: ularning egalari, versiyalari, SLOlari, testlari va narxi bor. Metrik kartochkalar, semantik qatlam, kuzatuv va FinOps birgalikda ishlaganda, tashkilot «turli haqiqatlar» emas, balki taqqoslanadigan, tekshiriladigan va tejamkor raqamlarni oladi. Bu tezkor tahlil, toʻgʻri yechimlar va keng koʻlamli oʻsish uchun poydevordir.