מטא-אנליטיקה ומדדים
1) מהי מטא-אנליטיקה
מטא-אנליטיקה היא ניהול המדידה עצמה: נוסחאות, מקורות, רעננות, יציבות ועלות השגת מדדים. המטרה היא שכל מטרי יהיה יחידה ברת-בחינה של ידע: בר-רבייה, בזמן, בר-השוואה בין צוותים וחסכוניים.
2) שלד מטרי (מודל ישות מטרית)
כל מטרי מתואר על ידי כרטיס:- זיהוי: ”metric _ key”, בעלים (Product/Data Wolder), ביקורת (Gold/Silver/Bronze).
- משמעות: הגדרה, יחידות, צבירה, חלונות (יום/וואו/אמא/רולינג).
- פורמולה ושכבה: SQL/DSL, שכבה סמנטית (ממדים, מסננים), מקטעים תקפים.
- מקורות ושושלות: טבלאות, גרסאות, תלויות (מאפיינים/תצוגות/מודלים).
- latency p95, רעננות, כיסוי, דיוק, יציבות.
- אותות אמון: בדיקות אחרונות, מצב DQ, בדיקות מודיע נוסחה.
- כלכלה: בייטים נסרקו, עלות לכל תרשים (CPC), עלות לכל תובנה (CPI)
- בקרת גישה: RLS/CLS, רגישות.
- ורסיונינג: נוסחאות סמבר ('ggr @ 2. 3. 0 '), להחליף יומן.
3) ”מדדים מדדים”: מה למדוד
איכות ואמון
דיוק: אי התאמה עם התייחסות/חשבונאות (MAE/APE).
עקביות: צירוף מקרים בין מקורות/לוחות מחוונים (נוסחה קנונית).
רעננות: גיל הנתונים נגד SLO (שנייה/דקה).
השלמה: פרופורציה של מקטעים/תאריכים מושלמים.
יציבות: שונות/תנודתיות בתנאים קבועים (יחס ליוון/שונות).
סבירות: נוכחות של פורמולה/קישורים/CI/טווחים בכרטיס.
ביצועים ועלות
חישוב/מעבד latency p95/p99.
בייטס נסרק/שאילתה.
CPC/CPI: עלות תרשים/תובנה.
מטמון פגע-קצב והתהוות.
סיכון ושימוש
אימוץ: פרופורציה של לוחות מחוונים/פתרונות באמצעות המטרי.
שיעור שבירה: שיעור ירידה במבחנים/התמוטטות רעננות.
הפצות ניקוד-משמרות לאחר שינויי נוסחה/מקור.
עומס תמיכה: מקרים/תקריות על ידי מטרי.
4) שכבה סמנטית ו ”חנות מטרית”
דקדוק אחיד: אמצעים, ממדים, מסננים, צבירה וכללי תאימות.
קטלוג API/Metrics: חיפוש, קלפים, וריאציה, גרף שושלות.
חישובי ביניים: חומרנות (יומי/שבועי), סופות שלגים קנוניות.
מדיניות פרסום: רק מהחנות המטרית ועד לוחות ייצור/הבינה המלאכותית.
5) ורסינציה ותאימות
Semver עבור מדדים: 'MAJOR' - שבירת שינוי במשמעות/צבירה; מינור - סעיף חדש/מאפיין; 'תיקון' - אופטימיזציות בלי לשנות את הערך.
זרימת דיכאון: אזהרה, מצב מקביל v1/v2, תאריך כיבוי, מדריך הגירה.
מבחני חוזה: שוויון/אי-שוויון, אינווריאנטים (סכום של תת-מספרים = שלמים).
6) ביקורת שושלות ומדדים
במעלה הזרם: מקורות, כללי DQ, גרסאות.
שינוי צורה: בדיקת תאימות SQL/DBT/DAG.
במורד הזרם: לוחות מחוונים/מודלים/דוחות שצורכים את המטרי.
Audit: ששינה את הנוסחה ומתי, אשר אירוע או שחרור השפיע.
7) יכולת תצפית מטרית
פרופילים של זמן: עונתיות, אפקטים של לוח שנה, פרומו.
חריגות: STL/ESD/BOCPD; מתריע ברגישות קריטית.
בדוק שערים: לפני השחרור - השוואה של הנוסחה הישנה/חדשה על פרוסת ”הזהב”.
ניטור דריפט: PSI/JS לפי קטע; סמני שינוי מקור.
8) כלכלה מטרית ואגפים פיננסיים
מכסות/גבולות: מקס בייטס נסרק, זמן ריצה, בנייה מחדש מחוץ לשיא.
קבוצות משלמות ”כמעט” עבור דיווחים קשים.
מטמון/חומרות: אריחים ופרופילי TTL.
אופטימיזציה: פורמטים של עמודות, ZSTD, מיון/קיבוצים, פרגרגטים.
9) שינוי mgmt
מטרי RFC: מטרה, סיכון, שינוי צפוי, תכנית רולבק.
נוסחאות A/B: חישוב מקביל והשוואה של V1 נגד V2 מדדים.
תקשורת: changelog בכרטיס, באנר על לוחות מחוונים מקושרים.
החלפה מהירה למימוש קודם.
10) תפקידים
בעל מטרי: משמעות, נוסחה, שחרור, תקשורת.
מהנדס נתונים: אמינות צינור, ביצועים.
אנליסט/מדען: תוקף ופרשנות סיבתית.
פינוקס: עלות ומכסות.
ציות/פרטיות: גישה, מיסוך, דיווח.
11) תרופות אנטי ־ פטריות
בחר בנוסחה המטרית.
שתי נוסחאות ”רשמיות” מאותה שיטה.
עריכה ידנית בלוח המחוונים במקום להחליף בגדים בחנות המטרית.
אין חלון השוואה/בסיס.
אפס שושלת ואין בעלים.
מסננים חבויים (ארצות/מטבעות שונים) * מספרים שונים.
12) מימוש מפת דרכים
1. מלאי: רשימה של 50 מדדים, בעלים, ביקורתיות, נוסחאות נוכחיות.
2. Metric Store MVP: כרטיסים, SemVer, API, שושלת, מבחני CI.
3. תצפית: רעננות/latency/bytes נסרק/אנומליות, לוחות SLO.
4. פינוקס: גבולות, מטמון, חומרנות, דוחות ערך.
5. ממשל: RFC/Degradation/Kickbacks, מדיניות הפחתה.
6. קנה מידה: "metrics metrics' אוטומטי, אינטגרציה עם AI visualization/context.
13) רשימה מטרית (לפני הפרסום)
[ ] הכרטיס המטרי מלא (הגדרה, יחידות, קטעים, חלון).
[ ] הפורמולה מבוצעת; מבחני עקביות/בלתי חוקיים הם ירוקים.
[ ] רעננות/Latency SLOS מוגדרים ומנוטרים.
[ מקורות DQ ] ירוקים; שושלת היוחסין שקופה.
[ ] הבקשה עולה בגבולות; הגדרת המטמון/התגשמות.
[ מדיניות גישה ] (RLS/CLS) ומיסוך.
[ ] ערוכה תקשורת של שינויים; יש תוכנית החלפה.
14) תבניות מיני
14. כרטיס מטרי 1 (YAML)
yaml metric:
key: ggr version: 2. 3. 0 owner: "product-data@company"
definition: "Bet amount minus win amount"
unit: "currency"
aggregation: "sum"
window: ["day","wow","mom"]
dims_allowed: ["country","device_os","provider","game"]
lineage:
sources: ["fact_bets","fact_payouts"]
transforms: ["ggr_daily. sql"]
slo:
freshness_s: 600 latency_p95_ms: 1500 accuracy_mae_pct: <=0. 5 finops:
max_bytes_scanned_mb: 2048 cache_ttl_min: 60 access:
sensitivity: "internal"
rls: ["tenant","region"]
14. 2 מבחני פורמולה (בסגנון dbt)
sql
-- invariant: GGR = bets - wins select count () as violations from (
select bets - payouts as ggr_calc, ggr from mart_daily
) t where abs(ggr_calc - ggr) > 1e-6;
14. 3 מדיניות מדידת התראה
yaml alerts:
- name: ggr_freshness when: freshness_s > 600 severity: high action: [page:oncall-data, degrade:use_last_materialization]
- name: ggr_stability when: variance_ratio_week > 2. 5 severity: medium action: [open:investigation, add:banner_on_dashboards]
14. 4 השוואה של גרסאות נוסחה
sql select dt, country,
ggr_v1, ggr_v2,
(ggr_v2 - ggr_v1) as delta,
100(ggr_v2 - ggr_v1)/nullif(ggr_v1,0) as delta_pct from compare_ggr_v1_v2 order by dt desc, abs(delta_pct) desc limit 100;
14. דו "ח מדדים 5 עבור לוח מחוונים
yaml meta_dashboard:
tiles:
- metric: freshness_s target: <=600
- metric: latency_p95_ms target: <=1500
- metric: bytes_scanned_mb target: <=2048
- metric: anomaly_rate_7d target: <=0. 5%
- metric: adoption_rate target: >=80%
15) השורה התחתונה
מטא-אנליטיקה מייצרת אובייקטים הנדסיים אמינים: יש להם בעלים, גרסאות, SLOs, בדיקות ועלויות. כאשר כרטיסים מטריים, שכבה סמנטית, יכולת תצפית, ו-FinOps עובדים יחד, הארגון מקבל מספרים דומים, ניתנים לאימות ויעילות עלות ולא ”אמיתות שונות”. "זהו הבסיס לניתוחים מהירים, פתרונות נכונים וצמיחה מדורגת.