Deriva dei modelli e aggiornamento dei dati

1) Perché è importante

La distribuzione del traffico, i pagamenti e i comportamenti di gioco cambiano rapidamente (stagionalità, provider, azioni, regolamentazioni). Senza il controllo sistemico della deriva, crescono gli errori expected cost, come le perdite in Net Revenue, i falsi interventi RG/AML, l'aumento dei bonus abuse. L'obiettivo è individuare presto la deriva, diagnosticare la causa, aggiornare i dati e i modelli in modo sicuro.

2) Tassonomia deriva (che può «nuotare»)

Covariate draft (X) - I file sono cambiati (ad esempio, la quota mobile/ASN, il mix di provider).
Label/Outcome draft (Y) - La base degli eventi è cambiata (changeback-rate, click/convert-rate).

3) Segnali e soglie (punti di riferimento)

PSI (Population Stability Index): 0. 10–0. 20 avvisi,> 0. 20 è un evento alla deriva.
KL-divergenza/JS - Crescita alle soglie per fit/scoria chiave.
KS per gli screen (in etichetta) - Crescita della soluzione temporanea CDF.
ECE:> 0. 05 avvisi,> 0. 07 è un'azione.
Expected-cost @ threshold: crescita del X% al modello di base.
Coverage e Missing-rate: calo della copertura <99%, crescita missing/timeout> soglia.
Slice-metriche: PR-AUC/ECE/expected-cost per i mercati/device; trigger al ribasso> Y%.

La selezione della finestra è rapida: 1h/6h/24h (scorrevole), segnalata come D + 1/D + 7 (registrazione delle etichette detenute).

4) Finestre e etichette (ritardi)

Proxy veloci: click, deposito 7d completato valigetta RG - per la valutazione precoce.
Etichette in ritardo: chargeback (45-90d), churn/LTV - per la validazione retrospettiva e l'aggiustamento delle soglie/calibrazione.
La disciplina di As-Of, né in asciugamani né in etichette, è «eventi futuri».

5) Diagnostica root cause (foglio di assegno RCA)

1. Dati: PSI/KL per top-fich, missing/lag, schema differfs, nuove categorie.
2. Fonte: alert fornitori (PSP/provider di giochi), errori API/timeout.
3. Stagionalità/promozioni: picco di missioni/tornei, modifiche RTP/catalogo.
4. Regione/residenza: spostamento del traffico sui mercati, nuove regole KYC/RG.
5. Tecnica: degrado della cache, CDC lento, small files tempesta.
6. Le guide/i tassi di cambio/calendario sono obsolete? (FX/festività).
7. Equità: il fallimento della qualità in diapositive specifiche.

6) Playbook di azioni alla deriva

6. 1 Covariate/Feature drift

Rapidamente: aggiorna la calibrazione (Platt/Isotonic D + 1), elenca la soglia in base al valore expected-cost.
A medio termine: refeature parziale (unità/finestre sostenibili), aggiornare TE/WOE con time-aware CV.
A lungo termine: retrain con nuovi campionamenti/finestre, se necessario, rivedere l'architettura del Fich.

6. 2 Label/Outcome drift

Conteggia le soglie delle etichette fresche (D + 1, D + 7), calibra la penna.
Fissa i guard (limitare le azioni aggressive fino alla stabilizzazione).

6. 3 Concept drift

L'apprendimento Shadow della nuova versione sui dati più recenti di canary è completo di rollout.
Considerare la decomposizione di dominio (singoli modelli per segmento/mercato).

6. 4 Schema/Operational drift

Abilita la doppia voce v1/v2 dello schema, prova di equivalenza online/offline.
Ripara le sorgenti, attiva la cache/folback, compensi i pass backfill.

6. 5 Fairness drift

Soglie temporanee/calibrazione, targeted retrain/rebalance fich, controllo delle variabili proxy.

6. 6 Escalation

Kill-switch (guardrails breach) → la versione precedente/fallback sicuro.
Rollback one-click a 5xx/latency/expected-cost.

7) Criteri di aggiornamento dei dati

7. 1 Incorporazioni e CDC

Watermarks/loga-replica stabili; MERGE/UPSERT idipotenti.

7. 2 Backfill/Reprocessing

Backfill - Raggiunge per intervallo (con quote e finestre).
Riprocessing: ricalcolo quando la logica o la correzione degli errori cambiano.
Метки: `logic_version`, `reprocessed_at`, `reason`; Report di impatto (metriche/costo).

7. 3 Time-travel/WORM

Tabelle ACID (Delta/Iceberg/Hudi), archivi WORM di report/release.
«Come era la data» è la riproduzione dei rapporti regolatori.

7. 4 Guide/FX/Calendari

Aggiornamenti automatici, firma, versioni e controllo di freschezza (SLO su latency e age).

8) Metriche e alert (set minimo)

Dati: PSI/KL per top fit, missing-rate, feature-fetch latency.
Qualità: PR-AUC/KS (nelle etichette proxy), ECE, expected-cost @ thr.
Operazioni: p95/p99 latency, 5xx, coverage, autoscaling, cost/sollest.
Fairness: diapositive (mercati/dispositivi/provider).
Contratti: schema-violations, online/offline equalence test.

9) Procedure di aggiornamento del modello

1. Shadow: nuovo modello su copie query, confronto latency/quality/cost.
2. Canary: 5-10% per il 25% per il 50% per il 100% per lo SLO verde.
3. Soglia/calibrazione: contiamo su D + 1; Le soglie config nel registro.
4. Documentazione - Scheda modello (dati, finestre, metriche, rischi, fairness).
5. Archivio: rilascio WORM (peso, calibrazione, registri test, rapporti alla deriva).

10) Esempi (sezioni)

10. 1 PSI nelle idee SQL (bining preconfigurato)

sql
-- ref_dist(bin, p_ref), prod_dist(bin, p_prod) для фичи amount_base
SELECT SUM((p_prod - p_ref) LN((p_prod + 1e-9)/(p_ref + 1e-9))) AS psi
FROM (
SELECT bin, COUNT()/SUM(COUNT()) OVER() AS p_prod
FROM prod_binned GROUP BY bin
) p
JOIN (
SELECT bin, COUNT()/SUM(COUNT()) OVER() AS p_ref
FROM ref_binned GROUP BY bin
) r USING (bin);

10. 2 Regolazione della soglia di expected-cost (pseudocode)

python thr_grid = np. linspace(0. 01, 0. 99, 99)
costs = [expected_cost(y_true, y_prob >= t, c_fp, c_fn) for t in thr_grid]
thr_best = thr_grid[int(np. argmin(costs))]

10. 3 Equivalenza online/offline fich

python diff = np. abs(f_online. values - f_offline. values)
assert np. quantile(diff, 0. 95) < MAX_ABS_DIFF_95

10. 4 Backfill con vincolo di carico (idea di orchestrazione)

yaml job: backfill_gold_ggr limits: {concurrency: 1, max_partitions_per_run: 4}
guards:
- window: "02:00-06:00"
- markets: ["EEA","UK"]
- budget: "compute_hours<=50"

11) Test e controllo delle modifiche

Contratti diagrammi/fic: consumer-driven test, doppia voce v1/v2.
Test di regolazione delle metriche - Non peggiorare il PR-AUC/ECE/expected-cost oltre la tolleranza.
Test di equivalenza online/offline sul campione di riferimento.
Test Chaos: errore della cache, timeout delle sorgenti, traffico burst.

12) Fairness e compilazione

Report slice (disparate impact, equalization odds), soglie diapositive/calibrazione.
Riduzioni PII, residenza (EEA/UK/BR), DSAR/RTBF, Legale Hold.
Controllo delle soluzioni: «policy _ id», «threshold», ragioni degli interventi, logi WORM.

13) Costi e prestazioni

Cost dashboards: cost/request, cost/feature, state-size стрима, IO/scan/GB для batch.
Ottimizzazione: materializzazione offline dei fip pesanti, cache delle finestre calde, INT8/FP16 alla stessa qualità.
Quote: limiti per backfill/repliche, budget per retrain per mercato/team.

14) RACI

R (Respontible): MLOs (monitoraggio/registro/espulsioni), Data Eng (dati/CDC/backfill/contratti), Data Science (diagnostica/calibrazione/retrain/fairness).
A (Accountable): Head of Data / CDO.
C (Consulted): Compliance/DPO (PII/RG/AML/DSAR), Security (KMS/Auditel), SRE (SLO/costo), Finance (budget/RE).
I (Informed) - Prodotto/Marketing/Operazioni/Supporto.

15) Road map

1. PSI/KL per top figh e score, ECE, expected-cost nelle etichette proxy.

2. Dashboard coverage/missing/feature-lag, alert e runbook '.

3. Procedure di recalibrazione (D + 1) e soglie; percorso shadow per i nuovi modelli.

4. Contratti diagrammi/fich e test di equivalenza online/offline.

• Pannello RCA, monitoraggio slice/fairness, piano backfill a quote.
• Ridimensionamento auto/soglie, simulatore di soglie (what-if).
• Archivio WORM dei report alla deriva e dei comunicati.

• Auto-retrain per eventi alla deriva (canaresco), politica multi-regionale.
• Quote cost/chargeback, esercizi chaos/DR, documentazione automatica.

16) Foglio di assegno prima della vendita

• SLI/SLO e alert sono configurati (PSI/ECE/expected-cost/coverage/latency/5xx).
• Contratti schemi/fich e doppia voce v1/v2 - verde.
• Le procedure recalibration/threshold-update sono documentate e automatizzate.
• Shadow/canary con one-click rollback verificati.
• Backfill/reprocessing con quote e finestre - pronte; L'archivio WORM è abilitato.
• I pannelli Slice/fairness e i proprietari dei segmenti sono assegnati.
• I criteri PII/DSAR/RTBF/Legale Hold sono stati rispettati; controllo attivato.
• Costi sotto controllo (cost/richiest, cost/feature), cache/TTL configurati.

17) Anti-pattern e rischi

Hanno visto un PSI alto - subito retrain «cieco», senza RCA e calibrazione.
Non ci sono registrazioni di etichette detenute, conclusioni false, «seghe di soglie» ogni giorno.
La mancanza di un test di equivalenza online/offline è «doppia realtà».
Ignora fairness: i fallimenti dei mercati/dispositivi rimangono invisibili.
Backfill senza quote/finestre ha colpito il valore e la SLA.
La soglia è fissa «per sempre» crescita expected-cost con la stagionalità.

18) Totale

Il controllo della deriva non è un retrain monouso, ma un processo: osservazione della diagnosi , azione minima-rischiosa (calibrazione/soglia), retrain/refichering sicuro, controllo dei costi e delle verifiche. Con questa disciplina, i modelli rimangono precisi, etici e complessi, anche quando i comportamenti dei giocatori, dei provider e del mercato cambiano.