Model sürüklenmesi ve veri güncellemeleri
1) Neden önemli
IGaming'de trafik, ödemeler ve oyun davranışlarının dağılımı hızla değişiyor (mevsimsellik, sağlayıcılar, hisse senetleri, düzenleyici kurallar). Sistemik sürüklenme kontrolü olmadan, beklenen hata maliyeti artmaktadır: Net Gelir kayıpları, yanlış RG/AML müdahaleleri ve bonus kötüye kullanımında bir artış. Amaç, sürüklenmeyi erken tespit etmek, nedeni teşhis etmek ve verileri ve modelleri güvenli bir şekilde güncellemektir.
2) Sürüklenme taksonomisi (ne "yüzebilir")
Kovaryat sürüklenme (X): özellikler değişti (örneğin, mobil/ASN'nin payı, sağlayıcıların karışımı).
Etiket/Sonuç kayması (Y): olay tabanı (ters ibraz oranı, tıklama/dönüştürme oranı) değişti.
3) Sinyaller ve eşikler (yer işaretleri)
PSI (Nüfus İstikrar Endeksi): 0. 10–0. 20 uyarı,> 0. 20 - sürüklenme olayı.
KL-diverjans/JS: Temel özellikler/hız ile eşiklere büyüme.
Oranlar için KS (etiketler altında): artan CDF tutarsızlığı.
ECE (kalibrasyon):> 0. 05 uyarısı,> 0. 07 - eylem.
Beklenen maliyet @ threshold: Temel modele % X büyüme.
Kapsama ve Eksik oranı: <%99 kapsama düşüşü, eksik/zaman aşımı> eşik büyüme.
Dilim metrikleri: PR-AUC/ECE/pazara/cihaza göre beklenen maliyet; düşürme tetikleyicileri> Y %.
Pencere seçimi: operasyonel - 1h/6h/24h (kayar), raporlama - D + 1/D + 7 (gecikmeli etiketler için muhasebe).
4) Windows ve etiketler (gecikmeler)
Hızlı proxy etiketleri: tıklayın, 7d yatırın, tamamlanmış RG davası - erken değerleme için.
Muhafaza edilen etiketler: ters ibraz (45-90d), çalkalama/LTV - geriye dönük doğrulama ve eşik/kalibrasyon ayarı için.
Disiplin olarak: ne özelliklerde, ne de etiketlerde - "gelecekten gelen olaylar".
5) Kök neden teşhisi (RCA kontrol listesi)
1. Veri: Üst özelliklere göre PSI/KL, eksik/gecikme, şema dağılımları, yeni kategoriler.
2. Kaynak: sağlayıcı uyarıları (PSP/oyun sağlayıcısı), API/zaman aşımı hataları.
3. Mevsimsellik/promosyonlar: zirve görevleri/turnuvalar, RTP/katalog değişiklikleri.
4. Bölge/İkamet: Pazarlar arasında trafik değişimi, yeni KYC/RG kuralları.
5. Teknik: özellik önbelleğinin bozulması, yavaş CDC, küçük dosyalar fırtınası.
6. Referans kitapları/döviz kurları/takvimler: güncel değil mi? (FX/tatil).
7. Adalet: belirli dilimlerde kalite hatası.
6) Sürüklenme eylemlerinin oyun kitabı
6. 1 Kovaryat/Özellik sürüklenmesi
Hızlı: güncelleme kalibrasyonu (Platt/Isotonic D + 1), beklenen maliyete göre eşiği ayarlayın.
Orta vadeli: Kısmi yeniden doldurma (kararlı agregalar/pencereler), zamana duyarlı CV ile TE/WOE güncellemesi.
Uzun vadeli: Yeni seçimler/pencereler ile yeniden eğitim, gerekirse, özelliğin mimarisini gözden geçirin.
6. 2 Etiket/Sonuç sürüklenme
Eşikleri taze etiketlerle (D + 1, D + 7) yeniden hesaplayın, yeniden kalibre edin.
Korkulukları sabitleyin (agresif eylemleri stabilizasyonla sınırlayın).
6. 3 Konsept sürüklenme
En son verilerde yeni versiyonun gölge eğitimi - kanarya - tam sunum.
Etki alanı ayrışmasını düşünün (segment/pazara göre ayrı modeller).
6. 4 Şema/Operasyonel sürüklenme
Çift v1/v2 şema girişini, çevrimiçi/çevrimdışı eşdeğerlik testini etkinleştir.
Kaynakları düzeltin, önbellek/folback'leri etkinleştirin, dolgu boşluklarını telafi edin.
6. 5 Adalet sürüklenme
Geçici slayt eşikleri/kalibrasyon, hedeflenen yeniden eğitim/yeniden dengeleme özelliği, proxy değişken denetimi.
6. 6 Yükselmeler
Kill-switch (korkuluk ihlali) - güvenli geri dönüş/önceki sürüm.
Büyüme 5xx/gecikme/beklenen maliyetle tek tıklamayla geri alma.
7) Veri güncelleme politikası
7. 1 Artışlar ve CDC
Kararlı filigranlar/log replikasyonu; Idempotent MERGE/UPSERT.
7. 2 Dolgu/Yeniden işleme
Dolgu: Menzil için Dogon (kotalar ve pencereler ile).
Yeniden işleme: Mantık değiştiğinde/hatalar düzeltildiğinde yeniden hesaplama.
Метки: 'logic _ version', 'repocessed _ at', 'reason'; Etki raporu (metrikler/maliyet).
7. 3 Zaman yolculuğu/WORM
ACID tabloları (Delta/Iceberg/Hudi), raporların/sürümlerin WORM arşivleri.
"Tarihte olduğu gibi": düzenleyici raporlamanın tekrarlanabilirliği.
7. 4 Dizinler/FX/Takvimler
Otomatik güncellemeler, imza, sürümler ve tazelik kontrolü (gecikme ve yaşla ilgili SLO).
8) Metrikler ve uyarılar (minimum set)
Veri: En iyi özelliklere göre PSI/KL, eksik oran, özellik getirme gecikmesi.
Kalite: PR-AUC/KS (proxy etiketlerinde), ECE, expected-cost @ thr.
İşlemler: p95/p99 gecikme, 5xx, kapsama, otomatik ölçekleme, maliyet/istek.
Adalet: dilim panelleri (pazarlar/cihazlar/sağlayıcılar).
Sözleşmeler: şema ihlalleri, çevrimiçi/çevrimdışı eşdeğerlik testi.
9) Model güncelleme prosedürleri
1. Gölge: Sorgu kopyalarında yeni model, gecikme/kalite/maliyet karşılaştırması.
2. Kanarya: %5-10 - %25 - %50 - %100 yeşil SLO'larda.
3. Eşik/kalibrasyon: D + 1'i hesaplayın; eşikler - kayıt defterinde yapılandırma.
4. Dokümantasyon: model kart (veri, pencereler, metrikler, riskler, adalet).
5. Arşiv: WORM sürümü (ağırlıklar, kalibrasyon, test günlükleri, sürüklenme raporları).
10) Örnekler (fragmanlar)
10. SQL fikirlerinde 1 PSI (önceden hazırlanmış bining)
sql
-- ref_dist(bin, p_ref), prod_dist(bin, p_prod) для фичи amount_base
SELECT SUM((p_prod - p_ref) LN((p_prod + 1e-9)/(p_ref + 1e-9))) AS psi
FROM (
SELECT bin, COUNT()/SUM(COUNT()) OVER() AS p_prod
FROM prod_binned GROUP BY bin
) p
JOIN (
SELECT bin, COUNT()/SUM(COUNT()) OVER() AS p_ref
FROM ref_binned GROUP BY bin
) r USING (bin);
10. 2 Beklenen maliyet eşiği ayarı (pseudocode)
python thr_grid = np. linspace(0. 01, 0. 99, 99)
costs = [expected_cost(y_true, y_prob >= t, c_fp, c_fn) for t in thr_grid]
thr_best = thr_grid[int(np. argmin(costs))]
10. 3 Eşdeğerlik çevrimiçi/çevrimdışı özelliği
python diff = np. abs(f_online. values - f_offline. values)
assert np. quantile(diff, 0. 95) < MAX_ABS_DIFF_95
10. 4 Yük sınırlama ile doldurma (orkestrasyon fikri)
yaml job: backfill_gold_ggr limits: {concurrency: 1, max_partitions_per_run: 4}
guards:
- window: "02:00-06:00"
- markets: ["EEA","UK"]
- budget: "compute_hours<=50"
11) Testler ve değişim kontrolü
Sözleşme şemaları/özellikleri: tüketici odaklı testler, çift giriş v1/v2.
Metriklerin regresyon testleri: toleransın ötesinde PR-AUC/ECE/beklenen maliyeti kötüleştirmez.
Çevrimiçi/çevrimdışı eşdeğerlik testleri: bir referans örnek üzerinde.
Kaos testleri: özellik önbellek hatası, kaynak zaman aşımları, patlama trafiği.
12) Adalet ve Uyum
Dilim raporları (farklı etki, eşitlenmiş oranlar), dilim eşikleri/kalibrasyon.
PII-minimization, residency (EEA/UK/BR), DSAR/RTBF, Legal Hold.
Denetim kararları: 'policy _ id', 'threshold', müdahale nedenleri, WORM kayıtları.
13) Maliyet ve performans
Maliyet panoları: maliyet/istek, maliyet/özellik, durum boyutu стрима, IO/tarama/GB для toplu.
Optimizasyon: Ağır çevrimdışı özelliklerin, sıcak pencere önbelleğinin, INT8/FP16 eşit kalitede maddeleştirilmesi.
Kotalar: geri doldurma/tekrar oynatma limitleri, bütçeyi pazara/takıma göre yeniden eğitin.
14) RACI
R (Responsible): MLOps (monitoring/registry/kickouts), Data Eng (data/CDC/backfill/contracts), Data Science (diagnostics/calibration/retrain/fairness).
A (Sorumlu): Veri/CDO Başkanı.
C (Danışmanlık): Uyumluluk/DPO (PII/RG/AML/DSAR), Güvenlik (KMS/Denetim), SRE (SLO/Değer), Finans (Bütçeler/Yatırım Getirisi).
I (Bilgilendirilmiş): Ürün/Pazarlama/Operasyon/Destek.
15) Yol haritası
MVP (2-4 hafta):1. En iyi özelliklere ve puanlara göre PSI/KL, ECE, proxy etiketlerinde beklenen maliyet.
2. Panolar kapsama/eksik/özellik gecikmesi, uyarılar ve çalışma kitabı've.
3. Yeniden kalibrasyon prosedürleri (D + 1) ve eşikler; Yeni modeller için gölge yolu.
4. Şema sözleşmeleri/özellik ve çevrimiçi/çevrimdışı eşdeğerlik testi.
Faz 2 (4-8 hafta):- RCA paneli, dilim/adalet izleme, kotalarla geri doldurma planı.
- Otomatik rulo kalibrasyonu/eşikleri, eşik simülatörü (what-if).
- WORM sürüklenme raporları ve bültenleri arşivi.
- Sürüklenme olaylarında otomatik yeniden eğitim (kanarya), çok bölgeli politika.
- Maliyet kotaları/ters ibraz, kaos-/DR-egzersizleri, otojen belgeleri.
16) Satış öncesi kontrol listesi
- SLI/SLO ve uyarılar yapılandırılmıştır (PSI/ECE/beklenen maliyet/kapsam/gecikme/5xx).
- Şema sözleşmeleri/özelliği ve v1/v2 çift girişi yeşildir.
- Yeniden kalibrasyon/eşik güncelleme prosedürleri belgelenir ve otomatikleştirilir.
- Tek tıkla geri alma işaretli gölge/kanarya.
- Kota ve pencerelerle geri doldurma/yeniden işleme - hazır; WORM arşivi etkinleştirildi.
- Dilim/adalet panelleri ve segment sahipleri atanır.
- PII/DSAR/RTBF/Yasal Tutma politikaları uygulanır; denetim etkinleştirildi.
- Maliyet kontrol altında (maliyet/istek, maliyet/özellik), önbellek/TTL yapılandırılmış.
17) Anti-kalıplar ve riskler
Yüksek bir PSI gördük - hemen RCA ve kalibrasyon olmadan "körü körüne" yeniden eğitin.
Gecikmiş etiketler için muhasebe yoktur - yanlış sonuçlar, her gün "testere eşikleri".
Çevrimiçi/çevrimdışı eşdeğerlik testinin eksikliği - "çift gerçeklik".
Adaleti görmezden gelin: Pazar/cihaz arızaları görünmez kalır.
Kotalar/pencereler olmadan doldurma - maliyetlere ve SLA'lara isabet.
Eşik "sonsuza kadar" sabittir - mevsimsellik ile beklenen maliyet artışı.
18) Alt satır
Sürüklenme yönetimi bir kerelik bir yeniden eğitim değil, bir süreçtir: gözlemlenebilirlik - teşhis - minimal riskli eylem (kalibrasyon/eşik) - güvenli yeniden eğitim/yenileme - maliyet kontrolü ve denetimi. Bu disiplinle modeller, oyuncu, sağlayıcı ve pazar davranışı değişse bile doğru, etik ve uyumlu kalır.