Зниження упередженості в моделях

1) Навіщо це iGaming

Моделі впливають на ліміти відповідальної гри (RG), антифрод, ліміти виплат, верифікацію KYC/AML, пріоритизацію скарг, персоналізацію та оффери. Упереджені рішення → регуляторні ризики, скарги та репутаційний збиток. Мета - справедливі, зрозумілі, стійкі моделі при збереженні бізнес-цінності.

2) Звідки береться упередженість (джерела)

1. Вибірка (representation bias): недопредставлені країни/бренди/девайси/нові гравці.
2. Вимірювання (measurement bias): проксі-сигнали (час доби, пристрій) корелюють із забороненими атрибутами.
3. Лейбли (label bias): минулі правила/модерація/ручні рішення були упереджені.
4. Конструкти (construct bias): метрика «успіху» визначена так, що утискає вразливі групи (наприклад, агресивне KPI «депозит в 24ч»).
5. Дрейф даних/правил: моделі «забувають» нові ринки/правила, змінюється поведінка.
6. Експерименти: нестратифіковані A/B-тести, перекіс трафіку, «вижили» сесії.

3) Терміни і метрики справедливості

Demographic Parity (DP): частка позитивних рішень однакова між групами.
Equalized Odds (EO): однакові TPR і FPR між групами.
Equal Opportunity (EOp): однаковий TPR (чутливість) для «позитивного» класу.
Calibration: однакове калібрування ймовірностей між групами.
Treatment/Outcome disparity: різниця в призначених діях/результатах.
Uplift fairness: відмінності в ефекті інтервенцій між групами.

4) Стратегії зниження упередженості за етапами

4. 1 Pre-processing (робота з даними)

Reweighing/Resampling: балансування класів і груп (upsample недопредставлених).
Data statements: фіксуйте покриття груп, джерела та обмеження.
Feature hygiene: прибрати «брудні» проксі (гео-гранулярність, «ніч/день» як проксі статусу), застосувати бінінг/маскування.
Synthetic data (обережно): для рідкісних кейсів (chargeback, self-exclusion) з перевіркою, що синтетика не підсилює bias.
Label repair: перевизначення лейблів при змінених правилах; аудит історичних кейсів.

4. 2 In-processing (у навчанні)

Fairness constraints/regularizers: штрафи за відмінності TPR/FPR/DP між групами.
Adversarial debiasing: окремий «критик» намагається передбачити чутливий атрибут за ембеддингами; завдання - зробити це неможливим.
Monotonic/causal constraints: монотонність за життєво важливими ознаками (наприклад, зростання втрат → не знижувати ризик), блокування причинно неможливих залежностей.
Interpretable baselines: GAM/EBM/градієнтний бустинг з монотонностями як опорний шар.

4. 3 Post-processing (після навчання)

Threshold optimization per group: вирівнювання TPR/FPR/PPV в рамках допустимих порогів.
Score calibration: калібрування по підгрупах (Platt/Isotonic).
Policy overrides: бізнес-правила RG/комплаєнсу поверх моделі (наприклад, «самовиключення завжди домінує над оффером»).

5) Причинні підходи і counterfactual fairness

Causal DAG: явна гіпотеза причинних зв'язків (ігрові втрати → тригер RG; країна ліцензії → правила виплат, але не «якість гравця»).
Counterfactual tests: для кандидата x змінюємо чутливий атрибут/проксі, фіксуючи інші фактори → рішення має бути стійким.
Do-інтервенції: симуляція «що якщо» при зміні керованих факторів (ліміт депозиту) без впливу на заборонені атрибути.

6) Практика для iGaming: типові кейси

RG-скоринг: мета - Equal Opportunity (не пропускати ризикових незалежно від групи) + калібрування. Жорсткі overrides для правил самовиключення.
Антифрод/AML: Equalized Odds (контроль FPR) + роздільні пороги по ринках/методам оплати.
KYC при онбордингу: мінімізація помилкових відмов для «thin-file» гравців; активне навчання для недопредставлених документів/пристроїв.
Маркетингова персоналізація: виключити high-risk з агресивних офферів; обмежити проксі-фічі (час доби, девайс), використовувати uplift-fairness.

7) Моніторинг справедливості в проді

• EO/EOp-дельти (TPR/FPR) за основними групами (країна, пристрій, канал), калібрування, base rate drift, feature drift.
• Бізнес-ефект: різниця у схваленні виплат/лімітах/оферах.
• Скарги/результати RG: швидкість реакції і якість інтервенцій.

• Дашборди по групах, контрольні карти, алерти в CI/CD при порушенні порогів fairness.
• Експерименти зі стратифікацією: A/B-тести з обов'язковою звітністю по fairness-метрикам; ранні стоп-правила.
• Shadow/Champion-Challenger: паралельний прогін нової політики зі звітами по справедливості.

8) Зв'язок з Governance/Privacy

Політики допустимих фіч: список дозволених/заборонених/умовних ознак, аудит проксі.
Model Cards + Fairness Appendix: мета, дані, метрики, групи, обмеження, частота перегляду.
DSAR/прозорість: пояснювані причини відмов/лімітів; логи рішень.
Process RACI: хто стверджує пороги fairness, хто знімає інциденти.

9) Шаблони та чек-листи

9. 1 Fairness-чек перед релізом

• Покриття груп у навчанні та валідації документовано
• Вибрані цільові метрики справедливості (EO/EOp/DP/Calibration) і пороги
• Проведено counterfactual-тести та аудит проксі-фіч
• Сформовано план post-processing (пороги за групами/калібрування)
• Домовленості по RG/комплаєнс overrides
• Налаштований моніторинг та алерти; власник інцидентів призначений

9. 2 Шаблон Fairness Appendix (до картки моделі)

Мета і вплив: на які рішення впливає модель

Групи та покриття: розподіл навчального/валідаційного наборів

Метрики та результати: EO/EOp/Calibration з довірчими інтервалами

Інтервенції debiasing: що застосовано (reweighing, constraints, thresholds)

Обмеження: відомі ризики, де модель не використовується

Частота рев'ю: дата, власник, критерії для перегляду

9. 3 Політика ознак (фрагмент)

Заборонено: прямі/непрямі атрибути (релігія, здоров'я, проксі-гео

Умовно: девайс/канал/час - тільки після тесту на проксі та обґрунтування користі

Обов'язково: маскування PII, псевдонімізація, монотонні обмеження за risk-ознаками

10) Інструменти та патерни реалізації

Pipeline hooks: автоматичні тести на проксі-кореляції, різниця TPR/FPR, калібрування по групах.
CI-блокування: падіння пайплайну при порушенні fairness-порогів/неузгоджених фіч.
Explainability для саппорту: локальні атрибуції (SHAP/IG) + «дозволений словник пояснень».
Active Learning: дозбір даних за рідкісними групами; багаторівневі пороги впевненості.
Champion-Challenger: безпечне впровадження; журнал порівняння справедливості.

11) Дорожня карта впровадження

0-30 днів (MVP)

1. Визначити high-impact моделі (RG, AML, виплати, KYC).
2. Зафіксувати цільові метрики fairness і пороги.
3. Додати pre-processing балансування і базову калібрування.
4. Увімкнути дашборд EO/EOp/Calibration за ключовими групами.
5. Оновити картки моделей з Fairness Appendix.

30-90 днів

1. Впровадити in-processing (constraints/adversarial).
2. Налаштувати порогові політики per-group (post-processing) і shadow-прогони.
3. Ввести counterfactual-тести в CI і стратифіковані A/B-правила.
4. Регулярні огляди інцидентів і скарг, коригування порогів.

3-6 місяців

1. Причинні графи для ключових завдань, монотонні/каузальні обмеження.
2. Active learning і збір еталонних даних за рідкісними кейсами.
3. Автоматизація fairness-звітності та сигнали в релізний процес.
4. Аудит всіх фіч-політик і списків проксі.

12) Анти-патерни

«Спочатку AUC, потім fairness» - пізно і дорого.
Ігнорування калібрування між групами.
Один загальний поріг для радикально різних базових частот.
Постійне «обрізання» фіч замість пошуку причинних причин.
Пояснюваність як «галочка» без допустимого словника для саппорта.
Відсутність стратифікації в A/B-тестах.

13) Метрики успіху (KPI розділу)

Зниження дельт EO/EOp нижче встановленого порогу

Стабільне калібрування за групами (Brier/ACE)

Частка релізів, що пройшли fairness-гейт в CI

Зниження скарг/ескалацій, пов'язаних з несправедливістю рішень

Поліпшення RG-результатів без збільшення диспаритетів

Покриття моделей картками з Fairness Appendix ≥ 90%

Підсумок

Зниження упередженості - це інженерна дисципліна, а не одноразовий «фільтр». Чітко вибрані метрики справедливості, тактики debiasing на кожному етапі, причинне мислення і неухильний прод-моніторинг дають моделі, які працюють чесно, витримують аудит і покращують довгострокові метрики бізнесу і довіри гравців.