Prévision de la charge et des risques

1) Pourquoi est-ce nécessaire

• Planification de la capacité (planification de la capacité) et budgétisation ;
• Paramètres SLO/SLI, budgets d'erreur et politiques d'alerte ;
• le choix de la stratégie de sortie (canary, blue-green, dark launch) ;
• gestion des risques : prévention des dégradations, files d'attente, drop transactionnel, sanctions SLA.

2) Concepts de base

Charge (Load) : intensité des événements/opérations entrants (RPS, TPS, events/sec) et consommation de CPU/RAM/IO/NET.
Capacité (Capacity) : Des performances durables à un SLO et un coût donnés.
Risque : probabilité × impact d'un événement indésirable (échec, incident, dépassement).
Indicateurs précoces : mesures croissantes avant l'incident (latitude p95/p99, queue depth, GC pauses, taux d'erreur, saturation).
Marge de sécurité (Headroom) : rapport de la capacité disponible à la charge courante.

3) Sources de données et métriques

Sources : logs et métriques (Prometheus/OTel), traces, événements (Kafka), logs CDN/WAF/ALB, données de marktech (campagnes), calendriers d'événements, facturation/ossements (FinOps), ficheflagi/releases, (files d'attente) Kafka/Rabbit), OBD/cache.

• Trafic : RPS/TPS, utilisateurs actifs (DAU/MAU), sessions, conversion d'étapes.
• Performances : latency p50/p95/p99, throughput, erreurs (4xx/5xx), timeouts, retries.
• Ресурсы: CPU/LoadAvg, RAM/GC, disk IOps/lat, network bw, connection pool usage.
• Files d'attente : backlog, lag, consumer lag, time-in-queue.
• БД: QPS, lock waits, slow queries, replication lag.
• Кэши: hit ratio, eviction rate, hot keys.
• Niveau d'activité : dépôts/taux par minute, refus de paiement, file KYC/AML.
• Fiabilité : SLI/SLO, error budget burn rate (1h/6h/24h).

4) Modèles de prévision de base

1. Déterminisme et calendrier : régression selon les pilotes connus (date/heure, matchs, tournois, pools de marché, géo, pushi actionnaire).
2. Statistiques : saisonnalité/tendance (ARIMA/ETS), régression avec les vacances, approches de type Prophet.
3. ML/ensemblages : boosting en gradient/Random Forest/XGBoost/LightGBM ; nous ajoutons les fiches : météo, taux de change, nouvelles sportives, concurrents.
4. Mixte : statistiques pour la saisonnalité de base + ML pour les facteurs exogènes (campagnes, sorties).
5. Devis/quantifié : pronostic non seulement moyen, mais aussi p90/p95 pour la planification headroom.

Sorties du modèle : Prévision RPS/TPS et répartition latence/erreur sur les horizons T + 1h/T + 24h/T + 7d/T + 30d à intervalles de confiance.

5) Files d'attente et limites : Mini théorie

Loi de Little : L = λ × W (quantité moyenne dans le système = intensité × temps moyen).
Goulets d'étranglement : Bases de données/cache/bus/pool de connexions/limites API des fournisseurs.
Saturation : avec un chargement> 70-80 %, la latence augmente de manière non linéaire.
Backpressure : protection des consommateurs contre la surcharge (limites, files d'attente, shed-policy, dégradation des fiches).

6) Planification de la capacité

Méthode « de SLO » : la latence requise p99 et le taux d'erreur valide → quel throughput est maintenu à la tête N %.
Méthode « des scénarios » : « Match LH », « Black Friday », « Tournoi à grande échelle » → le trafic supérieur quantifié + échec d'un AZ/nœud.
Méthode « cost-aware » : nous sélectionnons les configurations $/RPS, compte tenu des remises, des réservations, des spot/abonnements, de l'autoscaling.

Artefacts : Service Capacity Model per, limites et quotas (API, OBD, files d'attente), tableau « goulot d'étranglement → action » (chardage, cache, réplique, CQRS, async).

7) Gestion des risques

Registre des risques : identifiant, description, probabilité, impact (finances/SLA/réglementation), propriétaires, plans de prévention/réaction.
Catégories : charge (surchauffe), infrastructure (AZ/région fail), dépendances (fournisseurs de paiement), sortie (régression), produits (la campagne a augmenté plus vite que les attentes), conformité (limites/régulateur).
Matrice : Heatmap (Low/Medium/High × Impact).
KRI (Key Risk Indicators) : profondeur des files d'attente, croissance de p99, chute de hit-ratio, taux de burn> 2 ×, erreurs des fournisseurs.

8) Alerte précoce et alerte

Early-warning SLIs : croissance p95, réduction des cash hits, croissance de la latence tail, croissance de retry/timeout, augmentation de la consommation lag.
Alertes burn-rate sur le budget des erreurs : fenêtres rapides (1h) et lentes (6-24h).
Alerts de seuil et d'anomalie : seuils de base + modèles d'anomalie (IQR, STL, détecteurs de flux).
Agrégation des signaux : corollaire des événements de sortie/ficheflags/campagnes avec dégradations.

9) Analyse du scénario et « what-if »

« Si augmentation du trafic + 60 % en 10 minutes ? »

« Si CDN/WAF coupe 5 % du trafic légitime ? »

Si le fournisseur de paiement perd 30 % des autorisations ?
Pour chaque scénario : métriques attendues, goulots d'étranglement, étapes de dégradation (toggle off non critique fich), manuel/auto-skale, changement de fournisseur.

10) Test et vérification des prévisions

Tests de charge : trafic synthétique (k6/JMeter/Locust), profils « réel mix ».
Game Days/Chaos : arrêt AZ, dégradation OBD, épuisement du pool.
Shadow/Dark : trafic « dans l'ombre » du nouveau chemin sans impact sur la prod.
Rétrospective de précision : MAPE/SMAPE/RMSE + post-mortem "où se sont trompés ? ”.

11) Processus et rôles

• Responsible : SRE/Platform/DS Analysis.
• Accountable: Head of Ops/SRE.
• Consulted: Dev Leads, Marketing, Finance (FinOps).
• Informed: Support/Compliance/Business.
• Cadens : mises à jour hebdomadaires des prévisions, révisions mensuelles de SLO/Capacity, avant-cours de var.

12) Outils et pile

Données : Kafka, ClickHouse/BigQuery, Lake/DWH, dbt.
Surveillance : Prometheus, Grafana, Tempo/Jaeger, Loki/ELK, OTel.
ML/Prévisions : Airflow/Argo, feature store, modèles ARIMA/ETS/GBM, service de prévision (gRPC/REST).
Тесты: k6/JMeter/Locust, Fault-injection/Chaos Mesh.
Gestion : Feature Flags, Autoscaling (HPA/KEDA), Policy-as-Code.
FinOps : cost explorer, showback/chargeback, $/RPS dashboards.

13) Méthodes pratiques de mise en œuvre (roadmap)

1. Inventaire des métriques et des dépendances → carte des chemins critiques (dépôt, mise, retrait).
2. SLO/SLI et budgets d'erreurs → cibles p95/p99, error-rates, burn-alerts.
3. Collecte et nettoyage des données → une seule couche d'événements/métriques, déduplication, retards.
4. Prévision de base de la saisonnalité → modèles journaliers/hebdomadaires, jours fériés/matchs.
5. Extension par les pilotes → campagnes de marché, versions, géo, fenêtres de paiement.
6. Modèles capacity par service → headroom, limites, goulots d'étranglement, plan d'optimisation.
7. Scénario « what-if » et table de dégradation (kill-switches, read-only, grace).
8. Vérification par des tests/ombres → ajustement des modèles et des seuils.
9. La routine d'exploitation → les prévisions hebdomadaires, les rhubarbes avant-évents, les rétros après-évents.
10. L'automatisation → le skail automatique selon les prévisions, la connexion automatique des fournisseurs, l'auto-fitcheflag.

14) Anti-modèles

Prévision « moyenne seulement » sans queues p95/p99.
Ignorer les files d'attente et les pools - les problèmes apparaissent au sommet.
« Main sur l'œil » sans validation et métriques de précision.
Aucun lien avec les coûts → surdimensionnement.
Pas de plan de dégradation et de ficheflags.

15) Dashboards et rapports

Exec-dashboard : pronostic RPS/TPS (p50/p90/p95), headroom, risque-calorifique, burn-rate.
T-dashboard : p95/p99 latency par service, file d'attente/lag, hit-ratio, pool de connexion, base de données/cache, limites des API externes.
Financier : $/RPS, prévision des coûts, effet d'optimisation.
Précision des prévisions : prévision réelle vs, erreur par période/géo/canal.

16) Modèles d'artefacts

Registre des risques : ID, risque, probabilité/impact, propriétaire, IRC, plan de préemption, plan de réaction.
Capacity Sheet : service, throughput actuel, limite, goulot d'étranglement, headroom, extension requise, ETA/coût.
What-If Cards : script, facteurs d'entrée, métriques attendues, actions, critère d'achèvement.
Playbook Degrade : liste des fiches à désactiver, niveaux de QoS, itinéraires en cache/statique, limites de retry/timeout.

17) Principales fonctions KPI

Exécution de SLO (% des périodes dans la cible), temps de réponse aux indicateurs précoces, précision des prévisions (MAPE/SMAPE), nombre d'incidents dus à la surcharge, proportion d'échelles automatiques, économies de $/RPS sans dégradation de SLO.

Résultat

La prévision systémique de la charge et des risques est un ensemble : des données qualitatives → des métriques pertinentes → des modèles vérifiables → des scripts et des playbooks → l'automatisation de l'échelle et de la dégradation. Ce circuit assure la durabilité, la prévisibilité des coûts et une expérience utilisateur stable, même dans des pics extrêmes.