Payments/Bets-də SLO-burn alertlər
Əməliyyat yol xəritəsi
1) Niyə lazımdır
Əməliyyat Yol Xəritəsi (Ops Roadmap) SRE/platforma/dəstək və domen komandalarının müxtəlif vəzifələrini şəffaf bir plana çevirir: SLO-da hansı effekti/dəyəri/hadisələri hər rübdə əldə edəcəyik və hansı qiymətə (insanlar, vaxt, büdcə). Bu, xaosu azaldır, texniki borcu tənzimləyir və biznesə dəyər tədarükünü sürətləndirir.
Məqsədlər:- Ölçülebilir nəticələr ətrafında təşəbbüsləri birləşdirin (SLO, MTTR, Cost/RPS, Risk).
- Platforma, domenlər və xarici provayderlər arasında prioritetləri əlaqələndirin.
- Resursları büdcələyin və «nə etmədiyimizi» qeyd edin (açıq-aşkar ticarət-off).
- İcra və risklər haqqında vahid həqiqəti saxlayın.
2) Yol xəritəsinin prinsipləri
1. Outcome-first: Hər bir təşəbbüs nəticənin metrikasına bağlıdır («X tətbiq etmək» deyil, «MTTR-i 20% azaltmaq»).
2. SLO-aware: SLO kritik yolları təsir təşəbbüsləri (depozit/bahis/oyun/KUS), daha yüksək prioritet.
3. Data-driven: hadisələrə, postmortemlərə, həyəcanlara, Capacity/FinOps panellərinə əsaslanırıq.
4. Time-boxed & reversible: kiçik artımlar, hipotezlərin yoxlanılması, sürətli geri dönüş.
5. Single source of truth: vahid artefakt, müntəzəm revyu və ictimai statuslar.
6. No hidden work: kart xaricində - yalnız «yanğınlar» reqlamentə əsasən.
3) Roadmap çərçivəsi: səviyyələr və artefaktlar
Baxış (12-18 ay): 3-5 əməliyyat mövzuları (Reliability, Scale, Cost, Security, Automation).
Sütunlar (6-12 ay): mövzular üzrə təşəbbüs blokları (məsələn, «100% kritik yolların SLO-örtüyü», «2 regionda Active-Active»).
Rüblük plan (Q): metriklər, sahiblər, asılılıqlar, büdcə ilə konkret təşəbbüslər.
İterasiyalar (2-3 həftə): tapşırıqlar/epiklər və faktiki tərəqqi.
ID: OPS-23
4) Prioritization: How to compare the incomparable
4. 1 RICE (Reach, Impact, Confidence, Effort)
Reach: affected users/transactions/geo.
Impact: expected contribution to SLO/MTTR/Cost.
Confidence: Confidence in estimates (data/pilots).
Effort: man-weeks/calendar window/dependencies.
4. 2 WSJF (Scaled)
Cost of Delay = (SLO Risk + Revenue Impact + Compliance + Incident Rate)
/ Job Size = duration/force.
Suitable for mixed initiatives (technical debt, security, platform features).
The rule: initiatives with high SLO risk and high cost of delay come first, even if the effect is "invisible" on UI.
5) Relationship with OKR, SLO and incidents
Platform-level OKR:
KR1: "Reduce Change Failure Rate from 18% to 12% by the end of Q2."
KR2: "Increase Pre-Incident Detect Rate from 35% to 60%."
SLO-matrix: for each domain - target p95/p99/Success Rate/Availability.
Incident analytics: the top 3 reasons for the last quarter should have counteraction initiatives in the current one.
6) Resource and budget planning
FTE-matrix: by squads and competencies (SRE, Observability, Data, Integrations).
Provider calendar: maintenance/quota windows (impact on dates).
CapEx/OpEx: licenses/cluster extensions vs command hours.
Buffer: ~ 15-20% for unplanned "fires" and regulatory tasks.
What-don't-do policy: A list of rescheduled/postponed initiatives with reasons.
7) Managing dependencies and risks
Dependency map: who blocks whom (service/provider/data/command).
Risk register: risk, probability/impact, owner, mitigation plan/plan B.
Change freeze: periods of prohibition of major changes (prime time events/tournaments).
Ficheflags/canaries: Mandatory for initiatives affecting traffic.
8) Quarterly cycle (rhythms)
Q-0 (preparation, 2 weeks): data collection (SLO, incidents, costs), revision of topics, preliminary prioritization.
Q planning: protection of initiatives by owners, reconciliation of resources/risks, fixing the Q plan and "not doing" the list.
Weekly sync: status, blockers, adjustments; maximum 30 minutes.
Monthly review: checking effects on metrics, possible re-scope.
Q retro: compare plan/fact, update principles/patterns.
9) Roadmap view formats
Outcome View: grouped by purpose (SLO, Cost, Risk).
Domain View: Payments/Bets/Games/KYC/Platform.
Timeline View: quarterly, with dependency and frieze markers.
Budget View: FTE/CapEx/OpEx by Initiative and Topic.
Example of a quarterly slice (summary):
Initiative Outcome Metrics Term Owner Risk
-------------------- ----------------------- -------------------- ----- ------------- -------
Active-Active Games RTO≤5 min Availability 99. 95% Q1–Q2 platform-sre High
SLO-burn на Payments − 30% of late incidents Pre-Incident↑, MTTR↓ Q1 observability Average
Kafka Lag Guardrails − 50% of lag storms Lag p95↓, DLQ↑ Q1 streaming Average
FinOps Right-sizing −15% cost/RPS Cost/RPS↓ Q2 finops Low
10) Roadmap Success Metrics (KPIs)
Delivery Predictability: percentage of initiatives completed on time (target ≥ 80%).
SLO Coverage:% of critical paths with active SLOs/alerts.
Incident Trend: − X% of P1/P2 QoQ incidents
Change Failure Rate: Target decline by quarter.
Cost Efficiency: Cost/RPS, Cost/transaction - downward trend.
Risk Burn-down: the number of "red" risks and their total weight.
Stakeholder NPS: satisfaction of domain teams with the quality of the Roadmap.
11) Roadmap launch checklist
[] Defined themes/pillars and 3-5 target outcomes per year.
[] Catalog of initiatives linked to metrics and owners.
[] Prioritization methodology (RICE/WSJF) and scales adopted.
[] Checked resources: FTE, provider windows, budgets.
[] Fixed Q-plan + "not doing."
[] Set up Outcome/Domain/Budget panels, alerts by shifts.
[] Review Schedule: weekly/monthly/quarterly.
12) Anti-patterns
List of tasks without outcomes: "make X" instead of "achieve Y by metric."
Hidden initiatives and private arrangements outside of a single artifact.
Eternal epics: no time-box, no verifiable milestones.
Priority "in terms of volume": resources are spent on the "loudest" request, and not on the most valuable one.
No "what not to do": expectations are unmanageable, trust is falling.
Lack of a link with incidents/SLO: "cosmetic" improvements instead of real ones.
13) Templates (fragments)
Initiative Template (YAML):
yaml id: OPS-42 title: «Kanaryalar üçün Guardrails»
theme: "Reliability"
quarter: "2025-Q1"
owner: "platform-release"
stakeholders: ["payments", "bets", "games"]
outcome: «Relizlərdən sonra regressiyanı 40% azaltın»
metrics:- name: change_failure_rate target: "<= 12%"
- name: post_deploy_regression_rate target: "-40% QoQ"
- slo_impact: ["api_p99 <= 300ms@99. 9", "availability >= 99. 95%"]
- reach: 5000000 # əməliyyatlar/kv impact: 3. 0 confidence: 0. 7 effort: 6 dependencies: ["observability-baseline", "feature-flags-core"]
- name: «geytlərin saxta işə salınması»
- mitigation: «baseline/tuning, 10% trafik pilot»
- name: design eta: "2025-01-20"
- name: pilot-10%
- eta: "2025-02-10"
- name: rollout-100%
- eta: "2025-03-05"
Quarterly report template (Markdown):
Q1 Ops Roadmap - Hesabat
Nəticələr üzrə yekun nəticə: SLO Coverage 92% (+ 7 pp), MTTR − 18%, Cost/RPS − 9%
Yerinə yetirildi: 8/10 təşəbbüs (80%)
Sürüşmə: OPS-31 → Q2 (PSP-X provayderindən asılılıq)
Hadisələr: P1 = 2 (− 1 kv/kv), əsas səbəblər: provayder taymautlarında retrajlar
Follow-ups: breykerlərin sazlanması, PSP-Y ehtiyat kvotaları
14) Proseslərlə inteqrasiya
Hadisə menecmenti: hər postmortem → Roadmap-da təşəbbüs/təkmilləşdirmə bileti.
Dəyişikliklər/buraxılışlar: böyük təşəbbüslər yalnız bayraqlar/kanareyklərlə gedir.
Capacity/FinOps: ayda bir dəfə headroom və cost trendləri ilə sinxronizasiya.
Təhlükəsizlik/uyğunluq: tələblər və auditlər üzrə rüblük nəzarət nöqtələri.
15) 30/60/90 (sürətli başlanğıc)
30 gün: hadisə/metrik baza toplamaq, mövzuları formalaşdırmaq, YAML formatında 10-15 təşəbbüsləri təsvir etmək, RICE/WSJF seçmək, Q-planını düzəltmək.
60 gün: Outcome/Domain/Budget panellərini işə salın, ilk xarici rüblük baxış keçirin, məlumatlara görə prioritetləri tənzimləyin.
90 gün: Q-nəticələrini yekunlaşdırın, prinsipləri və şkalaları yeniləyin, illik sütunları yenidən təyin edin.
16) Rabitə və şəffaflıq
Steykholderlər üçün aylıq baxış: 30 dəqiqə, nəticələr və risklərə diqqət yetirin.
Asinxron yeniləmələr: «əvvəl/sonra» metrikləri ilə qısa qeydlər.
Vahid Roadmap kanalı: statuslar, dəyişikliklər, prioritetlər üzrə qərarlar.
«Qırmızı kart» qaydası: Hər hansı bir komanda (SLO/hadisə/dəyər) əlavə edərək prioritetə yenidən baxmağa başlaya bilər.
17) FAQ
Q: Hər şey «yanır» və Roadmap üçün vaxt yoxdursa nə etməli?
A: «Yanğın bufer» daxil 15-20% və hadisələrin əsas səbəblərini əhatə edən 3 təşəbbüsün minimum Q planı. Hər hansı yeni «isti» iş - yalnız prioritetlərin yenidən seçilməsi yolu ilə.
Q: «Görünməz» təşəbbüslərin dəyərini necə sübut etmək olar?
A: Change Failure Rate, MTTR, Pre-Incident Detect Rate, geri dönüş və «gecə page» hesab. Dinamikanı əvvəl/sonra göstərin.
Q: texniki borc ilə nə etmək olar?
A: Borc da outcome ilə bir təşəbbüsdür: "− X% N sinif hadisələri", "− Y% cost/RPS", "+ Z pp. SLO Coverage». Ölçülə bilən nəticə olmadan borc plana daxil olmur.