Serverless funksiyalari va cold start

1) cold start nima va nima uchun paydo bo’ladi

1. Muhit allokatsiyasi (konteyner/mikro-VM, runtime yuklash).

2. VPC/ENI, sirlar, fayllar, konfiguratsiyalarni moslash.

3. Kodni ishga tushirish (modullarni import qilish, DBga ulanish, modellarni yuklash).

4. Handler bajarilmoqda.

Warm start (reuse) 1-3 qadamlarini oʻtkazib yuboradi. cold start ehtimoli cho’qqilarda, to’xtab qolganda, parallellik ko’payganda va kod/konfiguratsiyalar yangilanganda oshadi.

2) Qanday o’lchash va maqsadlar qo’yish (SLO)

Metriklar:’init _ duration’(boshlang’ich),’duration _ total’, «sovuq ishga tushirishlar ulushi», p95/p99 latency, ishlamay qolgandan keyin bog’lanish xatolari.
Telemetriyani olib tashlash: platforma loglari + o’z belgilari (masalan,’context’mavjud bo’lganda’cold = true/false’. isColdStart’yoki statik tutashuvda oʻz bayrogʻi).
SLO-maqsadlar (misol): API «login» p95 ≤ 200 ms, ulushi cold ≤ 3%; fondagi topshiriqlar - p95 ≤ 1 s. «Pul» yo’nalishlari uchun - alohida, qattiqroq.

3) cold start kamaytirishning asosiy vositalari

3. 1 Konkarrensi va isitish boshqarmasi

Provisioned Concurrency/Min Instances: N issiq muhitni saqlaydi. Tanqidiy dastalar uchun foydalaning.
Warmers/Isitish: Vorkyerlarni issiq ushlab turish uchun rejalashtirilgan chaqiruvlar (cron/scheduler). Buni oqilona qiling (hudud, vaqt, yuk).
Burst-buferlar: kutilgan cho’qqilar oldidan parallellik chegarasini oldindan oshiring.

3. 2 O’rash va qaramlik

Kichik deploy-artefakt: tree-shaking,’-only prod’qaramlik, katta lib qatlamlari (AWS Layers).
Lazy-init: handler ichidagi og’ir modullarni birinchi kirishda import qiling; dangasalik bilan ulanishlarni oching.
Iliq resurslar: SDK/Global ulanish mijozlarini warm ishga tushirish uchun kesh qiling.

3. 3 Tarmoq va VPC

VPCsiz, xususiylashtirishga muhtoj bo’lmagan funksiyalar uchun (aks holda ENI-attach o’nlab-yuzlab ms qo’shadi).
Agar VPC talab qilinsa, VPC-iqtisodiy provayder rejimidan (ENI-pullar/optimallashtirish), DBga proxy (RDS Proxy/Cloud SQL Auth Proxy) va connection poolingdan foydalaning.

3. 4 Tillar va randaym

Node. js/Go eng tez boshlanadi; Python - odatda tez, lekin katta importlarga sezgir; Java/.NET - GraalVM/AOT va profillashsiz qiyinroq.
JVM uchun SnapStart/CRaC/Graal Native’ni ko’rib chiqing; uchun. NET — trimmed Self-Contained.

3. 5 Tashabbuskorlik va state

Qimmatbaho boshlang’ichni so’rov yo’liga emas, balki init phase (init phase) ga kiriting.
Lokal keshli (TTL) konfiguratsiyalar/sirlarni on-demand yuklashdan foydalaning.
Foydalanuvchini xotirada saqlamang - faqat kesh/konnektorlar.

4) cold start ta’sirini kamaytiruvchi me’moriy patternlar

4. 1 Asinxron va navbatlar

So’rovni qabul qilamiz → tasdiqlaymiz → navbatga/shinaga qo’yamiz (SQS/PubSub/Queue Storage) → javob beramiz 202/Accepted → fon bilan ishlaymiz.
Interaktiv bo’lmagan operatsiyalar (to’lovlar, hisobotlar, og’ir hisoblashlar) uchun mos keladi.

4. 2 Precompute/Pre-cache

Kirish/katalog/fich bayroqlarini oldindan trigger (CRON/hodisa) boʻyicha yaratish va KV/kesh/edge tizimida saqlash.

4. 3 Fan-out/Fan-in

Uzoq operatsiyani bir nechta qisqa funksiyalarga (Map/Reduce kabi) ajratamiz → taymaut va takroriy cold xavfi kamroq.

4. 4 Edge-offload

Oddiy tekshiruvlar (JWT/HMAC, geo-redirekt, antibot) RTTni tejash va originni tushirish uchun edge (Workers/Functions @Edge) da amalga oshiriladi.

5) Amaliyot: konfigür va usullar

5. 1 AWS Lambda (provisioned + RDS Proxy)

hcl
Terraform sketch: enable provisioned concurrency on the sales version of the resource "aws_lambda_provisioned_concurrency_config" "api" {
function_name = aws_lambda_function. api. function_name qualifier   = aws_lambda_alias. prod. name provisioned_concurrent_executions = 20
}

RDS Proxy for connection pool "aws_db_proxy" "rds_proxy" {
name          = "pg-proxy"
engine_family     = "POSTGRESQL"
idle_client_timeout  = 1800 require_tls      = true
}

js let pgClient ;//reuse between warm runs let cold = true;

exports. handler = async (event, ctx) => {
const isCold = cold; cold = false;
if (!pgClient) {
const { Client } = await import('pg');     // lazy import pgClient = new Client({ host: process. env. PG_PROXY, ssl: true });
await pgClient. connect();
}
const t0 = Date. now();
const data = await pgClient. query('select 1');
return {
statusCode: 200,
headers: { 'x-cold-start': String(isCold), 'x-elapsed-ms': String(Date. now()-t0) },
body: JSON. stringify({ ok: true })
};
};

5. 2 GCP Cloud Run / Cloud Functions (min instances)

yaml
Cloud Run service. yaml apiVersion: serving. knative. dev/v1 kind: Service metadata: { name: api }
spec:
template:
metadata:
annotations:
autoscaling. knative. dev/minScale: "5" # keep warm run containers. googleapis. com/cpu-throttling: "false"
spec:
containerConcurrency: 80 containers:
- image: gcr. io/proj/api:latest env:
- { name: DB_HOST, value: "10. 0. 0. 5" }

5. 3 Azure Functions (AlwaysOn/PreWarm)

Premium/Elastic AlwaysOn bilan rejalar; pre-warmed instances ≥ prognoz p95 parallelizm.

6) Taymautlar, retralar, muddatlar

Umumiy muddat (client-side) sarlavha (’x-deadline-ms ’/’ grpc-timeout’) orqali uzatiladi.
Faqat idempotent operatsiyalari uchun takrorlar; Idempotency-Key va deduplikatsiyadan foydalaning.
Front API uchun - hedging (p90 dan keyin takrorlanadigan so’rov) va uzoq masofaga qaramlik uchun circuit breaker.

7) DB/keshlar/sirlar bilan ishlash

Pullar/proksi (RDS Proxy/Cloud SQL Proxy/pgBouncer) minglab qisqa konnektlar o’rniga.
Qisqa TTL siri + orqa fon yangilanishi bilan xotiradagi kesh.
Kesh (Redis/Memcached/KV): «og’ir» ma’lumotnomalarni initga yuklash, lekin vaqt chegarasi bilan.

8) Kodni tashkil etish va yig’ish

Tor use-case’larga alohida hendlerlar; bitta «qalin» bandl = uzun init.
ESBuild/Rollub: Foydalanilmaganini chiqarib tashlang, faqat tanqidiyni birlashtiring.
Katmanlar (Layers/Extensions) - provayder keshini qayta ishlatish uchun katta lib (OpenSSL modellari, SDK) uchun.

9) Sinovdan o’tkazish va cho’qqilarni simulyatsiya qilish

Sintetika «sovuq» ishga tushirish: majburan min instances o’chirish va parallel trafikni zinapoyalar bilan haydash.
A/B: cold, p95 ulushini, konnekt xatosini DB/sirlarga solishtiring, xarajatlar.
GameDay: eng yuqori yuk × 2 tarixiy maksimal, isinishni o’chirish.

10) Qiymati (FinOps)

Min instances/provisioned concurrency pul turadi - faqat issiq marshrutlar uchun yoqing.
Bajarish muddatini qisqartiring: kesh, qisqa vaqt, keraksiz SDKlardan voz keching.
Egress (tashqi API chaqiruvlari) va loglarni (loglar hajmi cold choʻqqilarida tez oʻsadi) hisobga oling.

11) Antipatternlar

O’nlab megabayt qaramliklarga ega bitta monolit handler.
Har bir chaqiruvda DBga majburiy ulanish (reuse/proxy’siz).
VPC barcha funksiyalar uchun «har qanday holatda».
Uzoq taymautlar va ko’r retrajlar → «dumlar» va fantomik hisobdan chiqarish.
Kechayu kunduz «hamma narsani» isitish.
So’rov yo’lidagi maxfiy boshlang’ich (init> 100 ms - init/keshga olib chiqing).

12) iGaming/Moliya xususiyatlari

Pul yo’llari (depozitlar/xulosalar): provisioned/min instances, alohida SLOlarni saqlang, taymaut va takrorlarni qat’iy cheklash (idempotentlik majburiy).
KYC/PSP: beqaror tashqi API - queue + worker, old tomonda - 202/polling/vebxuk.
Tartibga solish va audit: o’zgarmas loglar (WORM),’Idempotency-Key’bilan kiruvchi voqealar jurnali,’trace _ id’korrelyatsiyasi.
Data residency: PIIni qayta ishlaydigan funksiyalarni mintaqaviy akkauntlarda/loyihalarda joylashtiring; PII bilan hech qanday edge-kesh yo’q.

13) Prod-tayyorlik chek-varaqasi

• SLI/SLO aniqlandi: p95/p99, cold ulushi, yo’nalishlar bo’yicha maqsadli qiymatlar.
• Provisioned/min instances muhim funksiyalarda kiritilgan; konkarrensi prognozi.
• Bandl minimallashtirilgan; og’ir libalar qatlamlarga chiqarilganda; lazy-import/ishga tushirish.
• SDK/DB mijozlarining Reuse; RDS/SQL Proxy moslamalari; ulanishlar puli.
• VPC faqat zarur joylarda; ENI/proxy optimallashtirilgan; sirlar menejer + TTL mahalliy kesh orqali.
• Taymautlar/muddatlar/retralar: backoff + jitter; faqat idempotent takrorlashlar.
• Sintetika «cold» + yuklash testlari; cold va p99 ulushining o’sishiga alertlar.
• Runbooks: provisioned qanday kattalashtirish kerak, minScale qanday o’zgartirish kerak, degradatsiyani qanday yoqish kerak.
• iGaming uchun: alohida SLO/dashbordlar «pul yo’llari», Idempotency-Key, WORM-audit.

14) TL; DR

Cold start muqarrar, lekin biz boshqaramiz: muhim bo’lgan joyda iliq instansiyalarni ushlab turing, bandlni kamaytiring, lazy-init va reuse ulanishlarini qo’llang, ortiqcha VPCdan qoching, navbat/vorkerlarda og’ir operatsiyalarni o’tkazing va engil qoidalar uchun edge’dan foydalaning. Tanqidiy moliyaviy yo’llar uchun - alohida SLO, idempotentlik va qat’iy taymautlar; cold ulushini o’lchang va isitishni faqat o’zini oqlaydigan joyda yoqing.