Serverless-Funktionen und Kaltstart

1) Was ist Cold Start und warum tritt es auf?

1. Allokation der Umgebung (Container/Micro-VM, Laufzeitauslastung).

2. VPC/ENI-Grundriss, Geheimnisse, Dateien, Konfiguration.

3. Initialisierung des Codes (Import der Module, Anbindung an die DB, Download der Modelle).

4. Ausführung des Handlers.

Warmstart (reuse) überspringt die Schritte 1-3. Die Wahrscheinlichkeit eines kalten Starts steigt mit Spitzen, nach Ausfallzeiten, mit zunehmender Parallelität und mit Code/Config-Updates.

2) Wie man Ziele misst und festlegt (SLO)

Metriken: 'init _ duration' (Initialisierung), 'duration _ total', „cold run share“, p95/p99 latency, Verbindungsfehler zu Abhängigkeiten nach Leerlauf.
Telemetrie-Entzug: Plattform-Logs + eigene Labels (z.B. 'cold = true/false' wenn 'context. isColdStart ™ oder eigene Flagge im statischen Verschluss).
SLO-Ziele (Beispiel): API „Login“ p95 ≤ 200 ms, Cold-Anteil ≤ 3%; Hintergrundaufgaben - p95 ≤ 1 s. Für „Geld“ -Routen - separate, strengere.

3) Die wichtigsten Hebel zur Reduzierung von Kaltstart

3. 1 Concarrency-Steuerung und Aufwärmen

Provisioned Concurrency/Min Instances: hält N warme Umgebungen. Verwenden Sie für kritische Stifte.
Warmers/warm up: Geplante Aufrufe (cron/scheduler), um die Worker warm zu halten. Machen Sie es vernünftig (Region, Zeit, Last).
Burst-Puffer: Erhöhen Sie die Parallelitätsgrenze im Voraus vor den erwarteten Spitzen.

3. 2 Verpackung und Abhängigkeiten

Kleines Deploy-Artefakt: tree-shaking, '--only prod' Abhängigkeiten, Layer (AWS Layers) für große Libs.
Lazy-init: Importieren Sie beim ersten Zugriff schwere Module innerhalb des Handlers; Öffnen Sie die Verbindungen faul.
Warme Ressourcen: Zwischenspeichern Sie SDK-Clients/Verbindungen im globalen Bereich, damit Sie beim Warmstart neu starten können.

3. 3 Netzwerk und VPC

Ohne VPC für Funktionen, die keine Privatsphäre benötigen (ansonsten fügt ENI-attach Dutzende bis Hunderte von ms hinzu).
Wenn VPC erforderlich ist, verwenden Sie den VPC-Economy-Provider-Modus (ENI-Pools/Optimierung), Proxy zu DB (RDS Proxy/Cloud SQL Auth Proxy) und Verbindungspooling.

3. 4 Sprachen und Rantimes

Node. js/Go startet am schnellsten; Python - normalerweise schnell, aber empfindlich auf große Importe; Java/.NET - schwerer ohne GraalVM/AOT und Profilierung.
Betrachten Sie für JVM SnapStart/CRaC/Graal Native; für. NET — trimmed Self-Contained.

3. 5 Initialisierung und Zustand

Bringen Sie die teure Initialisierung in den Initialisierungshook (init phase) und nicht in den Anforderungspfad.
Wenden Sie On-Demand-Config/Secret-Downloads mit lokalem Cache (TTL) an.
Speichern Sie keinen benutzerdefinierten Status im Speicher - nur Cache-Signale/Konnektoren.

4) Architektonische Muster, die den Einfluss von Kaltstart reduzieren

4. 1 Acintron und Warteschlangen

Wir übernehmen die Anfrage → walidirujem → wir legen in die Reihe/Reifen (SQS/PubSub/Queue Storage) → antworten wir 202/Accepted → bearbeiten wir vom Hintergrund.
Geeignet für nicht-interaktive Transaktionen (Auszahlungen, Berichte, schwere Berechnungen).

4. 2 Precompute/Pre-cache

Generierung von Zugriffen/Verzeichnissen/Fich-Flags im Vorfeld über Trigger (CRON/Events) und Speicherung im KV/Cache/Edge.

4. 3 Fan-out/Fan-in

Wir teilen eine lange Operation in mehrere kurze Funktionen (Map/Reduce-like) auf → das Risiko von Timeouts und wiederholter Kälte ist geringer.

4. 4 Edge-offload

Die einfachsten Checks (JWT/HMAC, Geo-Redirect, Anti-Bot) führen wir am Rand (Workers/Functions @ Edge) durch, um RTT zu sparen und den Ursprung zu entlasten.

5) Praxis: Configs und Techniken

5. 1 AWS Lambda (provisioned + RDS Proxy)

hcl
Terraform sketch: enable provisioned concurrency on the sales version of the resource "aws_lambda_provisioned_concurrency_config" "api" {
function_name = aws_lambda_function. api. function_name qualifier   = aws_lambda_alias. prod. name provisioned_concurrent_executions = 20
}

RDS Proxy for connection pool "aws_db_proxy" "rds_proxy" {
name          = "pg-proxy"
engine_family     = "POSTGRESQL"
idle_client_timeout  = 1800 require_tls      = true
}

js let pgClient ;//reuse between warm runs let cold = true;

exports. handler = async (event, ctx) => {
const isCold = cold; cold = false;
if (!pgClient) {
const { Client } = await import('pg');     // lazy import pgClient = new Client({ host: process. env. PG_PROXY, ssl: true });
await pgClient. connect();
}
const t0 = Date. now();
const data = await pgClient. query('select 1');
return {
statusCode: 200,
headers: { 'x-cold-start': String(isCold), 'x-elapsed-ms': String(Date. now()-t0) },
body: JSON. stringify({ ok: true })
};
};

5. 2 GCP Cloud Run / Cloud Functions (min instances)

yaml
Cloud Run service. yaml apiVersion: serving. knative. dev/v1 kind: Service metadata: { name: api }
spec:
template:
metadata:
annotations:
autoscaling. knative. dev/minScale: "5" # keep warm run containers. googleapis. com/cpu-throttling: "false"
spec:
containerConcurrency: 80 containers:
- image: gcr. io/proj/api:latest env:
- { name: DB_HOST, value: "10. 0. 0. 5" }

5. 3 Azure Functions (AlwaysOn/PreWarm)

Premium/Elastic Pläne mit AlwaysOn; Pre-warmed instances ≥ prädiktiven p95 Parallelität.

6) Timeouts, Retrays, Deadlines

Die allgemeine Deadline (Client-Seite) über den Header ('x-deadline-ms '/' grpc-timeout') übergeben, innerhalb der Funktion 'Per-Hop-Timeout' verkürzen.
Wiederholungen nur für idempotente Operationen; Verwenden Sie Idempotency-Key und Deduplizierung.
Für Front-APIs - Hedging (doppelte Anforderung nach p90) und Circuit Breaker für Langstrecken-Abhängigkeiten.

7) Arbeiten mit DB/Caches/Secrets

Pools/Proxys (RDS Proxy/Cloud SQL Proxy/pgBouncer) statt tausender kurzer Anschlüsse.
Kurzes TTL-Geheimnis + Cache im Speicher mit Hintergrundaktualisierung.
Cache (Redis/Memcached/KV): Aufladen von „schweren“ Verzeichnissen auf init, jedoch mit Zeitlimit.

8) Code-Organisation und Montage

Einzelne Handler für schmale Use-Case's; ein „dickes“ Bündel = langer Init.
ESBuild/Rollup: Unbenutztes ausschließen, nur Kritisches zusammenführen.
Schichten (Layers/Extensions) - für große Schichten (OpenSSL-Modelle, SDK), um den Cache des Anbieters neu zu verwenden.

9) Testen und Simulation von Peaks

Kaltstart-Synthetik: Schalten Sie min instances gewaltsam aus und fahren Sie den Parallelverkehr mit Stufen.
A/B: Vergleichen Sie cold Anteil, p95, Verbindungsfehler zu DB/Geheimnisse, Kosten.
GameDay: Spitzenlast × 2 vom Allzeithoch, Warmlaufabschaltung.

10) Kosten (FinOps)

Min instances/provisioned concurrency kosten Geld - nur für heiße Routen einschalten.
Reduzieren Sie die Laufzeit: Cache, kurze Timeouts, vermeiden Sie unnötige SDKs.
Berücksichtigen Sie egress (Aufrufe an externe APIs) und Logging (das Volumen der Protokolle wächst schnell auf kalten Peaks).

11) Antipatterns

Ein monolithischer Handler mit Dutzenden von Megabyte an Abhängigkeiten.
Obligatorische DB-Verbindung bei jedem Anruf (ohne reuse/proxy).
VPC für alle Funktionen „nur für den Fall“.
Lange Zeiträume und blinde Retrays → „Schwänze“ und Phantomabschreibungen.
Aufwärmen „nur in Folge“ rund um die Uhr.
Geheime Initialisierung im Anforderungspfad (init lentice> 100ms - in init/Cache übernehmen).

12) Spezifität von iGaming/Finanzen

Geldwege (Ein-/Auszahlungen): Halten Sie provisionierte/min Instanzen, separate SLOs, strikte Begrenzung von Timeouts und Wiederholungen (Idempotenz obligatorisch).
KYC/PSP: instabile externe APIs - wickeln Sie in queue + worker, auf der Vorderseite - 202/polling/webhook.
Regulatory & Audit: Unveränderliche Protokolle (WORM), Protokoll eingehender Ereignisse mit 'Idempotency-Key', Korrelation 'trace _ id'.
Datenresidenz: Funktionen, die PII verarbeiten, in regionalen Konten/Projekten bereitstellen; keine Edge-Caches mit PII.

13) Checkliste Prod-Ready

• SLI/SLO definiert: p95/p99, cold share, Zielwerte nach Routen.
• Enthalten provisioned/min instances auf kritischen Funktionen; Concarrency-Prognose.
• Das Bündel wird minimiert; schwere Blätter werden in Schichten getragen; lazy-import/initialization.
• Reuse von SDK/DB-Clients; RDS/SQL Proxy ist konfiguriert; Verbindungspool.
• VPC nur wo nötig; ENI/Proxies optimiert; Geheimnisse durch Manager + lokalen TTL-Cache.
• Timeouts/Deadlines/Retrays: Backoff + Jitter; Nur idempotente Wiederholungen.
• Synthetik „kalt“ + Belastungstests; alert auf das Wachstum des Anteils von cold und p99.
• Runbooks: wie man provisioned erhöht, wie man minScale ändert, wie man Degradation einschließt.
• Für iGaming: separate SLOs/Dashboards „Wege des Geldes“, Idempotency-Key, WORM-Audit.

14) TL; DR

Kaltstart ist unvermeidlich, aber beherrschbar: Halten Sie warme Instanzen dort, wo es wichtig ist, reduzieren Sie das Bundle, wenden Sie Lazy-Init und Reuse-Verbindungen an, vermeiden Sie unnötige VPCs, nehmen Sie schwere Operationen in Warteschlangen/Worker und verwenden Sie Edge für einfache Regeln. Für kritische Finanzwege - separate SLOs, Idempotenz und strikte Timeouts; Messen Sie den kalten Anteil und schalten Sie das Aufwärmen nur dort ein, wo es sich auszahlt.