Toruň gijikdirilmegini optimizirlemek

Gysgaça gysgaça

Gizlinlik = zynjyr boýunça kiçi gijikdirmeleriň jemi. Gowulaşma yzygiderli gazanylýar: "böküşleri" azaldyň (Anycast/CDN), RTT-ni azaldyň (marşrutlar/QoS), "bolty" peseldiň (DNS/TLS/TCP), nobatlary gysga saklaň (AQM/ECN), baýtlary minimallaşdyryň (gysgaldyň/kesiň)) we hemişe p95/p99 ölçäň. Ölçegsiz islendik optimizasiýa çaklamadyr.

Gizlinlik býudjeti: gijikdirme näme

TTFB-iň dargamagyny ýönekeýleşdireliň:


TTFB ≈ t_DNS + t_connect + t_TLS + t_queue + t_routing + t_app + t_first_byte

Nirede:

t_DNS - adyň jemidir.
t_connect - L4 (TCP/QUIC).
t_TLS - TLS el çarpmak.
t_queue/t_routing - nobatlar/geçişler (buferlemek, aşa ýüklemek, NAT).
t_app - ilkinji bayta çenli serwer bejergisi.

Maksat - SLO-ny her bir gurluş boýunça bermek we yzygiderli barlamak.

SLO/Metrikler

DNS p95: ýerli ≤ 20-30 ms, global ≤ 80-120 ms.
TCP connect p95: ≤ 80-120 ms sebitleýin, ≤ 200-250 ms sebitara.
TLS handshake p95: ≤ 80–120 мс (с OCSP stapling, resumption).
TTFB p95 (statik): ≤ 120-150 ms sebitleýin.
TTFB p95 (API): ≤ 200-300 ms.
Jitter p95 (UDP/RT): ≤ 15–30 мс; ≤ ýitgileri 0. 1–0. 3%.

Alertler: p95/p99, 'SYN retries', 'resumption', 'ECN CE' ýa-da 'packet loss'.

DNS: çalt başlamak

Anycast-authorities + ýakyn rekursorlar (zerur bolsa DoH/DoT).
Dinamiki atlar üçin gysga TTL (60-300 s); negative-TTL gözegçilik astynda.
Programmanyň gapdalyndaky DNS kesesi; 'prefetch' gyzgyn ýazgylar.
CNAME → CNAME → A/AAAA-dan artykmaç geçişleri aýyryň.

TLS/HTTP: az el çarpmak, sessiýadan has çalt

TLS 1. 3, OCSP stapling, CA gysga zynjyrlary.
Session resumption (tickets/IDs) и ALPN (`h2`, `h3`).
HTTP/2: multiplekslemek, az konektler → p95 aşakda.
HTTP/3 (QUIC): 0-RTT (diňe idempotentler üçin), ýitgä/jitere has gowy çydamlylyk.
Preconnect/Prewarm (edge/müşderi): "gyzgyn" domenler üçin baglanyşyklary öňünden açyň.

Ulag: TCP vs QUIC we ýadro yığını

TCP

Häzirki zaman Congestion Control: BBR v2 (ýa-da konserwatiw bolsa CUBIC).
RACK/TLP çalt retransmit üçin; SACK-i açyň.
ECN + AQM (CoDel/FQ_CoDel): buferbloat we jitterleri azaldar.
TCP Fast Open - state-changing soraglaryndan gaça durmak; peýdasy jedelli.

QUIC (HTTP/3)

TCP + TLS + HTTP/2 bilen deňeşdirilende "baş gulplama" az.
Reorderinge/ýitgilere çydamly; durmuşa geçirişiňizi täzeläň (mysal üçin, H3 bilen Envoy/HAProxy).
UDP/443 we MTU/bölekleri yzarlaň.

MTU/PMTUD we bölek

Bitewi MTU end-to-end; tuneller üçin (IPsec/WireGuard/VXLAN)

PMTUD we ICMP "Fragmentation needed".
QUIC üçin - max datagram yzarlamak we perimetrde ICMP kesmezlik.

Marşrut we ýol fizikasy

Jemgyýetçilik IP API/edge frontlary üçin anycast.
Geo/Latency routing (GSLB) + health-checks.
ECMP we BFD zawodda (Leaf-Spine) <1 s üçin erbet ýollary aradan aýyrmak üçin.
Ulanyjylaryň jemlenen sebitlerinde (IX) aplinkalary/toýlary utgaşdyryň.

Nobatlar we QoS: buferleri gysga tutuň

Synplar: real-time (RT/VoIP), interaktiw (API), bulk (bekaplar/ETL).
LLQ/WRR, API/tölegleri bulk-dan ileri tutmak.
ECN (CE-bellik) + AQM (CoDel/FQ_CoDel) serhet nobatlarynda.
"Iň ýokary minutlardan" arkaplary we uly gökleri kesmek/geçirmek.

NAT, proxy we middleboxes

NAT/süzgüçleriň kaskadyny azaldyň.
Stateful middlebox ýollaryň asimmetriýasyna tankydy: 5-tuple, pin-ning akymlary boýunça balans.
Uzak ömürli konnektler üçin keepalive we akylly idle-taýmut goldawy (gRPC/WebSocket).

Keş we maglumatlary ýerleşdirmek

CDN/origin-shield/tiered-cache - origin-e az syýahat.
Wersion assets (immutable, 1 ýyl).
Ýarym dinamika üçin gysga TTL + 'stale-while-revalidate'.
Geo-placement: gyzgyn maglumatlar ulanyja has ýakyn (read-replica/edge-KV), ýazgy bolsa "hakykat çeşmesine".

Programma derejesinde optimizasiýa

Soraglaryň sanyny azaldyň (bundling/HTTP/2 push indi moda däl - prefetch/preconnect has gowudyr).
Payload azaldyň: gysyş (Brotli), şekilleriň web formatlary, ikili protokollar (gRPC).
Soraglaryň gidempotentligi → howpsuz retralar we agressiw wagtlar.
TTFB azaltmak üçin Async/streaming (SSE/gRPC streaming).

Syn etmek: näme ölçemeli

Müşderi telemetriýasy (RUM): DNS/connect/TLS/TTFB, Geo/ASN, enjam.
Tor: RTT, ýitgiler, jitter, ECN CE/ECT (0/1), interfeýsleriň nobatlary, ýalňyşlyklar/aşa köp.
Транспорт: retransmits, out-of-order, cwnd/BBR state, handshake stats, resumption.
L7: p50/p95/p99, error rate, payload size, gistogrammalar boýunça/RoR.
Sebit/ASN/aragatnaşyk operatory boýunça metrleri bölüň - hut şol ýerde "gyzgyn nokatlar" gizlenýär.

Kiçi pleýbuklar

1) Çalt audit p95

1. RUM-dan gizlinlik býudjetini (DNS/TLS/connect/TTFB) guruň.
2. PoP/ASN boýunça tor metrleri (RTT/loss/ECN) bilen deňeşdiriň.
3. 'connect' we 'TLS' agdyklyk etse → preconnect/resumption/HTTP/3 açyň.
4. Eger 'TTFB' ýokary bolsa → keş/edge/göçürme we programmany optimizirlemek.

2) Ýitgileriň/jitteriň köpelmegi

1. Uplink/interfeýsleri (damjalar/nobatlar) barla.
2. AGM (FQ_CoDel) açmak/berkitmek, bulk-synpy azaltmak.
3. BFD/ECMP ýoluny barlaň, flip linkini aýyryň.
4. Müşderiler üçin - retralary wagtlaýyn ýokarlandyrmak we olaryň arasyndaky wagty azaltmak.

3) Sebitleýin pese gaçmak

1. GSLB-ni goňşy PoP-e geçir; withdraw Anycast/32 degrade.
2. TTL azaltmak, 'stale-while-revalidate' -ni işjeňleşdirmek.
3. Status sahypasyna status iberiň, RCA-ny işe giriziň.

4) HTTP/3 göçmek

1. UDP/443 açyň, 'h3' H3/ALPN açyň.
2. Geçirmek A/B: p95 TTFB we error rate.
3. 'udp loss '/active clients/oscillations cwnd.

Şparklar

Nginx (HTTP/2, OCSP, TLS 1. 3, Brotli)

nginx server {
listen 443 ssl http2 reuseport;
ssl_protocols TLSv1. 2 TLSv1. 3;
ssl_stapling on; ssl_stapling_verify on;
add_header Strict-Transport-Security "max-age=31536000" always;

Compression brotli on; brotli_comp_level 5; gzip on;

Cache static location/static/{
add_header Cache-Control "public, max-age=31536000, immutable" always;
try_files $uri =404;
}

Proxy to API location/api/{
proxy_set_header Connection "";
proxy_http_version 1. 1;
proxy_read_timeout 5s;
proxy_connect_timeout 1s;
proxy_pass https://backend;
}
}

sysctl (Linux ulgamy: ECN/SACK/RACK ýadro kiçi ulgamy - takmynan parametrler)

bash
SACK/RACK/TLP are typically included in modern cores; specify sysctl -w net for your distribution. ipv4. tcp_sack=1 sysctl -w net. ipv4. tcp_ecn=1 sysctl -w net. ipv4. tcp_fastopen=0 # carefully with TFO sysctl -w net. core. default_qdisc=fq_codel sysctl -w net. ipv4. tcp_congestion_control=bbr

QoS (Cisco-stil, düşünje)


class-map match-any REALTIME match dscp ef class-map match-any INTERACTIVE match dscp af31 af21 class-map match-any BULK match dscp cs1 policy-map WAN-QOS class REALTIME priority percent 10 class INTERACTIVE bandwidth percent 50 class BULK bandwidth percent 20 random-detect ecn

Amallar we amal amallary

Capacity planning: iň ýokary sagatda 30% ≥.
Change-control: marşrutlaryň/RoR/şlýuzlaryň kanar üýtgemeleri.
Yzygiderli PMTUD synagy we ICMP gözegçiligi.
Ýollaryň dokumentasiýasy: nirede NAT/proxy/AQM/QoS, haýsy MTU, kimiň eýesi.
L7 bilen tor retralarynyň arasyndaky wagt ylalaşygy.

iGaming/fintech üçin aýratynlyklar

Wakalaryň wagty (oýunlar/ýaryşlar): CDN/PoP-ni gyzdyrmak, möhüm domenlere preconnect, resumption-howuzyň wagtlaýyn köpelmegi, botlar üçin "çal" ugurlar.
Töleg ädimleri: bölünen QoS synpy, Anycast-endpoints, TLS gysga zynjyrlary we berk wersiýalary/şifrleri; retraýlar diňe idempotent.
Sebitleýin çäklendirmeler/PSP: geo-routing + ASN/IP ak sanawlar; kesgitlenen egress-howuzlar.
Jübi ulgamlary: ChaCha20-Poly1305 artykmaçlygy (müşderilerde AES-NI gowşak bolsa), agressiw gysyş we HTTP/3.

Giriş barlagy

Gizlinlik býudjeti (DNS/TLS/connect/TTFB) we her baglanyşyk üçin SLO.
Jemgyýetçilik API/edge, ätiýaçlyk PoP üçin Anycast/Geo-routing.
TLS 1. 3, OCSP stapling, resumption ≥ 70%, HTTP/2/3 goşuldy.
BBR + FQ_CoDel, ECN, SACK; PMTUD işleýär, ICMP bloklanmaýar.
Zynjyr boýunça ýeke-täk MTU, tunelleriň overhead hasaby.
QoS: real-time/interactive/bulk, AGM synplary.
CDN/Tiered-cache/Origin-shield; wersion assets we SWR.
RUM + Geo/ASN boýunça tor metrikleri; p95/p99/ECN/ýitgiler üçin alertler.
Playbook: sebitiň zaýalanmagy, ýitgileriň köpelmegi, traffigiň geçirilmegi.

Adaty ýalňyşlyklar

ICMP/PMTUD → bölmek/gaýtadan ibermek we ýokary p95.
AQM-siz "galyň" buferler → buferbloat we jitter.
Uzak CA zynjyrlary we OCSP stapling → gymmat TLS ýoklugy.
Stateful-süzgüçler üçin NAT-kaskadlar we asimmetriýa → retrailer/wagtlar.
Artykmaç 'Vary '/newersio assety → pes hit-ratio CDN.
Hiç hili segmentasiýa ýok QoS → API iň ýokary derejedäki bellikler bilen bäsleşýär.

Jemi

Gijikdirmeleri optimizirlemek, tor in engineeringenerliginiň, dogry ulaglaryň we DNS/TLS/kesşdäki "boltlary" tygşytlamagyň utgaşmasydyr. Anycast/Geo-routing, TLS giriziň 1. 3 resumption, HTTP/3, BBR + FQ_CoDel/ECN, MTU ylalaşyň, QoS we SLO goýuň, p95/p99 ölçäň we pleýbuklary awtomatlaşdyryň. Şonda ulanyjylar iň "ýanýan" minutlarda-da çalt jogap alarlar, platforma bolsa öňünden aýdylýanlygy we howpsuzlyk çäkleri.