네트워크 대기 시간 최적화

간략한 요약

Latency = 체인을 따라 작은 지연의 합. 개선은 체계적으로 이루어집니다. "홉" (애니 캐스트/CNC) 을 줄이고 RTT (경로/QoS) 를 줄이며 "볼트" 를 줄이고 대기열을 짧게 유지하고 (AQM/ECN) 바이트를 최소화 (압축/캐시), 지속적으로 p95/p999를 측정하십시오. 측정하지 않은 최적화는 운이 좋습니다.

대기 시간 예산: 지연 시간

TTFB (Time To First Byte) 의 분해를 단순화합시다


TTFB ≈ t_DNS + t_connect + t_TLS + t_queue + t_routing + t_app + t_first_byte

우비:

(PHP 3 = 3.0.6, PHP 4)
t _ 연결 - L4 설립 (져/QUIC).
t _ TLS-TLS 핸드 셰이크.
t _ queu/t _ routing-대기열/전환 (버퍼링, 과부하, NAT).
t _ app-첫 번째 바이트까지 서버 처리.

목표는 각 학기마다 SLO를 설정하고 정기적으로 확인하는 것입니다.

SLO/메트릭

DNA p95: 로컬로 20-30ms, 전세계에서 80-120ms입니다.
할 수 없습니다.

TLS 핸드 셰이크 p95:

TTFB p95 (정적): 지역적으로 약 120-150 ms.
TTFB p95 (API): λ200-300 ms.
Jitter p95 (UDP/RT): 손실 1–0. 3%.

경고: p95/p99 상승, 'SYN 재시도' 서지, '재개' 하락, 'ECN CE' 또는 '패킷 손실' 상승.

디렉터리 빠른 시작

모든 기관 + 폐쇄 재귀 (필요한 경우 DoH/DoT).
동적 이름에 대한 짧은 TTL (60-300 초); 제어중인 네거티브 -TTL.
응용 프로그램 옆의 DNA 캐시; '프리 페치' 핫 레코드.
불필요한 CNAME → CNAME → A/AAAA 이동.

TLS/HTT: 악수 감소, 더 빠른 세션

TLS를 켜십시오. 3, OCSP 스테이플링, CA 단쇄 체인.
세션 재개 (티켓/ID)... ALPN ('h2', 'h3').
TP/2: 멀티플렉싱, 더 적은 연결 → p95보다 낮음.
TP/3 (QUIC): 0-RTT (idempotent 만 해당), 더 나은 손실/지터 저항.
사전 연결/사전 지정 (에지/클라이언트): 핫 도메인에 대한 연결을 미리 엽니 다.

전송: TCP와 QUIC 및 커널 스택

TCPNAME

현대 혼잡 제어: BBR v2 (또는 보수적 인 경우 CUBIC).
빠른 재전송을위한 RACK/TLP; SACK을 활성화하십시오.
ECN + AQM (CoDel/FQ _ CoDel): 버퍼 블록 및 지터를 줄입니다.
간 빠른 오픈-상태 변경 요청은 피하십시오. 이점은 논란의 여지가 있습니다.

QUIC (신호음/3)

할 수 없습니다.
재정렬/손실에 내성; 구현을 업데이트하십시오 (예: H3로 Envoy/HAProxy).
UDP/443 및 MTU/단편화를 모니터링하십시오.

MTU/PMTUD 및 단편화

단일 엔드 투 엔드 MTU; 터널 (IPsec/WireGuard/VXLAN) 의 경우 오버 헤드를 고려하십시오.

PMTUD 및 ICMP "조각화 필요" 사용

QUIC의 경우 최대 데이터 그램을 모니터링하고 주변에서 ICMP를 자르지 마십시오.

경로 및 경로 물리학

공개 IP API/edge 앞면에 대한 모든 캐스트.
GSLB (Geo/Latency Routing) + 건강 검진.

🚨 1 초에 나쁜 흔적을 제거하기 위해 공장의 ECMP 및 BFD (Leaf-Spine).

사용자 농도 영역에서 aplinks/feast (IX) 를 정렬하십시오.

대기열과 QoS: 버퍼를 짧게 유지

수업: 실시간 (RT/IP), 대화식 (API), 벌크 (백업/ETL).
LLQ/WRR, 대량보다 API/결제의 우선 순위.
에지 큐의 ECN (CE 마킹) + AQM (CoDel/FQ _ CoDel).
"피크 분" 에서 컷/트랜스퍼 백업 및 큰 타박상.

NAT, 프록시 및 미들박스

(PHP 3 = 3.0.6, PHP 4)

Stateful middlebox는 경로 비대칭에 중요합니다. 5 튜플, 핀닝 스레드의 균형입니다.
장기 연결 (gRPC/웹 소켓) 에 대한 유휴 지원 및 합리적인 유휴 시간 초과.

캐시 및 데이터 배치

원산지/원산지 방패/계층 캐시-원산지 여행 횟수 감소

수정 된 자산 (불변의 1 년).
반 역학에 대한 짧은 TTL + '부실한 동안'.
지리적 배치: 핫 데이터는 사용자에게 더 가깝고 (읽기-복제본/가장자리 -KV) "진실의 원천" 에 글을 씁니다.

응용 프로그램 수준 최적화

요청 횟수를 줄입니다 (푸시 번들/HT/2가 더 이상 유행하지 않습니다-사전 페치/사전 연결이 더 좋습니다).
페이로드 감소: 압축 (Brotli), 웹 이미지 형식, 이진 프로토콜 (gRPC).
dempotence를 요청하십시오 → 안전한 retrays 및 공격적인 타임 아웃.
TTFB를 줄이기 위해 동기화/스트리밍 (SSE/gRPC 스트리밍).

관찰 가능성: 측정해야 할 사항

클라이언트 원격 측정 (RUM): DNA/연결/TLS/TTFB, Geo/ASN, 장치.
네트워크: RTT, 손실, 지터, ECN CE/ECT (0/1), 인터페이스 대기열, 오류/오버플로.
계정: 재전송, 주문 외, cwnd/BBR 상태, 악수 통계, 재개.
L7: p50/p95/p99, 오류율, 페이로드 크기, 경로 히스토그램/PoP.
지역/ASN/캐리어 별 세그먼트 메트릭-핫스팟이 숨겨지는 곳입니다.

미니 플레이 북

1) 빠른 감사 p95

1. RUM으로부터 대기 시간 예산 (겠습니다

2. PoP/ASN의 네트워크 메트릭 (RTT/손실/ECN) 에 매핑합니다.
3. '연결' 과 'TLS' 가 지배적이라면 → 사전 연결/재개를 가능하게합니다.
4. 'TTFB' 가 높은 → 캐시/에지/복제본 및 응용 프로그램 최적화 인 경우.

2) 손실/지터 스파이크

1. 업 링크/인터페이스 (드롭/큐) 를 확인하십시오.
2. AQM (FQ _ CoDel) 을 사용하거나 조정하면 벌크 클래스가 줄어 듭니다.
3. BFD/ECMP 경로를 확인하고 플랩 링크를 제외하십시오.
4. 고객의 경우 일시적으로 배상을 늘리고 그 사이의 시간을 단축하십시오.

3) 지역 악화

1. GSLB를 인접 PoP로 전환; 분해 된 상태에서 Anycast/32를 철회하십시오

2. TTL을 줄이고 '부실한 상태' 를 활성화하십시오.
3. 상태 페이지로 상태를 보내고 RCA를 시작하십시오.

4) HTTP로 마이그레이션/3

1. UDP/443을 열고 H3/ALPN 'h3' 을 활성화하십시오.
2. A/B 수행: p95 TTFB와 오류율을 비교하십시오.
3. 'udp 손실 '/활성 클라이언트/cwnd 진동을 관찰하십시오.

침대 설정

Nginx (도/2, OCSP, SL 1. 3, 브로 틀리)

nginx server {
listen 443 ssl http2 reuseport;
ssl_protocols TLSv1. 2 TLSv1. 3;
ssl_stapling on; ssl_stapling_verify on;
add_header Strict-Transport-Security "max-age=31536000" always;

Compression brotli on; brotli_comp_level 5; gzip on;

Cache static location/static/{
add_header Cache-Control "public, max-age=31536000, immutable" always;
try_files $uri =404;
}

Proxy to API location/api/{
proxy_set_header Connection "";
proxy_http_version 1. 1;
proxy_read_timeout 5s;
proxy_connect_timeout 1s;
proxy_pass https://backend;
}
}

sysctl (Linux 네트워크: ECN/SACK/RACK 커널 서브 시스템-대략적인 매개 변수)

bash
SACK/RACK/TLP are typically included in modern cores; specify sysctl -w net for your distribution. ipv4. tcp_sack=1 sysctl -w net. ipv4. tcp_ecn=1 sysctl -w net. ipv4. tcp_fastopen=0 # carefully with TFO sysctl -w net. core. default_qdisc=fq_codel sysctl -w net. ipv4. tcp_congestion_control=bbr

QoS (시스코 스타일, 개념)


class-map match-any REALTIME match dscp ef class-map match-any INTERACTIVE match dscp af31 af21 class-map match-any BULK match dscp cs1 policy-map WAN-QOS class REALTIME priority percent 10 class INTERACTIVE bandwidth percent 50 class BULK bandwidth percent 20 random-detect ecn

프로세스 및 운영 관행

용량 계획: 피크 시간 동안 용량 마진은 30% 이상입니다.
변경 제어: 노선/PoR/게이트웨이의 카나리아 변경.
정기적 인 PMTUD 테스트 및 ICMP 제어.
경로 문서: 여기에는 소유자 인 MTU 인 NAT/프록시/AQM/QoS가 있습니다.

L7과 네트워크 간의 시간 초과 계약

iGaming/fintech 특정

이벤트 시간 (일치/토너먼트): CNC/PoP 예열, 중요한 도메인에 사전 연결, 재개 풀의 일시적인 증가, 봇의 "회색" 경로.
지불 단계: 전용 QoS 클래스, 애니 캐스트 엔드 포인트, 짧은 SL 체인 및 엄격한 버전/암호; 퇴각은 단지 dempotent입니다.
지역 제한/PSP: 지리 라우팅 + ASN/IP 화이트리스트; 고정 출구 풀.
모바일 네트워크: ChaCha20-Poly1305 (고객의 AES-NI 약함), 공격적인 압축 및 TH/3 선호.

구현 체크리스트

링크 당 대기 시간 예산 (DNA/SL/연결/TTFB) 및 SLO.
공개 API/edge, 백업 PoP를위한 Anycast/Geo 라우팅.
TLS 1. 3, OCSP 스테이플 링, 재개는 70% 이상으로, HTT/2/3을 포함합니다.
BBR + FQ _ CoDel, ECN, SACK; PMTUD가 작동하면 ICMP가 차단되지 않습니다.
터널의 오버 헤드를 설명하는 체인을 따라 단일 MTU.
QoS: 과부하 인터페이스의 실시간/대화식/벌크, AQM 클래스.
CNC/계층 캐시/원산지 방패; 다양한 자산 및 SWR.
RUM + Geo/ASN 네트워크 지표; p95/p99/ECN/손실에 대한 경고.
플레이 북: 지역의 악화, 손실 급증, 트래픽 전송.

공통 오류

ICMP/PMTUD 차단 → 조각화/재 지정 및 높은 p95.
AQM → 버퍼 블록 및 지터가없는 "두꺼운" 버퍼.
긴 CA 체인과 OCSP 스테이플링 → 비싼 TLS가 없습니다.
스테이트 필터에 대한 NAT 단계 및 비대칭 → 배상/시간 초과.
과도한 'Vary '/비 버전 자산 → 낮은 적중 비율 CDN입니다.
QoS 세분화 → API는 최고점에서 백업과 경쟁하지 않습니다.

합계

지연 최적화는 네트워크 엔지니어링, 적절한 전송 및 "볼트" 절약 기능을 결합한 것입니다. 애니 캐스트/지리 라우팅을 구현하십시오. 3 + 재개, TH/3, BBR + FQ _ CoDel/ECN, MTU 협상, QoS 및 SLO 설정, p95/p99 측정 및 자동화 플레이 북. 그런 다음 사용자는 가장 "연소" 시간과 플랫폼 (예측 가능성 및 안전 한계) 에서도 빠른 응답을받습니다.