تعادل بار در عملیات

1) چرا تیم عامل نیاز به مدیریت تعادل دارد

تعادل بار فقط در مورد توزیع پرس و جو نیست. این یک لایه ریسک و مدیریت عملکرد است: محدود کردن شعاع شکست، تاخیر قابل پیش بینی، اقتصاد مقیاس، جداسازی «همسایگان پر سر و صدا»، تاثیر مستقیم بر اجرای SLO ها و هزینه حوادث.

2) تعادل لایه ها: شبکه به عملیات تجاری

L3/L4 (IP/پورت): ساده و سریع (DSR، ECMP، IPVS، LVS). ایده آل برای خدمات TCP/UDP، کارگزاران، دروازه.
L7 (HTTP/gRPC/WebSocket): مسیریابی مسیر/هدر/ابرداده ؛ canary, A/B, سیاست جغرافیایی و مشتری آگاه.
GSLB/GeoDNS/Anycast: توزیع جهانی بر اساس منطقه/RoR، حسابداری برای تاخیر، نزدیکی و سلامت منطقه ای.
تعادل درون سرویس: مشتریان با کشف خدمات (xDS، کنسول، Eureka)، متعادل کننده های مشتری (gRPC pick_first/round_robin)، مش سرویس.

3) الگوریتم های توزیع و زمانی که آنها را اعمال کنید

Round-Robin (RR): مورد پایه ساده برای گره های همگن و پرس و جوهای کوتاه.
حداقل اتصالات (LC): برای مدت زمان پرس و جو بهتر است.
حداقل درخواست/اوج EWMA: adaptively تاخیر برای درخواست های «طولانی» و سر و صدا را کاهش می دهد.
وزن RR/LC: طول می کشد را به حساب قدرت گره یا «guardrails هزینه».
هشینگ سازگار (Rendezvous/Maglev): برای کلیدهای چسبنده (کاربر، میز/اتاق، سبد)، هنگام پوسته پوسته شدن، مسیریابی مجدد را کاهش می دهد.
قدرت دو انتخاب: تقریب خوب LC تحت بار زیاد با فاصله سنجی کمتر.
Hedged/Retry Budgeted Requests: درخواست های موازی با بودجه بازپرداخت برای p99.

4) جلسات، شرایط و چسبندگی

جلسات چسبنده (cookie/IP/identifier) - هنگامی که حافظه پنهان به صورت محلی جمع می شود یا یک زمینه stateful وجود دارد (به عنوان مثال، یک جدول زنده در iGaming).
منفی: اثر کانون، آن را سخت تر برای تخلیه گره است.
راه حل: چسبندگی کوتاه TTL، انتقال حالت به فروشگاه های خارجی (Redis، فروشگاه جلسه)، اشتراک گذاری هیچ چیز و منبع یابی رویداد در صورت امکان.

5) بررسی سلامت و حفاظت در برابر flapping

چک کردن محتوای L7 (با استفاده از بدن/هدر) به جای 200 به عنوان موفقیت.
نمونه های ترکیبی: TCP + HTTP + داخلی '/آماده 'با زمان های مختلف.
Debowns: N شکست → استثنا; موفقیت → بازگشت به استخر.
تشخیص Outlier - حذف خودکار گره ها با نرخ خطا/تاخیر بالا (تخلیه).

6) سیاست های Timeout، Retray و Backpressure

بودجه گرا retrays: محدود کردن کل زمان کاربر (به عنوان مثال ۸۰۰ ms SLA → قابل بازیابی ۲ × ۲۰۰ ms + حاشیه).
قطع کننده مدار: محدود کردن درخواست ها/اتصالات/خطاهای همزمان.
سهمیه ها/محدودیت های نرخ: به طور پیش فرض «per-tenant/per-IP/per-key» محدودیت در لبه بسیار.
صف سرور: صف های کوتاه یا شکست با تخریب آشکار، به طوری که «overclock» دم از تاخیر.

7) تعادل جهانی و تحمل خطا

مسیریابی جغرافیایی: مبتنی بر تأخیر، منطقه مشتری، سلامت.
Anycast + health-probes: همگرایی لحظه ای مسیرها به عنوان PoP سقوط می کند.

سلسله مراتب شکست خورده: RoR → منطقه → oblako ؛ سرد/گرم/گرم دکتر

تقسیم بندی ترافیک: جداسازی محصول/قانونی (کشورها، ارائه دهندگان پرداخت، بخش های VIP).

8) تعادل برای موضوعات و زمان واقعی

WebSocket/SSE/gRPC-stream: اتصالات طولانی مدت → اتصالات مانیتور/گره، توزیع مجدد در مقیاس خارج.
چسبنده توسط کاربر یا توسط اتاق/جدول از طریق هش سازگار.
قلاب های Drain/PreStop: به درستی اتصالات را در هنگام انتشار و مقیاس خودکار بیرون بکشید.

9) امنیت در محیط

خاتمه TLS، HSTS، ALPN ؛ mTLS برای شرق و غرب.
WAF/ربات مدیریت به نرم افزار متعادل کننده.
DDoS - защита: rate-limits، challenge-/proof-of-work، upstream scrubbing.
سیاست ها به عنوان کد (OPA/Kiverno/Envoy RBAC).

10) قابلیت مشاهده و SLO برای تعادل

SLI: درخواست های موفق، خطا/ثانیه، p50/p95/p99 تاخیر، اشباع (CPU/conn/epoll).
Per-backend metrics: request rate, error rate, EWMA-latency → ورودی به الگوریتم ها.
سیاهههای مربوط به L7: با انتشار (حاشیه نویسی)، پرچم های ویژگی، قناری ها ارتباط دارد.
Allerts: با توجه به میزان سوختن بودجه خطا و با توجه به علائم مشتری (مصنوعی خارجی).

11) مقیاس خودکار و هزینه بهره وری

HPA/VPA/KEDA: مقیاس بندی توسط RPS، صف، معیارهای کاربر.
مسیریابی وزنی با هزینه: مناطق ارزان تر/ابرها تحت بار عادی وزن بیشتری می گیرند.
استخرهای گرم/گرم: نمونه های از پیش گرم شده به طوری که «گرفتن» شروع سرد نیست.

12) مدیریت تغییر: قناری، سایه، آبی سبز

مسیریابی قناری: 1٪ → 5٪ → 25٪ با توقف خودکار تحت تخریب SLO.
ترافیک سایه: درخواست های تکراری به نسخه جدید بدون پاسخ به مشتری (برای اعتبار سنجی).

آبی سبز: VIP/جدول مسیریابی سوئیچینگ فوری ؛ بازگشت سریع

13) پیکربندی و GitOps

یک منبع واحد از حقیقت: مسیرها، وزنها، timeout و سیاستهای محدود - در مخزن.
ارتقاء پیکربندی در روزهای چهارشنبه (dev → stage → prod) توسط همان خط لوله.
تست های اعتبار سنجی و پیکربندی: خطوط، خشک اجرا، شبیه سازی نقشه ترافیک.

14) موارد خصوصی (دامنه های تنظیم شده)

ارائه دهندگان پرداخت/CCS: کانال های موازی، تغییر با کیفیت/زمان پاسخ ؛ SLO ارائه دهنده

چند حوزه قضایی: مسیریابی جغرافیایی، سیاست محتوا/محدودیت بر اساس کشور.
بخش های VIP: وزن/کانال های فردی، SLO های بالا، «دستگیره های» تخریب UX.

15) ضد الگوهای

یک متعادل کننده به عنوان «تنها نقطه شکست».
چسبنده بر روی IP پشت NAT - «چسبنده» خوشه و انحراف ترافیک.
RR جهانی برای درخواست های سنگین/طولانی - رشد دم p99.
عقب نشینی بدون بودجه و بدون idemotency یک طوفان از درخواست است.
فقط TCP را بررسی کنید - هنگامی که برنامه کار نمی کند، «سبز» است.
جلسات چسب «ابدی» بدون TTL - عدم توانایی تخلیه گره ها.
پیکربندی ها به صورت دستی ویرایش می شوند، بدون بررسی و ارتقاء - رانش و حوادث.

16) چک لیست پیاده سازی

• سطح انتخاب شده: L4/L7/GSLB، اهداف و مسئولیت های تعریف شده.
• الگوریتم توزیع مربوط به مشخصات بار (EWMA/LC/Hash) است.
• هش مداوم که در آن زمینه stateful مورد نیاز است.
• ترکیبی از سلامت چک، outlier-ejection، debunks.
• زمان بندی/عقب نشینی/محدودیت - مانند یک کد، با بودجه زمان.
• قابلیت مشاهده در هر پشت و مشتری مصنوعی ؛ هشدار نرخ سوختگی
• قناری/آبی سبز + ترافیک سایه ؛ بازگشت سریع
• GitOps برای پیکربندی ؛ تست خشک اجرا و مسیر.
• DR طرح و سلسله مراتب شکست (RoR → منطقه → oblako).
• جداسازی VIP/گروه های حقوقی و ارائه دهندگان.

17) نمونه ای از جریان معماری

1. GSLB (مبتنی بر تأخیر) مشتری را به نزدیکترین منطقه سالم هدایت می کند.
2. Edge/L7 متعادل کننده WAF، TLS، محدودیت نرخ، 5٪ قناری را اعمال می کند.
3. مش سرویس توزیع به رزین با LC + EWMA به استثنای outliers.
4. برای جداول زمان واقعی - هش سازگار با 'table _ id'، TTL چسبنده 10 دقیقه.
5. HPA مقیاس های جلو در سراسر RPS و صف ؛ استخر گرم → بدون شروع سرد.
6. قابلیت مشاهده: داشبورد p50/p95/p99، نرخ خطا، اشباع، نرخ سوختگی.
7. در صورت تخریب: گره های خروجی خودکار، کاهش قناری، تعویض به ارائه دهنده یدکی، نسخه برگشت.

18) خط پایین

تعادل بار یک رشته عملیاتی است که شبکه، برنامه، داده ها و SLO های تجاری را متصل می کند. سطح مناسب انتخاب شده (L4/L7/GSLB)، الگوریتم های کافی، بررسی دقیق سلامت، سیاست های زمانبندی و بازپرداخت، قابلیت مشاهده و مدیریت GitOps، تعادل را از یک جعبه با تنظیمات به یک مکانیسم برای تحویل پایدار و اقتصادی خدمات تبدیل می کند.