Ավտոսկեյլինգը և SLA հավասարակշռությունը
Ավտոսկեյլինգը և SLA հավասարակշռությունը
1) Նպատակներն ու սկզբունքները
Ավտոկայանի նպատակն է պահպանել SLO (լատենտ/հասանելիություն) նվազագույն արժեքով։
SLA wwww.SLA Windows SLA Cost: Մի գնացեք «անվերջ» մասշտաբի համար, մենք գնում ենք բյուջեի մեջ սխալներ և դրամական սահմաններ։
Բաց ծանրաբեռնվածության մոդել 'գալիք հարցումները կազմում են ինտենսիվության հոսքը' 108 '; համակարգը պետք է ապահովի միջին զուգահեռականությունը 'N no no W- ը (Լիթլի օրենքը), որտեղ' W '- ը միջին ծառայության ժամանակն է։
2) Ի՞ նչ մետրեր են տեղավորվում ձգանայինների մեջ
Տեխնոլոգիական
CPU/RAM/IO (հագեցման համար proxy)։
Մրցակցությունը (in-flight) և pool wait-ը։
p95/p99 approniclatency (իսկապես արտացոլում է SLO)։
RPS/arrival rate (արագությունը)։
Գծերը ՝ խորությունը, հաղորդագրությունների տարիքը, վերամշակման արագությունը։
Բիզնես-SLI։
Հաջողակ գործարքների մասնաբաժինը T- ն է (դեպոզիտներ, չեկ-աութ)։
Վիրահատությունների հաստատման ժամանակը։
Առաջարկություն 'համախմբել 2-3 ազդանշան, օրինակ, latency + poope ծառայությունների և queue depth + age-ի համար։
3) Ռեակտիվ vs նախատիպային սկեյլ
Ռեակտիվ (feedback): HPA/ASG-ն ավելացնում է/նվազեցնում կրկնօրինակները իրականում։ Պարզապես, բայց կա լագ։
Նախատիպային (feed-forward) 'օրացույց/անցյալ հեռուստացույց/մարկետինգ-իվենտներ։ Ներառում է pre-warm 'բարձրացնել N instans Cort-ի համար մինչև գագաթնակետը։
Գործնականում 'հիբրիդ - baseline (նվազագույն), նախատիպային բուտստ իրադարձություններից առաջ, ռեակտիվ։
4) Սքեյլ քաղաքականությունը և կայունության պարամետրերը
Target tracking: Պահել մետրը մոտ 112 (օրինակ, CPU 60%)։
Step scaling: աստիճաններ ավելցուկ (ագրեսիվ)։
Stabilization 2019/cooldown: Fluping (օրինակ ՝ 60-180 վայրկյան)։
Min/Max: ներքևի և վերին սահմանները; max - BD/պրովայդերի սահմաններում։
5) Մակարդակների համակարգումը (ճարտարապետական կասկադը)
1. Պարիմետր/API-դարպասը առաձգական է, բայց սահմանների և backpressure-ի հետ։
2. Ծառայություններ - HPA latency/RPS/pool wait։
3. Հերթերը/գողերը KEDA/ASG-ն են հաղորդագրությունների խորքում/տարիքում։
4. BD/kash-ը զգուշորեն (կրկնօրինակներ/շարդիզացիա), նախապես։
Կանոն 'մի ավելացրեք ծրագիրը ավելի արագ, քան «տվյալները»։
6) Լիթլի հերթերն ու օրենքը (ինչպես կարծում են գողերը)
"We's" (wwww.g/s) և "W '(s) վերամշակման միջին ժամանակը
Ճիշտ զուգահեռականությունը '«N _ min novice now.W»։
Պիկի/պոչերի պահուստով '"N No. No no no Ww No (1։ 2–1. 5)`.