Էներգախնայողական ճարտարապետություն

1) Հիմնական սկզբունքները

1. Energy as a First-Class Metric. Ջոլին/հարցումը, Վտ/միջուկը, կՎտժ/TB-ամիսը նույն KPI-ն են, ինչպես p95 և արժեքը։

2. Carbon-/Energy-Aware Orchestration. Բեռի գրաֆիկը և առաջադրանքների տեղադրումը հաշվի են առնում CO-ն ցանցի և ամսաթվերի կենտրոնների ինտենսիվությունը։

3. Data Minimization. Ավելի քիչ տվյալներ պարունակվում են CPU/IO-ից ավելի քիչ էներգիա և հովացում։

4. Right-sizing & Right-placing. Վերցնենք ճիշտ տեսակը և ռեսուրսի չափը և տեղադրենք ավելի մոտ օգտագործողի/տվյալների։

5. Simplicity Wins. Ավելացված աբստրակցիան և խորամանկությունը = լրացուցիչ էներգիա։

2) Մետրիկները և մոդելները

2. 1 Ենթակառուցվածքային

PUE (Windows Usage Effectiveness): «PUE = COD/Էներգիա IT բեռը» (1-ից ավելի լավ)։

CUE (Carbon Usage Effectiveness): «CUE = CO/Energia IT»։

WUE (Water UE) ՝ ջրի լիտր կՎՏԺ-ի վրա կարևոր է ջրի պակասի համար։

2. 2 Կիրառական

System/req (jolli հարցման համար): «E _ req = www.P (t) dt/N _ req»։

KWh/ETL-ջոբու, kWh/միլիոն հաղորդագրություն, kWh/մոդելի ուսուցում։

COP/fich/օգտագործողը '«CO die = kWH digrid _ factor (ժամանակ, շրջան)»։

2. 3 Ածխածնի մոդել

carbon(req) = energy(req) grid_emission_factor(region, time)
energy(req) = cpu_j + mem_j + io_j + net_j

Որտեղ «grid _ emission _ factor» փոխվում է ժամացույցի և տարածաշրջանի միջոցով (կարբոն-իրազեկ պլանավորումը)։

3) Սարքավորումները և կատարման մակարդակը

CPU: ARM/Graviton/RISC-V ճարտարապետությունները հաճախ տալիս են լավագույն «W/perf» ցանցային և Java/Go-բեռների համար։ x86 մնում է ուժեղ բարձր մարտավարության և որոշ SIMD-ի համար։

GPU/TPU/այլ արագացուցիչներ 'ML/վեկտորային վերլուծության վրա հաճախ տալիս են ավելի լավ «J/վիրահատություն», եթե կրակել և պահել բարձր հեռացում։

DVSA և www.caping 'հաճախության դինամիկ նվազեցում և TDP սահմանափակումը ոչ ռիթմիկ խնդիրների տակ։

Քնած ռեժիմ/մեքենա-հանճար 'ագրեսիվ «idle» քաղաքականություն գողերի և ֆոնների համար։

Հիշողությունը 'NUMA-տեղայնությունը և էջային բացթողումների նվազումը նվազեցնում են անվադողերի և կեշերի էներգիան։

4) Ճարտարապետական արտոնագրեր

4. 1 Միկրովայրկյաններ առանց «խորամանկության»

Նվազեցրեք RPC-հոփները 'ագրեգատիվ նավակներ, կոմպոզիտորական էնդպոինտներ։

GRPC/HTTP/2/3 փոխարեն չաթ REST-ի փոխարեն։

Batch + Async 'փոքր վիրահատություններ։

4. 2 «Տաք» և «սառը» ճանապարհներ

Հազվագյուտ, ծանր հարցումների համար as-needed ենթակառուցվածքը (on-demand, ֆունկցիաներ/սերվերներ)։

Տաք ճանապարհները երկար ժամանակ կապեր և փամփուշտներ են։

4. 3 Cashing coalescing

Coalescing-ը կանխում է քեշի պրոմախի փոթորիկները։

Stale-while-revalidate: Մենք հնացած ենք, խնայողություններ ենք անում աղբյուրը։

4. 4 Պահեստային տիրինգ

Hot/Warm/Cold/Archive: NVMe 35SSD-ը տեղադրված է օբյեկտի հետ ռուսական սառցադաշտի ուշացումով։

Ավտոմատ ILM/TTL: ավելի քիչ սպիններ/IO-ն ավելի քիչ էներգիա է արտադրում։

4. 5 Կարբոն-իրազեկ պլանավորող (Carbon-Aox)

Տեղափոխվելով ջոբայի ժամանակ (ETL, վերլուծություն, ուսուցում) - «կանաչ» ժամացույցի/տարածաշրջանների վրա։

Winegress ճանապարհները կՎտ-ով և CO-ով, համախմբեք տեղական։

Prindocod

python def schedule(job):
windows = get_green_windows(job.region_candidates, next_48h)
pick = argmin(windows, key=lambda w: w.grid_factor job.energy_estimate / w.capacity)
enqueue(job, region=pick.region, start=pick.start)

4. 6 Դեդուպլիկացիա և ագրեսիա «մտքով»

Ֆինլանդիան խնայում է ցանցը/սկավառակը, բայց արժե CPU-ն։ Օգտագործեք հարմարվողական 'մեծ օգտակար բեռներ, ցածր CPU-2019։

5) Կոդի և տվյալների արդյունավետությունը

Ալգորիթմներ 'նվազեցնել ասիմպտոտիկան> թյունինգի։ Ավելացրեք «տաք կետերը»։

Հիշողության տարբերությունը 'ածխաջրածինների վարձումը, օբյեկտների փամփուշտները ավելի քիչ են, քան GC/էներգիան։

Տե՛ ս ՝ երկուական արձանագրություններ, կոլոնայք (Parquet/ORC) վերլուծության, zipf բաշխման համար, հաշվի առեք, երբ հաշվվում եք։

I/O 'փաթեթավորում, վեկտորիզացիա, ասինխրոն մուտքագրում/եզրակացություն։

Striming vs ամբողջական սկանները 'push-down ֆիլտրեր տվյալների աղբյուրին։

Գործառույթները եզրին (edge) 'առաջ-ագրեգացիա, աղմկոտ իրադարձությունների հեռացում։

«Հարցման էներգիայի» բանաձևը (գնահատումը)

E_req ≈ (cpu_ms W_cpu/ms) + (mem_ms W_mem/ms) +
(io_read_mb W_io/mb + io_write_mb W_io/mb) +
(egress_mb W_net/mb)

6) ML-ն և տվյալները ՝ էներգիայի-պաթթերներ

Մոդելների ճարտարապետությունը 'փոքր/մասնագիտացված մոդելներ, պլանավորումը, քվանտացիան (int8/4-bit), sparsity։

Դասընթացը 'բատչ չափսը, mixed precision (FP16/BF16), chekpoints, վաղ կանգառը։

Infess: batch + microbatchi, հավաքածու (TultorRT/ONNX Runtime), տրիտոն սերվերը դինարներով։ բաթչինգով։

Ֆիչին և ֆիչի-սթորը 'հաճախ օգտագործվող ֆիգուրների քայքայումը, որակի քայքայումը' փոխակերպման փոխարեն։

7) Ցանցը և արձանագրությունները

Keep-alive, HTTP/3, QUIC, handshake նվազեցումը։

CDN + edge-keshi: կարճ երթուղիները ավելի քիչ են, քան kW-ը։

Սեղմումը մոդուլով 'zstd/brotle մեծ ռեսուրսների համար, առանց հակադրության փոքր/CPU թանկ ճանապարհների համար։

Բազմաբնույթ կրկնապատկումը միայն RTO/RPO-ի իրական անհրաժեշտության դեպքում է։

8) Թելեմետրիա և «էներգիայի-աստղադիտարան»

8. 1 Հավաքում

Էներգիայի/հզորության հաշվիչները (IPMI/RAPL/Node Exporter 2019), GPU/TPU հեռուստացույց։

Դիմումի մակարդակում 'Corporation/req-ը CPU/IO ժամանակի սերմերի միջոցով և տրամաչափական գործակիցները։

Ուղիների հարաբերակցությունը '«energy _ 24»,« carbon _ g »,« grid _ factor »,« region »։

8. 2 Մետրիկներ և ալերտներ

Energy per SLI: `J/p95`, `J/txn`.

Carbon budget: CO-ի ամսական լիմիթները ապրանքների վրա։

Դրիֆթ 'բարձրացում' «J/req»> X% բազլինից։

9) CI/CD, խաղացողներ և թեստեր

Perf-smoke + Energy-smoke-ը PR-ում 'կարճ սցենար, «J/req» և report-գեյթ։

Էներգիայի բազլինները 'պահպանված ստանդարտ (CPU/GPU, J/req)։

Policy as Code 'արգելք, եթե «Direct Pro/req> 10%» առանց հաստատված բացառության։

Haos + energo-մոդելը 'կախվածության քայքայումը չպետք է բարձրացնի System/req-ը ավելի բարձր, քան limits-ը (sheding/քայքայումը ռետրո փոթորիկների փոխարեն)։

10) Բեռի և ժամանակի կառավարումը

Անցումը ժամանակի ընթացքում (load shifting) 'ոչ ինտերակտիվ առաջադրանքները' կանաչ ժամացույցի մեջ։

Դինամիկ SLO 'ֆոնների համար դուք կարող եք մեծացնել լատինականությունը էներգիայի խնայողության համար։

Գերակայություն 'կրիտիկական հարցումները ստանում են «էներգիայի քվոտա», ցածր գերակայությունը հետաձգվում է։

Limiter-ի կեղծ դասավորությունը դելոկվոտներով

python if energy_budget.low() and req.priority == "low":
return 429_DEFER process(req)

11) Անվտանգությունը, գաղտնիությունը և կոմպլենսը

Ապարատային արագացման (AES-NI/ARMv8 Crypto) - ավելի քիչ CPU/W։

PII նվազեցումը նվազեցնում է պահպանման/վերլուծության բեռը։

Լոգները 'սերմնացումը, դիմադրությունը և TTL-ը խնայում են հավաքման/պահեստավորման էներգիան։

12) Anti-patterna

Չափազանց միկրովարկություն և «չաթ» ծառայությունների միջև։

Համաշխարհային կրկնօրինակումը «ամեն դեպքում»։

Զրոյական TTL քեշը և stale արգելքը։

Ամբողջական սկանները առանց ֆիլտրերի/ինդեքսների/կուսակցության։

Առանց ջիթերի անընդհատ ռելսերը ցանցային փոթորիկներ են։

«Մեծ մոդելի» օգտագործումը այնտեղ, որտեղ էվրիստիկան բավարար է։

Ծանր դելտոլոգները և «բոլորս տրամաբանական ենք ընդմիշտ»։

13) Մինի բաղադրատոմսեր և օրինակներ

13. 1 Հարմարվողական պատասխանը

python def maybe_compress(resp, cpu_load, size):
if size > 641024 and cpu_load < 0.6:
return compress_zstd(resp, level=5)
return resp # мелкие/дорогие по CPU ответы не сжимаем

13. 2 Evristia batching infeps

python batch = collect_until(max_items=64, max_wait_ms=8)
result = model.infer(batch) # ↑ утилизация ускорителя, ↓ Дж/запрос

13. 3 ILM/TTL իրադարձությունների համար

yaml dataset: events lifecycle:
- hot: 7d  # NVMe
- warm: 90d # SSD + zstd
- cold: 365d # object store
- delete

13. 4 Կարբոն-իրազեկ ETL

python co2 = kwh_estimate(job) grid_factor(region, now())
if co2 > job.threshold and job.deferable:
delay(job, until=next_green_window())
else:
run(job)

14) Ճարտարապետի չեկի թերթիկը

1. Հայտնաբերվել են SLI էներգիայի (No/req, kWh/job) և ածխածնի (gCO 35e/req)։

2. Կա մի մոդել, որը էներգիա է մատակարարում ծառայություններին/փուլերին/տենանտներին։

3. Կարբոն-իրազեկ պլանավորողը դիմացկուն առաջադրանքների համար ներդրված է։

4. Միկրովեռները նվազագույնի են հասցնում խորամանկությունը (ագրեգացիա, բամբեր, gRPC/HTTP3)։

5. Cashi coalescing-ով և stale-while-revalidate ռեժիմով։

6. Լուծարված, ILM/TTL-ն ներառում է, տվյալները լավատես են։

7. ML: Ինդուկցիա/քվանտացիա/բատչինգ/ինֆիսի կազմումը օգտագործվում է։

8. CI/CD-ում կա էներգիա-smoke, բազլիններ և խաղացողներ Live Films/req-ում։

9. Edge/CDN/2019 տեղադրումը նվազեցնում է egress և երթուղիները։

10. Ներառե՞ լ են DVIM/105-caping/idle-ը գողերի համար։

11. Logs/metrics/treiss սերմանում են և ունեն կարևորություն։

12. Փաստաթղթավորված է «կանաչ» runbook 'ի՞ նչ անջատել/քայքայել էներգիայի պակասի դեպքում։

Եզրակացություն

Էներգիայի ճարտարապետությունը ոչ թե «վերջին օպտիմիզացիան» է, այլ որակի ռազմավարական շերտը 'ալգորիթմներից և ձևերից մինչև «կանաչ» տարածաշրջանում և CI/CD խաղերում տեղադրելը։ Չափեք ջոլին, պլանավորեք ածխածնի հետ, պարզեցրեք փոխազդեցությունը, օգտագործեք տվյալները և օգտագործեք արագացուցիչներ այնտեղ, որտեղ դա նվազեցնում է «J/վիրահատությունը»։ Այսպիսով, դուք կստանաք մի պլատֆորմ, որը ավելի արագ, էժան և էկոլոգիապես ավելի էժան է, առանց ապրանքային արժեքի փոխզիջման։