Modelleri uýgunlaşdyrýan okuw
1) Näme üçin uýgunlaşma
Dünýä goýberiş aýlawlaryndan has çalt üýtgeýär. Uýgunlaşdyrylan okuw, modellere doly täzeden gurmazdan täze maglumatlara/re modeimlere uýgunlaşmaga mümkinçilik berýär: hilini saklamak, süýşmek üçin jogap wagtyny azaltmak we eýeçilik çykdajylaryny azaltmak.
Maksatlar:- Source, feature, label, concept.
- Üýtgemegi ýüze çykarmak bilen parametrleri täzelemegiň arasyndaky iň az gizlinlik.
- Gözegçilik edilýän baha we töwekgelçilikler (privacy/fairness/howpsuzlyk).
2) Driftleriň görnüşleri we signallary
Data (covariate) drift: X paýlanyşy üýtgedi.
Label drift: synp ýygylygy/labeling-syýasat.
Signallar: PSI/JS/KS şekiller boýunça, kalibrlemä gözegçilik etmek, holdout/proksizamerlerde metrikleriň düşmegi, adam tarapyndan overradlaryň paýynyň ýokarlanmagy, şikaýatlarda/hadysalarda yslanmalar.
3) Uýgunlaşmagy başlamak üçin triggerler
Bosagada: PSI> X, p-value <α, kalibrlemek sinhronlaşdyryldy.
Wagtlaýyn: gündelik/hepdelik/süýşýän penjireler.
Wakalar: önümiň täze görnüşi, baha bermek, bazara çykmak.
Ykdysady: cost-to-error/ýitgileriň paýy> çäk.
Triggerler policy-as-code hökmünde kodlanýar we gözden geçirilýär.
4) Uýgunlaşdyrylan okuwyň arhetipleri
1. Batch re-train (penjireden gaýtadan taýýarlamak): ýönekeý we ygtybarly; haýal reaksiýa bildirýär.
2. Incremental/online learn: akymdaky terezileri täzelemek; derrew, ýöne ýatdan çykarmak töwekgelçiligi.
3. Warm-start fine-tune: öňki model bilen başlangyç, täze penjirede goşmaça okuw.
4. PEFT/LoRA/Adapters (LLM/wektorlar): doly FT bolmazdan çalt dar täzelenmeler.
5. Distillation/Teacher → Student: arhitektura/domen çalşylanda bilimleri geçirmek.
6. Domain adaptation/transfer: bazisiň doňmagy + "kelläniň" inçe sazlamasy.
7. Meta-learning/Hypernets: az sanly mysal bilen gaýtadan taýýarlamagy çaltlaşdyrýarlar.
8. Bandits/RL: Syýasatyň daşky gurşawyň jogabyna uýgunlaşmagy.
9. Federated learning: çig maglumatlary çykarmazdan şahsylaşdyrmak.
5) Maglumatlaryň reimesimleri boýunça strategiýalar
Akym: onlaýn optimizatorlar (SGD/Adam/Adagrad), EMA agram, süýşýän penjireler, anti-ýatdan çykarmak üçin rehearsal bufer.
Mikro-batçi: yzygiderli mini-fit (sagat/gün), walidasiýa boýunça early-stop.
Batch penjireleri: domen boýunça rolling 7/14/30d, seýrek synplar üçin gatlaklaşdyrma.
Few-shot: PEFT/Adapters, prompt-tuning, LLM üçin retrieval-goýmalar.
6) Katastrofiki ýatdan çykarmaga gözegçilik
Rehearsal (geçmişdäki maglumatlaryň esasy görnüşi).
Regularization: EWC/LwF/ELR - öňki ähmiýetinden gaçandygy üçin jerime.
Distillation: KLD-den labyr maglumatlaryna.
Mixture-of-Experts/condition on context: segmentler boýunça dürli hünärmenler.
Freeze- & -thaw: Bazisiň doňmagy, ýokarky gatlaklaryň öwrenilmegi.
7) Şahsylaşdyrma we segmentçilik
Global + Local heads: umumy baza, segmente "kelleler" (sebit/kanal/VIP).
Per-user adapters/embeddings: ulanyjy üçin aňsat ýat.
Kontekst boýunça Gating: traffigiň iň gowy hünärmene marşrutlaşdyrylmagy (MoE/routers).
"Fairness-guard": şahsylaşdyrmagyň topar deňligini peseltmezligini üpjün etmek.
8) Active Learning (Kontur adam)
Bellik soramagyň strategiýalary: iň ýokary näbellilik, margin/entropy, core-set, disagreement committee.
Býudjetler we möhletler: bellik etmek üçin gündelik kwotalar, SLA jogap.
Bellikleri kabul etmek: annotatorlaryň razylygyna gözegçilik etmek, kiçi altyn synaglar.
Aýlawyň ýapylmagy: täze hakyky belliklerde derrew goşmaça okamak.
9) Optimizatorlary we meýilnamalary saýlamak
Online: Adagrad/AdamW decay, clip-grad, EMA parametrleri bilen.
Schedules: cosine restarts, one-cycle, warmup→decay.
Tablisalar üçin: incremental GBDT (agaçlary täzelemek/agaçlary goşmak).
LLM üçin: pes lr, LoRA rank wezipe üçin, düzgünnama laýyklykda hil aýlawyna gözegçilik etmek.
10) Uýgunlaşmak üçin maglumatlar
Onlaýn bufer: täze oňyn/negatiw ýagdaýlar, synplaryň balansy.
Reweighting: importance weighting при covariate drift.
Hard-examples mining: agyr ýalňyşlyklar ileri tutulýar.
Data contracts: shemalar/hil/PII maskalar - proto-akym bilen deňdir.
11) Adaptasiýa re modeiminde hiliň bahalandyrylmagy
Pre-/Post-lift: A/B ýa-da düşündirilýän kwazi-synag.
Rolling validation: wagtlaýyn split, out-of-time test.
Guardrails: kalibrlemek, toxicity/abuse, ygtybarly ynam çäkleri.
Worst-segment tracking: diňe orta däl, iň erbet segmentiň gözegçiligi.
Staleness KPI: soňky üstünlikli uýgunlaşandan bäri wagt.
12) MLOps: proses we artefaktlar
Model Registry: wersiýa, sene, maglumat penjiresi, heş şekiller, giperler, artefaktlar (PEFT).
Data Lineage: çeşmelerden feature store çenli; okuw dilimlerini doňdurmak.
Pipelines: DAG для fit→eval→promote→canary→rollout, с auto-revert.
Shadow/Canary: Hakyky traffikde prod wersiýasyna garşy deňeşdirme.
Observability: latency/cost, drift, fairness, safety, override-rate.
Release policy: kim we haýsy metriklerde "promote" basýar.
13) Howpsuzlyk, gizlinlik, hukuklar
PII minimallaşdyrmak we gizlemek, esasanam akym buferlerinde.
Privacy-preserving uýgunlaşma: FL/secure aggregation, DP-klipler/duýgur domenler üçin sesler.
Etika: ýokary töwekgelçilikli çözgütlerde awtoadapt gadaganlyklary (human-in-the-loop hökmany).
Bilimden daşlaşmak: distilýasiýa/gurlan duzak açarlary arkaly syzmaga gözegçilik etmek.
14) Ykdysadyýet we SLO uýgunlaşmalar
SLA täzelenmeleri: mysal üçin TTA (time-to-adapt) ≤ 4 sagat sürtülende.
Budget guardrails: GPU-sagadyň çäkleri/gün, egress/ammarda cap.
Cost-aware syýasaty: gijeki penjireler, möhüm modelleriň ileri tutulýan ugurlary, doly FT ýerine PEFT.
Kesh/retriever: LLM üçin - doly okuwsyz groundedness ýokarlandyrýarys.
15) Antipatternler
"Hemişe we hemme ýerde öwreniň": gözegçiliksiz online-fit → çukura süýşmek.
Rehearsal/regularizasiýa ýoklugy: katastrofiki ýatdan çykma.
Ýok offline/online eval: "göze".
Şikaýatlarda/şikaýatlarda gaýtadan taýýarlamak: hüjümçileriň seslenme aragatnaşygyny ulanmagy.
Domenleriň garyşmagy: routingsiz düýpgöter dürli segmentler üçin ýeke-täk model.
Nol yzarlamak: gaýtadan öwrenen zadyňyzy köpeldip bilmersiňiz.
16) Durmuşa geçirmegiň ýol kartasy
1. Discovery: driftleriň kartasy, segmentler, kritiki metrikler we töwekgelçilikler; re modeimi saýlaň (batch/online/PEFT).
2. Gözegçilik: PSI/kalibrlemek/business-guardrails; aladalar we paneller.
3. MVP-uýgunlaşma: rolling window + warm-start; canary + auto-revert.
4. Howpsuzlyk/priv: maskalar, zerur bolsa FL/DP; log barlagy.
5. Active Learning: býudjet we SLA bilen bellik aýlawy.
6. Scale: segment kelleleri/MoE, rehearsal-buferler, distilýasiýa.
7. Optimizasiýa: PEFT/LoRA, cost-aware programmalary, meta-okuw, triggerleri awtomatiki saýlamak.
17) Awto-uýgunlaşmany açmazdan öň çek-sanawy
- Triggerler (PSI/metrikler), bosagalar we penjireler, owner we eskalasiýa kanaly kesgitlenildi.
- offline eval we onlaýn canary/shadow bar; guardrail-metrika we promote ölçegleri.
- rehearsal/distillation/ýatdan çykarmaga garşy yzygiderlilik goşuldy.
- Maglumatlar/agram/PEFT-delta wersiýalary; window snapshot saklanýar.
- Privacy/PII-syýasatlar girizildi; buferlere girmegiň barlagy.
- Serişdeleriň býujetleri we çäkleri; gyssagly dur we awto-rollback.
- Resminamalar: Model Card (täzelenen ulanylyş zolagy), wakalaryň runbooks.
18) Kiçi şablonlar (psevdo-YAML/kod)
Awto uýgunlaşma syýasaty
yaml adapt_policy:
triggers:
- type: psi_feature; feature: device_os; threshold: 0. 2; window: 7d
- type: metric_drop; metric: auc; delta: -0. 03; window: 3d mode: warm_start_finetune method:
lora: {rank: 8, alpha: 16, lr: 2e-4, epochs: 1}
rehearsal:
buffer_days: 30 size: 200k guardrails:
min_calibration: ece<=0. 03 worst_segment_auc>=0. 78 rollout: {canary: 10%, promote_after_hours: 6, rollback_on_guardrail_fail: true}
budgets: {gpu_hours_day: 40}
Online-täzelenme (eskiz)
python for batch in stream():
x,y = batch. features, batch. labels loss = model. loss(x,y) + reg_ewc(theta, theta_old, fisher, λ=0. 5)
loss. backward(); clip_grad_norm_(model. parameters(), 1. 0)
opt. step(); ema. update(model); opt. zero_grad()
if t % eval_k == 0: online_eval()
Active Learning nobaty
yaml al_queue:
strategy: "entropy"
daily_budget: 3000 sla_labeling_h: 24 golden_checks: true
19) Jemleýji
Modellere uýgunlaşdyrylan okuw "türgenleşigiň täzeden başlamagy" däl-de, in engineeringenerçilik kontury: süýşmegiň detekasiýasy → howpsuz we tygşytly uýgunlaşma → hil we adalat barlagy → derrew yza gaýdyp gelmek mümkinçiligi bilen gözegçilik edilýän goýberiş. Gözegçilik, PEFT/onlaýn strategiýalary, rehearsal anti-ýatdan çykarmak we berk gardrails birleşdirip, maglumatlar bilen ygtybarly üýtgeýän we ölçenip boljak peýdalary dowam etdirýän modelleri alarsyňyz.