Պրոգնոստիկ մոդելներ

Պրոգնոստիկ մոդելներ

Պրոգնոստիկ մոդելները ալգորիթմներ են, որոնք գնահատում են ապագա արժեքները կամ իրադարձությունները պատմական տվյալների հիմքում։ Դրանք հիմնված են սննդի վերլուծության, ռիսկի կառավարման, մարքեթինգի, հակաֆրոդի և վիրահատական օպտիմիզացիայի հիմքում։ Ներքևում գործնական առաջնորդություն է 'խնդրի ձևակերպումը ընտրելուց մինչև որակը և վերահսկելը։

1) Առաջադրանքների և ազդանշանների ձևակերպումը

Ռեգրեսիա 'շարունակական մեծության կանխատեսում (LTV, ավանդի չափը, չեկի չափը)։

Դասակարգումը 'իրադարձության հավանականությունը (հաճախորդի արտահոսքը 30 օրվա ընթացքում, ֆրոդը/ոչ ֆրոդը)։

Վիրավորում 'օբյեկտի կարգավորում ռելեվանտիզմի վրա (առաջարկություններ)։

Ժամանակավոր շարքերը 'կանխատեսումը օրացույցի մասին (108, 108, եկամուտներ)։

Survival/ժամանակը մինչև իրադարձությունը 'ժամանակի գնահատումը մինչև արտահոսքը/վճարումը։

Uplift-մոդելավորում 'ազդեցության աճը ազդեցությունից (ի՞ նչ գործողություն է փոխում վարքագիծը)։

Բազմաբնակարան/բազմաշերտ արտադրություններ 'մի քանի վիճակներ/իրադարձություններ միաժամանակ։

Բայեսովի և հավանական մոդելները 'կանխատեսումը ակնհայտ անորոշությամբ։

2) Տվյալները և պատրաստումը

Հացահատիկը և դիտման պատուհանը 'կանխատեսման միավորը (օգտագործողը/նստաշրջան/օր) և ազնիվ «պատուհանը» նշանների հավաքումը մինչև կանխատեսման պահը։

Նպատակային փոփոխությունը 'ռուսական սահմանումը, հորիզոնները (7/30/90 օր), ապագայի արտահոսքի բացառումը։

Նշանները ՝ պատուհանների ագրեգատները (7/30/90), վարքագծային հաճախությունները, հաջորդականությունները, կատեգորիալ էնկոդինգները, փոխազդեցությունները, հատվածների վիճակագրությունը։

Տվյալների որակը 'բացթողումներ, արտանետումներ, կրկնօրինակներ, սխեմաների փոփոխություն, ստանդարտ պիտակների շարունակականություն։

Դասերի հավասարակշռությունը 'ստրատիֆիկացիա, կշռում, oversampling/undersampling - ուշադիր, որպեսզի չօգտագործվի։

3) Ալգորիթմների ընտրություն

Հիմնական գծային 'գծային/լոգիստիկ ռեգրեսիա, կարգավորումը (L1/L2/Elastic Net) - արագ, մեկնաբանված։

Ծառերն ու անսամբլները ՝ Random Forest, Gradient Boosting (XGBoost/Last GBM/CatBoost) - ուժեղ բեյսլիններ։

Նեյրոսոմը ՝ MLP/Seq2Seq/Transformer բարդ պաթոգենների համար (տեքստեր, հաջորդականություններ, ժամանակային շարքեր)։

Ժամանակավոր շարքերը ՝ ARIMA/EFC, Prophet, Gradient Boosting, ճամբարներով, DeepAR/N-BEATS/Tement al Fusion Transformer։

Uplift: երկկողմանի մոտեցում, T-Learner/S-Learner/X-Learner, պատճառահետևանքային ծառեր։

Survival: Cox, AFT, Random Survival Forests.

Բայեսովի 'GLM/հիերարխիկ մոդելներ apriore բաշխումներով։

Պրակտիկա 'սկսեք պարզ և վերարտադրված բեյզլայնից, ավելացրեք բարդությունը միայն մետրերի և կայունության շոշափելի հաղթանակով։

4) Բաժանումը և վալիդացիան

Temensal CV-ը 'ժամանակի հետ կապված խնդիրների համար, կտրվածքները (rolling/expanding windows)։

Ստրատիֆիկացիան 'դիսբալանսական դասարանների համար։

Խմբային վալիդացիա 'թույլ մի տվեք «արտահոսք» խմբերի միջև (user _ id, campault _ id)։

Out-of-time թեստը 'վերջնական ստուգումը «ապագայի» ժամանակահատվածի վրա։

Բեյզլինները ՝ միամիտ (վերջին արժեքը, միջին), հաճախականությունը, պարզ լոգրեգը 'իրական արժեքը չափելու համար։

5) Հատկության մետրերը

Դասակարգումը ՝ ROC-AUC, PR-AUC (կարևոր է հազվադեպ իրադարձությունների ժամանակ), logloss, Brier score, F1, precision/recall @ k, lift/NDCG։

Ռեգրեսիա ՝ RMSE/MAPE/MAPE, sMAPE, R 71, quantile loss (պերցենտիլների համար)։

Ժամանակավոր շարքերը ՝ MAPE/sMAPE/MLS, Pinball loss (քվանտային կանխատեսում)։

Survival: Concordence index, Brier ժամանակի համար։

Uplift: Qini, uplift@k, AUUC.

Բիզնես-մետրիկները 'իրական եկամուտը, պահպանված օգտագործողները, ֆրոդի նվազումը, SLA-ն ճշգրիտ։

Առաջարկություն ՝ միշտ պահեք երկու մակարդակ '«ML որակը» և «բիզնես էֆեկտը»։

6) Տրամաչափություն և շեմեր

Հավանականության տրամաբանությունը 'Platt, isotonic, temperature scaling։

Շեմի ընտրությունը 'բիզնես նպատակներով (առավելագույն շահույթ/սահմանափակումը կեղծ դրական), ծախսերի/տուգանքների վրա։

Կանոնավոր շեմն է ՝ հաշվի առնելով բաշխման փոփոխությունը։

7) Մեկնաբանությունը և բացատրությունը

Գլոբալ 'նշանների կարևորությունը (gain, permutation), PDP/ICE, SHAP կամարները։

Տեղական 'SHAP/LIME-ը օբյեկտի լուծումը բացատրելու համար։

Caveat 'մեկնաբանությունը հիպոթեզների և վստահության համար գործիք է, ոչ թե բացարձակ «ճշմարտություն»։

8) Մարտական գնդը

Սերվինգ ՝ առցանց (REST/gRPC, ցածր ուշացում) և բաթ (ամեն օր)։

Տարբերակումը 'մոդելներ, տվյալներ, սխեմաներ և ավարտներ (registry)։

Ֆիչեստորները 'առցանց/օֆլայն-համաձայնություն, պինդ-in-time ճիշտ։

Ուշացման վերահսկումը 'բյուջեն նշանների, ինֆիսի, փոփի գործընթացների համար։

Fail-safe: դեֆոլտ կանոնները, դեգրադացիան մինչև բեյզլինը, թայմաուտները և ռեգրերը։

A/B և աստիճանական rollout 'kanareche, shadow/inference mirroring։

9) Մոսկվան և Դրեյֆը

Որակը 'չափումներ (ROC-AUC/PR-AUC հետաձգված պիտակների վրա, բիզնես-KPI)։

Բաշխումներ ՝ PSI/JS-divergence/KL, նշանների և ոճերի խաչմերուկ։

Health-ը անցքերի մի մասն է, կատեգորիաների կարդինալությունը, սպայիկները, կիսագնդերի ձգձգումը։

Ալերտինգը և SLO 'շեմի արժեքներ, ռունիբուկներ (ինչ անել դեգրադացիայի ժամանակ)։

Ռետրենինգը 'գրաֆիկի վրա, ձգաններով, սեզոնով։ որակի ռեգրեսիայի վերահսկողություն։

10) Անվտանգություն, բաղադրիչներ և էթիկա

Գաղտնիությունը 'տվյալների նվազեցումը, կեղծանունացումը, մուտքի վերահսկումը։

Արդարություն 'ստուգում bias հատվածներով (false positive/negative rate), semples/press։

GDPR/տեղական նորմերը 'մշակման նպատակները, պահպանման ժամանակահատվածը, բացատրության իրավունքը։

Աուդիտը և վերարտադրողականությունը 'հավաքման վերարտադրող տարբերակների ուղին, լուծումների ամսագիրը։

11) Տիպային դեպքերի համար ձևանմուշներ

Ottok (churn) 'երկուական դասակարգում; metriks - PR-AUC, uplift թեստը պահպանելու համար։ եզրակացությունը օֆֆերների գերակայությունն է։

Անտիֆրոդը 'բարձր disbalance դասակարգում; մետրիկները 'PR-AUC, recall @ low-FPR; խիստ latency սահմանափակումներ։

LTV/ARPPU 'ռեգրեսիա կամ քվանտային ռեգրեսիա; մետրոպոլիտենի պերոկալիբրովկա։

Բեռի/եկամուտների կանխատեսումը 'ժամանակավոր շարքերը; Վիճակագրական և ML մոդելների անսամբլը; սեզոններն ու արձակուրդները որպես ֆիչի։

Անձնական առաջարկությունները 'ռենջացիա/matrfactorization/seq մոդելներ; առցանց նորարարություններ և էքսպլորացիա (mult-armed bandits)։

12) Գործընթացը (ML Lifecycle)

1. Խնդիրը և KPI 352։ Տվյալները և ֆիչին թիվ 3։ Բեյզլին 244։ Մոդելներ և ընտրական ընտրություն

2. Տրամաչափություն և թիվ 6 շեմեր։ Վալիդացիան և A/B 387։ Սերվինգը և թիվ 248։ Ռետրենինգ/էվոլյուցիա։

Յուրաքանչյուր քայլը փաստվում է 'տվյալների սխեմաներ, ուսուցման ձևեր, արտեֆակտների տարբերակներ, փորձարկումների արդյունքներ։

13) Նշանների ինժեներությունը (հակիրճ)

Ագրեգատները 'գումարներ/միջին/քվանտներ պատուհաններով։

Հաշվիչները և հաճախությունները 'փոխարկումներ, կատեգորիաների հազվադեպ։

Ժամանակավոր բայերն ու միտումները 'դելտա, էքսպոնենցիալ հարթություններ։

Կատեգորիաների էնկոդինգը 'target/stats encoding (արտահոսքով ուշադիր), WoE, one-hot/Hashing։

Տեքստերը և իրադարձությունները ՝ TF-IDF, սաղմեդդինգներ, sequence-fici։

Բիզնես տրամաբանությունը 'հիբրիդային նշաններ (օրինակ ՝ «col-օր վերջին վճարմամբ»)։

14) Փորձերի կառավարումը

Թրաքինգը 'չափումներ, պարամետրեր, արտեֆակտներ, դենսացիաներ։

Հիպերպարամետրներ ՝ Բայեսական դատական, random/grid search, վաղ կանգառը։

Ավարտների վերահսկումը 'գրացուցակը, սխեմաների պայմանագիրը, համատեղելիության թեստերը։

15) Չեկ թուղթ մինչև վաճառելը

• Ապագայի արտահոսք չկա. ճիշտ ժամանակային վալիդացիա
• Մետրիկները դիմացկուն են փոփոխություններին. Կա OOT թեստ
• Տրամաչափությունը ստուգված է; ընտրել է բիզնեսի շեմն
• Դելֆիչին և տվյալների ցանկը
• Դեգրադացիայի և ալտերտայի գործառույթները վճռական են
• Ռետրենինգի պլանը և կանգառի չափանիշները
• Իրավաբանական և էթիկական ստուգումները շարունակվում են

Mini-glossaria

Բաշխման դրեյֆը 'տվյալների վիճակագրության փոփոխությունը/ժամանակի ընթացքում։

Տրամաչափություն 'հավանականության բերումը իրադարձությունների իրական հաճախությանը։

Uplift: ազդեցության տարբերության կանխատեսումը «վերամշակված» և «վերահսկողական» միջև։

OOT թեստ 'մոդելի ստուգում այն ժամանակահատվածի վրա, որը լիովին անտեսանելի է ուսուցման/վալիդացիայի համար։

Արդյունքը

Պրոգնոստիկ մոդելը ոչ միայն ալգորիթմ է, այլ գործընթաց 'խնդրի ճիշտ արտադրություն, տվյալների կարգապահություն, խիստ վալիդացիա, որոնք վերարտադրվում են deple-pline, system և էթիկա։ Նկարագրված ցիկլին հետևելը նվազեցնում է «գեղեցիկ մետր օֆլինում» ռիսկը և բարձրացնում է իրական արժեքը սննդի մեջ։