MLOps: ऑपरेटिंग मॉडल

1) आईगेमिंग में शोषण की भूमिका

आईगेमिंग में, मॉडल वास्तविक धन और विनियमन को प्रभावित करते हैं: आरजी हस्तक्षेप, धोखाधड़ी विरोधी, भुगतान, केवाईसी, सीमा, प्रस्ताव और सिफारिशें। ऑपरेशन गारंटीकृत एसएलओ, ट्रेसिबिलिटी और सुरक्षा के साथ भविष्यवाणियों की एक विश्वसनीय प्रस्तुति है।

उद्देश्य:

डाउनटाइम के बिना अनुमानित रिलीज और रोलबैक।
डेटा स्थिरता और ऑफ़ लाइन/ऑनलाइन सुविधाएँ।
अवलोकन: गुणवत्ता, बहाव, ईमानदारी, गोपनीयता।
TCO कमी: प्रदर्शन, कैश, GPU/CPU मिश्रण।
अनुपालन (ऑडिट/डीएसएआर/कानूनी पकड ़/नैतिकता)।

2) वास्तुशिल्प की सेवा करना

बैच (ऑफ़लाइन): रात/घंटा स्कोरिंग (सीमा, खंड)। पेशेवरों: सस्ता, अधिक स्थिर। विपक्ष: कोई त्वरित प्रतिक्रिया नहीं।

स्ट्रीम (पास-रियल-टाइम): 1-5 मिनट की खिड़कियों के साथ इवेंट प्रोसेसिंग (दांव, विसंगतियां)।

ऑनलाइन (सिंक एपीआई): UX/जोखिम समाधान, कैशिंग और गिरावट के लिए <100-300 ms p95।

हाइब्रिड: "बैच + ऑनलाइन शोधन से आधारभूत" (उदाहरण: 7-दिवसीय आरजी जोखिम + ऑनलाइन सत्र ट्रिगर)।

पैटर्न:

एक महत्वपूर्ण पथ पर एक प्रकाश "गेट मॉडल" के साथ पहनावा/स्टैकिंग।
मॉडल विफलता/सुविधा के मामले में फॉलबैक हेयूरिस्टिक्स।
सर्किट ब्रेकर और चोटियों पर सीमित दर या जब प्रदाता नीचा दिखाते हैं।

3) मॉडल रजिस्ट्री और संस्करण प्रबंधन

मॉडल रजिस्ट्री: संस्करण, मालिक, रिलीज़ की तारीख, मेट्रिक्स (AUC/PR, अंशांकन), dataset_version, feature_set_version,, उपयोग प्रतिबंध।

मॉडल कार्ड: कार्य, डेटा/सुविधाएँ, निष्पक्षता/गोपनीयता अनुभाग, जोखिम क्षेत्र, समीक्षा आ

रिलीज नीति: 'मेजर। माइनर। PATCH '+ अनिवार्य रोलबैक योजना।

चैंपियन-चैलेंजर: समानांतर चैलेंजर रिपोर्ट के साथ चलता है; मानदंड पूरा होने पर स्वचालित पदोन्नति।

4) ऑनलाइन सुविधाएँ और स्थिरता

फीचर स्टोर: ऑफ़ लाइन (प्रशिक्षण) और सख्त अनुबंधों के साथ ऑनलाइन (अनुमान) शोकेस।

समय यात्रा और प्वाइंट-इन-टाइम प्रशिक्षण में शामिल होते

लक्ष्य रिसाव के खिलाफ पहचान अद्यतन सुविधा और सुरक्षा।

स्थिरता: रीड-योर-राइट्स या एसएलए डिलीवरी गारंटी (उदाहरण के लिए, ≤ 60 सेकंड)।

सुविधा नीति: सूची, मास्किंग, टोकन, प्रॉक्सी पीआईआई निषेध की अनुमति/इनकार करें।

5) रिलीज की रणनीतियाँ

छाया: सभी लोड → चैंपियन; चैलेंजर अनुरोधों की एक प्रति प्राप्त करता है, उत्तर व्यवसाय को प्रभावित नहीं करते हैं।

कैनरी: यातायात का 1-10% - नया संस्करण; केपीआई/मैट्रिक्स की तुलना, थ्रेसहोल्ड द्वारा ऑटो-रोलबैक।

ब्लू-ग्रीन: दो सर्वर/एंडपॉइंट पूल; DNS/मार्ग स्विचिंग।

झंडे: बाजारों/किरायेदारों/चैनलों द्वारा ठीक ट्यूनिंग।

6) अवलोकन और सतर्कता

संकेत (ऑनलाइन):

विश्वसनीयता: त्रुटि दर, समय समाप्ति, p50/p95/p99 विलंबता, QPS, संतृप्ति।
डेटा/विशेषताएं: ताजगी, पूर्णता, वितरण, विसंगतियां, चूक, स्कीमा बहाव।
गुणवत्ता: कैलिब्रेशन, पोस्ट-फैक्ट मेट्रिक्स (AUC/PR, उत्थान), हस्तक्षेप प्रतिक्रिया।
बहाव: इनपुट (पीएसआई/केएस) और आउटपुट (स्कोर बहाव) पर।
नैतिकता/निष्पक्षता: ईओ/ईओपी-डेल्टास, असमान प्रभाव।
गोपनीयता: हमला-एयूसी (सदस्यता/उलटा) ≈ 0। 5, -प्रयोग (यदि डीपी)।
व्यवसाय: चार्जबैक, आरजी हस्तक्षेप, ऑफ़ र का रूपांतरण - खंडित।

विशिष्ट थ्रेसहोल्ड:

p95 विलंबता ≤ 200 एमएस (ऑनलाइन स्कोरिंग आरजी/एंटी-फ्रॉड)।
त्रुटि दर ≤ 0। 1% 5-मिनट। मतलब।
बहाव PSI ≤ 0। प्रमुख विशेषताओं में 2; EOp- डेल्टा ≤ 3 p.p.
ताजगी की सुविधा ≤ 60 सेकंड; अंतराल ≤ 0। 5%.
ACE ≤ 0 का कैलिब्रेशन। 02.

7) घटनाएं और प्लेबुक

सेव स्तर: पी 1 (पेआउट ब्लॉकिंग/आरजी त्रुटि), पी 2 (त्रुटि वृद्धि> सीमा), पी 3 (गुणवत्ता गिरावट)।

ऑटो-शमन: चैंपियन पर स्विच करना, अनुरोधों की आवृत्ति को कम करना, फॉलबैक नियमों को सक्षम करना, "विषाक्त" सुविधाओं को अलग करना।

रनबुक: "फीचर पुराने हैं", "बहाव बढ़ गया है", "फीड टाइपिंग बदल गई है", "जीपीयू समाप्त हो गया है।"

पोस्टमार्टम: आरसीए, फिक्स प्लान, अपडेट टेस्ट/थ्रेसहोल्ड/कॉन्ट्रैक्ट।

8) प्रयोग और नियंत्रण बदलना

ए/बी और बहु-सशस्त्र डाकू - केवल प्रमुख समूहों (देश/चैनल/उपकरण) द्वारा स्तरीकृत।

नैतिक स्टॉप नियम: आरजी जोखिम/शिकायतों में तेज वृद्धि के साथ।

स्विच करने से पहले दोहरे संचालित शोकेस सुविधाएँ और मॉडल।

परिणामों की स्थिर व्याख्या के लिए केपीआई और परिभाषाओं (बीआई अनुबंध) की संस्करण।

9) बिक्री में सुरक्षा और गोपनीयता

mTLS/TLS 1। 3, अनुरोध हस्ताक्षर, एंटी-रिप्ले (नॉन/आइडेम्पोटेंसी)।

रहस्य प्रबंधक, जेआईटी जारी करने, ऑडिट से रहस्य।

इनपुट/लॉग का टोकन; पीआईआई ट्रेल्स में निषेध।

टीईई/गोपनीय वीआईपी भुगतान अनुमान/एएमएल (यदि आवश्यक हो)।

सुविधाओं और समापन बिंदुओं पर पहुंच नीतियां (RBAC/ABAC/JIT)।

DSAR/लीगल होल्ड: टोकन द्वारा व्याख्या और विलोपन के लिए समाधानों का एक निशान।

10) प्रदर्शन और लागत

टीटीएल के साथ कैश (फीचर/स्कोर), विशेष रूप से स्थिर संकेतों के लिए।

त्वरण के लिए परिमाणीकरण/आसवन (INT8/FP16)।

Autoscalling: QPS/विलंबता द्वारा क्षैतिज, बैच-आकार द्वारा ऊर्ध्वाधर।

सीपीयू/जीपीयू हाइब्रिड: जीपीयू पर विलंबता-महत्वपूर्ण, सीपीयू पर "द्रव्यमान"।

कोल्ड स्टार्ट ट्रेसिंग, मॉडल हीटिंग।

कैश इलाके के लिए बाजार/किरायेदार द्वारा मॉडल पूल और "चिपचिपा मार्ग"।

11) आईगेमिंग मामले (संदर्भ)

आरजी स्कोरिंग: प्रवेश और सत्रों में ऑनलाइन स्कोरिंग; सख्त ओवरराइड (स्व-बहिष्करण), लक्ष्य मीट्रिक ईओपी + अंशांकन है।

धोखाधड़ी/भुगतान: पूर्व-प्राधिकरण समाधान <150 ms; एफपीआर ईओ नियंत्रण, मजबूत सिग्नल एग्रीगेटर।

KYC/AML: पतली-फ़ाइल समर्थन; साझेदार के साथ पीएसआई/एमपीसी; DSAR संगतता।

निजीकरण: उत्थान मॉडल और आवृत्ति सीमा; आक्रामक ऑफ़ र से उच्च जोखिम का बहिष्कार।

12) ऑपरेशन के मेट्रिक्स और एसएलओ (उदाहरण)

श्रेणी	मेट्रिक्स	उद्देश्य
विश्वसनीयता	नौकरी/समापन बिंदु सफलता दर	≥ 99. 5%
विलंबता	p95/p99	≤ 200 मीटर/400 मीटर
गुणवत्ता	AUC (ऑनलाइन), ACE	≥ लक्ष्य/ ≤ 0। 02
आंकड़ा	ताजगी की सुविधा	≤ 60 सेकंड
बहाव	इनपुट पीएसआई	≤ 0. 2
शिष्टाचार	ईओपी-डेल्टा	≤ 3 पी.पी.
गोपनीयता	हमला-AUC	~ 0. 5
व्यापार	एफपीआर विरोधी धोखाधड़ी	लक्ष्य सीमा ≤

13) कलाकृतियाँ पैटर्न

13. 1 रिलीज नोट्स

मॉडल: 'rg _ जोखिम @ 2। 1. 0 '(माइनर)

परिवर्तन: जोड़ा गया फीचर 'लॉस _ स्ट्रीक _ 7 डी'; अंशांकन अद्यतन

सत्यापन: छाया 14 दिन; डेल्टा केपीआई ≤ 0। 3%; ईओपी डेल्टा सामान्य

रोलआउट: कैनरी 10% यूरोपीय संघ → 50% → 100%

रोलबैक: झंडा 'rg। use_v1=true'

मालिक/तिथि/टिकट

13. 2 मॉडल कार्ड (टुकड़ा)

कार्य: धोखाधड़ी विरोधी भुगतान

डेटा: 'भुगतान _ गोल्ड v3। 2 ', फीचर सेट' पेआउट _ सिग्नल v1। 7`

मेट्रिक्स: AUC = 0। 89, एसीई = 0। 015, FPR @ operas। सीमा = 1। 2%

निष्पक्षता: ईओ टीपीआर/एफपीआर ≤ 2 п। п. по "देश/विधि"

प्रतिबंध: वीआईपी ग्राहक - केवल मानव-समीक्षा के साथ

गोपनीयता: TEE-निष्कर्ष; PII के बिना लॉगिंग

समीक्षा करें: हर 90 दिनों में एक बार

13. 3 एंडपॉइंट एसएलओ पॉलिसी (स्निपेट)

yaml endpoint: /v1/score/rg slo:
latency_p95_ms: 200 success_rate: 0. 995 max_error_burst_per_5m: 50 data:
feature_freshness_s: 60 allowed_missing_pct: 0. 5 ethics:
eop_delta_pp: 3 privacy:
attack_auc_max: 0. 55

13. 4 रनबुक "फीचर्स आउट ऑफ डेट"

1. फ़ीचर स्टोर और फ़ीड के स्रोत में अंतराल की जाँच करें।

2. अतिरिक्त चैनल/कैश पर स्विच करें।

3. यातायात कम करें/फॉलबैक नियमों को सक्षम करें।

4. # ml-स्थिति में संचार; घटना P2/P1 SLA द्वारा।

5. आरसीए और अनुबंध/रिट्रे संपादन।

14) पूर्व-रिलीज परीक्षण प्रक्रिया

अनुबंध सुविधा: स्कीमा/एनम/शून्य, एसएलए ताजगी।

डेटा: डीक्यू परीक्षण, बिंदु-इन-टाइम, लक्ष्य रिसाव।

मॉडल: इकाई/एकीकरण, अंशांकन, तनाव/भार।

सुरक्षा: लॉग में रहस्य, एमटीएलएस, जीरो-पीआईआई।

नैतिकता/गोपनीयता: निष्पक्षता-जाँच, हमला-सुइट।

अवलोकन: डैशबोर्ड/अलर्ट, एसएलओ कॉन्फ़िग।

प्रलेखन: रिलीज नोट्स + रोलबैक-प्लान।

15) आरएसीआई (उदाहरण)

एमएल लीड (ए/आर): गुणवत्ता, रिलीज, मैट्रिक्स।

डेटा प्लेटफ़ॉर्म (आर): फ़ीचर स्टोर, रजिस्टर, ऑर्केस्ट्रेशन, अवलोकन।

डोमेन मालिक (R): स्रोत अनुबंध/सुविधा।

सुरक्षा/डीपीओ (ए/आर): पहुंच, गोपनीयता, टोकन, टीईई।

SRE/SecOps (R): घटनाएँ, SLO, ऑटोस्केल, SOAR।

एनालिटिक्स/फाइनेंस (सी): केपीआई और रिपोर्टों पर प्रभाव।

समर्थन/आरजी/जोखिम (सी): मानव-इन-द-लूप और व्याख्या।

16) कार्यान्वयन रोडमैप

0-30 दिन (एमवीपी)

1. उच्च प्रभाव वाले मॉडल (आरजी/पेआउट/एंटी-फ्रॉड) के लिए मॉडल रजिस्ट्री + कार्ड।

2. मूल निगरानी: विलंबता, त्रुटियां, ताजगी, बहाव इनपुट।

3. छाया नए संस्करणों, कैनरी आकृति के चलता है।

4. लॉग में अनुबंध सुविधा और शून्य-पीआईआई।

5. रनबुक और # ml-स्टेटस चैनल।

30-90 दिन

1. चैंपियन-चैलेंजर और मानदंडों द्वारा ऑटो-प्रचार।

2. सीआई/सीडी में निष्पक्षता/गोपनीयता द्वार, हमला-सुइट।

3. कैशिंग, परिमाणीकरण, ऑटोस्केल; एसएलओ/लागत बजट।

4. केपीआई और ऑनलाइन मैट्रिक्स का बीआई/एमएल समन्वय; डैशबोर्ड एसएलओ।

3-6 महीने

1. नियमित पोस्टमार्टम, त्रैमासिक मॉडल समीक्षा।

2. समापन बिंदुओं, कुंजियों और विशेषताओं का भू/किरायेदार अलगाव।

3. निजी भुगतान निष्कर्ष/एएमएल के लिए टीईई/एमपीसी।

4. वंश और डिफ से रिलीज नोट्स का पूर्ण स्वचालन।

5. प्रक्रियाओं का बाहरी लेखा परीक्षा (जहां लाइसेंस द्वारा आवश्यक हो)।

17) एंटी-पैटर्न

छाया/कैनरी और रोलबैक योजना के बिना रिलीज़।

असंगत ऑफ़ लाइन/ऑनलाइन सुविधाएँ - गिरावट।

पीआईआई के साथ लॉग, टोकन-पॉलिसी की अनुपस्थिति।

संशोधन के बिना "अनन्त" थ्रेसहोल्ड; बहाव और अंशांकन की अनदेखी।

उच्च जोखिम वाले समाधानों के लिए मानव-इन-द-लूप की कमी।

स्तरीकरण और नैतिक रोक नियमों के बिना प्रयोग।

18) संबंधित अनुभाग

डेटाऑप्स प्रैक्टिस, एक्सेस कंट्रोल, डेटा टोकेनाइजेशन, सिक्योरिटी एंड एन्क्रिप्शन, ऑडिटिंग एंड वेरिएशन, बायस मिशनिंग, गोपनीय एमएल, फेडरेटेड लर्निंग, डेटा रिटेंशन पॉलिसी, डेटा ओरिजिन और पाथ, डेटा एथिक्स।

कुल

मॉडल शोषण उत्पादन सेवा स्तर पर एक इंजीनियरिंग अनुशासन है: स्पष्ट अनुबंध और संस्करण, अनुमानित रिलीज, अवलोकन 24/7, प्रबंधनीय नैतिकता/गोपनीयता जोखिम और पारदर्शी व्यावसायिक प्रभाव। यह एमएल को एक विश्वसनीय उत्पाद बनाता है, न कि "लैपटॉप में सबसे अच्छी स्क्रिप्ट।"

MLOps: ऑपरेटिंग मॉडल

कुल

हमसे संपर्क करें

त्वरित संपर्क

वीडियो जल्द ही अपडेट किया जाएगा

हम इस समय परियोजनाओं में बहुत व्यस्त हैं