गोपनीय मशीन सीखना
1) सार और लक्ष्य
गोपनीयता-संरक्षण वाले एमएल ऐसे दृष्टिकोण हैं जो आपको मॉडल को प्रशिक्षित करने और उपयोग करने की अनुमति देते हैं, स्रोत डेटा तक पहुंच को कम करते हैं और विशिष्ट उपयोगकर्ताओं के बारे में लीक को सीमित करते हैं। आईगेमिंग के लिए, यह पीआईआई/वित्तीय डेटा, नियामक (केवाईसी/एएमएल, आरजी), साझेदार एकीकरण (गेम प्रदाताओं, पीएसपी), साथ ही साथ सीमा पार आवश्यकताओं के कारण विशेष रूप से महत्वपूर्ण है।
मुख्य उद्देश्य:- लीक और नियामक दंड के जोखिम को कम करें।
- कच्चे डेटा को साझा किए बिना ब्रांड/बाजारों में सहयोगात्मक शिक्षण सक्षम करें।
- एमएल (मैट्रिक्स, एसएलओ) में "गोपनीयता मूल्य" को व्याख्यात्मक और सत्यापित करें।
2) एमएल में खतरा मॉडल
मॉडल उलटा-मॉडल से मूल उदाहरणों/विशेषताओं को बहाल करने का प्रयास।
सदस्यता अनुमान: यह निर्धारित करना कि रिकॉर्डिंग प्रशिक्षण में शामिल थी या
पाइपलाइन में डेटा रिसाव: लॉग/फिशर्स, अस्थायी फ़ाइलें, स्नैपशॉट।
प्रॉक्सी/लिंकेज हमले: बाहरी स्रोतों के लिए गुमनाम डेटा को चमकाना।
इनसाइडर/पार्टनर जोखिम: एक्सेस/लॉग में निरर्थक विशेषाधिकार।
3) पीपीएमएल उपकरण और दृष्टिकोण
3. 1 विभेदक गोपनीयता (डीपी)
विचार: यह सुनिश्चित करने के लिए नियंत्रित शोर जोड़ ना कि एक विषय का योगदान "अप्रभेद्य" है।
कहां से लागू करें: एकत्रीकरण, सीखने में ग्रेडिएंट्स (डीपी-एसजीडी), रिपोर्ट/डैशबोर्ड, प्रकाशन आंकड़े।
पैरामीटर: "(एप्सिलॉन) -" गोपनीयता बजट "," "-" विफलता "की संभावना।
सौदेबाजी उचित है: अधिक शोर - अधिक गोपनीयता, कम सटीकता; मॉडल जीवनचक्र के लिए योजना बजट लेखांकन।
3. 2 फेडरेटेड लर्निंग (FL)
विचार: मॉडल डेटा के लिए जाता है, न कि दूसरे तरीके के आसपास; कच्चे रिकॉर्ड के बजाय ग्रेडिएंट/वजन एकत्र किए जाते हैं।
विकल्प: क्रॉस-डिवाइस (कई ग्राहक, कमजोर नोड्स), क्रॉस-साइलो (कई विश्वसनीय संगठन/ब्रांड)।
सुरक्षा बढ़ाने वाले: एफएल पर सुरक्षित एकत्रीकरण, डीपी, कम गुणवत्ता वाले/दुर्भावनापूर्ण ग्राहकों (बीजान्टिन-मजबूत) का प्रतिरोध।
3. 3 सुरक्षित कम्प्यूटिंग
एमपीसी (सिक्योर मल्टी-पार्टी कम्प्यूटेशन) - एक दूसरे के लिए इनपुट खोले बिना संयुक्त कंप्यूटिंग।
HE (होमोमोर्फिक एन्क्रिप्शन): एन्क्रिप्टेड डेटा पर गणना; महंगा लेकिन बिंदु कार्यों के लिए उपयोगी (स्कोरिंग/अनुमान)।
TEE/गोपनीय कम्प्यूटिंग: एचडब्ल्यू स्तर पर विश्वसनीय निष्पादन योग्य वातावरण (एन्क्लेव), कोड और डेटा अलगाव।
3. 4 वैकल्पिक
ज्ञान-बिना प्रकटीकरण (ZKP): डेटा प्रकटीकरण (आला मामलों) के बिना शुद्धता साबित करें।
छद्म नाम/गुमनामी: प्रशिक्षण से पहले; पुन: पहचान जोखिम की जांच।
निजी सेट प्रतिच्छेदन (पीएसआई): पूरे सेट को प्रकट किए बिना सेट (धोखाधड़ी/मंजूरी सूची) का चौराहा।
4) iGaming के लिए वास्तुकला पैटर्न
4. 1 निजी सुविधा लाइनें
पीआईआई गेमिंग टेलीमेट्री घटनाओं से अलग है; कुंजियाँ - टोकन/नमकीन हैशिंग के माध्यम से।
पहुंच स्तरों के साथ Fichestor: कच्चा (प्रतिबंधित), व्युत्पन्न (गोपनीय), कुल (आंतरिक)।
रिपोर्टिंग और अनुसंधान के लिए डीपी एकत्रीकरण; (डोमेन द्वारा कोटा (विपणन/जोखिम/आरजी)।
4. 2 सहयोगात्मक शिक्षा
क्रॉस-ब्रांड एफएल: सामान्य एंटी-फ्रॉड/आरजी होल्डिंग के लिए स्कोरिंग - स्थानीय ग्रेडिएंट्स, सिक्योर एग के साथ केंद्रीय एकत्रीकरण।
पीएसपी के साथ एमपीसी निष्कर्ष: कच्ची विशेषताओं का आदान-प्रदान किए बिना पीएसपी और ऑपरेटर पक्ष पर भुगतान जोखिम स्कोर करना।
4. 3 निजी निष्कर्ष
वीआईपी/भुगतान के लिए स्कोरिंग अनुरोध टीईई सेवा या चयनित सबमॉडल के एचई मूल्यांकन के माध्यम से जाते हैं।
केवल एकत्रित परिणामों को कैचिंग; "कच्चे" फिश कास्ट को क्रमबद्ध करने पर प्रतिबंध।
5) प्रक्रियाएं और शासन
5. 1 "न्यूनतम डेटा" नीति
प्रसंस्करण का स्पष्ट उद्देश्य, अनुमेय विशेषताओं की सूची, शेल्फ जीवन।
पीआईआई अलग से, एक्सेस - आरबीएसी/एबीएसी, जस्ट-इन-टाइम, लॉगिंग।
5. पीपीएमएल के लिए 2 आरएसीआई
सीडीओ/डीपीओ - गोपनीयता नीति, डीपीआईए/डीईआईए, बजट का समन्वय।
एमएल लीड/डेटा मालिक - तकनीकों का चयन (डीपी/एफएल/एमपीसी/टीईई), गुणवत्ता सत्यापन।
सुरक्षा/मंच - कुंजी/रहस्य, गोपनीय वातावरण, लेखा परीक्षा।
स्टीवर्ड - कैटलॉग/वर्गीकरण, डेटा स्टेटमेंट, सेट पासपोर्ट।
5. 3 प्री-रिलीज़चेक
DPIA/नैतिक प्रभाव मूल्यांकन।
निष्पक्षता + समूह अंशांकन (कोई छिपा हुआ प्रॉक्सी नहीं)।
privacy- тесты: सदस्यता निष्कर्ष, ढाल रिसाव, फिर से पहचान।
6) गोपनीयता मैट्रिक्स और एसएलओ
a -budget उपयोग: मॉडल/डोम द्वारा संचयी खपत।
पुन: पहचान जोखिम: डी-गुमनामी की संभावना (सिमुलेशन/हमले-परीक्षण)।
हमला AUC↓: सदस्यता/उलटा हमलों की सफलता ≈ मौका होना चाहिए।
रिसाव दर: PII = 0 के साथ लॉगिंग/स्नैपशॉट की घटनाएं।
कवरेज: डीपी/एफएल/एमपीसी/टीईई के साथ% मॉडल जहां आवश्यक हो।
विलंबता/लागत एसएलओ: उत्पादन पथ के लिए निजी संगणना ओवरहेड <लक्ष्य सीमा।
7) आईगेमिंग डोमेन अभ्यास
7. 1 केवाईसी/एएमएल
पूर्ण सेट प्रकटीकरण के बिना अनुमोदन सूची/पीईपी मैचअप के लिए पीएसआई + एमपीसी।
जोखिम पैटर्न रिपोर्टिंग के लिए डीपी एकत्रीकरण।
7. 2 जिम्मेदार गेमिंग (आरजी)
एक सामान्य जोखिम डिटेक्टर के लिए बाजार ब्रांडों के बीच एफएल; आत्म-बहिष्करण द्वारा सख्त ओवरराइड।
आरजी के डीपी प्रकाशन मामलों के डीनामकरण को बाहर करने के लिए अध्ययन करते हैं।
7. 3 एंटीफ्राड/भुगतान
उच्च जोखिम वाले भुगतान स्कोर करने के लिए टीईई; PSP के साथ MPC चार्जबैक संभावना स्कोर।
अनुमान लॉग का ऑडिट: ट्रैक में फीचर डंप और पीआईआई के बिना।
7. 4 निजीकरण/सीआरएम
डीपी एक विस्तृत खिलाड़ी प्रक्षेपवक्र के बिना विभाजन "संकीर्ण" सुविधाओं (आवृत्ति, शैलियों, सत्रों) के लिए एकत्र करता है।
दानेदार सुविधाओं द्वारा लुक-एक जैसे मॉडल के लिए ऑफ-डिवाइस एफएल।
8) गोपनीयता परीक्षण और सत्यापन
सदस्यता अनुमान चुनौती: एक मॉडल के खिलाफ एक सार्वजनिक (आंतरिक) प्रतिस्पर्धी परीक्षण।
अनुपात/सक्रियण रिसाव परीक्षण
K- - विविधता/टी-निकटता: अवैयक्तिक नमूनों के लिए औपचारिक मानदंड।
कैनरी रिकॉर्ड: लॉग/मॉडल में लीक का पता लगाने के लिए कृत्रिम रिकॉर्ड।
9) MLOps: विकास से उत्पादन तक
पॉलिसी-ए-कोड: PII लेबल के साथ लिंटर सुविधा/अनुबंध; CI अनधिकृत सुविधाओं को अवरुद्ध करता है।
डीपी में सीखना: CI में नियंत्रण, बजट मूल्यह्रास रिपोर्ट।
रहस्य/KMS: MPC/HE/TEE, रोटेशन और दोहरे नियंत्रण के लिए कुंजी।
लीक के बिना अवलोकन: लॉग में मास्किंग, नमूना, निशान में पीआईआई अक्षम।
मॉडल रजिस्ट्री: डेटा संस्करण, /,, गोपनीयता तकनीक, समीक्षा तिथि, मालिक।
10) साँचा (उपयोग के लिए तैयार)
10. 1 निजी मॉडल कार्ड (टुकड़ा)
कार्य/प्रभाव: (आरजी/एएमएल/एंटीफ्राड/सीआरएम)
गोपनीयता तकनीक: (DP =?, FL, MPC/TEE/HE)
डेटा/सुविधाएँ: (कक्षाएं, पीआईआई टैग, स्रोत)
गुणवत्ता मैट्रिक्स: AUC/PR, अंशांकन
गोपनीयता मैट्रिक्स: -usage, AUC पर हमला, फिर से आईडी जोखिम
निष्पक्षता अनुभाग: लक्ष्य ईओ/ईओ + अंशांकन
प्रतिबंध: जहां मॉडल लागू नहीं होता है
पर्यावरण: गोपनीय नोड्स/कुंजी/लॉगिंग नीतियाँ
10. 2 डीपी नीति (थंबनेल)
डोमेन द्वारा बजट - मार्केटिंग ≤ X, जोखिम ≤ Y
लेखा - प्रशिक्षण/विश्लेषण के दौरान वृद्धि रिपोर्टिंग
न्यूनतम गुणवत्ता थ्रेसहोल्ड: ताकि शून्य से "शोर" न हो
अपवाद: डीपीओ/सीडीओ औचित्य रिकॉर्ड के साथ निर्णय
10. 3 निजी रिलीज़ चेकलिस्ट
- डीपीआईए/नैतिकता पारित, मालिकों को नियुक्त किया गया
- पीआईआई अलग हो गया, नीति द्वारा अनुमत सुविधाएँ
- डीपी/एफएल/टीईई/एमपीसी ने कॉन्फ़िगर और परीक्षण किया
- हमला-सुइट: सदस्यता/उलटा - यादृच्छिक
- PII के बिना लॉग/ट्रेल्स, रिटेंशन सेट
- दस्तावेज़: मॉडल कार्ड + गोपनीयता परिशिष्ट
11) कार्यान्वयन रोडमैप
0-30 दिन (एमवीपी)
1. PII-टैग किए गए फीचर कैटलॉग; लॉग/ट्रेस में पीआईआई निषेध।
2. प्रमुख समुच्चय और अनुसंधान रिपोर्ट के लिए डीपी शामिल करें
3. बुनियादी हमले परीक्षण (सदस्यता/उलटा) चलाएं और रिपोर्टिंग करें।
4. गोपनीयता मापदंडों और मालिकों के साथ मॉडल कार्ड।
30-90 दिन
1. एक कार्य के लिए पायलट एफएल (क्रॉस-साइलो) (उदाहरण के लिए, आरजी या धोखाधड़ी विरोधी)।
2. भुगतान/वीआईपी स्कोरिंग के लिए गोपनीय वातावरण (टीईई)।
3. पॉलिसी-ए-कोड: फीचर लिंटर + गोपनीयता सीआई लॉक।
4. Set लेखांकन और गोपनीयता-SLO डैशबोर्ड सेट करें।
3-6 महीने
1. पीएसपी/भागीदारों के साथ प्रतिबंधों/धोखाधड़ीसूचियों का मिलान करने के लिए एमपीसी/पीएसआई।
2. निजी निष्कर्ष बिंदु परिदृश्यों के लिए HE/TEE।
3. नियमित गोपनीयता-पेन्टेस्ट एमएल, कैनरी-रिकॉर्ड, पोस्ट-मोरथीम्स।
4. सभी उच्च प्रभाव वाले मॉडल पर डीपी/एफएल कवरेज; वार्षिक लेखा परीक्षा।
12) एंटी-पैटर्न
पुन: पहचान जोखिम मूल्यांकन के बिना "बेनामी"।
सुरक्षित एकत्रीकरण के बिना और डीपी ग्रेडिएंट के बिना एफएल प्रवाह कर सकता है।
PII के साथ अनुमान/फिचस्टोर लॉग।
और सार्वजनिक (आंतरिक) गोपनीयता रिपोर्ट के लिए लेखांकन की क
घटना के मामले में शून्य योजना (कोई प्लेबुक और संचार नहीं)।
13) प्लेबुक हादसा (संक्षिप्त)
1. पता लगाना: हमले-सुइट/निगरानी/शिकायत से संकेत।
2. स्थिरीकरण: रिलीज/मॉडल/अभियान को रोकें, पर्यावरण को अलग करें।
3. रेटिंग: स्केल/डेटा प्रकार/समय, जो प्रभावित है।
4. संचार: खिलाड़ी/भागीदार/नियामक (जहां आवश्यक हो)।
5. शमन: पाइपलाइन पैच, रिवोक कुंजी, डीपी/नीतियों को मजबूत करें।
6. सबक: अपडेट नीतियां, परीक्षण, ट्रेन टीमें।
14) पड़ोसी प्रथाओं के साथ संबंध
डेटा शासन, डेटा मूल और पथ, डेटा नैतिकता, पूर्वाग्रह को कम करना, डीएसएआर/गोपनीयता, मॉडल निगरानी, डेटा बहाव - प्रबंधित, जिम्मेदार और सत्यापित गोपनीयता का आधार।
कुल
गोपनीय एमएल एक इंजीनियरिंग और प्रबंधन अनुशासन है: सही तकनीक (डीपी/एफएल/एमपीसी/टीईई), सख्त प्रक्रियाएं (नीति-ए-कोड, as-लेखांकन, हमला परीक्षण), सटीकता और गोपनीयता के बीच सचेत समझौता और निरंतरता। आईगेमिंग में, जो लोग एनालिटिक्स और एआई को बहुत अधिक प्रकट किए बिना जीत सकते हैं और खिलाड़ियों, भागीदारों और नियामकों के विश्वास को बनाए रख सकते हैं।