Δειγματοληψία και αντιπροσωπευτικότητα

Δειγματοληψία είναι η επιλογή ενός υποσυνόλου παρατηρήσεων για μετρήσεις, πειράματα και εκπαίδευση σε μοντέλα. Αντιπροσωπευτικότητα σημαίνει ότι τα συμπεράσματα από το δείγμα κλιμακώνονται στον πληθυσμό-στόχο χωρίς προκατάληψη. Παρακάτω είναι πώς να σχεδιάσετε ένα δείγμα, να αξιολογήσετε την ποιότητά του και να διορθώσετε τις αντισταθμίσεις.

1) Βασικές έννοιες

Πληθυσμός: σύνολο στόχων αντικειμένων (όλοι οι χρήστες/συνεδρίες/συναλλαγές).
Πλαίσιο δειγματοληψίας: κατάλογος/μηχανισμός από τον οποίο επιλέγουμε στην πραγματικότητα (είναι σημαντικό να προσδιορίζονται οι επιστρώσεις και οι «οπές»).
Μονάδα επιλογής: χρήστης, συνεδρία, γεγονός, συναλλαγή, συσκευή.
Αντιπροσωπευτικότητα: αντιστοίχιση κατανομών βασικών χαρακτηριστικών σε δείγμα και πληθυσμό (με ανοχή τυχαίου σφάλματος).
Τυχαία έναντι προκατάληψης: διακύμανση των εκτιμήσεων έναντι μεροληψίας (προκατάληψη).

2) Τύποι δειγματοληψίας

2. 1 Πιθανολογική (προτιμώμενη)

SRS (απλή τυχαία): ίση πιθανότητα επιλογής.
Διαστρωματοποιημένος πληθυσμός (χώρα/κανάλι/πλατφόρμα), έπειτα SRS εντός των στρωμάτων → μικρότερη διακύμανση και καλύτερη κάλυψη.
Δέσμη: επιλογή ομάδων (ημέρες/διακομιστές/αποθήκες). φθηνή αλλά υψηλότερη συσχέτιση μεταξύ των ενδοκλαστών.
Συστηματικό: κάθε στοιχείο kth μετά από τυχαία εκκίνηση (απαιτούνται «ασύγχρονα» δεδομένα).
PPS (πιθανότητα ανάλογη του μεγέθους) - πιθανότητα ∝ μέγεθος μονάδας (για παράδειγμα, όγκος κίνησης εταίρων).

2. 2 Απίστευτο (με προσοχή)

Ανέσεις/εθελοντές: γρήγορες δημοσκοπήσεις, καταγραφές «κλικ» → τον κίνδυνο μεροληψίας επιλογής.
Ποσόστωση/χιονόμπαλα: χρήσιμη σε εξειδικευμένες ομάδες, αλλά απαιτείται μεταγενέστερη βαθμονόμηση.

3) Πηγές εκτόπισης

Κάλυψη: μέρος του πληθυσμού δεν βρίσκεται στο πλαίσιο (για παράδειγμα, δεδομένα iOS όταν απαγορεύεται η ιχνηλάτηση).
Επιλογή: ο μηχανισμός επιλογής συνδέεται με τη μεταβλητή-στόχο (συχνότερα μειώνεται).
Μη ανταπόκριση: Η μη ανταπόκριση είναι συστηματικά διαφορετική.
Επιζώντες: Αγνοώντας τους νεκρούς/αποκλεισμένους.
Ετικέτα όφσετ: θορυβώδεις ετικέτες, ετικέτες πληρεξουσίου, «χειροκίνητες» προσαρμογές.
Επιφάνειες: η χρήση μελλοντικών πληροφοριών στο σχηματισμό του δείγματος/χαρακτηριστικού.

4) Μέγεθος δείγματος και ισχύς

4. 1 Προσεγγίσεις

Για κλάσμα (p) με ακρίβεια (e) και εμπιστοσύνη (1-\α):

[
n\approx\frac {z _ {\alpha/2}  2, p (1-p)} {e  2}
]

Παίρνουμε συντηρητικά (p = 0 {.} 5). Αναπροσαρμογή για τον τελικό πληθυσμό, εάν είναι απαραίτητο.

Για μέσο με γνωστό (\sigma):

[
n\approx\left (\frac {z _ {\alpha/2} ,\sigma} {e }\right)  2
]

4. 2 Επίδραση σχεδιασμού και πραγματικό μέγεθος

Design Effect: (\mathrm {Deff} = 1 + (m-1 )\rho), όπου (m) είναι το μέγεθος του συμπλέγματος, (\rho) είναι η συσχέτιση μεταξύ συστάδων.
Πραγματικό μέγεθος: (n_\text{eff}=n/\mathrm{Deff}). Η δέσμη/τα σταθμισμένα σχέδια συχνά απαιτούν περισσότερα (n).

4. 3 A/B και MDE

Για δυαδική μέτρηση με συμμετρικές ομάδες:

[
n_{\text{на} }\approx\frac {2 (группу) z_{1-\alpha/2}+z_{1-\beta} 2 ,\bar {p} (1-\bar {p})} {\mathrm {MDE }\2}
]

όπου (\bar {p}) είναι το βασικό επίπεδο, MDE είναι το ελάχιστα ανιχνεύσιμο αποτέλεσμα.
Εξετάστε την εποχικότητα και τις παρεμβολές (spillover), εφαρμόστε CUPED/συν-μεταβλητές για τη μείωση της διακύμανσης.

5) Βάρη και βαθμονόμηση (δείγμα «παρόμοιο» με τον πληθυσμό)

Βάρος μελέτης: (w_i=1/\pi_i) (αντίστροφη πιθανότητα επιλογής).
Μετά τη διαστρωμάτωση και το raking: προσαρμόζουμε το σταθμισμένο περιθωριακό (χώρα/πλατφόρμα/ηλικία φύλου κ.λπ.) στα γνωστά κλάσματα.
Στάθμιση βαθμονόμησης: ελαχιστοποίηση της απόκλισης των βαρών όταν συμπίπτουν ακριβώς με τα σύνολα ελέγχου.
Bootstrap/αντιγραφή: ορθή εκτίμηση των διακυμάνσεων στα βάρη.
Διάγνωση: ESS (αποτελεσματικό μέγεθος δείγματος), εξάπλωση βάρους (CV, p95/p5), πριν/μετά τη σύγκριση με βασικά χαρακτηριστικά.

6) Ανισορροπία κατά κατηγορία και σπάνιες ανεπιθύμητες ενέργειες

Στρωματοποιημένη επιλογή ανά στόχο: το υπερπαράδειγμα είναι μια σπάνια κατηγορία, αλλά πάντα χρησιμοποιεί την προσαρμογή κατωφλίου/βάρους στην εκπαίδευση.
Οικονομικά ευαίσθητη μάθηση: σταθμισμένες απώλειες αντί για συνθετικά.
SMOTE/ADASYN: προσοχή - κίνδυνος διαρροών/αντικειμένων; να διατηρούν αυστηρές χρονικές/ομαδικές διαιρέσεις.
Αξιολόγηση: PR- AUC, Recall@FPR≤x% βαθμονόμηση πιθανότητας.

7) Ροή και μαζικά δεδομένα

Δειγματοληψία ταμιευτηρίου: Κρατήστε ένα αντιπροσωπευτικό υποσύνολο από ένα ρεύμα άγνωστου μήκους.
Δειγματοληψία γεγονότων: ανάλογη προς τη συχνότητα/σημασία· για σπάνιες - ρυθμιστικά διαλύματα ενεργοποίησης.
Μετρητές και σκίτσα: Bloom/Count-Min για συχνότητες/μοναδικότητα. για την ανάλυση - συνδυασμός με περιοδική ακριβή μέτρηση.
Απο-dup και idempotency - κλειδιά γεγονότων, παράθυρα αφαίρεσης.

8) Χρονικές και χωρικές πτυχές

Χρονική δειγματοληψία: σταθερά παράθυρα (κύλιση), ορθότητα σε χρόνο.
Δέσμη/γεω-δειγματοληψία: ομαδοποίηση ανά κόμβο/περιοχή. εξέταση της χωρικής αυτοδιέγερσης.
Εποχικότητα/ρυθμός: αντιπροσωπευτική κάλυψη ωρών/ημερών της εβδομάδας/των διακοπών.

9) Στοιχεία εκτός πολιτικής/καταγραφής και αιτιώδης συνάφεια

IPS (αντίστροφη τάση): (w_i=1/\pi (a_i	) να διορθώσει δείγματα καταγραφής για τη νέα πολιτική.
Βαθμολογία DR: Διπλά στιβαρή για τη μείωση της μεροληψίας και της διακύμανσης.
Δυνατότητα μεταφοράς - Αποτελέσματα μεταφοράς μεταξύ αγορών/διαύλων - Έλεγχος για τη μετατόπιση των συναλλαγματικών ισοτιμιών
Αλλαγή ετικέτας: (P (y)) μεταβολές σε σταθερή (P (x)	y)), Χρήση EM/επαναβαθμονόμησης.

10) Διαγνωστικά αντιπροσωπευτικότητας

Οριακή σύγκριση: πίνακες πληθυσμού έναντι δείγματος ανά βασικά χαρακτηριστικά.
Ισορροπία των συμψηφισμών: SMD (τυποποιημένη μέση διαφορά), Love plots.
Πυκνότητες/ποσοτικά στοιχεία: δοκιμές KS, ποσοτικές επιφάνειες, PSI.
Χαρακτηρισμός μοντέλου: σταθεροποίηση των μετρήσεων σε φέτες εκτός χρόνου και εκτός πεδίου.
ESS και βάρη: Το χαμηλό ESS σηματοδοτεί μεγάλη διακύμανση στις βαθμολογίες.

11) Αντι-μοτίβα

«Δείγμα μόνο ενεργό χθες» → απώλεια ψυχρών στρωτήρων.
Μέσα ποσοστά «μέσος όρος τμήματος» χωρίς σταθμίσεις.
Αναμείξτε τα επίπεδα συγκέντρωσης (συμβάντα και χρήστες) σε ένα δείγμα.
Τυχαία επιλογή μετά από φίλτρα εξαρτώμενα από τον στόχο (επιλογή του αποτελέσματος).
Cross-val χωρίς διαχωρισμό ομάδας/χρόνου με εξαρτώμενα δεδομένα.
Εφαρμογή SMOTE πριν από την αμαξοστοιχία/val (διαρροή).

12) Ιδιωτικά σενάρια (περιπτώσεις)

Έρευνα παίκτη: διαστρωματωμένη ανά χώρα/πλατφόρμα/ηλικία. μετά τη διαστρωμάτωση σε μετοχές της ΜΑΕ· έλεγχος όφσετ χωρίς αντίσταση.
Αρχεία καταγραφής για τον ΕΟΑ: συστηματικό δείγμα συμβάντων + πλήρης κάλυψη σπάνιων τύπων.
Ανίχνευση απάτης: στοχευόμενη διαστρωμάτωση, απώλεια ευαίσθητη στο κόστος, βαθμολογία PR- AUC και Recall@FPR≤x%.
A/B με περιορισμένη κυκλοφορία: υπολογισμός MDE, ανανέωση κανόνων ισχύος, CUPED.
promo αξιολόγησης εκτός πολιτικής: IPS/DR με περιορισμό βάρους (περικοπή), έλεγχος επικάλυψης υποστήριξης.

13) Μοτίβα τεχνουργημάτων

Σχέδιο δειγματοληψίας (υπόδειγμα)

Στόχος/Πληθυσμός:...

Πλαίσιο δειγματοληψίας: πηγές, καλύμματα/οπές

Μονάδα επιλογής: χρήστης/συνεδρία/εκδήλωση

Σχεδιασμός: στρώματα (χώρα, πλατφόρμα), μετοχές, μέθοδος επιλογής

Μέγεθος (n): υπολογισμοί, παραδοχές (α, ισχύς, MDE), Deff

Σύστημα βάρους: βάρη σχεδιασμού, μετά τη διαστρωμάτωση (σύνολα ελέγχου)

Ημερολόγιο: κάλυψη ημέρας/ώρας/διακοπών

Ποιότητα: δοκιμές κάλυψης, σχέδιο μη ανταπόκρισης, διαδικασίες επαφής

Κίνδυνοι: επιλογή, παρεμβολές, προστασία της ιδιωτικής ζωής/PII

Ιδιοκτήτες και ελεγκτές: ποιος μετράει/αποθηκεύει/εκδόσεις

Διαβατήριο ζύγισης (υπόδειγμα)

Συντελεστές στάθμισης βάσης: (w_i=1/\pi_i)

Βαθμονόμηση: στόχοι (χώρα, πλατφόρμα, ηλικία), μέθοδος (raking), ανοχές

Περιορισμοί: περικοπή w ∈ [w_min, w_max]

Διαγνωστικά: ESS, CV (w), SMD πριν/μετά

Χρήση: ποιες εκθέσεις/υποδείγματα εφαρμόζουν συντελεστές στάθμισης

Εκδόσεις: v1→v2, ημερομηνία, ιδιοκτήτες

14) Προστασία της ιδιωτικής ζωής και δεοντολογία

Privacy by Design: ελαχιστοποίηση πεδίου, συγκέντρωση, ψευδωνυμοποίηση.
Διαφορική ιδιωτικότητα: τυχαιοποίηση/υπο-δειγματοληψία ως ενίσχυση της ιδιωτικής ζωής.
Δίκαιο: Έλεγχος της διαφοράς σφάλματος/βάρους έναντι ευαίσθητων χαρακτηριστικών. δεν επιτρέπουν στις ομάδες να είναι «αόρατες».

15) Κατάλογος ελέγχου πριν από την εκκίνηση

Περιγράφεται το πλαίσιο δειγματοληψίας. οπές επικάλυψης που προσδιορίζονται και τεκμηριώνονται
Επιλεγμένο σχέδιο (στρώματα/συστάδες), υπολογιζόμενο (ν), Deff, MDE
Κατάρτιση σχεδίων βαρών και σχεδίου βαθμονόμησης (συμφωνημένα σύνολα ελέγχου)
Καθορισμός χρονικών παραθύρων/εποχικότητας. υπάρχει ένα σχέδιο με μη ανταπόκριση
Οι διαιρέσεις επικύρωσης λαμβάνουν υπόψη το χρόνο/τις ομάδες. χωρίς διαρροές
Μετρήσεις ποιότητας: διαστήματα ESS, SMD, PSI, bootstrap
Τεκμηρίωση και εκδόσεις· Ελεγχόμενα δικαιώματα πρόσβασης και περιγράμματα της ιδιωτικής ζωής

Mini Γλωσσάριο

Deff: πολλαπλασιαστής αυξανόμενη διακύμανση βαθμολογίας λόγω σχεδιασμού.
ESS: πραγματικό μέγεθος δείγματος μετά τη στάθμιση.
IPS/DR: μέθοδοι στάθμισης δεδομένων εκτός πολιτικής/καταγραφής.
SMD: τυποποιημένη μέση διαφορά (ισοζύγιο συµµεταβλητών).
Δειγματοληψία ταμιευτηρίου: διατήρηση τυχαίου δείγματος από το ρεύμα.

Σύνολο

Η αντιπροσωπευτικότητα δεν είναι «τυχερή με το δείγμα», αλλά μια σχεδιασμένη διαδικασία: ένα σωστό πλαίσιο, στοχαστικό σχεδιασμό επιλογής, επαρκές μέγεθος, ζύγιση και βαθμονόμηση, έντιμες διαιρέσεις και αυστηρή διάγνωση. Ακολουθώντας τις πρακτικές που περιγράφονται, μειώνετε την προκατάληψη, αυξάνετε τη φορητότητα των συμπερασμάτων και βρίσκετε αξιόπιστες λύσεις για το προϊόν, την εμπορία, τον κίνδυνο και τη ML.

Δειγματοληψία και αντιπροσωπευτικότητα