Έλεγχος κυκλώματος timeout

1) Γιατί το χρειάζεστε

Τα συστήματα δεν πέφτουν από μία «θανατηφόρα» βλάβη, αλλά από τη συσσώρευση καθυστερήσεων και «κυμάτων». Τα χρονοδιαγράμματα περιορίζουν το χρόνο αναμονής και απελευθερώνουν πόρους, και ο έλεγχος κυκλωμάτων (διακόπτης + ρίψης + προσαρμοστικός ανταγωνισμός) εμποδίζει την υποβάθμιση να εξαπλωθεί κατά μήκος της αλυσίδας εξαρτήσεων. Στόχος είναι η διατήρηση του p95/p99 εντός των ορίων στόχου και η διατήρηση της διαθεσιμότητας για μερικές αστοχίες.

2) Βασικοί ορισμοί

2. 1 Τύποι χρονοδιαγραμμάτων (L7/L4)

Σύνδεση timeout - Δημιουργία σύνδεσης TCP/TLS.
TLS/Χρόνος χειραψίας - χειραψία TLS/HTTP2 πρόλογος.
Εγγραφή χρονοδιαγράμματος - αποστολή αιτήματος (συμπεριλαμβανομένου ενός φορέα).
Διαβάστε το timeout - περιμένετε το πρώτο byte της απάντησης και/ή ολόκληρο το σώμα.
Αδράνεια/Διατήρηση-ζωντανό timeout - ανενεργή σύνδεση.
Συνολική προθεσμία - «δύσκολη» προθεσμία για το σύνολο της αίτησης (από το τέλος έως το τέλος).

2. 2 Καταληκτικός προϋπολογισμός

• 'ingress (πύλη) + authZ + app + DB/cache + outbound PSP'.

• πύλη: 30 ms,
• εφαρμογή: 120 ms,
• DB: 120 ms,
• PSP: 100 ms,
• περιθώριο: 30 ms.

2. 3 Διάδοση και ακύρωση

'deadline '/' timeout' must να περάσει κάτω από την αλυσίδα (πλαίσιο, κεφαλίδες, προθεσμία gRPC). Κατά τη λήξη - ακύρωση λειτουργιών υποβάθρου (ματαίωση/ακύρωση ctx), καθαρές κλειδαριές/σεμαφόρες.

3) Χρονοδιάγραμμα καθορισμού στρατηγικών

1. Από την κορυφή προς τα κάτω: βάσει SLO και p95 - καθορισμένη προθεσμία από το τέλος έως το τέλος και στη συνέχεια διαχωρισμός σε επιμέρους χρονοδιαγράμματα.
2. Προσδιορισμός «ακριβών» διαδρομών (λήψεις αρχείων, αναφορές, εξωτερικοί πάροχοι υπηρεσιών πληρωμών) - μεμονωμένοι περισσότερο, αλλά περιορισμένοι.

• idempotent (επαναλήψεις GET/κατάστασης) - μικρότερη, πιο επιθετική·
• εγγραφή/χρηματική - ελαφρώς μεγαλύτερη, αλλά με μία μόνο επανάληψη και ιδεατότητα.

4. Διαβάθμιση από σχέδια/ενοικιαστές (η επιχείρηση μπορεί να έχει μεγαλύτερο χρονικό διάστημα, αλλά λιγότερο παραλληλισμό).

4) Διακόπτης κυκλώματος: μοντέλα και παράμετροι

4. 1 Πολιτικές ενεργοποίησης

Ρυθμός αστοχίας - ποσοστό σφάλματος ≥ X% στο παράθυρο ερωτήσεων/χρόνου N.
Επακόλουθες αστοχίες: M διαδοχικές αστοχίες.
Ρυθμός βραδείας κλήσης - το ποσοστό των κλήσεων που υπερβαίνουν το όριο Τ.
Τάξεις σφάλματος: timeouts/5xx/επαναφορά σύνδεσης → «θανατηφόρα», 4xx - δεν λαμβάνονται υπόψη.

4. 2 Όροι

Κλειστό - παραλείπει τα πάντα, συσσωρεύει στατιστικά στοιχεία.
Ανοικτή - άμεση αποτυχία (εξοικονομεί πόρους, δεν συντρίβει την εξάρτηση).
Half-open - μικρά «δείγματα» (αιτήματα N) για «δοκιμή νερού».

4. 3 Χρήσιμες προσθήκες

Διάφραγμα: μια δεξαμενή από νήματα/συνδέσεις ανά εξάρτηση έτσι ώστε κάποιος να μην «ρουφάει» τα πάντα.
Προσαρμοστικό νόμισμα: αυτόματος περιορισμός του νομίσματος (αλγόριθμοι τύπου AIMD/Vegas) από παρατηρούμενη καθυστέρηση.
Αφαίρεση φορτίου: πρόωρη αποτυχία/υποβάθμιση σε περίπτωση έλλειψης τοπικού πόρου (ουρές αναμονής, ΚΜΕ, παύσεις GC).

5) Αλληλεπίδραση: χρονοδιαγράμματα, υποχωρήσεις, όρια

Πρώτη προθεσμία, στη συνέχεια επανακαθορισμός: κάθε επανάληψη θα πρέπει να προσαρμόζεται σε κοινή προθεσμία.
Backoff + jitter για replays; να σέβεται το «Retry-After» και τον επαναπροσδιορισμό του προϋπολογισμού.
Περιορισμός ταχύτητας: Με τον διακόπτη ανοικτό - χαμηλότερα όρια ώστε να μην ενταθεί η καταιγίδα.
Idempotency: υποχρεωτική στις πράξεις εγγραφής (για την αποφυγή λήψης με «χαζά» timeouts).
Πού να ανασυρθείτε: κατά προτίμηση στην άκρη (πελάτης/πύλη) και όχι βαθιά μέσα.

6) Πρακτικές τιμές-στόχοι (σημεία αναφοράς)

Δημόσια ανάγνωση API: end-to-end '200-500 m , read timeout' 100-300 ms '.
Κρίσιμη εγγραφή (πληρωμές): '300-800 m e2e. Εξωτερικό PSP '250-400 m .
Σύνδεση/TLS: '50-150 ms' (περισσότερο - πρόβλημα δικτύου/συγκόλλησης).
Αδράνεια: '30-90 s' (πελάτες κινητής τηλεφωνίας - μικρότερη για αποθήκευση μπαταρίας).
Προσαρμογή των τιμών για το p95/p99 και τις περιφέρειες.

7) Ρυθμίσεις και παραδείγματα

7. 1 Απεσταλμένος (δέσμη + διαδρομή, ψευδο)

yaml clusters:
- name: payments_psp connect_timeout: 100ms type: STRICT_DNS lb_policy: ROUND_ROBIN circuit_breakers:
thresholds:
- priority: DEFAULT max_connections: 2000 max_requests: 2000 max_retries: 50 outlier_detection:
consecutive_5xx: 5 interval: 5s base_ejection_time: 30s max_ejection_percent: 50

routes:
- match: { prefix: "/api/v1/payments" }
route:
cluster: payments_psp timeout: 350ms        # per-request deadline idle_timeout: 30s retry_policy:
retry_on: "reset,connect-failure,refused-stream,5xx,gateways"
num_retries: 1 per_try_timeout: 200ms

7. 2 NGINX (περίμετρος)

nginx proxy_connect_timeout 100ms;
proxy_send_timeout  200ms;  # write proxy_read_timeout  300ms;  # read (первый байт/все тело)
keepalive_timeout   30s;
send_timeout     15s;

Быстрый отказ при перегрузке limit_conn_zone $binary_remote_addr zone=addr:10m;
limit_conn addr 50;

7. 3 gRPC (πελάτης, Go-pseudo)

go ctx, cancel:= context.WithTimeout(context.Background(), 350time.Millisecond)
defer cancel()
resp, err:= client.Pay(ctx, req) // Deadline передается вниз

7. 4 πελάτης HTTP (Go)

go client:= &http.Client{
Timeout: 350 time.Millisecond, // общий дедлайн на запрос
Transport: &http.Transport{
TLSHandshakeTimeout: 100 time.Millisecond,
ResponseHeaderTimeout: 250 time.Millisecond,
IdleConnTimeout: 30 time.Second,
MaxIdleConnsPerHost: 100,
},
}

7. 5 Resilience4j (Java, ψευδο)

yaml resilience4j.circuitbreaker.instances.psp:
slidingWindowType: TIME_BASED slidingWindowSize: 60 failureRateThreshold: 50 slowCallDurationThreshold: 200ms slowCallRateThreshold: 30 permittedNumberOfCallsInHalfOpenState: 5 waitDurationInOpenState: 30s

resilience4j.timelimiter.instances.psp:
timeoutDuration: 350ms

8) Παρατηρησιμότητα και προειδοποίηση

8. 1 Μετρήσεις

'http _ client _ requests {endpoint, status}', 'client _ latency _ bucket'

8. 2 Μονοπάτια

Κλίμακες εισόδου → χειριστή → DB/Redis → εξωτερικά.
Χαρακτηριστικά: 'timeout _ ms _ target', 'circuit _ state', 'queue _ time _ m .
Παραδείγματα: Ισοπαλία p99 κορυφές σε συγκεκριμένα ίχνη-id.

8. 3 Καταχωρίσεις

'p99 _ latency {critical}'> στόχος X λεπτά στη σειρά.
'timeout _ rate {deligence}' hopped> Y%.
Συχνές μεταβάσεις σε «ανοικτό »/« σπάσιμο».
Αύξηση του 'shed _ requests _ total' with high CPU/GC.

9) Προσαρμοστική συγχρηματοδότηση & αφαίρεση φορτίου

9. 1 Ιδέα

• AIMD: αυξάνεται αργά, μειώνεται απότομα.
• Vegas-όπως: κρατήστε το χρόνο αναμονής.
• Με βάση τη μάρκα: κάθε αίτηση «καίει» τη μάρκα. οι μάρκες εκδίδονται με βάση τις μετρούμενες στροφές.

9. 2 Εφαρμογή

Τοπικά semaphores ανά διαδρομή. ο στόχος είναι να διατηρηθεί η «ουρά _ ώρα» κάτω από το κατώφλι.
Παγκόσμια «ασφάλεια» (οριακή RPS/ανταγωνιστική) στην πύλη.
Αν υπάρχει έλλειψη ΚΜΕ/συνδέσεων, πρόωρη αποτυχία πριν την εκτέλεση της λογικής (429/503 με 'Retry-After').

10) Σενάρια δοκιμών και χάους

Ένεση καθυστέρησης: προστίθενται τεχνητά 50-300 ms ανά εξάρτηση.
Απώλεια συσκευασίας/dup/drop (tc/tbf, Toxiproxy).
Περιστροφή κουμπιού: μείωση των δεξαμενών σύνδεσης, αύξηση φορτίου σε κορεσμό.
Θανάτωση/υποβάθμιση μιας ζώνης/θραύσματος (μερική μη διαθεσιμότητα).
Έλεγχοι: δεν «αποτυγχάνει» η θύελλα επανασυσκευασίας. ο διακόπτης ανοίγει προβλέψιμα· εάν η σειρά αναμονής αυξάνεται.

11) Αντιπατερίδια

Ένα παγκόσμιο «χρονοδιάγραμμα ανάγνωσης» χωρίς λεπτομερή σύνδεση/TLS/ανά στάδιο.
Η έλλειψη κοινής προθεσμίας → τις επανακατηγοριοποιήσεις υπερβαίνει την SLO.
Retrai χωρίς νευρικότητα και χωρίς επανάληψη του προϋπολογισμού.
«Αιώνιες» συνδέσεις χωρίς χρονοδιαγράμματα σε αδράνεια → περιγραφές διαρροών.
Ο διακόπτης μετρά το 4xx ως θανατηφόρα λάθη.
Καμία εργασία αναιρέσεως/ματαιώσεως του ιστορικού δεν συνεχίζεται μετά το timeout του πελάτη.
Τα χρονοδιαγράμματα είναι υπερβολικά μεγάλα για κινητά/ασταθή δίκτυα.

12) Ιδιαιτερότητες του iGaming/Finance

Κρίσιμη γραφή (καταθέσεις/εκροές): μια σύντομη επανάληψη με Idempotency-Key, στη συνέχεια '202 Αποδεκτή' + δημοσκόπηση αντί για άπειρες προσδοκίες.
PSP/τραπεζικές υπηρεσίες: χωριστές πολιτικές ανά πάροχο/περιφέρεια (ορισμένες πιο αργές).
Υπεύθυνες πληρωμές και όρια: για κλειδαριές/αναθεωρήσεις - ταχεία '423/409', μην παρατείνετε τις συναλλαγές «κρεμασμένων».
Αναφορά/ομαδοποίηση - εκτελείται ασύγχρονα (πόρος κατάστασης παρτίδας +).

13) Κατάλογος ελέγχου ετοιμότητας Prod

• Καθορισμένη καταληκτική ημερομηνία (GET/POST).
• Προϋπολογισμός ανά στάδιο. είναι δυνατή η διάδοση της προθεσμίας.
• Σύνδεση/TLS/ανάγνωση/εγγραφή/αδράνεια ρυθμίσεων στην πύλη και τους πελάτες.
• Διακόπτης κυκλώματος με ρυθμό αστοχίας και όρια βραδείας κλήσης· σωστή ημι-ανοικτή λογική.
• Διαφράγματα από εξαρτήσεις. Όρια νομίσματος ανά διαδρομή.
• Αφαίρεση φορτίου πριν από την εκτέλεση της επιχειρηματικής λογικής κατά την υπερφόρτωση.
• Ενσωμάτωση με υποχωρήσεις: backoff + jitter, retry-budget, respect 'Retry-After'.
• Idempotency γράψτε, 'Idempotency-Key' και outbox για εκδηλώσεις.
• Μετρήσεις: timeout/αργή κλήση/διακόπτη/ώρα αναμονής/ανταγωνιστική.
• Δοκιμές χάους: έγχυση καθυστερήσεων/απωλειών/αστοχιών, υποβάθμιση ζωνών.
• Τεκμηρίωση πελατών: χρονοδιαγράμματα δειγμάτων, κωδικοί απόκρισης, συμβουλές αναπαραγωγής.

14) TL, DR

Δώστε σε κάθε αίτηση μια δύσκολη προθεσμία, κανονίστε το σταδιακά και διαδώστε το στην αλυσίδα. Διαχείριση σφαλμάτων μέσω διακόπτη κυκλώματος + διαφράγματα + προσαρμοστικό νόμισμα + αφαίρεση φορτίου. Επαναλήψεις - μόνο εντός της προθεσμίας, με νευρικότητα και προϋπολογισμό· γράψτε - idempotent μόνο. Μετρήστε το timeout/αργή κλήση, κατάσταση διακόπτη και 'ουρά _ ώρα', οδηγήστε τακτικά δοκιμές χάους.