Мутамарказонидани журналҳо

1) Чаро гузоришҳоро мутамарказ кунед

• суръатбахшии ҷустуҷӯи решаҳои ҳодиса (таносуб бо дархост-id/trace-id);
• ба шумо имкон медиҳад, ки огоҳиҳои сигналро дар бораи аломатҳо эҷод кунед (хатогиҳо, аномалияҳо);
• роҳи аудиториро пешниҳод кунед (кӣ/кай/чӣ кор кард);
• арзиши камтар аз сабаби муттаҳидсозии нигоҳдорӣ ва нигоҳдорӣ.

2) Принсипҳои асосӣ

1. Танҳо гузоришҳои сохташуда (JSON/RFC5424) - бидуни калидҳо "матни озод" вуҷуд надорад.
2. Нақшаи ягонаи калидҳо: 'ts, сатҳ, хизматрасонӣ, env, минтақа, иҷорагир, trace_id, span_id, request_id, user_id (ниқоб), msg, kv...'.
3. Коррелятсияи пешфарз: trace_id аз дарвоза ба ақиб ва гузоришҳоро буред.
4. Кам кардани садо: сатҳи дуруст, интихоб, такрори такрорӣ.
5. Бехатарӣ аз рӯи тарҳ: ниқоби PII, RBAC/ABAC, тағйирнопазирӣ.
6. Иқтисодиёт: гарм/гарм/хунук, фишурдасозӣ, агрегатсия, TTL ва регидратсия.

3) Меъмории маъмулӣ

EFK/ELK: (Бит/Fluentd/Filebeat) → (Кафка - опц.) → (Elasticsearch/Open Ҷустуҷӯ ва ҷамъбасти универсалӣ.
Ба монанди Loki (индексатсияи журнал аз рӯи тамғакоғазҳо): Promtail/Fluent Bit → Loki → Grafana. Арзонтар барои ҳаҷмҳои калон, филтри пурқувват + тамошои хатӣ.
Абр: Клауд Watch/Cloud Loging/Log Analytics + содирот ба нигаҳдории хунук (S3/GCS/ADLS) ва/ё SIEM.

Равиши кӯли маълумот: интиқолдиҳандагон → нигаҳдории объект (паркет/айсберг) → дархостҳои арзони таҳлилӣ (Athena/big

Тавсия: нигоҳ доштани қабати онлайн (7-14 рӯз гарм) ва бойгонӣ (моҳҳо/солҳо) дар кӯл бо қобилияти обёрӣ.

4) Диаграмма ва формати гузоришҳо (тавсия)

json
{
"ts":"2025-11-01T13:45:12. 345Z",
"level":"ERROR",
"service":"payments-api",
"env":"prod",
"region":"eu-central",
"tenant":"tr",
"trace_id":"0af7651916cd43dd8448eb211c80319c",
"span_id":"b7ad6b7169203331",
"request_id":"r-7f2c",
"user_id":"",        // masked
"route":"/v1/payments/charge",
"code":"PSP_TIMEOUT",
"latency_ms":1200,
"msg":"upstream PSP timeout",
"kv":{"provider":"psp-a","attempt":2,"timeout_ms":800}
}

Стандартҳо: RFC3339 вақт, сатҳ аз маҷмӯи 'TRACE/DEBUG/INFO/WARN/ХАТО/FATAL', калидҳо дар snake_case.

5) Сатҳи сабти ном ва интихоб

DEBUG - фақат дар дев/марҳила; дар парчам ва бо TTL.
INFO - давраи ҳаёти дархостҳо/рӯйдодҳо.
Огоҳӣ - ҳолатҳои шубҳанок бидуни таъсир ба SLO.
ХАТО/FATAL - Таъсир ба дархост/корбар.

• меъёри маҳдудият барои хатогиҳои такрорӣ (масалан, 1/сония/калид).
• интихоби думҳо (гузоришҳои пурра/пайҳоро танҳо барои дархостҳои "бад" гузоред).
• динамикӣ: дар сурати тӯфони хатогиҳо, тафсилотро кам кунед, хулосаро захира кунед.

6) Таҳвили гузоришҳо (агентҳо ва интиқолдиҳандагон)

Дар гиреҳ: Fluent Bit/Filebeat/Promtail файлҳои stdout/juntrals, таҳлил, ниқоб, буферкуниро ҷамъ мекунад.
Навбати шабака: Кафка/NATS барои ҳамвор кардани қуллаҳо, бозсозӣ ва фармоиш.
Эътимоднокӣ: backpressure, буферҳои диск, тасдиқи таҳвил (ҳадди аққал як маротиба), нишондиҳандаҳои idempotent (key-hash).
Филтр дар канор: партофтани "chatter" ва асрори пеш аз зарба ба тӯр.

7) Индексатсия ва нигоҳдорӣ

Тақсимоти вақт (ҳар рӯз/ҳафта) + аз ҷониби 'env/минтақа/иҷорагир' (тавассути қолабҳои индексатсионӣ ё тамғакоғазҳо).

• Гарм (SSD, 3-14 рӯз): ҷустуҷӯи зуд ва огоҳиҳо.
• Гарм (HDD/яхдон, 30-90 рӯз): баъзан мо нигоҳ мекунем.
• Хунук/бойгонӣ (объект, моҳҳо/солҳо): мувофиқат ва тафтишоти нодир.
• Фишурдасозӣ ва гардиш: ILM/ISM (сиёсати давраи ҳаёт), gzip/zstd, downsampling (ҷадвалҳои агрегатсия).
• Регидратсия: боркунии муваққатии партияҳои бойгонишуда ба кластери "гарм" барои тафтиш.

8) Ҷустуҷӯ ва таҳлил: Дархостҳои намунавӣ

Ҳодиса: Филтри вақт × 'хидмат =...' × 'сатҳ> = ХАТО' × 'trace _ id '/' request _ id'.
Таъминкунандагон: 'рамз: PSP _' ва' kv. провайдер: psp-a 'гурӯҳбандӣ аз рӯи минтақа.
Аномалияҳо: афзоиши басомади паёмҳо ё тағйири тақсимоти майдон (ML-детекторҳо, қоидаҳо).
Аудит: 'категория: аудит' + 'актёр '/' манбаъ' + натиҷа.

9) Таносуб бо ченакҳо ва пайҳо

Идентификаторҳои якхела: 'trace _ id/span _ id' дар ҳар се сигнал (ченакҳо, гузоришҳо, пайҳо).
Истинодҳо аз графикҳо: гузариши клик аз панели p99 ба гузоришҳо тавассути 'trace _ id'.
Эзоҳҳо: версияҳо/канарейкаҳо дар ченакҳо ва гузоришҳо барои ҳатмии зуд.

10) Бехатарӣ, PII ва мувофиқат

Таснифи саҳроӣ: PII/асрори/молия - ниқоб ё нест кардан дар даромадгоҳ (филтрҳои Fluent Bit/Lua, Re2).
RBAC/ABAC: дастрасии индекс/нишона аз рӯи нақш, сатр/майдон-сатҳи амният.
Тағйирнопазирӣ (WORM/танҳо замима) барои талаботи аудит ва танзим.
Нигоҳдорӣ ва "ҳуқуқи фаромӯш кардан": TTL/несткунӣ аз рӯи калидҳо, токенизатсияи 'user _ id'.
Имзоҳо/хэшҳо: якпорчагии маҷаллаҳои интиқодӣ (амалҳои маъмурӣ, пардохтҳо).

11) SLO ва ченакҳои сабти қубур

Расонидан: 99. 9% ҳодисаҳо дар қабати гарм ≤ 30-60 сония.
Талафот: <0. 01% дар 24 соат (аз рӯи аломатҳои истинод).
Мавҷудияти ҷустуҷӯ: ≥ 99. 9% дар 28 рӯз.
Таъхири дархостҳо: p95 ≤ 2-5 сония дар филтрҳои муқаррарӣ.
Арзиш: чорабиниҳои $/1 миллион ва $/нигаҳдорӣ/ГБ дар қабатҳои.

12) Панели панелҳо (ҳадди аққал)

Саломатии қубур: вуруд/баромади интиқолдиҳандагон, бозпас, буферҳои пуркунанда, қафои Кафка.
Хатогиҳо аз рӯи хидматҳо/рамзҳо: боло N, тамоюлҳо, фоизҳо 'latency _ ms'.
Фаъолияти аудит: амалҳои маъмурӣ, хатогиҳои провайдер, дастрасӣ.
Иқтисодиёт: ҳаҷм/рӯз, афзоиши индексатсия, арзиш аз рӯи қабат, дархостҳои "гарон".

13) Амалиёт ва дафтарҳои бозӣ

Тӯфони журнал: имкон додани интихоби хашмгин/меъёри маҳдудро ба агент, буферҳоро баланд бардоред, муваққатан қисми ҷараёнро ба гарм интиқол диҳед.
Кашиши схема: ҳушдор дар бораи пайдоиши калидҳо/намудҳои нав, оғози гуфтушунид бо схема-каталог.
Ҷустуҷӯи суст: барқарор кардани индексатсияҳо, зиёд кардани нусхаҳо, таҳлили дархостҳои "вазнин", бойгонии партияҳои кӯҳна.
Ҳодисаи амниятӣ: Тағйирнопазирии фаврӣ имконпазир аст, артефактҳо бор карда шудаанд, дастрасӣ бо нақш маҳдуд карда шудааст, RCA.

14) FIN Ops: чӣ гуна набояд дар журналҳо шикаста шавад

Дурустиро хориҷ кунед: стектраксияи бисёрсатриро ба майдони 'stack' ва такрори намунаҳо табдил диҳед.
Даргиронидани TTL: гуногун барои 'env '/' level '/' category'.
Барои дастрасии нодир rehidrate Loki/бойгонӣ + дархостро истифода баред.
Тарафҳо ва фишурдасозӣ: Ҳизбҳои калонтар арзонтаранд, аммо барои ҷустуҷӯи SLA-ҳо бодиққат бошед.
Баҳодиҳии зуд-зуд (агрегатҳои ҳаррӯза) амалӣ карда шавад.

15) Намунаҳои инструменталӣ

Bit-и озод (ниқоб ва фиристодан ба Ҷустуҷӯи Open)

ini
[INPUT]
Name       tail
Path       /var/log/app/.log
Parser      json
Mem_Buf_Limit   256MB

[FILTER]
Name       modify
Match
Remove_key    credit_card, password

[OUTPUT]
Name       es
Host       opensearch. svc
Port       9200
Index       logs-${tag}-${date}
Logstash_Format  On
Suppress_Type_Name On

Сабти дастрасии Nginx в JSON s trace_id

nginx log_format json escape=json '{ "ts":"$time_iso8601","remote":"$remote_addr",'
'"method":"$request_method","path":"$uri","status":$status,'
'"bytes":$body_bytes_sent,"ua":"$http_user_agent","trace_id":"$http_trace_id"}';
access_log /var/log/nginx/access. json json;

Сиёсати ILM-и кушод (гарм ва гарм)

json
{
"policy": {
"phases": {
"hot":  { "actions": { "rollover": { "max_age": "7d", "max_size": "50gb" } } },
"warm": { "min_age": "7d", "actions": { "forcemerge": { "max_num_segments": 1 } } },
"delete":{ "min_age": "90d", "actions": { "delete": {} } }
}
}
}

16) Рӯйхати санҷиши амалисозӣ

• Тарҳбандии саҳроӣ ва сатҳи сабти қабул; таносуби пайгирӣ/дархост-id фаъол аст.
• Агентҳои танзимшуда (Fluent Bit/Promtail) бо ниқоб ва буферҳо.
• Қабати онлайн (Ҷустуҷӯи Open/Loki/Cloud) ва бойгонӣ (S3/GCS + паркет) интихоб карда шуданд.
• ILM/ISM + сиёсати нигоҳдории гарм/гарм/хунук, раванди регидрат.
• RBAC/ABAC, тағйирнопазирии аудит, сабти дастрасӣ.
• Панели қубурӣ, огоҳиҳои талафот/ақибмонӣ/буферҳои диск.
• Китобҳои бозӣ: тӯфони регистр, кашиши схема, ҷустуҷӯи суст, ҳодисаи амниятӣ.
• Маҳдудиятҳои молиявӣ: чорабиниҳои $/1 миллион, квотаҳо барои дархостҳои "гарон".

17) Анти-намунаҳо

Гузоришҳои матнӣ бидуни сохтор → имконнопазирии филтр ва ҷамъбаст.
Таркиши бузургҷусса дар INFO → таркиши ҳаҷм.
Набудани коррелятсия → "флуттеринг" барои ҳама хидматҳо.
Нигоҳ доштани "ҳама чиз то абад" → лоиҳаи абр ба монанди ҳавопаймо.
Асрори/PII дар гузоришҳо → хатарҳои мутобиқат.
Таҳрири индекси дастӣ дар фурӯш → drift ва вақти кофтукови тӯлонӣ.

18) Сатри поён

Марказикунонии журнал система аст, на танҳо анбор. Схемаи стандартӣ, коррелятсия, интиқолдиҳандагони бехатар, нигаҳдории қабати ва сиёсати қатъии дастрасӣ гузоришҳоро ба воситаи пуриқтидори SRE, амният ва маҳсулот табдил медиҳанд. Нигоҳдории дуруст ва FIN-ҳо буҷаро нигоҳ медоранд ва қубурҳои SLO ва китобҳои бозӣ таҳқиқотро зуд ва такроршаванда мегардонанд.