Տվյալների պահպանման համակարգերը և NAS

Live ռեզյումե

Պահեստը լրատվամիջոցների համադրություն է (SSD/NVMe/HDD), ցանցերը (Windows/IB/FC), ռուսական (NMS/SMB/iSCSSI/S3) և PO (ZFC, Ceph, Netapp, NetapP ro Nas և այլն) ապահովում է արտադրողականություն, կայունություն, անվտանգություն և տնտեսագիտություն։ Ճիշտ ընտրությունը կախված է I/O (rand/հաջորդական, բլոկ/ֆայլ/օբյեկտ), RPO/RTO և SLO-ի պահանջներից լատենտության/ֆունկցիոնալ կարողությունների վրա։

Պահեստային տաքսոնոմիա

DAS (Systement Attached Storage) - սկավառակներ «հյուրանոցների մոտ»։ Նվազագույն լատենտ չկա, ցանցային շիշեր չկան, բայց ավելի դժվար է կիսել ռեսուրսները։

SAN (Storage Area Network) - FC/iSCSI/NVMe-oF բլոկային պահեստ։ Բարձր արտադրողականությունը, ընդհանուր LUN-ները, կենտրոնացված կառավարումը։

NAS (Network Attached Storage) - NFC/SMB ալյումինե գնդակներ։ Հարմար է ընդհանուր տնօրենների, լոգարանների, արտեֆակտների, լրատվամիջոցների համար։

Օբյեկտի պահեստ - S3-համատեղելի API (Ceph RGW/MinIO/ամպեր)։ Բեքապների, լոգարանների, արխիվների, լրատվամիջոցների, մոդելային արտեֆակտների համար։

Հիպերքոնվերգենտային լուծումները (HCI) միավորում են հաշվարկը և պահպանումը (Ceph, vSAN, StarDe և այլն) հորիզոնական մասշտաբի համար։

Մուտքի արձանագրություններ

Ալյումինե

NMS v3/v4 - Unix/Posix միջավայր, steitful, Kerberos/KRB5i/KRB5p։

SMB 3. X - Windows/Windows AD, կոդավորում/ստորագրություն, multichannel, DLS։

Փայլուն

iSCSI - LUN, շատ ճանապարհներ (MPIO), հարմարավետ վիրտուալիզացիայի/BD-ի համար։

FC/NVMe-oF-ը ցածր լատենտ է, մասնագիտացված գործարաններ/քարտեզներ։

Օբյեկտի

S3 API-ը օբյեկտների, lifecycle, WORM/Compliant mode, multipart upload տարբերակներ են։

Ընտրությունը

BD/վիրտուալ բլոկը (iSCSI/NVMe-oF)։

Համատեղ թղթապանակներ/CI արտեֆակտներ NFC/SMB։

Logs/bakaps/media/մոդել www.S3-համատեղելի օբյեկտ։

Տվյալները և կոդավորումը ՝ RF, ZFC, Erasure Coding

RAID

RAID1/10 - ցածր լատենտ և բարձր IOPS/rand-կարդալ/ձայնագրություն։

RAID5/6-ը տարաների խնայողությունն է, բայց ձայնագրման տուգանքը (write penalty)։

ZMS-ն պատճենն է (CoW), փամփուշտները և vdev, ARC/L2ARC քեշը, ZIL/SLOG-ը nc-վիրահատությունների, սարքավորումների/կրկնօրինակի և ներկառուցված ամբողջականության համար (wwww.ksums)։

Erasure Coding-ը (EC) բաշխված համակարգերում (Ceph/MinIO) 'Rida-Solomon «k + m» կոդը խնայողությունն է համեմատած երեք անգամ կրկնօրինակման հետ, երբ ընդունելի է արտադրողականության քայքայումը ձայնագրելու համար։

Առաջարկություններ

Տաք պատահական բեռները (մետատվյալներ, փոքր ֆայլեր) մեջբերում են RAID10/ZMS-աշխարհները NVMe-ում։

Սառը/արխիվային EC, մեծ HDD, ագրեսիվ քեշներ։

Winnc ձայնագրությունների համար (NMS express) - SLOG-ի հատկացված հուսալի ցածր կոլատենտային NVMe (PLP) վրա։

Արտադրողականություն ՝ IOPS, բաց, լատենտ

IOPS-ը կարևոր է փոքր պատահական վիրահատությունների համար (DB/մետատվված)։

Թողունակությունը մեծ ֆայլերի համար (տեսանյութ, բեքապներ)։

P95/p99 լատինականությունը քննադատական է BD-ի, հերթերի, API-ի համար։

Գծեր և զուգահեռներ 'կլիենտային, «rsize/wsize» -ի համար NFC, «rw, queue _ depth» iSCSI-ի համար։

Ցանցը ՝ 25/40/100 GbE (կամ IB) + RSA/RPS, jumbo MTU ներսում։

Քեշինգը և հյուսելը

ARC/L2ARC (ZFC) - RAM և NVMe-cash ընթերցանության; SLOG-ը www.nc ձայնագրությունների ամսագիր է։

Write-back/Write-through cashi վերահսկողների - զգուշորեն, միայն մարտկոցով/գերհամակարգիչով (BBU/PLP)։

Tiering: NVMe (տաք) www.SSD (տաք) www.HDD (սառը) ռուսական օբյեկտ (արխիվ)։ Ռուսական և lifecycle քաղաքական գործիչները։

Դիպուկահարներ, կլոններ, կրկնօրինակումներ, DR, DR

Դիպուկահարներ (CoW) 'ակնթարթային կետեր հետադարձման/bakap-ի համար։ պահել և «ներսում», ոչ միայն հիպերվիզորի մեջ։

Կրկնօրինակումը 'սինխրոն (RPO 240, latency), ասինխրոն (RPO = N րոպե)։

Կլոնները 'տնտեսական dev/test միջավայրը։

DR-սխեմաները ՝ 3-2-1 (երեք օրինակներ, երկու տեսակի կրիչներ, մեկը խաղահրապարակից դուրս), DR-ուսուցումները։ RPO/RTO նպատակները։

Անվտանգություն, ընկերակցություն և բազմաբնույթ

Վավերացում/հեղինակային իրավունքը ՝ LDAP/AD, Kerberos/NTLMv2 SMB, AUTH _ MSS/KRB NMS-ի համար։

Մեկուսացում ՝ MSAN/VRF, express-քաղաքականություն, tenault-քվոտաներ/www.tas։

Կոդավորումը 'հանգույցի մեջ (LUKS/ZMS native/SED) և թռիչքում (NMS-krb5p/SMB encryption/TLS համար S3)։

WORM/Compli.ru-ը իրավաբանորեն նշանակալի տվյալների համար (S3 Object Drok, SnapLink անալոգներ)։

Աուդիտ 'անփոփոխ մուտքի լույսեր, ինտեգրում SIEM-ի հետ։

Windows և SLO

Մետրիկները

Պուլլամ/հատոր 'օգտագործումը, «p95/p99 latency», IOPS, throughput, queue depth, cache hit, write amplification։

Ցանցով ՝ drops, retransmits, PPS, MTU mismatch։

Կրողներին 'media errors, wear-level, ջերմաստիճանը, SMART։

Վերարտադրության/սարքավորումների միջոցով 'լագ/տարիքը, առաջադրանքների հաջողությունը, տևողությունը։

SLO (օրինակներ)

NMS գնդակը CI-ի համար 'p95 latency 353 ms, հասանելիությունը 3699։ 95%.

LUN-ը BD-ի համար ՝ p99 write 351։ 5 ms, սինխրոն կրկնօրինակը տարածաշրջանի ներսում; RPO 0, RTO 355 ռուբլի

Օբյեկտի ՝ p95 PUT 3550 ms, p95 GET 3530, 11 359 պարտականություն (ԵՄ/վերարտադրման միջոցով)։

Ալերտա

Փամփուշտի լցումը> 80/90/95%, cache hit անկումը, write-amp աճը, սկավառակի քայքայումը, ցանցում արթնացումը, վերարտադրման լամը> շեմն է։

Կրկնօրինակումը և արխիվը

Նկարները + հեռավոր կրկնօրինակում + առանձին bakap օբյեկտի/ժապավենի մեջ։

Retention: ցերեկային/շաբաթական/ամսական։

Իմպուտաբելություն ՝ S3 Object Prok (Governator/Compliance), «air-gap» (ժապավեն/անջատված հաշիվներ)։

Վերականգնման թեստերը պարբերաբար են։

Գործնական ձևանմուշները (նվազագույն)

NFC էքսպորտը (օրինակ)

/pool/projects 10. 0. 0. 0/16(rw,async,no_root_squash,sec=krb5p)

SMB 108 (մի հատված smb. conf)

[media]
path = /pool/media read only = no vfs objects = acl_xattr, recycle ea support = yes kernel oplocks = no smb encrypt = required

ZFC 'փամփուշտի և intaset ստեղծումը

bash zpool create tank mirror nvme0n1 nvme1n1 zfs set atime=off compression=lz4 tank zfs create tank/projects zfs set recordsize=1M tank/projects     # большие файлы zfs set recordsize=16K tank/db        # БД/мелкие I/O

iSCSSI (գաղափարներ)

Ներառել ALUA/MPIO, ճիշտ թայմաուտներ և queue depth հաճախորդների վրա։

Առանձնացրեք iSCSI ցանցերը և հաճախորդների ցանցը, օգտագործեք Jumbo MTU-ն ստորագի գործարանի ներսում։

Բեռնման և արտադրողականության պլանավորումը

Working Express (տաք ծավալը) և wwth rate (ամսական աճը)։

IOPS-ի պահուստը և 30-50 տոկոսը պիկի և ռեբլանսի տակ։

Հաշվի առեք write amplif.ru (ISO/EC/CoW) և մետատվյալները։

Օբյեկտի համար հարցումների և ելույթի արժեքը, պահեստավորման դասարանները (standard/IA/glacier-նման)։

Վիրահատություններ և նորարարություններ

Rolling-նորարարությունները վերահսկիչների/OS/հարցումներ։

Scrubs/Resilver պատուհանները և գերակայությունները։

Ռեբիլդների հավասարակշռությունը 'I/O սահմանափակումը վերականգնման ժամանակ, որպեսզի չփորձի «սպանել»։

Runbooks-ը դեգրադացիայի/հանգույցների/ցանցերի կորստի վրա։

Ներդրման թուղթ

• Ընտրվել է հասանելիության պրոֆիլը 'ֆայլ/բլոկ/օբյեկտ + RPO/RTO/SLO։
• Կոդավորման սխեման (III/ZMS/EC) բեռի և գնի համար։
• Ցանցեր ՝ առանձին MSAN/VRF, MTU 9000 գործարանի ներսում, MPIO/ALUA։
• Քաշ/հոսանք ՝ ARC/L2ARC/SLOG կամ նմանատիպ մեխանիզմներ։
• Supshots/կրկնօրինակներ/bakap: Գրաֆիկա, իմութաբելություն, DR ուսուցում։
• System: pus/կրող/ցանցային/կրկնվող մետրեր, ալտերտեր։
• Մուտք/անվտանգություն ՝ ACL, Kerberos/AD, ծածկագրում, աուդիտ։
• Քվոտաներ/լիմիտներ ստենանտների և կոմպոզիցիաների համար և SLA/SLO-ի համար։
• Մոսկվա և runbooks, թեստային վերականգնում։

Տիպիկ սխալներ

Փամփուշտի հալումը> 80 տոկոսը ZFC/EC համակարգերում ցույց է տալիս լատենտության կտրուկ աճը։

Մեկ վերահսկիչ/մեկ ցանց առանց MPIO/2019։

Խառնվում են տաք և սառը աշխատանքային հավաքածուները մեկ դասարանում։

Ոչ SLOG-ը NFC-ի վրա nc-բեռի համար կանխատեսում է անկանխատեսելի ուշացումներ։

Bakaps-ը միայն նույն մրցույթի/հաշիվի «ներսում» է վթարի/փոխզիջման կորուստ։

Ռուսական scrub և SMART մոնիտորինգի բացակայությունը։

Փոքր I/O-patrones 'մեծ «recordsize» ԲԴ-ի համար։

Հատուկ iGaming/fintech համար

Գործարքային BD և դրամապանակներ 'NVMe, RAID10/ZMS-Mirrors-ի առանձին փամփուշտներ, B գոտում սինխրոն կրկնօրինակը, անկախ պոպուլյացիաները։

Լոգա/հում իրադարձությունները և հակաֆրոդ ֆիչին 'օբյեկտ + lifecycle + էժան դասարաններ, ինդեքսներ/վիտրիններ - SSD-ում։

Բովանդակություն և մեդիա (պրովայդերներ): NAS + CDN, ագրեսիվ քեշը, դեդուպլիկացիան։

Հաշվետվությունները և PII: WORM/immutability, կոդավորումը, մուտքի աուդիտը, տվյալների գեո-տեղայնացումը։

Պիկ իրադարձություններ ՝ warm-up kasha, մուտքագրման/եզրակացության լիմիտներ, փամփուշտների վրա p99 latency վերահսկողություն։

Արդյունքը

Պահեստավորման հուսալի համակարգը դասերի վրա ճիշտ տարբերակումն է (ֆայլ/բլոկ/օբյեկտ), կոդավորման համարժեք սխեման (ISO/ZMS/EC), արագ ցանցը, քեշը/հյուսելը, սարքավորումները + կրկնօրինակումը + bakap, կոշտ SLO և ավտոմատացված վիրահատությունները։ Հետևելով այս սկզբունքներին, դուք կստանաք կանխատեսելի արտադրողականություն, բարձր կայունություն և թափանցիկ պահպանման տնտեսագիտություն 'հաշվի առնելով անվտանգության և կարգավորիչների պահանջները։