سیستم های فایل و هماهنگ سازی

خلاصه ای کوتاه

یک سیستم فایل یک تعادل از یکپارچگی، عملکرد و عملیات است. هماهنگ سازی در مورد یک مدل سازگاری و حل تعارض است، نه فقط "کپی فایل ها. "ما با الزامات شروع می کنیم (تاخیر p95، RPO/RTO، نوع بار)، سیستم فایل و پروتکل را انتخاب کنید، پیکربندی ورود به سیستم و قفل ها، تنظیم SLO، خودکار عکس های فوری/نسخه و استفاده از ابزار هماهنگ سازی صحیح.

انتخاب یک سیستم فایل برای بار

جهانی لینوکس FS

ext4 یک اسب پایدار است. گزینه ها: 'noatime, nodiratime, discard (با احتیاط), data = ordered'. خوب برای درایوهای VM، دایرکتوری های مشترک، مصنوعات CI.
XFS - قوی در فایل های بزرگ/موازی (محتوای رسانه ای، سیاهههای مربوط، DWH). گزینه ها: 'noatime، inode64' ؛ برای فایل های بزرگ ارزش پیکربندی 'reflink = 1' (کلون) است.
ZFS - CoW، بررسی یکپارچگی، عکس های فوری/replica 'send/recv'، ARC/L2ARC، ZIL/SLOG برای همگام سازی. عالی برای پشتیبان گیری، NAS، استخرهای پایه با نیاز یکپارچگی.
Btrfs - CoW، عکس های فوری/فشرده سازی/RAID در فضای کاربری ؛ خوب تحت dev/test و لبه، مراقب باشید برای OLTP بدون تنظیم.

پلت فرم ویندوز/صلیب

NTFS - ACL، ADS، قابل اعتماد برای SMB ؛ 'Disable' LastAccess 'برای عملکرد.
exFAT - رسانه های قابل جابجایی، بدون حقوق و ورود به سیستم (نه برای تولید).

تنظیماتی که بر قابلیت اطمینان و سرعت تاثیر می گذارد

ورود به سیستم و موانع: 'data = ordered' (ext4 به طور پیش فرض) - تعادل ؛ 'data = journal' - امن تر، اما کندتر ؛ اطمینان حاصل کنید که موانع نوشتن فعال هستند (یا کنترل کننده با BBU/PLP).
fsync/همگام سازی: موضوعات بحرانی (سیاهههای مربوط/معاملات) باید به صراحت «fsync ()» را فراخوانی کنند ؛ در غیر این صورت از دست دادن در صورت تصادف امکان پذیر است.
زمان: 'relatime '/' noatime' فشار نوشتن را کاهش می دهد.
xattr/ACL-Enable اگر POSIX ACLs و برچسب های امنیتی مورد نیاز است.
اندازه بلوک/اندازه ثبت: ZFS 'recordsize = 16K' برای DB ؛ ' 1M برای رسانه های بزرگ.

bash ext4 for CI artifacts
UUID=... /var/lib/ci ext4 noatime,nodev,nosuid,data=ordered 0 2
XFS for Media Directories
UUID=... /srv/media xfs noatime,attr2,inode64 0 0
ZFS for backups and snapshots (creation)
zpool create tank mirror nvme0n1 nvme1n1 zfs set compression=lz4 atime=off tank/backups

NFSv3/v4: ساده و سریع ؛ V4 می دهد قفل و Kerberos ('ثانیه = krb5p'). آیا در NFS برای فرکانس بالا تکیه نمی «عمیق» fsync - دیسک محلی بهتر + تخلیه ناهمزمان.
SMB 3 x: چند کاناله، رمزگذاری، ادغام AD. فعالسازی امضا/رمزبندی روی دادههای حساس.

/pool/projects 10. 0. 0. 0/16(rw,no_root_squash,sec=krb5p,async)

[reports]
path = /pool/reports read only = no vfs objects = acl_xattr, recycle smb encrypt = required

FS توزیع شده

CephFS - POSIX بیش از Ceph ؛ خوب برای مقیاس افقی، عکس های فوری، سهمیه ها، ابرداده توزیع شده است.
GlusterFS - آسان برای شروع، ماکت/sharding، اما شسته و رفته با فایل های کوچک و p99.
Luster/IBM Spectrum Scale - فایل های LDC/بزرگ، نیاز به شبکه/عملیات.
9P (Virtio-fs) - برای به اشتراک گذاری VM، نه برای بارهای تولید با SLO های سخت.

توصیه: برای OLTP/کیف پول - نه FS شبکه ؛ استفاده از حجم بلوک. برای محتوای استاتیک/مصنوعات مشترک - NFS/SMB/شی + CDN.

قفل، ذخیره و سازگاری

مشاوره در مقابل قفل اجباری: مشاوره обычно لینوکس ؛ SMB از oplocks/leases پشتیبانی می کند NFSv4 از قفل های stateful پشتیبانی می کند.
ذخیره سازی مشتری: کش های تهاجمی سرعت خواندن را افزایش می دهند، اما با چند مشتری خطر درگیری را افزایش می دهد.

• قوی (محلی FS، ZFS).
• Close-to-open (NFS) - تغییرات زمانی قابل مشاهده است که «close ()/open ()».
• احتمالی (برخی از اسکریپت های توزیع شده/شی).
• ساعت: NTP/PTP ؛ رانش زمان حل تعارض و TTL را می شکند.

همگام سازی: مدل ها و ابزار

مدل ها

یک طرفه (فشار/کشیدن): انتشار مصنوعات، آپلود گزارش ها، پشتیبان گیری خارج از سایت.
دو طرفه (bi-dir): همکاری ؛ حل تعارض و نسخه مورد نیاز است.
Hub-and-spoke: ستاره از طریق گره/خوشه مرکزی (MinIO/S3 + عوامل).
نزدیک به زمان واقعی در مقابل دسته ای: inotify/تغییر سیاهههای مربوط در مقابل پنجره های دوره ای.

ابزار

rsync استاندارد واقعی یک طرفه است ؛ '-- delete'، '-- partial'، '-- inplace' (احتیاط).
rclone - S3/clouds، چک کردن هش، کپی سمت سرور.
Unison - درست دو طرفه، حل تعارض.
همگام سازی - p2p، نسخه، مناسب برای پوشه های کار.
lsyncd - rsync ماشه توسط inotify ؛ تقریبا در زمان واقعی.
ZFS ارسال/RECV سینک کامل از عکس های فوری/افزایش (بایت کارآمد) است.

bash rsync -az --delete --numeric-ids --partial --inplace \
/srv/builds/ user@edge:/var/www/builds/

root =/srv/shared root = ssh ://user @ peer//srv/shared prefer =/srv/shared # in case of conflict - local side repeat = watch # inotify ignore = Name. tmp

lua settings { logfile="/var/log/lsyncd. log", statusFile="/var/run/lsyncd. status" }
sync {
default. rsync,
source="/srv/outbox",
target="user@remote:/srv/inbox",
rsync={ archive=true, compress=true, delete=true }
}

bash zfs snapshot tank/data@now zfs send -i tank/data@prev tank/data@now      ssh backup zfs recv -F backup/data

نسخه، عکس و سبد

عکس های فوری CoW (ZFS/Btrfs/CephFS): نقاط برگشت سریع، حداقل فاکتورها.
نسخه بندی سطح برنامه (Nextcloud/Syncthing/object): مناسب برای کاربران.
سبد را در SMB/NFS بازیافت کنید: از حذف تصادفی صرفه جویی کنید، اما پشتیبان را جایگزین نکنید.

امنیت و دسترسی

ACL و xattr: POSIX ACL، SID/ACE برای SMB، نقشه برداری uid/gid.
خواندن/نوشتن از طریق دروازه: SFTP/HTTPS/WebDAV - زمانی که SMB/NFS را نمی توان در خارج باز کرد.
رمزگذاری: LUKS/ZFS بومی ؛ در پرواز - Kerberos (NFSv4)، رمزگذاری SMB، TLS برای دروازه.
PII/انطباق: تقسیم بندی توپ، ماسک حقوق سخت، ممیزی دسترسی، WORM که در آن مورد نیاز غیر قابل تغییر است.

قابلیت مشاهده، SLO و هشدارها

Метрики ФС: p95/p99 تاخیر (خواندن/نوشتن/باز کردن)، IOPS، qdepth، ضربه کش، استفاده از inode، سطح پر کردن، خطاها (EIO/ENOSPC).
معیارهای شبکه (NFS/SMB): انتقال مجدد/قطره، RPC RTT، وقفه های oplock، طول صف.

• توپ NFS CI: p95 'باز '/' خواندن' ≤ 3-5 میلی ثانیه، در دسترس بودن ≥ 99. 95%.
• گزارش SMB: فهرست دایرکتوری p95 ≤ 100 ms هنگام ≤ 10k فایل/dir.
• استخر پشتیبان ZFS: p99 نوشتن ≤ 10 میلی ثانیه، موفقیت 100٪ عکس فوری، RPO ≤ 15 دقیقه (افزایش).

• پر کردن استخر> 80/90/95٪، رشد «EIO»، تاخیر عکس های فوری، افت نسبت ضربه، مکرر oplock-break.

الگوهای محصول (iGaming/fintech)

استاتیک (دایرکتوری های آیکون/پیش نمایش/ارائه دهنده): انتشار از طریق rsync → CDN ؛ منبع اصلی را در یک شیء versioned ذخیره کنید.
سیاههها و رویدادهای «خام»: نوشتن به صورت محلی (XFS/ext4) → تخلیه دسته (rclone → S3/MinIO).
گزارش و PII: SMB با رمزگذاری و ACL های دقیق ؛ صادرات دوره ای خارج از کشور (ZFS ارسال/recv) با WORM در طرف دریافت کننده.
محیط توسعه و گرفتن مصنوعات: NFS/SMB برای به اشتراک گذاری ؛ برای پایگاه های سنگین - حجم بلوک + عکس های فوری.
همکاری محتوا: Syncthing/Nextcloud با نسخه و سهمیه.

چک لیست پیاده سازی

• کلاس های داده تعریف شده (گرم/سرد/PII)، RPO/RTO و SLO.
• سیستم فایل انتخاب شده: ext4/XFS/ZFS با گزینه های صحیح (noatime، موانع، اندازه ثبت).
• اگر NAS: رمزگذاری شده/امضا شده NFSv4/SMB، ACL، Kerberos/AD.
• عکس های فوری/نسخه/سطل بازیافت - پیکربندی و تایید شده توسط بازیابی.
• ابزار کبودی برای این کار: rsync (یک طرفه)، Unison/Syncthing (bi-dir)، rclone (ابر)، ZFS ارسال/recv (پشتیبان/DR).
• نظارت بر FS/شبکه/عملیات، سوزاندن نرخ SLO، ENOSPC/EIO/oplock هشدار.
• مستندات: درگیری های Runbook، قوانین fsync، نامگذاری/طول مسیر/سیاست رمزگذاری.
• تست ها: بارگذاری پروفایل ها (فایل های کوچک/بزرگ)، برش اسکریپت ها (قطع ارتباط، ویرایش تعارض).

خطاهای رایج

به اشتراک گذاشته netball معامله بحرانی (OLTP) به جای حجم بلوک محلی.
موانع غیر فعال/بدون fsync در برنامه → از دست دادن داده ها در شکست.
Synk دو طرفه بدون نسخه و یک زمان واحد → تغییرات «خورده».
«دور انداختن» آنلاین در استخر داغ → دم تأخیر.
میلیون ها فایل کوچک در یک دایرکتوری → لیست فاجعه بار/پشتیبان.
مخلوط حقوق/صاحبان بین SMB و NFS بدون نقشه برداری صریح.

کتاب های مینی

ساخت انتشار یک طرفه → سرورهای لبه

1. اسمبلی در '/srv/builds '(سیستم پروندۀ محلی). 2) 'rsync -az --delete' لبه на. 3) ناتوانی CDN.

پوشه کار تحلیلگر Bi-dir

1. Syncthing/Unison، «نسخه N روز»، درگیری - صرفه جویی در هر دو نسخه. 2) سهمیه های هر کاربر. 3) پشتیبان گیری دوره ای خارج از سایت.

گزارش کاتالوگ DR (WORM)

1. ZFS عکس های فوری در یک برنامه. 2) 'ارسال/recv' به یک میزبان جدا شده با قفل شی/WORM. 3) آزمون بازیابی ماهانه.

نتیجه گیری

یک زیر سیستم فایل قابل اعتماد سیستم فایل صحیح + ورود به سیستم صحیح/حالت مانع + یک مدل مسدود کردن قابل فهم است، و هماهنگ سازی موثر توپولوژی صحیح (یک طرفه/دو طرفه)، نسخه و ابزار اثبات شده است. راه حل های ضبط در runbooks، خودکار عکس های فوری/تکرار، اندازه گیری SLO ها و سناریوهای شکست تست - به این ترتیب داده ها باقی خواهند ماند و فرآیندهای عملیاتی قابل پیش بینی حتی در بارهای اوج.