زیرساخت محاسباتی

کارت گرافیک مناسب هوش مصنوعی؛ مقایسه و راهنمای انتخاب

کارت گرافیک مناسب هوش مصنوعی را بر اساس کاربرد، حافظه و بودجه انتخاب کنید؛ مقایسه GPUهای اقتصادی، حرفه‌ای و دیتاسنتری همراه با راهنمای انتخاب سرور.

انتخاب کارت گرافیک مناسب هوش مصنوعی به نوع کاری بستگی دارد که قرار است انجام دهد. اجرای یک مدل آماده، فاین‌تیون‌کردن آن و آموزش یک مدل بزرگ، نیازهای یکسانی ندارند. حتی برای اجرای یک مدل مشخص نیز طول ورودی، تعداد کاربران هم‌زمان و زمان پاسخ موردانتظار می‌تواند انتخاب سخت‌افزار را تغییر دهد. به همین دلیل، ظرفیت حافظه، پشتیبانی نرم‌افزاری و هزینهٔ اجرای بار کاری باید در کنار توان پردازشی بررسی شوند.

کارت‌های عمومی و گیمینگ، کارت‌های حرفه‌ای ایستگاه کاری و شتاب‌دهنده‌های مرکز داده، برای نیازهای متفاوتی طراحی شده‌اند. کارت‌های عمومی می‌توانند برای توسعه، پژوهش و بسیاری از کاربردهای استنتاج انتخاب اقتصادی مناسبی باشند؛ مدل‌های حرفه‌ای اغلب حافظه و امکانات مناسب‌تری برای کارهای سنگین‌تر فراهم می‌کنند؛ و شتاب‌دهنده‌های مرکز داده برای نیازهایی مانند پهنای باند بالای حافظه، اتصال چند GPU و استقرار متراکم اهمیت پیدا می‌کنند. ارزش این امکانات زمانی مشخص می‌شود که بار کاری از آن‌ها استفاده کند.

چند شتاب‌دهندهٔ محاسباتی با اندازه و ظرفیت متفاوت در یک معماری هوش مصنوعی

راهنمای مطالعه

در این راهنما می‌توانید ابتدا معیارهای انتخاب را بشناسید، سپس مشخصات GPUها را مقایسه کنید و در ادامه، سرور متناسب با انتخاب خود را بررسی کنید. جدول‌های تعاملی برای مقایسهٔ جزئیات هستند و مقاله‌ها توضیح می‌دهند هر تفاوت فنی چه اثری بر عملکرد، محدودیت‌ها و هزینه دارد.

چه چیزی را می‌خواهید مشخص کنید؟	مسیر پیشنهادی
تفاوت کارت‌های عمومی، حرفه‌ای و دیتاسنتری	انواع GPU برای هوش مصنوعی
معیار انتخاب و مقایسهٔ گزینه‌ها	راهنمای انتخاب جدول GPUها
اثر دقت عددی و پشتیبانی نرم‌افزاری	INT8 و FP8 در عمل
سرعت پاسخ و ظرفیت سرویس‌دهی	تأخیر و توان عملیاتی
تفاوت اتصال‌ها و سکوهای چند GPU	PCIe و SXM DGX و HGX
سرور و اجزای مناسب برای GPU	راهنمای سرور جدول سرورها

برای اجرای مدل زبانی، ابتدا مدل‌ها را بر اساس حافظه و سخت‌افزار مقایسه کنید؛ انتخاب مدل، طول ورودی و هم‌زمانی، نیاز به GPU را تغییر می‌دهند.

دانشنامهٔ زندهٔ شتاب‌دهنده‌های هوش مصنوعی

انتخاب GPU یک انتخاب ساده نیست. با دانش انتخاب کنیم.

این جدول انواع مختلف کارت، ماژول، پردازنده و سامانهٔ شتاب‌دهنده مناسب برای هوش مصنوعی را ارایه می‌دهد.

آخرین بازبینی داده‌ها۱۷ شهریور ۱۴۰۵8 September 2026

۰۱حافظه تعیین می‌کند مدل جا می‌شود یا نه

۰۲پهنای‌باند برای LLM اغلب حیاتی است

۰۳هسته و FLOPS فقط روی مبنای هم‌سنخ معنا دارند

قاعدهٔ جدول«نوع محصول» در هر ردیف مشخص می‌کند که با کارت گرافیک، ماژول، پردازنده، سامانه کامل یا سرویس ابری روبه‌رو هستیم. در ستون‌های FP8 و FP16، عدد نخست توان پردازشی عادی و عدد دوم، در صورت درج، توان پردازشی با استفاده از محاسبات تنک (Sparse) است. اعداد FP32 و FP64 نیز توان پردازش عمومی را نشان می‌دهند و مستقیماً با توان محاسبات هوش مصنوعی در واحدهای Tensor/Matrix قابل مقایسه نیستند؛ به همین دلیل، این شاخص‌ها در ستون‌های جداگانه آمده‌اند.

فیلتر دقیق ۶۱ نتیجه

گروه ستون‌ها: محاسبات پایه دقت‌های تکمیلی زیرساخت و نرم‌افزار

نتیجه۶۱از ۶۱ مدل

بیشترین حافظه۴۸۰GB

بیشترین پهنای‌باند۸۰TB/s؛ با حفظ نوع حافظه

کم‌مصرف‌ترین۱۵۰Cloud AI 100 Ultra

	نوع						کاربردها
Intel Crescent Islandمشخصات اولیهمنبع رسمی ↗	کارت	مقیاس رک	مشخصات اولیهسازنده	۴۸۰LPDDR5X؛ تا ظرفیت اعلامی	سازنده منتشر نکردهمقدار عمومی ندارد	۳۵۰W	استنتاج سازمانی
INSTINCT Instinct MI430Xمشخصات اولیهمنبع رسمی ↗	ماژول	مقیاس رک	مشخصات اولیهسازنده	۴۳۲HBM4	۲۳٫۳TB/s	سازنده منتشر نکردهمقدار مستقل ندارد	HPCآموزش مدل‌های بزرگاستنتاج سازمانی
INSTINCT Instinct MI455Xفقط سیستممنبع رسمی ↗	ماژول	مقیاس رک	فقط سیستمسازنده	۴۳۲HBM4	۲۳٫۳TB/s	سازنده منتشر نکردهمقدار مستقل ندارد	آموزش مدل‌های بزرگاستنتاج سازمانیHPC
NVIDIA Blackwell Ultra B300نسل جاریمنبع رسمی ↗	ماژول	مقیاس رک	نسل جاریسازنده	۲۸۸HBM3e	۸TB/s	۱٬۴۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPCچندمستاجری
INSTINCT Instinct MI350Xنسل جاریمنبع رسمی ↗	ماژول	مقیاس رک	نسل جاریسازنده	۲۸۸HBM3e	۸TB/s	۱٬۰۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPC
INSTINCT Instinct MI355Xنسل جاریمنبع رسمی ↗	ماژول	مقیاس رک	نسل جاریسازنده	۲۸۸HBM3e	۸TB/s	۱٬۴۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPC
NVIDIA Rubin GPUفقط سیستممنبع رسمی ↗	ماژول	مقیاس رک	فقط سیستمسازنده	۲۸۸HBM4	۲۲TB/s	سازنده منتشر نکردهمقدار مستقل ندارد	آموزش مدل‌های بزرگاستنتاج سازمانیHPC
INSTINCT Instinct MI325Xنسل جاریمنبع رسمی ↗	ماژول	مقیاس رک	نسل جاریسازنده	۲۵۶HBM3e	۶TB/s	۱٬۰۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPC
NVIDIA Blackwell B200نسل جاریمنبع رسمی ↗	ماژول	مقیاس رک	نسل جاریسازنده	۱۸۰ تا ۱۹۲HBM3e	۸TB/s	۱٬۲۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPCچندمستاجری
Google Cloud TPU7x (Ironwood)نسل جاریمنبع رسمی ↗	ابر	مقیاس رک	نسل جاریمستندات فنی سازنده	۱۹۲HBM؛ ۹۶GB برای هر chiplet	۷٫۴TB/s	قابل‌اعمال نیستمقدار مستقل ندارد	آموزش مدل‌های بزرگاستنتاج سازمانیHPC
INSTINCT Instinct MI300Xنسل جاریمنبع رسمی ↗	ماژول	مقیاس رک	نسل جاریسازنده	۱۹۲HBM3	۵٫۳TB/s	۷۵۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPC
NVIDIA H200 NVLنسل جاریمنبع رسمی ↗	کارت	مقیاس رک	نسل جاریسازنده	۱۴۱HBM3e	۴٫۸TB/s	۶۰۰W	استنتاج سازمانیHPCچندمستاجری
NVIDIA H200 SXMنسل جاریمنبع رسمی ↗	پردازنده	مرکز داده	نسل جاریسازنده	۱۴۱HBM3e	۴٫۸TB/s	۷۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPCچندمستاجری
Qualcomm Cloud AI 100 Ultraنسل جاریمنبع رسمی ↗	کارت	مقیاس رک	نسل جاریسازنده	۱۲۸LPDDR4X	۰٫۵TB/s	۱۵۰W	استنتاج سازمانی
Intel Gaudi 3 PCIeنسل جاریمنبع رسمی ↗	کارت	مقیاس رک	نسل جاریسازنده	۱۲۸HBM2e	۳٫۷TB/s	۶۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانی
INSTINCT Instinct MI250Xنسل قبلمنبع رسمی ↗	ماژول	مرکز داده	نسل قبلسازنده	۱۲۸HBM2e	۳٫۲TB/s	۵۶۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPC
Huawei Atlas 350 (Ascend 950PR)نسل جاریمنبع رسمی ↗	کارت	مقیاس رک	نسل جاریسازنده	۱۱۲HBM	۱٫۴TB/s	۶۰۰W	استنتاج سازمانیآموزش مدل‌های بزرگ
Huawei Ascend 950DTفقط سیستممنبع رسمی ↗	پردازنده	مقیاس رک	فقط سیستمسازنده	۹۶HBM	۴TB/s	سازنده منتشر نکردهمقدار مستقل ندارد	آموزش مدل‌های بزرگاستنتاج سازمانیHPC
Huawei Atlas 300I Duoنسل جاریمنبع رسمی ↗	کارت	مقیاس رک	نسل جاریسازنده	۴۸ یا ۹۶LPDDR4X	۰٫۴TB/s	۱۵۰W	استنتاج سازمانی
NVIDIA RTX PRO 6000 Blackwell Serverنسل جاریمنبع رسمی ↗	کارت	مقیاس رک	نسل جاریسازنده	۹۶GDDR7	۱٫۶TB/s	۶۰۰W	استنتاج سازمانیگرافیک و رندرچندمستاجری
AWS Trainium2نسل جاریمنبع رسمی ↗	ابر	مقیاس رک	نسل جاریسازنده	۹۶HBM3	۲٫۹TB/s	قابل‌اعمال نیستمقدار مستقل ندارد	آموزش مدل‌های بزرگاستنتاج سازمانی
Google Cloud TPU v5pنسل جاریمنبع رسمی ↗	ابر	مقیاس رک	نسل جاریمستندات فنی سازنده	۹۵HBM	۲٫۸TB/s	قابل‌اعمال نیستمقدار مستقل ندارد	آموزش مدل‌های بزرگاستنتاج سازمانی
NVIDIA H100 NVLنسل جاریمنبع رسمی ↗	کارت	مقیاس رک	نسل جاریسازنده	۹۴HBM3	۳٫۹TB/s	۴۰۰W	استنتاج سازمانیHPCچندمستاجری
NVIDIA A100 80GB PCIeنسل قبلمنبع رسمی ↗	کارت	مقیاس رک	نسل قبلسازنده	۸۰HBM2e	۱٫۹TB/s	۳۰۰W	استنتاج سازمانیHPCچندمستاجری
NVIDIA A100 80GB SXMنسل قبلمنبع رسمی ↗	پردازنده	مرکز داده	نسل قبلسازنده	۸۰HBM2e	۲TB/s	۴۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPCچندمستاجری
NVIDIA A100X Converged Acceleratorنسل قبلمنبع رسمی ↗	کارت	مقیاس رک	نسل قبلمستندات فنی سازنده	۸۰HBM2e	۲TB/s	۳۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPCچندمستاجری
NVIDIA A800 80GB PCIeنسل قبلمنبع رسمی ↗	کارت	مرکز داده	نسل قبلمستندات فنی سازنده	۸۰HBM2e	۱٫۹TB/s	۳۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPCچندمستاجری
NVIDIA H100 PCIe 80GBنسل جاریمنبع رسمی ↗	کارت	مرکز داده	نسل جاریسازنده	۸۰HBM2e	۲TB/s	۳۵۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPCچندمستاجری
NVIDIA H100 SXMنسل جاریمنبع رسمی ↗	پردازنده	مرکز داده	نسل جاریسازنده	۸۰HBM3	۳٫۴TB/s	۷۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPCچندمستاجری
Huawei Ascend 910B3نسل جاریمنبع رسمی ↗	پردازنده	مرکز داده	نسل جاریمستندات فنی سازنده	۶۴HBM	سازنده منتشر نکردهمقدار عمومی ندارد	سازنده منتشر نکردهمقدار مستقل ندارد	آموزش مدل‌های بزرگاستنتاج سازمانی
INSTINCT Instinct MI210نسل قبلمنبع رسمی ↗	کارت	مقیاس رک	نسل قبلسازنده	۶۴HBM2e	۱٫۶TB/s	۳۰۰W	HPCاستنتاج سازمانی
NVIDIA GeForce RTX 4090 Xنسل جاریمنبع رسمی ↗	کارت	مصرفی	نسل جاریمستندات فنی سازنده	۴۸GDDR6X	۱TB/s	۴۲۵W	آموزش مدل‌های بزرگاستنتاج سازمانیهوش مصنوعی محلیگرافیک و رندرچندمستاجری
NVIDIA L40نسل جاریمنبع رسمی ↗	کارت	مقیاس رک	نسل جاریمستندات فنی سازنده	۴۸GDDR6	۰٫۹TB/s	۳۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیگرافیک و رندرچندمستاجری
NVIDIA L40Sنسل جاریمنبع رسمی ↗	کارت	مقیاس رک	نسل جاریسازنده	۴۸GDDR6	۰٫۹TB/s	۳۵۰W	استنتاج سازمانیگرافیک و رندر
NVIDIA Quadro RTX 8000نسل قبلمنبع رسمی ↗	کارت	حرفه‌ای	نسل قبلمستندات فنی سازنده	۴۸GDDR6	۰٫۷TB/s	۲۹۵W	استنتاج سازمانیهوش مصنوعی محلیگرافیک و رندرچندمستاجری
NVIDIA RTX 6000 Adaنسل جاریمنبع رسمی ↗	کارت	حرفه‌ای	نسل جاریسازنده	۴۸GDDR6	۱TB/s	۳۰۰W	هوش مصنوعی محلیگرافیک و رندر
NVIDIA RTX A6000نسل قبلمنبع رسمی ↗	کارت	حرفه‌ای	نسل قبلسازنده	۴۸GDDR6	۰٫۸TB/s	۳۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیهوش مصنوعی محلیگرافیک و رندرچندمستاجری
NVIDIA A100 40GB PCIeنسل قبلمنبع رسمی ↗	کارت	مرکز داده	نسل قبلمستندات فنی سازنده	۴۰HBM2	۱٫۶TB/s	۲۵۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPCچندمستاجری
Tenstorrent Blackhole p150نسل جاریمنبع رسمی ↗	کارت	حرفه‌ای	نسل جاریسازنده	۳۲GDDR6	۰٫۵TB/s	۳۰۰W	هوش مصنوعی محلیاستنتاج سازمانی
Google Cloud TPU v6e (Trillium)نسل جاریمنبع رسمی ↗	ابر	مقیاس رک	نسل جاریمستندات فنی سازنده	۳۲HBM	۱٫۶TB/s	قابل‌اعمال نیستمقدار مستقل ندارد	آموزش مدل‌های بزرگاستنتاج سازمانی
NVIDIA GeForce RTX 5090نسل جاریمنبع رسمی ↗	کارت	مصرفی	نسل جاریسازنده	۳۲GDDR7	۱٫۸TB/s	۵۷۵W	هوش مصنوعی محلیگرافیک و رندر
INSTINCT Instinct MI100نسل قبلمنبع رسمی ↗	کارت	مرکز داده	نسل قبلسازنده	۳۲HBM2	۱٫۲TB/s	۳۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPC
AMD Radeon AI PRO R9700نسل جاریمنبع رسمی ↗	کارت	حرفه‌ای	نسل جاریسازنده	۳۲GDDR6	۰٫۶TB/s	۳۰۰W	هوش مصنوعی محلیگرافیک و رندر
NVIDIA Tesla V100 PCIe 16/32GBنسل قبلمنبع رسمی ↗	کارت	مرکز داده	نسل قبلمستندات فنی سازنده	۱۶ یا ۳۲HBM2	۰٫۹TB/s	۲۵۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPCچندمستاجری
NVIDIA Tesla V100 SXM2 16/32GBنسل قبلمنبع رسمی ↗	ماژول	مرکز داده	نسل قبلمستندات فنی سازنده	۱۶ یا ۳۲HBM2	۰٫۹TB/s	۳۰۰W	آموزش مدل‌های بزرگاستنتاج سازمانیHPCچندمستاجری
NVIDIA GeForce RTX 3090نسل قبلمنبع رسمی ↗	کارت	مصرفی	نسل قبلسازنده	۲۴GDDR6X	۰٫۹TB/s	۳۵۰W	آموزش مدل‌های بزرگاستنتاج سازمانیهوش مصنوعی محلیگرافیک و رندرچندمستاجری
NVIDIA GeForce RTX 3090 Tiنسل قبلمنبع رسمی ↗	کارت	مصرفی	نسل قبلسازنده	۲۴GDDR6X	۱TB/s	۴۵۰W	آموزش مدل‌های بزرگاستنتاج سازمانیهوش مصنوعی محلیگرافیک و رندرچندمستاجری
NVIDIA GeForce RTX 4090نسل قبلمنبع رسمی ↗	کارت	مصرفی	نسل قبلسازنده	۲۴GDDR6X	۱TB/s	۴۵۰W	هوش مصنوعی محلیگرافیک و رندر
NVIDIA GeForce RTX 4090 Dنسل جاریمنبع رسمی ↗	کارت	مصرفی	نسل جاریمستندات فنی سازنده	۲۴GDDR6X	۱TB/s	۴۲۵W	آموزش مدل‌های بزرگاستنتاج سازمانیهوش مصنوعی محلیگرافیک و رندرچندمستاجری
Tenstorrent Wormhole n300d / n300sنسل جاریمنبع رسمی ↗	کارت	حرفه‌ای	نسل جاریمستندات فنی سازنده	۲۴GDDR6	۰٫۶TB/s	۳۰۰W	هوش مصنوعی محلیاستنتاج سازمانی
NVIDIA GeForce RTX 4080 16GBنسل جاریمنبع رسمی ↗	کارت	مصرفی	نسل جاریسازنده	۱۶GDDR6X	۰٫۷TB/s	۳۲۰W	آموزش مدل‌های بزرگاستنتاج سازمانیهوش مصنوعی محلیگرافیک و رندرچندمستاجری
NVIDIA GeForce RTX 3060 12GBنسل قبلمنبع رسمی ↗	کارت	مصرفی	نسل قبلسازنده	۱۲GDDR6	۰٫۴TB/s	۱۷۰W	استنتاج سازمانیهوش مصنوعی محلیچندمستاجری
NVIDIA GeForce RTX 4070نسل جاریمنبع رسمی ↗	کارت	مصرفی	نسل جاریسازنده	۱۲GDDR6X	۰٫۵TB/s	۲۰۰W	استنتاج سازمانیهوش مصنوعی محلیگرافیک و رندرچندمستاجری
NVIDIA GeForce RTX 2080 Tiنسل قبلمنبع رسمی ↗	کارت	مصرفی	نسل قبلمستندات فنی سازنده	۱۱GDDR6	۰٫۶TB/s	۲۵۰W	استنتاج سازمانیهوش مصنوعی محلیگرافیک و رندرچندمستاجری
NVIDIA GeForce RTX 3080 10GBنسل قبلمنبع رسمی ↗	کارت	مصرفی	نسل قبلسازنده	۱۰GDDR6X	۰٫۸TB/s	۳۲۰W	استنتاج سازمانیهوش مصنوعی محلیگرافیک و رندرچندمستاجری
NVIDIA GeForce RTX 2080نسل قبلمنبع رسمی ↗	کارت	مصرفی	نسل قبلسازنده	۸GDDR6	۰٫۴TB/s	۲۱۵W	استنتاج سازمانیهوش مصنوعی محلیگرافیک و رندرچندمستاجری
NVIDIA GeForce RTX 3070نسل قبلمنبع رسمی ↗	کارت	مصرفی	نسل قبلسازنده	۸GDDR6	۰٫۴TB/s	۲۲۰W	استنتاج سازمانیهوش مصنوعی محلیگرافیک و رندرچندمستاجری
Huawei Ascend 910Cفقط سیستممنبع رسمی ↗	پردازنده	مقیاس رک	فقط سیستمسازنده	سازنده منتشر نکردهHBM؛ ظرفیت SKUمحور	سازنده منتشر نکردهمقدار عمومی ندارد	سازنده منتشر نکردهمقدار مستقل ندارد	آموزش مدل‌های بزرگاستنتاج سازمانی
Cerebras CS-3 / WSE-3نسل جاریمنبع رسمی ↗	سامانه	مقیاس رک	نسل جاریسازنده	قابل‌اعمال نیستSRAM روی ویفر + MemoryX جداشده	قابل‌اعمال نیستTB/s	۲۳٬۰۰۰W	آموزش مدل‌های بزرگHPC
NVIDIA Groq 3 LPXفقط سیستممنبع رسمی ↗	سامانه	مقیاس رک	فقط سیستمسازنده	قابل‌اعمال نیستSRAM توزیع‌شده در رک؛ ۵۰۰MB در هر LPU	قابل‌اعمال نیستTB/s	سازنده منتشر نکردهمقدار مستقل ندارد	استنتاج سازمانی
Groq Groq LPU Inference Engineفقط سیستممنبع رسمی ↗	سامانه	مقیاس رک	فقط سیستمسازنده	سازنده منتشر نکردهSRAM روی تراشه؛ ظرفیت عمومی SKUمحور منتشر نشده	۸۰TB/s	سازنده منتشر نکردهمقدار مستقل ندارد	استنتاج سازمانی

انواع پردازنده‌های گرافیکی برای هوش مصنوعی

تفکیک کارت‌های عمومی، حرفه‌ای و صنعتی بر اساس مناسب‌بودن برای آموزش و استنتاج.

مطالعهٔ فصل: انواع پردازنده‌های گرافیکی برای هوش مصنوعی

PCIe یا SXM؛ تفاوت رابط‌ها در زیرساخت هوش مصنوعی

مقایسهٔ دو معماری ارتباط کارت گرافیکی در سرورهای هوش مصنوعی از منظر عملکرد و مقیاس.

مطالعهٔ فصل: PCIe یا SXM؛ تفاوت رابط‌ها در زیرساخت هوش مصنوعی

نحوه انتخاب پردازنده گرافیکی برای هوش مصنوعی

انتخاب بر پایهٔ بار کاری، نسبت کارایی به هزینه و محدودیت واقعی استقرار.

مطالعهٔ فصل: نحوه انتخاب پردازنده گرافیکی برای هوش مصنوعی

INT8 یا FP8؛ پشتیبانی واقعی GPU در اجرای مدل‌های زبانی

تفاوت قالب مدل با مسیر اجرای آن؛ نقش کرنل، حافظه و کیفیت در انتخاب زیرساخت استنتاج.

مطالعهٔ فصل: INT8 یا FP8؛ پشتیبانی واقعی GPU در اجرای مدل‌های زبانی

چرا سریع‌ترین GPU لزوماً سریع‌ترین پاسخ را نمی‌دهد؟

از TTFT و سرعت تولید توکن تا حافظه، همزمانی و ارتباطات؛ سنجش ظرفیت واقعی سرویس استنتاج.

مطالعهٔ فصل: چرا سریع‌ترین GPU لزوماً سریع‌ترین پاسخ را نمی‌دهد؟

سربار پردازش محرمانه روی GPU از کجا می‌آید؟

هزینهٔ ارسال فرمان، PCIe و NVLink رمزگذاری‌شده؛ تحلیل آزمون‌های B200 و نقش پشتهٔ استنتاج.

مطالعهٔ فصل: سربار پردازش محرمانه روی GPU از کجا می‌آید؟

مرجع انتخاب سرور GPU

اول کارت را تعریف کنید؛ بعد سرور را انتخاب کنید

این جدول میان کارت PCIe قابل‌نصب و سامانه‌های یکپارچهٔ HGX/SXM/OAM تفکیک می‌کند. نسل رابط، تعداد و عرض کارت، توان، نوع خنک‌کاری، ارتفاع و عمق رک هم‌زمان بررسی می‌شوند. هر رکورد به صفحه یا راهنمای رسمی سازنده پیوند دارد.

آخرین بازبینی داده‌ها۱۷ شهریور ۱۴۰۵8 September 2026

۰۱PCIe 5 روی Gen4 ممکن است کار کند، اما full-speed نیست

۰۲دو اسلات با سه یا چهار اسلات قابل‌جایگزینی نیست

۰۳شمارهٔ قطعه، کابل، PSU و firmware جزئی از سازگاری‌اند

مرز اطمینان«تأیید سازنده» فقط وقتی نمایش داده می‌شود که همان مدل GPU در صفحه، QuickSpecs یا QPL رسمی آن سرور آمده باشد. تطابق ابعاد و توان بدون نام‌بردن رسمی کارت، «نیازمند تأیید BOM» است.

فیلترهای انتخاب و سازگاری ۲۲ نتیجه

ستون‌های سازگاری ستون‌های پلتفرم

نتیجه۲۲از ۳۲ مدل مرجع

قابل نصب PCIe۲۲پس از فیلترهای فعلی

تأیید صریح کارت—ابتدا «کارت من» را انتخاب کنید

انتخاب مقایسه۰حداکثر ۴ سرور


ASRock Rack4U10G-ROME2/2Tنسل قبل	کارت PCIe قابل‌نصب	نسل قبل	PCIe Gen4	۱۰ دو اسلات · ۲۰ تک‌اسلات	۴U	مستقیم به CPU	Passive	نیازمند BOM	مدل دقیق را در configurator/QPL کنترل کنید
DellPowerEdge XE7745نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۸ دو اسلات · ۱۶ تک‌اسلات	۴U	از طریق PCIe Switch	Passive	۶۰۰ W	NVIDIA H200 NVL PCIe، NVIDIA RTX PRO 6000 Blackwell Server Edition
GIGABYTEG495-DB1-AM1اعلام‌شده	کارت PCIe قابل‌نصب	اعلام‌شده	PCIe Gen6	۱۰ دو اسلات	۴U	از طریق PCIe Switch	Passive	نیازمند BOM	مدل دقیق را در configurator/QPL کنترل کنید
SupermicroGPU A+ Server AS-4125GS-TNRT2نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۱۰ دو اسلات · ۱۰ تک‌اسلات	۴U	از طریق PCIe Switch	Passive / Active	نیازمند BOM	NVIDIA H200 NVL PCIe، NVIDIA H100 PCIe، NVIDIA L40S، NVIDIA RTX PRO 6000 Blackwell Server Edition
SupermicroGPU SuperServer SYS-420GP-TNRنسل قبل	کارت PCIe قابل‌نصب	نسل قبل	PCIe Gen4	۱۰ دو اسلات · ۱۰ تک‌اسلات	۴U · ۷۳۷ mm	از طریق PCIe Switch	Passive / Active	نیازمند BOM	NVIDIA H100 PCIe، NVIDIA A100 PCIe، NVIDIA A40، NVIDIA A10، NVIDIA L40S، NVIDIA RTX A6000
HPEProLiant Compute DL380a Gen12نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۱۰ دو اسلات	۴U	از طریق PCIe Switch	Passive	۶۰۰ W	NVIDIA H200 NVL PCIe، NVIDIA H100 NVL PCIe، NVIDIA RTX PRO 6000 Blackwell Server Edition، NVIDIA L40S، NVIDIA L4
HPEProLiant DL380a Gen11نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۴ دو اسلات · ۸ تک‌اسلات	۲U · ۸۱۶ mm	مستقیم به CPU	Passive / Active	نیازمند BOM	NVIDIA L40S، NVIDIA L4، NVIDIA A10، NVIDIA RTX 6000 Ada
LenovoThinkSystem SR655 V3نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۳ دو اسلات · ۸ تک‌اسلات	۲U	مستقیم به CPU	Passive / Active	نیازمند BOM	NVIDIA L40S، NVIDIA L4، NVIDIA A10، NVIDIA RTX 6000 Ada
LenovoThinkSystem SR675 V3نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۸ دو اسلات · ۸ تک‌اسلات	۳U · ۸۹۲ mm	از طریق PCIe Switch	Passive / Active	۶۰۰ W	NVIDIA H200 NVL PCIe، NVIDIA RTX PRO 6000 Blackwell Server Edition، NVIDIA L40S
ASRock Rack4U8G-EGS2نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۸ دو اسلات	۴U	مستقیم به CPU	Passive	نیازمند BOM	مدل دقیق را در configurator/QPL کنترل کنید
ASUSESC8000A-E11نسل قبل	کارت PCIe قابل‌نصب	نسل قبل	PCIe Gen4	۸ دو اسلات · ۸ تک‌اسلات	۴U	مستقیم به CPU	Passive / Active	نیازمند BOM	NVIDIA A100 PCIe، NVIDIA A40، NVIDIA A10، NVIDIA RTX A6000
ASUSESC8000A-E12نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۸ دو اسلات · ۸ تک‌اسلات	۴U	مستقیم به CPU	Passive / Active	نیازمند BOM	NVIDIA H100 PCIe، NVIDIA L40S
ASUSESC8000A-E13نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۸ دو اسلات · ۸ تک‌اسلات	۴U	مستقیم به CPU	Passive / Active	۶۰۰ W	NVIDIA H200 NVL PCIe، NVIDIA RTX PRO 6000 Blackwell Server Edition، NVIDIA RTX PRO 4500 Blackwell Server Edition
GIGABYTEG492-H80نسل قبل	کارت PCIe قابل‌نصب	نسل قبل	PCIe Gen4	۸ دو اسلات · ۸ تک‌اسلات	۴U	مستقیم به CPU	Passive	نیازمند BOM	NVIDIA A100 PCIe، NVIDIA A40، NVIDIA A10
GIGABYTEG494-SB0-AAP2نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۸ دو اسلات · ۸ تک‌اسلات	۴U	از طریق PCIe Switch	Passive	۶۰۰ W	NVIDIA H200 NVL PCIe، NVIDIA RTX PRO 6000 Blackwell Server Edition
GIGABYTEG494-ZB4-AAP2نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۸ دو اسلات · ۸ تک‌اسلات	۴U	از طریق PCIe Switch	Passive	۶۰۰ W	NVIDIA H200 NVL PCIe، NVIDIA RTX PRO 6000 Blackwell Server Edition
SupermicroGPU SuperServer SYS-421GE-TNRT3نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۸ دو اسلات · ۸ تک‌اسلات	۴U	از طریق PCIe Switch	Passive / Active	نیازمند BOM	NVIDIA H200 NVL PCIe، NVIDIA H100 NVL PCIe، NVIDIA H100 PCIe، NVIDIA L40S، NVIDIA L4، NVIDIA RTX 6000 Ada
SupermicroGPU SuperServer SYS-422GA-NRTنسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۸ دو اسلات · ۸ تک‌اسلات	۴U · ۷۳۷ mm	از طریق PCIe Switch	Passive / Active	۶۰۰ W	NVIDIA RTX PRO 6000 Blackwell Server Edition
DellPowerEdge XE7740نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۸ دو اسلات · ۸ تک‌اسلات	۴U · ۸۸۶٫۷ mm	از طریق PCIe Switch	Passive	۶۰۰ W	NVIDIA H200 NVL PCIe، NVIDIA H100 NVL PCIe، NVIDIA RTX PRO 6000 Blackwell Server Edition، NVIDIA L40S، NVIDIA L4
FujitsuPRIMERGY GX2550 M8sنسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۸ دو اسلات	۴U	از طریق PCIe Switch	Passive	۶۰۰ W	NVIDIA H200 NVL PCIe، NVIDIA RTX PRO 6000 Blackwell Server Edition
HPEProLiant Compute DL345 Gen12نسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۴ دو اسلات	۲U	مستقیم به CPU	Passive	نیازمند BOM	NVIDIA RTX PRO 4500 Blackwell Server Edition، NVIDIA L40S، NVIDIA L4
SupermicroSuperWorkstation SYS-532AW-Cنسل جاری	کارت PCIe قابل‌نصب	نسل جاری	PCIe Gen5	۱ دو اسلات · ۱ تک‌اسلات · ۱ سه‌اسلات	۴U	مستقیم به CPU	Active	۵۷۵ W	GeForce RTX 5090

PCIe backward-compatible است، اما برابر نیست

کارت Gen4 در شیار Gen5 با سرعت Gen4 کار می‌کند. کارت Gen5 ممکن است در Gen4 پایین‌شیفت شود، اما برای جلوگیری از گلوگاه، پیش‌فرض جدول آن را گزینهٔ مناسب نمی‌داند.

ظرفیت شاسی، مجوز نصب نیست

عبارت «۸ کارت دو اسلات» فقط هندسهٔ پایه را می‌گوید. توان کارت، active/passive بودن، دمای محیط، کابل و QPL می‌توانند تعداد واقعی را کاهش دهند.

در سرورهای OEM، پارت‌نامبر دقیق اهمیت دارد

در سرورهای سازمانی، صرفاً یکسان‌بودن مدل GPU کافی نیست؛ ممکن است نسخه عمومی همان کارت با نسخه دارای پارت‌نامبر یا کد FRU سازنده سرور تفاوت داشته باشد.

اجزای سکوی سرور برای پردازش GPU

نقش CPU، حافظه، ذخیره‌سازی و شبکه در سرورهای تخصصی پردازش گرافیکی.

مطالعهٔ فصل: اجزای سکوی سرور برای پردازش GPU

۱۰

DGX، HGX یا سرور معمولی GPU؟

مرز میان محصول کامل NVIDIA، سکوی هشت‌GPU سازندگان سرور و شاسی‌های انعطاف‌پذیر PCIe.

مطالعهٔ فصل: DGX، HGX یا سرور معمولی GPU؟

۱۱

چگونه سرور بهینه برای GPU انتخاب کنیم؟

از نسل PCIe و توپولوژی اسلات تا ابعاد کارت، توان، خنک‌کاری، NUMA و BOM نهایی.

مطالعهٔ فصل: چگونه سرور بهینه برای GPU انتخاب کنیم؟

همین مطلب به زبان دیگر

مطالب به زبان‌های دیگر