زیرساخت هوش مصنوعی انتشار ۲۹ اردیبهشت ۱۴۰۴ · بازبینی ۱۹ مرداد ۱۴۰۵ · ۷ دقیقه
آرشیو
نوشتهها و یادداشتها
تحلیلهای فنی و مدیریتی؛ گاهی هم سفرنامه و دلنوشته.
همهٔ موضوعها و دستهها
نمایش آرشیو
صفحه ۳ / ۷ · ۷۵ نوشته
زیرساخت هوش مصنوعی 
زیرساخت هوش مصنوعی انتشار ۲۹ اردیبهشت ۱۴۰۴ · بازبینی ۱۹ مرداد ۱۴۰۵ · ۱۰ دقیقه
DGX، HGX یا سرور معمولی GPU؟
تحلیل تفاوت DGX، HGX و سرور PCIe و اینکه چرا بیشتر سازمانهای ایرانی از مزیت اضافهای که بابت DGX میپردازند استفاده نمیکنند. ادامه مطلب ←
زیرساخت هوش مصنوعی انتشار ۲۹ اردیبهشت ۱۴۰۴ · بازبینی ۱۹ مرداد ۱۴۰۵ · ۸ دقیقه
اجزای سکوی سرور برای پردازش GPU
ملاحظات پردازندهٔ مرکزی، حافظهٔ سیستم، ذخیرهسازی و شبکه در سرورهای پردازش GPU. ادامه مطلب ←
زیرساخت هوش مصنوعی انتشار ۲۹ اردیبهشت ۱۴۰۴ · بازبینی ۱۹ مرداد ۱۴۰۵ · ۶ دقیقه
انواع پردازندههای گرافیکی برای هوش مصنوعی
تفکیک کارتهای عمومی، گرافیکی حرفهای و صنعتی برای کاربردهای هوش مصنوعی. ادامه مطلب ←
زیرساخت هوش مصنوعی انتشار ۲۹ اردیبهشت ۱۴۰۴ · بازبینی ۱۹ مرداد ۱۴۰۵ · ۱۱ دقیقه
چگونه سرور بهینه برای GPU انتخاب کنیم؟
راهنمای انتخاب سرور از روی SKU کارت، توپولوژی PCIe، ابعاد، توان، خنککاری، BOM و آزمون پذیرش. ادامه مطلب ←
زیرساخت هوش مصنوعی انتشار ۲۹ اردیبهشت ۱۴۰۴ · بازبینی ۱۹ مرداد ۱۴۰۵ · ۹ دقیقه
PCIe یا SXM؛ تفاوت رابطها در زیرساخت هوش مصنوعی
مقایسهٔ PCIe و SXM از منظر مقیاس، انعطافپذیری، توان، کاربرد و کارایی به هزینه. ادامه مطلب ←
سیاستگذاری هوش مصنوعی انتشار ۶ مرداد ۱۴۰۵ · ۱۰ دقیقه
چرا بخش خصوصی با مدل «اپراتوری» هوش مصنوعی مخالف است؟
اختلاف بخش خصوصی با پروانه اپراتوری هوش مصنوعی، ایرادی شکلی در آییننامه نیست؛ اختلافی ماهوی بر سر معماری اقتصادی بازار، انحصار، امنیت و نقش دولت است. ادامه مطلب ←
مدلهای زبانی انتشار ۲۲ تیر ۱۴۰۵ · ۱۸ دقیقه
چهاربیتیکردن مدل چه چیزی را ارزان میکند و چه چیزی را تغییر میدهد؟
چهاربیتیکردن چگونه حجم وزنها و هزینهٔ اجرا را کاهش میدهد و چه اثری بر کیفیت، سرعت، KV cache و ظرفیت سرویس دارد؟ همراه با مقایسهٔ واقعی نسخههای Qwen3-8B. ادامه مطلب ←
راهنمای فنی انتشار ۲۵ خرداد ۱۴۰۵ · ۱۷ دقیقه
RAG، CAG، KAG، Fine-tuning و Instruction tuning؛ چه تفاوتی دارند و کدام را انتخاب کنیم؟
وقتی مدل پاسخ مناسبی نمیدهد، واقعاً به آموزش دوباره نیاز داریم یا فقط باید دانش درست را در اختیارش بگذاریم؟ با مثالهایی ساده، تفاوت RAG، CAG و KAG را با Fine-tuning و Instruction tuning بررسی میکنیم؛ از بازیابی سند و کشکردن دانش تا استدلال روی روابط و تغییر رفتار مدل. جدول مقایسه و سناریوهای عملی کمک میکنند پیش از صرف هزینهٔ آموزش، تشخیص دهیم مشکل از کمبود دانش است یا شیوهٔ پاسخگویی، و کدام روش یا ترکیب برای پروژه مناسبتر است. ادامه مطلب ←
ترگمان انتشار ۱۸ خرداد ۱۴۰۵ · ۱۴ دقیقه
ترگمان زیر فشار ۳۰۰ درخواست همزمان؛ تجربهٔ سرویسدهی با تنها یک RTX 4090
تجربهٔ خدمت رایگان ترگمان با یک RTX 4090؛ رسیدن به حدود ۳۰۰ درخواست همزمان، صف، کندی پاسخ و لغو بخشی از درخواستها. ادامه مطلب ←
امنیت انتشار ۱۶ بهمن ۱۴۰۴ · ۱۸ دقیقه
امنیت زیرساخت هوش مصنوعی از کرنل و GPU آغاز میشود
پشتهٔ AI زنجیرهای از کرنل، درایور، runtime، کانتینر، داده، مدل و شتابدهنده است؛ شکست سازگاری یا اعتماد در هر حلقه کل بار کاری را تهدید میکند. ادامه مطلب ←
امنیت انتشار ۱۶ بهمن ۱۴۰۴ · ۱۷ دقیقه