با افزایش پذیرش هوش مصنوعی در سازمانها، بسیاری از آنها در مییابند که زیرساختهای موجودشان توانایی همگامی با این فناوری را ندارد. اجرای هوش مصنوعی در فضای ابری یک گزینه است، اما فضای ابری میتواند نگرانیهای مربوط به حریم خصوصی و هزینههای غیرقابل پیشبینی را به همراه داشته باشد. ارتقاء زیرساختهای درونسازمانی (on-prem) گزینه دیگری است، اما پشتیبانی از پلتفرمهای بزرگ شتابدهنده مبتنی بر پردازنده گرافیکی میتواند نیازمند بازطراحی پرهزینه در زمینه تأمین برق و خنککنندگی مرکز داده باشد. کارتهای جدید AMD Instinct MI350P PCIe گزینه سومی را در اختیار سازمانها قرار میدهند: عملکرد پیشرو در هوش مصنوعی که برای تطابق با زیرساخت مرکز داده موجود طراحی شده است.
عملکردی که در رک های موجود شما جای میگیرد
کارتهای AMD Instinct MI350P PCIe که برای کمک به آمادگی برای عصر هوش مصنوعی عاملمحور (agentic AI) طراحی شدهاند، کارتهای دو شکاف (dual-slot) قابل نصب در سرورهای استاندارد با خنککنندگی هوایی هستند. این کارتها برای اجرای استنتاج (inference) در محل و در چارچوب زیرساخت برق، خنککنندگی و رک مرکز داده فعلی ساخته شدهاند. پردازندههای گرافیکی AMD Instinct در قالب کارتهای مقرونبهصرفه PCIe، سبد محصولات محاسباتی هوش مصنوعی AMD را تکمیل میکنند. این امر طیفی از گزینهها را برای سازمانها در مسیر منحصربهفرد پذیرش هوش مصنوعی فراهم میآورد.
فرمفاکتور کارت PCIe برای سازمانهایی که به قدرت محاسباتی هوش مصنوعی بیشتری نسبت به آنچه پردازندههای مرکزی تأمین میکنند نیاز دارند، اما هنوز آماده سرمایهگذاری روی پلتفرمهای شتابدهنده اختصاصی نیستند، انتخابی عالی محسوب میشود. کارتهای AMD Instinct MI350P PCIe که در سیستمهای با Air-Cooled و با قابلیت پشتیبانی از حداکثر هشت کارت شتابدهنده در دسترس هستند، برای مدلهای هوش مصنوعی کوچک، متوسط و بزرگ در زمینه استنتاج و خطوط لوله RAG (بازیابی-تولید افزوده) ایدهال میباشند.
فراتر از مقیاسدهی هوش مصنوعی، به مقیاسدهی بازگشت سرمایه
کارتهای AMD Instinct MI350P PCIe برای ارائه عملکرد استثنایی هوش مصنوعی با هزینه عالی و عملکرد پیشرو مهندسی شدهاند. ویژگیهای کلیدی به افزایش عملکرد، سادهسازی استقرار و کاهش هزینهها کمک میکنند تا سازمانها بتوانند از مرحله ارزیابی به نتایج واقعی حرکت کنند:
- پشتیبانی بومی از دقتهای پایین MXFP6 و MXFP4 که توان عملیاتی بالایی را ارائه میدهند.
- شتاب از طریق پشتیبانی از اسپارسیتی (sparsity) برای اکثر دقتهای رایج 8 و 16 بیتی.
- تخمین 2,299 ترافلاپس و حداکثر 4,600 ترافلاپس پیک در دقت MXFP4 که بالاترین عملکرد موجود در یک کارت سازمانی PCIe است.
- تخمین 144 گیگابایت حافظه پهنای باند بالا 3e (HBM3E) با سرعت حداکثر 4 ترابایت بر ثانیه.
- اکوسیستم باز با گزینههای پشته توسعه کمهزینه و بدون هزینه که استقرار را سادهسازی کرده و به کاهش هزینههای عملیاتی کمک میکند.
- نرمافزار سازمانی هوش مصنوعی: توسعه با پشته هوش مصنوعی خود، به روش خود، امروز.
ای ام دی کارتهای AMD Instinct MI350P PCIe را با استانداردهای باز برای قابلیت همکاری میان پلتفرمها ساخته است. افزودن این کارتها، استراتژی این شرکت را برای فعالسازی یک اکوسیستم کاملاً باز هوش مصنوعی و فراهم کردن انتخاب مشتری در محیطهای سازمانی ادامه میدهد.
پشته هوش مصنوعی سازمانی AMD را میتوان به عنوان یک مؤلفه بنیادی در نظر گرفت که به طور یکپارچه با اکوسیستم گستردهای از نرمافزارها و ابزارهای هوش مصنوعی ادغام میشود. این پشته شامل عملگر GPU Kubernetes برای مدیریت چرخه حیات کامل، میکروسرویسهای استنتاج AMD و پشتیبانی بومی از چارچوبهای هوش مصنوعی مانند PyTorch است. همه این موارد سازمانها را قادر میسازد تا بارهای کاری استنتاج را با حداقل تغییرات کد مهاجرت دهند.
AMD پشته مرجع هوش مصنوعی سازمانی منبعباز خود را بدون هزینه مجوز در اختیار شرکا قرار میدهد. این پشته شفافیت کد بیشتری را ارائه میدهد و به کاهش هزینههای عملیاتی کمک میکند. هنگامی که این پشته با کارتهای AMD Instinct MI350P PCIe و راهکارهای ارائهشده توسط شرکا ترکیب شود، سازمانها را قادر میسازد تا به سرعت در محل (on-premises) راهاندازی شده و بدون هزینههای جاری به ازای هر توکن (per-token charges) کار کنند.
شتاب بومی برای سطوح دقت هوش مصنوعی سازمانی
کارتهای AMD Instinct MI350P PCIe از طیف سطوح دقتی پشتیبانی میکنند که مدلهای هوش مصنوعی سازمانی بیش از همه به آن متکی هستند. در حالی که دقتهای پایین MXFP6 و MXFP4 حداکثر عملکرد را از نظر ترافلاپس خالص و پیادهسازی کارآمد مدل ارائه میدهند، فرمتهای با دقت بالاتر مانند INT8 و BF16 از پشتیبانی اسپارسیتی در پردازنده گرافیکی AMD Instinct MI350P بهره میبرند تا عملکرد کارآمدی را ارائه دهند.
صرف نظر از سطح دقت، سازمانها خواهند یافت که کارتهای AMD Instinct MI350P PCIe برای ارائه حداکثر توان عملیاتی پردازنده گرافیکی و کاهش مصرف حافظه طراحی شدهاند که به کاهش تقاضای برق و خنککنندگی کمک میکند. پشتیبانی از FP8، MXFP8 و MXFP4 یکی از دلایل اصلی است که کارتهای AMD Instinct MI350P PCIe قادر به پردازش بارهای کاری امروزی هوش مصنوعی در مراکز داده استاندارد با Air-Cooled میباشند.
