>> معرفی کامل تراشه هوش مصنوعی 3 اینتل؛ رقیب ارزانتر انویدیا در بازار شتابدهندهها >> شرکت اینتل به طور رسمی از پردازنده شتابدهنده 3 برای کارهای هوش مصنوعی رونمایی کرد. این تراشه جدید با هدف رقابت با پردازشگرهای گرافیکی محبوب و انویدیا طراحی شده، هرچند سرعت خالص کمتری دارد، اما با ارائه قیمت پایینتر و هزینه کل مالکیت (TCO) کاهشیافته، سعی در کسب سهم بازار دارد.
معماری و مشخصات فنی 3 پردازنده 3 بر پایه معماری دو چیپلت ساخته شده است. هر چیپلت شامل ۳۲ هسته پردازش تنسور (مجموع ۶۴ هسته)، ۴ موتور ضرب ماتریس (مجموع ۸ موتور) و ۴۸ مگابایت حافظه کش SRAM (مجموع ۹۶ مگابایت) با پهنای باند ۱۹.۲ ترابایت در ثانیه میباشد. این تراشه همچنین از ۲۴ رابط شبکه ۲۰۰ گیگابیت اترنت (200 ) و ۱۴ موتور رسانهای برای پردازش کدکهای ویدیویی مانند، و JPEG بهره میبرد.
از نظر حافظه، 3 مجهز به ۱۲۸ گیگابایت حافظه با پهنای باند عظیم ۳.۶۷ ترابایت در ثانیه است. مقایسه با نسل قبلی 2 نشاندهنده پیشرفت چشمگیر در توان محاسبه، پهنای باند حافظه و قابلیتهای شبکه است. عملکرد محاسباتی و توان حرارتی اینتل اعلام کرده که 3 با توان طراحی حرارتی (TDP) حدود ۶۰۰ وات، قادر است تا ۱۸۵۶ ترافلاپس (TFLOPS) عملکرد ماتریسی در فرمت / و تا ۲۸.۷ ترافلاپس عملکرد وکتوری تحویل دهد.
بود. استراتژی قیمتگذاری و مزیت رقابتی در اوایل سال جاری، اینتل قیمت یک کیت شتابدهنده مبتنی بر هشت پردازنده 3 را حدود ۱۲۵ هزار دلار برآورد کرد.
بر این اساس، قیمت واحد هر پردازنده حدود ۱۵،۶۲۵ دلار تخمین زده میشود. برای مقایسه، پردازشگر انویدیا در حال حاضر با قیمتی حدود ۳۰،۶۷۸ دلار عرضه میشود. اینتل با این استراتژی قیمتگذاری، سعی دارد با ارائه راهحلی با هزینه نصفقیمت رقیب اصلی خود، گزینهای جذاب برای مراکز داده و شرکتهای توسعهدهنده مدلهای بزرگ زبان (LLM) باشد.
>> اکوسیستم نرمافزاری و پشتیبانی از مدلهای باز یکی از چالشهای اصلی رقبای انویدیا، اکوسیستم نرمافزاری CUDA است که سالها یت داشته است. اینتل برای مقابله با این مانع، تمرکز زیادی بر روی نرمافزارهای باز و استانداردهای صنعتی گذاشته است.
تراشه 3 به طور بومی از فریمورکهای محبوب مانند و پشتیبانی میکند و اینتل به طور فعال در پروژههای متنباز مانند و مشارکت میکند تا به توسعهدهندگان اجازه دهد کدهای خود را بدون وابستگی به سختافزار خاصی اجرا کنند.
پشتیبانی از کتابخانههای بهینهسازی شده مانند برای پردازش ویدیو و (HCL) برای مقیاسپذیری چند تراشهای، بخش مهمی از این استراتژی نرمافزاری را تشکیل میدهد. مقیاسپذیری و معماری سیستم از سرور تا سوپرکامپیوتر قدرت واقعی شتابدهندهها در کارکردهای مقیاس بزرگ آشکار میشود. اینتل معماری 3 را طوری طراحی کرده که به راحتی در کلاسترهای بزرگ مستقر شود.
با استفاده از ۲۴ پورت اترنت ۲۰۰ گیگابیت در ثانیه (200) روی هر تراشه، اینتل نیازی به تکنولوژی انحصاری اتصال بین تراشهها (مانند انویدیا) ندارد و در عوض از اترنت استاندارد و ارزانتر برای اتصال سرورها استفاده میکند. این معماری به شرکتها اجازه میدهد از سوئیچهای اترنت تجاری معمول برای ساخت کلاسترهای هزاران تراشهای استفاده کنند که هزینه سرمایهگذاری (CAPEX) و هزینه عملیاتی (OPEX) را به شدت کاهش میدهد.
اینتل مرجعهای طراحی برای سرورهای ۸ تراشهای (مانند سیستمهای HPE و ) و راهکارهای مقیاسپذیر تا حد سوپرکامپیوترهای کلاس ارائه کرده است.
تراشه را برای میزبانی مدلهای بزرگ زبان (LLM) با پارامترهای زیاد (مانند 2 70B یا 175B) در یک سرور ۸ تراشهای بدون نیاز به شاردینگ پیچیده، ایدهآل میسازد.
تنظیم دقیق مدلها کارایی بالا در محاسبات و، فرآیند تنظیم مجدد مدلهای پایه برای کارهای خاص را با هزینه و زمان کمتر نسبت به GPUهای پرچمی رقیب امکانپذیر میسازد. پردازش چندرسانهای و بینایی ماشین وجود ۱۴ موتور رمزگشایی/رمزگذاری ویدیویی سختافزاری، 3 را به گزینهای منحصر به فرد برای خط لولههای هوش مصنوعی که شامل پردازش همزمان متن، تصویر و ویدیو هستند (مانند مدلهای )، تبدیل میکند.
مقایسه استراتژیک 3 در برابر، و / در مقایسه مستقیم، و انویدیا همچنان در عملکرد خالص آموزش برتری دارند، به ویژه در مدلهای فوقالعظیم که نیازمند اتصال و با پهنای باند ۹۰۰ گیگابایت در ثانیه هستند. با این حال، 3 در معیارهای قیمت به عملکرد (/) و واط به عملکرد (/) برای استنتاج نتایج رقابتی بسیار قویای ثبت کرده است.
برخلاف که اغلب با کمبود عرضه و زمان تحویل طولانی روبروست، اینتل با استفاده از فرآیند تولید ۵ نانومتری TSMC و زنجیره تامین انعطافپذیرتر، سعی دارد تحویل سریعتر را تضمین کند. در برابر معماری جدید انویدیا (/)، اینتل بر روی نرخ تبدیل قدرت به هزینه (TCO) برای کارهای استنتاج تمرکز دارد، در حالی که برای آموزش نسل بعدی مدلهای تریلیونی پارامتره طراحی شده است.
شرکای استراتژیک و پذیرش بازار اینتل تنها در تولید تراشه نیست، بلکه یک اکوسیستم سختافزاری کامل میسازد. شرکای اصلی OEM شامل، HPE، و هستند که سرورهای معتبر شده با ۸ تراشه 3 را عرضه میکنند. در سطح ابری، شراکت با IBM، و ارائهدهندگان خدمات مدیریت شده دیگر، دسترسی به این سختافزار را بدون سرمایهگذاری اولیه سختافزاری برای استارتاپها و محققان ممکن میسازد.
گزارشها نشان میدهد که شرکتهای بزرگ فناوری و بانکهای بینالمللی در حال تست 3 برای کارهای استنتاج تولیدی هستند، جایی که کاهش تاخیر و هزینه هر توکن اولویت اول است. چالشها و نگرانیهای احتمالی با وجود مزایای قیمتی و معماری باز، 3 با موانعی روبروست انباشت نرمافزاری CUDA بسیاری از کتابخانههای تخصصی، پلاگینها و کدهای سفارشی تنها برای CUDA نوشته شدهاند و مهاجرت آنها نیازمند زمان و بودجه است.
عملکرد آموزش برای آموزش مدلهای پایه از صفر، انویدیا همچنان استاندارد طلایی است و 3 ممکن است در زمان به جمع کندتر باشد. پشتیبانی از درایور و فریمورک اگرچه پیشرفت زیادی کرده، اما پایداری درایورها و سرعت بهروزرسانی برای پشتیبانی از جدیدترین قابلیتهای / همچنان یک عامل ریسک محسوب میشود. آینده تراشههای نگاه به اینتل برنامهریزی برای نسل بعد را تحت نام کد اعلام کرده است.
این معماری آینده قرار است معماری CPU و GPU/XPU را در یک پکیج واحد (XPU) ادغام کند و از حافظه یکپارچه و اترنت بسیار بالا پهنای باند استفاده نماید. قرار است جایگزین مستقیم 3 و سری GPU شود و هدف اینتل برای دستیابی به رهبری در محاسبه هوش مصنوعی در افق ۲۰۲۵-۲۰۲۶ است. نتیجهگیری گزینهای هوشمندانه برای بهینهسازی هزینه معرفی 3 نشاندهنده بلوغ استراتژی اینتل در بازار هوش مصنوعی است.
این تراشه سعی نمیکند در همه معیارها بر انویدیا غلبه کند، بلکه یک پیشینه ارزش پیشنهادی شفاف ارائه میدهد عملکرد استنتاج عالی با نصف هزینه سختافزاری و بدون قفلسازی فروشنده سختافزاری. برای سازمانهایی که مدلهای بزرگ زبان را در مقیاس تولید مستقر میکنند و حساسیت بالا به هزینه کل مالکیت (TCO) دارند، 3 اکنون یک گزینه جدی و قابل اعتماد است که میتواند تنوع در زنجیره تامین و قدرت مذاکره با انویدیا را فراهم آورد.
موفقیت نهایی اینتل بستگی دارد به سرعت بهروزرسانیهای نرمافزاری، پایداری درایورها و توانایی در جلب توسعهدهندگان به سمت اکوسیستم باز SYCL/ منبع اسکوار بر اساس گزارشهای و اعلامیههای رسمی اینتل
