نیاز به سیستم‌های پردازشی سریع‌تر و هوشمندتر همه را واردار کرده که به نسل جدیدی از پردازنده‌ها روی بیاورند تا بتوانند پاسخگوی نیازهای پردازشی ما باشند. این پردازنده‌ها که به IPU یا واحد پردازش زیرساخت مشهور هستند در آینده در هر سیستم پردازشی ابری و آفلاین موجود خواهند بود. اینتل یک IPU منتشر کرده که دقیقا شبیه به SmartNIC است. در این مقاله، یاد خواهیم گرفت که IPU یا واحد پردازش زیرساخت چیست، چه کاری انجام می‌دهد و چرا اهمیت دارد؟
ارائه دهندگان خدمات و شرکت‌ها، سرمایه گذاری هنگفتی را در مراکز داده انجام می‌دهند تا محاسبات کارآمد را برای برنامه‌های بومی ابری و خدمات خرد ارائه دهند. برنامه‌های کاربردی ارائه دهنده این خدمات باید به ذخیره سازی با سرعت بالا و تاخیر کم و زیرساخت شبکه ایمن دسترسی داشته باشند. با این حال، خدمات زیرساختی مانند: سوئیچینگ مجازی، امنیت و ذخیره سازی می‌توانند تعداد قابل توجهی از چرخه‌های CPU را مصرف کنند. واحدهای پردازش زیرساخت (IPU) زیرساخت شبکه را تسریع می‌کنند و هسته‌های CPU را برای بهبود عملکرد برنامه آزاد می‌کنند.
معرفی IPU یا واحد پردازش زیرساخت
در حالت کلی باید گفت که IPU ساختاری شبیه به پردازنده‌های گرافیکی یا همان GPU دارند. ولی توانایی پردازشی آن‌ها به سبب تغییراتی که در ساختار ارتباطات و عملکرد داخلی آن ها ایجاد شده تا سه برابر قدرتمندتر از GPU است. هدف اولیه یک IPU به مشتریان فرصت می دهد تا از منابع با راه حل ایمن، قابل برنامه ریزی و پایدار استفاده کنند. و با این کار بین پردازش و ذخیره سازی تعادل برقرار می‌کنند.
شرکت مایکروسافت که با داشتن سرورهای Azure یکی از بزرگ‌ترین خدمات دهنده‌های سرویس‌های پردازش ابری در دنیاست. اعلام کرد که پردازنده‌های جدیدی را به واحدهای پردازش ابری خود اضافه کرده که Graphcore IPU نام دارند. پایه و اساس سیستم‌های هوش مصنوعی بر تصمیم گیری بر اساس مقایسه داده‌ها استوار است. به همین دلیل یک سیستم برای اجرای بهتر داده‌های هوش مصنوعی باید به عملکرد مقایسه و تصمیم‌گیری سریع‌تر متکی باشد. در همین زمینه برنامه نویسان هوش مصنوعی می‌توانند با استفاده از پردازنده‌های Graphcore ساختاری در اختیار داشته باشند. که با روش‌های ارزانتری بتواند به عملیات مد نظر خود بپردازد. چرا که IPU هزینه تمام شده‌ای در حد پردازنده‌های دیگر خواهند داشت و همانطور که عنوان شد می‌تواند تا سه برابر قدرتمندتر باشد.
عملکرد واحد پردازش زیرساخت
مایکروسافت در توضیح عملکرد Graphcore مورد استفاده در سیستم‌های پردازشی Azure عنوان کرده است که IPU به کار رفته در این سیستم‌ها توانایی ارائه پردازش هوشمند ماشینی به قدرت 1.6 پتافلاپس را دارد. که با به کار‌گیری هشت کارت Geaphcire C2 IPU که با اتصال کارت‌های PCIe با سیستم و سرورهای شرکت ارتباط برقرار می‌کنند. هر کدام از این کارت‌ها دارای دو واحد IPU جدید هستند. که روی یک برد استاندارد 4U سوار شده و ارتباط آن‌ها با سیستم نیز از طریق فناوری ارتباطی جدیدی موسوم به IPU-Link صورت می‌گیرد.
این سیستم در حال حاضر توانایی پشتیبانی از کتابخانه‌های متن باز یادگیری ماشین TensorFlow را دارد. و قرار است تا پایان سال 2023 قابلیت پشتیبانی از کتابخانه‌های یادگیری ماشین مخصوص PyTorch نیز به آن افزوده شود. ساخت یک پردازنده با رویکرد جدید هوش مصنوعی نیازمند یک سرمایه گذاری گسترده است. که در این خصوص شرکت‌های بزرگی دست به همکاری با یکدیگر و ایجاد یک نهاد سرمایه‌گذاری برای ساخت Graphcore زده‌اند که مایکروسافت یکی از این شرکت‌هاست.
بنیان‌گذار و مدیر عامل فعلی شرکت Graphcore
نایجل تون بنیان گذار شرکت Graphcore گفت: در حال حاضر بسیار خوشحال و مفتخریم که توانسته‌ایم فناوری جدیدی برای ساخت پردازنده‌های هوش مصنوعی Graphcore را به صورت تجاری در آورده و در اختیار گروه وسیعی از مشتریان قرار دهیم. با نگاهی به آینده و امید به پشتیبانی بیشتر از نوآورانی که در این زمینه کار می‌کنند توسعه عظیمی در انتظار IPU خواهد بود که می‌تواند هوش ماشینی را دستخوش تغییرات شگرف قرار دهد. تا به امروز همکاری گسترده شرکت‌هایی مانند: مایکروسافت، BMW به همراه سرمایه‌گذاری نهادهایی مانند: Merian Global Investors، Amadeus Capital Partners،Atomico, Robert Bosch Venture Capital, Atomico و Sofina باعث شده که بودجه Graphcore به 1.5 میلیارد دلار برسد.
واحد پردازش زیرساخت IPU چگونه کار می‌کند؟
IPU یک دستگاه شبکه قابل برنامه ریزی است. که به طور هوشمند منابع زیرساخت در سطح سیستم را با تسریع ایمن آن عملکردها در یک مرکز داده مدیریت می‌کند. این به اپراتورهای ابری اجازه می‌دهد تا به یک فضای ذخیره سازی و معماری شبکه کاملا مجازی تبدیل شوند. و در عین حال درجه بالایی از عملکرد، پیش‌بینی پذیری و کنترل را حفظ کنند. یک IPU دارای عملکرد اختصاصی برای تسریع برنامه‌های مدرن است. که با استفاده از معماری مبتنی بر میکروسرویس در مرکز داده ساخته می‌شوند. در نتیجه، یک ارائه دهنده ابر می‌تواند عملکردهای زیرساختی را به طور ایمن مدیریت کند. و در عین حال مشتری خود را قادر می‌سازد تا عملکردهای CPU و حافظه سیستم را کاملا کنترل کند.
ویژگیهای اصلی یک IPU واحد پردازش زیرساخت چیست؟
چهار ویژگی اصلی یک IPU وجود دارد:
- شتاب زیرساخت بسیار هوشمند
- امنیت، کنترل و جداسازی در سطح سیستم
- چارچوبهای نرم افزاری رایج
- سخت افزار و نرم افزار قابل برنامه ریزی، ساخته شده بر اساس نیازهای مشتری
چرا IPU واحد پردازش زیرساخت مهم است؟
یک IPU این قابلیت را دارد که عملکردهای زیرساخت، از جمله مجازی سازی ذخیره سازی، مجازی سازی شبکه و امنیت را با شتاب دهنده‌های پروتکل اختصاصی را با سرعت بیشتری انجام داد. در مقیاس بزرگ‌تر، مراکز داده در حال تکامل به یک معماری هوشمند جدید نیاز دارند که در آن سیستم‌های محاسباتی توزیع شده در مقیاس بزرگ به صورت یکپارچه به عنوان یک پلتفرم واحد به هم متصل می‌شوند.
این به حل چالش‌های امروزی، جریان داده‌های متراکم و امنیت پلتفرم ناسازگار کمک می‌کند. در این معماری جدید، سه دسته محاسبات وجود خواهد داشت: CPU برای محاسبات با هدف عمومی، XPU (واحد متقابل پلتفرم) برای شتاب ویژه برنامه یا حجم کاری خاص، و IPU برای شتاب زیر ساخت.
هر سه دسته از طریق شبکه‌های قابل برنامه ریزی برای استفاده موثر از منابع مرکز داده به هم متصل خواهند شد. مراکز داده در حال تکامل به یک معماری هوشمند جدید نیاز دارند. که در آن سیستم‌های محاسباتی توزیع شده در مقیاس بزرگ به صورت یکپارچه به عنوان یک پلتفرم واحد به هم متصل می‌شوند.
نتیجه گیری
مزایای کلیدی واحد پردازش زیرساخت Intel مانند افزایش امنیت از طریق جداسازی برنامه‌ها از خدمات ارائه دهنده، تخلیه وظایف زیرساخت برای بهبود استفاده و عملکرد CPU، و فعال کردن فضای ذخیره‌سازی مجازی برای افزایش انعطاف پذیری مرکز داده. شرکت Graphcore توانسته تا به امروز مبالغ مورد توجهی را نیز از افراد مرتبط با حوزه پردازشی هوش مصنوعی مانند: دمیس حسابیس، بنیان‌گذار بخش DeepMind شرکت گوگل و همچنین ژوبین قهرمانی، یکی از دانشمندان برجسته‌ای که در حال حاضر در Uber مشغول فعالیت است کسب کند که مسلما به توسعه بیشتر آن خواهد انجامید.
