مایکروسافت پیشرفت‌های مهم Windows ML را ارائه کرد

Windows ML بیش از یک سال است که در دسترس قرار دارد، در اصل یک فریمورک یکپارچه و پُربازده برای استنتاج محلی هوش مصنوعی در ویندوز است که به توسعه‌دهندگان اجازه می‌دهد بدون هدف‌گیری بهینه‌سازی‌های اختصاصی سخت‌افزار، برنامه‌های هوش مصنوعی را برای ویندوز 11 توسعه دهند. مایکروسافت در رویداد اکتبر ویندوز و سرفیس که روز گذشته برگزار شد، بر اهمیت استنتاج محلی هوش مصنوعی با معرفی سخت‌افزار و اعلامیه‌های نرم‌افزاری تأکید کرد و اکنون برخی از پیشرفت‌های اخیر خود در این حوزه را برجسته کرده است.

در وهله نخست، مایکروسافت به‌طور فعال با جامعه متن‌باز llama.cpp و GGUF همکاری می‌کند تا پشتیبانی بومی از این نرم‌افزارها را به ویندوز بیاورد. توسعه‌دهندگان اکنون می‌توانند یک مدل GGUF را از Hugging Face وارد کنند و با استفاده از یکپارچه‌سازی آزمایشی llama.cpp، آن را به‌سادگی به‌صورت محلی اجرا کنند. این شرکت همچنین مستقیماً با NVIDIA همکاری می‌کند تا در توسعه llama.cpp و بهینه‌سازی‌های عملکردی مرتبط با آن مشارکت داشته باشد.

در همین راستا، مایکروسافت یک مسیر آزمایشی استنتاج بومی ویندوز را در Windows ML معرفی کرده است که هم مدل‌های ONNX و هم GGUF را اجرا می‌کند. این نسخه با Text Generation API و Speech Recognition API ارائه می‌شود. تمام این قابلیت‌ها توسط همان مسیر استنتاجی که پیش‌تر به آن اشاره شد تأمین می‌شوند؛ مسیری که به‌طور رسمی Windows ML Runtime API نام دارد. مایکروسافت عملکرد، یکپارچگی عمیق با ویندوز و کنترل‌های دقیق آن را مورد تأکید قرار داده است.

نکته مهم این است که ONNX Runtime APIs همچنان به‌طور کامل پشتیبانی می‌شوند، اما بهینه‌سازی‌های اختصاصی ویندوز در آینده برای Windows ML Runtime API ارائه خواهند شد. البته هر دو runtime در دسترس هستند و به توسعه‌دهندگان توصیه شده است کار را با گزینه‌ای که با آن آشنایی دارند آغاز کنند و هر زمان آماده بودند، به Windows ML Runtime API مهاجرت کنند. علاوه بر این، مایکروسافت در PyTorch و Triton نیز مشارکت‌هایی داشته است.

PyTorch اکنون بیلدهای بومی CPU برای Windows Arm64 ارائه می‌کند، درحالی‌که انویدیا پکیج‌های Windows Arm64 مجهز به CUDA را مدیریت می‌کند. در همین حال، Triton اکنون قابلیت‌های triton.jit، torch.compile و kernelهای سفارشی GPU را برای GPUهای پشتیبانی‌شده در Windows ارائه می‌دهد. در مورد گام‌های بعدی، مایکروسافت به همکاری با جوامع متن‌باز و شرکای سخت‌افزاری ادامه خواهد داد تا اکوسیستم هوش مصنوعی محلی را بهبود دهد.

بهبودهای برنامه‌ریزی‌شده شامل پکیج‌های بومی، پشتیبانی گسترده‌تر از kernelها، بهبود عملکرد، پشتیبانی از Windows on ARM و موارد دیگر است. در همین حال، برای شروع کار با این پیشرفت‌های اخیر می‌توانید راهنمای مایکروسافت را از اینجا دنبال کنید.