متا مدل متن‌باز Muse Glimmer را برای اجرای محلی روی کامپیوتر منتشر کرد

متا از مدل جدیدی با نام Muse Glimmer رونمایی کرده است؛ یک مدل هوش مصنوعی با 30 میلیارد پارامتر و وزن‌های باز که به‌طور ویژه برای اجرای محلی عامل‌های هوش مصنوعی روی کامپیوتر و سخت‌افزارهای مصرفی طراحی شده است. هدف اصلی Muse Glimmer، اجرای وظایف عامل‌محور روی دستگاه کاربر است؛ به‌گونه‌ای که مدل بتواند در محیط محلی فعالیت کند و برای انجام برخی پردازش‌ها، وابستگی کمتری به سرورهای ابری داشته باشد.

برخلاف بسیاری از مدل‌های بزرگ هوش مصنوعی که برای اجرا به زیرساخت‌های ابری و مراکز داده قدرتمند نیاز دارند، Muse Glimmer برای اجرا روی سخت‌افزارهای شخصی بهینه شده است. متا اعلام کرده که این مدل می‌تواند روی سخت‌افزارهای مصرفی، از جمله رایانه‌های Mac و PC مجهز به پردازنده‌های گرافیکی قدرتمند، اجرا شود. این موضوع می‌تواند توسعه و اجرای عامل‌های هوش مصنوعی را برای کاربران و توسعه‌دهندگان ساده‌تر کند.

تمرکز Muse Glimmer بر کاربردهای عامل‌محور باعث شده این مدل برای کارهایی مانند استفاده از ابزارها، اجرای Function Calling، کدنویسی و انجام وظایف چندمرحله‌ای مناسب باشد. یکی از مهم‌ترین ویژگی‌های Muse Glimmer، امکان اجرای آن روی یک GPU قدرتمند مصرفی است. نسخه‌های کوانتیزه‌شده این مدل به حافظه بسیار کمتری نیاز دارند و می‌توانند روی برخی سیستم‌های شخصی مدرن اجرا شوند.

اجرای محلی مدل‌های هوش مصنوعی می‌تواند مزایایی مانند کاهش تأخیر، افزایش حریم خصوصی و کاهش وابستگی به اتصال دائمی اینترنت را به همراه داشته باشد. این موضوع به‌ویژه برای عامل‌هایی که باید به‌صورت مداوم و همیشه فعال روی دستگاه کاربر کار کنند، اهمیت زیادی دارد. Muse Glimmer یک مدل 30B با وزن‌های باز است. در نتیجه، توسعه‌دهندگان می‌توانند آن را دریافت کرده و برای اجرای محلی یا ساخت محصولات و ابزارهای مبتنی بر هوش مصنوعی از آن استفاده کنند.

رویکرد Meta در این پروژه، بخشی از تلاش گسترده‌تر این شرکت برای گسترش دسترسی به مدل‌های هوش مصنوعی با وزن‌های باز محسوب می‌شود. Mark Zuckerberg نیز هم‌زمان با معرفی Muse Glimmer، بر اهمیت دسترسی گسترده‌تر به فناوری‌های هوش مصنوعی و جلوگیری از تمرکز کامل قدرت این فناوری در اختیار تعداد محدودی از شرکت‌ها و نهادها تأکید کرده است. گزارش‌ها نشان می‌دهند Muse Glimmer با استفاده از فرایند Distillation از مدل قدرتمندتر Muse Spark توسعه یافته است.

در این روش، یک مدل کوچک‌تر از خروجی‌ها و توانایی‌های یک مدل بزرگ‌تر آموزش می‌بیند تا بخشی از قابلیت‌های آن را با نیاز به منابع سخت‌افزاری کمتر ارائه دهد. به‌عبارت دیگر، Meta تلاش کرده است توانایی‌های مدل‌های پیشرفته‌تر خود را در قالب مدلی کوچک‌تر و مناسب‌تر برای اجرای محلی ارائه کند. Muse Glimmer صرفاً برای پاسخ‌دادن به پرسش‌های متنی طراحی نشده است.

این مدل می‌تواند برای ساخت عامل‌های هوش مصنوعی مورد استفاده قرار گیرد؛ عامل‌هایی که قادرند یک درخواست را دریافت کنند، مراحل لازم برای انجام آن را برنامه‌ریزی کرده و از ابزارهای مختلف برای تکمیل وظیفه استفاده کنند. پشتیبانی از Function Calling نیز به توسعه‌دهندگان اجازه می‌دهد مدل را به ابزارها و سرویس‌های مختلف متصل کنند. این قابلیت می‌تواند Muse Glimmer را برای کاربردهایی مانند کدنویسی، اتوماسیون وظایف، مدیریت فرایندهای چندمرحله‌ای و اجرای عامل‌های محلی به گزینه‌ای جذاب تبدیل کند.