اجرای مدل های ساده هوش مصنوعی به صورت محلی

 هفته گذشته، گوگل به‌طور بی‌سروصدا اپلیکیشنی را منتشر کرد که به کاربران اجازه می‌دهد مجموعه‌ای از مدل‌های هوش مصنوعی متن‌باز از پلتفرم توسعه‌ی هوش مصنوعی Hugging Face را روی گوشی‌های خود اجرا کنند.

این اپلیکیشن که Google AI Edge Gallery نام دارد، برای دستگاه‌های اندروید عرضه شده و به‌زودی برای iOS نیز در دسترس قرار خواهد گرفت. این برنامه به کاربران امکان می‌دهد مدل‌های سازگار را پیدا کنند، دانلود نمایند و اجرا کنند؛ مدل‌هایی که قادر به تولید تصویر، پاسخ دادن به پرسش‌ها، نوشتن و ویرایش کد و کارهای دیگر هستند. این مدل‌ها به‌صورت آفلاین و بدون نیاز به اتصال اینترنت اجرا می‌شوند و از پردازنده‌ی گوشی‌های پشتیبانی‌شده استفاده می‌کنند.

مدل‌های هوش مصنوعی که در فضای ابری اجرا می‌شوند، معمولاً قدرتمندتر از مدل‌های محلی هستند، اما معایبی نیز دارند. برخی کاربران ممکن است تمایلی نداشته باشند داده‌های شخصی یا حساس خود را به یک مرکز داده‌ی راه‌دور ارسال کنند، یا بخواهند بدون نیاز به اتصال وای‌فای یا شبکه‌ی موبایل به مدل‌ها دسترسی داشته باشند.

گوگل Google AI Edge Gallery را که یک «نسخه‌ی آلفای آزمایشی» نامیده، برای دانلود در GitHub قرار داده و کاربران می‌توانند با دنبال کردن دستورالعمل‌های مشخص‌شده آن را دریافت کنند. صفحه‌ی اصلی اپلیکیشن میانبرهایی به وظایف و قابلیت‌های مختلف هوش مصنوعی مانند «پرسش از تصویر» (Ask Image) و «گفت‌وگوی هوش مصنوعی» (AI Chat) را نمایش می‌دهد. با لمس هر قابلیت، فهرستی از مدل‌هایی که برای آن وظیفه مناسب هستند (مثلاً مدل  Gemma 3n از گوگل) نمایش داده می‌شود.

Google AI Edge Gallery همچنین بخشی به نام  Prompt Lab در اختیار کاربران قرار می‌دهد تا وظایف «تک‌مرحله‌ای» را با کمک مدل‌ها آغاز کنند، مانند خلاصه‌سازی یا بازنویسی متن. Prompt Lab شامل قالب‌های آماده برای وظایف مختلف و تنظیمات قابل پیکربندی برای تنظیم دقیق رفتار مدل‌ها است.

گوگل هشدار داده که عملکرد این اپ ممکن است بسته به شرایط متفاوت باشد. دستگاه‌های مدرن با سخت‌افزار قدرتمندتر، مدل‌ها را سریع‌تر اجرا می‌کنند، اما اندازه‌ی مدل نیز اهمیت دارد. مدل‌های بزرگ‌تر برای انجام یک وظیفه — مثلاً پاسخ دادن به یک پرسش تصویری — زمان بیشتری نسبت به مدل‌های کوچک‌تر نیاز دارند.

گوگل از اعضای جامعه‌ی توسعه‌دهندگان دعوت کرده تا بازخورد خود را درباره‌ی تجربه‌ی کار با Google AI Edge Gallery ارائه دهند. این اپلیکیشن تحت مجوز Apache 2.0  منتشر شده، به این معنا که می‌توان از آن در اغلب زمینه‌ها — چه تجاری و چه غیرتجاری — بدون محدودیت استفاده کرد.