مدل‌های هوش مصنوعی روی دستگاه و ابزارهای هسته‌ای ML: دیدگاه‌هایی از WWDC 2024

در طول کنفرانس جهانی توسعه دهندگان اپل (WWDC) 2024، این شرکت تعدادی پیشرفت را ارائه کرد که برای بهبود استقرار و عملکرد مدل های هوش مصنوعی روی دستگاه در نظر گرفته شده است. برخی از تغییرات مهم شامل پیشرفت های عمده در ابزارهای Core ML بود که با نسخه 8.0b1 پیش از انتشار ارائه شد.

هدف این به‌روزرسانی‌ها، بهبود کارایی و اثربخشی استقرار مدل‌های یادگیری ماشین (ML) در دستگاه‌های اپل است. در اینجا به تفکیک این نوآوری ها، نحوه تأثیر آنها بر توسعه دهندگان و مزایای آن برای کاربران نهایی می پردازیم.

اصطلاحات کلیدی توضیح داده شده است

قبل از پرداختن به به‌روزرسانی‌ها، اجازه دهید برخی از اصطلاحات کلیدی را روشن کنیم:

پالت سازی

این تکنیک با گروه بندی وزن ها به خوشه ها و نشان دادن هر خوشه با یک مقدار واحد، دقت وزن مدل را کاهش می دهد. مانند داشتن طیف رنگی در یک نقاشی است که در آن از یک رنگ برای نشان دادن کل طیف رنگ ها استفاده شده است. در یادگیری ماشینی، پالت‌سازی به‌طور قابل‌توجهی اندازه یک مدل را با فشرده‌سازی مقادیر وزن آن کاهش می‌دهد.

کوانتیزاسیون

کوانتیزاسیون فرآیندی برای کاهش دقت وزن ها و فعال سازی ها از اعداد ممیز شناور، مانند شناورهای 32 بیتی، به اعداد با دقت پایین تر، به عنوان مثال، اعداد صحیح 8 بیتی است. این تکنیک فشرده سازی به کاهش اندازه مدل کمک می کند و همچنین سرعت …

Source link