DeepSeek V4.1-Flash-1017 با کوانتیزه‌سازی یک‌بیتی محلی شد

مدل DeepSeek V4.1-Flash-1017 اکنون با نسخه کوانتیزه‌شده یک‌بیتی روی دستگاه محلی قابل اجراست. Unsloth با این روش حجم مدل را از ۵۰۸ گیگابایت به ۲۵۰ گیگابایت رسانده تا اجرای آن بدون اتکا به سرویس‌های میزبانی مدل امکان‌پذیر شود.

#کاهش حجم با کوانتیزه‌سازی یک‌بیتی

براساس اطلاعات منتشرشده، Unsloth در فرایند کوانتیزه‌سازی یک‌بیتی توانسته است حدود ۸۸.۲ درصد از دقت مدل اصلی را حفظ کند. حجم نسخه حاصل نیز ۲۵۰ گیگابایت اعلام شده است؛ درحالی‌که مدل اصلی ۵۰۸ گیگابایت حجم دارد.

در یادداشت انتشار، این تغییر معادل حدود ۵۲ درصد کاهش حجم عنوان شده است. جزئیات این نسخه در مستندات DeepSeek V4.1-Flash شرکت Unsloth ارائه شده است.

#سخت‌افزار موردنیاز برای اجرای محلی DeepSeek

اجرای محلی DeepSeek V4.1-Flash-1017 همچنان به سخت‌افزاری با ظرفیت حافظه بالا نیاز دارد. حداقل حافظه رم اعلام‌شده برای راه‌اندازی این مدل ۱۲۸ گیگابایت است.

از DeepSeek V4.1-Flash-1017 در یادداشت منتشرشده به‌عنوان قوی‌ترین مدل متن‌باز عرضه‌شده تا امروز یاد شده است. بااین‌حال، اطلاعات بیشتری درباره معیار سنجش این ادعا یا نحوه محاسبه دقت حفظ‌شده در یادداشت ارائه نشده است.

منبع: گزارش رسیده از یک منبع خبری