gguf

  1. الرُمح

    شرح شرح تقنية Quantization: كيف تشغّل نماذج الذكاء الاصطناعي الضخمة على كرت شاشة متوسط؟

    ربما شاهدت نموذجًا مفتوح المصدر قويًا وقرأت أنه يحتاج إلى 140 جيجابايت من ذاكرة كرت الشاشة، فقلت في نفسك: هذا ليس لي. لكن الحقيقة أن معظم من يشغلون النماذج على أجهزتهم الشخصية لا يستخدمون النسخة الأصلية، بل نسخة مضغوطة بفضل تقنية Quantization أو التكميم. هذه التقنية هي السبب في أنك تستطيع اليوم...
عودة
أعلى