Transformers يضيف دعمًا لتشغيل نماذج GGUF (llama.cpp) المكمَّمة
أضافت Hugging Face دعمًا في مكتبة transformers لتشغيل نماذج GGUF (نقاط تفتيش مكمَّمة من llama.cpp) محليًا عبر from_pretrained وkernels، مع تركيز مبدئي على Apple Silicon ومعمارية Qwen3.5.
ما الذي تغير
بات بإمكان Transformers تحميل وتشغيل نقاط تفتيش GGUF (مثال: unsloth/Qwen3.5-4B-GGUF:Qwen3.5-4B-Q4_K_M.gguf) باستخدام ggml/Metal kernels وAPI القياسي from_pretrained.
لماذا يهم
يمكن للمطوّرين على أجهزة Mac بمعالج Apple Silicon تشغيل وتقييم وتقديم نقاط تفتيش GGUF المكمَّمة في Python/PyTorch عبر transformers، مما يمكّن من إجراءات توليد واختبار محليّة.
لمن يهم
المطورونالباحثون
يستحق التجربة
نعم — يتطلب جهاز Mac بمعالج Apple Silicon، وtransformers (main)، وkernels متوافقة.