# الفصل الرابع: تحويل تنسيق النماذج والتكميم - نظرة عامة على الفصل ظهور الذكاء الاصطناعي على الحافة (EdgeAI) جعل تحويل تنسيق النماذج وتقنيات التكميم ضرورية لنشر قدرات تعلم الآلة المتقدمة على الأجهزة ذات الموارد المحدودة. يقدم هذا الفصل الشامل دليلًا كاملًا لفهم وتنفيذ وتحسين النماذج لسيناريوهات النشر على الحافة. ## 📚 هيكل الفصل ومسار التعلم تم تنظيم هذا الفصل في سبعة أقسام متتالية، كل منها يبني على الآخر لتوفير فهم شامل لتحسين النماذج للحوسبة على الحافة: --- ## [القسم الأول: أساسيات تحويل تنسيق النماذج والتكميم](./01.Introduce.md) ### 🎯 نظرة عامة يؤسس هذا القسم الأساسي الإطار النظري لتحسين النماذج في بيئات الحوسبة على الحافة، ويغطي حدود التكميم من دقة 1-بت إلى 8-بت واستراتيجيات تحويل التنسيق الرئيسية. **المواضيع الرئيسية:** - إطار تصنيف الدقة (دقة منخفضة جدًا، منخفضة، متوسطة) - مزايا واستخدامات تنسيقات GGUF وONNX - فوائد التكميم للكفاءة التشغيلية ومرونة النشر - مقارنات الأداء والبصمة الذاكرية **نتائج التعلم:** - فهم حدود التكميم والتصنيفات - تحديد تقنيات تحويل التنسيق المناسبة - تعلم استراتيجيات تحسين متقدمة للنشر على الحافة --- ## [القسم الثاني: دليل تنفيذ Llama.cpp](./02.Llamacpp.md) ### 🎯 نظرة عامة دليل شامل لتنفيذ Llama.cpp، إطار عمل قوي بلغة C++ يتيح استنتاج نماذج اللغة الكبيرة بكفاءة مع إعداد بسيط عبر تكوينات الأجهزة المختلفة. **المواضيع الرئيسية:** - التثبيت عبر منصات Windows وmacOS وLinux - تحويل تنسيق GGUF ومستويات التكميم المختلفة (Q2_K إلى Q8_0) - تسريع الأجهزة باستخدام CUDA وMetal وOpenCL وVulkan - تكامل Python واستراتيجيات النشر في الإنتاج **نتائج التعلم:** - إتقان التثبيت عبر المنصات والبناء من المصدر - تنفيذ تقنيات التكميم وتحسين النماذج - نشر النماذج في وضع الخادم مع تكامل REST API --- ## [القسم الثالث: مجموعة تحسين Microsoft Olive](./03.MicrosoftOlive.md) ### 🎯 نظرة عامة استكشاف Microsoft Olive، أداة تحسين النماذج الموجهة للأجهزة مع أكثر من 40 مكون تحسين مدمج، مصممة لنشر النماذج على مستوى المؤسسات عبر منصات الأجهزة المختلفة. **المواضيع الرئيسية:** - ميزات التحسين التلقائي مع التكميم الديناميكي والثابت - ذكاء موجه للأجهزة للنشر على CPU وGPU وNPU - دعم النماذج الشهيرة (Llama، Phi، Qwen، Gemma) مباشرة - تكامل المؤسسات مع Azure ML وعمليات الإنتاج **نتائج التعلم:** - الاستفادة من التحسين التلقائي للهياكل النموذجية المختلفة - تنفيذ استراتيجيات النشر عبر المنصات - إنشاء خطوط تحسين جاهزة للمؤسسات --- ## [القسم الرابع: مجموعة تحسين OpenVINO Toolkit](./04.openvino.md) ### 🎯 نظرة عامة استكشاف شامل لأداة OpenVINO من Intel، منصة مفتوحة المصدر لنشر حلول الذكاء الاصطناعي عالية الأداء عبر السحابة، المواقع المحلية، وبيئات الحافة مع قدرات متقدمة لإطار ضغط الشبكات العصبية (NNCF). **المواضيع الرئيسية:** - النشر عبر المنصات مع تسريع الأجهزة (CPU، GPU، VPU، مسرعات الذكاء الاصطناعي) - إطار ضغط الشبكات العصبية (NNCF) للتكميم والتقليم المتقدم - OpenVINO GenAI لتحسين ونشر نماذج اللغة الكبيرة - قدرات خادم النماذج على مستوى المؤسسات واستراتيجيات النشر القابلة للتوسع **نتائج التعلم:** - إتقان تحويل النماذج وتحسينها باستخدام OpenVINO - تنفيذ تقنيات التكميم المتقدمة باستخدام NNCF - نشر نماذج محسنة عبر منصات الأجهزة المختلفة باستخدام خادم النماذج --- ## [القسم الخامس: استكشاف عميق لإطار Apple MLX](./05.AppleMLX.md) ### 🎯 نظرة عامة تغطية شاملة لإطار Apple MLX، إطار ثوري مصمم خصيصًا لتعلم الآلة بكفاءة على Apple Silicon، مع التركيز على قدرات نماذج اللغة الكبيرة والنشر المحلي. **المواضيع الرئيسية:** - مزايا بنية الذاكرة الموحدة وMetal Performance Shaders - دعم نماذج LLaMA وMistral وPhi-3 وQwen وCode Llama - ضبط LoRA لتخصيص النماذج بكفاءة - تكامل Hugging Face ودعم التكميم (4-بت و8-بت) **نتائج التعلم:** - إتقان تحسين Apple Silicon لنشر نماذج اللغة الكبيرة - تنفيذ تقنيات التخصيص وضبط النماذج - بناء تطبيقات ذكاء اصطناعي للمؤسسات مع ميزات خصوصية محسنة --- ## [القسم السادس: توليف سير عمل تطوير الذكاء الاصطناعي على الحافة](./06.workflow-synthesis.md) ### 🎯 نظرة عامة توليف شامل لجميع أطر التحسين في سير عمل موحد، مصفوفات اتخاذ القرار، وأفضل الممارسات للنشر الجاهز للإنتاج للذكاء الاصطناعي على الحافة عبر منصات واستخدامات متنوعة بما في ذلك الأجهزة المحمولة، سطح المكتب، وبيئات السحابة. **المواضيع الرئيسية:** - بنية سير عمل موحدة تدمج أطر التحسين المتعددة - أشجار اتخاذ القرار لاختيار الإطار وتحليل التنازلات في الأداء - التحقق من الجاهزية للإنتاج واستراتيجيات النشر الشاملة - استراتيجيات الاستعداد للمستقبل للأجهزة والهياكل النموذجية الناشئة **نتائج التعلم:** - إتقان اختيار الأطر المنهجية بناءً على المتطلبات والقيود - تنفيذ خطوط إنتاج الذكاء الاصطناعي على الحافة مع مراقبة شاملة - تصميم سير عمل قابل للتكيف يتطور مع التقنيات والمتطلبات الناشئة --- ## [القسم السابع: مجموعة تحسين Qualcomm QNN](./07.QualcommQNN.md) ### 🎯 نظرة عامة استكشاف شامل لـ Qualcomm QNN (شبكة Qualcomm العصبية)، إطار استنتاج ذكاء اصطناعي موحد مصمم للاستفادة من بنية الحوسبة المتنوعة من Qualcomm بما في ذلك Hexagon NPU وAdreno GPU وKryo CPU لتحقيق أقصى أداء وكفاءة طاقة على الأجهزة المحمولة والحافة. **المواضيع الرئيسية:** - الحوسبة المتنوعة مع الوصول الموحد إلى NPU وGPU وCPU - تحسين موجه للأجهزة لمنصات Snapdragon مع توزيع ذكي للأعباء - تقنيات التكميم المتقدمة (INT8، INT16، دقة مختلطة) للنشر على الأجهزة المحمولة - استنتاج فعال للطاقة محسّن للأجهزة التي تعمل بالبطارية والتطبيقات في الوقت الفعلي **نتائج التعلم:** - إتقان تسريع الأجهزة من Qualcomm لنشر الذكاء الاصطناعي على الأجهزة المحمولة - تنفيذ استراتيجيات تحسين فعالة للطاقة للحوسبة على الحافة - نشر نماذج جاهزة للإنتاج عبر نظام Qualcomm البيئي بأداء مثالي --- ## 🎯 نتائج التعلم من الفصل عند إكمال هذا الفصل الشامل، سيحقق القراء: ### **إتقان تقني** - فهم عميق لحدود التكميم وتطبيقاتها العملية - تجربة عملية مع أطر تحسين متعددة - مهارات نشر الإنتاج لبيئات الحوسبة على الحافة ### **فهم استراتيجي** - قدرات اختيار التحسين الموجهة للأجهزة - اتخاذ قرارات مستنيرة بشأن تنازلات الأداء - استراتيجيات النشر والمراقبة الجاهزة للمؤسسات ### **معايير الأداء** | الإطار | التكميم | استخدام الذاكرة | تحسين السرعة | حالة الاستخدام | |--------|---------|-----------------|--------------|----------------| | Llama.cpp | Q4_K_M | ~4GB | 2-3x | النشر عبر المنصات | | Olive | INT4 | تقليل بنسبة 60-75% | 2-6x | سير عمل المؤسسات | | OpenVINO | INT8/INT4 | تقليل بنسبة 50-75% | 2-5x | تحسين أجهزة Intel | | QNN | INT8/INT4 | تقليل بنسبة 50-80% | 5-15x | الأجهزة المحمولة/الحافة من Qualcomm | | MLX | 4-bit | ~4GB | 2-4x | تحسين Apple Silicon | ## 🚀 الخطوات التالية والتطبيقات المتقدمة يوفر هذا الفصل أساسًا كاملاً لـ: - تطوير نماذج مخصصة لمجالات محددة - البحث في تحسين الذكاء الاصطناعي على الحافة - تطوير تطبيقات ذكاء اصطناعي تجارية - نشر الذكاء الاصطناعي على الحافة على مستوى المؤسسات بشكل واسع النطاق المعرفة المكتسبة من هذه الأقسام السبعة تقدم مجموعة أدوات شاملة للتنقل في المشهد المتطور بسرعة لتحسين ونشر نماذج الذكاء الاصطناعي على الحافة. --- **إخلاء المسؤولية**: تم ترجمة هذا المستند باستخدام خدمة الترجمة بالذكاء الاصطناعي [Co-op Translator](https://github.com/Azure/co-op-translator). بينما نسعى لتحقيق الدقة، يرجى العلم أن الترجمات الآلية قد تحتوي على أخطاء أو عدم دقة. يجب اعتبار المستند الأصلي بلغته الأصلية المصدر الرسمي. للحصول على معلومات حاسمة، يُوصى بالترجمة البشرية الاحترافية. نحن غير مسؤولين عن أي سوء فهم أو تفسيرات خاطئة تنشأ عن استخدام هذه الترجمة.