# פרק 05: SLMOps - מדריך מקיף לתפעול מודלים קטנים לעיבוד שפה ## סקירה כללית SLMOps (תפעול מודלים קטנים לעיבוד שפה) מייצג גישה מהפכנית לפריסת בינה מלאכותית, המעדיפה יעילות, חיסכון בעלויות ויכולות מחשוב בקצה. מדריך מקיף זה מכסה את מחזור החיים המלא של תפעול מודלים קטנים, החל מהבנת המושגים הבסיסיים ועד ליישום פריסות מוכנות לייצור. --- ## [סעיף 1: מבוא ל-SLMOps](./01.IntroduceSLMOps.md) **מהפכה בתפעול בינה מלאכותית בקצה** פרק יסודי זה מציג את המעבר מפריסות בינה מלאכותית בקנה מידה גדול לתפעול מודלים קטנים לעיבוד שפה (SLMOps). תגלו כיצד SLMOps מתמודד עם האתגרים הקריטיים של פריסת בינה מלאכותית בקנה מידה, תוך שמירה על יעילות כלכלית ועמידה בדרישות פרטיות. **מה תלמדו:** - הופעתו וחשיבותו של SLMOps באסטרטגיית בינה מלאכותית מודרנית - כיצד מודלים קטנים מגשרים על הפער בין ביצועים ליעילות משאבים - עקרונות תפעוליים מרכזיים, כולל ניהול משאבים חכם וארכיטקטורה ממוקדת פרטיות - אתגרי יישום בעולם האמיתי ופתרונותיהם - השפעה עסקית אסטרטגית ויתרונות תחרותיים **תובנה מרכזית:** SLMOps מנגיש את פריסת הבינה המלאכותית על ידי הפיכת יכולות עיבוד שפה מתקדמות לזמינות לארגונים עם תשתית טכנית מוגבלת, ומאפשר מחזורי פיתוח מהירים יותר ועלויות תפעול צפויות יותר. --- ## [סעיף 2: זיקוק מודלים - מתיאוריה לפרקטיקה](./02.SLMOps-Distillation.md) **יצירת מודלים יעילים באמצעות העברת ידע** זיקוק מודלים הוא טכניקת יסוד ליצירת מודלים קטנים ויעילים יותר, השומרים על ביצועי המודלים הגדולים מהם. פרק זה מספק מדריך מקיף ליישום תהליכי זיקוק המעבירים ידע ממודלים גדולים (מודלי מורה) למודלים קטנים (מודלי תלמיד). **מה תלמדו:** - מושגי יסוד ויתרונות של זיקוק מודלים - תהליך זיקוק דו-שלבי: יצירת נתונים סינתטיים ואימון מודל תלמיד - אסטרטגיות יישום מעשיות באמצעות מודלים מתקדמים כמו DeepSeek V3 ו-Phi-4-mini - תהליכי זיקוק ב-Azure ML עם דוגמאות מעשיות - שיטות עבודה מומלצות לכיול פרמטרים ואסטרטגיות הערכה - מקרי בוחן מהעולם האמיתי המדגימים שיפורים משמעותיים בעלות וביצועים **תובנה מרכזית:** זיקוק מודלים מאפשר לארגונים להשיג הפחתה של 85% בזמן החיזוי וירידה של 95% בדרישות הזיכרון, תוך שמירה על 92% דיוק של המודל המקורי, מה שהופך יכולות בינה מלאכותית מתקדמות לברות יישום. --- ## [סעיף 3: כוונון עדין - התאמת מודלים למשימות ספציפיות](./03.SLMOps-Finetuing.md) **התאמת מודלים מוכנים מראש לדרישות הייחודיות שלכם** כוונון עדין הופך מודלים כלליים לפתרונות מותאמים אישית המיועדים למקרי השימוש והתחומים הספציפיים שלכם. פרק זה מכסה הכל, מהתאמת פרמטרים בסיסית ועד לטכניקות מתקדמות כמו LoRA ו-QLoRA להתאמה יעילה של מודלים. **מה תלמדו:** - סקירה מקיפה של שיטות כוונון עדין ויישומיהן - סוגים שונים של כוונון עדין: כוונון מלא, כוונון יעיל פרמטרית (PEFT) וגישות ממוקדות משימה - יישום מעשי באמצעות Microsoft Olive עם דוגמאות מעשיות - טכניקות מתקדמות כולל אימון רב-מתאמים ואופטימיזציית פרמטרים - שיטות עבודה מומלצות להכנת נתונים, הגדרת אימון וניהול משאבים - אתגרים נפוצים ופתרונות מוכחים לפרויקטי כוונון עדין מוצלחים **תובנה מרכזית:** כוונון עדין באמצעות כלים כמו Microsoft Olive מאפשר לארגונים להתאים ביעילות מודלים מוכנים מראש לצרכים ספציפיים, תוך אופטימיזציה לביצועים ומגבלות משאבים, מה שהופך בינה מלאכותית מתקדמת לנגישה ליישומים מגוונים. --- ## [סעיף 4: פריסה - יישום מודלים מוכנים לייצור](./04.SLMOps.Deployment.md) **הבאת מודלים מכווננים לייצור עם Foundry Local** הפרק האחרון מתמקד בשלב הקריטי של הפריסה, כולל המרת מודלים, כימות והגדרת תצורה לייצור. תלמדו כיצד לפרוס מודלים מכווננים וכוּמתים באמצעות Foundry Local לביצועים מיטביים וניצול משאבים יעיל. **מה תלמדו:** - תהליכי הגדרת סביבה והתקנת כלים - טכניקות המרת מודלים וכימות לתרחישי פריסה שונים - הגדרת תצורת פריסה ב-Foundry Local עם אופטימיזציות מותאמות למודל - מתודולוגיות לבדיקת ביצועים ואימות איכות - פתרון בעיות נפוצות ואסטרטגיות אופטימיזציה - שיטות עבודה מומלצות לניטור ותחזוקה בייצור **תובנה מרכזית:** הגדרת תצורת פריסה נכונה עם טכניקות כימות יכולה להשיג הפחתה של עד 75% בגודל המודל תוך שמירה על איכות מודל מקובלת, מה שמאפשר פריסות ייצור יעילות במגוון תצורות חומרה. --- ## התחלת העבודה מדריך זה נועד להוביל אתכם במסע המלא של SLMOps, מהבנת המושגים הבסיסיים ועד ליישום פריסות מוכנות לייצור. כל פרק בונה על קודמו, ומספק הן הבנה תיאורטית והן מיומנויות יישום מעשיות. בין אם אתם מדעני נתונים המעוניינים לייעל פריסת מודלים, מהנדסי DevOps המיישמים תפעול בינה מלאכותית, או מנהיגים טכניים המעריכים את SLMOps עבור הארגון שלכם, מדריך מקיף זה מספק את הידע והכלים הדרושים ליישום מוצלח של תפעול מודלים קטנים לעיבוד שפה. **מוכנים להתחיל?** התחילו בפרק 1 כדי להבין את העקרונות הבסיסיים של SLMOps ובנו את היסודות שלכם לטכניקות יישום מתקדמות המכוסות בפרקים הבאים. --- **כתב ויתור**: מסמך זה תורגם באמצעות שירות תרגום מבוסס AI [Co-op Translator](https://github.com/Azure/co-op-translator). למרות שאנו שואפים לדיוק, יש לקחת בחשבון שתרגומים אוטומטיים עשויים להכיל שגיאות או אי דיוקים. המסמך המקורי בשפתו המקורית צריך להיחשב כמקור סמכותי. עבור מידע קריטי, מומלץ להשתמש בתרגום מקצועי על ידי אדם. איננו נושאים באחריות לאי הבנות או לפרשנויות שגויות הנובעות משימוש בתרגום זה.