# Poglavje 05: SLMOps - Celovit vodič za operacije z majhnimi jezikovnimi modeli ## Pregled SLMOps (Operacije z majhnimi jezikovnimi modeli) predstavlja revolucionaren pristop k uvajanju umetne inteligence, ki daje prednost učinkovitosti, stroškovni učinkovitosti in zmogljivostim robnega računalništva. Ta celovit vodič zajema celoten življenjski cikel operacij SLM, od razumevanja osnovnih konceptov do uvajanja modelov, pripravljenih za produkcijo. --- ## [Oddelek 1: Uvod v SLMOps](./01.IntroduceSLMOps.md) **Revolucioniranje operacij umetne inteligence na robu** To uvodno poglavje predstavlja premik paradigme od tradicionalnih operacij z velikimi jezikovnimi modeli k operacijam z majhnimi jezikovnimi modeli (SLMOps). Spoznali boste, kako SLMOps rešuje ključne izzive uvajanja umetne inteligence v velikem obsegu, hkrati pa ohranja stroškovno učinkovitost in skladnost z zasebnostjo. **Kaj boste izvedeli:** - Pojav in pomen SLMOps v sodobni strategiji umetne inteligence - Kako SLM-ji premoščajo vrzel med zmogljivostjo in učinkovitostjo virov - Osnovna operativna načela, vključno z inteligentnim upravljanjem virov in arhitekturo, ki daje prednost zasebnosti - Izzivi pri uvajanju v resničnem svetu in njihove rešitve - Strateški poslovni vpliv in konkurenčne prednosti **Ključna misel:** SLMOps demokratizira uvajanje umetne inteligence, saj omogoča napredne zmogljivosti jezikovne obdelave organizacijam z omejeno tehnično infrastrukturo, kar omogoča hitrejše razvojne cikle in bolj predvidljive operativne stroške. --- ## [Oddelek 2: Destilacija modelov - od teorije do prakse](./02.SLMOps-Distillation.md) **Ustvarjanje učinkovitih modelov s prenosom znanja** Destilacija modelov je temeljna tehnika za ustvarjanje manjših, bolj učinkovitih modelov, ki ohranjajo zmogljivost svojih večjih različic. To poglavje ponuja celovit vodič za izvajanje delovnih tokov destilacije, ki prenašajo znanje iz velikih učiteljskih modelov na kompaktne študentske modele. **Kaj boste izvedeli:** - Osnovni koncepti in prednosti destilacije modelov - Dvostopenjski proces destilacije: generiranje sintetičnih podatkov in usposabljanje študentskega modela - Praktične strategije izvajanja z uporabo najsodobnejših modelov, kot sta DeepSeek V3 in Phi-4-mini - Delovni tokovi destilacije v Azure ML s praktičnimi primeri - Najboljše prakse za nastavitev hiperparametrov in strategije ocenjevanja - Primeri iz resničnega sveta, ki prikazujejo pomembne izboljšave stroškov in zmogljivosti **Ključna misel:** Destilacija modelov omogoča organizacijam dosego 85% zmanjšanja časa sklepanja in 95% zmanjšanja zahtev po pomnilniku, hkrati pa ohranja 92% natančnosti izvirnega modela, kar omogoča praktično uvajanje naprednih zmogljivosti umetne inteligence. --- ## [Oddelek 3: Fino prilagajanje - prilagajanje modelov za specifične naloge](./03.SLMOps-Finetuing.md) **Prilagajanje predhodno usposobljenih modelov vašim edinstvenim zahtevam** Fino prilagajanje preoblikuje modele splošnega namena v specializirane rešitve, prilagojene vašim specifičnim primerom uporabe in področjem. To poglavje zajema vse od osnovne prilagoditve parametrov do naprednih tehnik, kot sta LoRA in QLoRA, za učinkovito prilagajanje modelov. **Kaj boste izvedeli:** - Celovit pregled metodologij finega prilagajanja in njihovih aplikacij - Različne vrste finega prilagajanja: popolno fino prilagajanje, prilagajanje parametrov (PEFT) in pristopi, specifični za naloge - Praktično izvajanje z uporabo Microsoft Olive s praktičnimi primeri - Napredne tehnike, vključno z večadapternim usposabljanjem in optimizacijo hiperparametrov - Najboljše prakse za pripravo podatkov, konfiguracijo usposabljanja in upravljanje virov - Pogosti izzivi in preverjene rešitve za uspešne projekte finega prilagajanja **Ključna misel:** Fino prilagajanje z orodji, kot je Microsoft Olive, omogoča organizacijam učinkovito prilagajanje predhodno usposobljenih modelov specifičnim potrebam, hkrati pa optimizira zmogljivost in omejitve virov, kar omogoča dostop do najsodobnejše umetne inteligence v različnih aplikacijah. --- ## [Oddelek 4: Uvajanje - implementacija modelov, pripravljenih za produkcijo](./04.SLMOps.Deployment.md) **Uvajanje fino prilagojenih modelov v produkcijo z Foundry Local** Zadnje poglavje se osredotoča na ključno fazo uvajanja, ki zajema pretvorbo modelov, kvantizacijo in konfiguracijo za produkcijo. Naučili se boste, kako uvajati fino prilagojene kvantizirane modele z uporabo Foundry Local za optimalno zmogljivost in uporabo virov. **Kaj boste izvedeli:** - Popolni postopki nastavitve okolja in namestitve orodij - Tehnike pretvorbe modelov in kvantizacije za različne scenarije uvajanja - Konfiguracija uvajanja Foundry Local z optimizacijami, specifičnimi za model - Metodologije za primerjavo zmogljivosti in validacijo kakovosti - Reševanje pogostih težav pri uvajanju in strategije optimizacije - Najboljše prakse za spremljanje produkcije in vzdrževanje **Ključna misel:** Pravilna konfiguracija uvajanja s tehnikami kvantizacije lahko doseže do 75% zmanjšanje velikosti, hkrati pa ohranja sprejemljivo kakovost modela, kar omogoča učinkovito uvajanje v produkcijo na različnih strojnih konfiguracijah. --- ## Začetek Ta vodič je zasnovan tako, da vas popelje skozi celotno potovanje SLMOps, od razumevanja osnovnih konceptov do implementacije modelov, pripravljenih za produkcijo. Vsako poglavje gradi na prejšnjem, kar zagotavlja tako teoretično razumevanje kot praktične veščine izvajanja. Ne glede na to, ali ste podatkovni znanstvenik, ki želi optimizirati uvajanje modelov, DevOps inženir, ki izvaja operacije umetne inteligence, ali tehnični vodja, ki ocenjuje SLMOps za svojo organizacijo, ta celovit vodič ponuja znanje in orodja, potrebna za uspešno izvajanje operacij z majhnimi jezikovnimi modeli. **Pripravljeni začeti?** Začnite s 1. poglavjem, da razumete osnovna načela SLMOps in zgradite temelje za napredne tehnike izvajanja, obravnavane v naslednjih poglavjih. --- **Omejitev odgovornosti**: Ta dokument je bil preveden z uporabo storitve za prevajanje z umetno inteligenco [Co-op Translator](https://github.com/Azure/co-op-translator). Čeprav si prizadevamo za natančnost, vas prosimo, da upoštevate, da lahko avtomatizirani prevodi vsebujejo napake ali netočnosti. Izvirni dokument v njegovem maternem jeziku je treba obravnavati kot avtoritativni vir. Za ključne informacije priporočamo profesionalni človeški prevod. Ne prevzemamo odgovornosti za morebitna nesporazumevanja ali napačne razlage, ki bi nastale zaradi uporabe tega prevoda.