# Розділ 05: SLMOps - Всеосяжний посібник з операцій малих мовних моделей ## Огляд SLMOps (Операції малих мовних моделей) представляє революційний підхід до впровадження штучного інтелекту, який акцентує увагу на ефективності, економічності та можливостях обчислень на периферії. Цей всеосяжний посібник охоплює повний життєвий цикл операцій SLM, від розуміння основних концепцій до впровадження готових до виробництва рішень. --- ## [Розділ 1: Вступ до SLMOps](./01.IntroduceSLMOps.md) **Революція в операціях штучного інтелекту на периферії** Цей базовий розділ представляє зміну парадигми від традиційних операцій великих моделей штучного інтелекту до операцій малих мовних моделей (SLMOps). Ви дізнаєтеся, як SLMOps вирішує критичні проблеми впровадження штучного інтелекту в масштабі, зберігаючи при цьому економічну ефективність і відповідність вимогам конфіденційності. **Що ви дізнаєтеся:** - Виникнення та значення SLMOps у сучасній стратегії штучного інтелекту - Як малі мовні моделі поєднують продуктивність і ефективність використання ресурсів - Основні принципи операцій, включаючи інтелектуальне управління ресурсами та архітектуру з пріоритетом конфіденційності - Виклики реального впровадження та їх вирішення - Стратегічний вплив на бізнес і конкурентні переваги **Основний висновок:** SLMOps демократизує впровадження штучного інтелекту, роблячи передові можливості обробки мов доступними для організацій з обмеженою технічною інфраструктурою, забезпечуючи швидші цикли розробки та більш передбачувані операційні витрати. --- ## [Розділ 2: Дистиляція моделей - від теорії до практики](./02.SLMOps-Distillation.md) **Створення ефективних моделей через передачу знань** Дистиляція моделей є основною технікою для створення менших, більш ефективних моделей, які зберігають продуктивність своїх більших аналогів. Цей розділ пропонує всеосяжний посібник з впровадження робочих процесів дистиляції, які передають знання від великих моделей-вчителів до компактних моделей-учнів. **Що ви дізнаєтеся:** - Основні концепції та переваги дистиляції моделей - Двоетапний процес дистиляції: генерація синтетичних даних і навчання моделі-учня - Практичні стратегії впровадження з використанням передових моделей, таких як DeepSeek V3 і Phi-4-mini - Робочі процеси дистиляції в Azure ML з практичними прикладами - Найкращі практики налаштування гіперпараметрів і стратегії оцінки - Реальні кейси, що демонструють значне покращення продуктивності та зниження витрат **Основний висновок:** Дистиляція моделей дозволяє організаціям досягти 85% скорочення часу інференсу та 95% зменшення вимог до пам'яті, зберігаючи 92% точності оригінальної моделі, що робить передові можливості штучного інтелекту практично впроваджуваними. --- ## [Розділ 3: Тонке налаштування - адаптація моделей до конкретних завдань](./03.SLMOps-Finetuing.md) **Адаптація попередньо навчених моделей до ваших унікальних вимог** Тонке налаштування перетворює моделі загального призначення на спеціалізовані рішення, адаптовані до ваших конкретних випадків використання та доменів. Цей розділ охоплює все, від базового налаштування параметрів до передових технік, таких як LoRA і QLoRA, для ефективної кастомізації моделей. **Що ви дізнаєтеся:** - Всеосяжний огляд методологій тонкого налаштування та їх застосування - Різні типи тонкого налаштування: повне налаштування, налаштування з ефективним використанням параметрів (PEFT) і підходи, орієнтовані на завдання - Практичне впровадження з використанням Microsoft Olive з реальними прикладами - Передові техніки, включаючи навчання з кількома адаптерами та оптимізацію гіперпараметрів - Найкращі практики підготовки даних, конфігурації навчання та управління ресурсами - Поширені проблеми та перевірені рішення для успішних проектів тонкого налаштування **Основний висновок:** Тонке налаштування за допомогою інструментів, таких як Microsoft Olive, дозволяє організаціям ефективно адаптувати попередньо навчені моделі до конкретних потреб, оптимізуючи продуктивність і використання ресурсів, роблячи передовий штучний інтелект доступним для різноманітних застосувань. --- ## [Розділ 4: Впровадження - реалізація моделей, готових до виробництва](./04.SLMOps.Deployment.md) **Впровадження налаштованих моделей у виробництво за допомогою Foundry Local** Останній розділ зосереджений на критичній фазі впровадження, охоплюючи конверсію моделей, квантизацію та конфігурацію для виробництва. Ви дізнаєтеся, як впроваджувати налаштовані квантизовані моделі за допомогою Foundry Local для оптимальної продуктивності та використання ресурсів. **Що ви дізнаєтеся:** - Повна процедура налаштування середовища та встановлення інструментів - Техніки конверсії моделей і квантизації для різних сценаріїв впровадження - Конфігурація впровадження Foundry Local з оптимізацією для конкретних моделей - Методології оцінки продуктивності та перевірки якості - Вирішення поширених проблем впровадження та стратегії оптимізації - Найкращі практики моніторингу та підтримки у виробництві **Основний висновок:** Правильна конфігурація впровадження з техніками квантизації може досягти до 75% скорочення розміру моделі, зберігаючи прийнятну якість, що дозволяє ефективно впроваджувати моделі у виробництво на різних апаратних конфігураціях. --- ## Початок роботи Цей посібник розроблений для того, щоб провести вас через повну подорож SLMOps, від розуміння основних концепцій до впровадження готових до виробництва рішень. Кожен розділ базується на попередньому, забезпечуючи як теоретичне розуміння, так і практичні навички впровадження. Незалежно від того, чи ви є дата-сайєнтистом, який прагне оптимізувати впровадження моделей, DevOps-інженером, що реалізує операції штучного інтелекту, чи технічним лідером, який оцінює SLMOps для своєї організації, цей всеосяжний посібник надає знання та інструменти, необхідні для успішного впровадження операцій малих мовних моделей. **Готові розпочати?** Почніть з Розділу 1, щоб зрозуміти основні принципи SLMOps і закласти основу для передових технік впровадження, які розглядаються у наступних розділах. --- **Відмова від відповідальності**: Цей документ був перекладений за допомогою сервісу автоматичного перекладу [Co-op Translator](https://github.com/Azure/co-op-translator). Хоча ми прагнемо до точності, будь ласка, майте на увазі, що автоматичні переклади можуть містити помилки або неточності. Оригінальний документ на його рідній мові слід вважати авторитетним джерелом. Для критичної інформації рекомендується професійний людський переклад. Ми не несемо відповідальності за будь-які непорозуміння або неправильні тлумачення, що виникають внаслідок використання цього перекладу.