# Bab 05 : SLMOps - Panduan Komprehensif Operasi Model Bahasa Kecil ## Gambaran Keseluruhan SLMOps (Operasi Model Bahasa Kecil) mewakili pendekatan revolusioner dalam pelaksanaan AI yang mengutamakan kecekapan, keberkesanan kos, dan keupayaan pengkomputeran tepi. Panduan komprehensif ini merangkumi keseluruhan kitaran hayat operasi SLM, daripada memahami konsep asas hingga melaksanakan pelaksanaan yang sedia untuk produksi. --- ## [Bahagian 1: Pengenalan kepada SLMOps](./01.IntroduceSLMOps.md) **Merevolusikan Operasi AI di Tepi** Bab asas ini memperkenalkan perubahan paradigma daripada operasi AI berskala besar tradisional kepada Operasi Model Bahasa Kecil (SLMOps). Anda akan mengetahui bagaimana SLMOps menangani cabaran kritikal dalam melaksanakan AI pada skala besar sambil mengekalkan keberkesanan kos dan pematuhan privasi. **Apa yang Akan Anda Pelajari:** - Kemunculan dan kepentingan SLMOps dalam strategi AI moden - Bagaimana SLM menjembatani jurang antara prestasi dan kecekapan sumber - Prinsip operasi teras termasuk pengurusan sumber pintar dan seni bina yang mengutamakan privasi - Cabaran pelaksanaan dunia nyata dan penyelesaiannya - Impak strategik perniagaan dan kelebihan daya saing **Intipati Utama:** SLMOps mendemokrasikan pelaksanaan AI dengan menjadikan keupayaan pemprosesan bahasa yang maju dapat diakses oleh organisasi dengan infrastruktur teknikal yang terhad, membolehkan kitaran pembangunan yang lebih pantas dan kos operasi yang lebih dapat diramal. --- ## [Bahagian 2: Distilasi Model - Dari Teori ke Praktik](./02.SLMOps-Distillation.md) **Mencipta Model Cekap Melalui Pemindahan Pengetahuan** Distilasi model adalah teknik utama untuk mencipta model yang lebih kecil dan cekap yang mengekalkan prestasi model yang lebih besar. Bab ini menyediakan panduan komprehensif untuk melaksanakan aliran kerja distilasi yang memindahkan pengetahuan daripada model guru besar kepada model pelajar yang padat. **Apa yang Akan Anda Pelajari:** - Konsep asas dan manfaat distilasi model - Proses distilasi dua peringkat: penjanaan data sintetik dan latihan model pelajar - Strategi pelaksanaan praktikal menggunakan model terkini seperti DeepSeek V3 dan Phi-4-mini - Aliran kerja distilasi Azure ML dengan contoh praktikal - Amalan terbaik untuk penalaan hiperparameter dan strategi penilaian - Kajian kes dunia nyata yang menunjukkan peningkatan kos dan prestasi yang signifikan **Intipati Utama:** Distilasi model membolehkan organisasi mencapai pengurangan masa inferens sebanyak 85% dan penurunan keperluan memori sebanyak 95% sambil mengekalkan 92% ketepatan model asal, menjadikan keupayaan AI yang maju dapat dilaksanakan secara praktikal. --- ## [Bahagian 3: Penalaan - Menyesuaikan Model untuk Tugas Tertentu](./03.SLMOps-Finetuing.md) **Menyesuaikan Model Pra-latih kepada Keperluan Unik Anda** Penalaan mengubah model tujuan umum menjadi penyelesaian khusus yang disesuaikan dengan kes penggunaan dan domain anda. Bab ini merangkumi segala-galanya daripada penyesuaian parameter asas hingga teknik lanjutan seperti LoRA dan QLoRA untuk penyesuaian model yang cekap. **Apa yang Akan Anda Pelajari:** - Gambaran keseluruhan metodologi penalaan dan aplikasinya - Jenis penalaan yang berbeza: penalaan penuh, penalaan cekap parameter (PEFT), dan pendekatan khusus tugas - Pelaksanaan praktikal menggunakan Microsoft Olive dengan contoh praktikal - Teknik lanjutan termasuk latihan multi-adapter dan pengoptimuman hiperparameter - Amalan terbaik untuk penyediaan data, konfigurasi latihan, dan pengurusan sumber - Cabaran biasa dan penyelesaian terbukti untuk projek penalaan yang berjaya **Intipati Utama:** Penalaan dengan alat seperti Microsoft Olive membolehkan organisasi menyesuaikan model pra-latih dengan keperluan khusus sambil mengoptimumkan prestasi dan kekangan sumber, menjadikan AI terkini dapat diakses di pelbagai aplikasi. --- ## [Bahagian 4: Pelaksanaan - Pelaksanaan Model Sedia Produksi](./04.SLMOps.Deployment.md) **Membawa Model yang Ditala ke Produksi dengan Foundry Local** Bab terakhir ini memberi tumpuan kepada fasa pelaksanaan kritikal, merangkumi penukaran model, kuantisasi, dan konfigurasi produksi. Anda akan belajar bagaimana melaksanakan model yang ditala dan dikuantisasi menggunakan Foundry Local untuk prestasi dan penggunaan sumber yang optimum. **Apa yang Akan Anda Pelajari:** - Prosedur persediaan persekitaran lengkap dan pemasangan alat - Teknik penukaran dan kuantisasi model untuk senario pelaksanaan yang berbeza - Konfigurasi pelaksanaan Foundry Local dengan pengoptimuman khusus model - Metodologi penanda aras prestasi dan pengesahan kualiti - Penyelesaian masalah isu pelaksanaan biasa dan strategi pengoptimuman - Amalan terbaik untuk pemantauan dan penyelenggaraan produksi **Intipati Utama:** Konfigurasi pelaksanaan yang betul dengan teknik kuantisasi boleh mencapai pengurangan saiz sehingga 75% sambil mengekalkan kualiti model yang boleh diterima, membolehkan pelaksanaan produksi yang cekap di pelbagai konfigurasi perkakasan. --- ## Memulakan Panduan ini direka untuk membawa anda melalui perjalanan SLMOps yang lengkap, daripada memahami konsep asas hingga melaksanakan pelaksanaan yang sedia untuk produksi. Setiap bab dibina berdasarkan bab sebelumnya, menyediakan pemahaman teori dan kemahiran pelaksanaan praktikal. Sama ada anda seorang saintis data yang ingin mengoptimumkan pelaksanaan model, jurutera DevOps yang melaksanakan operasi AI, atau pemimpin teknikal yang menilai SLMOps untuk organisasi anda, panduan komprehensif ini menyediakan pengetahuan dan alat yang diperlukan untuk melaksanakan Operasi Model Bahasa Kecil dengan berjaya. **Sedia untuk bermula?** Mulakan dengan Bab 1 untuk memahami prinsip asas SLMOps dan bina asas anda untuk teknik pelaksanaan lanjutan yang dibincangkan dalam bab-bab seterusnya. --- **Penafian**: Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI [Co-op Translator](https://github.com/Azure/co-op-translator). Walaupun kami berusaha untuk memastikan ketepatan, sila ambil perhatian bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang berwibawa. Untuk maklumat yang kritikal, terjemahan manusia profesional adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.