# Bab 02: Asas Model Bahasa Kecil

Bab asas yang komprehensif ini menyediakan penerokaan penting tentang Model Bahasa Kecil (SLM), merangkumi prinsip teori, strategi pelaksanaan praktikal, dan penyelesaian penyebaran yang sedia untuk pengeluaran. Bab ini membina asas pengetahuan kritikal untuk memahami seni bina AI moden yang cekap dan penyebarannya secara strategik dalam pelbagai persekitaran pengkomputeran.

## Seni Bina Bab dan Kerangka Pembelajaran Progresif

### **[Bahagian 1: Asas Keluarga Model Microsoft Phi](./01.PhiFamily.md)**
Bahagian pembukaan memperkenalkan keluarga model Phi yang inovatif dari Microsoft, menunjukkan bagaimana model yang padat dan cekap mencapai prestasi luar biasa sambil mengekalkan keperluan pengkomputeran yang jauh lebih rendah. Bahagian asas ini merangkumi:

- **Evolusi Falsafah Reka Bentuk**: Penerokaan menyeluruh tentang pembangunan keluarga Phi dari Phi-1 hingga Phi-4, menekankan metodologi latihan "kualiti buku teks" yang revolusioner dan penskalaan semasa inferens
- **Seni Bina Kecekapan Pertama**: Analisis terperinci tentang pengoptimuman kecekapan parameter, keupayaan integrasi multi-modal, dan pengoptimuman khusus perkakasan merentasi CPU, GPU, dan peranti tepi
- **Keupayaan Khusus**: Liputan mendalam tentang varian khusus domain termasuk Phi-4-mini-reasoning untuk tugas matematik, Phi-4-multimodal untuk pemprosesan penglihatan-bahasa, dan Phi-3-Silica untuk penyebaran terbina dalam Windows 11

Bahagian ini menetapkan prinsip asas bahawa kecekapan model dan keupayaan boleh wujud bersama melalui metodologi latihan inovatif dan pengoptimuman seni bina.

### **[Bahagian 2: Asas Keluarga Qwen](./02.QwenFamily.md)**
Bahagian kedua beralih kepada pendekatan sumber terbuka yang komprehensif dari Alibaba, menunjukkan bagaimana model yang telus dan boleh diakses dapat mencapai prestasi kompetitif sambil mengekalkan fleksibiliti penyebaran. Fokus utama termasuk:

- **Kecemerlangan Sumber Terbuka**: Penerokaan menyeluruh tentang evolusi Qwen dari Qwen 1.0 hingga Qwen3, menekankan latihan berskala besar (36 trilion token) dan keupayaan pelbagai bahasa merentasi 119 bahasa
- **Seni Bina Penalaran Lanjutan**: Liputan terperinci tentang keupayaan "mod berfikir" inovatif Qwen3, pelaksanaan campuran pakar, dan varian khusus untuk pengkodan (Qwen-Coder) dan matematik (Qwen-Math)
- **Pilihan Penyebaran Boleh Skala**: Analisis mendalam tentang julat parameter dari 0.5B hingga 235B parameter, membolehkan senario penyebaran dari peranti mudah alih hingga kluster perusahaan

Bahagian ini menekankan pendemokrasian teknologi AI melalui aksesibiliti sumber terbuka sambil mengekalkan ciri prestasi kompetitif.

### **[Bahagian 3: Asas Keluarga Gemma](./03.GemmaFamily.md)**
Bahagian ketiga meneroka pendekatan komprehensif Google terhadap AI multimodal sumber terbuka, mempamerkan bagaimana pembangunan berasaskan penyelidikan dapat memberikan keupayaan AI yang boleh diakses tetapi berkuasa. Bahagian ini merangkumi:

- **Inovasi Berasaskan Penyelidikan**: Liputan menyeluruh tentang seni bina Gemma 3 dan Gemma 3n, menampilkan teknologi Per-Layer Embeddings (PLE) yang inovatif dan strategi pengoptimuman mudah alih
- **Kecemerlangan Multimodal**: Penerokaan terperinci tentang integrasi penglihatan-bahasa, keupayaan pemprosesan audio, dan ciri panggilan fungsi yang membolehkan pengalaman AI yang menyeluruh
- **Seni Bina Mudah Alih Pertama**: Analisis mendalam tentang pencapaian kecekapan revolusioner Gemma 3n, memberikan prestasi parameter 2B-4B yang efektif dengan jejak memori serendah 2-3GB

Bahagian ini menunjukkan bagaimana penyelidikan terkini dapat diterjemahkan kepada penyelesaian AI praktikal dan boleh diakses yang membolehkan kategori aplikasi baharu.

### **[Bahagian 4: Asas Keluarga BitNET](./04.BitNETFamily.md)**
Bahagian keempat mempersembahkan pendekatan revolusioner Microsoft terhadap kuantisasi 1-bit, mewakili sempadan penyebaran AI yang sangat cekap. Bahagian lanjutan ini merangkumi:

- **Kuantisasi Revolusioner**: Penerokaan menyeluruh tentang kuantisasi 1.58-bit menggunakan berat ternari {-1, 0, +1}, mencapai kelajuan 1.37x hingga 6.17x dengan pengurangan tenaga 55-82%
- **Kerangka Inferens Optimum**: Liputan terperinci tentang pelaksanaan bitnet.cpp dari [https://github.com/microsoft/BitNet](https://github.com/microsoft/BitNet), kernel khusus, dan pengoptimuman merentas platform yang memberikan peningkatan kecekapan yang belum pernah terjadi sebelumnya
- **Kepimpinan AI Lestari**: Analisis mendalam tentang manfaat alam sekitar, keupayaan penyebaran yang didemokrasikan, dan senario aplikasi baharu yang didayakan oleh kecekapan yang melampau

Bahagian ini menunjukkan bagaimana teknik kuantisasi revolusioner dapat meningkatkan kecekapan AI secara dramatik sambil mengekalkan prestasi kompetitif.

### **[Bahagian 5: Asas Model Microsoft Mu](./05.mumodel.md)**
Bahagian kelima meneroka model Mu yang inovatif dari Microsoft, direka khusus untuk penyebaran pada peranti dalam Windows. Bahagian khusus ini merangkumi:

- **Seni Bina Peranti Pertama**: Penerokaan menyeluruh tentang model khusus peranti Microsoft yang terbina dalam peranti Windows 11
- **Integrasi Sistem**: Analisis terperinci tentang integrasi mendalam Windows 11, mempamerkan bagaimana AI dapat meningkatkan fungsi sistem melalui pelaksanaan asli
- **Reka Bentuk Pemeliharaan Privasi**: Liputan mendalam tentang operasi luar talian, pemprosesan tempatan, dan seni bina pertama privasi yang menyimpan data pengguna pada peranti

Bahagian ini menunjukkan bagaimana model khusus dapat meningkatkan fungsi sistem operasi Windows 11 sambil mengekalkan privasi dan prestasi.

### **[Bahagian 6: Asas Phi-Silica](./06.phisilica.md)**
Bahagian penutup mengkaji Phi-Silica dari Microsoft, model bahasa yang sangat cekap yang terbina dalam Windows 11 untuk PC Copilot+ dengan perkakasan NPU. Bahagian lanjutan ini merangkumi:

- **Metrik Kecekapan Luar Biasa**: Analisis komprehensif tentang keupayaan prestasi Phi-Silica yang luar biasa, memberikan 650 token sesaat dengan hanya penggunaan kuasa 1.5 watt
- **Pengoptimuman NPU**: Penerokaan terperinci tentang seni bina khusus yang direka untuk Unit Pemprosesan Neural dalam PC Copilot+ Windows 11
- **Integrasi Pembangun**: Liputan mendalam tentang integrasi Windows App SDK, teknik kejuruteraan prompt, dan amalan terbaik untuk melaksanakan Phi-Silica dalam aplikasi Windows 11

Bahagian ini menetapkan sempadan seni bina model bahasa yang dioptimumkan perkakasan pada peranti, mempamerkan bagaimana seni bina model khusus yang digabungkan dengan perkakasan neural khusus dapat memberikan prestasi AI yang luar biasa pada peranti pengguna Windows 11.

## Hasil Pembelajaran Komprehensif

Setelah menyelesaikan bab asas ini, pembaca akan mencapai penguasaan dalam:

1. **Pemahaman Seni Bina**: Pemahaman mendalam tentang falsafah reka bentuk SLM yang berbeza dan implikasinya untuk senario penyebaran
2. **Keseimbangan Prestasi-Kecekapan**: Keupayaan membuat keputusan strategik untuk memilih seni bina model yang sesuai berdasarkan kekangan pengkomputeran dan keperluan prestasi
3. **Fleksibiliti Penyebaran**: Memahami pertukaran antara pengoptimuman proprietari (Phi), aksesibiliti sumber terbuka (Qwen), inovasi berasaskan penyelidikan (Gemma), dan kecekapan revolusioner (BitNET)
4. **Perspektif Sedia Masa Depan**: Wawasan tentang trend yang muncul dalam seni bina AI yang cekap dan implikasinya untuk strategi penyebaran generasi akan datang

## Fokus Pelaksanaan Praktikal

Bab ini mengekalkan orientasi praktikal yang kuat sepanjang, menampilkan:

- **Contoh Kod Lengkap**: Contoh pelaksanaan sedia pengeluaran untuk setiap keluarga model, termasuk prosedur penalaan halus, strategi pengoptimuman, dan konfigurasi penyebaran
- **Penanda Aras Komprehensif**: Perbandingan prestasi terperinci merentasi seni bina model yang berbeza, termasuk metrik kecekapan, penilaian keupayaan, dan pengoptimuman kes penggunaan
- **Keselamatan Perusahaan**: Pelaksanaan keselamatan gred pengeluaran, strategi pemantauan, dan amalan terbaik untuk penyebaran yang boleh dipercayai
- **Integrasi Kerangka**: Panduan praktikal untuk integrasi dengan kerangka popular termasuk Hugging Face Transformers, vLLM, ONNX Runtime, dan alat pengoptimuman khusus

## Peta Jalan Teknologi Strategik

Bab ini diakhiri dengan analisis yang berpandangan ke depan tentang:

- **Evolusi Seni Bina**: Trend yang muncul dalam reka bentuk model yang cekap dan pengoptimuman
- **Integrasi Perkakasan**: Kemajuan dalam pemecut AI khusus dan kesannya terhadap strategi penyebaran
- **Pembangunan Ekosistem**: Usaha standardisasi dan penambahbaikan interoperabiliti merentasi keluarga model yang berbeza
- **Adopsi Perusahaan**: Pertimbangan strategik untuk perancangan penyebaran AI organisasi

## Senario Aplikasi Dunia Nyata

Setiap bahagian menyediakan liputan komprehensif tentang aplikasi praktikal:

- **Pengkomputeran Mudah Alih dan Tepi**: Strategi penyebaran yang dioptimumkan untuk persekitaran yang terhad sumber
- **Aplikasi Perusahaan**: Penyelesaian boleh skala untuk kecerdasan perniagaan, automasi, dan perkhidmatan pelanggan
- **Teknologi Pendidikan**: AI yang boleh diakses untuk pembelajaran peribadi dan penjanaan kandungan
- **Penyebaran Global**: Aplikasi AI pelbagai bahasa dan silang budaya

## Piawaian Kecemerlangan Teknikal

Bab ini menekankan pelaksanaan sedia pengeluaran melalui:

- **Penguasaan Pengoptimuman**: Teknik kuantisasi lanjutan, pengoptimuman inferens, dan pengurusan sumber
- **Pemantauan Prestasi**: Pengumpulan metrik yang komprehensif, sistem amaran, dan analitik prestasi
- **Pelaksanaan Keselamatan**: Langkah keselamatan gred perusahaan, perlindungan privasi, dan kerangka pematuhan
- **Perancangan Skalabiliti**: Strategi penskalaan mendatar dan menegak untuk memenuhi permintaan pengkomputeran yang semakin meningkat

Bab asas ini berfungsi sebagai prasyarat penting untuk strategi penyebaran SLM lanjutan, membina pemahaman teori dan keupayaan praktikal yang diperlukan untuk pelaksanaan yang berjaya. Liputan yang komprehensif memastikan pembaca dilengkapi dengan baik untuk membuat keputusan seni bina yang bermaklumat dan melaksanakan penyelesaian AI yang kukuh dan cekap yang memenuhi keperluan organisasi khusus mereka sambil bersedia untuk perkembangan teknologi masa depan.

Bab ini merapatkan jurang antara penyelidikan AI terkini dan realiti penyebaran praktikal, menekankan bahawa seni bina SLM moden dapat memberikan prestasi luar biasa sambil mengekalkan kecekapan operasi, keberkesanan kos, dan kelestarian alam sekitar.

---

**Penafian**:  
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI [Co-op Translator](https://github.com/Azure/co-op-translator). Walaupun kami berusaha untuk memastikan ketepatan, sila ambil perhatian bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang berwibawa. Untuk maklumat yang kritikal, terjemahan manusia profesional adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.