# அத்தியாயம் 03: சிறிய மொழி மாதிரிகளை (SLMs) வெளியிடுதல்

இந்த விரிவான அத்தியாயம் சிறிய மொழி மாதிரிகளை (SLMs) வெளியிடுவதற்கான முழு வாழ்க்கைச் சுழற்சியை ஆராய்கிறது, கோட்பாட்டின் அடிப்படைகள், நடைமுறை செயல்படுத்தல் உத்திகள் மற்றும் தயாரிப்பு-தயார் கன்டெய்னர் தீர்வுகளை உள்ளடக்கியது. இந்த அத்தியாயம் மூன்று முன்னேற்றமான பிரிவுகளாக அமைக்கப்பட்டுள்ளது, வாசகர்களை அடிப்படை கருத்துக்களிலிருந்து மேம்பட்ட வெளியீட்டு சூழல்களுக்கு அழைத்துச் செல்கிறது.

## அத்தியாய அமைப்பு மற்றும் கற்றல் பயணம்

### **[பிரிவு 1: SLM மேம்பட்ட கற்றல் - அடிப்படைகள் மற்றும் மேம்பாடு](./01.SLMAdvancedLearning.md)**
துவக்கப் பிரிவு சிறிய மொழி மாதிரிகளைப் புரிந்துகொள்வதற்கான கோட்பாட்டின் அடிப்படைகளை நிறுவுகிறது மற்றும் எட்ஜ் AI வெளியீட்டில் அவற்றின் стратегиялық முக்கியத்துவத்தை விளக்குகிறது. இந்தப் பிரிவில் உள்ளடக்கப்பட்டவை:

- **அளவுரு வகைப்படுத்தல் கட்டமைப்பு**: மைக்ரோ SLMs (100M-1.4B அளவுருக்கள்) முதல் மிடியம் SLMs (14B-30B அளவுருக்கள்) வரை SLM வகைகளை விரிவாக ஆராய்வது, குறிப்பாக Phi-4-mini-3.8B, Qwen3 தொடர் மற்றும் Google Gemma3 போன்ற மாதிரிகள், ஒவ்வொரு மாதிரி நிலைக்கு தேவையான ஹார்ட்வேர தேவைகள் மற்றும் நினைவக அளவீடு பகுப்பாய்வு
- **மேம்பட்ட மேம்பாட்டு உத்திகள்**: Llama.cpp, Microsoft Olive மற்றும் Apple MLX கட்டமைப்புகளைப் பயன்படுத்தி அளவீட்டு முறைகள், BitNET 1-bit அளவீட்டின் முன்னணி தொழில்நுட்பம், அளவீட்டு குழாய்கள் மற்றும் தரவுத்தொகுப்பு முடிவுகளை காட்டும் நடைமுறை குறியீட்டு உதாரணங்கள்
- **மாதிரி பெறும் உத்திகள்**: Hugging Face சூழல் மற்றும் Azure AI Foundry Model Catalog ஆகியவற்றின் ஆழமான பகுப்பாய்வு, நிறுவன தர SLM வெளியீட்டுக்கான குறியீட்டு உதாரணங்கள், மாதிரிகளை நிரலாக்கமாக பதிவிறக்குதல், சரிபார்த்தல் மற்றும் வடிவ மாற்றம்
- **டெவலப்பர் APIs**: Python, C++, மற்றும் C# ஆகியவற்றில் மாதிரிகளை ஏற்றுதல், முன்னறிவிப்பு செயல்படுத்துதல் மற்றும் PyTorch, TensorFlow மற்றும் ONNX Runtime போன்ற பிரபலமான கட்டமைப்புகளுடன் ஒருங்கிணைத்தல் குறியீட்டு உதாரணங்கள்

இந்த அடிப்படைப் பிரிவு செயல்பாட்டு திறன், வெளியீட்டு நெகிழ்வுத்தன்மை மற்றும் செலவுக் குறைப்பை சமநிலைப்படுத்துவதைக் 강조ுகிறது, இது SLMக்களை எட்ஜ் கணினி சூழலுக்கு ஏற்றதாக ஆக்குகிறது, மேலும் டெவலப்பர்கள் தங்கள் திட்டங்களில் நேரடியாக செயல்படுத்தக்கூடிய நடைமுறை குறியீட்டு உதாரணங்களை வழங்குகிறது.

### **[பிரிவு 2: உள்ளூர் சூழல் வெளியீடு - தனியுரிமை முதன்மை தீர்வுகள்](./02.DeployingSLMinLocalEnv.md)**
இரண்டாவது பிரிவு கோட்பாட்டிலிருந்து நடைமுறை செயல்பாட்டிற்கு மாறுகிறது, தரவின் உரிமை மற்றும் செயல்பாட்டு சுதந்திரத்தை முன்னிலைப்படுத்தும் உள்ளூர் வெளியீட்டு உத்திகளை மையமாகக் கொண்டது. முக்கிய பகுதிகள்:

- **Ollama Universal Platform**: மேடைக்கடந்து வெளியீட்டை விரிவாக ஆராய்வது, டெவலப்பர்-நட்பு வேலைப்பாடுகள், மாதிரி வாழ்க்கைச் சுழற்சி மேலாண்மை மற்றும் Modelfiles மூலம் தனிப்பயனாக்கம், REST API ஒருங்கிணைப்பு உதாரணங்கள் மற்றும் CLI தானியக்க ஸ்கிரிப்ட்கள்
- **Microsoft Foundry Local**: ONNX அடிப்படையிலான மேம்பாடு, Windows ML ஒருங்கிணைப்பு மற்றும் விரிவான பாதுகாப்பு அம்சங்களுடன் நிறுவன தர வெளியீட்டு தீர்வுகள், C# மற்றும் Python குறியீட்டு உதாரணங்கள் மூலம் உள்ளூர் பயன்பாட்டை ஒருங்கிணைத்தல்
- **ஒப்பீட்டு பகுப்பாய்வு**: தொழில்நுட்ப கட்டமைப்பு, செயல்திறன் பண்புகள் மற்றும் பயன்பாட்டு மேம்பாட்டு வழிகாட்டுதல்கள் ஆகியவற்றை உள்ளடக்கிய விரிவான கட்டமைப்பு ஒப்பீடு, மாறுபட்ட ஹார்ட்வேரில் முன்னறிவிப்பு வேகம் மற்றும் நினைவக பயன்பாட்டை மதிப்பீடு செய்ய குறியீட்டு உதாரணங்கள்
- **API ஒருங்கிணைப்பு**: உள்ளூர் SLM வெளியீட்டைப் பயன்படுத்தி வலை சேவைகள், உரையாடல் பயன்பாடுகள் மற்றும் தரவுத் செயலாக்க குழாய்களை உருவாக்குவது எப்படி என்பதை காட்டும் மாதிரி பயன்பாடுகள், Node.js, Python Flask/FastAPI மற்றும் ASP.NET Core குறியீட்டு உதாரணங்கள்
- **சோதனை கட்டமைப்புகள்**: SLM செயல்பாடுகளுக்கான மாதிரி தரம் உறுதிப்படுத்தல், யூனிட் மற்றும் ஒருங்கிணைப்பு சோதனை உதாரணங்கள்

இந்தப் பிரிவு தனியுரிமையை பாதுகாக்கும் AI தீர்வுகளை செயல்படுத்த விரும்பும் நிறுவனங்களுக்கு நடைமுறை வழிகாட்டுதல்களை வழங்குகிறது, மேலும் டெவலப்பர்கள் தங்கள் குறிப்பிட்ட தேவைகளுக்கு ஏற்ப மாற்றக்கூடிய தயாராக உள்ள குறியீட்டு உதாரணங்களை வழங்குகிறது.

### **[பிரிவு 3: கன்டெய்னர்மயமான மேக வெளியீடு - தயாரிப்பு அளவிலான தீர்வுகள்](./03.DeployingSLMinCloud.md)**
இறுதி பிரிவு மேம்பட்ட கன்டெய்னர்மயமான வெளியீட்டு உத்திகளை முடிவுறுத்துகிறது, Microsoft Phi-4-mini-instruct மாதிரியை முதன்மை வழக்குக் களமாகக் கொண்டு. இந்தப் பிரிவில் உள்ளடக்கப்பட்டவை:

- **vLLM வெளியீடு**: OpenAI-இன் இணக்கமான APIs, மேம்பட்ட GPU வேகப்படுத்தல் மற்றும் தயாரிப்பு தர உள்ளமைவு, Dockerfiles, Kubernetes manifests மற்றும் செயல்திறன் அமைப்பு அளவுருக்கள்
- **Ollama Container Orchestration**: Docker Compose மூலம் எளிமையான வெளியீட்டு வேலைப்பாடுகள், மாதிரி மேம்பாட்டு மாறுபாடுகள் மற்றும் வலை UI ஒருங்கிணைப்பு, CI/CD குழாய்க்கு தானியக்க வெளியீட்டு மற்றும் சோதனை உதாரணங்கள்
- **ONNX Runtime செயல்பாடு**: விரிவான மாதிரி மாற்றம், அளவீட்டு உத்திகள் மற்றும் மேடைக்கடந்து இணக்கத்தன்மையுடன் எட்ஜ்-மேம்பட்ட வெளியீடு, மாதிரி மேம்பாடு மற்றும் வெளியீட்டுக்கான விரிவான குறியீட்டு உதாரணங்கள்
- **கண்காணிப்பு மற்றும் கண்காணிப்பு**: SLM செயல்திறன் கண்காணிப்புக்கான தனிப்பயன் அளவுருக்களுடன் Prometheus/Grafana டாஷ்போர்டுகளை செயல்படுத்துதல், எச்சரிக்கை அமைப்புகள் மற்றும் பதிவு தொகுப்பு
- **சுமை சமநிலை மற்றும் அளவீடு**: CPU/GPU பயன்பாடு மற்றும் கோரிக்கை முறைமைகள் அடிப்படையில் தானியக்க அளவீட்டு அமைப்புகளுடன் முறைவழி மற்றும் செங்குத்து அளவீட்டு உத்திகள்
- **பாதுகாப்பு கடினமாக்கல்**: API விசைகள் மற்றும் மாதிரி அணுகல் சான்றுகள் ஆகியவற்றுக்கான சுருக்க மேலாண்மை, நெட்வொர்க் கொள்கைகள் மற்றும் சலுகை குறைப்பை உள்ளடக்கிய கன்டெய்னர் பாதுகாப்பு சிறந்த நடைமுறைகள்

ஒவ்வொரு வெளியீட்டு அணுகுமுறையும் முழுமையான உள்ளமைவு உதாரணங்கள், சோதனை செயல்முறைகள், தயாரிப்பு தயார்நிலைச் சோதனை பட்டியல் மற்றும் உள்கட்டமைப்பு-குறியீடு வார்ப்புருக்களுடன் வழங்கப்படுகிறது, டெவலப்பர்கள் தங்கள் வெளியீட்டு வேலைப்பாடுகளில் நேரடியாக பயன்படுத்தக்கூடியவை.

## முக்கிய கற்றல் முடிவுகள்

இந்த அத்தியாயத்தை முடிக்கும்போது, வாசகர்கள் கீழ்கண்டவற்றை கற்றுக்கொள்வார்கள்:

1. **மாதிரி தேர்வு உத்திகள்**: வளக் கட்டுப்பாடுகள் மற்றும் செயல்திறன் தேவைகளின் அடிப்படையில் சரியான SLMக்களைத் தேர்ந்தெடுப்பது
2. **மேம்பாட்டு திறன்கள்**: பல்வேறு கட்டமைப்புகளில் மேம்பட்ட அளவீட்டு உத்திகளை செயல்படுத்தி செயல்திறன்-திறன் சமநிலையை அடைவது
3. **வெளியீட்டு நெகிழ்வுத்தன்மை**: உள்ளூர் தனியுரிமை மையமுடைய தீர்வுகள் மற்றும் அளவீட்டு கன்டெய்னர்மயமான வெளியீட்டுகளுக்கு இடையில் தேர்வு செய்வது
4. **தயாரிப்பு தயார்நிலை**: நிறுவன தர SLM வெளியீட்டுக்கான கண்காணிப்பு, பாதுகாப்பு மற்றும் அளவீட்டு அமைப்புகளை உள்ளமைத்தல்

## நடைமுறை மையம் மற்றும் உண்மையான உலக பயன்பாடுகள்

இந்த அத்தியாயம் முழுவதும் ஒரு வலுவான நடைமுறை நோக்கத்தை பராமரிக்கிறது, இதில்:

- **கைமுறையாக செய்யும் உதாரணங்கள்**: முழுமையான உள்ளமைவு கோப்புகள், API சோதனை செயல்முறைகள் மற்றும் வெளியீட்டு ஸ்கிரிப்ட்கள்
- **செயல்திறன் மதிப்பீடு**: முன்னறிவிப்பு வேகம், நினைவக பயன்பாடு மற்றும் வள தேவைகளின் விரிவான ஒப்பீடுகள்
- **பாதுகாப்பு கருத்துகள்**: நிறுவன தர பாதுகாப்பு நடைமுறைகள், இணக்கம் கட்டமைப்புகள் மற்றும் தரவுப் பாதுகாப்பு உத்திகள்
- **சிறந்த நடைமுறைகள்**: கண்காணிப்பு, அளவீடு மற்றும் பராமரிப்புக்கான தயாரிப்பு-சான்று வழிகாட்டுதல்கள்

## எதிர்காலத்திற்கு தயாரான பார்வை

இந்த அத்தியாயம் மேம்பட்ட திறன்களுடன் கூடிய மாதிரி கட்டமைப்புகள், சிறப்பு AI வேகப்படுத்திகளுடன் ஆழமான ஹார்ட்வேர ஒருங்கிணைப்பு, தரநிலை மற்றும் இணக்கத்தன்மை நோக்கமாக பரிணாமம் மற்றும் தனியுரிமை மற்றும் இணக்கம் தேவைகளால் இயக்கப்படும் நிறுவன ஏற்றுக்கொள்வது போன்ற புதிய போக்குகளை ஆராய்ந்து முடிவுறுகிறது.

இந்த விரிவான அணுகுமுறை வாசகர்கள் தற்போதைய SLM வெளியீட்டு சவால்களையும் எதிர்கால தொழில்நுட்ப வளர்ச்சிகளையும் நெறிப்படுத்துவதற்குத் தேவையான திறன்களை வழங்குகிறது, அவர்களின் குறிப்பிட்ட நிறுவன தேவைகள் மற்றும் கட்டுப்பாடுகளுக்கு ஏற்ப தகவல்தெரிவுடன் முடிவுகளை எடுக்க உதவுகிறது.

இந்த அத்தியாயம் உடனடி செயல்பாட்டுக்கான ஒரு நடைமுறை வழிகாட்டியாகவும், நீண்டகால AI வெளியீட்டு திட்டமிடலுக்கான ஒரு стратегிக resourc ஆகவும் செயல்படுகிறது, திறன், திறன் மற்றும் செயல்திறன் சிறப்புமிக்க SLM வெளியீட்டின் முக்கிய சமநிலையை வலியுறுத்துகிறது.

---

**குறிப்பு**:  
இந்த ஆவணம் [Co-op Translator](https://github.com/Azure/co-op-translator) என்ற AI மொழிபெயர்ப்பு சேவையைப் பயன்படுத்தி மொழிபெயர்க்கப்பட்டுள்ளது. நாங்கள் துல்லியத்திற்காக முயற்சிக்கின்றோம், ஆனால் தானியக்க மொழிபெயர்ப்புகளில் பிழைகள் அல்லது தவறான தகவல்கள் இருக்கக்கூடும் என்பதை கவனத்தில் கொள்ளவும். அதன் தாய்மொழியில் உள்ள மூல ஆவணம் அதிகாரப்பூர்வ ஆதாரமாகக் கருதப்பட வேண்டும். முக்கியமான தகவல்களுக்கு, தொழில்முறை மனித மொழிபெயர்ப்பு பரிந்துரைக்கப்படுகிறது. இந்த மொழிபெயர்ப்பைப் பயன்படுத்துவதால் ஏற்படும் எந்த தவறான புரிதல்கள் அல்லது தவறான விளக்கங்களுக்கு நாங்கள் பொறுப்பல்ல.