# அத்தியாயம் 05 : SLMOps - சிறிய மொழி மாடல் செயல்பாடுகளுக்கான முழுமையான வழிகாட்டி ## கண்ணோட்டம் SLMOps (Small Language Model Operations) என்பது திறன், செலவுக் குறைவு மற்றும் எட்ஜ் கம்ப்யூட்டிங் திறன்களை முன்னிலைப்படுத்தும் AI பிரயோகத்தில் புரட்சிகரமான அணுகுமுறையை பிரதிநிதித்துவப்படுத்துகிறது. இந்த முழுமையான வழிகாட்டி SLM செயல்பாடுகளின் முழு வாழ்க்கைச் சுழற்சியை, அடிப்படை கருத்துகளைப் புரிந்துகொள்வதிலிருந்து தயாரிப்பு-தயார் பிரயோகங்களை செயல்படுத்துவதற்கான வழிமுறைகளை உள்ளடக்குகிறது. --- ## [பகுதி 1: SLMOps அறிமுகம்](./01.IntroduceSLMOps.md) **எட்ஜ் AI செயல்பாடுகளில் புரட்சியை உருவாக்குதல்** இந்த அடிப்படை அத்தியாயம் பாரம்பரிய பெரிய அளவிலான AI செயல்பாடுகளிலிருந்து சிறிய மொழி மாடல் செயல்பாடுகளுக்கான (SLMOps) பாரடிக்ம் மாற்றத்தை அறிமுகப்படுத்துகிறது. SLMOps, AI-ஐ அளவிலான பிரயோகத்தில் செலவுக் குறைவு மற்றும் தனியுரிமை இணக்கத்துடன் செயல்படுத்துவதற்கான முக்கிய சவால்களை எவ்வாறு தீர்க்கிறது என்பதை நீங்கள் கண்டறிவீர்கள். **நீங்கள் கற்றுக்கொள்ளப்போகிறீர்கள்:** - SLMOps-ன் தோற்றம் மற்றும் நவீன AI உத்தியில் அதன் முக்கியத்துவம் - SLM-கள் செயல்திறன் மற்றும் வள திறனுக்கிடையிலான இடைவெளியை எவ்வாறு நிரப்புகின்றன - புத்திசாலியான வள மேலாண்மை மற்றும் தனியுரிமை-முதன்மை கட்டமைப்பை உள்ளடக்கிய முக்கிய செயல்பாட்டு கொள்கைகள் - உண்மையான உலக பிரயோக சவால்கள் மற்றும் அவற்றின் தீர்வுகள் - வணிக உத்தி தாக்கம் மற்றும் போட்டி நன்மைகள் **முக்கிய takeaway:** SLMOps, முன்னேற்றமான மொழி செயலாக்க திறன்களை குறைந்த தொழில்நுட்ப அடுக்கமைப்புடன் உள்ள நிறுவனங்களுக்கு அணுகக்கூடியதாக மாற்றுவதன் மூலம் AI பிரயோகத்தை ஜனநாயகமாக்குகிறது, வேகமான மேம்பாட்டு சுழற்சிகள் மற்றும் கணிக்கக்கூடிய செயல்பாட்டு செலவுகளை சாத்தியமாக்குகிறது. --- ## [பகுதி 2: மாடல் டிஸ்டில்லேஷன் - கோட்பாட்டிலிருந்து நடைமுறைக்கு](./02.SLMOps-Distillation.md) **அறிவை மாற்றுவதன் மூலம் திறமையான மாடல்களை உருவாக்குதல்** மாடல் டிஸ்டில்லேஷன் என்பது பெரிய மாடல்களின் செயல்திறனை தக்கவைத்துக்கொண்டு சிறிய, திறமையான மாடல்களை உருவாக்குவதற்கான முக்கிய தொழில்நுட்பமாகும். இந்த அத்தியாயம் பெரிய ஆசிரியர் மாடல்களிலிருந்து சிறிய மாணவர் மாடல்களுக்கு அறிவை மாற்றும் டிஸ்டில்லேஷன் வேலைவழிகளை செயல்படுத்துவதற்கான முழுமையான வழிகாட்டியை வழங்குகிறது. **நீங்கள் கற்றுக்கொள்ளப்போகிறீர்கள்:** - மாடல் டிஸ்டில்லேஷனின் அடிப்படை கருத்துகள் மற்றும் நன்மைகள் - இரண்டு-அடுக்கு டிஸ்டில்லேஷன் செயல்முறை: செயற்கை தரவுத் தயாரிப்பு மற்றும் மாணவர் மாடல் பயிற்சி - DeepSeek V3 மற்றும் Phi-4-mini போன்ற முன்னேற்றமான மாடல்களைப் பயன்படுத்தி நடைமுறை செயல்பாட்டு உத்திகள் - Azure ML டிஸ்டில்லேஷன் வேலைவழிகள் மற்றும் கையடக்க உதாரணங்கள் - ஹைப்பர்பாராமீட்டர் டியூனிங் மற்றும் மதிப்பீட்டு உத்திகள் தொடர்பான சிறந்த நடைமுறைகள் - செலவுகள் மற்றும் செயல்திறனில் குறிப்பிடத்தக்க மேம்பாடுகளை காட்டும் உண்மையான உலகக் கேஸ் ஸ்டடிகள் **முக்கிய takeaway:** மாடல் டிஸ்டில்லேஷன், 85% தீர்மான நேரத்தை குறைப்பதற்கும், 95% நினைவக தேவைகளை குறைப்பதற்கும், 92% அசல் மாடல் துல்லியத்தை தக்கவைத்துக்கொள்வதற்கும் நிறுவனங்களை சாத்தியமாக்குகிறது, முன்னேற்றமான AI திறன்களை நடைமுறையில் பிரயோகமாக்குகிறது. --- ## [பகுதி 3: Fine-Tuning - குறிப்பிட்ட பணிகளுக்கான மாடல்களை தனிப்பயனாக்குதல்](./03.SLMOps-Finetuing.md) **முன்னேற்றமடைந்த மாடல்களை உங்கள் தனித்துவமான தேவைகளுக்கு ஏற்ப மாற்றுதல்** Fine-tuning, பொதுவான பயன்பாட்டுக்கான மாடல்களை உங்கள் குறிப்பிட்ட பயன்பாடுகள் மற்றும் துறைகளுக்கு ஏற்ப தனிப்பயனாக்கப்பட்ட தீர்வுகளாக மாற்றுகிறது. இந்த அத்தியாயம் அடிப்படை பராமரிப்பு சரிசெய்தல் முதல் LoRA மற்றும் QLoRA போன்ற முன்னேற்றமான தொழில்நுட்பங்கள் வரை அனைத்தையும் உள்ளடக்குகிறது. **நீங்கள் கற்றுக்கொள்ளப்போகிறீர்கள்:** - Fine-tuning முறைமைகள் மற்றும் அவற்றின் பயன்பாடுகளின் முழுமையான கண்ணோட்டம் - Fine-tuning வகைகள்: முழுமையான fine-tuning, parameter-efficient fine-tuning (PEFT), மற்றும் பணிக்கேற்ப அணுகுமுறைகள் - Microsoft Olive-ஐப் பயன்படுத்தி நடைமுறை செயல்பாடு மற்றும் உதாரணங்கள் - பல-அடாப்டர் பயிற்சி மற்றும் ஹைப்பர்பாராமீட்டர் ஆப்டிமைசேஷன் போன்ற முன்னேற்றமான உத்திகள் - தரவுத் தயாரிப்பு, பயிற்சி கட்டமைப்பு மற்றும் வள மேலாண்மைக்கான சிறந்த நடைமுறைகள் - சாதாரண சவால்கள் மற்றும் வெற்றிகரமான fine-tuning திட்டங்களுக்கான நிரூபிக்கப்பட்ட தீர்வுகள் **முக்கிய takeaway:** Microsoft Olive போன்ற கருவிகளைப் பயன்படுத்தி fine-tuning, முன்னேற்றமடைந்த மாடல்களை குறிப்பிட்ட தேவைகளுக்கு திறமையாகத் தகுதிப்படுத்துவதற்கும், செயல்திறன் மற்றும் வளக் கட்டுப்பாடுகளுக்கான ஆப்டிமைசேஷனைச் செய்யவும் நிறுவனங்களை சாத்தியமாக்குகிறது, பல்வேறு பயன்பாடுகளில் முன்னேற்றமான AI-ஐ அணுகக்கூடியதாக மாற்றுகிறது. --- ## [பகுதி 4: Deployment - தயாரிப்பு-தயார் மாடல் பிரயோகத்தை செயல்படுத்துதல்](./04.SLMOps.Deployment.md) **Fine-tuned மாடல்களை Foundry Local மூலம் தயாரிப்பில் கொண்டு வருதல்** இறுதி அத்தியாயம் முக்கியமான பிரயோக கட்டத்தை மையமாகக் கொண்டுள்ளது, மாடல் மாற்றம், அளவீடு மற்றும் தயாரிப்பு கட்டமைப்பை உள்ளடக்குகிறது. Fine-tuned அளவீடு செய்யப்பட்ட மாடல்களை Foundry Local-ஐப் பயன்படுத்தி செயல்திறன் மற்றும் வள பயன்பாட்டிற்கான உத்திகளை நீங்கள் கற்றுக்கொள்வீர்கள். **நீங்கள் கற்றுக்கொள்ளப்போகிறீர்கள்:** - முழுமையான சூழல் அமைப்பு மற்றும் கருவி நிறுவல் நடைமுறைகள் - மாடல் மாற்றம் மற்றும் அளவீட்டு உத்திகள் பிரயோக சூழல்களுக்கு ஏற்ப - Foundry Local பிரயோக கட்டமைப்பு மற்றும் மாடல்-குறிப்பான ஆப்டிமைசேஷன்கள் - செயல்திறன் அளவீடு மற்றும் தரச் சரிபார்ப்பு முறைமைகள் - சாதாரண பிரயோக சிக்கல்களைத் தீர்க்கும் மற்றும் ஆப்டிமைசேஷன் உத்திகள் - தயாரிப்பு கண்காணிப்பு மற்றும் பராமரிப்பு சிறந்த நடைமுறைகள் **முக்கிய takeaway:** அளவீட்டு உத்திகளுடன் சரியான பிரயோக கட்டமைப்பு, 75% அளவைக் குறைப்பதற்கும், ஏற்றுக்கொள்ளக்கூடிய மாடல் தரத்தை தக்கவைத்துக்கொள்வதற்கும், பல்வேறு ஹார்ட்வேர அமைப்புகளில் திறமையான தயாரிப்பு பிரயோகங்களை சாத்தியமாக்குகிறது. --- ## தொடங்குதல் இந்த வழிகாட்டி, அடிப்படை கருத்துகளைப் புரிந்துகொள்வதிலிருந்து தயாரிப்பு-தயார் பிரயோகங்களை செயல்படுத்துவதற்கான முழு SLMOps பயணத்தை உங்களை வழிநடத்துவதற்காக வடிவமைக்கப்பட்டுள்ளது. ஒவ்வொரு அத்தியாயமும் முந்தையதை அடிப்படையாகக் கொண்டது, கோட்பாட்டைத் தெளிவுபடுத்துவதுடன், நடைமுறை செயல்பாட்டு திறன்களையும் வழங்குகிறது. நீங்கள் மாடல் பிரயோகத்தை ஆப்டிமைசே செய்ய விரும்பும் ஒரு தரவுத் விஞ்ஞானியாக இருந்தாலும், AI செயல்பாடுகளை செயல்படுத்தும் ஒரு DevOps பொறியாளராக இருந்தாலும், அல்லது உங்கள் நிறுவனத்திற்கான SLMOps-ஐ மதிப்பீடு செய்யும் ஒரு தொழில்நுட்ப தலைவராக இருந்தாலும், இந்த முழுமையான வழிகாட்டி சிறிய மொழி மாடல் செயல்பாடுகளை வெற்றிகரமாக செயல்படுத்த தேவையான அறிவு மற்றும் கருவிகளை வழங்குகிறது. **தயார்?** SLMOps-ன் அடிப்படை கொள்கைகளைப் புரிந்துகொள்வதற்கும், அடுத்த அத்தியாயங்களில் உள்ள முன்னேற்றமான செயல்பாட்டு உத்திகளை உருவாக்குவதற்கான அடித்தளத்தை அமைப்பதற்கும், அத்தியாயம் 1-இல் தொடங்குங்கள். --- **குறிப்பு**: இந்த ஆவணம் [Co-op Translator](https://github.com/Azure/co-op-translator) என்ற AI மொழிபெயர்ப்பு சேவையைப் பயன்படுத்தி மொழிபெயர்க்கப்பட்டுள்ளது. நாங்கள் துல்லியத்திற்காக முயற்சிக்கிறோம், ஆனால் தானியங்கி மொழிபெயர்ப்புகளில் பிழைகள் அல்லது தவறான தகவல்கள் இருக்கக்கூடும் என்பதை கவனத்தில் கொள்ளவும். அதன் தாய்மொழியில் உள்ள மூல ஆவணம் அதிகாரப்பூர்வ ஆதாரமாகக் கருதப்பட வேண்டும். முக்கியமான தகவல்களுக்கு, தொழில்முறை மனித மொழிபெயர்ப்பு பரிந்துரைக்கப்படுகிறது. இந்த மொழிபெயர்ப்பைப் பயன்படுத்துவதால் ஏற்படும் எந்த தவறான புரிதல்கள் அல்லது தவறான விளக்கங்களுக்கு நாங்கள் பொறுப்பல்ல.