Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Kursplan
Introduksjon til QLoRA og kvantisering
- Oversikt over kvantisering og dens rolle i modelloptimalisering
- Introduksjon til QLoRA-rammeverket og dets fordeler
- Hovedforskjellene mellom QLoRA og tradisjonelle metoder for fine-tuning
Grunnleggende prinsipper for Large Language Models (LLMs)
- Introduksjon til LLMs og deres arkitektur
- Utfordringer ved fine-tuning av store modeller i stor skala
- Hvordan kvantisering hjelper til med å overvinne beregningsbegrensninger ved fine-tuning av LLMs
Implementering av QLoRA for Fine-Tuning LLMs
- Oppsett av QLoRA-rammeverket og miljøet
- Forberedelse av dataset for QLoRA fine-tuning
- Trinnvis guide til implementering av QLoRA på LLMs ved hjelp av Python og PyTorch/TensorFlow
Optimalisering av Fine-Tuning ytelse med QLoRA
- Hvordan balansere modellens nøyaktighet og ytelse med kvantisering
- Teknikker for å redusere beregningskostnader og minnebruk under fine-tuning
- Strategier for fine-tuning med minimale hardwarekrav
Vurdering av fine-tuned modeller
- Hvordan vurdere effektiviteten til fine-tuned modeller
- Vanlige vurderingsmål for språkmodeller
- Optimalisering av modellytelse etter tuning og feilsøking av problemer
Utplasser og skaler fine-tuned modeller
- Beste praksis for å utplassere kvantiserte LLMs i produksjonsmiljøer
- Skalering av utplassering for å håndtere sanstidsforespørsler
- Verktøy og rammeverk for modellutplassering og overvåking
Reelle Use Case og tilfelle studier
- Tilfelle studie: Fine-tuning av LLMs for kundestøtte og NLP-oppdrag
- Eksempler på fine-tuning av LLMs i forskjellige bransjer som helse, finans og e-handel
- Lærdommer fra reelle utplasseringer av QLoRA-baserte modeller
Sammenfatning og neste trinn
Krav
- En forståelse av grunnleggende maskinlæring og neuronnettverk
- Erfaring med modellanpassing og overføring av læringsmodeller
- Kjennskap til store språkmodeller (LLMs) og dypelæringsrammeverk (e.g., PyTorch, TensorFlow)
Målgruppe
- Maskinlæringsingeniører
- AI-utviklere
- Datavitenskapsfolk
14 timer
