Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Kursplan
Introduksjon til produksjonsdistribusjon
- Sentrale utfordringer ved distribusjon av finjusterte modeller
- Forskjeller mellom utviklings- og produksjonsmiljøer
- Verktøy og plattformer for modelldistribusjon
Forbereder modeller for distribusjon
- Eksportere modeller i standardformater (ONNX, TensorFlow SavedModel, etc.)
- Optimalisering av modeller for ventetid og gjennomstrømning
- Testing av modeller på kantsaker og data fra den virkelige verden
Containerisering for modellimplementering
- Introduksjon til Docker
- Opprette Docker bilder for ML-modeller
- Beste praksis for containersikkerhet og effektivitet
Skalering av distribusjoner med Kubernetes
- Introduksjon til Kubernetes for AI-arbeidsbelastninger
- Sette opp Kubernetes klynger for modellhosting
- Lastbalansering og horisontal skalering
Modellovervåking og vedlikehold
- Implementere overvåking med Prometheus og Grafana
- Automatisert logging for feilsporing og ytelse
- Omskolering av rørledninger for modelldrift og oppdateringer
Sikre sikkerhet i produksjonen
- Sikring av API-er for modellslutning
- Autentiserings- og autorisasjonsmekanismer
- Ta tak i bekymringer om personvern
Kasusstudier og praktiske laboratorier
- Utplassering av en sentimentanalysemodell
- Skalering av en maskinoversettelsestjeneste
- Implementere overvåking for bildeklassifiseringsmodeller
Sammendrag og neste trinn
Krav
- God forståelse for arbeidsflyter for maskinlæring
- Erfaring med finjustering av ML-modeller
- Kjennskap til DevOps eller MLOps prinsipper
Publikum
- DevOps ingeniører
- MLOps utøvere
- AI-distribusjonsspesialister
21 timer
Testimonials (1)
Det var mange praktiske øvelser under observasjon og støtte fra treneren
Aleksandra - Fundacja PTA
Kurs - Mastering Make: Advanced Workflow Automation and Optimization
Machine Translated