Kursplan

Introduksjon til produksjonsdistribusjon

  • Sentrale utfordringer ved distribusjon av finjusterte modeller
  • Forskjeller mellom utviklings- og produksjonsmiljøer
  • Verktøy og plattformer for modelldistribusjon

Forbereder modeller for distribusjon

  • Eksportere modeller i standardformater (ONNX, TensorFlow SavedModel, etc.)
  • Optimalisering av modeller for ventetid og gjennomstrømning
  • Testing av modeller på kantsaker og data fra den virkelige verden

Containerisering for modellimplementering

  • Introduksjon til Docker
  • Opprette Docker bilder for ML-modeller
  • Beste praksis for containersikkerhet og effektivitet

Skalering av distribusjoner med Kubernetes

  • Introduksjon til Kubernetes for AI-arbeidsbelastninger
  • Sette opp Kubernetes klynger for modellhosting
  • Lastbalansering og horisontal skalering

Modellovervåking og vedlikehold

  • Implementere overvåking med Prometheus og Grafana
  • Automatisert logging for feilsporing og ytelse
  • Omskolering av rørledninger for modelldrift og oppdateringer

Sikre sikkerhet i produksjonen

  • Sikring av API-er for modellslutning
  • Autentiserings- og autorisasjonsmekanismer
  • Ta tak i bekymringer om personvern

Kasusstudier og praktiske laboratorier

  • Utplassering av en sentimentanalysemodell
  • Skalering av en maskinoversettelsestjeneste
  • Implementere overvåking for bildeklassifiseringsmodeller

Sammendrag og neste trinn

Krav

  • God forståelse for arbeidsflyter for maskinlæring
  • Erfaring med finjustering av ML-modeller
  • Kjennskap til DevOps eller MLOps prinsipper

Publikum

  • DevOps ingeniører
  • MLOps utøvere
  • AI-distribusjonsspesialister
 21 timer

Antall deltakere


Price per participant

Testimonials (1)

Upcoming Courses

Related Categories