Kursplan

Introduksjon til AI-distribusjon

  • Oversikt over AI-implementeringslivssyklusen
  • Utfordringer med å distribuere AI-agenter til produksjon
  • Nøkkelhensyn: skalerbarhet, pålitelighet og vedlikehold

Containerisering og orkestrering

  • Introduksjon til Docker og grunnleggende om containerisering
  • Bruker Kubernetes for AI-agentorkestrering
  • Beste praksis for å administrere containeriserte AI-applikasjoner

Tjener AI-modeller

  • Oversikt over modellserveringsrammer (f.eks. TensorFlow Servering, TorchServe)
  • Bygge REST API-er for AI-agentinferens
  • Håndtering av batch vs sanntidsprediksjoner

CI/CD for AI Agents

  • Sette opp CI/CD-pipelines for AI-distribusjoner
  • Automatisering av testing og validering av AI-modeller
  • Rullende oppdateringer og administrering av versjonskontroll

Overvåking og optimalisering

  • Implementering av overvåkingsverktøy for AI-agentytelse
  • Analysere modelldrift og omskoleringsbehov
  • Optimalisering av ressursutnyttelse og skalerbarhet

Sikkerhet og Governanse

  • Sikre overholdelse av personvernforskrifter
  • Sikring av AI-implementeringsrørledninger og APIer
  • Revisjon og logging for AI-applikasjoner

Hands-On Activities

  • Containerisering av en AI-agent med Docker
  • Utplassering av en AI-agent ved hjelp av Kubernetes
  • Sette opp overvåking for AI-ytelse og ressursbruk

Sammendrag og neste trinn

Krav

  • Ferdighet i Python programmering
  • Forståelse av arbeidsflyter for maskinlæring
  • Kjennskap til containeriseringsverktøy som Docker
  • Erfaring med DevOps praksis (anbefales)

Publikum

  • MLOps ingeniører
  • DevOps fagfolk
 14 timer

Antall deltakere


Price per participant

Upcoming Courses

Related Categories