DeepSpeed for Deep Learning Treningskurs
DeepSpeed er et optimaliseringsbibliotek for dyp læring som gjør det enklere å skalere dyplæringsmodeller på distribuert maskinvare. DeepSpeed er utviklet av Microsoft og integreres med PyTorch for å gi bedre skalering, raskere trening og forbedret ressursutnyttelse.
Denne instruktørledede, live-opplæringen (online eller på stedet) er rettet mot nybegynnere til middels dataforskere og maskinlæringsingeniører som ønsker å forbedre ytelsen til dyplæringsmodellene sine.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå prinsippene for distribuert dyp læring.
- Installer og konfigurer DeepSpeed.
- Skaler dyplæringsmodeller på distribuert maskinvare ved hjelp av DeepSpeed.
- Implementer og eksperimenter med DeepSpeed-funksjoner for optimalisering og minneeffektivitet.
Kursets format
- Interaktivt foredrag og diskusjon.
- Mye øvelser og trening.
- Praktisk implementering i et live-lab-miljø.
Alternativer for kurstilpasning
- For å be om en tilpasset opplæring for dette kurset, vennligst kontakt oss for å avtale.
Kursplan
Introduksjon
- Oversikt over skaleringsutfordringer for dyp læring
- Oversikt over DeepSpeed og dens funksjoner
- DeepSpeed vs. andre distribuerte dyplæringsbiblioteker
Komme i gang
- Sette opp utviklingsmiljøet
- Installerer PyTorch og DeepSpeed
- Konfigurere DeepSpeed for distribuert trening
DeepSpeed Optimization funksjoner
- DeepSpeed-treningspipeline
- ZeRO (minneoptimalisering)
- Aktivering sjekkpunkt
- Gradientkontroll
- Rørledningsparallellisme
Skalering av modeller med DeepSpeed
- Grunnleggende skalering med DeepSpeed
- Avanserte skaleringsteknikker
- Ytelseshensyn og beste praksis
- Feilsøkings- og feilsøkingsteknikker
Avanserte DeepSpeed-emner
- Avanserte optimaliseringsteknikker
- Bruker DeepSpeed med blandet presisjonstrening
- DeepSpeed på annen maskinvare (f.eks. GPU-er, TPU-er)
- DeepSpeed med flere treningsnoder
Integrering av DeepSpeed med PyTorch
- Integrering av DeepSpeed med PyTorch arbeidsflyter
- Bruke DeepSpeed med PyTorch Lightning
Feilsøking
- Feilsøking av vanlige DeepSpeed-problemer
- Overvåking og logging
Sammendrag og neste trinn
- Oppsummering av nøkkelbegreper og funksjoner
- Beste praksis for bruk av DeepSpeed i produksjon
- Ytterligere ressurser for å lære mer om DeepSpeed
Krav
- Middels kunnskap om dyplæringsprinsipper
- Erfaring med PyTorch eller lignende rammeverk for dyp læring
- Kjennskap til Python programmering
Publikum
- Dataforskere
- Maskinlæringsingeniører
- Utviklere
Open Training Courses require 5+ participants.
DeepSpeed for Deep Learning Treningskurs - Booking
DeepSpeed for Deep Learning Treningskurs - Enquiry
DeepSpeed for Deep Learning - Consultancy Enquiry
Consultancy Enquiry
Upcoming Courses
Relaterte kurs
Advanced Stable Diffusion: Deep Learning for Text-to-Image Generation
21 timerDenne instruktørledede, liveopplæringen i Norge (online eller på stedet) er rettet mot dataforskere på middels til avansert nivå, maskinlæringsingeniører, dyplæringsforskere og datasynseksperter som ønsker å utvide sine kunnskaper og ferdigheter innen dyp læring for tekst-til-bilde generering.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå avanserte dyplæringsarkitekturer og teknikker for tekst-til-bilde generering.
- Implementer komplekse modeller og optimaliseringer for bildesyntese av høy kvalitet.
- Optimaliser ytelse og skalerbarhet for store datasett og komplekse modeller.
- Juster hyperparametre for bedre modellytelse og generalisering.
- Integrer Stable Diffusion med andre dyplæringsrammer og verktøy
AlphaFold
7 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot biologer som ønsker å forstå hvordan AlphaFold fungerer og bruke AlphaFold-modeller som guider i sine eksperimentelle studier.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå de grunnleggende prinsippene til AlphaFold.
- Finn ut hvordan AlphaFold fungerer.
- Lær hvordan du tolker AlphaFold spådommer og resultater.
Applied AI from Scratch
28 timerDette er et 4-dagers kurs som introduserer AI og dens applikasjon. Det er en mulighet for å ha en ekstra dag til å gjennomføre et AI-prosjekt etter fullføring av dette kurset.
Deep Learning for Vision with Caffe
21 timerCaffe er en dyp læringsramme laget med uttrykk, hastighet og modularitet i tankene.
Dette kurset utforsker anvendelsen av Caffe som en Deep læringsramme for bildegjenkjenning ved bruk av MNIST som eksempel
Publikum
Dette kurset passer for Deep Learning forskere og ingeniører som er interessert i å bruke Caffe som rammeverk.
Etter fullført kurs vil delegatene kunne:
- forstå Caffe sin struktur og distribusjonsmekanismer
- utføre installasjons- / produksjonsmiljø / arkitekturoppgaver og konfigurasjon
- vurdere kodekvalitet, utfør feilsøking, overvåking
- implementere avansert produksjon som treningsmodeller, implementere lag og logging
Deep Learning Neural Networks with Chainer
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot forskere og utviklere som ønsker å bruke Chainer til å bygge og trene nevrale nettverk i Python samtidig som koden er enkel å feilsøke.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Sett opp det nødvendige utviklingsmiljøet for å begynne å utvikle nevrale nettverksmodeller.
- Definer og implementer nevrale nettverksmodeller ved å bruke en forståelig kildekode.
- Utfør eksempler og modifiser eksisterende algoritmer for å optimalisere treningsmodeller for dyp læring mens du utnytter GPUer for høy ytelse.
Using Computer Network ToolKit (CNTK)
28 timerComputer Network ToolKit (CNTK) er Microsofts Open Source, Multi-machine, Multi-GPU, svært effektive RNN-treningsmaskinlæringsrammeverk for tale, tekst og bilder.
Publikum
Dette kurset er rettet mot ingeniører og arkitekter som har som mål å bruke CNTK i sine prosjekter.
Computer Vision with Google Colab and TensorFlow
21 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot profesjonelle på avansert nivå som ønsker å utdype sin forståelse av datasyn og utforske TensorFlows evner for å utvikle sofistikerte synsmodeller ved hjelp av Google Colab.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Bygg og tren konvolusjonelle nevrale nettverk (CNN) ved å bruke TensorFlow.
- Utnytt Google Colab for skalerbar og effektiv skybasert modellutvikling.
- Implementere bildeforbehandlingsteknikker for datasynoppgaver.
- Distribuer datamaskinsynsmodeller for applikasjoner i den virkelige verden.
- Bruk overføringslæring for å forbedre ytelsen til CNN-modeller.
- Visualisere og tolke resultatene av bildeklassifiseringsmodeller.
Deep Learning with TensorFlow in Google Colab
14 timerDenne instruktørledede, direkteopplæringen i Norge (online eller på stedet) er rettet mot dataforskere og utviklere på middels nivå som ønsker å forstå og bruke dyplæringsteknikker ved å bruke Googgle Colab-miljøet.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Sett opp og naviger i Google Colab for dyplæringsprosjekter.
- Forstå det grunnleggende om nevrale nettverk.
- Implementer dyplæringsmodeller ved å bruke TensorFlow.
- Trene og evaluere dyplæringsmodeller.
- Bruk avanserte funksjoner i TensorFlow for dyp læring.
Deep Learning for NLP (Natural Language Processing)
28 timerI denne instruktørledede, live-opplæringen i Norge vil deltakerne lære å bruke Python-biblioteker for NLP når de lager en applikasjon som behandler et sett med bilder og genererer bildetekster.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Design og kode DL for NLP ved hjelp av Python biblioteker.
- Lag Python kode som leser en betydelig samling bilder og genererer nøkkelord.
- Opprett Python-kode som genererer bildetekster fra de oppdagede søkeordene.
Edge AI with TensorFlow Lite
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot utviklere på mellomnivå, dataforskere og AI-utøvere som ønsker å utnytte TensorFlow Lite for Edge AI-applikasjoner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende om TensorFlow Lite og dens rolle i Edge AI.
- Utvikle og optimalisere AI-modeller ved å bruke TensorFlow Lite.
- Distribuer TensorFlow Lite-modeller på ulike edge-enheter.
- Bruk verktøy og teknikker for modellkonvertering og -optimalisering.
- Implementer praktiske Edge AI-applikasjoner ved å bruke TensorFlow Lite.
Accelerating Deep Learning with FPGA and OpenVINO
35 timerDenne instruktørledede, direkteopplæringen i Norge (online eller på stedet) er rettet mot dataforskere som ønsker å akselerere sanntids maskinlæringsapplikasjoner og distribuere dem i stor skala.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Installer verktøysettet OpenVINO.
- Akselerer en datasynsapplikasjon ved hjelp av en FPGA.
- Utfør forskjellige CNN-lag på FPGA.
- Skaler applikasjonen over flere noder i en Kubernetes-klynge.
Distributed Deep Learning with Horovod
7 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot utviklere eller dataforskere som ønsker å bruke Horovod til å kjøre distribuert dyplæringstrening og skalere den opp til å kjøre på tvers av flere GPU-er parallelt .
Ved slutten av denne opplæringen vil deltakerne kunne:
- Sett opp det nødvendige utviklingsmiljøet for å begynne å kjøre dyplæringstreninger.
- Installer og konfigurer Horovod for å trene modeller med TensorFlow, Keras, PyTorch og Apache MXNet.
- Skaler dyplæringstrening med Horovod for å kjøre på flere GPUs.
Deep Learning with Keras
21 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot tekniske personer som ønsker å bruke dyp læringsmodell på bildegjenkjenningsapplikasjoner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Installer og konfigurer Keras.
- Rask prototyper av dyplæringsmodeller.
- Implementer et konvolusjonelt nettverk.
- Implementer et tilbakevendende nettverk.
- Utfør en dyp læringsmodell på både en CPU og GPU.
Introduction to Stable Diffusion for Text-to-Image Generation
21 timerDenne instruktørledede, live-opplæringen i (online eller på stedet) er rettet mot dataforskere, maskinlæringsingeniører og datasynsforskere som ønsker å utnytte Stable Diffusion til å generere bilder av høy kvalitet for en rekke bruksområder.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå prinsippene for Stable Diffusion og hvordan det fungerer for bildegenerering.
- Bygg og tren Stable Diffusion-modeller for bildegenereringsoppgaver.
- Bruk Stable Diffusion på ulike scenarier for bildegenerering, for eksempel innpainting, outpainting og bilde-til-bilde-oversettelse.
- Optimaliser ytelsen og stabiliteten til Stable Diffusion-modeller.
Tensorflow Lite for Microcontrollers
21 timerDenne instruktørledede, direkteopplæringen i Norge (online eller på stedet) er rettet mot ingeniører som ønsker å skrive, laste og kjøre maskinlæringsmodeller på svært små innebygde enheter.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Installer TensorFlow Lite.
- Last inn maskinlæringsmodeller på en innebygd enhet for å gjøre den i stand til å oppdage tale, klassifisere bilder osv.
- Legg til AI til maskinvareenheter uten å stole på nettverkstilkobling.