Kursplan
- Scala primer En rask introduksjon til Scala Labs : Bli kjent med Scala Spark Grunnleggende Bakgrunn og historie Spark og Hadoop Spark konsepter og arkitektur Spark økosystem (kjerne, spark sql, mlib, streaming) Labs : Installere og kjøre Spark First Look at Spark Running Spark i lokal modus Spark web UI Spark shell Analyserer datasett – del 1 Inspiserer RDD-er Labs: Spark-shell-utforskning RDD-er RDD-konsepter Partisjoner RDD Operasjoner / transformasjoner RDD-typer Nøkkelverdipar RDD-er MapReduce on RDD Caching and persistence Labs : opprette og inspisere RDD-er; Bufring av RDD-er Spark API-programmering Introduksjon til Spark API / RDD API Sende det første programmet til Spark Debugging / logging Konfigurasjonsegenskaper Labs : Programmering i Spark API, Sende jobber Spark SQL SQL-støtte i Spark-datarammer Definere tabeller og importere datasett Spørre data rammer ved hjelp av SQL Lagringsformater: JSON / Parquet Labs: Opprette og spørre om datarammer; evaluere dataformater MLlib MLlib intro MLlib algoritmer Labs : Skrive MLib-applikasjoner GraphX GraphX bibliotekoversikt GraphX APIs Labs : Behandle grafdata ved hjelp av Spark Spark Streaming Streaming-oversikt Evaluere Streaming-plattformer Streamingoperasjoner Skyvevinduoperasjoner Labs : Hadoop Spark-applikasjon i streaming HDFS / YARN) Hadoop + Spark-arkitektur Kjører Spark på Hadoop YARN Behandler HDFS-filer ved hjelp av Spark Spark Ytelse og Tuning Broadcast-variabler Akkumulatorer Minneadministrasjon og hurtigbufring Spark Operations Implementering av Spark i produksjon Eksempel på distribusjonsmaler Konfigurasjoner Overvåking Feilsøking
Krav
FORHÅNDSKRAV
kjennskap til enten Java / Scala / Python-språk (våre laboratorier i Scala og Python) grunnleggende forståelse av Linux utviklingsmiljø (kommandolinjenavigering / redigering av filer med VI eller nano)
Testimonials (6)
Doing similar exercises different ways really help understanding what each component (Hadoop/Spark, standalone/cluster) can do on its own and together. It gave me ideas on how I should test my application on my local machine when I develop vs when it is deployed on a cluster.
Thomas Carcaud - IT Frankfurt GmbH
Kurs - Spark for Developers
Ajay was very friendly, helpful and also knowledgable about the topic he was discussing.
Biniam Guulay - ICE International Copyright Enterprise Germany GmbH
Kurs - Spark for Developers
Ernesto did a great job explaining the high level concepts of using Spark and its various modules.
Michael Nemerouf
Kurs - Spark for Developers
The trainer made the class interesting and entertaining which helps quite a bit with all day training.
Ryan Speelman
Kurs - Spark for Developers
We know a lot more about the whole environment.
John Kidd
Kurs - Spark for Developers
Richard is very calm and methodical, with an analytic insight - exactly the qualities needed to present this sort of course.