Data Engineering on Microsoft Azure – Flexible Training («DP203V»)

Der Inhalt dieses Intensive Trainings leitet sich aus der Prüfung «DP-203: Data Engineering on Microsoft Azure» ab. Beginnen Sie schon jetzt auf Microsoft Learn mit der Vorbereitung auf den Kurs und nutzen Sie den Learning Support, wenn Sie Fragen haben. Während den intensiven Trainingstagen mit unseren Trainern arbeiten Sie mit den offiziellen Microsoft-Kursunterlagen (mehr Informationen unter «Methodik & Didaktik»).

Modul 1: Untersuchen von Rechen- und Speicheroptionen für Daten-Engineering-Workloads
Dieses Modul bietet einen Überblick über die Optionen der Azure-Computer- und Speichertechnologie, die Dateningenieuren zur Verfügung stehen, die analytische Workloads erstellen. In diesem Modul erfahren Sie, wie man das Datenmeer strukturiert und die Dateien für Explorations-, Streaming- und Batch-Workloads optimieren kann. Die Teilnehmer lernen, wie man das Datenmeer in Ebenen der Datenverfeinerung organisiert, während Dateien durch Stapel- und Stream-Verarbeitung transformiert werden. Anschliessend lernen sie, wie man Indizes für ihre Datensets wie CSV-, JSON- und Parkettdateien erstellen und diese für eine mögliche Beschleunigung von Abfragen und Workloads verwenden kann.
Lektionen

• Einführung in Azure Synapse Analytics
• Beschreiben von Azure Databricks
• Einführung in den Azure Datenmeer-Speicher
• Die Architektur des Datenmeeres beschreiben
• Arbeiten mit Datenströmen, mit hilfe von Azure Stream Analytics

Lab: Erkunden Sie die Rechen- und Speicheroptionen für Daten-Engineering-Workloads

• Kombinieren Sie Streaming und Stapelverarbeitung mit einer einzigen Pipeline
• Organisieren Sie das Datenmeer in Dateitransformationsebenen
• Indizieren Sie den Datenmeer-Speicher für Abfrage- und Workload-Beschleunigung

Modul 2: Entwerfen und Implementieren der Ausgabeebenen
In diesem Modul erfahren Sie, wie man Datenspeicher in einem modernen Daten-Warehouse entwerfen und implementieren kann, um analytische Workloads zu optimieren. Die Teilnehmer lernen, wie man ein mehrdimensionales Schema zum Speichern von Fakten- und Dimensionsdaten entwirft. Anschliessend lernen die Teilnehmer, wie langsam ändernde Dimensionen durch inkrementelles Laden von Daten aus Azure Data Factory gefüllt werden.
Lektionen

• Entwerfen eines mehrdimensionales Schemas, um analytische Workloads zu optimieren
• Codefreie Transformation im Massstab mit Azure Data Factory
• Sich langsam ändernde Dimensionen in Azure Synapse Analytics-Pipelines füllen

Lab: Entwerfen und Implementieren der Ausgabeebene

• Entwerfen eines Sternschema für analytische Workloads
• Sich langsam ändernde Dimensionen mit Azure Data Factory anfüllen und Datenflüsse zuordnen

Modul 3: Überlegungen zum Daten-Engineering für Quelldateien
Dieses Modul befasst sich mit Überlegungen zur Datentechnik, die beim Laden von Daten in ein modernes analytisches Data Warehouse aus Dateien, die in einem Azure Datensee gespeichert sind, üblich sind, und mit den Sicherheitsüberlegungen, die mit der Speicherung von Dateien im Datensee verbunden sind.
Lektionen

• Entwerfen Sie ein modernes Daten-Warehouse mit Azure Synapse Analytics
• Sichern Sie ein Daten-Warehouse in Azure Synapse Analytics  

Lab: Überlegungen zum Daten-Engineering

• Verwalten von Dateien in einem Azure-Datenmeer
• Sichern von Dateien, die in einem Azure-Datenmeer gespeichert sind

Modul 4: Führen Sie interaktive Abfragen mit serverlosen SQL-Pools von Azure Synapse Analytics aus
In diesem Modul lernen die Teilnehmer anhand von T-SQL-Anweisungen, die von einem serverlosen SQL-Pool in Azure Synapse Analytics ausgeführt werden, wie man mit Dateien arbeitet, die im Datenmeer und in externen Dateiquellen gespeichert sind. Die Teilnehmer fragen Parkettdateien ab, die in einem Datenmeer gespeichert sind, sowie CSV-Dateien, die in einem externen Datenspeicher gespeichert sind. Als Nächstes erstellen sie Azure Active Directory-Sicherheitsgruppen und erzwingen den Zugriff auf Dateien im Datenmeer über die rollenbasierte Zugriffssteuerung (RBAC) und Zugriffssteuerungslisten (ACLs).
Lektionen

• Erkunden Sie die Funktionen der serverlosen SQL-Pools von Azure Synapse
• Abfragen von Daten im Meer mit Hilfe von serverlosen SQL-Pools von Azure Synapse
• Erstellen Sie Metadatenobjekte in serverlosen SQL-Pools von Azure Synapse
• Sichern Sie Daten und verwalten Sie Benutzer in serverlosen SQL-Poolsvon Azure Synapse

Lab: Führen Sie interaktive Abfragen mit serverlosen SQL-Pools aus

• Abfragen von Parkettdaten mit serverlosen SQL-Pools
• Erstellen externer Tabellen für Parkett- und CSV-Dateien
• Erstellen von Ansichten mitserverlosen SQL-Pools
• Zugriff auf Daten in einem Datensee bei Verwendung von serverlosen SQL-Pools sichern
• Konfigurieren von Datenmeer-Sicherheit mit Hilfe rollenbasierter Zugriffssteuerung (RBAC) und der Zugriffssteuerungsliste

Modul 5: Durchsuchen, Transformieren und Laden von Daten in das Daten-Warehouse mit Apache Spark
In diesem Modul erfahren Sie, wie man in einem Datenmeer gespeicherte Daten untersucht, die Daten transformiert und Daten in einen relationalen Datenspeicher lädt. Die Teilnehmer werden Parkett- und JSON-Dateien untersuchen und Techniken verwenden, um JSON-Dateien mit hierarchischen Strukturen abzufragen und zu transformieren. Anschliessend verwenden die Teilnehmer Apache Spark, um Daten in das Daten-Warehouse zu laden und Parkettdaten im Datenmeer mit Daten im dedizierten SQL-Pool zu verknüpfen.
Lektionen

• Grundlegendes zum Engineering grosser Datenmengen mit Apache Spark in Azure Synapse Analytics
• Daten mit Apache Spark-Notebooks in Azure Synapse Analytics aufnehmen
• Daten mit Data Frames in Apache Spark-Pools in Azure Synapse Analytics transformieren
• SQL- und Apache Spark-Pools in Azure Synapse Analytics integrieren

Lab: Durchsuchen, transformieren und laden Sie Daten mit Apache Spark in das Daten-Warehouse

• Führen Sie eine Datenexploration in Synapse Studio durch
• Daten mit Spark-Notebooks in Azure Synapse Studio aufnehmen
• Transformieren Sie Daten mit Data Frames in Spark-Pools in Azure Synapse Analytics
• Integrieren Sie SQL- und Spark-Pools in Azure Synapse Analytics

Modul 6: Datenexploration und -transformation in Azure Databricks
In diesem Modul erfahren Sie, wie man mit verschiedenen Apache Spark Data Frame-Methoden Daten in Azure Databricks untersuchen und transformieren kann. Die Teilnehmer lernen, wie man Standard-Data Frame-Methoden zum Erkunden und Transformieren von Daten ausführen kann.Sie lernen auch, wie man erweiterte Aufgaben ausführen, z. B. doppelte Daten entfernen, Datums- / Zeitwerte bearbeiten, Spalten umbenennen und Daten aggregieren kann.
Lektionen

• Beschreiben von Azure Databricks
• Lesen und Schreiben von Daten in Azure Databricks
• Arbeiten mit Data Frames in Azure Databricks
• Arbeiten mit erweiterten Data-Frames-Methoden in Azure Databricks  

Lab: Datenexploration und -transformation in Azure Databricks

• Verwenden von Data Frames in Azure Databricks, um Daten zu untersuchen und zu filtern
• Einen Data Frame für schnellere nachfolgende Abfragen zwischen zuspeichern
• Entfernen doppelter Daten
• Manipulieren von Datums- / Zeitwerten
• Entfernen und umbenennen von Data Frame-Spalten
• In einem Data Frame gespeicherte Daten aggregieren   

Modul 7: Daten aufnehmen und in das Daten-Warehouse laden
In diesem Modul lernen die Teilnehmer, wie man Daten über T-SQL-Skripte und Synapse Analytics-Integrationspipelines in das Daten-Warehouse aufnimmt. Die Teilnehmer lernen, wie Daten mit PolyBase und COPY mit Hilfe von T-SQL in dedizierte Synapse-SQL-Pools geladen werden. Die Teilnehmer werden ausserdem lernen, wie das Workload-Management, zusammen mit einer Kopieraktivität in einer Azure Synapse-Pipeline für die Datenaufnahme im Petabyte-Bereich verwendet wird.
Lektionen

• Verwenden Sie bewährte Praktiken zum Laden von Daten in Azure Synapse Analytics
• Aufnahme im Petabyte-Bereich mit Azure Data Factory  

Lab: Daten aufnehmen und in das Daten-Warehouse laden

• Führen Sie mit Azure Synapse Pipelines eine Aufnahme im Petabyte-Bereich durch
• Importieren Sie Daten mit PolyBase und COPY mit Hilfe von-SQL
• Verwenden Sie bewährte Praktiken zum Laden von Daten in Azure Synapse Analytics

Modul 8: Transformieren von Daten mit Azure Data Factory- oder Azure Synapse-Pipelines
In diesem Modul lernen die Teilnehmer, wie man Datenintegrations-Pipelines erstellt, um sie aus mehreren Datenquellen aufzunehmen, Daten mit Hilfe von Mapping-Datenflüssen zu transformieren und Daten in eine oder mehrere Datensenken zu verschieben.
Lektionen

• Datenintegration mit Azure Data Factory- oder Azure Synapse-Pipelines
• Codefreie Transformation im Massstab mit Azure Data Factory- oder Azure Synapse-Pipelines  

Lab: Transformieren Sie Daten mit Azure DataFactory-oder Azure Synapse-Pipelines

• Führen Sie mit Azure Synapse Pipelines skalierungsfreie Code-Transformationen aus
• Erstellen Sie eine Datenpipeline, um schlecht formatierte CSV-Dateien zu importieren
• Erstellen Sie Zuordnungsdatenflüsse

Modul 9: Verschieben und Verschieben von Daten in Azure-Synapse-Pipelines orchestrieren
In diesem Modul erfahren Sie, wie man verknüpfte Services erstellt und die Datenverschiebung und -transformation mit Hilfe von Notebooks in Azure Synapse-Pipelines koordiniert.
Lektionen

• Orchestrieren der Datenverschiebung und -transformation in Azure Data Factory

Lab: Orchestrieren der Datenverschiebung und -transformation in Azure Synapse-Pipelines

Modul 10: Optimieren Sie die Abfrageleistung mit dedizierten SQL-Pools in Azure Synapse
In diesem Modul lernen die Teilnehmer Strategien zur Optimierung der Datenspeicherung und -verarbeitung bei Verwendung dedizierter SQL-Pools in Azure Synapse Analytics. Die Teilnehmer lernen zu verstehen, wie Entwicklerfunktionen wie Fenster- und HyperLogLog-Funktionen, bewährte Methoden zum Laden von Daten verwendet werden und die Abfrageleistung optimiert und verbessert wird.
Lektionen

• Optimierung der Leistung der Abfragen des Daten-Warehouses in Azure Synapse Analytics
• Kenntnis der Data Warehouse Entwickler-Features von Azure Synapse Analytics

Lab : Optimieren der Abfrageleistung mit dezidierten SQL Pools in Azure Synapse

• Verstehen der Entwickler-Features von Azure Synapse Analytics
• Optimieren der Data Warehouse Abfrageleistung in Azure Synapse Analytics
• Verbessern der Leistung von Abfragen

Module 11: Analyse und Optimierung der Daten-Warehouse-Speicherung
In diesem Modul lernen die Teilnehmer, wie man die Datenspeicherung von Azure Synapse dezidiertem SQL analysiert und optimiert. Die Teilnehmer werden Techniken erlernen, um die Verwendung des Tabellenbereichs und die Speicherdetails des Spaltenspeichers zu verstehen. Als Nächstes werden die Teilnehmer die Speicheranforderungen zwischen identischen Tabellen vergleichen, die unterschiedliche Datentypen verwenden. Schliesslich werden die Teilnehmer beobachten, welche Auswirkungen materialisierte Ansichten haben, wenn sie anstelle komplexer Abfragen ausgeführt werden und lernen, wie durch Optimierung der Löschvorgänge eine umfangreiche Protokollierung vermieden werden kann.
Lektionen

• Analysieren und optimieren Sie den Daten-Warehouse-Speicher in Azure Synapse Analytic

Lab: Analysieren und Optimieren des Daten-Warehouse-Speichers

• Überprüfen Sie, ob Daten und Speicherplatz verzerrt sind
• Details zur Speicherung von Spaltenspeichern zu verstehen
• Untersuchen Sie die Auswirkungen materialisierter Ansichten
• Erkunden Sie Regeln für minimal protokollierte Vorgänge

Modul 12: Unterstützung von HTAP (Hybrid Transactional Analytical Processing ) mit Azure Synapse Links
In diesem Modul erfahren die Teilnehmer, wie Azure Synapse Link die nahtlose Verbindung eines Azure Cosmos DB-Kontos mit einem Synapse-Arbeitsbereich ermöglicht. Die Teilnehmer lernen zu verstehen, wie man die Synapse-Verknüpfung aktiviert und konfiguriert und wie der Azure Cosmos DB-Analysespeicher mit Apache Spark und serverlosem SQL abgefragt wird.
Lektionen

• Entwerfen Sie hybride Transaktions- und Analyseverarbeitung mit Azure Synapse Analytics
• Konfigurieren Sie Azure Synapse Link mit Azure Cosmos DB
• Fragen Sie Azure Cosmos DB mit Apache Spark-Pools ab
• Fragen Sie Azure Cosmos DB mit serverlosen SQL-Pools ab

Lab: Unterstützung von HTAP (Hybrid Transactional Analytical Processing ) mit dem Azure Synapse Link

• Konfigurieren Sie den Azure Synapse Link mit Azure Cosmos
• Fragen Sie Azure Cosmos DB mit Apache Spark für Synapse Analytics ab
• Fragen Sie Azure Cosmos DB mit serverlosem SQL-Pool für Azure Synapse Analytics ab

Modul 13: End-to-End-Sicherheit mit Azure Synapse Analytics
In diesem Modul lernen die Teilnehmer, wie man einen Synapse Analytics-Arbeitsbereich und seine unterstützende Infrastruktur sichert. Der Schüler beobachtet den SQL Active Directory-Administrator, verwaltet IP-Firewall-Regeln, verwaltet Geheimnisse mit Azure Key Vault und greift über einen mit Key Vault verknüpften Service und Pipeline-Aktivitäten auf diese Geheimnisse zu. Die Teilnehmer werden verstehen, wie Sicherheit auf Spaltenebene, Sicherheit auf Zeilenebene und dynamische Datenmaskierung implementiert wird, wenn dedizierte SQL-Pools verwendet werden.
Lektionen

• Sichern Sie ein Daten-Warehouse in Azure Synapse Analytics
• Konfigurieren und Verwalten von Geheimnissen in Azure Key Vault
• Implementieren Sie Compliance-Kontrollen für sensible Daten

Lab: End-to-End-Sicherheit mit Azure Synapse Analytics

• Sichern Sie Azure Synapse Analytics-unterstützende Infrastruktur
• Sichern der Azure Synapse Analytics-Arbeitsbereich und die verwalteten Services
• Sichern der Azure Synapse Analytics-Arbeitsbereichsdaten

Modul 14: Echtzeit-Stream-Verarbeitung mit Stream Analytics
In diesem Modul lernen die Teilnehmer, wie man Streaming-Daten mit Azure Stream Analytics verarbeitet. Die Teilnehmer nehmen Fahrzeugtelemetriedaten in Event Hubs auf und verarbeiten diese Daten dann in Echtzeit mit Hilfe verschiedener Fensterfunktionen in Azure Stream Analytics. Sie geben die Daten an Azure Synapse Analytics aus. Schliesslich lernen die Teilnehmer, wie man den Stream-Analytics-Job skaliert, um den Durchsatz zu erhöhen.
Lektionen

• Aktivieren Sie zuverlässiges Messaging für Big Data-Anwendungen mit Hilfe von Azure Event Hubs
• Arbeiten Sie mit Datenströmen mit Hilfe von Azure Stream Analytics
• Datenströme mit Azure Stream Analytics aufnehme  

Lab: Echtzeit-Stream-Verarbeitung mit Stream Analytics

• Verwenden Sie Stream Analytics, um Echtzeitdaten von Event Hubs zu verarbeiten
• Verwenden Sie die Fensterfunktionen von Stream Analytics, um Aggregate zu erstellen und in Synapse Analytics auszugeben
• Skalieren Sie den Azure Stream Analytics-Job, um den Durchsatz durch Partitionierung zu erhöhen
• Partitionieren Sie den Stream-Eingang neu, um die Parallelisierung zu optimieren

Modul 15: Erstellen einer Stream-Verarbeitungslösung mit Event Hubs und Azure Databricks
In diesem Modul lernen die Teilnehmer, wie man Streaming-Daten mit Event Hubs und Spark Structured Streaming in Azure Databricks massstabsgetreu erfassen und verarbeiten kann. Die Teilnehmer lernen die wichtigsten Funktionen und Verwendungszwecke von Structured Streaming kennen. Die Teilnehmer implementieren Schiebefenster, um Datenblöcke zu aggregieren und wenden Wasserzeichen an, um veraltete Daten zu entfernen. Schliesslich stellen die Teilnehmer eine Verbindung zu Event Hubs her, um Streams zu lesen und zu schreiben.
Lektionen

• Verarbeiten von Streaming-Daten mit strukturiertem Azure Databricks-Streaming

Lab: Erstellen Sie eine Stream-Verarbeitungslösung mit Event Hubs und Azure Databricks

• Entdecken Sie die wichtigsten Funktionen und Verwendungsmöglichkeiten von Structured Streaming
• Streamen Sie Daten aus einer Datei und schreiben Sie sie in ein verteiltes Dateisystem
• Verwenden Sie Schiebefenster, um lediglich Datenblöcke und nicht alle Daten zu aggregieren
• Wenden Sie ein Wasserzeichen an, um veraltete Daten zu entfernen
• Stellen Sie eine Verbindung zu den Lese- und Schreib-Streams von Event Hubs her

Modul 16: Erstellen von Berichten mit Hilfe der Power BI-Integration mit Azure Synapse Analytics
In diesem Modul lernen die Teilnehmer, wie man Power BI in einen Synapse-Arbeitsbereich integriert, um Berichte in Power BI zu erstellen. Die Teilnehmer erstellen eine neue Datenquelle und einen neuen Power BI-Bericht in Synapse Studio. Anschliessend lernen die Teilnehmer, wie man die Abfrageleistung durch materialisierte Ansichten und Zwischenspeichern von Ergebnismengen verbessern kann. Schliesslich werden die Teilnehmer das Datenmeer mit serverlosen SQL-Pools erkunden und Visualisierungen für diese Daten in Power BI erstellen.
Lektionen

• Erstellen Sie Berichte mit Power BI mit Hilfe der Integration in Azure Synapse Analytics  

Lab: Erstellen Sie Berichte mit Hilfe der PowerBI-Integration mit Azure Synapse Analytics

• Integrieren Sie einen Azure Synapse-Arbeitsbereich und Power BI
• Optimieren Sie die Integration mit Power BI
• Verbessern Sie die Abfrageleistung mit materialisierten Ansichten und Caching von Ergebnismengen
• Visualisieren Sie Daten mit serverlosem SQL und erstellen Sie einen PowerBI-Bericht

Modul 17: Integrierte maschinelle Lernprozesse in Azure Synapse Analytics ausführen
In diesem Modul wird die integrierte, durchgängige Erfahrung mit Azure maschinellem Lernen und Azure kognitiven Services in Azure Synapse Analytics erläutert. Sie erfahren, wie Sie einen Azure Synapse Analytics-Arbeitsbereich mithilfe eines verknüpften Services mit einem Azure Machine Learning-Arbeitsbereich verbinden und anschliessend ein automatisiertes ML-Experiment auslösen, das Daten aus einer Spark-Tabelle verwendet. Ausserdem erfahren Sie, wie man trainierte Modelle aus Azure-maschiniertem Lernen oder Azure kognitiven Services verwenden, um Daten in einer SQL-Pooltabelle anzureichern und anschliessend mit Hilfe von Power BI Prognoseergebnisse bereitzustellen.
Lektionen

• Verwenden des integrierten maschinellen Lernprozesses in Azure Synapse Analytics  

Lab: Durchführen integrierter maschineller Lernprozesse in Azure Synapse Analytics

• Erstellen Sie einen verknüpften Azure Service mit maschinellem Lernen
• Lösen Sie ein Auto-ML-Experiment mit Daten aus einer Spark-Tabelle aus
• Daten mit trainierten Modellen anreichern
• Bereitstellen von Vorhersageergebnissen mit Power BI

Digicomp Flexible-Learning-Ansatz:

• Trainings-Modalität: Während einer Dauer von 4 Wochen finden 6-8 halbtägige (je 3h) virtuelle Live-Sessions mit unseren Azure-MCT-Experten statt. Die Sessions sind bereits geplant und lassen sich super mit dem Arbeitsalltag verbinden. Zwischen den Sessions bleibt genügend Zeit, das gelernte Wissen zu verarbeiten.
• Detaillierter Session-Plan: Klicken Sie dazu am Ende der Seite, wo Sie Ihr gewünschtes Datum auswählen, auf «Stundenplan».

Die primäre Zielgruppe für diesen Kurs sind Datenexperten, Datenarchitekten und Business-Intelligence-Experten, die etwas über Data Engineering und den Aufbau analytischer Lösungen mit Datenplattform-Technologien auf Microsoft Azure lernen möchten.
Die sekundäre Zielgruppe für diesen Kurs sind Datenanalysten und Datenwissenschaftler, die mit analytischen Lösungen arbeiten, die auf Microsoft Azure aufgebaut sind.

Erfolgreiche Teilnehmer beginnen diesen Kurs mit Kenntnissen über Cloud Computing und Kerndatenkonzepte sowie Berufserfahrung mit Datenlösungen.

Empfohlen wird das in folgenden Kursen erlangte Grundwissen:

KURS
Microsoft Azure Fundamentals (Hands-on) – Intensive Training («A900IC»)
2 Tage
• Basel, Bern, Genf, Lausanne, Zürich
CHF
1'800.–
Mehr erfahren
KURS
Microsoft Azure Fundamentals – Flexible Training («AZ900V»)
2 Tage
CHF
1'800.–
Mehr erfahren

Dieses Flexible Training bereitet Sie vor auf:

• Prüfung: «DP-203: Data Engineering on Microsoft Azure» für die
• Zertifizierung: «Microsoft Certified: Azure Data Engineer Associate»

• Microsoft Certified: Azure Data Engineer Associate