Kurs
Data Engineering on Microsoft Azure – Flexible Training («DP203V»)
Dieses DP-203 Training besteht aus jeweils maximal 2 Halbtages-Sessions pro Woche über höchstens 4 Wochen mit integriertem Learning Support. Klicken Sie für den Session-Plan am Ende der Seite, wo Sie Ihr gewünschtes Datum auswählen, auf «Stundenplan».
Herstellercode
DP-203
Dauer
3 Tage
Preis
2'550.–
zzgl. 8.1% MWST
Kursdokumente
Offizielle Microsoft-Unterlagen und Microsoft Learn
Entdecken Sie das alternative Lernformat
Data Engineering on Microsoft Azure – Intensive Training («DP203»)
Kurs-Facts
- Erkunden von Rechen- und Speicheroptionen für Data-Engineering-Workloads in Azure
- Entwurf und Implementierung der Serving-Schicht
- Verstehen von Überlegungen zur Datentechnik
- Interaktive Abfragen mit serverlosen SQL-Pools ausführen
- Erforschen, Transformieren und Laden von Daten in das Data Warehouse mit Apache Spark
- Durchführen von Datenexploration und -transformation in Azure Databricks
- Einlesen und Laden von Daten in das Data Warehouse
- Transformieren von Daten mit Azure Data Factory oder Azure Synapse Pipelines
- Integrieren von Daten aus Notebooks mit Azure Data Factory oder Azure Synapse Pipelines
- Optimieren der Abfrageleistung mit Dedicated SQL Pools in Azure Synapse
- Analysieren und Optimieren der Data-Warehouse-Speicherung
- Unterstützen hybrider transaktionaler analytischer Verarbeitung (HTAP) mit Azure Synapse Link
- Führen Sie End-to-End-Sicherheit mit Azure Synapse Analytics durch
- Durchführen von Stream Processing in Echtzeit mit Stream Analytics
- Erstellen einer Stream-Processing-Lösung mit Event Hubs und Azure Databricks
- Erstellen von Berichten mithilfe der Power-BI-Integration mit Azure Synapse Analytics
- Durchführen integrierter Machine-Learning-Prozesse in Azure Synapse Analytics
Kursinhalt:
Modul 1: Untersuchen von Rechen- und Speicheroptionen für Daten-Engineering-Workloads
Dieses Modul bietet einen Überblick über die Optionen der Azure-Computer- und Speichertechnologie, die Dateningenieuren zur Verfügung stehen, die analytische Workloads erstellen. In diesem Modul erfahren Sie, wie man das Datenmeer strukturiert und die Dateien für Explorations-, Streaming- und Batch-Workloads optimieren kann. Die Teilnehmer lernen, wie man das Datenmeer in Ebenen der Datenverfeinerung organisiert, während Dateien durch Stapel- und Stream-Verarbeitung transformiert werden. Anschliessend lernen sie, wie man Indizes für ihre Datensets wie CSV-, JSON- und Parkettdateien erstellen und diese für eine mögliche Beschleunigung von Abfragen und Workloads verwenden kann.
Lektionen
- Einführung in Azure Synapse Analytics
- Beschreiben von Azure Databricks
- Einführung in den Azure Datenmeer-Speicher
- Die Architektur des Datenmeeres beschreiben
- Arbeiten mit Datenströmen, mit hilfe von Azure Stream Analytics
- Kombinieren Sie Streaming und Stapelverarbeitung mit einer einzigen Pipeline
- Organisieren Sie das Datenmeer in Dateitransformationsebenen
- Indizieren Sie den Datenmeer-Speicher für Abfrage- und Workload-Beschleunigung
Modul 2: Entwerfen und Implementieren der Ausgabeebenen
In diesem Modul erfahren Sie, wie man Datenspeicher in einem modernen Daten-Warehouse entwerfen und implementieren kann, um analytische Workloads zu optimieren. Die Teilnehmer lernen, wie man ein mehrdimensionales Schema zum Speichern von Fakten- und Dimensionsdaten entwirft. Anschliessend lernen die Teilnehmer, wie langsam ändernde Dimensionen durch inkrementelles Laden von Daten aus Azure Data Factory gefüllt werden.
Lektionen
- Entwerfen eines mehrdimensionales Schemas, um analytische Workloads zu optimieren
- Codefreie Transformation im Massstab mit Azure Data Factory
- Sich langsam ändernde Dimensionen in Azure Synapse Analytics-Pipelines füllen
- Entwerfen eines Sternschema für analytische Workloads
- Sich langsam ändernde Dimensionen mit Azure Data Factory anfüllen und Datenflüsse zuordnen
Modul 3: Überlegungen zum Daten-Engineering für Quelldateien
Dieses Modul befasst sich mit Überlegungen zur Datentechnik, die beim Laden von Daten in ein modernes analytisches Data Warehouse aus Dateien, die in einem Azure Datensee gespeichert sind, üblich sind, und mit den Sicherheitsüberlegungen, die mit der Speicherung von Dateien im Datensee verbunden sind.
Lektionen
- Entwerfen Sie ein modernes Daten-Warehouse mit Azure Synapse Analytics
- Sichern Sie ein Daten-Warehouse in Azure Synapse Analytics
- Verwalten von Dateien in einem Azure-Datenmeer
- Sichern von Dateien, die in einem Azure-Datenmeer gespeichert sind
Modul 4: Führen Sie interaktive Abfragen mit serverlosen SQL-Pools von Azure Synapse Analytics aus
In diesem Modul lernen die Teilnehmer anhand von T-SQL-Anweisungen, die von einem serverlosen SQL-Pool in Azure Synapse Analytics ausgeführt werden, wie man mit Dateien arbeitet, die im Datenmeer und in externen Dateiquellen gespeichert sind. Die Teilnehmer fragen Parkettdateien ab, die in einem Datenmeer gespeichert sind, sowie CSV-Dateien, die in einem externen Datenspeicher gespeichert sind. Als Nächstes erstellen sie Azure Active Directory-Sicherheitsgruppen und erzwingen den Zugriff auf Dateien im Datenmeer über die rollenbasierte Zugriffssteuerung (RBAC) und Zugriffssteuerungslisten (ACLs).
Lektionen
- Erkunden Sie die Funktionen der serverlosen SQL-Pools von Azure Synapse
- Abfragen von Daten im Meer mit Hilfe von serverlosen SQL-Pools von Azure Synapse
- Erstellen Sie Metadatenobjekte in serverlosen SQL-Pools von Azure Synapse
- Sichern Sie Daten und verwalten Sie Benutzer in serverlosen SQL-Poolsvon Azure Synapse
- Abfragen von Parkettdaten mit serverlosen SQL-Pools
- Erstellen externer Tabellen für Parkett- und CSV-Dateien
- Erstellen von Ansichten mitserverlosen SQL-Pools
- Zugriff auf Daten in einem Datensee bei Verwendung von serverlosen SQL-Pools sichern
- Konfigurieren von Datenmeer-Sicherheit mit Hilfe rollenbasierter Zugriffssteuerung (RBAC) und der Zugriffssteuerungsliste
Modul 5: Durchsuchen, Transformieren und Laden von Daten in das Daten-Warehouse mit Apache Spark
In diesem Modul erfahren Sie, wie man in einem Datenmeer gespeicherte Daten untersucht, die Daten transformiert und Daten in einen relationalen Datenspeicher lädt. Die Teilnehmer werden Parkett- und JSON-Dateien untersuchen und Techniken verwenden, um JSON-Dateien mit hierarchischen Strukturen abzufragen und zu transformieren. Anschliessend verwenden die Teilnehmer Apache Spark, um Daten in das Daten-Warehouse zu laden und Parkettdaten im Datenmeer mit Daten im dedizierten SQL-Pool zu verknüpfen.
Lektionen
- Grundlegendes zum Engineering grosser Datenmengen mit Apache Spark in Azure Synapse Analytics
- Daten mit Apache Spark-Notebooks in Azure Synapse Analytics aufnehmen
- Daten mit Data Frames in Apache Spark-Pools in Azure Synapse Analytics transformieren
- SQL- und Apache Spark-Pools in Azure Synapse Analytics integrieren
- Führen Sie eine Datenexploration in Synapse Studio durch
- Daten mit Spark-Notebooks in Azure Synapse Studio aufnehmen
- Transformieren Sie Daten mit Data Frames in Spark-Pools in Azure Synapse Analytics
- Integrieren Sie SQL- und Spark-Pools in Azure Synapse Analytics
Modul 6: Datenexploration und -transformation in Azure Databricks
In diesem Modul erfahren Sie, wie man mit verschiedenen Apache Spark Data Frame-Methoden Daten in Azure Databricks untersuchen und transformieren kann. Die Teilnehmer lernen, wie man Standard-Data Frame-Methoden zum Erkunden und Transformieren von Daten ausführen kann.Sie lernen auch, wie man erweiterte Aufgaben ausführen, z. B. doppelte Daten entfernen, Datums- / Zeitwerte bearbeiten, Spalten umbenennen und Daten aggregieren kann.
Lektionen
- Beschreiben von Azure Databricks
- Lesen und Schreiben von Daten in Azure Databricks
- Arbeiten mit Data Frames in Azure Databricks
- Arbeiten mit erweiterten Data-Frames-Methoden in Azure Databricks
- Verwenden von Data Frames in Azure Databricks, um Daten zu untersuchen und zu filtern
- Einen Data Frame für schnellere nachfolgende Abfragen zwischen zuspeichern
- Entfernen doppelter Daten
- Manipulieren von Datums- / Zeitwerten
- Entfernen und umbenennen von Data Frame-Spalten
- In einem Data Frame gespeicherte Daten aggregieren
Modul 7: Daten aufnehmen und in das Daten-Warehouse laden
In diesem Modul lernen die Teilnehmer, wie man Daten über T-SQL-Skripte und Synapse Analytics-Integrationspipelines in das Daten-Warehouse aufnimmt. Die Teilnehmer lernen, wie Daten mit PolyBase und COPY mit Hilfe von T-SQL in dedizierte Synapse-SQL-Pools geladen werden. Die Teilnehmer werden ausserdem lernen, wie das Workload-Management, zusammen mit einer Kopieraktivität in einer Azure Synapse-Pipeline für die Datenaufnahme im Petabyte-Bereich verwendet wird.
Lektionen
- Verwenden Sie bewährte Praktiken zum Laden von Daten in Azure Synapse Analytics
- Aufnahme im Petabyte-Bereich mit Azure Data Factory
- Führen Sie mit Azure Synapse Pipelines eine Aufnahme im Petabyte-Bereich durch
- Importieren Sie Daten mit PolyBase und COPY mit Hilfe von-SQL
- Verwenden Sie bewährte Praktiken zum Laden von Daten in Azure Synapse Analytics
Modul 8: Transformieren von Daten mit Azure Data Factory- oder Azure Synapse-Pipelines
In diesem Modul lernen die Teilnehmer, wie man Datenintegrations-Pipelines erstellt, um sie aus mehreren Datenquellen aufzunehmen, Daten mit Hilfe von Mapping-Datenflüssen zu transformieren und Daten in eine oder mehrere Datensenken zu verschieben.
Lektionen
- Datenintegration mit Azure Data Factory- oder Azure Synapse-Pipelines
- Codefreie Transformation im Massstab mit Azure Data Factory- oder Azure Synapse-Pipelines
- Führen Sie mit Azure Synapse Pipelines skalierungsfreie Code-Transformationen aus
- Erstellen Sie eine Datenpipeline, um schlecht formatierte CSV-Dateien zu importieren
- Erstellen Sie Zuordnungsdatenflüsse
Modul 9: Verschieben und Verschieben von Daten in Azure-Synapse-Pipelines orchestrieren
In diesem Modul erfahren Sie, wie man verknüpfte Services erstellt und die Datenverschiebung und -transformation mit Hilfe von Notebooks in Azure Synapse-Pipelines koordiniert.
Lektionen
- Orchestrieren der Datenverschiebung und -transformation in Azure Data Factory
Modul 10: Optimieren Sie die Abfrageleistung mit dedizierten SQL-Pools in Azure Synapse
In diesem Modul lernen die Teilnehmer Strategien zur Optimierung der Datenspeicherung und -verarbeitung bei Verwendung dedizierter SQL-Pools in Azure Synapse Analytics. Die Teilnehmer lernen zu verstehen, wie Entwicklerfunktionen wie Fenster- und HyperLogLog-Funktionen, bewährte Methoden zum Laden von Daten verwendet werden und die Abfrageleistung optimiert und verbessert wird.
Lektionen
- Optimierung der Leistung der Abfragen des Daten-Warehouses in Azure Synapse Analytics
- Kenntnis der Data Warehouse Entwickler-Features von Azure Synapse Analytics
- Verstehen der Entwickler-Features von Azure Synapse Analytics
- Optimieren der Data Warehouse Abfrageleistung in Azure Synapse Analytics
- Verbessern der Leistung von Abfragen
Module 11: Analyse und Optimierung der Daten-Warehouse-Speicherung
In diesem Modul lernen die Teilnehmer, wie man die Datenspeicherung von Azure Synapse dezidiertem SQL analysiert und optimiert. Die Teilnehmer werden Techniken erlernen, um die Verwendung des Tabellenbereichs und die Speicherdetails des Spaltenspeichers zu verstehen. Als Nächstes werden die Teilnehmer die Speicheranforderungen zwischen identischen Tabellen vergleichen, die unterschiedliche Datentypen verwenden. Schliesslich werden die Teilnehmer beobachten, welche Auswirkungen materialisierte Ansichten haben, wenn sie anstelle komplexer Abfragen ausgeführt werden und lernen, wie durch Optimierung der Löschvorgänge eine umfangreiche Protokollierung vermieden werden kann.
Lektionen
- Analysieren und optimieren Sie den Daten-Warehouse-Speicher in Azure Synapse Analytic
- Überprüfen Sie, ob Daten und Speicherplatz verzerrt sind
- Details zur Speicherung von Spaltenspeichern zu verstehen
- Untersuchen Sie die Auswirkungen materialisierter Ansichten
- Erkunden Sie Regeln für minimal protokollierte Vorgänge
Modul 12: Unterstützung von HTAP (Hybrid Transactional Analytical Processing ) mit Azure Synapse Links
In diesem Modul erfahren die Teilnehmer, wie Azure Synapse Link die nahtlose Verbindung eines Azure Cosmos DB-Kontos mit einem Synapse-Arbeitsbereich ermöglicht. Die Teilnehmer lernen zu verstehen, wie man die Synapse-Verknüpfung aktiviert und konfiguriert und wie der Azure Cosmos DB-Analysespeicher mit Apache Spark und serverlosem SQL abgefragt wird.
Lektionen
- Entwerfen Sie hybride Transaktions- und Analyseverarbeitung mit Azure Synapse Analytics
- Konfigurieren Sie Azure Synapse Link mit Azure Cosmos DB
- Fragen Sie Azure Cosmos DB mit Apache Spark-Pools ab
- Fragen Sie Azure Cosmos DB mit serverlosen SQL-Pools ab
- Konfigurieren Sie den Azure Synapse Link mit Azure Cosmos
- Fragen Sie Azure Cosmos DB mit Apache Spark für Synapse Analytics ab
- Fragen Sie Azure Cosmos DB mit serverlosem SQL-Pool für Azure Synapse Analytics ab
Modul 13: End-to-End-Sicherheit mit Azure Synapse Analytics
In diesem Modul lernen die Teilnehmer, wie man einen Synapse Analytics-Arbeitsbereich und seine unterstützende Infrastruktur sichert. Der Schüler beobachtet den SQL Active Directory-Administrator, verwaltet IP-Firewall-Regeln, verwaltet Geheimnisse mit Azure Key Vault und greift über einen mit Key Vault verknüpften Service und Pipeline-Aktivitäten auf diese Geheimnisse zu. Die Teilnehmer werden verstehen, wie Sicherheit auf Spaltenebene, Sicherheit auf Zeilenebene und dynamische Datenmaskierung implementiert wird, wenn dedizierte SQL-Pools verwendet werden.
Lektionen
- Sichern Sie ein Daten-Warehouse in Azure Synapse Analytics
- Konfigurieren und Verwalten von Geheimnissen in Azure Key Vault
- Implementieren Sie Compliance-Kontrollen für sensible Daten
- Sichern Sie Azure Synapse Analytics-unterstützende Infrastruktur
- Sichern der Azure Synapse Analytics-Arbeitsbereich und die verwalteten Services
- Sichern der Azure Synapse Analytics-Arbeitsbereichsdaten
Modul 14: Echtzeit-Stream-Verarbeitung mit Stream Analytics
In diesem Modul lernen die Teilnehmer, wie man Streaming-Daten mit Azure Stream Analytics verarbeitet. Die Teilnehmer nehmen Fahrzeugtelemetriedaten in Event Hubs auf und verarbeiten diese Daten dann in Echtzeit mit Hilfe verschiedener Fensterfunktionen in Azure Stream Analytics. Sie geben die Daten an Azure Synapse Analytics aus. Schliesslich lernen die Teilnehmer, wie man den Stream-Analytics-Job skaliert, um den Durchsatz zu erhöhen.
Lektionen
- Aktivieren Sie zuverlässiges Messaging für Big Data-Anwendungen mit Hilfe von Azure Event Hubs
- Arbeiten Sie mit Datenströmen mit Hilfe von Azure Stream Analytics
- Datenströme mit Azure Stream Analytics aufnehme
- Verwenden Sie Stream Analytics, um Echtzeitdaten von Event Hubs zu verarbeiten
- Verwenden Sie die Fensterfunktionen von Stream Analytics, um Aggregate zu erstellen und in Synapse Analytics auszugeben
- Skalieren Sie den Azure Stream Analytics-Job, um den Durchsatz durch Partitionierung zu erhöhen
- Partitionieren Sie den Stream-Eingang neu, um die Parallelisierung zu optimieren
Modul 15: Erstellen einer Stream-Verarbeitungslösung mit Event Hubs und Azure Databricks
In diesem Modul lernen die Teilnehmer, wie man Streaming-Daten mit Event Hubs und Spark Structured Streaming in Azure Databricks massstabsgetreu erfassen und verarbeiten kann. Die Teilnehmer lernen die wichtigsten Funktionen und Verwendungszwecke von Structured Streaming kennen. Die Teilnehmer implementieren Schiebefenster, um Datenblöcke zu aggregieren und wenden Wasserzeichen an, um veraltete Daten zu entfernen. Schliesslich stellen die Teilnehmer eine Verbindung zu Event Hubs her, um Streams zu lesen und zu schreiben.
Lektionen
- Verarbeiten von Streaming-Daten mit strukturiertem Azure Databricks-Streaming
- Entdecken Sie die wichtigsten Funktionen und Verwendungsmöglichkeiten von Structured Streaming
- Streamen Sie Daten aus einer Datei und schreiben Sie sie in ein verteiltes Dateisystem
- Verwenden Sie Schiebefenster, um lediglich Datenblöcke und nicht alle Daten zu aggregieren
- Wenden Sie ein Wasserzeichen an, um veraltete Daten zu entfernen
- Stellen Sie eine Verbindung zu den Lese- und Schreib-Streams von Event Hubs her
Modul 16: Erstellen von Berichten mit Hilfe der Power BI-Integration mit Azure Synapse Analytics
In diesem Modul lernen die Teilnehmer, wie man Power BI in einen Synapse-Arbeitsbereich integriert, um Berichte in Power BI zu erstellen. Die Teilnehmer erstellen eine neue Datenquelle und einen neuen Power BI-Bericht in Synapse Studio. Anschliessend lernen die Teilnehmer, wie man die Abfrageleistung durch materialisierte Ansichten und Zwischenspeichern von Ergebnismengen verbessern kann. Schliesslich werden die Teilnehmer das Datenmeer mit serverlosen SQL-Pools erkunden und Visualisierungen für diese Daten in Power BI erstellen.
Lektionen
- Erstellen Sie Berichte mit Power BI mit Hilfe der Integration in Azure Synapse Analytics
- Integrieren Sie einen Azure Synapse-Arbeitsbereich und Power BI
- Optimieren Sie die Integration mit Power BI
- Verbessern Sie die Abfrageleistung mit materialisierten Ansichten und Caching von Ergebnismengen
- Visualisieren Sie Daten mit serverlosem SQL und erstellen Sie einen PowerBI-Bericht
Modul 17: Integrierte maschinelle Lernprozesse in Azure Synapse Analytics ausführen
In diesem Modul wird die integrierte, durchgängige Erfahrung mit Azure maschinellem Lernen und Azure kognitiven Services in Azure Synapse Analytics erläutert. Sie erfahren, wie Sie einen Azure Synapse Analytics-Arbeitsbereich mithilfe eines verknüpften Services mit einem Azure Machine Learning-Arbeitsbereich verbinden und anschliessend ein automatisiertes ML-Experiment auslösen, das Daten aus einer Spark-Tabelle verwendet. Ausserdem erfahren Sie, wie man trainierte Modelle aus Azure-maschiniertem Lernen oder Azure kognitiven Services verwenden, um Daten in einer SQL-Pooltabelle anzureichern und anschliessend mit Hilfe von Power BI Prognoseergebnisse bereitzustellen.
Lektionen
- Verwenden des integrierten maschinellen Lernprozesses in Azure Synapse Analytics
- Erstellen Sie einen verknüpften Azure Service mit maschinellem Lernen
- Lösen Sie ein Auto-ML-Experiment mit Daten aus einer Spark-Tabelle aus
- Daten mit trainierten Modellen anreichern
- Bereitstellen von Vorhersageergebnissen mit Power BI
Digicomp Flexible-Learning-Ansatz:
- Trainings-Modalität: Während einer Dauer von 4 Wochen finden 6-8 halbtägige (je 3h) virtuelle Live-Sessions mit unseren Azure-MCT-Experten statt. Die Sessions sind bereits geplant und lassen sich super mit dem Arbeitsalltag verbinden. Zwischen den Sessions bleibt genügend Zeit, das gelernte Wissen zu verarbeiten.
- Detaillierter Session-Plan: Klicken Sie dazu am Ende der Seite, wo Sie Ihr gewünschtes Datum auswählen, auf «Stundenplan».
Die sekundäre Zielgruppe für diesen Kurs sind Datenanalysten und Datenwissenschaftler, die mit analytischen Lösungen arbeiten, die auf Microsoft Azure aufgebaut sind.
Empfohlen wird das in folgenden Kursen erlangte Grundwissen:
- Prüfung: «DP-203: Data Engineering on Microsoft Azure» für die
- Zertifizierung: «Microsoft Certified: Azure Data Engineer Associate»