Microsoft Azure – Ingénierie des données

OFFRE SPÉCIALE
CPF FNE

Dernière mise à jour : 17 juillet 2023

icone d'un cours officiel

Cours officiel

Microsoft
icone d'une formation certifiante

Formation certifiante

Cette formation certifiante Microsoft propose une exploration approfondie de l’ingénierie des données via les technologies de la plateforme de données Azure.
Vous apprendrez à travailler avec les données stockées dans les centres de données et à utiliser les différentes techniques d’ingestion avec Apache Spark, Azure Synapse Analytics, Azure Databricks, et Azure Data Factory.
De plus, nous nous intéresserons à la création de solutions analytiques en temps réel et par lots, l’optimisation des performances des requêtes avec des pools SQL dédiés, le traitement analytique transactionnel hybride (HTAP) avec Azure Synapse Link, la sécurité de bout en bout, le traitement de flux en temps réel avec Stream Analytics, l’intégration de Power BI pour la création de rapports, et l’exécution des processus d’apprentissage automatique intégrés dans Azure Synapse Analytics.
Le coupon d’examen officiel, d’une valeur de 165 € HT, est inclus dans le coût de la formation.

Objectifs pédagogiques


  • Explorer les options de calcul et de stockage pour les charges de travail en matière d'ingénierie des données dans Azure
  • Explorer, transformer et charger des données dans l'entrepôt de données à l'aide d'Apache Spark
  • Effectuer l'exploration et la transformation des données dans Azure Databricks
  • Transformer les données avec Azure Data Factory ou Azure Synapse Pipelines
  • Optimiser les performances des requêtes avec des pools SQL dédiés dans Azure Synapse
  • Prendre en charge le traitement analytique transactionnel hybride (HTAP) avec Azure Synapse Link
  • Assurer la sécurité de bout en bout avec Azure Synapse Analytics
  • Effectuez un traitement de flux en temps réel avec Stream Analytics
  • Créer des rapports à l'aide de l'intégration Power BI avec Azure Synpase Analytics
  • Exécuter des processus d'apprentissage automatique intégrés dans Azure Synapse Analytics

Public concerné


Le public cible de ce cours est constitué de professionnels des données, d'architectes de données et de professionnels de la veille stratégique qui souhaitent se familiariser avec l'ingénierie des données et la création de solutions analytiques à l'aide des technologies de plateforme de données qui existent sur Microsoft Azure.

Sont également concernés les analystes de données et les scientifiques de données qui travaillent avec des solutions analytiques construites sur Microsoft Azure.

Cette formation prépare au rôle d'ingénieur en traitement des données.

Prérequis


Il est recommandé d'avoir suivi en préalable les formations Microsoft Azure – Notions fondamentales et Microsoft Azure Data – Notions fondamentales

Programme détaillé


Étudier les options de calcul et de stockage pour les charges de travail en ingénierie des données (1 heure)

  • Introduction à Azure Synapse Analytics
  • Décrire Azure Databricks
  • Introduction au stockage Azure Data Lake
  • Décrire l'architecture Delta Lake
  • Travailler avec des flux de données en utilisant Azure Stream Analytics
  • Travaux pratiques :
    • Combiner le traitement en continu et le traitement par lots avec un seul pipeline
    • Organisez les étendues de données en niveaux de transformation de fichiers
    • Indexez le stockage des étendues de données pour accélérer les requêtes et les charges de travail

Concevoir et mettre en œuvre la couche de services (2 heures)

  • Conception d'un schéma multidimensionnel pour optimiser les charges de travail analytiques
  • Transformation sans code à l'échelle avec Azure Data Factory
  • Alimentation des dimensions à évolution progressive dans les pipelines Azure Synapse Analytics
  • Travaux pratiques :
    • Conception d'un schéma en étoile pour les charges de travail analytiques
    • Remplissage de dimensions à évolution progressive avec Azure Data Factory et mappage des flux de données

Les aspects d'ingénierie des données pour les fichiers sources (1 heure)

  • Concevoir un entrepôt de données moderne avec Azure Synapse Analytics
  • Sécuriser un entrepôt de données dans Azure Synapse Analytics
  • Travaux pratiques :
    • Gestion des fichiers dans une étendue de données Azure
    • Sécurisation des fichiers stockés dans une étendue de données Azure

Exécution de requêtes interactives à l'aide des pools SQL sans serveur Azure Synapse Analytics (2 heures)

  • Explorez les capacités des pools SQL sans serveur Azure Synapse
  • Interroger les données d'une étendue à l'aide des pools SQL sans serveur Azure Synapse
  • Créer des objets de métadonnées dans les pools SQL sans serveur Azure Synapse
  • Sécurisation des données et gestion des utilisateurs dans les pools SQL sans serveur Azure Synapse
  • Travaux pratiques :
    • Créer des tables externes pour les fichiers et CSV
    • Créer des vues avec des pools SQL sans serveur
    • Sécuriser l'accès aux données dans une étendue de données en utilisant des pools SQL sans serveur
    • Configurer la sécurité d'une étendue de données en utilisant le contrôle d'accès basé sur les rôles (RBAC) et la liste de contrôle d'accès

Explorer, transformer et charger des données dans le magasin de données à l'aide d'Apache Spark (3 heures)

  • Comprendre l'ingénierie du big data avec Apache Spark dans Azure Synapse Analytics
  • Ingérer des données avec Apache Spark notebooks dans Azure Synapse Analytics
  • Transformer les données avec DataFrames dans les pools Apache Spark dans Azure Synapse Analytics
  • Intégrer des pools SQL et Apache Spark dans Azure Synapse Analytics
  • Travaux pratiques :
    • Exploration des données dans Synapse Studio
    • Ingérer des données avec Spark notebooks dans Azure Synapse Analytics
    • Transformer les données avec DataFrames dans les pools Spark dans Azure Synapse Analytics
    • Intégrer des pools SQL et Spark dans Azure Synapse Analytics

Exploration et transformation des données dans Azure Databricks (3 heures)

  • Décrire Azure Databricks
  • Lire et écrire des données dans Azure Databricks
  • Travailler avec des DataFrames dans Azure Databricks
  • Travailler avec les méthodes avancées des DataFrames dans Azure Databricks
  • Travaux pratiques :
    • Utiliser les DataFrames dans Azure Databricks pour explorer et filtrer les données
    • Mettre en cache un DataFrame pour accélérer les requêtes ultérieures
    • Supprimez les données en double
    • Manipulation des valeurs de date et d'heure
    • Supprimer et renommer des colonnes de DataFrame
    • Agrégation des données stockées dans un DataFrame

Ingérer et charger les données dans l'entrepôt de données (1 heure)

  • Utiliser les meilleures pratiques de chargement de données dans Azure Synapse Analytics
  • Ingestion à l'échelle du pétaoctet avec Azure Data Factory
  • Travaux pratiques :
    • Effectuer une ingestion à l'échelle du pétaoctet avec Azure Synapse Pipelines
    • Importez des données avec PolyBase et COPY en utilisant T-SQL
    • Utilisez les meilleures pratiques de chargement de données dans Azure Synapse Analytics

Transformer les données avec Azure Data Factory ou Azure Synapse Pipelines (2 heures)

  • Intégration des données avec Azure Data Factory ou Azure Synapse Pipelines
  • Transformation sans code à l'échelle avec Azure Data Factory ou Azure Synapse Pipelines
  • Travaux pratiques :
    • Exécuter des transformations sans code à l'échelle avec Azure Synapse Pipelines
    • Créer un pipeline de données pour importer des fichiers CSV mal formatés
    • Créer des flux de données mappés

Orchestrer le déplacement et la transformation des données dans Azure Synapse Pipelines (1 heure)

  • Orchestrer le transport et la transformation des données dans Azure Data Factory
  • Travaux pratiques :
    • Intégrer les données des Notebooks avec Azure Data Factory ou Azure Synapse Pipelines

Optimiser les performances des requêtes avec des pools SQL dédiés dans Azure Synapse (1 heure)

  • Optimiser les performances des requêtes d'entrepôt de données dans Azure Synapse Analytics
  • Comprendre les fonctions de développement d'entrepôt de données d'Azure Synapse Analytics
  • Travaux pratiques :
    • Comprendre les fonctions de développement d'Azure Synapse Analytics
    • Optimiser les performances des requêtes de l'entrepôt de données dans Azure Synapse Analytics
    • Améliorer les performances des requêtes

Analyser et optimiser le stockage de l'entrepôt de données (1 heure)

  • Analyser et optimiser le stockage de l'entrepôt de données dans Azure Synapse Analytics
  • Travaux pratiques :
    • Vérifiez si les données et l'utilisation de l'espace sont faussées
    • Comprendre les détails du stockage des colonnes
    • Étudiez l'impact des vues matérialisées
    • Explorez les règles pour les opérations à journalisation minimale

Prise en charge du traitement analytique transactionnel hybride (HTAP) avec Azure Synapse Link (2 heures)

  • Concevoir un traitement hybride transactionnel et analytique à l'aide d'Azure Synapse Analytics
  • Configurer Azure Synapse Link avec Azure Cosmos DB
  • Interroger Azure Cosmos DB avec des pools Apache Spark
  • Interroger Azure Cosmos DB avec des pools SQL sans serveur
  • Travaux pratiques :
    • Configurer Azure Synapse Link avec Azure Cosmos DB
    • Interroger la base de données Azure Cosmos avec Apache Spark pour Synapse Analytics
    • Interroger Azure Cosmos DB avec un pool SQL sans serveur pour Azure Synapse Analytics

Sécurité de bout en bout avec Azure Synapse Analytics (3 heures)

  • Sécuriser un entrepôt de données dans Azure Synapse Analytics
  • Configurer et gérer les secrets dans Azure Key Vault
  • Mettre en œuvre des contrôles de conformité pour les données sensibles
  • Travaux pratiques :
    • Sécuriser l'infrastructure de support d'Azure Synapse Analytics
    • Sécurisation de l'espace de travail et des services gérés d'Azure Synapse Analytics
    • Sécuriser les données de l'espace de travail Azure Synapse Analytics

Traitement des flux en temps réel avec Stream Analytics (1 heure)

  • Assurer une messagerie fiable pour les applications Big Data à l'aide d'Azure Event Hubs
  • Travailler avec des flux de données à l'aide d'Azure Stream Analytics
  • Ingérer des flux de données avec Azure Stream Analytics
  • Travaux pratiques :
    • Utiliser Stream Analytics pour traiter les données en temps réel provenant des Event Hubs
    • Utilisez les fonctions de fenêtrage de Stream Analytics pour créer des agrégats et les transmettre à Synapse Analytics
    • Faites évoluer le job Azure Stream Analytics pour augmenter le débit grâce au partitionnement
    • Répartir l'entrée du flux pour optimiser la parallélisation

Créer une solution de traitement des flux avec Event Hubs et Azure Databricks (1 heure)

  • Traiter les données en continu avec le streaming structuré d'Azure Databricks
  • Travaux pratiques :
    • Explorer les principales caractéristiques et utilisations du streaming structuré
    • Traiter des données en continu à partir d'un fichier et les écrire sur un système de fichiers distribué
    • Utiliser des fenêtres glissantes pour agréger des morceaux de données plutôt que toutes les données
    • Appliquer le filigrane pour supprimer les données périmées
    • Connexion aux flux de lecture et d'écriture des Event Hubs

Créer des rapports en utilisant l'intégration de Power BI avec Azure Synpase Analytics (2 heures)

  • Créer des rapports avec Power BI en utilisant son intégration avec Azure Synapse Analytics
  • Travaux pratiques :
    • Intégrer un espace de travail Azure Synapse et Power BI
    • Optimiser l'intégration avec Power BI
    • Améliorer les performances des requêtes avec les vues matérialisées et la mise en cache des ensembles de résultats
    • Visualisation des données avec SQL serverless et création d'un rapport Power BI

Exécuter des processus d'apprentissage automatique intégrés dans Azure Synapse Analytics (1 heure)

  • Utiliser le processus d'apprentissage automatique intégré dans Azure Synapse Analytics
  • Travaux pratiques :
    • Créez un service lié à Azure Machine Learning
    • Déclencher une expérience d'apprentissage automatique à l'aide de données provenant d'une table Spark
    • Enrichir les données à l'aide de modèles formés
    • Servir les résultats de prédiction à l'aide de Power BI

Certification


Cette formation prépare à l'examen "DP-203 - Data Engineering on Microsoft Azure" qui permet d'obtenir la certification Microsoft Certified: Azure Data Engineer Associate.

Cette certification officielle Microsoft est également référencée au Répertoire Spécifique de France Compétences sous le nom Concevoir et mettre en œuvre la gestion des données dans Microsoft Azure (RS5307) depuis le 18/11/2020. Dans le cas d'un financement de la formation par le Compte Personnel de Formation (CPF), les apprenants ont l'obligation de passer cet examen de certification. Les modalités de passage des certifications Microsoft sont consultables sur cette page.

Documentation


Support de cours officiel en anglais
Travaux pratiques et/ou Labo en anglais

Délais d'accès à la formation


Les inscriptions sont possibles jusqu'à 48 heures avant le début de la formation.

Dans le cas d'une formation financée par le CPF, ENI Service est tenu de respecter un délai minimum obligatoire de 11 jours ouvrés entre la date d'envoi de sa proposition et la date de début de la formation.

Modalités et moyens pédagogiques, techniques et d'encadrement


Formation avec un formateur, qui peut être suivie selon l’une des 3 modalités ci-dessous :

1 - Dans la salle de cours en présence du formateur.

2 - Dans l’une de nos salles de cours immersives, avec le formateur présent physiquement à distance. Les salles immersives sont équipées d’un système de visio-conférence HD et complétées par des outils pédagogiques qui garantissent le même niveau de qualité.

3 - Depuis votre domicile ou votre entreprise. Vous rejoignez un environnement de formation en ligne, à l’aide de votre ordinateur, tout en étant éloigné physiquement du formateur et des autres participants. Vous êtes en totale immersion avec le groupe et participez à la formation dans les mêmes conditions que le présentiel. Pour plus d’informations : Le téléprésentiel – notre solution de formation à distance.


Le nombre de stagiaires peut varier de 1 à 12 personnes (5 à 6 personnes en moyenne), ce qui facilite le suivi permanent et la proximité avec chaque stagiaire.

Chaque stagiaire dispose d’un poste de travail adapté aux besoins de la formation, d’un support de cours et/ou un manuel de référence au format numérique ou papier.

Pour une meilleure assimilation, le formateur alterne tout au long de la journée les exposés théoriques, les démonstrations et la mise en pratique au travers d’exercices et de cas concrets réalisés seul ou en groupe.

Modalités d'évaluation des acquis


En début et en fin de formation, les stagiaires réalisent une auto-évaluation de leurs connaissances et compétences en lien avec les objectifs de la formation. L’écart entre les deux évaluations permet ainsi de mesurer leurs acquis.

En complément, pour les stagiaires qui le souhaitent, certaines formations peuvent être validées officiellement par un examen de certification. Les candidats à la certification doivent produire un travail personnel important en vue de se présenter au passage de l'examen, le seul suivi de la formation ne constitue pas un élément suffisant pour garantir un bon résultat et/ou l'obtention de la certification.

Pour certaines formations certifiantes (ex : ITIL, DPO, ...), le passage de l'examen de certification est inclus et réalisé en fin de formation. Les candidats sont alors préparés par le formateur au passage de l'examen tout au long de la formation.

Moyens de suivi d'exécution et appréciation des résultats


  • Feuille de présence, émargée par demi-journée par chaque stagiaire et le formateur.
  • Evaluation qualitative de fin de formation, qui est ensuite analysée par l'équipe pédagogique ENI.
  • Attestation de fin de formation, remise au stagiaire en main propre ou par courrier électronique.

Qualification du formateur


La formation est animée par un professionnel de l’informatique et de la pédagogie, dont les compétences techniques, professionnelles et pédagogiques ont été validées par des certifications et/ou testées et approuvées par les éditeurs et/ou notre équipe pédagogique.

Il est en veille technologique permanente et possède plusieurs années d’expérience sur les produits, technologies et méthodes enseignés.

Il est présent auprès des stagiaires pendant toute la durée de la formation.

FORMATIONS ASSOCIÉES