Surveillance de l’activité¶

Détails de la requête¶

L’onglet Query Details tab fournit les résultats de la requête ainsi que des informations supplémentaires. L’onglet Query Details tab est l’onglet par défaut de la page des requêtes. L’onglet Query Details tab fournit les sections suivantes :

• Details

• SQL Text

• Results

La section Details fournit des informations supplémentaires sur l’exécution de la requête, notamment :

• Le statut de la requête.

• Quand la requête a commencé.

• Quand la requête s’est terminée.

• La durée de la requête.

• L’ID de la requête.

• L’ID de la session.

• Le statut du pilote.

• Le pilote du client.

La section SQL Text fournit le texte réel de la requête. Passez la souris sur le texte SQL pour ouvrir le texte dans une feuille de calcul ou copier le texte.

La section Results fournit les résultats de la requête. Sélectionnez Export Query pour exporter les résultats dans un fichier .csv.

Profil de requête¶

L’onglet Query Profile vous permet d’explorer le plan d’exécution de la requête et de comprendre les détails granulaires de chaque étape de l’exécution.

Le profil de requête est un outil puissant permettant de comprendre la mécanique des requêtes. Il peut être utilisé quand vous avez besoin d’en savoir plus sur les performances ou le comportement d’une requête particulière. Il est conçu pour vous aider à repérer les erreurs classiques dans les expressions de requête SQL afin d’identifier les problèmes de performance et les possibilités d’amélioration.

Cette section fournit un bref aperçu de la manière de naviguer dans le profil de requête et de l’utiliser.

• Plan d’exécution des requêtes

• Nœud d’opérateur

• Navigation dans le profil des requêtes

• Volets d’informations

Interface	Description
Plan d’exécution des requêtes	Le plan d’exécution de la requête apparaît au centre du profil de la requête. Le plan d’exécution de la requête est composé de nœuds d’opérateurs, qui représentent les opérateurs rowset. Les flèches entre les nœuds d’opérateurs indiquent les rowsets qui sortent d’un opérateur et entrent dans un autre.
Noeud d’opérateur	Chaque nœud d’opérateur comprend les éléments suivants : Le type d’opérateur et numéro d’ID. Le temps utilisé pour exécuter cet opérateur, représenté en pourcentage de la durée de la requête. Un aperçu des détails de l’opérateur. Par exemple, le nom d’une table ou une liste d’expressions.
Navigation dans le profil des requêtes	Dans le coin supérieur gauche du profil des requêtes, utilisez les boutons pour : Effectuer un déplacement entre les étapes d’exécution. Ajuster le plan d’exécution de la requête dans la fenêtre. Effectuer un zoom avant et arrière sur le plan d’exécution de la requête. Note Les étapes n’apparaissent que si la requête a été exécutée par étapes.
Volets d’informations	Le profil de requêtes fournit plusieurs volets d’informations. Les volets apparaissent dans le plan d’exécution de la requête. Les volets qui apparaissent dépendent de l’orientation du plan d’exécution de la requête. Le profil de requête comprend les volets d’information suivants : Profile Overview Statistics Most Expensive Nodes Attributes Pour en savoir plus sur les informations disponibles dans ces volets, voir Référence à l’historique des requêtes.

Aperçu du profil¶

Le volet fournit des informations sur les tâches de traitement qui ont consommé du temps de requête. Le temps d’exécution indique le temps attribué à chaque tâche durant le traitement d’une requête. Le temps passé peut être réparti dans les catégories suivantes :

• Processing — le temps consacré au traitement des données par le CPU.

• Local Disk IO — l’heure à laquelle le traitement a été bloqué par l’accès au disque local.

• Remote Disk IO — l’heure à laquelle le traitement a été bloqué par l’accès au disque distant.

• Network Communication — l’heure à laquelle le traitement attendait le transfert des données réseau.

• Synchronization — diverses activités de synchronisation entre les processus participants.

• Initialization — le temps passé à configurer le traitement de la requête.

Statistiques¶

Les diverses statistiques, regroupées dans les sections suivantes, constituent une source importante d’informations dans le panneau de détails :

• IO — informations sur les opérations d’entrée-de sortie effectuées pendant la requête :

  • Progression de l’analyse — le pourcentage de données analysées pour une table donnée jusqu’à présent.

  • Octets analysés — le nombre d’octets analysés jusqu’à présent.

  • Pourcentage de données analysées à partir du cache — le pourcentage de données analysées à partir du cache du disque local.

  • Octets écrits — octets écrits (par exemple lors du chargement dans une table).

  • Octets écrits dans le résultat — octets écrits dans l’objet de résultat. Par exemple, select * from . . . produirait un jeu de résultats sous forme de tableau représentant chaque champ de la sélection. En général, l’objet de résultats représente tout ce qui est produit comme résultat de la requête, et Octets écrits dans le résultat représente la taille du résultat retourné.

  • Octets lus à partir d’un résultat — octets lus à partir de l’objet de résultat.

  • Octets externes analysés — octets lus à partir d’un objet externe, par exemple une zone de préparation.

• DML — Statistiques des requêtes Data Manipulation Language (DML) :

  • Nombre de lignes insérées — nombre de lignes insérées dans une ou plusieurs tables.

  • Nombre de lignes mises à jour — nombre de lignes mises à jour dans une table.

  • Nombre de lignes supprimées — nombre de lignes supprimées dans une table.

  • Nombre de lignes déchargées — nombre de lignes déchargées lors de l’exportation des données.

• Pruning — informations sur les effets de l’élagage de table :

  • Partitions analysées — nombre de partitions analysées jusqu’à présent.

  • Nombre total de partitions — nombre total de partitions dans une table donnée.

• Spilling — informations sur l’utilisation du disque pour les opérations où les résultats intermédiaires ne rentrent pas dans la mémoire :

  • Octets déversés sur le stockage local — volume de données déversées sur le disque local (« spill to disk »).

  • Octets déversés sur le stockage distant — volume de données déversées sur le disque distant (« spill to disk »).

• Network — communication réseau :

  • Octets envoyés sur le réseau — quantité de données envoyées sur le réseau.

• External Functions — informations sur les appels à des fonctions externes :

  Les statistiques suivantes sont affichées pour chaque fonction externe appelée par l’instruction SQL. Si la même fonction a été appelée plusieurs fois à partir de la même instruction SQL, les statistiques sont agrégées.

  • Nombre total d’appels — nombre de fois qu’une fonction externe a été appelée. (Cela peut être différent du nombre d’appels de fonctions externes dans le texte de l’instruction SQL en raison du nombre de lots dans lesquels les lignes sont divisées, du nombre de tentatives (en cas de problèmes de réseau transitoires), etc.)

  • Lignes envoyées — nombre de lignes envoyées aux fonctions externes.

  • Lignes reçues — nombre de lignes reçues en retour de fonctions externes.

  • Octets envoyés (entre régions) — nombre d’octets envoyés aux fonctions externes. Si le libellé inclut « (entre régions) », les données ont été envoyées entre plusieurs régions (ce qui peut avoir un impact sur la facturation).

  • Octets reçus (entre régions) — nombre d’octets reçus depuis des fonctions externes. Si le libellé inclut « (entre régions) », les données ont été envoyées entre plusieurs régions (ce qui peut avoir un impact sur la facturation).

  • Tentatives en raison d’erreurs transitoires — nombre de tentatives en raison d’erreurs transitoires.

  • Latence moyenne par appel — La durée moyenne par appel entre le moment où Snowflake a envoyé les données et reçu les données renvoyées.

  • Erreurs HTTP 4xx — nombre total de requêtes HTTP ayant renvoyé un code de statut 4xx.

  • Erreurs HTTP 5xx — nombre total de requêtes HTTP ayant renvoyé un code de statut 5xx.

  • Latence par appel réussi (moy) — latence moyenne pour les requêtes HTTP réussies.

  • Frais généraux moyens de latence dus à la limitation — frais généraux moyens par requête réussie en raison d’un ralentissement causé par la limitation (HTTP 429).

  • Tentatives de lots en raison de la limitation — nombre de lots qui ont fait l’objet de nouvelles tentatives en raison d’erreurs HTTP 429.

  • Temps de latence par appel réussi (P50) — temps de latence du 50e centile pour les requêtes HTTP réussies. 50 pour cent de toutes les requêtes acceptées ont été traitées en moins de temps.

  • Temps de latence par appel réussi (P90) — 90e centile de latence pour les requêtes HTTP réussies. 90 pour cent de toutes les requêtes acceptées ont été traitées en moins de temps.

  • Temps de latence par appel réussi (P95) — 95e centile de latence pour les requêtes HTTP réussies. 95 pour cent de toutes les requêtes réussies ont été traitées en moins de temps.

  • Temps de latence par appel réussi (P99) — 99e centile de latence pour les requêtes HTTP réussies. 99 pour cent de toutes les requêtes réussies ont été traitées en moins de temps.

• Extenstion Functions — informations sur les appels aux fonctions d’extension :

  • Temps de chargement du gestionnaire d’UDF Java — temps de chargement du gestionnaire d’UDF Java.

  • Total des appels au gestionnaire d’UDF Java — nombre d’appels au gestionnaire d’UDF Java.

  • Durée maximale d’exécution du gestionnaire d’UDF Java — durée maximale d’exécution du gestionnaire d’UDF Java.

  • Temps moyen d’exécution du gestionnaire d’UDF Java — temps moyen d’exécution du gestionnaire d’UDF Java.

  • Appels process() d’UDTF Java — nombre de fois où la méthode de traitement d’UDTF Java a été appelée.

  • Temps d’exécution process() d’UDTF Java— temps nécessaire à l’exécution du traitement des UDTF Java.

  • Temps d’exécution moyen process() d’UDTF Java— temps moyen nécessaire à l’exécution du traitement des UDTF Java.

  • Appels au constructeur d’UDTF Java — nombre de fois où le constructeur d’UDTF Java a été appelé.

  • Temps d’exécution du constructeur d’UDTF Java — temps d’exécution du constructeur d’UDTF Java.

  • Temps d’exécution moyen du constructeur d’UDTF Java — temps d’exécution moyen du constructeur d’UDTF Java.

  • Appels endPartition() d’UDTF Java — nombre de fois où la méthode endPartition d’UDTF Java a été appelée.

  • Temps d’exécution endPartition() d’UDTF Java — temps nécessaire à l’exécution de la méthode endPartition d’UDTF Java.

  • Temps d’exécution moyen endPartition() d’UDTF Java — temps moyen nécessaire à l’exécution de la méthode endPartition d’UDTF Java.

  • Temps de téléchargement de dépendance d’UDF Java maximum — durée maximale de téléchargement des dépendances d’UDF Java.

  • Utilisation de mémoire JVM max — pic d’utilisation de la mémoire tel que rapporté par le JVM.

  • Temps de compilation du code en ligne d’UDF Java en ms — temps de compilation du code en ligne d’UDF Java.

  • Total des appels au gestionnaire d’UDF Python — nombre de fois où le gestionnaire d’UDF Python a été appelé.

  • Temps total d’exécution du gestionnaire d’UDF Python — temps total d’exécution du gestionnaire d’UDF Python.

  • Temps moyen d’exécution du gestionnaire d’UDF Python — temps moyen d’exécution du gestionnaire d’UDF Python.

  • Utilisation maximale de mémoire sandbox Python — utilisation maximale de la mémoire par l’environnement sandbox de Python.

  • Temps moyen de création de l’environnement Python : téléchargement et installation des paquets — temps moyen de création de l’environnement Python, y compris le téléchargement et l’installation des paquets.

  • Temps du solveur Conda — temps nécessaire à l’exécution du solveur Conda pour résoudre les paquets Python.

  • Temps de création de l’environnement Conda — temps nécessaire à la création de l’environnement Python.

  • Temps d’initialisation d’UDF Python — temps d’initialisation d’UDF Python.

  • Nombre d’octets de fichiers externes lus pour les UDFs — nombre d’octets de fichiers externes lus pour des UDFs.

  • Nombre de fichiers externes accédés pour des UDFs — nombre de fichiers externes accédés pour des UDFs.

  Si la valeur d’un champ, par exemple « Tentatives en raison d’erreurs transitoires » est nulle, le champ n’est pas affiché.

Nœuds les plus coûteux¶

Le volet liste tous les nœuds qui ont duré 1 % ou plus du temps total d’exécution de la requête (ou le temps d’exécution de l’étape de requête affichée, si la requête a été exécutée en plusieurs étapes de traitement). Le volet liste les nœuds par temps d’exécution par ordre décroissant, ce qui permet aux utilisateurs de localiser rapidement les nœuds les plus coûteux en termes de temps d’exécution.

Attributs¶

Les sections suivantes fournissent une liste des types d’opérateurs les plus courants et de leurs attributs :

« Explosion » de jonctions¶

L’une des erreurs courantes des utilisateurs de SQL est de joindre des tables sans fournir de condition de jonction (résultant en un « produit cartésien »), ou de fournir une condition où les enregistrements d’une table correspondent à plusieurs enregistrements d’une autre table. Pour de telles requêtes, l’opérateur Join produit significativement plus de tuples qu’il n’en consomme (souvent par ordre de grandeur).

Ceci peut être observé en regardant le nombre d’enregistrements produits par un opérateur Join, et se reflète généralement aussi dans un opérateur Join chronophage.

UNION sans ALL¶

Dans SQL, il est possible de combiner deux ensembles de données avec les constructions UNION ou UNION ALL. La différence est que UNION ALL concatène simplement les entrées, tandis que UNION fait la même chose, mais supprime également les doublons.

Une erreur classique est d’utiliser UNION alors que la sémantique UNION ALL est suffisante. Ces requêtes apparaissent dans le profil de requête en tant qu’opérateur UnionAll avec un opérateur Aggregate supplémentaire (qui effectue l’élimination des doublons).

Requêtes trop volumineuses pour la mémoire¶

Pour certaines opérations (par exemple l’élimination des doublons dans un grand ensemble de données), la quantité de mémoire disponible pour les serveurs utilisée pour exécuter l’opération peut ne pas être suffisante pour contenir les résultats intermédiaires. En conséquence, le moteur de traitement des requêtes commencera à déverser les données sur le disque local. Si l’espace disque local n’est pas suffisant, les données déversées sont alors enregistrées sur des disques distants.

Ce déversement peut avoir un effet important sur les performances de la requête (surtout si le disque distant est utilisé pour le déversement). Pour remédier à cette situation, nous recommandons les choses suivantes :

• Utilisez un entrepôt plus grand (ce qui a pour effet d’augmenter l’espace mémoire/espace disque local disponible pour l’opération), et/ou

• Traitez les données par lots de plus petite taille.

Élagage inefficace¶

Snowflake collecte des statistiques complètes sur les données lui permettant de ne pas lire les parties inutiles d’une table selon les filtres de requête. Toutefois, pour que cela ait un effet, l’ordre de stockage des données doit être corrélé avec les attributs du filtre de requête.

L’efficacité de l’élagage s’observe en comparant les statistiques Partitions analysées et Nombre total de partitions dans les opérateurs TableScan. Si la première est une petite fraction de la seconde, alors l’élagage est efficace. Dans le cas contraire, l’élagage n’a eu aucun effet.

Bien entendu, l’élagage ne peut aider que pour les requêtes qui filtrent réellement une quantité importante de données. Si les statistiques d’élagage n’indiquent pas de réduction de données, mais qu’il y a un opérateur Filter au-dessus de TableScan qui filtre un certain nombre d’enregistrements, cela peut indiquer qu’une autre organisation des données pourrait être utile pour cette requête.

Pour plus d’informations sur l’élagage, voir Fonctionnement des structures de table dans Snowflake.