Snowpark Container Services : utilisation des pools de calcul¶

Création d’un pool de calcul¶

Un pool de calcul est une construction au niveau du compte, analogue à un entrepôt virtuel Snowflake. L’espace de nommage du pool de calcul est votre compte. En d’autres termes, vous ne pouvez pas avoir plusieurs pools de calcul portant le même nom dans votre compte.

Les informations minimales requises pour créer un pool de calcul sont les suivantes :

• Le type de machine (appelé famille d’instances) à provisionner pour les nœuds du pool de calcul

• Le nombre minimum de nœuds pour démarrer un pool de calcul.

• Le nombre maximum de nœuds que le pool de calcul peut atteindre (Snowflake gère la mise à l’échelle).

Si vous vous attendez à une charge importante ou à des pics d’activité soudains sur les services que vous avez l’intention d’exécuter dans votre pool de calcul, vous pouvez définir un nombre minimum de nœuds supérieur à 1. Cette approche garantit que des nœuds supplémentaires sont immédiatement disponibles en cas de besoin, au lieu d’attendre le démarrage de la mise à l’échelle automatique.

La définition d’une limite maximale de nœuds permet d’éviter qu’un grand nombre de nœuds ne soient ajoutés à votre pool de calcul par la mise à l’échelle automatique de Snowflake. Cela peut s’avérer crucial dans des scénarios tels que des pics de charge inattendus ou des problèmes dans votre code qui pourraient amener Snowflake à allouer un plus grand nombre de nœuds de pool de calcul que prévu à l’origine.

Pour créer un pool de calcul avec l”Snowsight ou SQL :

Snowsight:

1. Sélectionnez Admin » Compute pools.

2. Sélectionnez votre nom d’utilisateur en bas de la barre de navigation et endossez le rôle ACCOUNTADMIN ou à tout autre rôle autorisé à créer un pool de calcul.

3. Sélectionnez + Compute Pool.

4. Dans l’UI New compute pool, indiquez les informations requises (le nom du pool de calcul, la famille d’instances et la limite de nœuds).

5. Sélectionnez Create Compute Pool.

SQL:

Exécutez la commande CREATE COMPUTE POOL.

Par exemple, la commande suivante crée un pool de calcul à un nœud :

CREATE COMPUTE POOL tutorial_compute_pool
  MIN_NODES = 1
  MAX_NODES = 1
  INSTANCE_FAMILY = CPU_X64_XS;

Copy

La famille d’instances identifie le type de machine que vous souhaitez provisionner pour les nœuds de calcul dans le pool de calcul. La spécification de la famille d’instances lors de la création d’un pool de calcul est similaire à la spécification de la taille de l’entrepôt (XSMALL, SMALL, MEDIUM, LARGE et ainsi de suite) lors de la création d’un entrepôt. Le tableau suivant répertorie les types de machines disponibles.

INSTANCE_FAMILY, mappage de la Table de consommation du service Snowflake	vCPU	Mémoire (GiB)	Stockage (GB)	Limite de bande passante (Gb/s)	GPU	Mémoire GPU par GPU (GiB)	Limite du nœud	Description
CPU_X64_XS, . CPU | XS	1	6	100	Jusqu’à 12,5	s/o	s/o	50	La plus petite instance disponible pour les conteneurs Snowpark. Idéal pour réaliser des économies et démarrer.
CPU_X64_S, . CPU | S	3	13	100	Jusqu’à 12,5	s/o	s/o	50	Idéal pour héberger plusieurs services/tâches tout en réduisant les coûts.
CPU_X64_M, . CPU | M	6	28	100	Jusqu’à 12,5	s/o	s/o	50	Idéal pour les applications full stack ou les services multiples
CPU_X64_L, . CPU | L	28	116	100	12,5	s/o	s/o	50	Pour les applications qui nécessitent un nombre anormalement élevé de CPUs, de mémoire et de stockage.
HIGHMEM_X64_S, . mémoire élevée CPU | S	6	58	100	AWS : jusqu’à 12,5, Azure : 8	s/o	s/o	50	Pour les applications qui utilisent beaucoup de mémoire.
HIGHMEM_X64_M, . Mémoire élevée CPU | M . (AWS uniquement)	28	240	100	12,5	s/o	s/o	50	Pour héberger plusieurs applications qui utilisent beaucoup en mémoire sur une seule machine.
HIGHMEM_X64_M, . Mémoire élevée CPU | M . (Azure uniquement)	28	244	100	16	s/o	s/o	50	Pour héberger plusieurs applications qui utilisent beaucoup en mémoire sur une seule machine.
HIGHMEM_X64_L, . Mémoire élevée CPU | L . (AWS uniquement)	124	984	100	50	s/o	s/o	20	La machine AWS qui dispose de la plus grande mémoire disponible pour traiter de grandes quantités de données en mémoire.
HIGHMEM_X64_SL, . Mémoire élevée CPU | L . (Azure uniquement)	92	654	100	32	s/o	s/o	20	La machine Azure qui dispose de la plus grande mémoire disponible pour traiter de grandes quantités de données en mémoire.
GPU_NV_S, . GPU | S . (AWS uniquement, à l’exception des régions de Paris et d’Osaka)	6	27	300 (NVMe)	Jusqu’à 10	1 NVIDIA A10G	24	10	Notre plus petite taille de GPU NVIDIA disponible pour les conteneurs Snowpark pour commencer.
GPU_NV_M, . GPU | M . (AWS uniquement, à l’exception des régions de Paris et d’Osaka)	44	178	3,4 TB (NVMe)	40	4 NVIDIA A10G	24	10	Optimisé pour les scénarios d’utilisation intensive de GPU comme la vision par ordinateur ou LLMs/VLMs
GPU_NV_L, . GPU | L . (AWS uniquement, disponible uniquement dans les régions AWS US Ouest et US Est sur demande ; une disponibilité limitée peut être possible dans d’autres régions sur demande)	92	1112	6,8 TB (NVMe)	400	8 NVIDIA A100	40	À la demande	La plus grande instance de GPU pour les cas de GPU spécialisés et avancés tels que LLMs et clustering, etc.
GPU_NV_XS, . GPU | XS . (Azure uniquement, à l’exception de Suisse Nord et des régions du Nord UAE)	3	26	100	8	1 NVIDIA T4	16	10	Notre plus petite taille de GPU NVIDIA Azure disponible pour les conteneurs Snowpark pour commencer.
GPU_NV_SM, . GPU | SM . (Azure uniquement, à l’exception de la région US Centre)	32	424	100	40	1 NVIDIA A10	24	10	Une taille plus petite de GPU NVIDIA Azure disponible pour les conteneurs Snowpark pour commencer.
GPU_NV_2M, . GPU | 2M . (Azure uniquement, à l’exception de la région US du Centre)	68	858	100	80	2 NVIDIA A10	24	5	Optimisé pour les scénarios d’utilisation intensive de GPU comme la vision par ordinateur ou LLMs/VLMs
GPU_NV_3M, . GPU | 3M . (Azure uniquement, à l’exception de l’Europe du Nord et des régions du Nord UAE)	44	424	100	40	2 NVIDIA A100	80	À la demande	Optimisé pour les scénarios d’utilisation intensive de GPU comme la vision par ordinateur ou LLMs/VLMs
GPU_NV_SL, . GPU | SL . (Azure uniquement, à l’exception de l’Europe du Nord et des régions du Nord UAE)	92	858	100	80	4 NVIDIA A100	80	À la demande	La plus grande instance de GPU pour les cas de GPU spécialisés et avancés tels que LLMs et clustering, etc.

Pour plus d’informations sur les familles d’instances disponibles, voir CREATE COMPUTE POOL.

Gestion d’un pool de calcul¶

Vous pouvez gérer un pool de calcul avec l”Snowsight ou SQL.

Dans l”Snowsight, vous choisissez l’option Plus (…) à côté du nom du pool de calcul, et vous choisissez l’opération souhaitée dans le menu. Cette section explique les commandes SQL que vous pouvez utiliser pour gérer un pool de calcul.

Snowpark Container Services fournit les commandes suivantes pour gérer les pools de calcul :

• Surveillance : utilisez la commande SHOW COMPUTE POOLS pour obtenir des informations sur les pools de calcul.

• Fonctionnement : utilisez la commande ALTER COMPUTE POOL pour modifier l’état d’un pool de calcul.

  ALTER COMPUTE POOL <name> { SUSPEND | RESUME | STOP ALL }
  

  Copy

  Lorsque vous suspendez un pool de calcul, Snowflake suspend tous les services à l’exception des services de tâches. Les services de tâches continuent de fonctionner jusqu’à ce qu’ils atteignent un état terminal (DONE ou FAILED), après quoi les nœuds de calcul sont libérés.

  Un pool de calcul suspendu doit être repris avant que vous ne puissiez démarrer un nouveau service. Si le pool de calcul est configuré pour une reprise automatique (avec la propriété AUTO_RESUME définie sur TRUE), Snowflake reprend automatiquement le pool lorsqu’un service lui est soumis. Sinon, vous devez exécuter la commande ALTER COMPUTE POOL pour reprendre manuellement le pool de calcul.

• Modification : utilisation de la commande ALTER COMPUTE POOL pour modifier les propriétés du pool de calcul.

  ALTER COMPUTE POOL <name> SET propertiesToAlter = <value>
  propertiesToAlter := { MIN_NODES | MAX_NODES | AUTO_RESUME | AUTO_SUSPEND_SECS | COMMENT }
  

  Copy

  Lorsque vous diminuez MAX_NODES, tenez compte des effets potentiels suivants :

  • Snowflake peut avoir besoin de mettre fin à une ou plusieurs instances de service et de les redémarrer sur d’autres nœuds disponibles dans le pool de calcul. Si MAX_NODES est défini sur une valeur trop faible, Snowflake peut être incapable de planifier certaines instances de service.

  • Si le nœud interrompu avait un service de tâche en cours d’exécution, l’exécution de la tâche échouera. Snowflake ne redémarrera pas le service de tâche.

    Exemple :

    ALTER COMPUTE POOL MYPOOL SET MIN_NODES = 2  MAX_NODES = 2;
    

    Copy

• Suppression : utilisez la commande DROP COMPUTE POOL pour supprimer un pool de calcul.

  Exemple :

  DROP COMPUTE POOL <name>
  

  Copy

  Vous devez arrêter tous les services en cours d’exécution avant de pouvoir supprimer un pool de calcul.

• Répertorier les pools de calcul et afficher les propriétés : utilisez les commandes SHOW COMPUTE POOLS et DESCRIBE COMPUTE POOL. Pour des exemples, voir Afficher les pools de calcul.

Cycle de vie d’un pool de calcul¶

Un pool de calcul peut se trouver dans l’un des états suivants :

• IDLE : le pool de calcul dispose du nombre souhaité de nœuds de machines virtuelles (VM), mais aucun service n’est planifié. Dans cet état, la mise à l’échelle automatique peut réduire le pool de calcul à la taille minimale en raison d’un manque d’activité.

• ACTIVE : le pool de calcul a au moins un service en cours d’exécution ou planifié. Le pool peut augmenter (jusqu’au nombre maximal de nœuds) ou diminuer (jusqu’au nombre minimal de nœuds) en fonction de la charge ou des actions de l’utilisateur.

• SUSPENDED : le pool ne contient actuellement aucun nœud de machine virtuelle en cours d’exécution, mais si la propriété du pool de calcul AUTO_RESUME est définie sur TRUE, le pool reprendra automatiquement lorsqu’un service sera planifié.

Les états suivants sont transitoires :

• STARTING : lorsque vous créez ou reprenez un pool de calcul, celui-ci entre dans l’état STARTING jusqu’à ce qu’au moins un nœud soit provisionné.

• STOPPING : lorsque vous suspendez un pool de calcul (en utilisant ALTER COMPUTE POOL), le pool de calcul entre dans l’état STOPPING jusqu’à ce que Snowflake ait libéré tous les nœuds du pool de calcul. Lorsque vous suspendez un pool de calcul, Snowflake suspend tous les services à l’exception des services de tâches. Les services de tâches continuent de fonctionner jusqu’à ce qu’ils atteignent un état terminal (DONE ou FAILED), après quoi les nœuds de calcul sont libérés.

• RESIZING : lorsque vous créez un pool de calcul, il entre initialement dans l’état STARTING. Après avoir provisionné un nœud, il entre dans l’état RESIZING jusqu’à ce que le nombre minimum de nœuds (tel que spécifié dans CREATE COMPUTE POOL) soit provisionné. Lorsque vous modifiez un pool de calcul (ALTER COMPUTE POOL) et que vous mettez à jour les valeurs minimales et maximales des nœuds, le pool entre dans l’état RESIZING jusqu’à ce que le nombre minimal de nœuds soit provisionné. Notez que la mise à l’échelle automatique d’un pool de calcul place également le pool de calcul dans l’état RESIZING.

Privilèges de pool de calcul¶

Lorsque vous travaillez avec des pools de calcul, le modèle de privilège suivant s’applique :

• Pour créer un pool de calcul dans un compte, le rôle actuel doit disposer du privilège CREATE COMPUTE POOL sur le compte. Si vous créez un pool, vous disposez, en tant que propriétaire, de l’autorisation OWNERSHIP, qui vous permet d’exercer un contrôle total sur ce pool de calcul. Le fait d’avoir l’autorisation OWNERSHIP sur un pool de calcul n’implique aucune permission sur les autres pools de calcul.

• Pour la gestion du pool de calcul, les privilèges (capacités) suivants sont pris en charge :

  Privilège	Utilisation
  MODIFY	Permet de modifier toutes les propriétés du pool de calcul, y compris la taille.
  MONITOR	Permet de visualiser l’utilisation du pool de calcul, y compris la description des propriétés du pool de calcul.
  OPERATE	Permet de modifier l’état du pool de calcul (suspension, reprise). En outre, il permet d’arrêter tous les services planifiés (y compris les services de tâches).
  USAGE	Permet de créer des services dans le pool de calcul. Notez que lorsqu’un pool de calcul est suspendu et que sa propriété AUTO_RESUME est définie sur true, un rôle disposant de l’autorisation USAGE sur le pool de calcul peut implicitement déclencher la reprise du pool de calcul lorsqu’il démarre ou reprend un service, même si le rôle ne dispose pas de l’autorisation OPERATE.
  OWNERSHIP	Donne un contrôle total sur le pool de calcul. Un seul rôle peut détenir ce privilège sur un objet spécifique à la fois.
  ALL [ PRIVILEGES ]	Accorde tous les privilèges, sauf OWNERSHIP, sur le pool de calcul.

Maintenance du pool de calcul¶

Dans le cadre de la maintenance courante de l’infrastructure interne, Snowflake met régulièrement à jour les nœuds de calcul afin de garantir des performances et une sécurité optimales. Cela inclut les mises à niveau du système d’exploitation, les améliorations des pilotes et les correctifs de sécurité. La maintenance consiste à remplacer les nœuds obsolètes par des nœuds mis à jour toutes les quelques semaines, chaque nœud étant actif jusqu’à un mois.

Comment les services sont planifiés sur un pool de calcul¶

Au moment de créer un service, vous pouvez choisir d’exécuter plusieurs instances pour gérer la charge entrante. Snowflake utilise les directives générales suivantes pour planifier vos instances de service sur les nœuds du pool de calcul :

• Tous les conteneurs d’une instance de service s’exécutent toujours sur un seul nœud de pool de calcul. En d’autres termes, une instance de service ne s’étend jamais sur plusieurs nœuds.

• Lorsque vous exécutez plusieurs instances de service, Snowflake peut les exécuter sur le même nœud ou sur différents nœuds au sein du pool de calcul. Lorsque cette décision est prise, Snowflake prend en compte toutes les exigences spécifiées en matière de ressources matérielles (telles que la mémoire et le GPU) comme indiqué dans le fichier de spécification du service (voir champ containers.resources).

  Par exemple, supposons que chaque nœud de votre pool de calcul dispose de 8 GB de mémoire. Si la spécification de votre service inclut une exigence de mémoire 6 GB, et que vous choisissez d’exécuter deux instances lors de la création d’un service, Snowflake ne peut pas exécuter les deux instances sur le même nœud. Dans ce cas, Snowflake planifie chaque instance sur un nœud distinct au sein du pool de calcul afin de répondre aux exigences en matière de mémoire.

Pools de calcul par défaut pour Notebooks¶

À partir de la version 8.46, Snowflake provisionne automatiquement deux pools de calcul dans chaque compte Snowflake (à l’exception des comptes d’essai) pour l’exécution des applications Notebook. Ces pools de calcul sont exclusivement destinés à l’exécution de Notebooks et ne peuvent pas être utilisés pour créer un service Snowpark Container Services.

• Nom du pool de calcul (tel qu’il apparaît dans l’UI Snowsight) : SYSTEM_COMPUTE_POOL_GPU

  • Famille d’instances : GPU_NV_S (voir Table des familles d’instances)

  • Configuration par défaut :

    • MIN_NODES=1

    • MAX_NODES=5

    • INITIALLY_SUSPENDED=true

    • AUTO_SUSPEND_SECS=600

• Nom du pool de calcul (tel qu’il apparaît dans l’UI Snowsight) : SYSTEM_COMPUTE_POOL_CPU

  • Famille d’instances : CPU_X64_S

  • Configuration par défaut :

    • MIN_NODES=1

    • MAX_NODES=25

    • INITIALLY_SUSPENDED=true

    • AUTO_SUSPEND_SECS=600

Les propriétés de configuration par défaut sont les suivantes :

• Les pools de calcul sont initialement suspendus et ne commencent à générer des coûts que lorsque des notebooks y sont démarrés.

• Si aucun notebook n’est en cours d’exécution, ces pools de calcul sont automatiquement suspendus au bout de 10 minutes. Remarques :

  • Par défaut, les notebooks sont suspendus automatiquement après 30 minutes d’inactivité. Lorsque tous les notebooks cessent de fonctionner sur un pool de calcul par défaut, Snowflake suspend le pool après 10 minutes.

  • Pour modifier la politique de suspension automatique des pools de calcul par défaut, utilisez la commande ALTER COMPUTE POOL SET AUTO_SUSPEND_SECS. Vous pouvez également ajuster la politique de suspension automatique du notebook. Pour plus d’informations, voir Temps d’inactivité et reconnexion.

Des pools de calcul par défaut sont fournis pour des raisons de commodité. Alors que tout rôle dans un compte Snowflake peut créer un notebook, seul le rôle ACCOUNTADMIN est autorisé à créer des pools de calcul. En utilisant les pools de calcul par défaut, les utilisateurs peuvent créer des notebooks sans qu’un administrateur de compte n’ait besoin de configurer un pool de calcul.

Ces pools de calcul sont dédiés aux charges de travail notebooks, et vous pouvez associer les budgets aux pools de calcul par défaut pour gérer les coûts des notebooks.

Notez ce qui suit à propos de l’autorisation du pool de calcul par défaut :

• Dans un compte Snowflake, le rôle ACCOUNTADMIN est propriétaire de ces pools de calcul. Les administrateurs ont un contrôle total sur les pools de calcul, y compris la modification de leurs propriétés, la suspension des opérations et la surveillance de la consommation. Si les pools de calcul par défaut créés par Snowflake ne sont pas nécessaires, le rôle ACCOUNTADMIN peut les supprimer. Par exemple :

  USE ROLE ACCOUNTADMIN;
  ALTER COMPUTE POOL SYSTEM_COMPUTE_POOL_CPU STOP ALL;
  DROP COMPUTE POOL SYSTEM_COMPUTE_POOL_CPU;
  

  Copy

• Par défaut, l’autorisation USAGE sur les pools de calcul par défaut est accordée au rôle PUBLIC, ce qui permet à tous les rôles du compte de les utiliser. Toutefois, ACCOUNTADMIN peut modifier ces privilèges afin de restreindre l’accès si nécessaire.

  Pour limiter l’accès aux pools de calcul par défaut à des rôles spécifiques de votre compte, utilisez le rôle ACCOUNTADMIN pour révoquer l’autorisation USAGE du rôle PUBLIC et l’accorder aux rôles de votre choix. Par exemple :

  USE ROLE ACCOUNTADMIN;
  REVOKE USAGE ON COMPUTE POOL SYSTEM_COMPUTE_POOL_CPU FROM ROLE PUBLIC;
  GRANT USAGE ON COMPUTE POOL SYSTEM_COMPUTE_POOL_CPU TO ROLE <role-name>;
  

  Copy

Lignes directrices et limitations¶

• Autorisation CREATE COMPUTE POOL : si vous ne pouvez pas créer un pool de calcul sous le rôle actuel, consultez votre administrateur de compte pour accorder la permission. Par exemple :

  GRANT CREATE COMPUTE POOL ON ACCOUNT TO ROLE <role_name> [WITH GRANT OPTION];
  

  Copy

  Pour plus d’informations, consultez GRANT <privilèges>.

• Limite par compte sur les nœuds du pool de calcul. Le nombre de nœuds que vous pouvez créer dans votre compte (quel que soit le nombre de pools de calcul) est limité à 120. De plus, il existe une limite au nombre de nœuds autorisés pour chaque famille d’instances (voir la colonne Limite de nœuds dans le tableau des familles d’instances). Si vous obtenez un message d’erreur du type Requested number of nodes <#> exceeds the node limit for the account, vous avez rencontré ces limites. Pour plus d’informations, contactez votre représentant de compte.