Snowpark Container Services : utilisation des pools de calcul¶

Création d’un pool de calcul¶

Un pool de calcul est une construction au niveau du compte, analogue à un entrepôt virtuel Snowflake. L’espace de nommage du pool de calcul est votre compte. En d’autres termes, vous ne pouvez pas avoir plusieurs pools de calcul portant le même nom dans votre compte.

Les informations minimales requises pour créer un pool de calcul sont les suivantes :

• Le type de machine (appelé famille d’instances) à provisionner pour les nœuds du pool de calcul

• Le nombre minimum de nœuds pour démarrer un pool de calcul.

• Le nombre maximum de nœuds que le pool de calcul peut atteindre (Snowflake gère la mise à l’échelle).

Si vous vous attendez à une charge importante ou à des pics d’activité soudains sur les services que vous avez l’intention d’exécuter dans votre pool de calcul, vous pouvez définir un nombre minimum de nœuds supérieur à 1. Cette approche garantit que des nœuds supplémentaires sont immédiatement disponibles en cas de besoin, au lieu d’attendre le démarrage de la mise à l’échelle automatique.

La définition d’une limite maximale de nœuds permet d’éviter qu’un grand nombre de nœuds ne soient ajoutés à votre pool de calcul par la mise à l’échelle automatique de Snowflake. Cela peut s’avérer crucial dans des scénarios tels que des pics de charge inattendus ou des problèmes dans votre code qui pourraient amener Snowflake à allouer un plus grand nombre de nœuds de pool de calcul que prévu à l’origine.

Pour créer un pool de calcul avec l”Snowsight ou SQL :

Snowsight:

1. Dans le menu de navigation, sélectionnez Compute » Compute Pools.

2. Sélectionnez votre nom d’utilisateur en bas de la barre de navigation et endossez le rôle ACCOUNTADMIN ou à tout autre rôle autorisé à créer un pool de calcul.

3. Sélectionnez + Compute Pool.

4. Dans l’UI New compute pool, indiquez les informations requises (le nom du pool de calcul, la famille d’instances et la limite de nœuds).

5. Sélectionnez Create Compute Pool.

SQL:

Exécutez la commande CREATE COMPUTE POOL.

Par exemple, la commande suivante crée un pool de calcul à un nœud :

CREATE COMPUTE POOL tutorial_compute_pool
  MIN_NODES = 1
  MAX_NODES = 1
  INSTANCE_FAMILY = CPU_X64_XS;

Copy

La famille d’instances identifie le type de machine que vous souhaitez provisionner pour les nœuds de calcul dans le pool de calcul. La spécification de la famille d’instances lors de la création d’un pool de calcul est similaire à la spécification de la taille de l’entrepôt (XSMALL, SMALL, MEDIUM, LARGE et ainsi de suite) lors de la création d’un entrepôt. Le tableau suivant répertorie les types de machines disponibles. Vous pouvez également utiliser la commande SHOW COMPUTE POOL INSTANCE FAMILIES pour obtenir cette liste de familles d’instances disponibles.

Gestion d’un pool de calcul¶

Vous pouvez gérer un pool de calcul avec l”Snowsight ou SQL.

Dans l”Snowsight, vous choisissez l’option Plus (…) à côté du nom du pool de calcul, et vous choisissez l’opération souhaitée dans le menu. Cette section explique les commandes SQL que vous pouvez utiliser pour gérer un pool de calcul.

Snowpark Container Services fournit les commandes suivantes pour gérer les pools de calcul :

• Surveillance : utilisez la commande SHOW COMPUTE POOLS pour obtenir des informations sur les pools de calcul.

• Fonctionnement : utilisez la commande ALTER COMPUTE POOL pour modifier l’état d’un pool de calcul.

  ALTER COMPUTE POOL <name> { SUSPEND | RESUME | STOP ALL }
  

  Copy

  Lorsque vous suspendez un pool de calcul, Snowflake suspend tous les services à l’exception des services de tâches. Les services de tâches continuent de fonctionner jusqu’à ce qu’ils atteignent un état terminal (DONE ou FAILED), après quoi les nœuds de calcul sont libérés.

  Un pool de calcul suspendu doit être repris avant que vous ne puissiez démarrer un nouveau service. Si le pool de calcul est configuré pour une reprise automatique (avec la propriété AUTO_RESUME définie sur TRUE), Snowflake reprend automatiquement le pool lorsqu’un service lui est soumis. Sinon, vous devez exécuter la commande ALTER COMPUTE POOL pour reprendre manuellement le pool de calcul.

• Modification : utilisation de la commande ALTER COMPUTE POOL pour modifier les propriétés du pool de calcul.

  ALTER COMPUTE POOL <name> SET propertiesToAlter = <value>
  propertiesToAlter := { MIN_NODES | MAX_NODES | AUTO_RESUME | AUTO_SUSPEND_SECS | COMMENT }
  

  Copy

  Lorsque vous diminuez MAX_NODES, tenez compte des effets potentiels suivants :

  • Snowflake peut avoir besoin de mettre fin à une ou plusieurs instances de service et de les redémarrer sur d’autres nœuds disponibles dans le pool de calcul. Si MAX_NODES est défini sur une valeur trop faible, Snowflake peut être incapable de planifier certaines instances de service.

  • Si le nœud interrompu avait un service de tâche en cours d’exécution, l’exécution de la tâche échouera. Snowflake ne redémarrera pas le service de tâche.

    Exemple :

    ALTER COMPUTE POOL my_pool SET MIN_NODES = 2  MAX_NODES = 2;
    

    Copy

• Suppression : utilisez la commande DROP COMPUTE POOL pour supprimer un pool de calcul.

  Exemple :

  DROP COMPUTE POOL <name>
  

  Copy

  Vous devez arrêter tous les services en cours d’exécution avant de pouvoir supprimer un pool de calcul.

• Répertorier les pools de calcul et afficher les propriétés : utilisez les commandes SHOW COMPUTE POOLS et DESCRIBE COMPUTE POOL. Pour des exemples, voir Afficher les pools de calcul.

Cycle de vie d’un pool de calcul¶

Un pool de calcul peut se trouver dans l’un des états suivants :

• IDLE : le pool de calcul dispose du nombre souhaité de nœuds de machines virtuelles (VM), mais aucun service n’est planifié. Dans cet état, la mise à l’échelle automatique peut réduire le pool de calcul à la taille minimale en raison d’un manque d’activité.

• ACTIVE : le pool de calcul a au moins un service en cours d’exécution ou planifié. Le pool peut augmenter (jusqu’au nombre maximal de nœuds) ou diminuer (jusqu’au nombre minimal de nœuds) en fonction de la charge ou des actions de l’utilisateur.

• SUSPENDED : le pool ne contient actuellement aucun nœud de machine virtuelle en cours d’exécution, mais si la propriété du pool de calcul AUTO_RESUME est définie sur TRUE, le pool reprendra automatiquement lorsqu’un service sera planifié.

Les états suivants sont transitoires :

• STARTING : lorsque vous créez ou reprenez un pool de calcul, celui-ci entre dans l’état STARTING jusqu’à ce qu’au moins un nœud soit provisionné.

• STOPPING : lorsque vous suspendez un pool de calcul (en utilisant ALTER COMPUTE POOL), le pool de calcul entre dans l’état STOPPING jusqu’à ce que Snowflake ait libéré tous les nœuds du pool de calcul. Lorsque vous suspendez un pool de calcul, Snowflake suspend tous les services à l’exception des services de tâches. Les services de tâches continuent de fonctionner jusqu’à ce qu’ils atteignent un état terminal (DONE ou FAILED), après quoi les nœuds de calcul sont libérés.

• RESIZING : lorsque vous créez un pool de calcul, il entre initialement dans l’état STARTING. Après avoir provisionné un nœud, il entre dans l’état RESIZING jusqu’à ce que le nombre minimum de nœuds (tel que spécifié dans CREATE COMPUTE POOL) soit provisionné. Lorsque vous modifiez un pool de calcul (ALTER COMPUTE POOL) et que vous mettez à jour les valeurs minimales et maximales des nœuds, le pool entre dans l’état RESIZING jusqu’à ce que le nombre minimal de nœuds soit provisionné. Notez que la mise à l’échelle automatique d’un pool de calcul place également le pool de calcul dans l’état RESIZING.

Pour plus d’informations sur la manière dont les coûts ont été encourus pendant les différents états du cycle de vie du pool de calcul, voir Calculer le coût du pool de calcul.

Privilèges de pool de calcul¶

Lorsque vous travaillez avec des pools de calcul, le modèle de privilège suivant s’applique :

• Pour créer un pool de calcul dans un compte, le rôle actuel doit disposer du privilège CREATE COMPUTE POOL sur le compte. Si vous créez un pool, vous disposez, en tant que propriétaire, de l’autorisation OWNERSHIP, qui vous permet d’exercer un contrôle total sur ce pool de calcul. Le fait d’avoir l’autorisation OWNERSHIP sur un pool de calcul n’implique aucune permission sur les autres pools de calcul.

• Pour la gestion du pool de calcul, les privilèges (capacités) suivants sont pris en charge :

  Privilège	Utilisation
  MODIFY	Permet de modifier toutes les propriétés du pool de calcul, y compris la taille.
  MONITOR	Permet de visualiser l’utilisation du pool de calcul, y compris la description des propriétés du pool de calcul.
  OPERATE	Permet de modifier l’état du pool de calcul (suspension, reprise). En outre, il permet d’arrêter tous les services planifiés (y compris les services de tâches).
  USAGE	Permet de créer des services dans le pool de calcul. Notez que lorsqu’un pool de calcul est suspendu et que sa propriété AUTO_RESUME est définie sur true, un rôle disposant de l’autorisation USAGE sur le pool de calcul peut implicitement déclencher la reprise du pool de calcul lorsqu’il démarre ou reprend un service, même si le rôle ne dispose pas de l’autorisation OPERATE.
  OWNERSHIP	Donne un contrôle total sur le pool de calcul. Un seul rôle peut détenir ce privilège sur un objet spécifique à la fois.
  ALL [ PRIVILEGES ]	Accorde tous les privilèges, sauf OWNERSHIP, sur le pool de calcul.

Maintenance du pool de calcul¶

Dans le cadre de la maintenance courante de l’infrastructure interne, Snowflake met régulièrement à jour les nœuds de calcul afin de garantir des performances et une sécurité optimales. Cela inclut les mises à niveau du système d’exploitation, les améliorations des pilotes et les correctifs de sécurité. La maintenance consiste à remplacer les nœuds obsolètes par des nœuds mis à jour toutes les quelques semaines, chaque nœud étant actif jusqu’à un mois.

Comment les services sont planifiés sur un pool de calcul¶

Au moment de créer un service, vous pouvez choisir d’exécuter plusieurs instances pour gérer la charge entrante. Snowflake utilise les directives générales suivantes pour planifier vos instances de service sur les nœuds du pool de calcul :

• Tous les conteneurs d’une instance de service s’exécutent toujours sur un seul nœud de pool de calcul. En d’autres termes, une instance de service ne s’étend jamais sur plusieurs nœuds.

• Lorsque vous exécutez plusieurs instances de service, Snowflake peut les exécuter sur le même nœud ou sur différents nœuds au sein du pool de calcul. Lorsque cette décision est prise, Snowflake prend en compte toutes les exigences spécifiées en matière de ressources matérielles (telles que la mémoire et le GPU) comme indiqué dans le fichier de spécification du service (voir champ containers.resources).

  Par exemple, supposons que chaque nœud de votre pool de calcul dispose de 8 GB de mémoire. Si la spécification de votre service inclut une exigence de mémoire 6 GB, et que vous choisissez d’exécuter deux instances lors de la création d’un service, Snowflake ne peut pas exécuter les deux instances sur le même nœud. Dans ce cas, Snowflake planifie chaque instance sur un nœud distinct au sein du pool de calcul afin de répondre aux exigences en matière de mémoire.

System compute pools¶

Snowflake automatically provisions two compute pools in each Snowflake account. These compute pools are provided exclusively for the following Snowflake workloads.

• Notebooks

• Model serving

• ML jobs

By using system compute pools, users can run these workload without needing an account administrator to configure a compute pool first.

The system compute pools have the following default configuration:

• Compute pool name: SYSTEM_COMPUTE_POOL_GPU

  • Famille d’instances : Selon que votre compte Snowflake se trouve dans AWS ou dans des régions Microsoft Azure, Snowflake utilise la famille d’instances GPU suivante pour ce pool de calcul.

    • Dans Azure, GPU_NV_SM.

    • Dans AWS, GPU_NV_S.

    Notez que les régions suivantes ne prennent pas en charge SYSTEM_COMPUTE_POOL_GPU :

    • Dans AWS : Singapour, Suisse Nord, Paris et Osaka.

    • Dans Azure : Centre des US.

    • Google Cloud : Le pool de calcul GPU n’est pas disponible.

  • Configuration par défaut :

    • MIN_NODES=1

    • MAX_NODES=50

    • INITIALLY_SUSPENDED=true

    • AUTO_SUSPEND_SECS=600

• Compute pool name: SYSTEM_COMPUTE_POOL_CPU

  • Famille d’instances : CPU_X64_S

  • Configuration par défaut :

    • MIN_NODES=1

    • MAX_NODES=150

    • INITIALLY_SUSPENDED=true

    • AUTO_SUSPEND_SECS=600

Note that,

• Compute pools are initially in a suspended state and only begin incurring costs when a supported Snowflake workload starts using them.

• If no workloads are running, these compute pools are automatically suspended after 10 minutes. To modify the auto-suspension policy for default compute pools, use the ALTER COMPUTE POOL SET AUTO_SUSPEND_SECS command.

USE ROLE ACCOUNTADMIN;
ALTER COMPUTE POOL SYSTEM_COMPUTE_POOL_CPU STOP ALL;
DROP COMPUTE POOL SYSTEM_COMPUTE_POOL_CPU;

SHOW PARAMETERS LIKE 'DEFAULT_NOTEBOOK_COMPUTE_POOL_GPU' IN ACCOUNT;

SHOW PARAMETERS LIKE 'DEFAULT_NOTEBOOK_COMPUTE_POOL_GPU' IN DATABASE my_db;

SHOW PARAMETERS LIKE 'DEFAULT_NOTEBOOK_COMPUTE_POOL_GPU' IN SCHEMA my_db.my_schema;

Lignes directrices et limitations¶

• Autorisation CREATE COMPUTE POOL : si vous ne pouvez pas créer un pool de calcul sous le rôle actuel, consultez votre administrateur de compte pour accorder la permission. Par exemple :

  GRANT CREATE COMPUTE POOL ON ACCOUNT TO ROLE <role_name> [WITH GRANT OPTION];
  

  Copy

  Pour plus d’informations, consultez GRANT <privilèges> … TO ROLE.

• Limite par compte sur les nœuds du pool de calcul.

  • Le nombre de nœuds que vous pouvez créer dans votre compte (quel que soit le nombre de pools de calcul) est limité à 500.

  • Le nombre maximal de nœuds par pool de calcul est 50.

  De plus, il existe une limite au nombre de nœuds autorisés pour chaque famille d’instances (voir la colonne Limite de nœuds dans le tableau des familles d’instances). Si vous obtenez un message d’erreur du type Requested number of nodes <#> exceeds the node limit for the account, vous avez rencontré ces limites. Pour plus d’informations, contactez votre représentant de compte.