Catégories :

Fonctions de chaîne et fonctions binaires (Fonctions AI)

COUNT_TOKENS (SNOWFLAKE.CORTEX)

Renvoie le nombre de jetons dans une invite pour le grand modèle de langage ou la fonction spécifique à la tâche spécifiée dans l’argument. Cette fonction ne prend pas en charge les modèles affinés :

Note

Nous travaillons sur une estimation plus précise du nombre de jetons pour des fonctions telles que ai_classify et ai_filter.

Syntaxe

SNOWFLAKE.CORTEX.COUNT_TOKENS( <model_name> , <input_text> )
Copy

Arguments

Obligatoire :

model_name

Nom du modèle sur lequel vous souhaitez baser le nombre de jetons. Spécifie l’une des valeurs suivantes :

  • deepseek-r1

  • e5-base-v2

  • e5-large-v2

  • gemma-7b

  • jamba-1.5-large

  • jamba-1.5-mini

  • jamba-instruct

  • llama2-70b-chat

  • llama3-70b

  • llama3-8b

  • llama3.1-405b

  • llama3.1-70b

  • llama3.1-8b

  • llama3.2-1b

  • llama3.2-3b

  • llama3.3-70b

  • llama4-maverick

  • llama4-scout

  • mistral-7b

  • mistral-large

  • mistral-large2

  • mixtral-8x7b

  • nv-embed-qa-4

  • reka-core

  • reka-flash

  • snowflake-arctic-embed-l-v2.0

  • snowflake-arctic-embed-m-v1.5

  • snowflake-arctic-embed-m

  • snowflake-arctic

  • snowflake-llama-3.1-405b

  • snowflake-llama-3.3-70b

  • voyage-multilingual-2

input_text

Saisisser du texte pour compter les jetons.

Renvoie

Renvoie un type INT , INTEGER , BIGINT , SMALLINT , TINYINT , BYTEINT qui est le nombre de jetons dans le texte d’entrée en fonction du modèle ou de la fonction spécifié.

Notes sur l’utilisation

  • Si un nom de fonction est spécifié, le nombre de jetons est basé sur le modèle utilisé par la fonction.

  • Utilisez des lettres minuscules dans les noms de fonctions.

Note

COUNT_TOKENS ne tient pas compte du prompt géré par le système qui est automatiquement ajouté au début du texte d’entrée lors de l’utilisation d’une Fonctions AISQL Cortex. Par conséquent, la valeur retournée par COUNT_TOKENS est inférieure au nombre réel de jetons traités par ces fonctions.

Exemples

L’exemple suivant renvoie le nombre de jetons pour l’invite spécifiée à l’aide du modèle llama3.1-70b :

SELECT SNOWFLAKE.CORTEX.COUNT_TOKENS( 'llama3.1-70b', 'what is a large language model?' );
Copy
+---+
| 6 |
+---+
Langage: Français