COUNT_TOKENS （SNOWFLAKE.CORTEX）¶

引数で指定された大規模言語モデルまたはタスク固有の関数のプロンプトのトークン数を返します。この関数は微調整済みモデルをサポートしていません。

注釈

ai_classifyやai_filterなどの関数の、より正確なトークン数の推定に努めています。

構文¶

SNOWFLAKE.CORTEX.COUNT_TOKENS( <model_name> , <input_text> )

Copy

必須：

model_name

トークン数の基にしたいモデルの名前。次の値のいずれかを指定します。

input_text

トークンを数えるテキストを入力。

指定されたモデルまたは関数に基づいて、入力テキスト内のトークン数を INT , INTEGER , BIGINT , SMALLINT , TINYINT , BYTEINT 型で返します。

注釈

COUNT_TOKENS には、Cortex AISQL 関数を使用する際に入力テキストの先頭に自動的に追加される管理システムプロンプトは含まれません。その結果、 COUNT_TOKENS によって返される値は、これらの関数によって処理された実際のトークン数よりも少なくなります。

次の例では、llama3.1-70b モデルを使用して指定されたプロンプトのトークン数を返しています。

SELECT SNOWFLAKE.CORTEX.COUNT_TOKENS( 'llama3.1-70b', 'what is a large language model?' );

Copy

+---+
| 6 |
+---+

Snowflake AI と ML をご参照ください。