Sep 26, 2025: AI_COUNT_TOKENS function (Preview)¶
The Snowflake AI_COUNT_TOKENS function helps you size your AI workloads by calculating the total number of input tokens processed by large language models and task-specific functions, so you can size queries appropriately before hitting model limits and accurately estimate costs based on input token usage.
Os principais recursos de AI_COUNT_TOKENS incluem:
Count tokens: Calculate the total number of input tokens for any AI Function, including AI_COMPLETE, AI_EMBED, AI_CLASSIFY, and AI_SENTIMENT. AI_COUNT_TOKENS also takes the specific model into account for functions that can use different models.
Obtenção de insights de otimização de custos: consiga contagens precisas de tokens de entrada antes de executar operações, ajudando a otimizar prompts e dimensionar corretamente gastos com AI em toda a sua organização.
Suporte a configurações complexas: analise o impacto de recursos avançados, como classificação com rótulos personalizados, descrições, definições de tarefas e exemplos para entender o impacto total dos tokens em seus fluxos de trabalho de AI.
Para obter mais informações, consulte AI_COUNT_TOKENS.