25 de setembro de 2025: função AI_COUNT_TOKENS do AISQL (versão preliminar)¶
A função AI_COUNT_TOKENS do Snowflake AISQL ajuda você a dimensionar suas cargas de trabalho de AI calculando o número total de tokens de entrada processados por grandes modelos de linguagem do AISQLe funções específicas de tarefas, para que você possa dimensionar as consultas adequadamente antes de atingir os limites do modelo e estimar os custos com precisão com base no uso do token de entrada.
Os principais recursos de AI_COUNT_TOKENS incluem:
Contagem de tokens: calcule o número total de tokens de entrada para qualquer função do AISQL, incluindo AI_COMPLETE, AI_EMBED, AI_CLASSIFY e AI_SENTIMENT. AI_COUNT_TOKENS também leva em consideração o modelo específico para funções que podem usar modelos diferentes.
Obtenção de insights de otimização de custos: consiga contagens precisas de tokens de entrada antes de executar operações, ajudando a otimizar prompts e dimensionar corretamente gastos com AI em toda a sua organização.
Suporte a configurações complexas: analise o impacto de recursos avançados, como classificação com rótulos personalizados, descrições, definições de tarefas e exemplos para entender o impacto total dos tokens em seus fluxos de trabalho de AI.
Para obter mais informações, consulte AI_COUNT_TOKENS.