17 de junho de 2024 – Novas funções auxiliares de LLM – TRY_COMPLETE e COUNT_TOKENS

Neste lançamento, temos o prazer de anunciar a disponibilidade de duas funções auxiliares de LLM do Cortex, TRY_COMPLETE e COUNT_TOKENS. Essas funções são gerenciadas e criadas especificamente para ajudar a reduzir casos de falhas de consulta quando o número de tokens de entrada excede um limite do modelo.

Para obter mais informações, consulte Snowflake Cortex AISQL (incluindo as funções LLM).

Nova função SQL

As seguintes funções agora estão com disponibilidade geral neste lançamento:

Categoria de função

Nova função

Descrição

LLM Function

TRY_COMPLETE (SNOWFLAKE.CORTEX)

Tenta executar a função COMPLETE, mas retorna NULL em vez de um código de erro se não for possível executar.

LLM Function

COUNT_TOKENS (SNOWFLAKE.CORTEX)

Conta os tokens em um determinado texto de entrada com base no modelo ou função especificada.