2025년 9월 25일: AI_COUNT_TOKENS AISQL 함수(미리 보기)¶

Snowflake AISQL AI_COUNT_TOKENS 함수는 AISQL 대규모 언어 모델 및 작업별 함수에서 처리되는 총 입력 토큰 수를 계산하여 AI 워크로드의 크기를 조정하는 데 도움이 되므로 모델 제한에 도달하기 전에 쿼리 크기를 적절하게 조정하고 입력 토큰 사용량에 따라 비용을 정확하게 추정할 수 있습니다.

AI_COUNT_TOKENS의 주요 기능에는 다음이 포함됩니다.

• 토큰 계산: AI_COMPLETE, AI_EMBED, AI_CLASSIFY, AI_SENTIMENT를 포함한 모든 AISQL 함수에 대한 총 입력 토큰 수를 계산합니다. 또한 AI_COUNT_TOKENS는 다른 모델을 사용할 수 있는 함수에 대해 특정 모델을 고려합니다.

• 비용 최적화 인사이트 확보: 작업을 실행하기 전에 정확한 입력 토큰 수를 확인하여 조직 전체에서 프롬프트 및 적절한 규모의 AI 지출을 최적화하는 데 도움이 됩니다.

• 복잡한 구성 지원: 사용자 지정 레이블, 설명, 작업 정의, 예제를 사용한 분류와 같은 고급 기능의 영향을 분석하여 AI 워크플로의 전체 토큰 영향을 이해합니다

자세한 내용은 AI_COUNT_TOKENS 섹션을 참조하십시오.