2026년 1월 27일: AI_COUNT_TOKENS로 토큰 사용량 추정하기(일반 공급)¶

이제 사용자가 토큰 사용량을 추정하고 프롬프트 컨텍스트가 비용에 미치는 영향을 이해하는 데 도움이 되는 Cortex AI 헬퍼 함수인 AI_COUNT_TOKENS가 일반 공급으로 제공됩니다. AI_COUNT_TOKENS는 함수, LLM 모델(해당되는 경우), 토큰 수에 영향을 미치는 추가 입력(예: 분류 작업의 카테고리/레이블)을 고려합니다.

일반적으로 프롬프트가 더 설명적이고 복잡해지면 토큰 사용량이 증가합니다. 컨텍스트가 제한적인 최소 프롬프트는 토큰을 더 적게 사용하는 반면, 보다 심층적인 컨텍스트, 작업 설명, 예제는 토큰 수를 늘립니다. AI_COUNT_TOKENS를 통해 사용자는 해당 AI 워크로드를 개발하는 동안 이러한 절충이 토큰 사용량 및 그에 따른 비용에 미치는 영향을 평가할 수 있습니다.

이 기능은 특히 다음과 같은 모범 사례를 수립하는 데 유용합니다.

• 프롬프트에 포함할 컨텍스트의 양

• 더 다양한 프롬프트가 정확도를 의미 있게 향상하는 경우

• 예제가 추가 토큰 비용을 지불할 가치가 있는 경우

• 팀과 워크로드 전반에 걸쳐 신속한 설계를 표준화하는 가장 좋은 방법

지원되는 함수는 다음과 같습니다.

• AI_CLASSIFY

• AI_COMPLETE

• AI_EMBED

• AI_SENTIMENT

• AI_SIMILARITY

• AI_TRANSLATE

자세한 내용은 AI_COUNT_TOKENS 섹션을 참조하십시오.