2026年1月27日:AI_COUNT_TOKENS を使用してトークンの使用状況を推定する（一般提供）¶

ユーザーがトークンの消費量を見積もり、プロンプトコンテキストがコストにどのように影響するかを理解するのに役立つCortex AI ヘルパー関数である AI_COUNT_TOKENS が一般提供されました。 AI_COUNT_TOKENS は、関数、 LLM モデル（該当する場合）、および分類タスクのカテゴリやラベルなど、トークン数に影響する追加入力を考慮します。

一般に、プロンプトがより説明的で複雑になるにつれて、トークンの使用量は増加します。コンテキストが制限された最小のプロンプトは、トークンの消費量が少なくなりますが、より詳細なコンテキスト、タスクの説明、および例では、トークン数が増加します。AI_COUNT_TOKENS を使用すると、ユーザーは AI ワークロードを開発する際に、これらのトレードオフがトークンの使用状況、したがってコストにどのように影響するかを評価することができます。

この機能は、以下の点に関するベストプラクティスを確立するのに特に役立ちます。

プロンプトに含めるコンテキストの量
豊富なプロンプトによって精度が大幅に向上する場合
例が追加のトークンコストに見合う場合
チームとワークロード全体でプロンプトデザインを標準化する最良の方法

サポートされている関数には次が含まれます。

詳細については、 AI_COUNT_TOKENS をご参照ください。