大規模言語モデル（LLM）関数（Snowflake Cortex）¶

利用可能な関数¶

Snowflake Cortexの特徴量は SQL 関数として提供され、 Python でも利用可能です。Cortex LLM 関数は以下のカテゴリーに分類できます。

• COMPLETE 関数

• タスク固有の関数

• ヘルパー関数

必要な権限¶

SNOWFLAKE データベースの CORTEX_USER データベースロールには、ユーザーがSnowflake Cortex LLM 関数を呼び出すことを許可する権限が含まれています。デフォルトでは、CORTEX_USERロールはPUBLICロールに付与されます。PUBLICロールはすべてのユーザーとロールに自動的に付与されるため、アカウント内のすべてのユーザーがSnowflake Cortex LLM関数を使用できるようになります。

すべてのユーザーにこの権限を与えたくない場合は、PUBLICロールのアクセス権を取り消し、特定のロールにアクセス権を与えることができます。

PUBLIC ロールから CORTEX_USER データベースロールを取り消すには、 ACCOUNTADMIN ロールを使用して以下のコマンドを実行します。

REVOKE DATABASE ROLE SNOWFLAKE.CORTEX_USER
  FROM ROLE PUBLIC;

REVOKE IMPORTED PRIVILEGES ON DATABASE SNOWFLAKE
  FROM ROLE PUBLIC;

そして、特定のロールに選択的にアクセスを提供することができます。SNOWFLAKE.CORTEX_USER データベースロールをユーザーに直接付与することはできません。詳細については、 SNOWFLAKE データベースロールの使用 をご参照ください。ACCOUNTADMINロールを持つユーザーは、ユーザーがCortex LLM関数にアクセスできるように、このロールをカスタムロールに付与できます。以下の例では、 ACCOUNTADMIN ロールを引き受けて、この目的のために作成したアカウントロール cortex_user_role を介して、ユーザー some_user に CORTEX_USER データベースロールを付与します。

USE ROLE ACCOUNTADMIN;

CREATE ROLE cortex_user_role;
GRANT DATABASE ROLE SNOWFLAKE.CORTEX_USER TO ROLE cortex_user_role;

GRANT ROLE cortex_user_role TO USER some_user;

また、特定のユーザーグループが一般的に使用する既存のロールを使用して、Snowflake Cortex LLM の機能へのアクセスを付与することもできます。（ユーザーのロール を参照。）例えば、組織内のアナリストが既定のロールとして使用する analyst ロールを作成した場合、これらのユーザーにSnowflake Cortex LLM 関数へのアクセスを GRANT ステートメント1つで簡単に付与することができます。

GRANT DATABASE ROLE SNOWFLAKE.CORTEX_USER TO ROLE analyst;

可用性¶

Snowflake Cortex LLM 関数は、現在以下のリージョンで利用可能です。リストにないリージョンから LLMs にアクセスするには、 クロスリージョン推論パラメーター を使用します。

Snowflake Cortex LLM 関数は、現在以下のリージョンで利用可能です。

次の表は、レガシーモデルの一覧です。まだ始めたばかりなら、前の表のモデルから始めましょう。

コストの考慮事項¶

Snowflake Cortex LLM 関数は、処理されたトークンの数に基づいてコンピュートコストが発生します。100万トークンあたりのクレジット単位での各コストについては、 Snowflakeサービス利用テーブル をご参照ください。

トークンは、Snowflake Cortex LLM 関数で処理されるテキストの最小単位でのことで、テキストの4文字に相当します。トークンに相当する生の入力または出力テキストは、モデルによって異なる場合があります。

• 応答で新しいテキストを生成する関数（COMPLETE、 CLASSIFY_TEXT、 SUMMARIZE、 TRANSLATE）では、入力と出力の両方のトークンがカウントされます。

• CORTEX GUARD では、入力トークンのみがカウントされます。入力トークンの数は、 COMPLETE 関数で使用される LLM モデルごとの出力トークンの数に基づいています。

• EMBED_TEXT _*関数では、入力トークンのみがカウントされます。

• 入力から情報を抽出するだけの関数（EXTRACT_ANSWERとSENTIMENT）では、入力トークンのみがカウントされます。

• EXTRACT_ANSWER の場合、請求可能トークン数は from_text フィールドと question フィールドのトークン数の合計です。

• SUMMARIZE、 TRANSLATE、 EXTRACT_ANSWER、 CLASSIFY_TEXT、 SENTIMENT は、応答を生成するために入力テキストにプロンプトを追加します。その結果、入力トークン数は、プロバイダーのテキストに含まれるトークン数よりもわずかに多くなります。

• TRY_COMPLETE はエラー処理にコストがかかりません。つまり、 TRY_COMPLETE 関数が NULL を返せば、コストは発生しません。

• COUNT_TOKENS は関数を実行するための計算コストしか発生しません。トークンに基づく追加コストは発生しません。

大規模のウェアハウスはパフォーマンスを向上しないため、Snowflakeでは小規模のウェアハウス（MEDIUM 以下）でSnowflake Cortex LLM 関数またはCortex PARSE_DOCUMENT 関数を呼び出すクエリの実行を推奨しています。ウェアハウスをアクティブに保つことに関連するコストは、Snowflake Cortex LLM 関数を呼び出すクエリを実行するときにも適用されます。コンピューティングコストに関する一般情報については、 コンピューティングコストについて をご参照ください。

SELECT *
  FROM SNOWFLAKE.ACCOUNT_USAGE.METERING_DAILY_HISTORY
  WHERE SERVICE_TYPE='AI_SERVICES';

SELECT *
  FROM SNOWFLAKE.ACCOUNT_USAGE.CORTEX_FUNCTIONS_USAGE_HISTORY;

使用量のクォータ¶

すべてのSnowflake顧客がLLM関数にアクセスできるようにするため、Snowflake Cortex LLM関数は、使用率が高い時間帯にスロットルの対象となることがあります。利用クォータはアカウントレベルでは適用されません。

スロットルされたリクエストは エラーの応答 を受け取るため、後で再試行する必要があります。

コスト管理とスロットリング¶

このプレビュー期間中、SnowflakeではSnowflake Cortex LLM関数を呼び出す際に、MEDIUM以下のウェアハウスサイズを使用することを推奨します。必要以上に大規模なウェアハウスを使用してもパフォーマンスは向上しませんが、不必要なコストがかかり、スロットリングのリスクも高くなります。この推奨事項は、今後の製品アップデートにより適用されなくなる可能性があります。

モデルの制限¶

Snowflake Cortexで使用されるモデルには、以下の表に示すようにサイズに制限があります。サイズはトークンで表示されています。トークンは一般的に約4文字のテキストを表すので、制限に対応する単語数はトークンの数よりも少なくなります。制限値を超える入力はエラーになります。

モデルの選択¶

Snowflake Cortex COMPLETE 関数は、能力、遅延、コストの異なる複数のモデルをサポートしています。これらのモデルは、一般的な顧客のユースケースに合わせて慎重に選択されています。 クレジットあたりのパフォーマンス で最高の状態を達成するには、コンテンツのサイズとタスクの複雑さに適したモデルを選択します。以下は、利用可能なモデルの簡単な概要です。

LLM 関数概要¶

Cortex LLM 関数は以下のカテゴリーに分類できます。

• COMPLETE 関数: アスペクトベースのセンチメント分類、合成データ生成、カスタマイズされた要約など、ユーザーが指定した幅広いタスクを実行できる汎用関数。この関数は、 微調整したモデル でも使用できます。

• タスク固有の関数: 簡単な要約やクイック翻訳など、ルーチンタスクを自動化する目的別に構築され管理された関数で、カスタマイズの必要はありません。

• ヘルパー関数: 他の LLM 関数を実行する際に失敗するケースを減らす目的で構築され、管理される関数です。たとえば、入力プロンプトのトークン数を取得して、呼び出しがモデルの制限を超えないようにします。

エラー条件¶

Snowflake Cortex LLM 関数は以下のエラーメッセージを生成する可能性があります。

PythonでのSnowflake Cortex LLM 関数の使用¶

Snowflake Cortex LLM 関数は、 Snowpark ML バージョン1.1.2以降で使用できます。Snowpark ML の設定方法については、 Snowflake ML をローカルで使用する をご参照ください。

PythonスクリプトをSnowflakeの外で実行する場合、これらの関数を使用するにはSnowparkセッションを作成する必要があります。手順については、 Snowflakeへの接続 をご参照ください。

次のPythonの例では、単一の値に対してSnowflake Cortex LLM 関数を呼び出しています。

from snowflake.cortex import Complete, ExtractAnswer, Sentiment, Summarize, Translate, ClassifyText

text = """
    The Snowflake company was co-founded by Thierry Cruanes, Marcin Zukowski,
    and Benoit Dageville in 2012 and is headquartered in Bozeman, Montana.
"""

print(Complete("llama2-70b-chat", "how do snowflakes get their unique patterns?"))
print(ExtractAnswer(text, "When was snowflake founded?"))
print(Sentiment("I really enjoyed this restaurant. Fantastic service!"))
print(Summarize(text))
print(Translate(text, "en", "fr"))
print(ClassifyText("France", ["Europe", "Asia"]))

以下のように、テーブルの列に対して LLM 関数を呼び出すこともできます。この例では、セッションオブジェクト（session に格納）と、テキスト列 abstract_text を含むテーブル articles を必要とし、要点の抜粋を含む新しい列 abstract_summary を作成します。

from snowflake.cortex import Summarize
from snowflake.snowpark.functions import col

article_df = session.table("articles")
article_df = article_df.withColumn(
    "abstract_summary",
    Summarize(col("abstract_text"))
)
article_df.collect()

Snowflake CLI でのSnowflake Cortex LLM 関数の使用¶

Snowflake Cortex LLM 関数は、 Snowflake CLI バージョン2.4.0以降で利用できます。 Snowflake CLI の使用の詳細については Snowflake CLI の紹介 をご覧ください。

次の例は、単一の値に対して:codenowrap:snow cortex コマンドを使用する例です。 -c パラメーターは、使用する接続を指定します。

snow cortex complete "Is 5 more than 4? Please answer using one word without a period." -c "snowhouse"

snow cortex extract-answer "what is snowflake?" "snowflake is a company" -c "snowhouse"

snow cortex sentiment "Mary had a little Lamb" -c "snowhouse"

snow cortex summarize "John has a car. John's car is blue. John's car is old and John is thinking about buying a new car. There are a lot of cars to choose from and John cannot sleep because it's an important decision for John."

snow cortex translate herb --to pl

コマンドに使いたいテキストを含むファイルを使用することもできます。この例では、ファイル about_cortex.txt に以下の内容が含まれていると仮定します。

Snowflake Cortex gives you instant access to industry-leading large language models (LLMs) trained by researchers at companies like Mistral, Reka, Meta, and Google, including Snowflake Arctic, an open enterprise-grade model developed by Snowflake.

Since these LLMs are fully hosted and managed by Snowflake, using them requires no setup. Your data stays within Snowflake, giving you the performance, scalability, and governance you expect.

Snowflake Cortex features are provided as SQL functions and are also available in Python. The available functions are summarized below.

COMPLETE: Given a prompt, returns a response that completes the prompt. This function accepts either a single prompt or a conversation with multiple prompts and responses.
EMBED_TEXT_768: Given a piece of text, returns a vector embedding that represents that text.
EXTRACT_ANSWER: Given a question and unstructured data, returns the answer to the question if it can be found in the data.
SENTIMENT: Returns a sentiment score, from -1 to 1, representing the detected positive or negative sentiment of the given text.
SUMMARIZE: Returns a summary of the given text.
TRANSLATE: Translates given text from any supported language to any other.

次のように、 --file パラメーターを使ってファイル名を渡すことで:codenowrap:snow cortex summarize コマンドを実行できます。

snow cortex summarize --file about_cortex.txt

Snowflake Cortex offers instant access to industry-leading language models, including Snowflake Arctic, with SQL functions for completing prompts (COMPLETE), text embedding (EMBED\_TEXT\_768), extracting answers (EXTRACT\_ANSWER), sentiment analysis (SENTIMENT), summarizing text (SUMMARIZE), and translating text (TRANSLATE).

これらのコマンドの詳細については、 snow cortexコマンド をご参照ください。

法的通知¶

インプットとアウトプットのデータ分類は以下の表の通りです。

詳細については、 Snowflake AI と ML をご参照ください。