Snowflake Cortex AISQL (LLM 関数を含む)¶

利用可能な関数¶

Snowflake Cortexの特徴量は SQL 関数として提供され、 Python でも利用可能です。Cortex AISQL 関数は以下のカテゴリーに分類できます。

• AISQL 関数

• ヘルパー関数

パフォーマンスの考慮事項¶

Cortex AISQL 関数はスループットのために最適化されています。SQL の大容量テーブルからのテキストなど、多数の入力を処理するには、これらの関数を使用することをお勧めします。バッチ処理は通常、 AISQL 関数に適しています。レイテンシが重要な、よりインタラクティブなユースケースには、 REST API を使用します。これらは、単純推論(Complete API)、埋め込み(Embed API)、エージェントアプリケーション(Agent API) に可用性を持っています。

必要な権限¶

SNOWFLAKE データベースの CORTEX_USER データベースロールには、ユーザーがSnowflake Cortex AI 関数を呼び出すことを許可する権限が含まれています。デフォルトでは、CORTEX_USERロールはPUBLICロールに付与されます。PUBLICロールはすべてのユーザーとロールに自動的に付与されるため、アカウント内のすべてのユーザーがSnowflake Cortex AI関数を使用できるようになります。

すべてのユーザーにこの権限を与えたくない場合は、PUBLICロールのアクセス権を取り消し、特定のロールにアクセス権を与えることができます。

PUBLIC ロールから CORTEX_USER データベースロールを取り消すには、 ACCOUNTADMIN ロールを使用して以下のコマンドを実行します。

REVOKE DATABASE ROLE SNOWFLAKE.CORTEX_USER
  FROM ROLE PUBLIC;

REVOKE IMPORTED PRIVILEGES ON DATABASE SNOWFLAKE
  FROM ROLE PUBLIC;

そして、特定のロールに選択的にアクセスを提供することができます。SNOWFLAKE.CORTEX_USER データベースロールをユーザーに直接付与することはできません。詳細については、 SNOWFLAKE データベースロールの使用 をご参照ください。ロールを持つユーザーは、 ACCOUNTADMIN ロールをカスタムロールに付与することで、ユーザーがCortex AI 関数にアクセスできるようにすることができます。以下の例では、 ACCOUNTADMIN ロールを引き受けて、この目的のために作成したアカウントロール cortex_user_role を介して、ユーザー some_user に CORTEX_USER データベースロールを付与します。

USE ROLE ACCOUNTADMIN;

CREATE ROLE cortex_user_role;
GRANT DATABASE ROLE SNOWFLAKE.CORTEX_USER TO ROLE cortex_user_role;

GRANT ROLE cortex_user_role TO USER some_user;

また、特定のユーザーグループが一般的に使用する既存のロールを使用して、Snowflake Cortex AI の機能へのアクセスを付与することもできます。（ユーザーのロール を参照。）例えば、組織内のアナリストが既定のロールとして使用する analyst ロールを作成した場合、これらのユーザーにSnowflake Cortex AISQL 関数へのアクセスを GRANT ステートメント1つで簡単に付与することができます。

GRANT DATABASE ROLE SNOWFLAKE.CORTEX_USER TO ROLE analyst;

モデルアクセスの制御¶

Snowflake Cortexのモデルへのアクセス制御には2つの方法があります。一方または両方の方法を併用することで、広範なアクセス制御ときめ細かなアクセス制御を混在させることができます。

• モデル許容リスト

• ロールベースのアクセス制御

モデルのallowlistは、アカウント内のすべてのユーザーに対して、モデルへのアクセスのデフォルトレベルを提供します。このレベルは、 CORTEX_MODELS_ALLOWLIST パラメーターを用いてカスタマイズすることができます。ロールベースのアクセス制御では、アプリケーションのロールを通じて特定のモデルオブジェクトにアクセス制御権限を付与したり取り消したりすることで、きめ細かなアクセス管理が可能になります。

モデル アクセス制御は以下のサービスで利用可能です。

• AISQL 関数

• Cortex REST API

• TRY_COMPLETE （SNOWFLAKE.CORTEX）

• Cortex Playground

以下のサービスでは、きめ細かなアクセス制御はできません。

• Cortex Search

• Cortex Analyst

• Cortex Copilot

• Cortex Agents

• ドキュメント AI

CALL SNOWFLAKE.MODELS.CORTEX_BASE_MODELS_REFRESH();

SHOW MODELS IN SNOWFLAKE.MODELS;

SHOW APPLICATION ROLES IN APPLICATION SNOWFLAKE;

GRANT APPLICATION ROLE SNOWFLAKE."CORTEX-MODEL-ROLE-LLAMA3.1-70B" TO ROLE MY_ROLE;

SELECT AI_COMPLETE('SNOWFLAKE.MODELS."LLAMA3.1-70B"', 'Hello');

可用性¶

Snowflake Cortex AI 関数は、現在以下のリージョンで利用可能です。リストにないリージョンから LLMs にアクセスするには、 クロスリージョン推論パラメーター を使用。

Snowflake Cortex AI 関数は、現在以下のリージョンで利用可能です。

次の表は、レガシーモデルの一覧です。まだ始めたばかりなら、前の表のモデルから始めましょう。

コストの考慮事項¶

Snowflake Cortex AI 関数は、処理されたトークンの数に基づいてコンピュートコストが発生します。100万トークンあたりのクレジット単位での各コストについては、 Snowflakeサービス利用テーブル をご参照ください。

トークンは、Snowflake Cortex AI 関数で処理されるテキストの最小単位でのことで、テキストの4文字に相当します。トークンに相当する生の入力または出力テキストは、モデルによって異なる場合があります。

• 応答で新しいテキストを生成する関数 (AI_COMPLETE、 AI_CLASSIFY、 AI_FILTER、 AI_AGG、 AI_SUMMARIZE、および TRANSLATE) では、入力と出力の両方のトークンがカウントされます。

• CORTEX GUARD では、入力トークンのみがカウントされます。入力トークンの数は、 COMPLETE 関数で使用される LLM モデルごとの出力トークンの数に基づいています。

• AI_SIMILARITY EMBED_* 関数では、入力トークンだけがカウントされます。

• EXTRACT_ANSWER の場合、請求可能トークン数は from_text フィールドと question フィールドのトークン数の合計です。

• AI_CLASSIFY, AI_FILTER, AI_AGG, AI_SUMMARIZE_AGG, SUMMARIZE, TRANSLATE, EXTRACT_ANSWER, ENTITY_SENTIMENT や, SENTIMENT がレスポンスを生成するために、入力テキストにプロンプトを追加します。その結果、入力トークン数は、入力されたテキストのトークン数よりも多くなります。

• AI_CLASSIFY ラベル、説明、例は、 AI_CLASSIFY の呼び出しごとに 1 回だけでなく、処理される記録ごとに入力トークンとしてカウントされます。

• PARSE_DOCUMENT (SNOWFLAKE.CORTEX) の場合、請求は処理されたドキュメントのページ数に基づいて行われます。

• TRY_COMPLETE(SNOWFLAKE.CORTEX) はエラー処理にコストがかかりません。つまり、 TRY_COMPLETE(SNOWFLAKE.CORTEX) 関数が NULL を返せば、コストは発生しません。

• COUNT_TOKENS(SNOWFLAKE.CORTEX) は関数を実行するための計算コストしか発生しません。トークンに基づく追加コストは発生しません。

Snowflake では、Snowflake Cortex AISQL 関数または Cortex PARSE_DOCUMENT 関数を呼び出すクエリは、小さいウェアハウス (MEDIUM 以下)で実行することを推奨しています。ウェアハウスを大きくしてもパフォーマンスは向上しないからです。ウェアハウスをアクティブに保つことに関連するコストは、Snowflake Cortex LLM 関数を呼び出すクエリを実行するときにも適用されます。コンピューティングコストに関する一般情報については、 コンピューティングコストについて をご参照ください。

SELECT *
  FROM SNOWFLAKE.ACCOUNT_USAGE.METERING_DAILY_HISTORY
  WHERE SERVICE_TYPE='AI_SERVICES';

SELECT *
  FROM SNOWFLAKE.ACCOUNT_USAGE.CORTEX_FUNCTIONS_USAGE_HISTORY;

SELECT * FROM SNOWFLAKE.ACCOUNT_USAGE.CORTEX_FUNCTIONS_QUERY_USAGE_HISTORY;

SELECT * FROM SNOWFLAKE.ACCOUNT_USAGE.CORTEX_FUNCTIONS_QUERY_USAGE_HISTORY
WHERE query_id='<query-id>';

SELECT AI_COMPLETE('mistral-7b', 'Is a hot dog a sandwich'), AI_COMPLETE('mistral-large', 'Is a hot dog a sandwich');

使用量のクォータ¶

すべてのSnowflake顧客がLLM関数にアクセスできるようにするため、Snowflake Cortex AI関数は、使用率が高い時間帯にスロットルの対象となることがあります。利用クォータはアカウントレベルでは適用されません。

スロットルされたリクエストは エラーの応答 を受け取るため、後で再試行する必要があります。

コスト管理とスロットリング¶

このプレビュー期間中、SnowflakeではSnowflake Cortex AISQL関数を呼び出す際に、MEDIUM以下のウェアハウスサイズを使用することを推奨します。必要以上に大規模なウェアハウスを使用してもパフォーマンスは向上しませんが、不必要なコストがかかり、スロットリングのリスクも高くなります。この推奨事項は、今後の製品アップデートにより適用されなくなる可能性があります。

モデルの制限¶

Snowflake Cortexで使用されるモデルには、以下の表に示すようにサイズに制限があります。サイズはトークンで表示されています。トークンは一般的に約4文字のテキストを表すので、制限に対応する単語数はトークンの数よりも少なくなります。制限値を超える入力はエラーになります。

モデルが出力できる最大サイズは、以下のように制限されています:

• モデルの出力トークン制限。

• モデルが入力トークンを消費した後のコンテキストウィンドウの利用可能スペース。

例えば、 claude-3-5-sonnet には、20万トークンのコンテキストウィンドウがあります。入力に100,000トークンを使用した場合、モデルは最大8,192トークンを生成できます。しかし、195,000個のトークンが入力として使用された場合、モデルは合計200,000個のトークンのうち、5,000個までしか生成できません。

モデルの選択¶

Snowflake Cortex COMPLETE 関数は、能力、遅延、コストの異なる複数のモデルをサポートしています。これらのモデルは、一般的な顧客のユースケースに合わせて慎重に選択されています。 クレジットあたりのパフォーマンス で最高の状態を達成するには、コンテンツのサイズとタスクの複雑さに適したモデルを選択します。以下は、利用可能なモデルの簡単な概要です。

旧モデルバージョン¶

Snowflake Cortex COMPLETE 関数は、以下の旧バージョンもサポートしています。この表にリストされているバージョンではなく、最新モデルのバージョンを使用することをお勧めします。

エラー条件¶

Snowflake Cortex AI 関数は以下のエラーメッセージを生成する可能性があります。

PythonでSnowflake Cortex AISQL を使用します。¶

Snowflake Cortex AISQL 関数は、Snowpark Python API で使用できます。API では、関数を使用して、テキストと画像の両方のデータを分類、要約、フィルターすることができます。

これらの関数には次のようなものがあります:

• ai_agg() - 自然言語の指示を使用してテキストの列を集約します。詳細については、 AI_AGG をご参照ください。

• ai_classify() - テキストや画像をカスタムカテゴリに分類します。詳細については、 AI_CLASSIFY をご参照ください。

• ai_filter()- 自然言語を使ってデータをフィルターします。詳細については、 AI_FILTER をご参照ください。

ai_agg() 関数は、グループ化されたデータまたはグループ化されていないデータから調査結果を要約または抽出するようアナリストに依頼するのと同様の方法で、自然言語の指示を使用してテキストの列を集約します。

次の例では、 ai_agg() 関数を使用して、各製品のカスタマーレビューを要約しています。この関数は、テキストの列と自然言語命令を受け取り、レビューを要約します。

from snowflake.snowpark.functions import ai_agg, col

df = session.create_dataframe([
    [1, "Excellent product!"],
    [1, "Great battery life."],
    [1, "A bit expensive but worth it."],
    [2, "Terrible customer service."],
    [2, "Won’t buy again."],
], schema=["product_id", "review"])

# Summarize reviews per product
summary_df = df.group_by("product_id").agg(
    ai_agg(col("review"), "Summarize the customer reviews in one sentence.")
)
summary_df.show()

ai_classify() 関数は、テキストや画像を受け取り、定義したカテゴリに分類します。

次の例では、旅行レビューを「旅行」や「料理」などのカテゴリに分類しています。この関数は、テキストの列と、テキストを分類するカテゴリのリストを受け取ります。

from snowflake.snowpark.functions import ai_classify

df = session.create_dataframe([
    ["I dream of backpacking across South America."],
    ["I made the best pasta yesterday."],
], schema=["sentence"])

df = df.select(
    "sentence",
    ai_classify("sentence", ["travel", "cooking"]).alias("classification")
)
df.show()

ai_filter() 関数は自然言語の条件を評価し、 TRUE または FALSE を返します。行のフィルターやタグ付けに使用できます。

from snowflake.snowpark.functions import ai_filter, prompt, col

df = session.create_dataframe(["Canada", "Germany", "Japan"], schema=["country"])

filtered_df = df.select(
    "country",
    ai_filter(prompt("Is {0} in Asia?", col("country"))).alias("is_in_asia")
)
filtered_df.show()

既存のSnowpark ML 関数は、 Snowpark ML バージョン1.1.2以降でもサポートされています。Snowpark ML の設定方法については、 Snowflake ML をローカルで使用する をご参照ください。

PythonスクリプトをSnowflakeの外で実行する場合、これらの関数を使用するにはSnowparkセッションを作成する必要があります。手順については、 Snowflakeへの接続 をご参照ください。

次のPythonの例では、単一の値に対してSnowflake Cortex AI 関数を呼び出しています。

from snowflake.cortex import Complete, ExtractAnswer, Sentiment, Summarize, Translate

text = """
    The Snowflake company was co-founded by Thierry Cruanes, Marcin Zukowski,
    and Benoit Dageville in 2012 and is headquartered in Bozeman, Montana.
"""

print(Complete("llama2-70b-chat", "how do snowflakes get their unique patterns?"))
print(ExtractAnswer(text, "When was snowflake founded?"))
print(Sentiment("I really enjoyed this restaurant. Fantastic service!"))
print(Summarize(text))
print(Translate(text, "en", "fr"))

COMPLETE 関数を使用する際に、モデルのハイパーパラメーターに影響を与えるオプションを渡すことができます。次の Python の例では、モデルが生成できる出力トークンの最大数を変更して COMPLETE 関数を呼び出しています。

from snowflake.cortex import Complete,CompleteOptions

model_options1 = CompleteOptions(
    {'max_tokens':30}
)

print(Complete("llama3.1-8b", "how do snowflakes get their unique patterns?", options=model_options1))

以下のように、テーブルの列に対して AI 関数を呼び出すこともできます。この例では、セッションオブジェクト（session に格納）と、テキスト列 abstract_text を含むテーブル articles を必要とし、要点の抜粋を含む新しい列 abstract_summary を作成します。

from snowflake.cortex import Summarize
from snowflake.snowpark.functions import col

article_df = session.table("articles")
article_df = article_df.withColumn(
    "abstract_summary",
    Summarize(col("abstract_text"))
)
article_df.collect()

Snowflake CLI でのSnowflake Cortex AI 関数の使用¶

Snowflake Cortex AISQL は、 Snowflake CLI バージョン 2.4.0 以降で利用可能。 Snowflake CLI の使用の詳細については Snowflake CLI の紹介 をご覧ください。

次の例は、単一の値に対して snow cortex コマンドを使用する例です。 -c パラメーターは、使用する接続を指定します。

snow cortex complete "Is 5 more than 4? Please answer using one word without a period." -c "snowhouse"

snow cortex extract-answer "what is snowflake?" "snowflake is a company" -c "snowhouse"

snow cortex sentiment "Mary had a little Lamb" -c "snowhouse"

snow cortex summarize "John has a car. John's car is blue. John's car is old and John is thinking about buying a new car. There are a lot of cars to choose from and John cannot sleep because it's an important decision for John."

snow cortex translate herb --to pl

コマンドに使いたいテキストを含むファイルを使用することもできます。この例では、ファイル about_cortex.txt に以下の内容が含まれていると仮定します。

Snowflake Cortex gives you instant access to industry-leading large language models (LLMs) trained by researchers at companies like Anthropic, Mistral, Reka, Meta, and Google, including Snowflake Arctic, an open enterprise-grade model developed by Snowflake.

Since these LLMs are fully hosted and managed by Snowflake, using them requires no setup. Your data stays within Snowflake, giving you the performance, scalability, and governance you expect.

Snowflake Cortex features are provided as SQL functions and are also available in Python. The available functions are summarized below.

COMPLETE: Given a prompt, returns a response that completes the prompt. This function accepts either a single prompt or a conversation with multiple prompts and responses.
EMBED_TEXT_768: Given a piece of text, returns a vector embedding that represents that text.
EXTRACT_ANSWER: Given a question and unstructured data, returns the answer to the question if it can be found in the data.
SENTIMENT: Returns a sentiment score, from -1 to 1, representing the detected positive or negative sentiment of the given text.
SUMMARIZE: Returns a summary of the given text.
TRANSLATE: Translates given text from any supported language to any other.

次のように、 --file パラメーターを使ってファイル名を渡すことで snow cortex summarize コマンドを実行できます。

snow cortex summarize --file about_cortex.txt

Snowflake Cortex offers instant access to industry-leading language models, including Snowflake Arctic, with SQL functions for completing prompts (COMPLETE), text embedding (EMBED\_TEXT\_768), extracting answers (EXTRACT\_ANSWER), sentiment analysis (SENTIMENT), summarizing text (SUMMARIZE), and translating text (TRANSLATE).

これらのコマンドの詳細については、 snow cortexコマンド をご参照ください。

法的通知¶

インプットとアウトプットのデータ分類は以下の表の通りです。

詳細については、 Snowflake AI と ML をご参照ください。