リアルタイム推論のための推論ログの自動キャプチャ¶

Snowflake ML の自動キャプチャを使用して、モデルサービスによって処理されるすべてのリクエストと応答を自動的にログに記録します。自動キャプチャは、リクエストの成功、リクエストの失敗、予期しない予測の背後にある入力をすぐに可視化します。

リクエストや応答データをテーブルやビューにパイプする代わりに、推論リクエストや応答データを自動的に永続化することができます。データの取り込みと監視のために、パイプラインを正しく作成する必要がない代わりに、自動キャプチャを使用できます。

自動キャプチャを使用すると、次を実行できます。

• 迅速なデバッグ：過去の推論データを分析して、エッジケースを診断し、モデルの動作を理解します。

• モデルの継続的な改善：実際の本番データを使用して、高品質のデータセットを作成し、新しいモデルをトレーニングします。

• テスト：ログから収集したデータをA/Bテストとシャットダウンテストに使用します。

各推論リクエストについて、自動キャプチャは以下をログに記録します。

• ペイロードリクエスト

• 応答ペイロード

• モデルバージョン識別子

• サービス識別子

• ゲートウェイルーティングメタデータ

• リクエスト/応答のタイムスタンプ

• 応答コード（200など）

このデータは読み取り専用であり、ユーザーは変更できません。

Snowflakeは、成功したリクエストの応答データのみをキャプチャします。リクエストが失敗した場合、Snowflakeはデータをキャプチャしません。

前提条件およびモデルバージョンの互換性¶

以下のセクションでは、自動キャプチャの前提条件とモデルバージョンの互換性について説明します。

CREATE [ OR REPLACE ] MODEL [ IF NOT EXISTS ] <name> [ WITH VERSION <version_name> ]
FROM MODEL <source_model_name> [ VERSION <source_version_or_alias_name> ]

自動キャプチャをアクティブ化¶

新しいモデルを作成した後、または既存のモデルをクローンした後、Python SDK を使用してモデルサービスの自動キャプチャを有効にします。モデルサービスの詳細については、 リアルタイム推論のためのモデルの展開（ REST API ） をご参照ください。

次のPythonコードを使用して、自動キャプチャを有効にします。

mv.create_service(
    service_name="my_service",
    service_compute_pool="my_compute_pool",
    autocapture=True
)

mv 変数 は、モデルバージョンオブジェクトです。モデルレジストリにモデルをログに記録するときに定義しました。

自動キャプチャのデフォルト値は False です。2026年1月23日以降に作成し、モデルレジストリにログを記録したモデルの自動キャプチャを有効にしていることを確認してください。そうでない場合は、モデルに推論テーブルがないため、サービスの作成に失敗します。

クエリ推論データ¶

ログにアクセスするには、 INFERENCE_TABLE 関数を使用します。この関数は、モデルの推論ログを返し、バージョン、サービス、ゲートウェイによるフィルタリングをサポートします。ゲートウェイとサービスに対する USAGE 権限を持つモデル所有者のみがデータを見ることができます。

-- Fetch all inference logs for a specific model
SELECT * FROM TABLE(INFERENCE_TABLE('my_model'));

SELECT * FROM TABLE(
INFERENCE_TABLE(
'MY_MODEL',
VERSION => 'V1',
SERVICE => 'MY_PREDICTION_SERVICE',
GATEWAY => 'MY_GATEWAY'
)
);

WHERE RECORD_ATTRIBUTES:"snow.model_serving.function.name" = 'predict'

SELECT *
FROM TABLE(
  INFERENCE_TABLE('my_model')
);

SELECT *
FROM TABLE(
  INFERENCE_TABLE(
    'my_model',
    MODEL_VERSION => 'v1'
  )
);

SELECT *
FROM TABLE(
  INFERENCE_TABLE(
    'my_model',
    MODEL_VERSION => 'v1',
    SERVICE => 'my_service'
  )
);

SELECT *
FROM TABLE(
  INFERENCE_TABLE(
    'my_model',
    MODEL_VERSION => 'v1',
    GATEWAY => 'my_gateway'
  )
);

データスキーマとメタデータ¶

Snowflakeは、成功したリクエストの応答データのみをキャプチャします。リクエストが失敗した場合、Snowflakeはデータをキャプチャしません。

キャプチャされる記録属性は次のとおりです。

データ切り捨てロジック¶

システムのパフォーマンスを維持するために、推論イベントごとに1 MB の制限があります。リクエストと応答が制限に達した場合、Snowflakeは複数ステージの切り捨てプロセスを適用して、可能な限り多くのユーティリティを保持します。

次のテーブルは、切り捨てプロセスを示しています。

*ステージ3は、コンテンツ削減後、メタデータだけがしきい値を超えた場合に発生します。

Limits¶

自動キャプチャを使用する場合は、次の制限と考慮事項に注意してください。

• LLM サポート：自動キャプチャは大規模言語モデル（LLMs）ではサポートされていません。

• スループット：自動キャプチャは、サービスごとに毎秒約300～400リクエスト（または 10MB/s）のシステムスループットのために設計されています。

• 複製:推論テーブルを複製することはできません。複製されたモデルは、ターゲットアカウントに推論テーブルを持ちません。

• 保持：サービスやゲートウェイが削除されても、推論データは保持されます。

• 警告：モデルオブジェクトを削除すると、関連するすべての推論データが完全に削除されます。

• グラウンドトゥルース：ドリフト分析を実行するには、別のグランドトゥルースのテーブルを維持し、共通リクエスト IDs を使用して INFERENCE_TABLE 出力と結合します。

• コンシューマーアカウント：コンシューマーアカウントは、推論テーブルとの共有モデルに対して自動キャプチャを有効にしたサービスを作成することはできません。

• パフォーマンス：自動キャプチャは、推論リクエストにレイテンシを追加しないように設計されています。ただし、リクエスト量が非常に多い期間には、一部のキャプチャが削除される場合があります。

スキーマ¶

この機能の一環として、次の値がそれぞれの列に追加されます。