StandardAnthropicLLMService

説明

API AnthropicのClaude AI モデルとの統合を提供するController Serviceです。モデル選択、応答生成設定(温度、top_p、top_k)、トークン制限、再試行動作を含む構成可能なパラメーターをサポートします。

タグ

ai, anthropic, api, claude, language model, llm, openflow

プロパティ

以下のリストでは、必要なプロパティをアスタリスク (*) で表示しています。その他のプロパティはオプションと見なされます。この表は、任意のデフォルト値と、そのプロパティが NiFi 式言語に対応しているかどうかも示します。

表示名

API 名前

デフォルト値

許容値

説明

Anthropic API キー *

Anthropic API キー

Anthropic認証の API キー

バックオフ・ベース遅延(ms) *

バックオフ・ベース遅延(ms)

1000

再試行間の指数バックオフの基本遅延(ミリ秒単位)

最大応答・トークン *

最大応答・トークン

1000

応答で生成するトークンの最大数。

最大再試行回数 *

最大再試行回数

3

API 通話の最大再試行回数

モデル名 *

モデル名

claude-3-5-sonnet-latest

Anthropicモデルの名称

温度

温度

応答生成に使用する温度。

Top K

Top K

レスポンスの生成に使用するTop K値。各トークンに対して、上位K個のオプションからのみサンプルを取ります。高度なユースケースにのみお勧めします。通常は温度だけでいいのです。

Top P

Top P

核サンプリングのtop_p値。生成される応答の多様性をコントロールします。

ユーザー ID

ユーザー ID

リクエストメタデータにセットするユーザーID

ウェブクライアントサービス *

ウェブ クライアント サービス

LLM プロバイダーとの通信に使用するウェブクライアントサービス。

状態管理

このコンポーネントは状態を保存しません。

制限あり

このコンポーネントには制限はありません。

システムリソースに関する考察

このコンポーネントは、システムリソースを考慮したものではありません。