StandardOpenAILLMService¶
説明¶
OpenAI のチャット完了 API との統合を提供するController Serviceです。モデル選択、温度、top_p、最大トークン、リトライ動作を含む構成可能なパラメーターをサポートします。API 認証コード、エクスポネンシャルバックオフによるリクエストの再試行、 エラー処理を扱います。
プロパティ¶
以下のリストでは、必要なプロパティをアスタリスク (*) で表示しています。その他のプロパティはオプションと見なされます。この表は、任意のデフォルト値と、そのプロパティが NiFi 式言語に対応しているかどうかも示します。
表示名 |
API 名前 |
デフォルト値 |
許容値 |
説明 |
---|---|---|---|---|
バックオフ・ベース遅延(ms) * |
バックオフ・ベース遅延(ms) |
1000 |
再試行間の指数バックオフの基本遅延(ミリ秒単位) |
|
最大応答・トークン |
最大応答・トークン |
応答で生成するトークンの最大数。 |
||
最大再試行回数 * |
最大再試行回数 |
3 |
API 通話の最大再試行回数 |
|
モデル名 * |
モデル名 |
gpt-4o-mini |
OpenAI モデル名。 |
|
OpenAI API キー * |
OpenAI API キー |
OpenAI に認証するための API キー。 |
||
シード |
シード |
レスポンスの生成に使用するシード |
||
温度 |
温度 |
応答生成に使用する温度。 |
||
Top P |
Top P |
核サンプリングのtop_p値。生成される応答の多様性をコントロールします。 |
||
ユーザー |
ユーザー |
不正使用の監視と検出のため、 OpenAI に送信されるエンドユーザー。 |
||
ウェブクライアントサービス * |
ウェブ クライアント サービス |
LLM プロバイダーとの通信に使用するウェブクライアントサービス。 |
状態管理¶
このコンポーネントは状態を保存しません。
制限あり¶
このコンポーネントには制限はありません。
システムリソースに関する考察¶
このコンポーネントは、システムリソースを考慮したものではありません。