StandardOpenAILLMService

説明

OpenAI のチャット完了 API との統合を提供するController Serviceです。モデル選択、温度、top_p、最大トークン、リトライ動作を含む構成可能なパラメーターをサポートします。API 認証コード、エクスポネンシャルバックオフによるリクエストの再試行、 エラー処理を扱います。

タグ

ai, chat completion, chatgpt, large language model, llm, openai, openflow

プロパティ

以下のリストでは、必要なプロパティをアスタリスク (*) で表示しています。その他のプロパティはオプションと見なされます。この表は、任意のデフォルト値と、そのプロパティが NiFi 式言語に対応しているかどうかも示します。

表示名

API 名前

デフォルト値

許容値

説明

バックオフ・ベース遅延(ms) *

バックオフ・ベース遅延(ms)

1000

再試行間の指数バックオフの基本遅延(ミリ秒単位)

最大応答・トークン

最大応答・トークン

応答で生成するトークンの最大数。

最大再試行回数 *

最大再試行回数

3

API 通話の最大再試行回数

モデル名 *

モデル名

gpt-4o-mini

OpenAI モデル名。

OpenAI API キー *

OpenAI API キー

OpenAI に認証するための API キー。

シード

シード

レスポンスの生成に使用するシード

温度

温度

応答生成に使用する温度。

Top P

Top P

核サンプリングのtop_p値。生成される応答の多様性をコントロールします。

ユーザー

ユーザー

不正使用の監視と検出のため、 OpenAI に送信されるエンドユーザー。

ウェブクライアントサービス *

ウェブ クライアント サービス

LLM プロバイダーとの通信に使用するウェブクライアントサービス。

状態管理

このコンポーネントは状態を保存しません。

制限あり

このコンポーネントには制限はありません。

システムリソースに関する考察

このコンポーネントは、システムリソースを考慮したものではありません。