StandardOpenAILLMService

Beschreibung

Ein Controller Service, der die Integration mit der Chat Completion-API von OpenAI ermöglicht. Unterstützt konfigurierbare Parameter, darunter Modellauswahl, Temperatur, top_p, maximale Tokens und Wiederholungsverhalten. Verarbeitet API-Authentifizierung, Wiederholungsversuche von Anfragen mit exponentiellem Backoff und Fehlerbehandlung.

Tags

ai, chat completion, chatgpt, large language model, llm, openai, openflow

Eigenschaften

In der folgenden Liste sind die erforderlichen Eigenschaften mit einem Sternchen (*) gekennzeichnet. Andere Eigenschaften werden als optional betrachtet. Die Tabelle zeigt auch alle Standardwerte und ob eine Eigenschaft die NiFi Expression Language unterstützt.

Display Name (Anzeigename)

API-Name

Standardwert

Zugelassene Werte

Beschreibung

Backoff Base Delay (ms) *

Backoff Base Delay (ms)

1000

Die Basisverzögerung in Millisekunden für exponentielles Backoff zwischen Wiederholungsversuchen

Max Response Tokens

Max Response Tokens

Die maximale Anzahl von Token, die in der Antwort generiert werden sollen.

Max Retries *

Max Retries

3

Die maximale Anzahl der Wiederholungsversuche für API-Aufrufe.

Model Name *

Model Name

gpt-4o-mini

Der Name des OpenAI-Modells.

OpenAI API Key *

OpenAI API Key

Der API-Schlüssel für die Authentifizierung bei OpenAI.

Seed

Seed

Der Startwert, der für die Generierung der Antwort verwendet wird

Temperature

Temperature

Die Temperatur, die für die Erstellung der Antwort verwendet werden soll.

Top P

Top P

Der „top_p“-Wert für das Kernsampling. Er kontrolliert die Vielfalt der erzeugten Antworten.

Benutzer

Benutzer

Ihr Endbenutzer, gesendet an OpenAI zur Überwachung und Erkennung von Missbrauch

Web Client Service *

Web Client Service

Der Web Client Service, der für die Kommunikation mit dem LLM-Anbieter verwendet wird.

Statusmanagement

Diese Komponente speichert keinen Status.

Eingeschränkt

Diese Komponente ist nicht eingeschränkt.

Hinweise zu Systemressourcen

Diese Komponente enthält keine Angaben zu den Systemressourcen.