StandardOpenAILLMService¶

Beschreibung¶

Ein Controller Service, der die Integration mit der Chat Completion-API von OpenAI ermöglicht. Unterstützt konfigurierbare Parameter, darunter Modellauswahl, Temperatur, top_p, maximale Tokens und Wiederholungsverhalten. Verarbeitet API-Authentifizierung, Wiederholungsversuche von Anfragen mit exponentiellem Backoff und Fehlerbehandlung.

Tags¶

ai, chat completion, chatgpt, large language model, llm, openai, openflow

Eigenschaften¶

In der folgenden Liste sind die erforderlichen Eigenschaften mit einem Sternchen (*) gekennzeichnet. Andere Eigenschaften werden als optional betrachtet. Die Tabelle zeigt auch alle Standardwerte und ob eine Eigenschaft die NiFi Expression Language unterstützt.

Display Name (Anzeigename)	API-Name	Standardwert	Beschreibung
Backoff Base Delay (ms) *	Backoff Base Delay (ms)	1000	Die Basisverzögerung in Millisekunden für exponentielles Backoff zwischen Wiederholungsversuchen
Max Response Tokens	Max Response Tokens		Die maximale Anzahl von Token, die in der Antwort generiert werden sollen.
Max Retries *	Max Retries	3	Die maximale Anzahl der Wiederholungsversuche für API-Aufrufe.
Model Name *	Model Name	gpt-4o-mini	Der Name des OpenAI-Modells.
OpenAI API Key *	OpenAI API Key		Der API-Schlüssel für die Authentifizierung bei OpenAI.
Seed	Seed		Der Startwert, der für die Generierung der Antwort verwendet wird
Temperature	Temperature		Die Temperatur, die für die Erstellung der Antwort verwendet werden soll.
Top P	Top P		Der „top_p“-Wert für das Kernsampling. Er kontrolliert die Vielfalt der erzeugten Antworten.
Benutzer	Benutzer		Ihr Endbenutzer, gesendet an OpenAI zur Überwachung und Erkennung von Missbrauch
Web Client Service *	Web Client Service		Der Web Client Service, der für die Kommunikation mit dem LLM-Anbieter verwendet wird.

Statusmanagement¶

Diese Komponente speichert keinen Status.

Eingeschränkt¶

Diese Komponente ist nicht eingeschränkt.

Hinweise zu Systemressourcen¶

Diese Komponente enthält keine Angaben zu den Systemressourcen.