StandardOpenAILLMService¶
Beschreibung¶
Ein Controller Service, der die Integration mit der Chat Completion-API von OpenAI ermöglicht. Unterstützt konfigurierbare Parameter, darunter Modellauswahl, Temperatur, top_p, maximale Tokens und Wiederholungsverhalten. Verarbeitet API-Authentifizierung, Wiederholungsversuche von Anfragen mit exponentiellem Backoff und Fehlerbehandlung.
Eigenschaften¶
In der folgenden Liste sind die erforderlichen Eigenschaften mit einem Sternchen (*) gekennzeichnet. Andere Eigenschaften werden als optional betrachtet. Die Tabelle zeigt auch alle Standardwerte und ob eine Eigenschaft die NiFi Expression Language unterstützt.
Display Name (Anzeigename) |
API-Name |
Standardwert |
Zugelassene Werte |
Beschreibung |
---|---|---|---|---|
Backoff Base Delay (ms) * |
Backoff Base Delay (ms) |
1000 |
Die Basisverzögerung in Millisekunden für exponentielles Backoff zwischen Wiederholungsversuchen |
|
Max Response Tokens |
Max Response Tokens |
Die maximale Anzahl von Token, die in der Antwort generiert werden sollen. |
||
Max Retries * |
Max Retries |
3 |
Die maximale Anzahl der Wiederholungsversuche für API-Aufrufe. |
|
Model Name * |
Model Name |
gpt-4o-mini |
Der Name des OpenAI-Modells. |
|
OpenAI API Key * |
OpenAI API Key |
Der API-Schlüssel für die Authentifizierung bei OpenAI. |
||
Seed |
Seed |
Der Startwert, der für die Generierung der Antwort verwendet wird |
||
Temperature |
Temperature |
Die Temperatur, die für die Erstellung der Antwort verwendet werden soll. |
||
Top P |
Top P |
Der „top_p“-Wert für das Kernsampling. Er kontrolliert die Vielfalt der erzeugten Antworten. |
||
Benutzer |
Benutzer |
Ihr Endbenutzer, gesendet an OpenAI zur Überwachung und Erkennung von Missbrauch |
||
Web Client Service * |
Web Client Service |
Der Web Client Service, der für die Kommunikation mit dem LLM-Anbieter verwendet wird. |
Statusmanagement¶
Diese Komponente speichert keinen Status.
Eingeschränkt¶
Diese Komponente ist nicht eingeschränkt.
Hinweise zu Systemressourcen¶
Diese Komponente enthält keine Angaben zu den Systemressourcen.