StandardAnthropicLLMService¶
Beschreibung¶
Ein Controller Service, der über die Messages-API die Integration mit den Claude-AI-Modellen von Anthropic ermöglicht. Unterstützt konfigurierbare Parameter, einschließlich Modellauswahl, Einstellungen für die Generierung von Antworten (Temperatur, top_p, top_k), Token-Grenzwerte und Wiederholungsverhalten.
Eigenschaften¶
In der folgenden Liste sind die erforderlichen Eigenschaften mit einem Sternchen (*) gekennzeichnet. Andere Eigenschaften werden als optional betrachtet. Die Tabelle zeigt auch alle Standardwerte und ob eine Eigenschaft die NiFi Expression Language unterstützt.
Display Name (Anzeigename) |
API-Name |
Standardwert |
Zugelassene Werte |
Beschreibung |
|---|---|---|---|---|
Anthropic API Key * |
Anthropic API Key |
Der API-Schlüssel für die Authentifizierung bei Anthropic |
||
Backoff Base Delay (ms) * |
Backoff Base Delay (ms) |
1000 |
Die Basisverzögerung in Millisekunden für exponentielles Backoff zwischen Wiederholungsversuchen |
|
Max Response Tokens * |
Max Response Tokens |
1000 |
Die maximale Anzahl von Token, die in der Antwort generiert werden sollen. |
|
Max Retries * |
Max Retries |
3 |
Die maximale Anzahl der Wiederholungsversuche für API-Aufrufe. |
|
Model Name * |
Model Name |
claude-3-5-sonnet-latest |
Der Name des Anthropic-Modells |
|
Temperature |
Temperature |
Die Temperatur, die für die Erstellung der Antwort verwendet werden soll. |
||
Top K |
Top K |
Der Top-K-Wert, der für die Generierung der Antwort verwendet wird. Es wird nur aus den Top-K-Optionen für jedes nachfolgende Token ausgewählt. Nur für fortgeschrittene Anwendungsfälle empfohlen. Normalerweise müssen Sie nur die Temperatur verwenden. |
||
Top P |
Top P |
Der „top_p“-Wert für das Kernsampling. Er kontrolliert die Vielfalt der erzeugten Antworten. |
||
User ID |
User ID |
Die Benutzer-ID, die in den Metadaten der Anfrage angegeben werden soll |
||
Web Client Service * |
Web Client Service |
Der Web Client Service, der für die Kommunikation mit dem LLM-Anbieter verwendet wird. |
Statusmanagement¶
Diese Komponente speichert keinen Status.
Eingeschränkt¶
Diese Komponente ist nicht eingeschränkt.
Hinweise zu Systemressourcen¶
Diese Komponente enthält keine Angaben zu den Systemressourcen.