StandardAnthropicLLMService

Beschreibung

Ein Controller Service, der über die Messages-API die Integration mit den Claude-AI-Modellen von Anthropic ermöglicht. Unterstützt konfigurierbare Parameter, einschließlich Modellauswahl, Einstellungen für die Generierung von Antworten (Temperatur, top_p, top_k), Token-Grenzwerte und Wiederholungsverhalten.

Tags

ai, anthropic, api, claude, language model, llm, openflow

Eigenschaften

In der folgenden Liste sind die erforderlichen Eigenschaften mit einem Sternchen (*) gekennzeichnet. Andere Eigenschaften werden als optional betrachtet. Die Tabelle zeigt auch alle Standardwerte und ob eine Eigenschaft die NiFi Expression Language unterstützt.

Display Name (Anzeigename)

API-Name

Standardwert

Zugelassene Werte

Beschreibung

Anthropic API Key *

Anthropic API Key

Der API-Schlüssel für die Authentifizierung bei Anthropic

Backoff Base Delay (ms) *

Backoff Base Delay (ms)

1000

Die Basisverzögerung in Millisekunden für exponentielles Backoff zwischen Wiederholungsversuchen

Max Response Tokens *

Max Response Tokens

1000

Die maximale Anzahl von Token, die in der Antwort generiert werden sollen.

Max Retries *

Max Retries

3

Die maximale Anzahl der Wiederholungsversuche für API-Aufrufe.

Model Name *

Model Name

claude-3-5-sonnet-latest

Der Name des Anthropic-Modells

Temperature

Temperature

Die Temperatur, die für die Erstellung der Antwort verwendet werden soll.

Top K

Top K

Der Top-K-Wert, der für die Generierung der Antwort verwendet wird. Es wird nur aus den Top-K-Optionen für jedes nachfolgende Token ausgewählt. Nur für fortgeschrittene Anwendungsfälle empfohlen. Normalerweise müssen Sie nur die Temperatur verwenden.

Top P

Top P

Der „top_p“-Wert für das Kernsampling. Er kontrolliert die Vielfalt der erzeugten Antworten.

User ID

User ID

Die Benutzer-ID, die in den Metadaten der Anfrage angegeben werden soll

Web Client Service *

Web Client Service

Der Web Client Service, der für die Kommunikation mit dem LLM-Anbieter verwendet wird.

Statusmanagement

Diese Komponente speichert keinen Status.

Eingeschränkt

Diese Komponente ist nicht eingeschränkt.

Hinweise zu Systemressourcen

Diese Komponente enthält keine Angaben zu den Systemressourcen.