StandardAnthropicLLMService

Descrição

Um Controller Service que fornece integração com os modelos Claude AI da Anthropic por meio de sua API de mensagens. Oferece suporte a parâmetros configuráveis, incluindo seleção de modelo, configurações de geração de resposta (temperatura, top_p, top_k), limites de token e comportamento de nova tentativa.

Tags

ai, anthropic, api, claude, language model, llm, openflow

Propriedades

Na lista abaixo, as propriedades obrigatórias são mostradas com um asterisco (*). Outras propriedades são consideradas opcionais. A tabela também indica os valores padrão e se uma propriedade é compatível com linguagem de expressão NiFi.

Nome de exibição

Nome da API

Valor padrão

Valores permitidos

Descrição

Chave da Anthropic API *

Chave da Anthropic API

A chave de API para autenticação no Anthropic

Atraso base de espera (ms) *

Atraso base de espera (ms)

1000

O atraso base em milissegundos para espera exponencial entre novas tentativas

Máximo de tokens de resposta *

Máximo de tokens de resposta

1000

O número máximo de tokens a serem gerados na resposta.

Máximo de tentativas *

Máximo de tentativas

3

O número máximo de novas tentativas para chamadas de API

Nome do modelo *

Nome do modelo

claude-3-5-sonnet-latest

O nome do modelo Anthropic

Temperatura

Temperatura

A temperatura a ser usada para gerar a resposta.

Top K

Top K

O valor top K a ser usado para gerar a resposta. Faça uma amostragem apenas das opções de top K para cada token subsequente. Recomendado apenas para casos de uso avançado. Normalmente, você só precisa usar a temperatura.

Top P

Top P

O valor top_p para amostragem de núcleo. Ele controla a diversidade das respostas geradas.

ID de usuário

ID de usuário

O ID do usuário a ser definido nos metadados da solicitação

Serviço de cliente Web *

Serviço de cliente Web

O serviço de cliente Web a ser usado para se comunicar com o provedor LLM.

Gerenciamento do estado

Esse componente não armazena o estado.

Restrito

Esse componente não é restrito.

Considerações sobre os recursos do sistema

Esse componente não especifica considerações sobre os recursos do sistema.