StandardAnthropicLLMService¶
Descrição¶
Um Controller Service que fornece integração com os modelos Claude AI da Anthropic por meio de sua API de mensagens. Oferece suporte a parâmetros configuráveis, incluindo seleção de modelo, configurações de geração de resposta (temperatura, top_p, top_k), limites de token e comportamento de nova tentativa.
Propriedades¶
Na lista abaixo, as propriedades obrigatórias são mostradas com um asterisco (*). Outras propriedades são consideradas opcionais. A tabela também indica os valores padrão e se uma propriedade é compatível com linguagem de expressão NiFi.
Nome de exibição |
Nome da API |
Valor padrão |
Valores permitidos |
Descrição |
|---|---|---|---|---|
Chave da Anthropic API * |
Chave da Anthropic API |
A chave de API para autenticação no Anthropic |
||
Atraso base de espera (ms) * |
Atraso base de espera (ms) |
1000 |
O atraso base em milissegundos para espera exponencial entre novas tentativas |
|
Máximo de tokens de resposta * |
Máximo de tokens de resposta |
1000 |
O número máximo de tokens a serem gerados na resposta. |
|
Máximo de tentativas * |
Máximo de tentativas |
3 |
O número máximo de novas tentativas para chamadas de API |
|
Nome do modelo * |
Nome do modelo |
claude-3-5-sonnet-latest |
O nome do modelo Anthropic |
|
Temperatura |
Temperatura |
A temperatura a ser usada para gerar a resposta. |
||
Top K |
Top K |
O valor top K a ser usado para gerar a resposta. Faça uma amostragem apenas das opções de top K para cada token subsequente. Recomendado apenas para casos de uso avançado. Normalmente, você só precisa usar a temperatura. |
||
Top P |
Top P |
O valor top_p para amostragem de núcleo. Ele controla a diversidade das respostas geradas. |
||
ID de usuário |
ID de usuário |
O ID do usuário a ser definido nos metadados da solicitação |
||
Serviço de cliente Web * |
Serviço de cliente Web |
O serviço de cliente Web a ser usado para se comunicar com o provedor LLM. |
Gerenciamento do estado¶
Esse componente não armazena o estado.
Restrito¶
Esse componente não é restrito.
Considerações sobre os recursos do sistema¶
Esse componente não especifica considerações sobre os recursos do sistema.