StandardAnthropicLLMService¶
설명¶
메시지 API 를 통해 Anthropic의 Claude AI 모델과 통합을 제공하는 컨트롤러 서비스입니다. 모델 선택, 응답 생성 설정(온도, top_p, top_k), 토큰 제한 및 재시도 동작을 포함한 구성 가능한 매개 변수를 지원합니다.
속성¶
아래 목록에서 필수 속성에는 별표(*)가 표시되어 있습니다. 다른 속성은 선택 사항으로 간주됩니다. 이 테이블에는 기본값과 속성이 NiFi 식 언어를 지원하는지 여부도 표시됩니다.
표시 이름 |
API 이름 |
기본값 |
허용되는 값 |
설명 |
---|---|---|---|---|
Anthropic API 키 * |
Anthropic API 키 |
Anthropic 인증을 위한 API 키 |
||
백오프 기본 지연(ms) * |
백오프 기본 지연(ms) |
1000 |
재시도 간 지수 백오프를 위한 기본 지연(밀리초) |
|
최대 응답 토큰 수 * |
최대 응답 토큰 수 |
1000 |
응답에서 생성할 토큰의 최대 개수입니다. |
|
최대 재시도 * |
최대 재시도 |
3 |
API 호출에 대한 최대 재시도 시도 횟수 |
|
모델 이름 * |
모델 이름 |
claude-3-5-sonnet-latest |
Anthropic 모델의 이름 |
|
온도 |
온도 |
응답을 생성하는 데 사용할 온도입니다. |
||
Top K |
Top K |
응답을 생성하는 데 사용할 최상위 K 값입니다. 각 후속 토큰에 대해 상위 K 옵션에서 샘플만 선택합니다. 고급 사용 케이스에만 권장됩니다. 일반적으로 온도만 사용하면 됩니다. |
||
Top P |
Top P |
핵 샘플을 위한 top_p 값입니다. 생성된 응답의 다양성을 제어합니다. |
||
사용자 ID |
사용자 ID |
요청 메타데이터에 설정할 사용자 ID입니다 |
||
웹 클라이언트 서비스 * |
Web Client Service |
LLM 공급자와 통신하는 데 사용할 웹 클라이언트 서비스입니다. |
상태 관리¶
이 구성 요소는 상태를 저장하지 않습니다.
제한됨¶
이 구성 요소는 제한되지 않습니다.
시스템 리소스 고려 사항¶
이 구성 요소는 시스템 리소스 고려 사항을 지정하지 않습니다.