CaptureChangeSqlServer 2025.10.2.19

번들

com.snowflake.openflow.runtime | runtime-database-cdc-processors-nar

설명

SQL Server 데이터베이스에서 CDC 이벤트를 읽습니다. 프로세서는 데이터베이스의 변경 내용 추적 테이블을 주기적으로 쿼리하지만, TableStateService에서 제공하는 테이블에 대해서만 쿼리합니다. 프로세서는 각 테이블에 대해 마지막으로 처리된 이벤트의 상태를 유지합니다. 프로세서는 처리된 각 테이블 뒤로 위치를 이동합니다. 프로세서는 멀티스레딩을 지원합니다. 풀에 구성된 스레드 수와 연결 제한은 소스 데이터베이스에 대한 열린 연결의 상한을 집합적으로 정의합니다. 프로세서는 두 가지 유형의 FlowFiles를 출력합니다. 하나는 DDLs로, 테이블의 초기 스키마를 포함하며, 스키마가 변경될 때마다 해당 스키마를 포함합니다. 또 다른 유형은 DMLs로, 테이블의 데이터 변경 사항을 나타내는 레코드를 포함합니다. 하나의 FlowFile은 항상 단일 테이블과 관련된 데이터를 나타냅니다. 스키마가 있는 DDL이 FlowFile 내용에 { “columns”: [ { “name”: “<columnName>”, “type”: “<snowflakeType>”, “nullable”: <true|false>, “scale”: <scale>, “precision”: <precision> }, … ], “primaryKeys”: [“<primaryKey1>”, “<primaryKey2>”, …] } 형식의 JSON 오브젝트로 기록됩니다. DML 레코드는 { “primaryKeys”: { “<column>”: <value>, … }, “payload”: { “<column>”: <value>, … }, “metadata”: { “<column>”: <value>, … }로 구성됩니다.

태그

cdc, event, jdbc, sql, sql server

입력 요구 사항

FORBIDDEN

민감한 동적 속성 지원

false

속성

속성

설명

열 필터 저장소ㄴ

테이블별 열 필터링 설정을 저장하는 서비스입니다.

Connection Pool

연결 풀

Fetch Size

한 번에 메모리에 로딩되는 최대 행 수입니다

Max Batch Size

단일 배치에서 가져올 최대 행 수입니다

Record Writer

Record Writer는 DML 이벤트를 직렬화하는 데 사용됩니다

테이블 변경 사항 쿼리 간격

테이블 변경 사항에 대한 다음 쿼리를 예약하기 전에 경과해야 하는 최소 시간 간격입니다. 이 속성은 과도한 쿼리를 방지하기 위해 데이터베이스 폴링 빈도를 제어합니다.

Table State Store

복제된 테이블의 상태를 보관하는 공유 저장소입니다.

상태 관리

범위

설명

CLUSTER

각 테이블에 대해 마지막으로 처리된 레코드의 버전과 같은 정보가 이 프로세서에 저장되므로 다시 시작하면 동일한 위치에서 계속할 수 있습니다.

관계

이름

설명

성공

CDC 스트림 이벤트에서 FlowFile 을 성공적으로 생성했습니다