Kafka용 Openflow Connector 설정하기¶

전제 조건¶

1. Kafka용 Openflow Connector 을 검토했는지 확인합니다.

2. Openflow를 설정 했는지 확인합니다.

커넥터 유형¶

Kafka용 Openflow Connector는 3가지 구성으로 제공되며, 각 구성은 특정 사용 사례에 최적화되어 있습니다. 커넥터 갤러리에서 이러한 커넥터 정의를 다운로드할 수 있습니다.

JSON 데이터 형식용 Apache Kafka

스키마 진화 및 항목 간 매핑을 통한 JSON 메시지 수집을 위한 간소화된 커넥터

AVRO 데이터 형식용 Apache Kafka

스키마 진화 및 항목 간 매핑을 통한 AVRO 메시지 수집을 위한 간소화된 커넥터

DLQ 및 메타데이터가 포함된 Apache Kafka

배달 실패 큐(DLQ) 지원, 메타데이터 처리, :doc:`Kafka용 Snowflake Connector</user-guide/kafka-connector-overview>`와의 기능 동등성을 제공하는 모든 기능을 갖춘 커넥터

특정 커넥터 유형에 대한 자세한 구성은 다음을 참조하십시오.

• JSON/AVRO 데이터 형식을 위한 Apache Kafka - JSON/AVRO 데이터 형식 커넥터

• DLQ 및 메타데이터가 포함된 Apache Kafka - DLQ 및 메타데이터 커넥터

Snowflake 계정 설정하기¶

Snowflake 계정 관리자는 다음 작업을 수행합니다.

1. 유형이 SERVICE 인 새 Snowflake 서비스 사용자를 생성합니다.

2. 새 역할을 생성하거나 기존 역할을 사용하여 데이터베이스 권한 권한을 부여합니다.

   커넥터는 대상 테이블이 존재하지 않을 경우 자동으로 생성할 수 있으므로, 사용자가 Snowflake 오브젝트를 생성하고 관리하는 데 필요한 권한을 보유하고 있는지 확인합니다.

   오브젝트	권한	참고
   데이터베이스	USAGE
   스키마	USAGE . CREATE TABLE .	스키마 수준 오브젝트가 생성된 후 CREATE object 권한이 취소될 수 있습니다.
   테이블	OWNERSHIP	Kafka 커넥터를 사용하여 기존 테이블로 데이터를 수집하는 경우에만 필요합니다. . 커넥터가 Kafka 항목의 레코드를 위한 새 대상 테이블을 생성하는 경우, 구성에 지정된 사용자의 기본 역할이 테이블 소유자가 됩니다.

   Snowflake는 더 나은 액세스 제어를 위해 각 Kafka 인스턴스에 대해 별도의 사용자 및 역할을 생성할 것을 권장합니다.

   다음 스크립트를 사용하여 사용자 지정 역할을 생성하고 구성할 수 있습니다(SECURITYADMIN 또는 이와 동등한 요구 사항 필요):

   USE ROLE securityadmin;
   
   CREATE ROLE kafka_connector_role_1;
   GRANT USAGE ON DATABASE kafka_db TO ROLE kafka_connector_role_1;
   GRANT USAGE ON SCHEMA kafka_schema TO ROLE kafka_connector_role_1;
   GRANT CREATE TABLE ON SCHEMA kafka_schema TO ROLE kafka_connector_role_1;
   
   -- Only for existing tables
   GRANT OWNERSHIP ON TABLE existing_table1 TO ROLE kafka_connector_role_1;
   

   Copy

   권한은 커넥터 역할에 직접 부여되어야 하며 상속될 수 없습니다.

3. Snowflake 서비스 사용자에게 이전 단계에서 생성한 역할을 부여합니다.

   역할은 사용자에 대한 기본 역할로 할당되어야 합니다.

   GRANT ROLE kafka_connector_role_1 TO USER kafka_connector_user_1;
   ALTER USER kafka_connector_user_1 SET DEFAULT_ROLE = kafka_connector_role_1;
   

   Copy

4. 1단계에서 Snowflake SERVICE 사용자에 대해 :doc:`키 페어 인증</user-guide/key-pair-auth>`을 구성합니다.

5. Snowflake는 이 단계를 강력히 권장합니다. Openflow에서 지원하는 시크릿 관리자(예: AWS, Azure, Hashicorp)를 구성하고 공개 및 개인 키를 시크릿 스토어에 저장합니다.

   참고

   어떤 이유로든 시크릿 관리자를 사용하지 않으려면 조직의 보안 정책에 따라 키 페어 인증에 사용되는 공개 키와 개인 키 파일을 보호할 책임이 있습니다.

   1. 시크릿 관리자가 구성되면 인증 방법을 결정합니다. AWS 에서는 다른 시크릿을 유지할 필요가 없으므로 Openflow와 연결된 EC2 인스턴스 역할을 사용하는 것이 좋습니다.

   2. Openflow에서 오른쪽 상단의 햄버거 메뉴에서 이 시크릿 관리자와 연결된 매개 변수 공급자를 구성합니다. Controller Settings » Parameter Provider 로 이동한 다음 매개 변수 값을 가져옵니다.

   3. 이 시점에서 모든 자격 증명은 연결된 매개 변수 경로로 참조할 수 있으며 민감한 값은 Openflow 내에서 유지될 필요가 없습니다.

6. 다른 Snowflake 사용자가 커넥터에서 수집한 원시 수집 문서 및 테이블에 대한 액세스가 필요한 경우(예:Snowflake에서 사용자 정의 처리를 위해), 해당 사용자에게 1단계에서 생성한 역할을 부여하십시오.

커넥터 설정하기¶

데이터 엔지니어는 다음 작업을 수행하여 커넥터를 설치하고 구성합니다.

베리언트별 설정 구성하기¶

공통 매개 변수를 구성한 후에는 선택한 커넥터 베리언트에 맞는 설정을 구성해야 합니다.

JSON 데이터 형식을 위한 Apache Kafka 및 AVRO 데이터 형식을 위한 Apache Kafka 커넥터:

JSON/AVRO 별 매개 변수는 JSON/AVRO 데이터 형식을 위한 Apache Kafka 섹션을 참조하십시오.

DLQ및 메타데이터 커넥터가 있는 Apache Kafka의 경우:

DLQ 구성, 스키마화 설정, Iceberg 테이블 지원 및 메시지 형식 옵션을 포함한 고급 매개 변수는 DLQ 및 메타데이터가 포함된 Apache Kafka 섹션을 참조하십시오.

인증¶

모든 커넥터 베리언트는 Kafka 소스 매개 변수(SASL 인증) 에 설명된 대로 매개 변수 컨텍스트를 통해 구성된 SASL 인증을 지원합니다.

mTLS 및 AWS MSK IAM 을 포함한 다른 인증 방법에 대해서는 Kafka용 Openflow Connector에 대한 다른 인증 방법 구성하기 섹션을 참조하십시오.

플로우 실행¶

1. 비행기를 마우스 오른쪽 버튼으로 클릭하고 Enable all Controller Services 를 클릭합니다.

2. 비행기를 마우스 오른쪽 버튼으로 클릭하고 Start 를 클릭합니다. 커넥터가 데이터 수집을 시작합니다.