Apache Iceberg™ 테이블 관리하기

Snowflake의 Apache Iceberg™ 테이블 관리하기:

외부 카탈로그를 사용하는 Iceberg 테이블을 Snowflake를 Iceberg 카탈로그로 사용하는 테이블로 변환할 수도 있습니다. 자세한 내용은 Snowflake를 카탈로그로 사용하도록 Apache Iceberg™ 테이블을 변환하기 을 참조하십시오.

테이블 쿼리하기

Iceberg 테이블을 쿼리하려면 사용자에게 다음 권한을 부여하거나 상속해야 합니다.

  • 테이블이 포함된 데이터베이스 및 스키마에 대한 USAGE 권한

  • 테이블에 대한 SELECT 권한

SELECT 문을 사용하여 Iceberg 테이블을 쿼리할 수 있습니다. 예:

SELECT col1, col2 FROM my_iceberg_table;
Copy

참고

Along with Snowflake, you can also use an external query engine to query Iceberg tables. For more information, see Use an external query engine with Apache Iceberg™ tables.

DML 명령 사용

Snowflake를 카탈로그로 사용하는 Iceberg 테이블은 다음을 포함한 전체 데이터 조작 언어(DML) 명령 을 지원합니다.

Snowflake로 관리되는 테이블은 COPY INTO <테이블>Snowpipe 같은 기능을 사용하여 효율적인 대량 로딩도 지원합니다. 자세한 내용은 Apache Iceberg™ 테이블에 데이터 로드하기 섹션을 참조하십시오.

참고

  • Snowflake also supports writing to externally managed Iceberg tables. For more information, see 외부 관리형 |iceberg-tm|테이블에 대한 쓰기 지원 and 외부 관리형 Iceberg 테이블에 쓰기.

  • For Snowflake-managed Iceberg tables, if a DML operation fails unexpectedly and rolls back, some Parquet files might get written to your external cloud storage but won’t be tracked or referenced by your Iceberg table metadata. These Parquet files are orphan files.

    If you see a mismatch between storage usage for your external cloud storage and Snowflake, you might have orphan files in your external cloud storage. To see your storage usage for Snowflake, you can use the TABLE_STORAGE_METRICS 뷰 or TABLE_STORAGE_METRICS 뷰. If you see a mismatch, contact Snowflake Support for assistance with determining whether you have orphan files and removing them.

예: 테이블 업데이트하기

INSERTUPDATE 문을 사용하여 Snowflake 관리 Iceberg 테이블을 수정할 수 있습니다.

다음 예제에서는 store_sales 라는 Iceberg 테이블에 새 값을 삽입한 다음, 값이 현재 -99인 경우 cola 열을 1로 업데이트합니다.

INSERT INTO store_sales VALUES (-99);

UPDATE store_sales
  SET cola = 1
  WHERE cola = -99;
Copy

DML 변경 사항의 스냅샷 생성하기

Snowflake를 카탈로그로 사용하는 테이블의 경우 Snowflake는 Iceberg 메타데이터를 자동으로 생성합니다. Snowflake는 메타데이터를 외부 볼륨의 metadata 폴더에 씁니다. metadata 폴더를 찾으려면 데이터 및 메타데이터 디렉터리 섹션을 참조하십시오.

또는 SYSTEM$GET_ICEBERG_TABLE_INFORMATION 함수를 호출하여 새로운 변경 사항에 대한 Iceberg 메타데이터를 생성할 수 있습니다.

Snowflake에서 관리하지 않는 테이블의 경우 이 함수는 최신 새로 고침된 스냅샷에 대한 정보를 반환합니다.

예:

SELECT SYSTEM$GET_ICEBERG_TABLE_INFORMATION('db1.schema1.it1');
Copy

출력:

+-----------------------------------------------------------------------------------------------------------+
| SYSTEM$GET_ICEBERG_TABLE_INFORMATION('DB1.SCHEMA1.IT1')                                                   |
|-----------------------------------------------------------------------------------------------------------|
| {"metadataLocation":"s3://mybucket/metadata/v1.metadata.json","status":"success"}                         |
+-----------------------------------------------------------------------------------------------------------+

행 수준 삭제 사용

참고

외부에서 관리되는 Iceberg 테이블에만 지원됩니다.

Snowflake는 행 수준 삭제로 테이블을 쿼리하고 행 수준 삭제를 사용하여 테이블에 쓰기를 지원합니다.

테이블 쿼리

업데이트, 삭제, 병합 작업에 행 수준 삭제 를 구성한 경우 Snowflake는 외부에서 관리되는 Iceberg 테이블 을 쿼리할 수 있도록 지원합니다.

행 수준 삭제를 구성하려면 Apache Iceberg 설명서에서 value 속성 을 참조하십시오.

테이블에 쓰기

Snowflake는 Amazon S3, Azure 또는 Google Cloud에 저장된 외부 관리형 Iceberg 테이블에 쓰기 위한 위치 행 수준 삭제를 지원합니다. copy-on-write 모드에서 DML 작업을 실행시키는 위치 삭제를 끄려면 테이블, 스키마 또는 데이터베이스 수준에서 ENABLE_ICEBERG_MERGE_ON_READ 매개 변수를 FALSE로 설정합니다.

copy-on-write 대 merge-on-read

Iceberg는 컴퓨팅 엔진이 외부에서 관리되는 테이블의 행 수준 작업을 처리하는 방법을 구성하는 두 가지 모드를 제공합니다. Snowflake는 이 두 가지 모드를 모두 지원합니다.

다음 테이블에서는 각 모드를 사용할 수 있는 경우에 대해 설명합니다.

모드

설명

copy-on-write(기본값)

이 모드는 읽기 시간의 우선순위를 정하고 쓰기 속도에 영향을 줍니다.

업데이트, 삭제 또는 병합 작업을 수행하면 컴퓨팅 엔진이 영향을 받는 전체 Parquet 데이터 파일을 다시 작성합니다. 특히 대용량 데이터 파일이 있는 경우 쓰기 속도가 느려질 수 있지만 읽기 시간에는 영향을 미치지 않습니다.

이 모드가 기본 모드입니다.

merge-on-read

이 모드는 쓰기 속도를 우선시하며 읽기 시간에 약간의 영향을 줍니다.

업데이트, 삭제 또는 병합 작업을 수행하면 컴퓨팅 엔진에서 변경된 행에 대한 정보만 포함된 삭제 파일을 생성합니다.

테이블에서 읽을 때 쿼리 엔진은 삭제 파일을 데이터 파일과 병합합니다. 병합하면 읽기 시간이 늘어날 수 있습니다. 그러나 정기적인 압축 및 테이블 유지 관리를 예약하여 읽기 성능을 최적화할 수 있습니다.

Iceberg의 행 수준 변경에 대한 자세한 내용은 Apache Iceberg 설명서의 행 수준 삭제 를 참조하십시오.

고려 사항 및 제한 사항

외부에서 관리되는 Iceberg 테이블에서 행 수준 삭제를 사용하는 경우 다음 사항을 고려하십시오.

  • Snowflake 지원 위치 삭 제 만 삭제합니다.

  • 행 수준 삭제를 사용할 때 최상의 읽기 성능을 얻으려면 정기적으로 압축 및 테이블 유지 관리를 수행하여 오래된 삭제 파일을 제거하십시오. 자세한 내용은 외부 카탈로그를 사용하는 테이블 관리하기 섹션을 참조하십시오.

  • 과도한 위치 삭제, 특히 허상 위치 삭제는 테이블 생성 및 새로 고침 작업을 방해할 수 있습니다. 이 문제를 방지하려면 테이블 유지 관리를 수행하여 추가 위치 삭제를 제거합니다.

    사용할 테이블 유지 관리 방법은 외부 Iceberg 엔진에 따라 다릅니다. 예를 들어, delete-file-threshold 또는 rewrite-all 옵션과 함께 Spark의 rewrite_data_files 메서드를 사용할 수 있습니다. 자세한 내용은 Apache Iceberg™ 설명서의 `rewrite_data_files<https://iceberg.apache.org/docs/latest/spark-procedures/#rewrite_data_files>`_ 섹션을 참조하세요.

대상 파일 크기 설정하기

Spark 또는 Trino와 같은 외부 Iceberg 엔진의 쿼리 성능을 개선하려면 Snowflake 관리형 및 쓰기 지원이 있는 외부 관리형 Iceberg 테이블 모두에 대해 대상 파일 크기를 구성하면 됩니다. 특정 크기(16MB, 32MB, 64MB 또는 128MB)를 설정하거나 AUTO 옵션을 사용할 수 있습니다. AUTO는 테이블 유형에 따라 다르게 작동합니다.

  • Snowflake 관리형 테이블: AUTO는 Snowflake가 크기, DML 패턴, 수집 워크로드, 클러스터링 구성과 같은 테이블 특성을 기반으로 테이블의 파일 크기를 선택하도록 지정합니다. Snowflake는 Snowflake의 읽기 및 쓰기 성능을 향상하기 위해 16MB부터 시작하여 파일 크기를 자동으로 조정합니다.

  • 외부 관리형 테이블: AUTO는 Snowflake가 더 큰 파일 크기로 적극적으로 확장하도록 지정합니다.

Iceberg 테이블을 생성할 때 대상 파일 크기를 설정하거나 ALTER ICEBERG TABLE 명령을 실행하여 기존 Iceberg 테이블의 대상 파일 크기를 변경합니다. Snowflake는 테이블에 대한 Parquet 파일을 작성할 때 파일 크기를 대상 크기에 가깝게 유지하려고 시도합니다.

대상 파일 크기를 설정한 후 Snowflake는 새 데이터 조작 언어(DML) 작업을 위해 즉시 더 큰 파일을 만들기 시작합니다. Snowflake의 테이블 유지 관리 작업은 대상 파일 크기에 따라 기존 테이블 파일을 비동기적으로 변경합니다.

다음 예제에서는 TARGET_FILE_SIZE를 사용하여 Snowflake 관리형 테이블에 대한 대상 파일 크기를 128MB로 설정합니다.

CREATE ICEBERG TABLE my_iceberg_table (col1 INT)
  CATALOG = 'SNOWFLAKE'
  EXTERNAL_VOLUME = 'my_external_volume'
  BASE_LOCATION = 'my_iceberg_table'
  TARGET_FILE_SIZE = '128MB';
Copy

또는 :doc:`/sql-reference/sql/alter-iceberg-table`을 사용하여 기존 테이블에 대한 TARGET_FILE_SIZE 속성을 설정합니다.

ALTER ICEBERG TABLE my_iceberg_table
  SET TARGET_FILE_SIZE = '32MB';
Copy

테이블에 대한 TARGET_FILE_SIZE 속성 값을 확인하려면 SHOW PARAMETERS 명령을 사용합니다.

SHOW PARAMETERS LIKE 'target_file_size' FOR my_iceberg_table;
Copy

Snowflake 관리 Iceberg 테이블을 위한 테이블 최적화

테이블 최적화는 Snowflake 관리 Iceberg 테이블의 성능을 개선하고 저장소 비용을 줄이기 위해 자동으로 유지 관리를 수행합니다.

참고

  • Snowflake doesn’t support orphan file deletion for Snowflake-managed Iceberg tables. If you see a mismatch between storage usage for your external cloud storage and Snowflake, you might have orphan files in your external cloud storage. To see your storage usage for Snowflake, you can use the TABLE_STORAGE_METRICS 뷰 or TABLE_STORAGE_METRICS 뷰. If you see a mismatch, contact Snowflake Support for assistance with determining whether you have orphan files and removing them.

  • 쿼리 성능을 개선하기 위해 대상 파일 크기를 설정할 수도 있습니다. 자세한 내용은 대상 파일 크기 설정하기 섹션을 참조하세요.

Snowflake는 다음 표에 요약된 Iceberg 테이블 최적화 기능을 지원합니다.

특징

쿼리 성능 개선

저장소 비용 절감

참고

자동 클러스터링 [1]

  • 요금이 청구됩니다.

  • 기본적으로 비활성화됩니다.

데이터 압축

  • 요금이 청구됩니다.

  • 기본적으로 활성화됩니다.

매니페스트 압축

  • 비용이 없습니다.

  • 자동으로 활성화됩니다. 비활성화할 수 없습니다.

스냅샷 만료

  • 비용이 없습니다.

  • 자동으로 활성화됩니다. 비활성화할 수 없습니다.

[1] 다른 테이블 최적화 기능과 달리, 자동 클러스터링은 독립 실행형 기능으로 별도로 요금이 청구됩니다.

자동 클러스터링

자동 클러스터링은 자주 쿼리되는 열을 기준으로 파일 또는 파티션 내의 데이터를 재구성합니다. 대상 파일 크기를 설정하지 않는 한, Iceberg 테이블의 파일 크기는 클러스터링 구성을 기준으로 합니다. 대상 파일 크기를 설정하면 파일 크기는 사용자가 설정한 특정 크기가 됩니다. 자세한 내용은 대상 파일 크기 설정하기 섹션을 참조하십시오.

자동 클러스터링을 설정하려면 Snowflake 관리 Iceberg 테이블을 생성하거나 기존 테이블을 수정할 때 CLUSTER BY 매개 변수를 지정합니다. 자세한 내용은 다음을 참조하십시오.

자동 클러스터링에 대한 자세한 내용은 자동 클러스터링 섹션을 참조하세요.

데이터 압축

데이터 압축은 작은 파일을 더 크고 효율적인 파일로 결합하여 저장소를 관리하고, 최적의 파일 크기를 유지하고, 쿼리 성능을 개선합니다.

대부분의 경우 데이터 압축은 컴퓨팅 비용에 큰 영향을 미치지 않지만, 이러한 비용이 우려되는 경우 압축을 비활성화할 수 있습니다. 예를 들어, 테이블을 거의 쿼리하지 않는 경우 테이블에서 압축을 비활성화할 수 있습니다. 데이터 압축을 비활성화하거나 활성화하려면 데이터 압축 설정 섹션을 참조하세요.

참고

  • Iceberg 테이블에 대한 데이터 압축 작업을 쿼리하려면 ICEBERG_STORAGE_OPTIMIZATION_HISTORY 뷰 섹션을 참조하세요. 이 뷰에는 데이터 압축에 대해 청구된 크레딧 수가 포함됩니다.

  • :doc:`/user-guide/tables-auto-reclustering`이 활성화된 경우 클러스터링은 테이블에서 데이터 압축을 수행합니다. 이는 테이블에서 데이터 압축의 활성화 여부에 관계없이 적용됩니다.

  • 대상 파일 크기를 설정하는 옵션도 있습니다. 자세한 내용은 대상 파일 크기 설정하기 섹션을 참조하십시오.

매니페스트 압축

매니페스트 압축은 더 작은 매니페스트 파일을 재구성하고 결합하여 메타데이터 계층을 최적화합니다. 이 압축은 메타데이터 오버헤드를 줄이고 쿼리 성능을 개선합니다.

이 기능은 자동으로 활성화되며 비활성화할 수 없습니다.

스냅샷 만료

스냅샷 만료는 테이블의 기록에서 오래된 스냅샷과 해당 고유 데이터 및 메타데이터 파일을 체계적으로 삭제합니다. 이 삭제는 미리 정의된 보존 정책을 기준으로 합니다.

이 기능은 자동으로 활성화되며 비활성화할 수 없습니다.

외부 카탈로그를 사용하는 테이블 관리하기

외부 카탈로그를 사용하여 Iceberg 테이블에서 유지 관리 작업을 수행할 수 있습니다.

유지 관리 작업에는 다음이 포함됩니다.

  • 스냅샷 만료

  • 이전 메타데이터 파일 제거하기

  • 데이터 파일 압축하기

중요

외부 변경 사항에 따라 Iceberg 테이블을 동기화하려면 Snowflake 새로 고침 일정을 테이블 유지 관리와 맞추는 것이 중요합니다. 유지 관리 작업을 수행할 때마다 테이블을 새로 고칩니다.

Snowflake로 관리되지 않는 Iceberg 테이블의 유지 관리에 대해 알아보려면 Apache Iceberg 설명서의 유지 관리 를 참조하십시오.

테이블 메타데이터 새로 고침

외부 Iceberg 카탈로그를 사용하는 경우 ALTER ICEBERG TABLE … REFRESH 명령을 사용하여 테이블 메타데이터를 새로 고칠 수 있습니다. 테이블 메타데이터를 새로 고치면 메타데이터가 가장 최근 테이블 변경 사항과 동기화됩니다.

참고

지원되는 외부 관리 테이블에 대해 자동 새로 고침 을 설정하는 것이 좋습니다.

테이블의 메타데이터 새로 고치기

다음 예제에서는 외부 카탈로그(예: AWS Glue 또는 Delta)를 사용하는 테이블의 메타데이터를 수동으로 새로 고칩니다. 테이블을 새로 고치면 원격 카탈로그에서 발생한 모든 변경 사항과 테이블이 동기화됩니다.

이러한 유형의 Iceberg 테이블을 사용할 경우 명령에 메타데이터 파일 경로를 지정하지 않습니다.

ALTER ICEBERG TABLE my_iceberg_table REFRESH;
Copy

테이블을 자동으로 업데이트하려면 자동 새로 고침 을 설정할 수 있습니다. ALTER ICEBERG TABLE 명령을 사용합니다.

예:

ALTER ICEBERG TABLE my_iceberg_table SET AUTO_REFRESH = TRUE;
Copy

Iceberg 파일에서 생성된 테이블의 메타데이터 새로 고치기

다음 예제에서는 외부 클라우드 저장소에 있는 Iceberg 메타데이터 파일 에서 생성된 테이블을 수동으로 새로 고치며, 선행 슬래시(/) 없이 메타데이터 파일의 상대 경로를 지정합니다. 메타데이터 파일은 새로 고친 후 테이블의 데이터를 정의합니다.

ALTER ICEBERG TABLE my_iceberg_table REFRESH 'metadata/v1.metadata.json';
Copy

저장소 메트릭 검색하기

Snowflake는 Iceberg 테이블 저장소 비용을 귀하의 계정에 청구하지 않습니다. 그러나 Snowflake Information Schema 또는 Account Usage 스키마에서 TABLE_STORAGE_METRICS 및 TABLES 뷰를 쿼리하여 Iceberg 테이블이 차지하는 저장 용량을 추적할 수 있습니다.

다음 예제 쿼리는 ACCOUNT_USAGE.TABLE_STORAGE_METRICS 뷰를 ACCOUNT_USAGE.TABLES 뷰와 조인하여 TABLES.IS_ICEBERG 열을 필터링합니다.

SELECT metrics.* FROM
  snowflake.account_usage.table_storage_metrics metrics
  INNER JOIN snowflake.account_usage.tables tables
  ON (
    metrics.id = tables.table_id
    AND metrics.table_schema_id = tables.table_schema_id
    AND metrics.table_catalog_id = tables.table_catalog_id
  )
  WHERE tables.is_iceberg='YES';
Copy

데이터 압축 설정

데이터베이스, 스키마 또는 테이블을 생성하거나 ALTER 명령을 사용하여 기존 데이터베이스, 스키마 또는 테이블의 설정을 변경할 때 Snowflake 관리 Iceberg 테이블에 대한 데이터 압축을 설정할 수 있습니다. ALTER ACCOUNT 명령을 사용하여 계정 수준에서 데이터 압축을 설정할 수도 있습니다. 데이터 압축에 대한 자세한 내용은 데이터 압축 섹션을 참조하세요.

다음 예에서는 ENABLE_DATA_COMPACTION을 사용하여 Snowflake 관리 테이블에 대한 데이터 압축을 비활성화합니다.

CREATE ICEBERG TABLE my_iceberg_table (col1 INT)
  CATALOG = 'SNOWFLAKE'
  EXTERNAL_VOLUME = 'my_external_volume'
  BASE_LOCATION = 'my_iceberg_table'
  ENABLE_DATA_COMPACTION = FALSE;
Copy

또는 :doc:`/sql-reference/sql/alter-iceberg-table`을 사용하여 기존 테이블에 대해 데이터 압축을 비활성화합니다.

ALTER ICEBERG TABLE my_iceberg_table
  SET ENABLE_DATA_COMPACTION = FALSE;
Copy

자세한 내용은 다음을 참조하십시오.