Limitações e considerações para Snowpipe Streaming com arquitetura de alto desempenho

Este documento descreve as limitações conhecidas e as principais considerações para o Snowpipe Streaming com arquitetura de alto desempenho.

Limitações gerais e de nível de serviço

  • O serviço está disponível em todas as regiões da AWS, exceto para regiões e regiões específicas do governo na China.

  • A função padrão é usada para autorização. Certifique-se de que os usuários tenham acesso à função padrão quando se conectarem ao serviço.

Limites de tabela

  • Taxa de transferência máxima: uma tabela pode atingir uma taxa de transferência agregada de 10 GBps descompactados.

Limites de canal

  • Canais por canal: por padrão, um único canal pode ter até 2.000 canais ativos. Entre em contato com o suporte Snowflake se precisar de mais canais para seu caso de uso.

Limites de canal

Cada canal tem os limites flexíveis a seguir. Se seu aplicativo exigir maior rendimento por canal, entre em contato com o suporte Snowflake para discutir o aumento desses limites.

  • Taxa de transferência do SDK: 12 MBps não compactados

  • Taxa de transferência do ponto de extremidade REST: 1 MBps não compactado

  • Taxa de solicitação: 10 solicitações por segundo (RPS).

Ingestão e limitações específicas de dados

  • A opção ON_ERROR no Snowpipe Streaming com arquitetura de alto desempenho oferece suporte apenas a CONTINUE.

  • Picos repentinos na taxa de transferência de dados podem causar breves aumentos na latência de ponta a ponta, pois o serviço está se adaptando elasticamente para suportar o novo nível de taxa de transferência.

  • Não há suporte para tabelas Iceberg particionadas.

Limitações arquitetônicas e do SDK

  • Arquiteturas compatíveis (Rust Core): ARM64 Mac, Windows, ARM64-Linux e x86_64-Linux.

  • Requisitos do Linux: se você usa o SDK no Linux, seu sistema deve ter a versão 2.26 ou posterior do glibc.

  • Fuso horário: O SDK usa automaticamente UTC, e essa configuração não pode ser alterada pelo usuário.

  • OAuth e tokens de acesso pessoal não são compatíveis.