Configure o Openflow Connector for HubSpot¶
Nota
O conector está sujeito aos termos do conector.
Este tópico descreve as etapas para configurar o Openflow Connector for HubSpot.
Pré-requisitos¶
Certifique-se de ter revisado Sobre a Openflow Connector for HubSpot.
Certifique-se de ter configurado o Openflow.
Obtenha as credenciais¶
Como administrador do HubSpot, gere um token de aplicativo privado HubSpot ou crie um em sua conta HubSpot. Isso permite que você autentique suas solicitações na HubSpot API.
Faça login em sua conta HubSpot.
Navegue até Settings selecionando o ícone de engrenagem na barra de navegação superior.
Na navegação à esquerda, acesse Integrations » Private Apps.
Selecione Create a private app.
Digite um nome para seu aplicativo.
Navegue até a guia Scopes.
Selecione os escopos necessários para as solicitações de API que você pretende fazer. Para encontrar os escopos necessários para as solicitações de API, consulte Escopos.
Selecione Create app.
Defina os escopos necessários para as solicitações de API que você pretende fazer para cada ponto de extremidade.
Selecione View access token para visualizar o token de acesso. Cole o token nos parâmetros do conector ou salve-o em segurança.
Configure a conta Snowflake¶
Como administrador de conta Snowflake, execute as seguintes tarefas:
Crie uma nova função ou use uma função existente e conceda a Privilégios de banco de dados.
Crie um novo usuário de serviço Snowflake com o tipo SERVICE.
Conceda ao usuário do serviço Snowflake a função que você criou nas etapas anteriores.
Configure com a autenticação de pares de chaves para o usuário do Snowflake SERVICE da etapa 2.
A Snowflake recomenda enfaticamente essa etapa. Configure um gerenciador de segredos compatível com o Openflow, por exemplo, AWS, Azure e Hashicorp, e armazene as chaves públicas e privadas no armazenamento de segredos.
Nota
Se, por algum motivo, você não quiser usar um gerenciador de segredos, será responsável por proteger os arquivos de chave pública e chave privada usados para autenticação de pares de chaves de acordo com as políticas de segurança de sua organização.
Depois que o gerenciador de segredos estiver configurado, determine como você se autenticará nele. No AWS, é recomendável que você use a função de instância EC2 associada ao Openflow, pois dessa forma nenhum outro segredo precisa ser mantido.
No Openflow, configure um provedor de parâmetros associado a esse gerenciador de segredos, no menu de três traços no canto superior direito. Navegue até Controller Settings » Parameter Provider e, em seguida, busque os valores dos parâmetros.
Nesse momento, todas as credenciais podem ser referenciadas com os caminhos de parâmetros associados e nenhum valor sensível precisa ser mantido no Openflow.
Se qualquer outro usuário Snowflake precisar de acesso aos documentos e tabelas brutos ingeridos pelo conector (por exemplo, para processamento personalizado no Snowflake), conceda a esses usuários a função criada na etapa 1.
Designar um warehouse para o conector usar. Comece com o menor tamanho de warehouse e, em seguida, experimente o tamanho, dependendo do número de tabelas sendo replicadas e da quantidade de dados transferidos. Os números de tabelas grandes normalmente são mais bem dimensionados com warehouses multicluster, em vez de warehouses maiores.
Configuração do conector¶
Como engenheiro de dados, execute as seguintes tarefas para instalar e configurar o conector:
Instalação do conector¶
Navegue até a página Visão geral do Openflow. Na seção Featured connectors, selecione View more connectors.
Na página de conectores do Openflow, localize o conector e selecione Add to runtime.
Na caixa de diálogo Select runtime, selecione seu tempo de execução na lista suspensa Available runtimes.
Selecione Add.
Nota
Antes de instalar o conector, verifique se você criou um banco de dados e um esquema no Snowflake para que o conector armazene os dados ingeridos.
Autentique-se na implementação com as credenciais de sua conta Snowflake e selecione Allow quando solicitado para permitir que o aplicativo de tempo de execução acesse sua conta Snowflake. O processo de instalação do conector leva alguns minutos para ser concluído.
Autentique-se no tempo de execução com as credenciais de sua conta Snowflake.
A tela do Openflow é exibida com o grupo de processos do conector adicionado a ela.
Configuração do conector¶
Clique com o botão direito do mouse no grupo de processos importado e selecione Parameters.
Preencha os valores dos parâmetros necessários conforme descrito em Parâmetros de fluxo.
Parâmetros de fluxo¶
Esta seção descreve os parâmetros de fluxo que podem ser configurados com base nos contextos de parâmetros a seguir:
Parâmetros de origem do HubSpot: usados para estabelecer conexão com o HubSpot.
Parâmetros de destino do HubSpot: usados para estabelecer conexão com o Snowflake.
Parâmetros de ingestão do HubSpot: usados para definir a configuração dos dados baixados do HubSpot.
Parâmetros de origem do HubSpot¶
Parâmetro |
Descrição |
---|---|
Token de acesso HubSpot |
Token de acesso ao aplicativo privado do HubSpot. |
Parâmetros de destino do HubSpot¶
Parâmetro |
Descrição |
---|---|
Banco de dados de destino |
O banco de dados onde os dados serão mantidos. Ele já deve existir no Snowflake |
Esquema de destino |
O esquema em que os dados serão mantidos. Ele já deve existir no Snowflake |
Identificador de conta Snowflake |
Nome da conta Snowflake formatado como [organization-name]-[account-name] onde os dados serão mantidos |
Estratégia de autenticação Snowflake |
Estratégia de autenticação para o Snowflake. Valores possíveis: SNOWFLAKE_SESSION_TOKEN quando estivermos executando o fluxo em SPCS, e KEY_PAIR quando quisermos definir o acesso usando a chave privada |
Chave privada Snowflake |
A chave privada RSA utilizada para autenticação. A chave RSA deve ser formatada de acordo com os padrões PKCS8 e ter cabeçalhos e rodapés no padrão PEM. Observe que o arquivo de chave privada do Snowflake ou a chave privada do Snowflake devem ser definidos |
Arquivo de chave privada Snowflake |
O arquivo que contém a chave privada RSA usada para autenticação no Snowflake, formatado de acordo com os padrões PKCS8 e com cabeçalhos e rodapés no padrão PEM. A linha do cabeçalho começa com |
Senha de chave privada Snowflake |
A senha associada ao arquivo de chave privada Snowflake |
Função Snowflake |
Função Snowflake usada durante a execução da consulta |
Nome de usuário do Snowflake |
Nome de usuário usado para se conectar à instância Snowflake |
Warehouse Snowflake |
Warehouse Snowflake usado para executar consultas |
Parâmetros de ingestão do HubSpot¶
Parâmetro |
Descrição |
---|---|
Tipo de objeto |
Tipo de objeto do HubSpot a ser ingerido.
|
Atualizado após |
Filtre objetos atualizados após a data ou hora especificada |
Cronograma de sincronização de dados arquivados |
Tempo entre o próximo cronograma. Ele deve ter uma duração de tempo válida, como 30 minutos ou 1 hora. |
Programação de sincronização de dados atuais |
Tempo entre o próximo cronograma. Ele deve ter uma duração de tempo válida, como 30 minutos ou 1 hora. |
Execute o fluxo¶
Clique com o botão direito do mouse no plano e selecione Enable all Controller Services.
Clique com o botão direito do mouse no grupo de processos importado e selecione Start. O conector inicia a ingestão de dados.
Reconfigure o conector¶
Você pode modificar os parâmetros do conector depois que o conector tiver começado a ingerir dados. Se os critérios de consulta de problemas forem alterados, execute as etapas a seguir para garantir que os dados na tabela de destino sejam consistentes.
Pare o conector: certifique-se de que todos os processadores Openflow estejam parados.
Acesse as definições de configuração: navegue até as definições de configuração do conector na interface do Snowflake Openflow.
Modifique os parâmetros: ajuste os parâmetros conforme necessário.
Limpe o estado do processador: se você estiver alterando os critérios de ingestão, o Snowflake recomenda enfaticamente que inicie a ingestão desde o começo para manter a consistência dos dados na tabela de destino. Após limpar o estado no processador IngestJiraIssues, o conector buscará todos os problemas desde o início. Pode ser necessário o truncamento manual da tabela de destino para evitar a duplicação de linhas.