ListFTP 2025.5.31.15

Pacote

org.apache.nifi | nifi-standard-nar

Descrição

Executa uma listagem dos arquivos que residem em um servidor FTP. Para cada arquivo encontrado no servidor remoto, será criado um novo FlowFile com o atributo filename definido como o nome do arquivo no servidor remoto. Isso pode ser usado em conjunto com FetchFTP para buscar esses arquivos.

Tags

files, ftp, ingest, input, list, remote, source

Requisito de entrada

FORBIDDEN

Oferece suporte a propriedades dinâmicas confidenciais

falso

Propriedades

Propriedade

Descrição

Modo de conexão

O modo de conexão FTP

Tempo limite de conexão

Tempo de espera antes de atingir o tempo limite ao criar uma conexão

Tempo limite de dados

Ao transferir um arquivo entre o sistema local e o remoto, esse valor especifica quanto tempo é permitido transcorrer sem que nenhum dado seja transferido entre os sistemas

Filtro de arquivo Regex

Fornece uma expressão regular Java para filtrar nomes de arquivos; se um filtro for fornecido, somente os arquivos cujos nomes correspondem a essa expressão regular serão buscados

Nome de host

O nome de host totalmente qualificado ou o endereço IP do sistema remoto

Ignorar arquivos ocultos

Se verdadeiro, os arquivos cujos nomes começam com um ponto (“.”) serão ignorados

Tamanho do buffer interno

Defina o tamanho do buffer interno para fluxos de dados com buffer

Senha

Senha da conta de usuário

Regex de filtro de caminho

Quando Buscar recursivamente for verdadeiro, apenas os subdiretórios cujo caminho corresponda à expressão regular fornecida serão escaneados.

Porta

A porta à qual se deseja conectar no host remoto para buscar os dados

Caminho remoto

O caminho no sistema remoto a partir do qual os arquivos serão extraídos ou enviados

Tamanho do lote de pesquisa remota

O valor especifica quantos caminhos de arquivo devem ser encontrados em um determinado diretório no sistema remoto ao fazer uma listagem de arquivos. Em geral, esse valor não precisa ser modificado, mas quando se pesquisa em um sistema remoto com um grande número de arquivos, esse valor pode ser crítico. Definir esse valor como muito alto pode resultar em um desempenho muito ruim e defini-lo como muito baixo pode fazer com que o fluxo seja mais lento do que o normal.

Pesquisar recursivamente

Se verdadeiro, extrairá arquivos de subdiretórios aninhados arbitrariamente; caso contrário, não percorrerá subdiretórios

Modo de transferência

O modo de transferência FTP

Nome de usuário

Nome de usuário

et-initial-listing-target

Especifique como a listagem inicial deve ser tratada. Usado pela estratégia “Rastreamento de entidades”.

et-state-cache

As entidades listadas são armazenadas no armazenamento em cache especificado, de modo que esse processador possa retomar a listagem por meio da reinicialização do NiFi ou em caso de alteração do nó primário. A estratégia “Rastreamento de entidades” exige informações de rastreamento de todas as entidades listadas na última “Janela de tempo de rastreamento”. Para oferecer suporte a um grande número de entidades, a estratégia usa DistributedMapCache em vez de estado gerenciado. O formato da chave de cache é “ListedEntities::{processorId}(::{nodeId})”. Se ele rastrear entidades listadas por nó, a parte opcional “::{nodeId}” será adicionada para gerenciar o estado separadamente. Por exemplo, a chave de cache de todo o cluster = “ListedEntities::8dda2321-0164-1000-50fa-3042fe7d6a7b”, per node cache key = “ListedEntities::8dda2321-0164-1000-50fa-3042fe7d6a7b::nifi-node3”. O conteúdo do cache armazenado é a cadeia de caracteres JSON compactada em Gzip. A chave de cache será excluída quando a configuração da listagem de destino for alterada. Usado pela estratégia “Rastreamento de entidades”.

et-time-window

Especifique por quanto tempo esse processador deve rastrear as entidades já listadas. A estratégia “Rastreamento de entidades” pode selecionar qualquer entidade cujo carimbo de data/hora esteja dentro da janela de tempo especificada. Por exemplo, se for definido como “30 minutes”, qualquer entidade com carimbo de data/hora nos últimos 30 minutos será o destino da listagem quando esse processador for executado. Uma entidade listada é considerada “nova/atualizada” e um FlowFile é emitido se uma das seguintes condições for atendida: 1. não existir nas entidades já listadas, 2. tiver um carimbo de data/hora mais recente do que a entidade em cache, e 3. tiver um tamanho diferente da entidade em cache. Se o carimbo de data/hora de uma entidade em cache for mais antigo do que a janela de tempo especificada, essa entidade será removida das entidades já listadas em cache. Usado pela estratégia “Rastreamento de entidades”.

follow-symlink

Se verdadeiro, extrairá até mesmo arquivos simbólicos e também subdiretórios simbólicos aninhados; caso contrário, não lerá arquivos simbólicos e não percorrerá subdiretórios de links simbólicos

ftp-use-utf8

Diz ao cliente para usar a codificação UTF-8 ao processar arquivos e nomes de arquivo. Se for definido como verdadeiro, o servidor também deverá oferecem suporte à codificação UTF-8.

listing-strategy

Especifica como determinar entidades novas/atualizadas. Veja as descrições de cada estratégia para obter detalhes.

proxy-configuration-service

Especifica o serviço de Controller Service de configuração de proxy para a realização de proxy de solicitações de rede.

record-writer

Especifica o Record Writer a ser usado para criar a listagem. Se não for especificado, será criado um FlowFile para cada entidade listada. Se o Record Writer for especificado, todas as entidades serão gravadas em um único FlowFile em vez de adicionar Rastreamento de entidades atributos aos FlowFiles.

target-system-timestamp-precision

Especifique a precisão do carimbo de data/hora no sistema de destino. Como esse processador usa o carimbo de data/hora das entidades para decidir quais devem ser listadas, é fundamental usar a precisão correta do carimbo de data/hora.

Gerenciamento do estado

Escopos

Descrição

CLUSTER

Depois de fazer uma listagem de arquivos, o carimbo de data/hora do arquivo mais recente é armazenado. Isso permite que o processador liste apenas os arquivos que foram adicionados ou modificados após essa data na próxima vez em que o processador for executado. O estado é armazenado em todo o cluster para que esse processador possa ser executado somente no nó primário e, se um novo nó primário for selecionado, o novo nó não duplicará os dados listados pelo nó primário anterior.

Relações

Nome

Descrição

success

Todos os FlowFiles que são recebidos são encaminhados para a relação “success”

Grava atributos

Nome

Descrição

ftp.remote.host

O nome de host do servidor FTP

ftp.remote.port

A porta à qual você se conectou no servidor FTP

ftp.listing.user

O nome de usuário do usuário que executou a listagem FTP

file.owner

O ID numérico do proprietário do arquivo de origem

file.group

O ID numérico do grupo do arquivo de origem

file.permissions

As permissões de leitura/gravação/execução do arquivo de origem

file.size

O número de bytes no arquivo de origem

file.lastModifiedTime

O carimbo de data/hora de quando o arquivo no sistema de arquivos foi modificado pela última vez como “yyyyy-MM-dd’T’HH:mm:ssZ”

filename

O nome do arquivo no servidor FTP

path

O nome totalmente qualificado do diretório no servidor FTP do qual o arquivo foi extraído

Consulte também