ConsumeAzureEventHub 2025.5.31.15

バンドル

org.apache.nifi | nifi-azure-nar

説明

Microsoft Azure Event Hubからのメッセージをチェックポイントで受信し、一貫したイベント処理を保証します。チェックポイント・トラッキングは、メッセージを何度も消費することを避け、断続的なネットワーク障害が発生した場合でも、信頼性の高い処理の再開を可能にします。チェックポイント・トラッキングは外部ストレージを必要とし、Azure Event Hubs からのメッセージを消費するための好ましいアプローチを提供します。クラスタ環境では、 ConsumeAzureEventHub プロセッサーインスタンスがコンシューマーグループを形成し、メッセージがクラスタノード間で分散されます(各メッセージは1つのクラスタノードのみで処理されます)。

タグ

Azure、クラウド、eventhub、イベント、マイクロソフト、ストリーミング、ストリーム

入力要件

FORBIDDEN

機密動的プロパティをサポート

false

プロパティ

プロパティ

説明

サービス バス エンドポイント

デフォルトのwindows.netドメイン以外の名前空間をサポートするため。

輸送タイプ

Azureイベントハブとの通信に使用される高度なメッセージキューイングプロトコルのトランスポートタイプ

checkpoint-strategy

各パーティションのパーティション所有権とチェックポイント情報の保存と取得に使用するストラテジーを指定します。

event-hub-batch-size

NiFi セッション内で処理するメッセージ数。このパラメーターはスループットと一貫性に影響します。NiFi はこの数のメッセージを処理した後、セッションとイベントハブのチェックポイントをコミットします。NiFi セッションがコミットされても、イベント・ハブのチェックポイントの作成に失敗した場合、同じメッセージを再び受信する可能性があります。数字が大きいほどスループットは高くなりますが、一貫性がなくなる可能性があります。

event-hub-consumer-group

使用するコンシューマーグループの名前。

event-hub-initial-offset

オフセットがまだチェックポイントストアに保存されていない場合、メッセージの受信を開始する場所を指定します。

event-hub-message-receive-timeout

このコンシューマーが戻る前にバッチサイズを受信するまでの待機時間。

event-hub-name

メッセージをプルするイベント・ハブの名前。

event-hub-namespace

Azure Event Hubs が割り当てられている名前空間。これは通常、<Event Hub Names>-nsと同じです。

event-hub-prefetch-count

event-hub-shared-access-policy-name

共有アクセスポリシーの名前。このポリシーは、保険金請求に耳を傾ける必要があります。

event-hub-shared-access-policy-primary-key

共有アクセスポリシーのキー。プライマリ・キーとセカンダリ・キーのどちらを使ってもかまいません。

proxy-configuration-service

ネットワークリクエストをプロキシするプロキシ構成Controller Serviceを指定します。

record-reader

受信したメッセージの読み取りに使用するRecord Reader。イベント・ハブ名は式言語 '${eventhub.name}' でリファレンスし、スキーマにアクセスすることができます。

record-writer

レコードを FlowFile 出力にシリアライズするために使用するRecord Writer。イベント・ハブ名は式言語 '${eventhub.name}' でリファレンスし、スキーマにアクセスすることができます。指定しない場合、各メッセージは FlowFile を作成します。

storage-account-key

イベントハブコンシューマーグループの状態を保存する Azure ストレージアカウントキー。

storage-account-name

イベントハブコンシューマーグループの状態を保存する Azure ストレージアカウントの名前。

storage-container-name

イベントハブコンシューマーグループの状態を保存する Azure ストレージコンテナーの名前。指定がない場合は、イベントハブ名が使用されます。

storage-sas-token

Event Hub コンシューマー グループの状態を保存する Azure ストレージ SAS トークン。常に「?」文字で始まります。

use-managed-identity

Azure VM/VMSS の管理 ID を使用するかどうかを選択します。

状態管理

スコープ

説明

CLUSTER

ローカル状態は、クライアントIDを保存するために使用されます。クラスター状態は、コンポーネント状態がチェックポイント戦略として構成されている場合、パーティション所有権とチェックポイント情報を格納するために使用されます。

LOCAL

ローカル状態は、クライアントIDを保存するために使用されます。クラスター状態は、コンポーネント状態がチェックポイント戦略として構成されている場合、パーティション所有権とチェックポイント情報を格納するために使用されます。

リレーションシップ

名前

説明

success

イベントハブから受信した FlowFiles。

属性の書き込み

名前

説明

eventhub.enqueued.timestamp

メッセージがイベントハブにエンキューされた時間(エポックからのミリ秒、 UTC)。

eventhub.offset

メッセージが格納されたパーティション内のオフセット

eventhub.sequence

メッセージに関連するシーケンス番号

eventhub.name

メッセージが取り出されたイベントハブの名前。

eventhub.partition

メッセージが取り出されたパーティション名

eventhub.property.*

このメッセージのアプリケーション・プロパティ。IE: 'アプリケーション'は'eventhub.property.application'となります。