Dataflow Java ランナー
ClickHouse Supported
Dataflow Java Runner を使用すると、カスタム Apache Beam パイプラインを Google Cloud の Dataflow サービス上で実行できます。このアプローチは柔軟性が最大限に高く、高度な ETL ワークフローに適しています。
仕組み
-
パイプラインの実装 Java Runner を使用するには、公式の Apache Beam コネクタである
ClickHouseIOを使って Beam パイプラインを実装する必要があります。コード例およびClickHouseIOの使用方法については、ClickHouse Apache Beam を参照してください。 -
デプロイメント パイプラインを実装して設定したら、Google Cloud のデプロイメントツールを使用して Dataflow にデプロイできます。詳細なデプロイメント手順は、Google Cloud Dataflow ドキュメント - Java Pipeline に記載されています。
注記: この方法は、Beam フレームワークに関する十分な知識とコーディングの専門スキルを前提としています。ノーコードのソリューションを希望する場合は、ClickHouse の事前定義テンプレートの利用を検討してください。