NI-Lab.

nilog:

← 前の日 2024-11-08 次の日 →
← 一年前 一年後 →
Mastodon (2024-11-08)

『Apache Kafkaをはじめる』をざっと読んだ。

「本書では分散ストリーミングプラットフォームのKafkaについて初学者向けに解説しています。Kafka初学者の開発者でもKafkaの基本操作やKafkaアプリケーションの開発の最初の一歩を踏み出せるようになります。」「Producerアプリケーション」「Consumerアプリケーション」「トランザクションによる堅牢なアプリケーションの構築」「Kafka Connectによるデータパイプライン」「Kafka Streamsによるストリーム処理」

Apache Kafkaをはじめる 技術の泉シリーズ (技術の泉シリーズ(NextPublishing)) | 佐々木 健太朗 amazon.co.jp/dp/B0BDKQDJR7?tag



元の画像を見る
[Mastodon] 2024-11-08 23:49:16
関連するかも情報

( ´∀`)いいね

「一部引用なことも引用元も明記してるし、「誰かの作った不完全なものに、価値を認めた他人がボランティアで仕事を加えて完成度を上げる」という古の美しいネット文化」

「言葉を慎みたまえ、君はインターネット老人の前にいるのだ」

𝑷𝑲𝑨 on X x.com/PKAnzug/status/185445862


[Mastodon] 2024-11-08 23:06:44

『Apache Kafkaをはじめる』をざっと読んだ。

「本書では分散ストリーミングプラットフォームのKafkaについて初学者向けに解説しています。Kafka初学者の開発者でもKafkaの基本操作やKafkaアプリケーションの開発の最初の一歩を踏み出せるようになります。」「Producerアプリケーション」「Consumerアプリケーション」「トランザクションによる堅牢なアプリケーションの構築」「Kafka Connectによるデータパイプライン」「Kafka Streamsによるストリーム処理」

Apache Kafkaをはじめる 技術の泉シリーズ (技術の泉シリーズ(NextPublishing)) | 佐々木 健太朗 amazon.co.jp/dp/B0BDKQDJR7?tag



元の画像を見る
[Mastodon] 2024-11-08 23:49:16

読書メモ。

-event (record, message)
--header
--key
--timestamp
--value ← データ本体

-Topic
--Partition

-トピック内のパーティション間では順序が保証されない

-Producer: Kafka にイベントを送信するプログラム
-Consumer: Kafka からイベントを受信するプログラム

-Consumer はイベントの読み出し後に Partition ごとの処理済み Offset を記録するコミットを行う

-Consumer は2回以上イベントを読み取っても問題ないように処理を冪等にしておく

Apache Kafkaをはじめる (BookB0BDKQDJR7 - MemoWiki v5) nilab.info/wiki/BookB0BDKQDJR7


[Mastodon] 2024-11-08 23:49:49

Apache Kafka をどうして Kafka と名付けたのか、開発者のコメント。

「書くこと(データ書き込み?)に最適化されたシステムなので、作家の名前が良いと思った」「フランツ・カフカが好き」

"I thought that since Kafka was a system optimized for writing using a writer's name would make sense. I had taken a lot of lit classes in college and liked Franz Kafka. Plus the name sounded cool for an open source project."

Jay Kreps's answer to What is the relation between Kafka, the writer, and Apache Kafka, the distributed messaging system? - Quora quora.com/What-is-the-relation


[Mastodon] 2024-11-08 23:50:13

「Kafkaは、「プロデューサー」と呼ばれる任意の数のプロセスから送られてくるKey-Valueメッセージを保存する。データは、異なる「トピック」内の異なる「パーティション」に分割することができる。パーティション内では、メッセージはオフセット(パーティション内でのメッセージの位置)の順に記録され、タイムスタンプとともにインデックス化されて保存される。「コンシューマー」と呼ばれる他のプロセスは、パーティションからメッセージを読み取ることができる。」

Apache Kafka - Wikipedia ja.wikipedia.org/wiki/Apache_K


[Mastodon] 2024-11-08 23:52:58
2024年11年08日のnilogをすべて表示する

- NI-Lab.
- Mastodon (@nilab@mastodon-japan.net)
- Twitter (@nilab)
- Timelog (@nilab)
- はてなブックマーク (id:nilab)

Web Services by Yahoo! JAPAN