본문 바로가기

반응형

Kafka Connect

(3)
[Strimzi Kafka Connect] 손쉽게 커넥터 Config에 시크릿 적용하기 아래 공식문서를 참고하여 시크릿을 적용 https://strimzi.io/blog/2021/07/22/using-kubernetes-config-provider-to-load-data-from-secrets-and-config-maps/ Using Kubernetes Configuration Provider to load data from Secrets and Config MapsUsing Kubernetes Configuration Provider to load data from Secrets and Config Maps When running Apache Kafka on Kubernetes, you will sooner or later probably need to use Config Maps or ..
[DOIK 스터디 2기] JMX를 통한 Kafka Connect 모니터링 DOIK 스터디 2기 - 6번째 글로 JMX를 통해 Kafka 모니터링하는 방법에 대해서 소개한다. 공부하는 내용을 정리하는 글이라 부정확할 수 있음 주의 Kafka를 모니터링하기 위해서는 JMX(Java Management Extentions)를 사용하여 모니터링할 수 있다. Kafka는 JMX를 지원하여 여러 가지 관리 및 모니터링 작업을 수행할 수 있다. JMX Exporter는 Java 기반의 Application을 모니터링하기 위해 Prometheus 재단에서 만든 공식 Exporter이다. JMX Exporter는 Agent 형태로 실행되며 JMX Exporter가 JAVA Application의 Metric을 수집하기 위해서는 Java Application에 JMX가 필히 활성화되어있어야 한..
[DOIK 스터디 2기] Kafka 개념 및 Kafka 생태계 개념 정리 DOIK 스터디 2기 - 5번째 글로 Kafka 개념 및 생태계에 대해 정리해본다. 공부하는 내용을 정리하는 글이라 부정확할 수 있음 주의 Apache Kafka는 실시간 이벤트 기반 애플리케이션 개발을 지원하는 오픈소스 분산형 스트리밍 플랫폼이다. Kafka는 크게 3가지 기능을 통해 작업을 수행한다. 1. Application에서 Data 또는 Event stream을 Kafka로 Produce(발행)하거나 Subscription(구독)할 수 있다. 2. 서버는 항상 장애에 대비해야 한다. Kafka는 장애가 발생하더라도 처리하고 있는 데이터들을 안전하고 안정적인 방식으로 처리할 수 있도록 설계되어 있다. 3. 레코드들은 순서대로, FIFO 방식으로 Queue에 넣어서 실시간 처리된다. Kafka 용..

반응형