DEVKI: Apache Kafka для инженеров данных в Верхнем Уфалее

Архитектура и история возникновения Kafka Основные абстракции и понятия Основные API Изучим основные компоненты и API Kafka, принципы их взаимодействия и killer features.

Понятие топика, раздела и смещения Управление Topic-ами из консоли Отслеживание последнего прочитанного сообщения Семантики доставки сообщений (at least once, at most once, exactly once) Разберемся в анатомии топика, использовании механизмов партиционирования и consumer групп.

Публикация сообщений с помощью кода Погрузимся в детальную настройку и использование Kafka Producer-а и best practices на стороне производителя сообщений.

Прием сообщений point-to-point Kafka Broadcasting и группы. Гибкий процесс приема сообщений. Научимся принимать сообщения и на практике реализуем минимальное приложение, работающее с Kafka. Познакомимся с концепцией групп (consumer groups) и научимся настраивать группы для работы с сообщениями в режиме broadcasting.

Архитектура Kafka Streams Потоковая обработка в Apache Kafka. Основные абстракции Kafka Streams Изучим общие принципы и приемы в процессе работы с Kafka Streams.

Kafka Streams DSL — теория и практика Создание Kafka Streams приложения Изучим специализированный язык описания (DSL) потоков данных в Kafka и научимся его использовать. Напишем базовое Kafka Streams приложение.

Использование Processor API Научимся работать на “низком” уровне – создавать топологии и перенаправлять по ним сообщения, использовать расписание (punctuator). Напишем приложение с использованием Processor API.

Архитектура Kafka Connect Виды Kafka Connector-ов Готовые Connector и Confluent HUB Connect API Разберемся в том, какие готовые Connector-ы есть для Kafka, создадим собственные Source и Sink коннекторы.

Особенности хранения данных Сериализация и десериализация данных и Confluent Registry Компактируемые топики и retension Конфигурация и производительность процесса работы с данными в Kafka ksqlDB как способ создания не сложных потоковых приложений использование Producer и Consumer API с другими языками программирования Познакомимся с внутренним устройством топиков, партиций и сегментов. Поймем влияние параметров конфигурации на производительность процесса публикаци и потребления сообщений. Научимся сериализовать и десериализовать данные с использованием Avro, познакомимся с ksqlDB, его особенностями и применимостью. На примере python API познакомимся с тем, как можно использовать Kafka не из Java.