Администрирование кластера Kafka

Ближайшая дата курса | 14 июня 2023 13 сентября 2023 01 ноября 2023 |
|
Стоимость обучения | 66 000 руб. | Регистрация |
Длительность обучения | 24 ак.часов | |
Код курса | KAFKA |
Что такое Apache Kafka и где это используется
Apache Kafka — это брокер сообщений (Enterprise bus) в виде распределённой, горизонтально масштабируемой системы обработки сообщений. Kafka используется для централизованного сбора, передачи и непрерывной потоковой обработки большого количества сообщений из различных источников: микросервисы, распределенные приложения, устройства интернета вещей, веб-сайты, соцсети, корпоративные информационные системы и т.д. Основными достоинствами Кафка считаются следующие:- горизонтальная масштабируемость,
- распределенность,
- долговечность,
- надежность,
- интегрируемость с другими Big Data технологиями (NiFi, Spark, Flume, Hadoop),
- высокая производительность (чтение и запись более 1 миллиона событий в секунду),
- отказоустойчивость;
- безопасность.
Как устроена Apache Kafka
Сообщения записываются в разделы топика Кафка и хранятся в течении заданного периода. Приложения-подписчики сами опрашивают Kafka на предмет наличия новых сообщений, и указывают, какие записи им нужно прочесть, увеличивая или уменьшая смещение к нужной записи. Записанные события могут переигрываться или обрабатываться повторно. Кафка обеспечивает различные стратегии доставки сообщений: строго однократная, как максимум однократная, периодическая, поочередная. Сохранность сообщений обеспечивается архитектурой master-slave (ведущий-ведомый), механизмом реплицирования и синхронизацией реплик. Потеря сообщений возможна только в случае сбоя ведущего узла и отсутствия участвующих в синхронизации реплик. Но даже в этом случае есть возможность восстановить смещение необработанного сообщения. Kafka использует ZooKeeper для хранения метаданных о разделах своих топиков и брокерах, а также для выбора брокера в качестве контроллера Кафка. Так обеспечивается надежная согласованность состояния кластера, его конфигурации и обнаружения одноранговых узлов.Где используется Apache Kafka
На практике Apache Кафка широко применяется в следующих задачах:- интерактивный обмен данными между распределенными приложениями и микросервисами;
- считывание информации из распределенных файловых систем (HDFS, Amazon S3);
- организация конвейеров обработки данных (data pipeline);
- прием технологической информации из интеллектуальных устройств Internet of Things (IoT), в т.ч. промышленного интернета вещей (Industrial IoT, IIoT);
- обработка событий из журналов корпоративных информационных систем;
- анализ логов пользовательского поведения на сайтах и в соцсетях.
Для кого предназначены курсы администрирования кластера Кафка
Наши курсы обучения по Kafka ориентированы на системных администраторов, разработчиков Big Data систем и DevOps-инженеров, которые хотят получить следующие знания и навыки:- понять, что такое Apache Kafka;
- научиться устанавливать, настраивать и поддерживать кластера Кафка и Zookeeper;
- освоить методы администрирования кластера Kafka (Confluent);
- изучить настройки безопасности для Apache Kafka с использованием SSL, SASL, Kerberos;
- настраивать мониторинг и оптимизацию очереди сообщений Kafka с использованием практических примеров реализации;
- интегрировать Apache Кафка с другими Big Data фреймворками (Hadoop, Spark, NiFi, Flume) и внешними системами.
Как устроены практические курсы по Kafka: структура и содержание
Продолжительность: 3 дня, 24 академических часа.
О курсе: 3-хдневный практический курс по установке и настройке кластера Apache Kafka, распределенной потоковой обработке событий (Event Stream Processing), конфигурации безопасности Kerberos, интеграции с Apache NiFi, Spark, Flume, Zookeeper.
Аудитория: Специалисты желающие изучить методы администрирования и настройки кластера Apache Kafka; настройку безопасности Kafka с SSL и Kerberos; примеры интеграции; мониторинг и оптимизацию кластера Apache Kafka с использованием практических примеров.
Соотношение теории к практике: 40/60
Предварительная подготовка: Знание базовых команд Linux (опыт работы с командной строкой, файловой системой , POSIX, текстовыми редакторами vi, nano)
Программа курса Администрирование кластера Kafka
- Введение в Kafka 2
- Что такое Apache Kafka?
- Сценарии использования Kafka
- Компоненты Kafka и Kafka экосистемы
- Архитектура Kafka
- Кластер Zookeeper
- Основные концепции Kafka 2
- Как работает Kafka: Топики (Topics) и партиций (Partitions). Репликация данных.
- Брокеры (Brokers): Развертывание. Конфигурация Multibroker
- Поставщики данных (Producers): Типы партиций. Синхронные и асинхронные Producers.
- Потребители данных (Consumers): Очереди Consumers.
- Установка кластера Apache Kafka 4
- Требования по установке кластера Kafka
- Установка и настройка кластера Zookeeper: Настройка кворума. Конфигурация сервисов и файловой системы. Оптимизация и отказоустойчивость Zookeeper.
- Установка и настройка кластера Kafka: Планирование установки и sizing кластера Kafka.
- Типовые проблемы при установке. Запуск и первоначальное конфигурирование Kafka.
- Конфигурация Listeners. Отказоустойчивость кластера Kafka. Kafka менеджер.
- Установка кластера Kafka на AWS
- Базовые операции в Apache Kafka 2
- Операции с Топиками (Topic)
- Публикация данных с консольного Producer
- Получение данных с консольного Consumer
- Пользовательские интерфейсы для работы с Kafka
- Оптимизация кластера Apache Kafka
- Оптимизация производительности компонент кластера
- Масштабирование кластера
- Балансировка разделов(partition) и использование Partition Reassignment Tools
- Best Practices Kafka/Confluent
- Мониторинг кластера Kafka
- Настройка мониторинга кластера Kafka с использованием Prometheus + Grafana
- Интеграция с Apache Kafka 2
- Использование Apache NiFi
- Интеграция Apache Flume с Kafka
- Сценарии интеграции с Apache Kafka
- Расширенная конфигурация кластера Kafka 3
- Расширенная конфигурация топиков (Topic): Изменение конфигурации топиков.
- Sizing (количество партиций и фактор репликации). Сегменты и индексы. Политика очистки логов (Log Cleanup Policy). Сжатие и консолидация данных в логах.
- Confluent REST Proxy. Confluent Schema Registry
- Репликация кластера с использованием Mirror Maker
- Безопасность в Kafka 5
- Шифрование SSL: Установка центра сертификатов (CA), настройка SSL для Kafka кластера и клиентов
- Аутентификация SSL/SASL
- Аутентификация Kerberos: Настройка Kerberos. Keytabs и principals. Настройка кластера Kafka и клиентов для поддержки Kerberos
- Авторизация в Kafka
- Управление списками управления доступом (ACL)