Как обуздать потоки больших данных и лучшие MLOps практики

Формат: цифровые практические инженерные воркшопы
Слушатели: инженеры Совкомбанк
Длительность: 1 день
Домен: Финтех / Банковская сфера
Уровень: Middle+ (опыт работы с данными и ML алгоритмами обязателен)

Данные в современном банке текут непрерывно: транзакции, действия пользователей, события систем. Но большинство команд до сих пор обрабатывает их «пакетами» — раз в час, раз в день. А когда приходит запрос на аналитику в реальном времени — начинается хаос.

И вторая боль — машинное обучение. Модель обучена, но запуск в прод занимает недели, а каждая новая версия — это риск что-то сломать. Эксперименты не воспроизводимы, модели деградируют, а мониторинга качества нет.

Формат обучения

  • 80% времени за компьютером с инструментами из OSS
  • Сквозной кейс: от бизнес-проблемы → к потоку данных → к модели на конвейере → к мониторингу в проде
  • Примеры на данных банка: транзакции, события, кредитные решения
  • Нет риска для продакшена — экспериментируем в изолированной среде

Модули программы

  • Архитектура потоковых данных. Lambda-архитектура и Kappa-архитектура
  • Брокеры сообщений и процессинговый движок
  • Хранилища для потоковых данных
  • Оконные операции (Windowing)
  • Партиционирование / Шардирование / Backpressure
  • От бизнес-проблемы к работающему алгоритму. Проверка гипотез до разработки
  • Как поставить машинное обучение на конвейер
  • ML-пайплайн: от данных к модели
  • Воспроизводимость экспериментов
  • Тестирование ML
  • Версионирование: кода, данных и моделей
  • Версионирование данных (DVC)
  • Версионирование моделей (MLflow)
  • Связка: код + данные + модель. CI/CD для ML-моделей
  • Мониторинг качества моделей после запуска
  • Дрейф данных (data drift) / Дрейф концепции (concept drift)