data-engineer-handbook (DataExpert-io/data-engineer-handbook)
Searching Database…
44.5K ·GitHub
Что это такое?
Подобранный вручную справочник ссылок и ресурсов для изучения инженерии данных: дорожные карты, материалы буткемпов, книги, сообщества, списки инструментов компаний, блоги, технические документы (whitepapers) и каталог авторов контента об инженерии данных.
Это курс, список для чтения или что-то другое?
В основном это подобранный список для чтения и каталог других ресурсов (буткемпов, книг, блогов, whitepapers, инструментов), а не самостоятельный курс с собственными уроками.
С чего новичку стоит начать?
Начните с дорожной карты 2024 года 'breaking into data engineering' или перейдите к вводным частям бесплатного 4-недельного буткемпа для начинающих либо 6-недельного буткемпа среднего уровня и гайдам по нужному ПО.
Нужны ли мне платные инструменты или аккаунты, чтобы следовать этому?
Платные инструменты не нужны: здесь есть ссылки на бесплатные буткемпы (в том числе бесплатный Databricks AI boot camp) и бесплатные сообщества в Slack и Discord.
Этот список отбирается по критериям или туда добавляется всё подряд?
Для раздела соцсетей есть определённый порог качества: чтобы попасть в список, автору нужно иметь хотя бы 5 000 подписчиков на какой-либо платформе. В остальном это широкая подборка многих инструментов и компаний, и строгие критерии отбора не описаны.
Для кого предназначен этот справочник?
Для тех, кто хочет стать инженером данных, и для практикующих специалистов: от новичков, которые идут по дорожной карте или буткемпам, до тех, кто готовится к собеседованиям или хочет учиться по книгам, новостным рассылкам и сообществам.
Какие практические задания здесь есть?
В репозитории есть отдельный раздел с проектами для практики, помимо теоретически насыщенных книг, whitepapers и ссылок на блоги.
Какие темы охватывают рекомендованные книги?
В число лучших выборов входят 'Fundamentals of Data Engineering', 'Designing Data-Intensive Applications' и 'Designing Machine Learning Systems', которые охватывают как базовую инженерию данных, так и проектирование систем машинного обучения.
Какие инструменты собраны в справочнике?
Здесь перечислены компании и инструменты в категориях: оркестрация (Airflow, Dagster, Mage), озёра и хранилища данных (Snowflake, Databricks, Iceberg), качество данных (dbt, Great Expectations), интеграция данных (Fivetran, Airbyte) и современные OLAP-движки (ClickHouse, DuckDB, StarRocks).
What are similar projects?
awesome-bigdata, data-engineer-roadmap, SDE-Interview-and-Prep-Roadmap, Best-websites-a-programmer-should-visit, Awsome-Front-End-learning-resource, awesome-design-patterns, full-stack-data-engineering, awesome-system-design-resources
Which topics is it in?
bigdata, data-warehouse, data-quality, databases, roadmap, data, data-engineering, big-data, interview-questions, interview, career, jupyter notebook