data-engineer-handbook README

The project's README from github.com/DataExpert-io/data-engineer-handbook. As one markdown file: README.md.

The Data Engineering Handbook

DataExpert-io%2Fdata-engineer-handbook | Trendshift

This repo has all the resources you need to become an amazing data engineer!

Join the free Databricks AI boot camp on August 3rd here and signup for Databricks Free Edition here

Getting started

If you are new to data engineering, start by following this 2024 breaking into data engineering roadmap

If you are here for the 4-week free beginner boot camp you can check out:

If you are here for the 6-week free intermediate boot camp you can check out

For more applied learning:

Resources

Great list of over 25 books

Top 3 must read books are:

Great list of over 10 communities to join:

Top must-join communities for DE:

Top must-join communities for ML:

Companies:

Data Engineering blogs of companies:

Data Engineering Whitepapers:

Social Media Accounts

Here's the mostly comprehensive list of data engineering creators: (You have to have at least 5k followers somewhere to be added!)

YouTube

Name YouTube Channel Follower Count
ByteByteGo ByteByteGo 1,000,000+
Data with Baraa Data with Baraa 195,000+
Zach Wilson Data with Zach 150,000+
Shashank Mishra E-learning Bridge 100,000+
Seattle Data Guy Seattle Data Guy 100,000+
TrendyTech TrendyTech 100,000+
Darshil Parmar Darshil Parmar 100,000+
Andreas Kretz Andreas Kretz 100,000+
The Ravit Show The Ravit Show 100,000+
Guy in a Cube Guy in a Cube 100,000+
Adam Marczak Adam Marczak 100,000+
nullQueries nullQueries 100,000+
TECHTFQ by Thoufiq TECHTFQ by Thoufiq 100,000+
SQLBI SQLBI 100,000+
Alex Freberg Alex The Analyst 100,000+
Ankur Ranjan Big Data Show 100,000+
Prashanth Kumar Pandey ScholarNest 77,000+
ITVersity ITVersity 67,000+
Soumil Shah Soumil Shah 50,000
Ansh Lamba Ansh Lamba 18,000+
Azure Lib Azure Lib 10,000+
Advancing Analytics Advancing Analytics 10,000+
Kahan Data Solutions Kahan Data Solutions 10,000+
Ankit Bansal Ankit Bansal 10,000+
Mr. K Talks Tech Mr. K Talks Tech 10,000+
Samuel Focht Python Basics 10,000+
Mehdi Ouazza Mehdio DataTV 3,000+
Alex Merced Alex Merced Data N/A
John Kutay John Kutay N/A
Emil Kaminski Databricks For Professionals 5,000+

LinkedIn

Name LinkedIn Profile Follower Count
Zach Wilson Zach Wilson 400,000+
Chip Huyen Chip Huyen 250,000+
Shashank Mishra Shashank Mishra 100,000+
Seattle Data Guy Ben Rogojan 100,000+
TrendyTech Sumit Mittal 100,000+
Darshil Parmar Darshil Parmar 100,000+
Andreas Kretz Andreas Kretz 100,000+
ByteByteGo (Alex Xu) Alex Xu 100,000+
Azure Lib (Deepak Goyal) Deepak Goyal 100,000+
Alex Freberg Alex Freberg 100,000+
SQLBI (Marco Russo) Marco Russo 50,000+
Ankit Bansal Ankit Bansal 50,000+
Marc Lamberti Marc Lamberti 50,000+
Ankur Ranjan Ankur Ranjan 48,000+
ITVersity (Durga Gadiraju) Durga Gadiraju 48,000+
Prashanth Kumar Pandey Prashanth Kumar Pandey 37,000+
Alex Merced Alex Merced 30,000+
Ijaz Ali Ijaz Ali 24,000+
Mehdi Ouazza Mehdi Ouazza 20,000+
Ananth Packkildurai Ananth Packkildurai 18,000+
Ansh Lamba Ansh Lamba 13,000+
Manojkumar Vadivel Manojkumar Vadivel 12,000+
Advancing Analytics Simon Whiteley 10,000+
Li Yin Li Yin 10,000+
Jaco van Gelder Jaco van Gelder 10,000+
Joseph Machado Joseph Machado 10,000+
Eric Roby Eric Roby 10,000+
Simon Späti Simon Späti 10,000+
Constantin Lungu Constantin Lungu 10,000+
Lakshmi Sontenam Lakshmi Sontenam 9,500+
Dani Pálma Daniel Pálma 9,000+
Soumil Shah Soumil Shah 8,000+
Arnaud Milleker Arnaud Milleker 7,000+
Dimitri Visnadi Dimitri Visnadi 7,000+
Lenny Lenny A 6,000+
Dipankar Mazumdar Dipankar Mazumdar 5,000+
Daniel Ciocirlan Daniel Ciocirlan 5,000+
Hugo Lu Hugo Lu 5,000+
Tobias Macey Tobias Macey 5,000+
Marcos Ortiz Marcos Ortiz 5,000+
Julien Hurault Julien Hurault 5,000+
John Kutay John Kutay 5,000+
Hassaan Akbar Hassaan Akbar 5,000+
Subhankar Subhankar 5,000+
Nitin Nitin N/A
Hassaan Hassaan 5000+
Javier de la Torre [Ja

data-engineer-handbook (DataExpert-io/data-engineer-handbook)

Searching Database…

Что это такое?Подобранный вручную справочник ссылок и ресурсов для изучения инженерии данных: дорожные карты, материалы буткемпов, книги, сообщества, списки инструментов компаний, блоги, технические документы (whitepapers) и каталог авторов контента об инженерии данных.
Это курс, список для чтения или что-то другое?В основном это подобранный список для чтения и каталог других ресурсов (буткемпов, книг, блогов, whitepapers, инструментов), а не самостоятельный курс с собственными уроками.
С чего новичку стоит начать?Начните с дорожной карты 2024 года 'breaking into data engineering' или перейдите к вводным частям бесплатного 4-недельного буткемпа для начинающих либо 6-недельного буткемпа среднего уровня и гайдам по нужному ПО.
Нужны ли мне платные инструменты или аккаунты, чтобы следовать этому?Платные инструменты не нужны: здесь есть ссылки на бесплатные буткемпы (в том числе бесплатный Databricks AI boot camp) и бесплатные сообщества в Slack и Discord.
Этот список отбирается по критериям или туда добавляется всё подряд?Для раздела соцсетей есть определённый порог качества: чтобы попасть в список, автору нужно иметь хотя бы 5 000 подписчиков на какой-либо платформе. В остальном это широкая подборка многих инструментов и компаний, и строгие критерии отбора не описаны.
Для кого предназначен этот справочник?Для тех, кто хочет стать инженером данных, и для практикующих специалистов: от новичков, которые идут по дорожной карте или буткемпам, до тех, кто готовится к собеседованиям или хочет учиться по книгам, новостным рассылкам и сообществам.
Какие практические задания здесь есть?В репозитории есть отдельный раздел с проектами для практики, помимо теоретически насыщенных книг, whitepapers и ссылок на блоги.
Какие темы охватывают рекомендованные книги?В число лучших выборов входят 'Fundamentals of Data Engineering', 'Designing Data-Intensive Applications' и 'Designing Machine Learning Systems', которые охватывают как базовую инженерию данных, так и проектирование систем машинного обучения.
Какие инструменты собраны в справочнике?Здесь перечислены компании и инструменты в категориях: оркестрация (Airflow, Dagster, Mage), озёра и хранилища данных (Snowflake, Databricks, Iceberg), качество данных (dbt, Great Expectations), интеграция данных (Fivetran, Airbyte) и современные OLAP-движки (ClickHouse, DuckDB, StarRocks).
Size
60.9 MB
Stars
44.5K
Updated
CommitAug 03
Age
2y
Commits · 90 Days