RoadMap Дата-Инженера

RoadMap Дата-Инженера

Kirill Meshechkov



Как я всегда и всем говорю: ВСЯ информация есть в интернете - тут лишь вопрос, то как эта информация структурирована и доступна для понимания.
Я собрал выборку из курсов, большинство из которых либо бесплатные, либо стоят много меньше известных вам платформ.

Шаги для получения твоего 1-0го оффера:

1) Проходишь основную часть курсов ниже
2) Все, что ты можешь оформить в проект - постишь в свой GitHub
3) Составляешь резюме (по нему будет отдельный гайд)
4) Отправляешь всем и везде свое резюме и ждешь собеса

Дальше уже зависит от твоей подготовки к собесу + его адекватность.
Потому что иногда реально бывает фак-ап со стороны собеседующего ну или вы просто не стыкуюетесь с ним как люди.


  1. SQL
  2. Python
  3. Airflow, hadoop, spark, etc.
  4. Курсы списком

Основное - это SQL.


Есть два приоритетных на мой взгляд
Первый, содержит всю информацию и бесплатный:
SQL (Пройти полностью)

И второй, уже платный, но по нему учился я - ранее была возможность взять на неделю за ~900 руб.
Но также есть бесплатные задания, которые содержат всю базу
Пройти бесплатный набор заданий

Для закрепления - пройти курс по оконным функциям - самый частая тема для собеседований на SQL-код.
Очень доступно и понятно, но платно - сейчас 1.500р
Курс по оконным функциям


Вторая обязательная часть - Python.

Тут много говорить не надо, основной язык для написания ETL-пайплайнов в большинстве компаний.
Python 1 (Пройти полностью)
- бесплатный
Python 2 (Пройти 30-50%)
- платный
В дополнение к питону нужно хорошо знать pandas, хотя часть информации есть в курсах выше - лишним не будет, много тех. задач и реальных кейсов, т.к. pandas - один из основных библиотек дата-инженера.
Оба платные.
Pandas (Пройти полностью)

Pandas (Пройти 30-50%)


[вернуться в начало статьи]



Знания технологий:

Linux команды [Hexlet] 
Много где полезно. Часть вопросов на собесе всегда есть.

Docker [40 минут Youtube] 
на новых проектах и для понимания как все устроено - очень полезно.

Airflow - самый популярный и основной инструмент для выстраивания своих ETL-процессов в данных
Airflow [Youtube канал English] 
Airflow курс на степике - дороговат, в дополнение можно взять, но необязательно


Hadoop и Spark - две основные технологии в Биг Дате, must have для современного стека и бигтеха

HDFS [Hadoop 1 час Youtube] - посмотри, как хранятся большие данные
Hadoop - старенький курс, много что сейчас поменялось, но основа Hadoop и HDFS тут есть для понимая и старта - отлично

SPARK [Хабр] - научись переписывать запросы с SQL, pandas на spark

В дополнение:
Регулярки [Хабр] - протестируй на реальных данных


[вернуться в начало статьи]


Для удобства, все курсы одним списком:


SQL:
SQL (Пройти полностью)

Пройти бесплатный набор заданий

Курс по оконным функциям


Python - pandas:
Python 1 (Пройти полностью)
Python 2 (Пройти 30-50%)
Pandas (Пройти полностью)
Pandas (Пройти 30-50%)

Airflow:
Airflow [Youtube канал English]
Airflow курс на степике


Hadoop/Spark:
HDFS [Hadoop 1 час Youtube]
Hadoop
SPARK [Хабр]


[вернуться в начало статьи]



Report Page