gram news
Аватар канала Инженерообязанный

Инженерообязанный

@shust_de

Привет! Я Шустиков Владимир, Data Engeneer | Data Analytic 👉 RoadMap: https://roadmappers.ru/ 👉 Общий чат: https://t.me/+p-0NiSWmQ5ZhZmEy 👉 Youtube канал: https://www.youtube.com/@shust_de По сотрудничеству и рекламе: @ShustDE

4,250подписчиков

Открыть канал

Последние посты

  • Инженерообязанный

    20 сент., 15:25

    переслано из @halltape_data

    Собес на Дата Инженера + Лайвкодинг! (Middle)▶️ https://youtu.be/fypWIMVBKxgНа самом деле большинство собесов на ДЕшника конечно похожи друг на друга за исключением тех, где собеседующие реально готовятся по резюме и спрашивают архитектурные моменты или кейсы. Можете послушать (лица там не показаны) собес и оценить насколько вы готовы выходить на рынок.На нашем BootCamp мы проводим такие мок собеседования каждый поток, поэтому каждый из вас может протестировать себя перед выходом на рынок. Это очень полезная вещь. Даже если ты не готов.. можно проверить свои навыки презентации, особенно в стрессовом режиме. Это сильно бустит вас. Потом реальные собесы будут казаться проще по прохождению!Это запись мок собеса с нашего BootCamp Кстати, мы уже набираем Ноябрьский поток! Не пропусти! @bootcampych_bot
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
    655643Открыть в Telegram
  • Инженерообязанный

    18 сент., 09:25

    переслано из @halltape_data

    300к в наносекунду от нашего ученика!Я хз как это работает, но это уже второй рекордсмен, который залетает в IT после нашего буткемпа так быстро. Дальше отзыв от него.Запись на ноябрьский BootCamp ➡️@bootcampych_botПрошёл буткэмп на Data Engineer у roadmappers и хочу поделиться своим опытом. Я пришёл в феврале с полного нуля. Начал учиться по Roadmap, сразу пошёл в SQL — около месяца занимался на курсе карпова, затем примерно три месяца учил Python на Stepik. К середине июня закончил с базой и связался с Женей, после чего с 1 июля попал на буткэмп.Сам буткэмп мне в целом зашел. Особенно крутая штука — инфраструктура, на которой можно самостоятельно всё потрогать и попробовать. При этом честно скажу: я использовал её далеко не на максимум. По сути, мой основной проект был достаточно простой — пайплайн, который забирал данные из API, складывал их в
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
    81914841Открыть в Telegram
  • Инженерообязанный

    16 сент., 07:47изменён

    Ищу себе короче стол и тут бах.... ИИ. Зачем в подстолье ИИ? 😂
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
  • Инженерообязанный

    31 авг., 07:02

    переслано из @data_penguin

    Обзор BootCamp для Data EngineerПодходит к завершению 7-ой поток Буткемпа от Жени и Вовы. К сожалению я не успел полностью пройти буткем, сделать все задания и пет проект. Я занимался переездом и были некоторые карьерные изменения (о них расскажу потом).Поэтому расскажу немного поверхностные впечатления.Что мне понравилось:Хорошая подача материала. Это у ребят не отнять - лекции максимально понятные. Рассказывают суть технологий, что и как устроено в реальности в компаниях, приводят примеры, на экране тоже постоянно что-то стримят показывают. Я думаю многие видели видосы Жени по Спарку и по DE. Разборы вопросов по гринпламу, клик, оптимизация от Вовы. Вот лекции в буткемпе в таком же стиле. Записи конечно сохраняются. Я смотрел в записи, на прямом эфире ни разу не был.Лекции Сам материал опять же понятно написан, не сгенерирован весь нейронкой (вроде бы). Упор сделан больше на
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
    2,4401454Открыть в Telegram
  • Инженерообязанный

    29 авг., 13:38

    Хочу написать отзыв про буткемп. Меня зовут Тимур, я проходил курс буткемпа и разделил бы свой отзыв о курсе на несколько направлений:1) ПреподавателиЖеня и Володя — классные ребята, которые очень хорошо подают материал, объясняют всё максимально понятно. Даже если возникают какие-то тупые вопросы, они подробно на них ответят и помогут донести информацию максимально понятно. Почти всегда находятся на связи вне уроков в чате в Telegram и всегда готовы помочь.2) Формат и структура курса Очень классная идея, что курс максимально похож на рабочий процесс: есть Jira, Wiki, общий репозиторий и т. д. Благодаря этому те, кто с нуля приходит в профессию, будут гораздо увереннее чувствовать себя при устройстве на работу и в целом на собеседованиях.Отдельно хочется отметить идею с крупным пет-проектом. Это очень классный опыт, который позволяет поработать со всеми возможными задачами,
    4,27014311Открыть в Telegram
  • Инженерообязанный

    22 авг., 11:19

    На 8-й поток Буткемпа осталось 10 мест.Уже через неделю — 1 сентября. И вместе с новым учебным годом стартует новый поток Буткемпа 🚀За время 7-го потока мы успели очень сильно докрутить программу.Доработали материал по Iceberg и Trino и выстроили полноценный рабочий пайплайн:API → Spark → Iceberg → Trino → ClickHouseПлюс мы подготовили систему для формирования легенды и описания опыта в резюме.Причём сделали её так, что она подойдёт даже охраннику, который вчера сидел на шлагбауме, а сегодня решил залететь в IT.💪Кому вообще нужен Буткемп?Если ты уже знаешь SQL и Python, но дальше смотришь на Spark, Airflow, ClickHouse, Trino, Iceberg и думаешь:«Так... а как всё это изучать и как вообще между собой связано?»
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
  • Инженерообязанный

    14 авг., 17:38

    переслано из @halltape_data

    Легенда для Дата Инженера за 1 промпт! Составляем РезюмеБуквально 1 промпт, который из любой твоей истории сделает готовую легенду для Дата Инженера. Это не кликбейт. Я реально на вайбкодил готовый сервис для сборки вашего рассказа на собесе и резюме. А также показал, как его составить, чтобы вас не скипали.Смотрите на Youtube ▶️ https://youtu.be/okvu18S7h2UКстати, мы уже набираем поток на BootCamp. Старт 1 сентбяря @bootcampych_bot
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
    2,31011108Открыть в Telegram
  • Инженерообязанный

    7 авг., 21:24

    😱Буткемпик – ВСЁ!😱Читейший Кликбейт, только без клика!😂У нас сейчас идёт Буткемпик, и там проводится просто огромная работа над ошибками, как в лекциях, так и в материалах. По факту продукт по обучению SQL и Python с нуля получается — супербомбический!Но, к сожалению, у меня сейчас физически не хватает времени на дополнительные созвоны и занятия с ребятами, которые не входят в рамки обязательной программы, но они нужны для дополнитеьльного объяснения и т.д. Для таких созвонов я реально ищу хотя бы час свободного времени и иногда предупреждаю ребят о них буквально за пару часов.Нехватка времени связана с рядом объективных причин.В первую очередь, у меня сейчас идёт ремонт в квартире, и я каждый день с утра до вечера езжу по магазинам, выбираю товары, ищу рабочих, что-то делаю
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
    3,31022872Открыть в Telegram
  • Инженерообязанный

    2 авг., 12:07

    переслано из @halltape_data

    Спасибо за стрим!Запись была, кто пропустил, всегда можете посмотреть в записи. Запись скоро будет на YouTube!если остались вопросы, то здесь можно задать - @bootcampych_bot
  • Инженерообязанный

    30 июл., 14:35

    Набор на BootCamp Сентябрь ОТКРЫТ!ВОСЬМОЙ ПОТОК стартует уже 1 сентября! Успей записаться через @bootcampych_bot и жми Хочу на BootCampДля тех, кто не знает, что такое BootCamp DE. Мы сделали супер интенсив за 2 месяца в DE. Это буквально копия вашей будущей работы.Представьте, что вы приходите на новое место работы, и увольняющийся коллега передаёт вам дела. У него есть две недели, чтобы показать, что и как делать. Вы буквально впитываете всё как губка, потому что потом спрашивать будет не у кого.Так вот именно эту идею мы и вложили в Bootcamp! За короткое время вы погружаетесь в работу инженера данных, осваиваете современный стек и получаете навыки прохождения собеседований и составления резюме.Мы реально вычеркнули большую часть бесполезной теории. Упор исключительно на практику. Чтобы вы пришли на работу и сказали: "Мы это уже делали"🔴 Уж
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
    3,2601266Открыть в Telegram
  • Инженерообязанный

    16 июл., 17:49

    Ребят у Жени вышел шикарный видос 2я часть вопросов собеседований на Инженера Данных.🙀https://youtu.be/BWSXh1UssmsБерём и залетаем👍Комментарии, лайки и подписка, репосты – приветствуется все, что продвигает канал!🫰
    YouTubeТипичные вопросы с собесов на Дата Инженера Часть 2 | Hadoop Spark DWHСобрал типичные вопросы с собесов на Дата Инженера (Инженера Данных). Тут взял вопросы из нашего roadmap для Дат Инженера по темам Hadoop, DWH, Spark. Старт нашего потока Boot Camp уже 1 сентября. Пиши в телеграм бота https://s.salebot.pro/07a7864a2e3fe…
  • Инженерообязанный

    16 июл., 08:47

    Самое сложное в получении премии – это не работаА написать самому про себя. 😂Сейчас у меня в компании проходит мероприятие, так называетмое "Оценка 360 – Review". И когда приходит время, начитается: А что ты делал? Чем занимался? Каких успехов достиг?Нууу... работу делал.Потом открываешь список своих задач за полгода:🤢Миграция 🤢Стриминг 🤢ClickHouse 🤢Flink 🤢IcebergИ вроде понимаешь, что работы было дохрена, но писать про себя всё равно максимально неловко и не знаешь от чего оттолкнуться.И в конце концов еще нужно описать коллег и коллеги пишут о тебе.
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
    3,7304265Открыть в Telegram
  • Инженерообязанный

    15 июл., 08:23

    Ну всё, ухожу из IT на стройку. 👷На самом деле просто давно не выходил на связь. Каюсь! Но, кажется, у меня есть уважительные причины. 😄1️⃣ РаботаВ последнее время на работе образовался настоящий завал. Новые задачи, новые направления, пришлось во всё это активно погружаться и разбираться.2️⃣ БуткемпикУ нас сейчас идёт первый поток, и оказалось, что создать программу — это только половина дела. После каждой лекции собираем обратную связь и спрашиваем: что улучшить, где-то перестроить объяснение, добавить реальные кейсы, но при этом сохранить формат обучения с полного нуля. Приходится находить время и повторно читать лекции.Короче говоря, курс для начинающий постоянно становится лучше!3️⃣ И самое приятное...🎉 Я ПОЛУЧИЛ КЛЮЧИ ОТ СВОЕЙ
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
  • Инженерообязанный

    29 июн., 12:52изменён

    #кейсыКак мы сократили время OPTIMIZE в ClickHouse почти в 2 разаЕсть таблица на ReplacingMergeTree, для которой регулярно выполнялся:OPTIMIZE TABLE schema.table FINAL SETTINGS optimize_throw_if_noop = 1;Поначалу всё работало отлично. Но со временем таблица выросла примерно до 200 ГБ (в сжатом виде).В какой-то момент начались инциденты.📌Что произошлоТаблица была непартиционированной, поэтому OPTIMIZE FINAL каждый раз фактически проходил по всей таблице. Когда объем данных вырос, оптимизация перестала укладываться в таймаут драйвера с ClickHouse. На графике это видно как серию падений DAG (оранжевая область).Чтобы восстановить работу, пришлось просто увеличить timeout драйвера. Выполнение стабилизировалось, но появилась другая проблема – каждая оптимизация стала занимать 3–4 часа. По итогу Time to Market у нас пошел по одному месту.📌Решение
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
    2,960181071Открыть в Telegram
  • Инженерообязанный

    28 июн., 12:10

    🎉 У меня сегодня день рождения — исполнилось 29 лет!Если бы можно было дать совет себе из прошлого, я бы сказал всего одну фразу:Красавчик. Ты и так всё делаешь правильно и добьёшься всего чего хочешь!За последние несколько лет произошло столько всего, что вернувшись назад я(из прошлого) бы в это просто не поверил.Так что погнали дальше. Инсульт в 40 сам себя не получит🤣P.S. Карта для ваших поздравлений: 2200 1545 😂
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
    2,520572010Открыть в Telegram
  • Инженерообязанный

    26 июн., 11:52

    переслано из @halltape_data

    BootCamp Июль НАБРАН!Друзья, мы набрали июльский поток полностью! Стартуем уже 1 июля.Продажи на июльский поток мы АСТАНАВЛИВАЕМ!Потому что BootCamp, как Москва, НЕРЕЗИНОВЫЙ. У нас с каждым новым потоком появляются все более свежие идеи. Теперь у нас есть ТРИ ПЕТ проекта, которые можно реализовать за время обучения. От простого к сложному. Т.е. буквально базовый делают все, а вот более сложные свзязки инструментов можно собрать добровольно.. но я рекомендую пробовать ВСЕ!По поводу следующего потока! Он БУДЕТ! По датам сообщим в районе 10-15 июля. У нас есть мысли добавить опцию "Собираем легенду индивидуально". Это про то, чтобы переупаковать ваш опыт в релевантный и подходящий рассказ. Возможно мы сделаем буткемп длиннее и добавим дополнительные варианты оплаты в плане рассрочек. Также будет больше времени на тестирование своих пет проектов и постройку бОльшего числа пайплайнов.
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
    1,86016541Открыть в Telegram
  • Инженерообязанный

    20 июн., 21:35

    переслано из @halltape_data

    ▶️ Пет Проект для Дата Инженераhttps://youtu.be/pC9AvMwv10Y https://youtu.be/pC9AvMwv10Y https://youtu.be/pC9AvMwv10YПрезентация + код проекта уже доступны в нашем ботеПиши боту /pet и он пришлет тебе материалы по пет проекту ➡️ @bootcampych_bot
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
  • Инженерообязанный

    18 июн., 08:39изменён

    🔥ЗАПУСКАЕМ НОВЫЙ ПРОЕКТ🔥Друзья, команда Roadmappers.ru официально запускает новый продукт "Буткемпик"!Мы запускаем первый поток, где за 18 занятий вы не просто изучите SQL и Python, а пройдёте путь от базовых запросов до решения настоящих рабочих кейсов Инженера Данных, Аналитика Данных и т.д.📅 Продолжительность программы — 2 месяца.Формат обучения:Формат обуения будет ОДИН в ОДИН, как на Буткемпе, а это значнит: 🔥Живые лекци. Не заканчиваем лекцию пока не закроем все вопросы! 🔥Чуть ли не круглосуточная поддержка с живым чатом 🔥Домашние задания и конечная проектная работа 🔥Доступная инфраструктура, нужен только браузер
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
    1,9601155Открыть в Telegram
  • Инженерообязанный

    15 июн., 12:26

    переслано из @halltape_data

    🔥 ПЕТ-ПРОЕКТ ДАТА ИНЖЕНЕРАВ эту СРЕДУ 17 ИЮНЯ в 20:00 МСК у нас будет довольно интересный стрим. Причём проводить его будет не только команда BootCamp, но и один из наших выпускников.К нам придёт Артем — участник 6-го потока BootCamp. За время обучения он собрал полноценный пет-проект и теперь покажет его нам от начала до конца.➡️ ссылка на стримЧто вообще будет в проекте? Берём данные из API New York Times, складываем их в S3, грузим через Spark в Greenplum, строим витрины через dbt и публикуем результат в ClickHouse. Плюс логирование Airflow-задач в Postgres.Ну т.е. это буквально пример рабочего пайплайна для Дата Инженера. Причем довольно внушительного по кол-ву используемых технологий.На стриме Артём покажет: — как устроен проект — как принимались архитектурные решения — почему были выбраны именно эти инструменты — какие сложности
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
    1,6802393Открыть в Telegram
  • Инженерообязанный

    10 июн., 14:51

    🟠ВОТ ЧТО БЫЛО И ВОТ ЧТО СТАЛО🟠На первом скрине — наш Буткемп год назад. На втором — то, во что он превратился сегодня.Если честно, когда мы с Женей только начинали, всё было намного проще. Тогда мы работали со Spark, ClickHouse и Airflow, показывали ребятам реальные процессы из своей работы и вели всех через один небольшой и простой пет-проект. Для этого двух месяцев было более чем достаточно.Мы сами ещё многого не знали. Учились, набивали шишки, меняли работу, попадали на новые проекты и каждый раз приносили этот опыт обратно в Буткемп.За этот год программа сильно изменилась.Появились: 🌟 GreenPlum 🌟 DBT 🌟 Trino 🌟 Iceberg + S3 🌟 дополнительные
    Иллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала ИнженерообязанныйИллюстрация к посту канала Инженерообязанный
    2,4602576Открыть в Telegram