NOdata Миша

🌐 Открыт демо-доступ к курсу Data Warehouse на базе dbt для инженеров и аналитиков данных Этот курс - не просто обучение, а полноценный тренажер, где вы освоите один из самых востребованных инструментов аналитики, решая сложные практические задачи. Изучите DataOps практики, постройте хранилище данных на базе dbt, подготовьте и проанализируйте данные. В тренажере вы освоите: 1. Типы хранилищ данных DWH и их построение 2. Подготовку и тестирование данных, Data Quality 3. Построение ELT-pipelines 4. Моделирование данных на базе dbt и PostgreSQL 5. Принципы работы с СУБД на базе Postgres 6. Продвинутую аналитику и визуализацию данных 7. Современные DataOps-практики, оптимизацию производительности и многое другое Разработаете свои pet-проекты: 🔥 Статистика поездок на самокатах: Построите аналитический пайплайн для общей и дневной статистики поездок, включая тесты качества данных и документацию. 🔥 Аналитика ивентов приложения: Создадите SQL-пайплайн для обработки событий мобильного приложения, обогащённый данными поездок и пользователей, с внедрением контрактов данных и продуктовыми метриками. 🔥 Создание аналитической платформы: Развернете dbt-пайплайны с планировщиком, мониторингом и централизованным git-репозиторием, внедрить проверку качества данных и веб-портал с каталогом данных и документацией. Сейчас открыт демо-доступ к первым четырем практическим урокам для всех желающих. 🔵 Регистрация на демо-доступ Реклама. ООО "Инженеркатех" ИНН 9715483673 erid 2Vtzqwp5u5n

Больше не нужно искать тематические каналы и по отдельности на них подписываться — мы сделали это за вас 👍 Вам остается только перейти по ссылке, сохранить папку себе и регулярно получать полезные ресурсы и знания из сферы «IT, ИИ» https://t.me/addlist/Pc2ENzURPU03ZDE6 Хочешь в подборку?

Уже много уроков 7 дней бесплатного доступа к урокам, которые я выпускаю по data. Сейчас пока там по Airflow и не много clickhouse, но уроки постоянно пополняются Вот список уроков которые там есть Вот бесплатный доступ на 7 дней, чтобы вы посмотрели, поняли, что я ваще не шарю и отписались от канала

Беги, Миша, беги Тут рассказал о том как круто бегать, а сейчас хочу рассказать о том как у меня получается делать это регулярно: - Я почти всю жизнь не любил бегать. Это ведь сложно. Капец как устаешь. Я лучше пройду 20 километром, чем пробегу 2. И это правда так. Для организма, который более 2 лет вообще не чувствовал, что такое бег, пробежать хотя бы пару км. является больший стрессом, а если делать это регулярно, то ваще капец не круто. Зачем так сильно напрягаться? И первый совет в том, что напрягаться сильно не стоит. Оказывается совсем не обязательно (и даже вредно) быстро бежать и становиться капец каким устаревшим. Можно просто совершать легкую пробежку, бежать медленно. Что значит медленно? С той скоростью при которой ты можешь без особых трудностей разговорить во время бега. Когда только начинаешь бегать, то ты бежишь не сильно быстрее чем люди просто идут. Тебя будут обгонять 60-летние дедушки (потом убегут вперед, там где-то развернуться, побегут тебе навстречу и помашут рукой, но рано или поздно я его сделаю) - Второй пункт вытекает из первого. Тут тоже про то, что это не тренировочные забеги ради результатов, а вечерняя пробежка, которая преследует совершенно другие вещи. А значит если например на улице сегодня идет дождь, то вообще ничего страшного нет, если пробежки сегодня не будет. Также и регулярность пробежек, я для себя понял, что мне норм бегать 3 раза в неделю, но ничего страшного нет, если получится побегать всего 2 раза, а если захочу пробежать 4 раз, то скорее всего откажусь от этой идеи, так во время этой 4 пробежки устану и не получу удовольствие - А что делать если не хочется? В первую очередь ответить на вопрос «Почему тебе не хочется?», и если ответ будет «Бегаю уже 2 месяца и мне это вообще не нравится», то бросать. Бег это не что-то идеальное, что подойдет абсолютна всем, и возможно вам следует поискать другие занятия. Но когда я не хотел делать вечернюю пробежку и задавал вопрос «Почему?», то ответом было «Я сегодня как-то устал во время рабочего дня, а тут еще и бежать куда-то», то есть главная причина из-за которой я бегаю в некоторых случаях пытается работать в другую сторону, но меня так просто не проведешь, я все равно бегу Это были 3 главне вещи, которые лично мне помогают бегать. Для кого-то скорее всего поможет что-то другое, например записаться на марафон через несколько месяцев и тогда просто становится необходимо бегать постоянно. Но лично для меня вещи, которые про делать что-то (бежать) ради чего-то (условного марафона) не работают, поэтому я стараюсь концентрироваться на процессе) Ютуб | Дата уроки

Всем привет! Меня зовут Данила Петров, я работаю в BIG4 и пишу про аналитику бизнес данных и всё, что с ней связано — https://t.me/dataversepetrov Буду рад увидеть вас в моём канале! #реклама

Выложил на ютуб (пока он еще есть в России ) новое видео о минусах работы дата инженером 🎉🎉🎉 https://youtu.be/A3LDv8uFWiM

Для чего вообще DWH? Понятно, что ДВХ это про данные, но для чего эти данные, где они используются? Самое частое это, конечно, различные отчеты, чаще всего в виде дашбордов в какой-нибудь Bi штуке (например в superset). Информация на этих дашбордах может быть различной, для разных потребителей: - Маркетинговые команды могут смотреть на отчеты для анализа эффективности рекламных кампаний и повышения ROI - Отелы продаж для оценки динамики продаж, анализа поведения клиентов и прогнозирования спроса - Руководители для принятия каких-то важных стратегических решений Помимо отчетов на самих дашбордах, часто кому-то необходимо просто получить какую-то небольшую инфу по нашим данным, хватает небольшого sql кода Также данные из ДВХ нужны и дата сайентистам, которые с их помощью строят всякие модельки и ИИ, который всех нас убьет= сделает мир лучше Ютуб | Дата уроки

Бег лучшая вещь для айтишника на удаленке Я не так давно начал бегать. И это оказалось прям круто. Не буду тут говорить о пользе для здоровья и о том, что стал лучше себя чувствовать, а хотел бы сказать о чуть менее очевидной, но весьма важной штуке - отвлечение от работы Многим знакома ситуация, когда заканчиваешь рабочий день, но продолжаешь думать о задаче, а если работаешь на удаленке, то рабочий день в какой-то степени, вообще может не заканчиваться, ведь ты в любой момент можешь открыть ноутбук, чтобы еще что-нибудь поделать. В итоге вечерний отдых от работы, не совсем является отдыхам. (Да иногда есть супер срочные или интересные задачи на которые готовы потратить силы, но, наверное, это должна быть редкая история) Вечерняя пробежка стала отличным решением этой проблемы. 18:00 я закрываю ноутбук и бегу. Телефон при этом остается дома, и я смогу увидеть написали ли там что-то важное в рабочем чатике только через час. Мне это очень сильно помогает отвлечься от работы, и даже если во время рабочего дня было слишком много мыслей которые грузили меня о том, что работы много, не получается или другие подобные, то вечером их совсем нет Если тема интересна и хотите узнать как я продолжаю бегать регулярно, то поставьте 🔥 Ютуб | OnlyFans

Новый ролик на канале 🎉 Это сэкономит 90% времени программиста! https://youtu.be/I-Rw9EO21uA

Мониторинг DWH Мониторинг в DWH - это большая тема, но я расскажу с чем сталкиваюсь конкретно я: - Алертинг в ДАГах Airflow. В наших ДАГах используется функция, которая, в случаи падения ДАГа, посылает сообщения в корпоративный мессенджер и тэгает владельца ДАГа. Это достаточно удобно, ведь нет необходимости самостоятельно проверять отработку ДАГов - Мониторнг в Grafana. Grafana — система визуализации данных, ориентированная на данные систем ИТ-мониторинга. Тут можно мониторить все, а не только ДАГи, ведь часто поступление данных в DWH может быть происходить без участия airflow (например из kafka сразу в clickhouse) Ютуб | OnlyFans

Открыт демо-доступ к курсу Data Warehouse на базе dbt для инженеров и аналитиков данных Этот курс - не просто обучение, а полноценный тренажер, где вы освоите один из самых востребованных инструментов аналитики, решая сложные практические задачи. Изучите DataOps практики, постройте хранилище данных на базе dbt, подготовьте и проанализируйте данные. В тренажере вы освоите: 1. Типы хранилищ данных DWH и их построение 2. Подготовку и тестирование данных, Data Quality 3. Построение ELT-pipelines 4. Моделирование данных на базе dbt и PostgreSQL 5. Принципы работы с СУБД на базе Postgres 6. Продвинутую аналитику и визуализацию данных 7. Современные DataOps-практики, оптимизацию производительности 8. Оркестрация dbt с Airflow и Dagstar и многое другое Сейчас открыт демо-доступ к первым четырем практическим урокам для всех желающих. [ Регистрация на демо-доступ ] Реклама. ООО «ИНЖЕНЕРКАТЕХ» ИНН 9715483673 erid 2Vtzqw5aiSV

Начали

Опять знаменит Завтра в 21:00 буду в гостях у DigitalBerd Будем обсуждать: 1. Как выучиться на инженера данных 2. Сложно ли сейчас устроиться инженером данных 3. Какая в принципе сейчас ситуация на рынке РФ 4. Поговорим по поводу деятельности на ютубе. Все приходите на стрим! https://www.youtube.com/live/WuQO42JjNuM

ETL для DWH Недавно мы говорили про источники данных для нашего DWH ETL это вещь благодаря которой те данные попадают в наше хранилище Делать это можно, например с помощью Airflow Airflow — это платформа для создания, планирования и мониторинга рабочих процессов. Она широко используется для автоматизации ETL-процессов, обработки данных и управления задачами Т.е. пишется python скрипт, где мы пишем запрос данных, их обработку и сохранение в БД. И все это ставим на расписание, чтобы данные заливались к нам в базу в автоматическом режими Одним из главных преимуществ Airflow является уже множество уже готовых операторов для выполнения необходимых действий. Это можно сравнить с использованием библиотек в python Например есть оператор PostgreSql. Он предназначен для работы с постгрессом. Мы, конечно, сами можем написать необходимый код на python, где конектимся с базе, создаем курсор, выполняем нужный SQL, но намного проще будет использовать уже готовый оператор, в который лишь необходимо передать конекшен к базе и необходимый sql, все остальное он выполнит сам Ютуб | OnlyFans

Откройте для себя все преимущества удалённой работы — начните изучать мир Data Science. Специалисты этой сферы нужны и в небольших стартапах, и в крупных корпорациях любых индустрий. На практике вы сможете поближе познакомиться с языками Python и SQL, нейросетями и визуализацией данных. 👉 Зарегистрируйтесь прямо сейчас и получите полезный материал «Как пользоваться ChatGPT и Midjourney»: https://epic.st/oDy5p?erid=2VtzqvTgY7a В программе: 📌 Профессии в Data Science и язык Python 📌 ML Engineer — пишем нейросеть для подбора новостных статей 📌 Data Engineer — знакомимся с языком запросов SQL 📌 Data Analyst — учимся визуализировать данные Кому полезен мини-курс: — Тем, кто хочет влиться в IT. — Тем, кто интересуется Data Science. Записывайтесь и получите доступ к знаниям в пару кликов! Реклама. ЧОУ ДПО «Образовательные технологии «Скилбокс (Коробка навыков)», ИНН: 9704088880

Новое видео на канале 🎉 https://youtu.be/c8ZCkZN9wuY

БД для DWH База данных для DWH обычно отличается от традиционных операционных баз данных (OLTP) Объем данных в DWH обычно большой и вряд ли условный PostgresSQL сможет справиться со всей нагрузкой, он для этого не предназначен А вот несколько БД которые были созданы как раз для этого: ClickHouse – это колонно-ориентированная система управления базами данных, разработанная для аналитических запросов в режиме реального времени. Она поддерживает распределенную архитектуру, позволяя эффективно обрабатывать большие объемы данных. Основные преимущества ClickHouse включают высокую скорость выполнения запросов, сжатие данных и возможность масштабирования. Greenplum – это распределенная аналитическая база данных, основанная на PostgreSQL. Она предназначена для обработки больших данных и использует параллельную обработку для ускорения выполнения запросов. Greenplum поддерживает масштабирование за счет добавления новых узлов и предлагает инструменты для интеграции с другими системами данных, что делает ее подходящей для крупных аналитических задач. Hadoop – это платформа с открытым исходным кодом для распределенного хранения и обработки больших данных. В основе Hadoop лежит распределенная файловая система HDFS и фреймворк MapReduce для обработки данных. Hadoop обеспечивает надежное хранение и обработку больших объемов данных, поддерживает масштабирование и интеграцию с различными инструментами и экосистемами данных. Ютуб | OnlyFans

Я у мамы инфоцыган Я завел машину onlyfanc животное девушку собаку boosty Планирую туда выпускать много полезного обучающего материала, а еще будет чат в телеге Там уже есть ролики по airflow и clickhouse и будет еще много Стоимость подписки 298 ₽ или 398 ₽ смотря какая вам больше подходит (возможно за 2 811 ₽) https://boosty.to/nodata_misha

IT это золотая клетка Многие считают, что работа в it - это профессия мечты: хорошая зп, возможность удаленной работы, не особо сложная в изучении. Все так, это очень крутая область. Все те плюсы о которых говорят тут действительно есть (в той или иной степени) И часто при выборе работы мы обращаем внимания именно на эти вещи. Ведь гораздо проще сказать, что хочешь хорошую зарплату, чем ответить на вопрос чему конкретно хочешь посвятить свою жизнь Спустя время начинаешь задумываться, анализировать свой путь - почему сделал тот или иной выбор, выбрал ту или иную профессию. Но эти вопросы остаются лишь вопросами - клетка комфорта уже захлопнулась

Откуда в DWH данные Источники данных для DWH могут быть следующие: - Базы данных - в компании могут быть множество разных баз данных и все данных из них мы можем забирать к себе хранилище - Веб-сервисы и API - данные например из рекламных кабинетов и других подобных мест - Файловые источники - не всегда приходится работать с какими-то «крутыми» данными, иногда необходимо просто иксельку загрузить - CRM и подобные маркетинговые, бухгалтерские штуки Конечно, у DWH может быть еще куча других источник, тут я привел только самые основные