ar
Feedback
DataEng

DataEng

الذهاب إلى القناة على Telegram

Data Engineering & Distributed Systems Contact @adilkhash

إظهار المزيد
4 402
المشتركون
-724 ساعات
-87 أيام
+630 أيام
أرشيف المشاركات
DataEng
4 402
Аналитик-разработчик Монорепозиторий Аркадии хранит исходный код большинства сервисов Яндекса. Каждый день разработчики Яндекса создают в нём тысячи пул-реквестов. Для репозиториев такого масштаба не существует готовых решений, и мы развиваем свои: систему контроля версий, веб-портал разработчика, плагины для среды разработки, сервис для разработки в облачном окружении. Наша служба постоянно работает над тем, чтобы делать наши системы удобнее, надёжнее, быстрее и понятнее. Мы ищем опытного аналитика, который поможет разработать систему метрик для наших внутренних продуктов и внедрить A/B-эксперименты, найдёт пути улучшения наших систем. Что нужно делать: -разрабатывать систему метрик качества для инструментов репозитория; -анализировать и улучшать продуктовые метрики наших систем; -внедрять метрики качества и A/B-эксперименты в наши продукты; -помогать строить хранилища данных репозитория и смежных систем для разработки метрик личной и командной активности и производительности. Мы ждем, что вы: -работали продуктовым аналитиком не менее трёх лет; -хорошо знаете Python и SQL; -знаете математическую статистику и теорию вероятностей; -проводили A/B-эксперименты и анализировали их результаты; -самостоятельны и не боитесь нестандартных задач; -готовы быстро усваивать много новой информации. Условия: -команда экспертов, которые любят своё дело; -выстроенные процессы взаимодействия и планирования; -работа над проектами, которые отражены в общих целях бизнеса; -прозрачная коммуникация, возможность влиять на процесс и результат; -расширенная программа ДМС: оплата 80% стоимости ДМС для супругов и детей; -гибкий график; -работа из офисов в Москве, Санкт-Петербурге, Сербии, Армении. Откликнуться: @Oksidgi

DataEng
4 402
Прием заявок на выступление на SmartData 2023 открыт до 1 июня. Конференция будет идти четыре дня: 6–7 сентября в онлайне и 1
Прием заявок на выступление на SmartData 2023 открыт до 1 июня. Конференция будет идти четыре дня: 6–7 сентября в онлайне и 13–14 сентября в Москве с возможностью подключиться онлайн. Если хотите поделиться опытом в инженерии данных — подавайте заявку на выступление. С вас только материал и желание выступить, а организаторы помогут на всех этапах — от идеи до выступления: доработают с вами материал, проведут репетиции и дадут рекомендации по выступлению. Можно выбрать любой формат выступления — доклад, воркшоп, интервью, обсуждение, BoF-сессию или придумать что-то свое. Тему для выступления можно выбрать из списка, а можно предложить свою. Подать заявку можно на сайте SmartData.

DataEng
4 402
Внимание, внимание! Все, кто пишет код на Python — важное сообщение от организатора IT онлайн-конференций Podlodka Crew: перв
Внимание, внимание! Все, кто пишет код на Python — важное сообщение от организатора IT онлайн-конференций Podlodka Crew: первая конференция Podlodka Python Crew стартует уже 22 мая! Тема сезона: «Асинхронность». Участники получат возможность рассмотреть эту непростую и многослойную тему с разных сторон вместе с экспертами из Точка, ЛитРес, Novakid, winePad GmbH и других компаний: 🟡 Узнают основные принципы asyncio, способы не выстрелить себе в колено, используя асинхронщину в продакшене; 🟡 Разберут реальные кейсы использования asyncio в проекте с CPU-bound операциями и работе с легаси; 🟡 Обсудят с другими участниками альтернативы asyncio и их преимущества, организацию конкурентности в других серверных языках; 🟡 Разберут проблемы написания асинхронного приложения и научатся их решать.   🤓 В первом сезоне мы сконцентрировали рекордное количество пользы. Держи промокод на 500 руб: python_crew_1_j2HW6y и успей забрать свой билет на сайте 👉 https://podlodka.io/pythoncrew

DataEng
4 402
Аналитик - разработчик #вакансия #Москва #гибрид #middle #senior Yandex Cloud — это облачная платформа, которую используют тысячи компаний и предпринимателей, от технических специалистов до международных корпораций. Наши сервисы позволяют быстро и просто получить доступ к современным технологиям обработки и хранения данных – виртуальным машинам, управляемым базам данных, распознаванию и синтезу речи. Мы ищем аналитика-разработчика. Ждём вдумчивых кандидатов с глубокими знаниями Python и желанием развиваться в сфере аналитики. Что нужно делать: — собрать юнит-экономику бизнеса; — заниматься построением прогнозной модели бизнеса (бизнес-моделирование процессов, форкастинг временных рядов); — работать над воронкой (гипотезы, эксперименты, оценка непрямых эффектов). Мы ждем, что вы: — получили техническое или математическое образование; — уверенно владеете Python (можете провести EDA, построить несколько моделей), -можете на SQL написать сложную бизнес-логику в удобном для чтения виде; — умеете перевести в ТЗ нечетко сформулированные задачи; — аккуратны и внимательны к деталям; — самостоятельны и инициативны. — понимаете реальные потребности бизнеса, ставите себя на место заказчика; — знаете английский язык; — умеете понятно объяснять результаты исследований. Будет плюсом, если вы: — работали в сфере облачных технологий. Условия: — сильная команда, с которой можно расти; — возможность влиять на процесс и результат; — помощь с переездом иногородним сотрудникам; — высокий совокупный доход и премии каждые полгода для всех, кто успешно прошел ревью; — расширенная программа ДМС: стоматология, обследования, вызов врача на дом и многое другое; — оплата 80% стоимости ДМС для супругов и детей; — компенсация оплаты питания на территории офиса; — скидки в бассейнах, фитнес-центрах и магазинах; — курсы, тренинги, участие в конференциях; — гибкий график работы; — парковка для сотрудников. Подробнее о вакансии и отклики: https://goo.su/nLJTvFn

DataEng
4 402
Аналитик в 360 #вакансия #Москва #Армения #Казахстан #Сербия #гибрид #middle #senior Яндекс 360 — это набор сервисов для решения повседневных задач: от хранения личных воспоминаний до деловой переписки в любое время и на любом устройстве. Команда аналитики Яндекс 360 ищет сильного и инициативного аналитика, который взял бы на себя роль эксперта по экспериментам. Вы будете вместе с нами развивать функциональность наших сервисов и улучшать их, основываясь на анализе данных, помогать команде внедрять только те изменения, которые несут понятную и доказанную пользу для продукта и бизнеса. Что нужно делать: — формировать приёмочные метрики для A/B-тестов, выбирать необходимый размер выборки, ограничения и срок проведения эксперимента; — управлять всем потоком наших экспериментов: включать и выключать, доводить каждый A/B-тест от этапа идеи до принятия решения; — анализировать результаты экспериментов, давать рекомендации по внедрению или отключению, расследовать аномалии; — вырабатывать единые гайды для проведения экспериментов, помогать продуктовой команде. Мы ждем, что вы: — проводили A/B-тесты, понимаете область их применения; — прекрасно владеете теорией вероятности и математической статистикой и можете на пальцах объяснить, зачем и кому нужен p-value; — знаете SQL и Python. Условия: — команда экспертов, которая любит своё дело; — выстроенные процессы взаимодействия и планирования; — работа над проектами, которые отражены в общих целях бизнеса; — прозрачная коммуникация, возможность влиять на процесс и результат; Подробнее о вакансии и отклики: https://goo.su/FqEaEmT

DataEng
4 402
pandas 2.0 Вчера вышла новая мажорная версия pandas — 2.0.0 В новую версию добавили бэкенд Apache Arrow для повышения производительности. Более подробно про изменения можно прочитать в статье pandas 2.0 and the Arrow revolution.

DataEng
4 402
📊 Как построить и прокачать систему аналитики интернет-магазина от базового уровня до Enterprise? Расскажем на вебинаре ⏰ Ко
📊 Как построить и прокачать систему аналитики интернет-магазина от базового уровня до Enterprise? Расскажем на вебинаре ⏰ Когда: 16 марта, 17:00 по Москве 📍 Регистрация На каждом из этапов развития бизнеса компании требуется определенный технологический стек для работы с данными. На вебинаре рассмотрим построение систем аналитики разных уровней сложности для интернет-магазинов в облаке. Вы узнаете, как собрать решение с базовым набором инструментов, развить его до продвинутого уровня и затем построить решение «промышленного класса». Подробно разберем стек технологий и обсудим архитектурные схемы решений для анализа продаж, маркетинговой аналитики, управления ассортиментом, ценообразованием, а также для клиентской аналитики (в том числе с применением ML). В программе: 🔸 Описание уровней (этапов) построения систем аналитики для e-commerce и задач на каждом из них 🔸 Обзор подходов к архитектуре для систем аналитики разной степени сложности 🔸 QA-сессия Спикер: 🔹 Алексей Белозерский, архитектор VK Cloud Зарегистрироваться

DataEng
4 402
Тимлид в команду продуктовой аналитики Yandex Cloud Yandex Cloud — это облачная платформа, которую используют тысячи компаний и предпринимателей: от технических специалистов до международных корпораций. Мы ищем тимлида. Что нужно делать: - руководить командой продуктовых аналитиков; - анализировать поведение клиентов: как оно меняется в разных каналах коммуникации; - исследовать тренды потребления продуктов, применения возможностей и операционных метрик; - создавать управленческие отчёты и дашборды с данными о клиентах и продуктах; - находить точки роста и улучшать бизнес-показатели, выдвигать гипотезы и проверять их, участвовать в развитии сервисов; - взаимодействовать со смежными командами аналитиков и разработчиков; - участвовать в подготовке стратегических решений, которые касаются продуктов и ценообразования. Мы ждем, что вы: - получили техническое или математическое образование; - работали в сфере продуктовой или маркетинговой аналитики более трёх лет; - уверенно владеете скриптовыми языками Python или R, отлично знаете SQL; - участвовали в формировании аналитической инфраструктуры и моделей данных; - способны понятно объяснять результаты исследований; - умеете находить ценные инсайты в данных; знаете английский язык; - аккуратны и внимательны к деталям; - самостоятельны и инициативны. Будет плюсом, если вы: - работали в сфере облачных технологий. Условия: - сильная команда, с которой можно расти; - возможность влиять на процесс и результат; - премии каждые полгода за эффективную работу; - современный офис в центре Москвы, где комфортно работать и приятно находиться; - расширенная программа ДМС, оплата 80% стоимости ДМС для супругов и детей; - гибкий график. Откликнуться: https://goo.su/7oZgx

DataEng
4 402
Стать сотрудником Яндекса быстрее и проще, чем кажется. Участвуйте в днях быстрого найма: решите тестовое, пройдите несколько
Стать сотрудником Яндекса быстрее и проще, чем кажется. Участвуйте в днях быстрого найма: решите тестовое, пройдите несколько секций собеседования и получите офер за несколько дней. Теперь дни быстрого найма будут проходить регулярно. Чтобы вам было удобно следить за расписанием, собрали его на отдельной странице. Ближайшие мероприятия: • 4-5 марта — Fast Track для разработчиков пишущих на Python и Java, офер за 2 дня в команду HR Tech Яндекса. • 4-5 марта — Fast Track для разработчиков пишущих на С++ и Python, офер за 2 дня в команду робототехники Яндекс Маркета. • 4-5 марта — Fast Track для дата инженеров и разработчиков платформы, аналитиков со знанием Python и SQL, офер за 2 дня в команду DWH Яндекс Маркета. Зарегистрироваться

DataEng
4 402
Видео про архитектуру PostgreSQL: https://www.youtube.com/watch?v=Q56kljmIN14

DataEng
4 402
Знакомы слова SQL, ETL, DWH? Тогда у вас есть возможность получить оффер за выходные в команду Тинькофф! За прошлый год экоси
Знакомы слова SQL, ETL, DWH? Тогда у вас есть возможность получить оффер за выходные в команду Тинькофф! За прошлый год экосистема Тинькофф выросла в два раза — продуктами компании пользуются уже 28 млн клиентов. В связи с этим расширяется дата-команда: нужны дата-инженеры, системные аналитики DWH и разработчики ETL с опытом работы больше двух лет. Пройти собеседование можно онлайн за выходные — на Data Weekend Offer. Если все хорошо, вы получите оффер уже в понедельник. Ближайшее мероприятие 11-12 марта. Успейте подать заявку до 7 марта.

DataEng
4 402
💣 Собираетесь переходить в дата-инжиниринг? 🚀 Присоединяйтесь 7 февраля в 20:00 мск на открытый урок онлайн-курса «Data Eng
💣 Собираетесь переходить в дата-инжиниринг? 🚀 Присоединяйтесь 7 февраля в 20:00 мск на открытый урок онлайн-курса «Data Engineer» в OTUS. 🟠 Тема вебинара — Clickhouse vs. Greenplum. Какую MPP базу данных выбрать? ❇️ Вы узнаете: 🔸 Что такое MPP-БД на самом деле 🔸 Познакомитесь с различными представителями таких систем 🔸 Разберетесь, когда и в каких случаях стоит выбирать каждую из них 🔸 На практике изучите наглядные примеры работы БД Clickhouse и Greenplum 💻 Спикером выступит Алексей Железной, преподаватель курса и Data Engineer в компании Wildberries. 🔥 Пройдите вступительный тест, чтобы участвовать: https://otus.pw/GxBr/ Реклама. Информация о рекламодателе на сайте www.otus.ru.

DataEng
4 402
🔥 Хотите перейти в область дата-инжиринга и работать с большими данными? 👉 Сделайте первые шаги в этом направлении на откры
🔥 Хотите перейти в область дата-инжиринга и работать с большими данными? 👉 Сделайте первые шаги в этом направлении на открытом уроке онлайн-курса «Data Engineer» в OTUS! 27 января в 20:00 мск пройдет вебинар «Elasticsearch как NoSQL хранилище документов». Глубокое понимание этого инструмента — ключевой момент для его правильного применения. 💻 В результате урока вы: 🔸 Изучите классификацию NoSQL СУБД 🔸 Узнаете про отличительные черты Elasticsearch и его применимости к разным задачам 🔸 Узнаете, почему Elasticsearch — одних из наиболее популярных инструментов для создания поисковых датасетов в современном мире 🔸 Поймете, чем так хорош Elasticsearch и задумаетесь об его внедрении в вашей команде 🟢 Чтобы записаться на мероприятие, пройдите вступительный тест: https://otus.pw/SVlr/ Реклама. Информация о рекламодателе на сайте www.otus.ru.

DataEng
4 402
Чтобы поиграть с БД ClickHouse отныне её не нужно устанавливать себе, появился официальный ClickHouse Fiddle Дока про сам проект: https://clickhouse.com/blog/clickhouse-fiddle-sql-playground

DataEng
4 402
📊 Сможешь ли ты стать дата-инженером? 📌 Пройди тест и узнай — https://otus.pw/Rwxh/ 💻 Ответьте на 20 вопросов и проверьте,
📊 Сможешь ли ты стать дата-инженером? 📌 Пройди тест и узнай — https://otus.pw/Rwxh/ 💻 Ответьте на 20 вопросов и проверьте, готовы к обучению на онлайн-курсе «Data Engineer» в OTUS. Дата-инжиниринг — новый уровень для разработчиков и админов СУБД. ✅ На курсе вас ждет: ✔️ Живые вебинары с опытными практиками ✔️ Решение прикладных задач и создание своего продукта ✔️ Real Case Studies: примеры внедрений, использования инструментов, оптимизации и разбор ошибок ✔️ Во время обучения вы освоите работу с Architecture, Data Lake, DWH, MLOps и сможете самостоятельно решать задачи в сфере Big Data. 🔥 Пройдете тест — получите демо-ролик о занятиях на курсе, Welcome-скидку и доступ к открытым урокам: 👉 Elasticsearch как NoSQL хранилище документов 👉 Clickhouse vs. Greenplum. Какую MPP-базу данных выбрать? Реклама. Информация о рекламодателе на сайте www.otus.ru.

DataEng
4 402
Вышло новое издание знаменитой книги про распределенные системы: Distributed Systems 4th Edition Электронную версию книги можно бесплатно скачать на сайте по ссылке выше. 3-е бумажное издание этой книги лежит у меня на полке, но, к сожалению, я постоянно откладываю её прочтение (читал отрывками). Надеюсь в 2023 году доберусь до неё 🤞

DataEng
4 402
Если ИТ – это ваш конек, то Тинькофф ждет вас 23 января на катке в московском Парке Горького! Ледовый ИТ-квест, нетворкинг, д
Если ИТ – это ваш конек, то Тинькофф ждет вас 23 января на катке в московском Парке Горького! Ледовый ИТ-квест, нетворкинг, дискуссии со спикерами в теплом шатре и многое другое. Вечер точно будет насыщенным и приятным. За коньки не беспокойтесь — их выдадут бесплатно. Не медлите, регистрируйтесь сами и зовите коллег — будет весело!

DataEng
4 402
Отличная новость для тех, кто использует Managed Airflow в Amazon Web Services: https://aws.amazon.com/ru/about-aws/whats-new/2023/01/amazon-mwaa-supports-apache-airflow-version-2-4-python-3-10/

DataEng
4 402
Cоздание сквозных логов, настройка ETL в Apache NiFi и конфигурация Apache Flink. Обсудим инструменты дата-инженера на беспла
Cоздание сквозных логов, настройка ETL в Apache NiFi и конфигурация Apache Flink. Обсудим инструменты дата-инженера на бесплатном митапе от билайна при поддержке JUG Ru Group. 📆 20 декабря, 17:00, онлайн. В программе: ✔️ Сергей Евсеев — «Как настроить ETL с JSON'ами в Apache NiFi». ✔️ Никита Хилов — «Система сквозного логирования с передачей единого идентификатора процесса между независимыми задачами airflow». ✔️ Александр Булатов — «Apache Flink: Flink Table API & SQL». После каждого доклада вы сможете подискутировать с другими участниками и задать вопросы спикерам. Авторы лучших вопросов получат в подарок мерч от билайна — классные поясные сумки. Бесплатная регистрация на сайте митапа.

DataEng
4 402
💣 Хотите мастерски владеть Spark? 🚀 Приглашаем дата-инженеров 13 декабря в 20:00 на открытый урок «Spark в Kubernetes» в ра
💣 Хотите мастерски владеть Spark? 🚀 Приглашаем дата-инженеров 13 декабря в 20:00 на открытый урок «Spark в Kubernetes» в рамках онлайн-курса «Spark Developer». ➡️ На занятии мы: - Кратко расскажем о том, что такое Spark и Kubernetes - Рассмотрим особенности и варианты запуска Spark в Kubernetes - Сравним работу Spark в Kubernetus и Hadoop Yarn ➡️ Кому будет полезен урок? - IT-специалистам, которые хотят перейти в Big Data - Начинающим дата-инженерам, желающим углубить свои знания в профессии - Тем, кто самостоятельно изучает технологии Big Data 🦾 Вебинар проведет Вадим Опольский, Scala Big Data разработчик в Luxoft DXC Technology. Продолжить освоение инструментов дата-инжиниринга вы сможете на онлайн-курсе в OTUS. 💻 Пройдите вступительный тест для регистрации на урок https://otus.pw/Htue/ Реклама. Информация о рекламодателе на сайте www.otus.ru