DataEng
رفتن به کانال در Telegram
Data Engineering & Distributed Systems Contact @adilkhash
نمایش بیشتر4 402
مشترکین
-724 ساعت
-87 روز
+630 روز
آرشیو پست ها
4 402
Аналитик-разработчик
Монорепозиторий Аркадии хранит исходный код большинства сервисов Яндекса. Каждый день разработчики Яндекса создают в нём тысячи пул-реквестов. Для репозиториев такого масштаба не существует готовых решений, и мы развиваем свои: систему контроля версий, веб-портал разработчика, плагины для среды разработки, сервис для разработки в облачном окружении. Наша служба постоянно работает над тем, чтобы делать наши системы удобнее, надёжнее, быстрее и понятнее.
Мы ищем опытного аналитика, который поможет разработать систему метрик для наших внутренних продуктов и внедрить A/B-эксперименты, найдёт пути улучшения наших систем.
Что нужно делать:
-разрабатывать систему метрик качества для инструментов репозитория;
-анализировать и улучшать продуктовые метрики наших систем;
-внедрять метрики качества и A/B-эксперименты в наши продукты;
-помогать строить хранилища данных репозитория и смежных систем для разработки метрик личной и командной активности и производительности.
Мы ждем, что вы:
-работали продуктовым аналитиком не менее трёх лет;
-хорошо знаете Python и SQL;
-знаете математическую статистику и теорию вероятностей;
-проводили A/B-эксперименты и анализировали их результаты;
-самостоятельны и не боитесь нестандартных задач;
-готовы быстро усваивать много новой информации.
Условия:
-команда экспертов, которые любят своё дело;
-выстроенные процессы взаимодействия и планирования;
-работа над проектами, которые отражены в общих целях бизнеса;
-прозрачная коммуникация, возможность влиять на процесс и результат;
-расширенная программа ДМС: оплата 80% стоимости ДМС для супругов и детей;
-гибкий график;
-работа из офисов в Москве, Санкт-Петербурге, Сербии, Армении.
Откликнуться: @Oksidgi
4 402
Прием заявок на выступление на SmartData 2023 открыт до 1 июня.
Конференция будет идти четыре дня: 6–7 сентября в онлайне и 13–14 сентября в Москве с возможностью подключиться онлайн.
Если хотите поделиться опытом в инженерии данных — подавайте заявку на выступление.
С вас только материал и желание выступить, а организаторы помогут на всех этапах — от идеи до выступления: доработают с вами материал, проведут репетиции и дадут рекомендации по выступлению.
Можно выбрать любой формат выступления — доклад, воркшоп, интервью, обсуждение, BoF-сессию или придумать что-то свое. Тему для выступления можно выбрать из списка, а можно предложить свою.
Подать заявку можно на сайте SmartData.
4 402
Внимание, внимание! Все, кто пишет код на Python — важное сообщение от организатора IT онлайн-конференций Podlodka Crew: первая конференция Podlodka Python Crew стартует уже 22 мая!
Тема сезона: «Асинхронность». Участники получат возможность рассмотреть эту непростую и многослойную тему с разных сторон вместе с экспертами из Точка, ЛитРес, Novakid, winePad GmbH и других компаний:
🟡 Узнают основные принципы asyncio, способы не выстрелить себе в колено, используя асинхронщину в продакшене;
🟡 Разберут реальные кейсы использования asyncio в проекте с CPU-bound операциями и работе с легаси;
🟡 Обсудят с другими участниками альтернативы asyncio и их преимущества, организацию конкурентности в других серверных языках;
🟡 Разберут проблемы написания асинхронного приложения и научатся их решать.
🤓 В первом сезоне мы сконцентрировали рекордное количество пользы.
Держи промокод на 500 руб: python_crew_1_j2HW6y и успей забрать свой билет на сайте 👉 https://podlodka.io/pythoncrew
4 402
Аналитик - разработчик
#вакансия #Москва #гибрид #middle #senior
Yandex Cloud — это облачная платформа, которую используют тысячи компаний и предпринимателей, от технических специалистов до международных корпораций. Наши сервисы позволяют быстро и просто получить доступ к современным технологиям обработки и хранения данных – виртуальным машинам, управляемым базам данных, распознаванию и синтезу речи.
Мы ищем аналитика-разработчика. Ждём вдумчивых кандидатов с глубокими знаниями Python и желанием развиваться в сфере аналитики.
Что нужно делать:
— собрать юнит-экономику бизнеса;
— заниматься построением прогнозной модели бизнеса (бизнес-моделирование процессов, форкастинг временных рядов);
— работать над воронкой (гипотезы, эксперименты, оценка непрямых эффектов).
Мы ждем, что вы:
— получили техническое или математическое образование;
— уверенно владеете Python (можете провести EDA, построить несколько моделей), -можете на SQL написать сложную бизнес-логику в удобном для чтения виде;
— умеете перевести в ТЗ нечетко сформулированные задачи;
— аккуратны и внимательны к деталям;
— самостоятельны и инициативны.
— понимаете реальные потребности бизнеса, ставите себя на место заказчика;
— знаете английский язык;
— умеете понятно объяснять результаты исследований.
Будет плюсом, если вы:
— работали в сфере облачных технологий.
Условия:
— сильная команда, с которой можно расти;
— возможность влиять на процесс и результат;
— помощь с переездом иногородним сотрудникам;
— высокий совокупный доход и премии каждые полгода для всех, кто успешно прошел ревью;
— расширенная программа ДМС: стоматология, обследования, вызов врача на дом и многое другое;
— оплата 80% стоимости ДМС для супругов и детей;
— компенсация оплаты питания на территории офиса;
— скидки в бассейнах, фитнес-центрах и магазинах;
— курсы, тренинги, участие в конференциях;
— гибкий график работы;
— парковка для сотрудников.
Подробнее о вакансии и отклики: https://goo.su/nLJTvFn
4 402
Аналитик в 360
#вакансия #Москва #Армения #Казахстан #Сербия #гибрид
#middle #senior
Яндекс 360 — это набор сервисов для решения повседневных задач: от хранения личных воспоминаний до деловой переписки в любое время и на любом устройстве.
Команда аналитики Яндекс 360 ищет сильного и инициативного аналитика, который взял бы на себя роль эксперта по экспериментам. Вы будете вместе с нами развивать функциональность наших сервисов и улучшать их, основываясь на анализе данных, помогать команде внедрять только те изменения, которые несут понятную и доказанную пользу для продукта и бизнеса.
Что нужно делать:
— формировать приёмочные метрики для A/B-тестов, выбирать необходимый размер выборки, ограничения и срок проведения эксперимента;
— управлять всем потоком наших экспериментов: включать и выключать, доводить каждый A/B-тест от этапа идеи до принятия решения;
— анализировать результаты экспериментов, давать рекомендации по внедрению или отключению, расследовать аномалии;
— вырабатывать единые гайды для проведения экспериментов, помогать продуктовой команде.
Мы ждем, что вы:
— проводили A/B-тесты, понимаете область их применения;
— прекрасно владеете теорией вероятности и математической статистикой и можете на пальцах объяснить, зачем и кому нужен p-value;
— знаете SQL и Python.
Условия:
— команда экспертов, которая любит своё дело;
— выстроенные процессы взаимодействия и планирования;
— работа над проектами, которые отражены в общих целях бизнеса;
— прозрачная коммуникация, возможность влиять на процесс и результат;
Подробнее о вакансии и отклики: https://goo.su/FqEaEmT
4 402
pandas 2.0
Вчера вышла новая мажорная версия pandas — 2.0.0
В новую версию добавили бэкенд Apache Arrow для повышения производительности. Более подробно про изменения можно прочитать в статье pandas 2.0 and the Arrow revolution.
4 402
📊 Как построить и прокачать систему аналитики интернет-магазина от базового уровня до Enterprise? Расскажем на вебинаре
⏰ Когда: 16 марта, 17:00 по Москве
📍 Регистрация
На каждом из этапов развития бизнеса компании требуется определенный технологический стек для работы с данными. На вебинаре рассмотрим построение систем аналитики разных уровней сложности для интернет-магазинов в облаке.
Вы узнаете, как собрать решение с базовым набором инструментов, развить его до продвинутого уровня и затем построить решение «промышленного класса».
Подробно разберем стек технологий и обсудим архитектурные схемы решений для анализа продаж, маркетинговой аналитики, управления ассортиментом, ценообразованием, а также для клиентской аналитики (в том числе с применением ML).
В программе:
🔸 Описание уровней (этапов) построения систем аналитики для e-commerce и задач на каждом из них
🔸 Обзор подходов к архитектуре для систем аналитики разной степени сложности
🔸 QA-сессия
Спикер:
🔹 Алексей Белозерский, архитектор VK Cloud
Зарегистрироваться
4 402
Тимлид в команду продуктовой аналитики Yandex Cloud
Yandex Cloud — это облачная платформа, которую используют тысячи компаний и предпринимателей: от технических специалистов до международных корпораций. Мы ищем тимлида.
Что нужно делать:
- руководить командой продуктовых аналитиков;
- анализировать поведение клиентов: как оно меняется в разных каналах коммуникации;
- исследовать тренды потребления продуктов, применения возможностей и операционных метрик;
- создавать управленческие отчёты и дашборды с данными о клиентах и продуктах;
- находить точки роста и улучшать бизнес-показатели, выдвигать гипотезы и проверять их, участвовать в развитии сервисов;
- взаимодействовать со смежными командами аналитиков и разработчиков;
- участвовать в подготовке стратегических решений, которые касаются продуктов и ценообразования.
Мы ждем, что вы:
- получили техническое или математическое образование;
- работали в сфере продуктовой или маркетинговой аналитики более трёх лет;
- уверенно владеете скриптовыми языками Python или R, отлично знаете SQL;
- участвовали в формировании аналитической инфраструктуры и моделей данных;
- способны понятно объяснять результаты исследований;
- умеете находить ценные инсайты в данных;
знаете английский язык;
- аккуратны и внимательны к деталям;
- самостоятельны и инициативны.
Будет плюсом, если вы:
- работали в сфере облачных технологий.
Условия:
- сильная команда, с которой можно расти;
- возможность влиять на процесс и результат;
- премии каждые полгода за эффективную работу;
- современный офис в центре Москвы, где комфортно работать и приятно находиться;
- расширенная программа ДМС, оплата 80% стоимости ДМС для супругов и детей;
- гибкий график.
Откликнуться: https://goo.su/7oZgx
4 402
Стать сотрудником Яндекса быстрее и проще, чем кажется. Участвуйте в днях быстрого найма: решите тестовое, пройдите несколько секций собеседования и получите офер за несколько дней.
Теперь дни быстрого найма будут проходить регулярно. Чтобы вам было удобно следить за расписанием, собрали его на отдельной странице.
Ближайшие мероприятия:
• 4-5 марта — Fast Track для разработчиков пишущих на Python и Java, офер за 2 дня в команду HR Tech Яндекса.
• 4-5 марта — Fast Track для разработчиков пишущих на С++ и Python, офер за 2 дня в команду робототехники Яндекс Маркета.
• 4-5 марта — Fast Track для дата инженеров и разработчиков платформы, аналитиков со знанием Python и SQL, офер за 2 дня в команду DWH Яндекс Маркета.
Зарегистрироваться
4 402
Знакомы слова SQL, ETL, DWH?
Тогда у вас есть возможность получить оффер за выходные в команду Тинькофф!
За прошлый год экосистема Тинькофф выросла в два раза — продуктами компании пользуются уже 28 млн клиентов. В связи с этим расширяется дата-команда: нужны дата-инженеры, системные аналитики DWH и разработчики ETL с опытом работы больше двух лет.
Пройти собеседование можно онлайн за выходные — на Data Weekend Offer. Если все хорошо, вы получите оффер уже в понедельник.
Ближайшее мероприятие 11-12 марта. Успейте подать заявку до 7 марта.
4 402
💣 Собираетесь переходить в дата-инжиниринг?
🚀 Присоединяйтесь 7 февраля в 20:00 мск на открытый урок онлайн-курса «Data Engineer» в OTUS.
🟠 Тема вебинара — Clickhouse vs. Greenplum. Какую MPP базу данных выбрать?
❇️ Вы узнаете:
🔸 Что такое MPP-БД на самом деле
🔸 Познакомитесь с различными представителями таких систем
🔸 Разберетесь, когда и в каких случаях стоит выбирать каждую из них
🔸 На практике изучите наглядные примеры работы БД Clickhouse и Greenplum
💻 Спикером выступит Алексей Железной, преподаватель курса и Data Engineer в компании Wildberries.
🔥 Пройдите вступительный тест, чтобы участвовать: https://otus.pw/GxBr/
Реклама. Информация о рекламодателе на сайте www.otus.ru.
4 402
🔥 Хотите перейти в область дата-инжиринга и работать с большими данными?
👉 Сделайте первые шаги в этом направлении на открытом уроке онлайн-курса «Data Engineer» в OTUS! 27 января в 20:00 мск пройдет вебинар «Elasticsearch как NoSQL хранилище документов». Глубокое понимание этого инструмента — ключевой момент для его правильного применения.
💻 В результате урока вы:
🔸 Изучите классификацию NoSQL СУБД
🔸 Узнаете про отличительные черты Elasticsearch и его применимости к разным задачам
🔸 Узнаете, почему Elasticsearch — одних из наиболее популярных инструментов для создания поисковых датасетов в современном мире
🔸 Поймете, чем так хорош Elasticsearch и задумаетесь об его внедрении в вашей команде
🟢 Чтобы записаться на мероприятие, пройдите вступительный тест: https://otus.pw/SVlr/
Реклама. Информация о рекламодателе на сайте www.otus.ru.
4 402
Чтобы поиграть с БД ClickHouse отныне её не нужно устанавливать себе, появился официальный ClickHouse Fiddle
Дока про сам проект: https://clickhouse.com/blog/clickhouse-fiddle-sql-playground
4 402
📊 Сможешь ли ты стать дата-инженером?
📌 Пройди тест и узнай — https://otus.pw/Rwxh/
💻 Ответьте на 20 вопросов и проверьте, готовы к обучению на онлайн-курсе «Data Engineer» в OTUS. Дата-инжиниринг — новый уровень для разработчиков и админов СУБД.
✅ На курсе вас ждет:
✔️ Живые вебинары с опытными практиками
✔️ Решение прикладных задач и создание своего продукта
✔️ Real Case Studies: примеры внедрений, использования инструментов, оптимизации и разбор ошибок
✔️ Во время обучения вы освоите работу с Architecture, Data Lake, DWH, MLOps и сможете самостоятельно решать задачи в сфере Big Data.
🔥 Пройдете тест — получите демо-ролик о занятиях на курсе, Welcome-скидку и доступ к открытым урокам:
👉 Elasticsearch как NoSQL хранилище документов
👉 Clickhouse vs. Greenplum. Какую MPP-базу данных выбрать?
Реклама. Информация о рекламодателе на сайте www.otus.ru.
4 402
Вышло новое издание знаменитой книги про распределенные системы: Distributed Systems 4th Edition
Электронную версию книги можно бесплатно скачать на сайте по ссылке выше.
3-е бумажное издание этой книги лежит у меня на полке, но, к сожалению, я постоянно откладываю её прочтение (читал отрывками). Надеюсь в 2023 году доберусь до неё 🤞
4 402
Если ИТ – это ваш конек, то Тинькофф ждет вас 23 января на катке в московском Парке Горького!
Ледовый ИТ-квест, нетворкинг, дискуссии со спикерами в теплом шатре и многое другое. Вечер точно будет насыщенным и приятным. За коньки не беспокойтесь — их выдадут бесплатно.
Не медлите, регистрируйтесь сами и зовите коллег — будет весело!
4 402
Отличная новость для тех, кто использует Managed Airflow в Amazon Web Services: https://aws.amazon.com/ru/about-aws/whats-new/2023/01/amazon-mwaa-supports-apache-airflow-version-2-4-python-3-10/
4 402
Cоздание сквозных логов, настройка ETL в Apache NiFi и конфигурация Apache Flink. Обсудим инструменты дата-инженера на бесплатном митапе от билайна при поддержке JUG Ru Group.
📆 20 декабря, 17:00, онлайн.
В программе:
✔️ Сергей Евсеев — «Как настроить ETL с JSON'ами в Apache NiFi».
✔️ Никита Хилов — «Система сквозного логирования с передачей единого идентификатора процесса между независимыми задачами airflow».
✔️ Александр Булатов — «Apache Flink: Flink Table API & SQL».
После каждого доклада вы сможете подискутировать с другими участниками и задать вопросы спикерам. Авторы лучших вопросов получат в подарок мерч от билайна — классные поясные сумки.
Бесплатная регистрация на сайте митапа.
4 402
💣 Хотите мастерски владеть Spark?
🚀 Приглашаем дата-инженеров 13 декабря в 20:00 на открытый урок «Spark в Kubernetes» в рамках онлайн-курса «Spark Developer».
➡️ На занятии мы:
- Кратко расскажем о том, что такое Spark и Kubernetes
- Рассмотрим особенности и варианты запуска Spark в Kubernetes
- Сравним работу Spark в Kubernetus и Hadoop Yarn
➡️ Кому будет полезен урок?
- IT-специалистам, которые хотят перейти в Big Data
- Начинающим дата-инженерам, желающим углубить свои знания в профессии
- Тем, кто самостоятельно изучает технологии Big Data
🦾 Вебинар проведет Вадим Опольский, Scala Big Data разработчик в Luxoft DXC Technology. Продолжить освоение инструментов дата-инжиниринга вы сможете на онлайн-курсе в OTUS.
💻 Пройдите вступительный тест для регистрации на урок https://otus.pw/Htue/
Реклама. Информация о рекламодателе на сайте www.otus.ru
اکنون در دسترس! پژوهش تلگرام ۲۰۲۵ — مهمترین بینشهای سال 
