Аналитика данных / Data Study

Data Mesh - вид организации аналитических хранилищ В современном мире данных, где объемы информации растут экспоненциально, традиционные подходы к организации аналитических хранилищ могут оказаться недостаточно гибкими и масштабируемыми. Одним из инновационных решений этой проблемы является концепция Data Mesh. 🔎 Data Mesh — это архитектурный подход к управлению данными, который децентрализует ответственность за данные и их качество. Вместо централизованного хранилища данных, Data Mesh предполагает создание сети децентрализованных доменов данных, каждый из которых управляется отдельной командой. Эти домены данных предоставляют данные как продукты, которые могут быть использованы другими командами и системами. В чем его особенность от других типов хранилищ? 📍Децентрализация: В отличие от традиционных централизованных хранилищ данных, Data Mesh распределяет ответственность за данные между различными командами, что позволяет более гибко и оперативно управлять данными. 📍 Данные как продукты: В Data Mesh данные рассматриваются как продукты, которые имеют своих владельцев, потребителей и стандарты качества. Это способствует более высокому качеству данных и их лучшей доступности. 📍 Автономность команд: Каждая команда, ответственная за свой домен данных, имеет полную автономию в управлении этими данными, что позволяет быстрее реагировать на изменения и потребности бизнеса. Какие плюсы есть в такой организации хранилища? ➕ Масштабируемость: Data Mesh позволяет легко масштабировать управление данными, так как каждая команда управляет своим доменом данных независимо от других. ➕ Гибкость: Децентрализованная архитектура Data Mesh обеспечивает высокую гибкость в управлении данными, что позволяет быстрее адаптироваться к изменениям и новым требованиям. ➕ Повышение качества данных: Рассмотрение данных как продуктов и назначение ответственных за их качество способствует повышению общего качества данных в организации. ➕ Ускорение инноваций: Автономность команд и децентрализованное управление данными позволяют быстрее внедрять инновации и новые решения. Потенциальные минусы подхода Data Mesh ➖Сложность управления: Децентрализация ответственности может привести к сложностям в координации между командами, особенно в крупных организациях. ➖ Риск дублирования данных: В условиях децентрализованного управления данными возрастает риск дублирования данных и возникновения несогласованностей. ➖ Необходимость в стандартах и соглашениях: Для успешного функционирования Data Mesh необходимо разработать и поддерживать общие стандарты и соглашения по управлению данными, что может потребовать значительных усилий. ➖ Зависимость от культуры организации: Успешное внедрение Data Mesh требует определенной культуры и менталитета в организации, что может быть сложно достичь в организациях с незрелой Data-культурой. 🔗 Полезные ссылки про Data Mesh 🔗 Data Mesh Architecture 🔗 Статья про Data Mesh на Habr 🔗 Сравнение подходов Data Fabric и Data Mesh

Временные таблицы в базах данных В ETL процессах часто возникает необходимость в промежуточном хранении данных. Одним из эффективных решений для этой задачи являются временные таблицы. 🔎 Временная таблица — это специальный тип таблицы в базе данных, которая существует только в течение сессии пользователя или до конца транзакции. Она создается для временного хранения данных и автоматически удаляется после завершения работы. Чем они отличаются от обычных таблиц? 1️⃣ Временность: Временные таблицы существуют только в течение сессии или транзакции, тогда как обычные таблицы сохраняются в базе данных до тех пор, пока их не удалят вручную. 2️⃣ Изоляция: Временные таблицы видны только в пределах текущей сессии или транзакции, что обеспечивает изоляцию данных между разными пользователями или процессами. 3️⃣ Производительность: Временные таблицы часто хранятся в оперативной памяти, что позволяет значительно ускорить операции с данными. Эти особенности и дают плюсы использования временных таблиц для оптимизации ETL Пример создания временной таблицы в SQL из результата SELECT запроса:

CREATE TEMPORARY TABLE temp_table (
    id INT,
    name VARCHAR(50),
    value DECIMAL(10, 2)
);

--либо создание из результата SELECT запроса
CREATE TEMPORARY TABLE temp_table AS 
SELECT 
id
, name
, value
FROM table
;

Также хочу отметить, что временные таблицы позволяют оптимизировать выполнение запросов, если вам нужно преобразовывать и извлекать данные из множества разных таблиц в базе. Например, если из таблицы с продажами за все время вам нужны продажи только за последний месяц для разных видов расчетом, сохраните продажи за последний месяц во временную таблицу и обращайтесь к ней для ваших расчетов, чтобы не делать несколько тяжелых запросов к таблице всех продаж.

Это кажется ужасным поступком со стороны компании поступить так со своими сотрудниками, несмотря на все санкционное давление 😔 Надеюсь найдутся правильные правовые рычаги компенсации для сотрудников после таких поспешных действий компании 💪

Оконные функции простым языком - Фреймы (часть 2) Спустя 2 года после написания первой части статьи наконец дошли руки до второй части. 🚨 Материал исключительно для новичков в SQL и применении оконок, опытные SQLисты проходите мимо. А то там в комментариях уже начали накидывать сложные кейсы, что я их в статье не указал, и вообще не расписал учебник вместо статьи со всей теорией и практикой в одном месте 😅 Читать статью

Фреймворки Python с параллельной обработкой данных Часто на практике возникает потребность обрабатывать большие объемы данных, либо работать с большим набором запросов к сервису. Делать это в один поток выполнения кода не всегда эффективно и быстро, а сделать эту работу параллельной помогают различные фреймворки или ETL инструменты. Читать статью про фреймворки Python для параллельной обработки данных

Сбер ищет в команду Аналитика-исследователя, который будет выстраивать анализ продуктов и оценивать эффекты и взаимосвязи Центра индустрии с экосистемой Сбера 🔗 В ваши задачи будет входить взаимодействие с блоками и функциональными подразделениями, сбор данных и проведение аналитических исследований. ✅Мы предлагаем: премии и ежегодный пересмотр зарплаты, расширенный ДМС с первого дня, ипотеку выгоднее до 4% для каждого сотрудника, а еще корпоративное обучение в Виртуальной школе Сбера и бесплатную подписку СберПрайм+. Подробнее о вакансии по ссылке

Где искать вакансии с анализом данных Привет! Это статья будет полезна начинающим специалистам по анализу и работы с данными в формате сборника ресурсов для поиска вакансий. Статья

Оффер в дата-аналитику за выходные? Легко — для опытных специалистов на Data Weekend Offer от Авито! Пройдите ускоренный отбор, изучайте поведение пользователей и ищите точки роста бизнеса. Вас ждет: — конкурентная зарплата, удаленка и дополнительные дни отпуска; — возможность прокачать свой стек – проверять бизнес-модели, тестить гипотезы, запускать фичи и улучшать пользовательский опыт; — участие в разработке новых продуктов крупнейшего в мире сервиса объявлений; — сильное IT-комьюнити, которое любит опенсорс. Авито – это про карьерное развитие и комфортные условия. Регистрируйтесь до 15 октября: https://u.to/9OXjIA

Хочется пожелать всем замечательной рабочей недели и чтобы вы не испытывали стресс как и эти котики 😉

Вчера после работы гуляли и зашли в книжный магазин. Нашел много интересных книг, но покупать их там конечно же не стал, ведь на озоне они в 2 раза дешевле) Заказал пока только «Мама, я тимлид», после прочтения поделюсь своими впечатлениями

Продуктовые аналитики, вас тут ищут В Т-Банке пройдет Week Offer для уровня middle и senior. Можете пройти все этапы собеседования за неделю и попасть в ИТ-команду. Если справитесь, будете развивать продукты для 43 млн клиентов. Выдвигать гипотезы, обосновывать данными и концентрироваться на аналитике — рутинные задачи тут можно автоматизировать. Вот чем еще хороша эта работа: — Актуальный стек технологий. Тут следят за трендами и быстро внедряют новое. — Прозрачная система роста. Всегда будете знать, какие навыки развивать. — Сильное комьюнити. Можно делиться опытом на конференциях и митапах, а еще — участвовать в подкастах. — Офисы в 23 городах России и гибридный формат работы. Успейте подать заявку до 25 сентября. Больше рассказали тут

Мысли вслух В последнее время очень много рефлексирую и анализирую свое поведение, настроение, взгляд на мир и меняющиеся планы 🧠 Немного поделюсь накопившимся. Прошлый год оказывается выдался очень активных на события в профессиональной и личной жизни, даже дух захватывает когда все вспоминаю 🎓закончил магистратуру 🤵‍♂️ женился ✍️ поменял место работы и много других ярких моментов и достижений) Даже несмотря на это казалось, что я делаю меньше чем могу, что-то не успеваю. В общем понял что словил FOMO (fear of missed opportunity - страх упущенной возможности). Но анализируя текущий год с намного меньшим количеством выдающихся событий и более простым и приземленным отношением ко всему происходящему, понимаю, что все зависит от приоритетов. Тот год и этот отличает меня набором приоритетов. Если еще год назад было нормой после работы ехать на пары, а после пар садиться за свои проекты и курсы. То в этом году после работы я хожу в зал, гуляю с женой, и только в отдельные периоды времени активно занимаюсь проектной работой. Конечно есть и свои внешние факторы, повлияющие на такой изменение приоритетов, но об этом расскажу как-нибудь отдельно, как и возвращающееся часто чувство FOMO формата "лучше бы новый курс записал, чем потратил время на прогулку". Увы, но мне дается слишком тяжело ценить момент, а не думать постоянно планами активностями на будущее 🤷‍♂️ Немного сумбурно получилось, но я думаю часть людей узнают себя в этом посте 👍

🏆 Хакатон «Код Согласия» – масштабное соревнование для опытных и начинающих ИТ-специалистов. Реши реальную бизнес-задачу и поборись за призовой фонд в 1 000 000 рублей! Регистрируйся до 27 сентября: https://cnrlink.com/soglasiecodedatastudy Приглашаем frontend и backend разработчиков, аналитиков, product менеджеров, дизайнеров, тестировщиков, студентов и выпускников технических вузов.  Организатор хакатона – страховая компания «Согласие». Компания существует на рынке более 30 лет и входит в топ-10 страховщиков России. 🚀 На выбор участников хакатона — одна из задач, основанных на реальных бизнес-кейсах СК «Согласие»: 1️⃣ Web-сервис для проверки гипотез: разработайте инструмент для быстрого создания и тестирования новых страховых продуктов. Стек технологий — не ограничен. 2️⃣ Сервис для ведения проектов: разработайте систему для централизованного хранения, удобного отображения и мониторинга крупных проектов внутри компании. Допустимые стеки в данной задаче: Vue JS, PHP, C# Ключевые этапы хакатона «Код Согласия»: 🔹до 27 сентября — окончание регистрации 🔹 28 сентября — старт хакатона 🔹30 сентября, 3 октября, 5 октября — чек-поинты с экспертами 🔹 6 октября — оглашение победителей Не пропусти масштабное соревнование — присоединяйся к хакатону «Код Согласия»: https://cnrlink.com/soglasiecodedatastudy Реклама. ООО "СК"Согласие". ИНН: 7706196090. erid: LjN8KNWnN

Вредные советы по работе с данными. Если вы сломать решили всю отчетность у коллег ✏️ Не используйте стандартов — Творчество важней всего ✏️ Данные не изучайте, так грузите. Бизнес разберется сам ✏️ Про проверки и ошибки Вы не думайте впустую: Пусть искрится и горит В закромах системы Статья с юмором

GlowByte вместе с DataYoga и FanRuan запускают онлайн-ретрит по работе с BI-инструментом FineBI! 10 дней теории, практики и вдохновения от ведущих российских компаний. Узнайте о возможностях анализа и визуализации данных в FineBI, а также получите практические советы по оптимизации BI-практики от GlowByte. Программа подходит для всех, кто работает с данными, от разработчиков до руководителей. Что вас ждет: 🧘‍♂️ Инсайты от таких компаний как Tele2, Уралсиб, Циан и других 🧘‍♂️ Практические задачки от экспертов GlowByte 🧘‍♂️ Общение в чате и ежедневные встречи в эфире Стартуем 16 сентября! ⚡️Регистрируйтесь по ссылке⚡️

С праздником, друзья 🧑‍💻👩‍💻 🎉 Сегодня празднуют день программиста, всех причастных тоже поздравляю) Ну и чтобы была польза, ловите ссылку на шпаргалку по git командам, которые пригодятся всем в IT вне зависимости от специализации Статья

Серия хакатонов в рамках ИТ-конференции «Импульс Т1» стартует в Ижевске! Соревнование пройдёт с 20 по 23 сентября в гибридном формате. Призовой фонд – 600 000 рублей! К участию приглашаются команды начинающих специалистов и опытных айтишников в составе от 3 до 5 человек. Обращаем ваше внимание, что 22 и 23 сентября будет необходимо очное присутствие как минимум троих членов команды! Хакатон Т1 — это 48 часов решения реальных продуктовых задач от одного из ведущих ИТ-холдингов страны! В каждом из двух треков будут определены по 3 команды победителей, которые разделят между собой призовой фонд. Треки хакатона: «SDK приоритезатор: плагин обратной связи по продукту» Создать SDK, который позволит пользователям голосовать за новые функции приложения и/или сайта. Результаты голосования будут передаваться продуктовой команде для улучшения продукта на основе пользовательских предпочтений. «АгроНавигатор: оптимальные полеты БПЛА» Разработайте систему, которая рассчитывает полетные задания для БПЛА с учетом всех летных характеристик и нормальных погодных условий. Призы: 1 место: 140 000 рублей 2 место: 90 000 рублей 3 место: 70 000 рублей Награждается топ-3 команды в каждом из двух треков. Расписание: ➡️ 20-21 сентября — онлайн-этап (открытие задач, два чекпоинта) ➡️ 22-23 сентября — офлайн-этап в г. Ижевск (один чекпоинт, защита проектов) Участники очного этапа хакатона смогут не только побороться за карьерные перспективы и призы, но и — стать частью масштабной ИТ-конференции «Импульс Т1», где эксперты холдинга расскажут о главных трендах индустрии, поговорят об инженерии, науке и технологиях, а также поделятся своим практическим опытом; — получить работу мечты, пройдя собеседование прямо на площадке ИТ-конференции: подать заявку на участие в One Week Offer от Т1 может каждый участник хакатона при регистрации! ➡️ Успейте зарегистрироваться до 16 сентября, чтобы не пропустить приглашение на хакатон: https://cnrlink.com/hackt1izhevskdatastudy Реклама. ООО "Т1". ИНН: 7720484492. erid: LjN8KEme9

Сентябрь - время новых начинаний и начала обучения 📚🤓 Это у нас заложено видимо на уровне биологических часов после обучения в школе и университете. Лично я всегда в сентябре чувствую потребность в знаниях. Вчера выбирал интересные для себя курсы, хочу прокачаться в позиции tech lead, также хочу научиться на новом уровне писать ботов, ну и конечно направление аналитики не осталось без внимания. Есть потребность развиваться в 2 векторах: - hard техничка (инжиниринг данных и dba) - менеджмент Остается еще курсы по игре на барабанной установке найти и буду укомплектован 😅

Собеседования — это всегда «поединок» — Сколько вы готовы платить за мою должность? — А сколько вы хотите получать за вашу работу? И так до тех пор, пока не сдашься либо ты, либо HR. А ещё обсуждать условия, бонусы, режим работы, задачи, рост — как в процессе не послать всё нахрен и всё-таки устроиться на своих условиях? Об этом много пишут в канале “На собесе как на танцполе”. Внутри: • Как вести себя на каждом этапе интервью? • Как и где искать валютную удаленку? • Как каждые полгода расти в зарплате? Прохождение собеседований в IT скоро добавят как «олимпийскую дисциплину». Будьте готовы: @na_sobese

Время летит быстрей с возрастом… Вам не кажется, что чем старше ты становишься, тем быстрей пролетают дни/недели/года? Вроде только недавно планировал отпуск и собирал сумки 🧳 , а все так быстро пролетело. Только недавно кажется праздновали Новый Год и планировали лето, а за окном уже осень 🍂 Еще смотря на стажеров с их началом учебного года понимаю, что раньше успевал учиться, работать, создавать и вести свои курсы, при этом учеба занимала большой пласт времени. А сейчас постоянной учебы нет, а времени кажется еще меньше стало по ощущениям чем было раньше ⏳