Data Science. SQL hub

Вы играли в детстве в «Героев меча и магии»? А что, если в них добавить немного дата-аналитики и технологий работы с данными? Yandex Cloud вместе с Forbes запустили мини-игру, отчасти вдохновленную «Героями». ⚔️ В этой игре ты становишься «Героем данных и киберпанка», а привычные инструменты — PostgreSQL, ClickHouse, Trino, DataLens и другие — превращаются в артефакты с уникальными свойствами. Их можно получить у хранителей или создать в кибер-кузнице. 🐉 В проекте можно найти отсылки к классической игре, например, «Аналитики объявили месяц Чистых Логов. Время поиска багов уменьшилось втрое». 🎯 Игроки выбирают героя и помогают ему решить задачи из финтеха, ритейла или промышленности. Для победы нужно собрать нужный набор артефактов и справиться с «дата-хаосом». 🖥 Игра доступна на десктопе и мобильных устройствах. 📊 В дополнение к игровому опыту на лендинге есть реальные примеры, как компании используют решения Yandex Cloud для аналитики и обработки данных в бизнесе. 👉 Подробнее и поиграть можно здесь.

Полезная шпаргалка по консольным командам Git 👍 В Git полно команд, и если ты часто их забываешь, эта шпаргалка специально для тебя. В репозитории можно быстро почитать об основных командах и концепциях, а затем одним вальяжным нажатием на Ctrl+C скопировать их. Приятный бонус — всё написано на русском. Так что сохраняем! #git #шпаргалка

Развернуть PostgreSQL в MWS Cloud Platform ⬜️ — быстрее, чем вспомнить пароль от pgAdmin. И точно быстрее, чем объяснить DevOps'у, зачем ещё одна база. Всего несколько минут и у вас:

⏺️готовая база на сетевых или локальных дисках ⏺️постоянный primary endpoint ⏺️безопасное подключение через Private Link ⏺️автоматические бэкапы и обслуживания по твоему расписанию

🎄🎁 И грант до 10 000 ₽ на запуск — чтобы точно не пришлось вспоминать, как настраивать failover вручную. ➡️Развернуть кластер

📦 Распределенная база данных FoundationDB 🚀 FoundationDB — это распределенная база данных, оптимизированная для обработки больших объемов структурированных данных. Она использует упорядоченное хранилище ключ-значение и поддерживает ACID-транзакции, обеспечивая высокую производительность как для чтения, так и для записи. 🚀Основные моменты: - Поддержка ACID-транзакций для надежности данных. - Высокая производительность для рабочих нагрузок с частыми записями. - Гибкая архитектура для масштабирования на кластерах серверов. - API для взаимодействия на различных языках программирования. 📌 GitHub: https://github.com/apple/foundationdb @sqlhub

🐘 Postgres использует архитектуру «отдельный процесс на каждое подключение», поэтому в большинстве случаев вам нужен connection pooler. Пул соединений вставляется между приложением и базой: он держит набор постоянных подключений и динамически назначает их входящим запросам. Самый распространённый инструмент - PgBouncer, у которого есть три режима работы. 1) Session pooling - каждое приложение-подключение закрепляется за одним pooled-соединением. 2) Transaction pooling - каждую транзакцию привязывают к pooled-соединению и освобождают сразу после завершения. 3) Statement pooling - каждое выражение получает соединение, но нет поддержки многозапросных транзакций, что сильно ограничивает кейсы. Режим 1 плохо решает проблемы высокой конкуренции Postgres, поэтому обычно не подходит при большом числе подключений. Режим 3 слишком ограничивающий, так как многозапросные транзакции нужны многим приложениям. В итоге режим 2 даёт лучший баланс возможностей и контроля над соединениями. Именно transaction pooling, тот режим, который PlanetScale применяет для всех своих PgBouncer-инстансов. @sqlhub

🛠 SQL всему голова! 24 декабря в 20:00 на бесплатном уроке поговорим про PostgreSQL FDW: швейцарский нож для интеграций или как я перестал бояться разнородных данных. Будет интересно! 🔭 Разберем Foreign Data Wrappers — встроенную возможность PostgreSQL подключаться к любым внешним источникам данных. Научитесь делать JOIN между MySQL, MongoDB, Redis и даже CSV-файлами в одном SQL-запросе. 📚 Что будет на уроке: ✅ Live demo с 4 БД одновременно: подключим MySQL, MongoDB, Redis и CSV-файл к Postgres, сделаем JOIN в одном запросе ✅ Реальный кейс миграции: как перенести данные с MySQL на Postgres без остановки приложения через postgres_fdw ✅ Production tips: производительность FDW, кэширование, когда использовать, а когда это overkill и лучше ETL 🚩 Приходите узнать, как PostgreSQL превращается в универсальный хаб для всех ваших данных: покажем JOIN таблиц из MySQL и MongoDB в одном запросе, миграцию без downtime и почему это может заменить половину ваших ETL-процессов. 👉 Успейте записаться на бесплатный вебинар: https://otus.pw/az47/ Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576

Microsoft запустила VibeVoice Realtime на Hugging Face - лёгкую стриминговую text-to-speech модель, которая начинает озвучивать текст примерно за 300 миллисекунд. Идеально для живых данных и разговоров с LLM. huggingface.co/microsoft/VibeVoice-Realtime-0.5B

🖥 Оптимизация запросов с индексами Индексы могут значительно ускорить выполнение ваших запросов в SQL, особенно на больших таблицах. Убедитесь, что вы создали индексы на колонках, которые часто используются в условиях WHERE и JOIN.

CREATE INDEX idx_customer_lastname ON customers(last_name);

SELECT * FROM customers
WHERE last_name = 'Smith'
ORDER BY first_name;

SELECT COUNT(*) FROM orders
WHERE customer_id IN (SELECT id FROM customers WHERE last_name = 'Smith');

🖥 Хитрая SQL-задача Одна из самых частых хитрых задач на SQL: достать последний заказ каждого пользователя из таблицы orders(user_id, created_at, amount, id). Многие пишут что-то вроде SELECT user_id, MAX(created_at), amount FROM orders GROUP BY user_id и получают тихий баг: amount не гарантированно принадлежит самому свежему заказу, СУБД просто берёт любое значение из группы. Правильный подход - сначала пронумеровать строки с помощью оконной функции ROW_NUMBER() по каждому пользователю, отсортировав по дате (и, на всякий случай, по id), а потом взять только те записи, где rn = 1. Так вы всегда получите консистентную пару «последняя дата + правильная сумма» без скрытых расхождений.

WITH w AS (
    SELECT
        user_id,
        amount,
        created_at,
        SUM(amount) OVER (
            PARTITION BY user_id
            ORDER BY created_at
            RANGE BETWEEN INTERVAL '3 day' PRECEDING AND CURRENT ROW
        ) AS sum_3d
    FROM payments
)
SELECT DISTINCT user_id
FROM w
WHERE sum_3d > 500;

@sqlhub

SQLite-Vec — крошечная и портативная vectorDB на базе SQLite SQLite-Vec — это сверхлёгкая и очень быстрая векторная база данных, встроенная прямо в SQLite. Идеальный вариант для on-device RAG, edge-приложений и локальных AI-сценариев без тяжёлой инфраструктуры. Почему это интересно: - Работает поверх обычного SQLite - Минимальный оверхед и высокая скорость - Отлично подходит для локального поиска по эмбеддингам Ключевые возможности: - Matryoshka embedding slicing — работа с усечёнными эмбеддингами - До 32x экономии места за счёт бинарной квантизации - Поддержка метрик L2, cosine и Hamming distance - SQL-запросы для vector search без отдельной vectorDB По сути, это vector search без Kubernetes, без сервисов и без боли — просто SQLite с суперспособностями. Отличный выбор для: - локальных RAG-агентов - десктопных AI-приложений - embedded-систем - офлайн-поиска по знаниям

📘 На Stepik вышел курс — «SQL для технических собеседований» Теряете офферы на SQL-секции? Знаете синтаксис, но теряетесь на лайвкодинге? Этот курс — прямой путь к прохождению технических интервью. • Базовый SQL: SELECT, WHERE, JOIN — база для любого собеседования • Агрегация: GROUP BY, HAVING — закрываем 80% задач на интервью • Подзапросы, CTE, рекурсии — то, что спрашивают на Middle+ • Оконные функции: ROW_NUMBER, RANK, LAG/LEAD — любимая тема интервьюеров • Оптимизация: индексы, план выполнения — отличает сильных кандидатов • Лайвкодинг: как думать вслух и не зависать под давлением 70+ задач из реальных собеседований в Яндексе, Тинькофф, FAANG Финальный тест — 15 реальных задач за 60 минут Подходит разработчикам, аналитикам, тестировщикам, DevOps 🎓 Сертификат для резюме и LinkedIn 🚀 Скидка 25%, действует 48 часов Старт потока 24 декабря 👉 Пройти курс

Данные — сырьё для гипотез. А без гипотез не получится успешный продукт. В VK аналитики помогают продуктам говорить на языке пользователей. Узнайте, как принципы помогают VK превращать гипотезы в фичи и чем гордятся команды. Переходите по ссылке — вдохновляйтесь и присоединяйтесь.

🔍 Быстрый клиент PostgreSQL для разработчиков Data Peek — это легкое и быстрое настольное приложение для работы с PostgreSQL, позволяющее разработчикам быстро просматривать данные без лишнего функционала. Поддерживает много вкладок, редактирование данных и визуализацию отношений между таблицами. 🚀Основные моменты: - Мгновенный запуск за 2 секунды - Редактор запросов с подсветкой синтаксиса - Поддержка темного и светлого режимов - Безопасное хранение учетных данных - Анализ производительности запросов 📌 GitHub: https://github.com/Rohithgilla12/data-peek

🕒 Расширенный планировщик задач для PostgreSQL pg_timetable - это мощный планировщик задач для PostgreSQL, который предлагает гибкие возможности для автоматизации выполнения SQL-команд и системных программ. Он полностью управляется из базы данных и поддерживает сложные сценарии планирования, включая цепочки задач и автоматическое повторение пропущенных заданий. 🚀 Основные моменты: - Полностью управляемая конфигурация через базу данных - Поддержка YAML для удобного определения цепочек задач - Возможность передачи параметров и автоматического повторения задач - Встроенные задачи, такие как отправка email и импорт файлов - Расширенные возможности планирования по типу cron 📌 GitHub: https://github.com/cybertec-postgresql/pg_timetable @sqlhub

Только в декабре: скидка 10 % на курсы и программы в IT от НИУ ВШЭ Центр непрерывного образования факультета компьютерных наук НИУ ВШЭ предлагает всем, кто готов начать новый год с погружения в IT-индустрию, скидку 10% на курсы и программы. Профессии: 🟣Специалист по Data Science: старт — 11 февраля, продолжительность — 1.5 года. 🟣Аналитик данных: старт — 25 февраля, продолжительность — 1 год. 🟣Дата-инженер: старт — март-апрель 2026 год, продолжительность — 1 год. Очные курсы: 🟣Алгоритмы и структуры данных: старт — 12 января, продолжительность — 10 занятий. 🟣SQL для анализа данных: старт — 14 января, продолжительность — 10 недель. 🟣Прикладная статистика для машинного обучения: старт — 17 января, продолжительность — 10 недель. 🟣Машинное обучение: старт — 9 февраля, продолжительность — 14 недель. 🟣Глубинное обучение: старт — 19 марта, продолжительность — 10 недель. 🟣Математика для анализа данных: старт — 2 апреля, продолжительность — 21 занятие. 🟣BI-аналитика и визуализация данных: старт — 20 мая, продолжительность — 7 недель. Онлайн-курсы: 🟣Промпт-инжиниринг: нейросети для человека: старт — 30 января, продолжительность — 6 недель. 🟣Python для автоматизации и анализа данных: старт — 3 февраля, продолжительность — 9 недель. 🟣SQL для начинающих: старт — 16 февраля, продолжительность — 2 месяца. 🟣Аналитика в Business Intelligence: старт — 17 февраля, продолжительность — 1 месяц. 🟣LLM: создание и интеграция интеллектуальных ассистентов: старт — 23 марта, продолжительность — 13 недель. 🟣GameDev: разработчик игр: старт — 30 марта, продолжительность — 5 месяцев. 🟣Искусственный интеллект в образовании: старт — 6 апреля, продолжительность — 1 месяц. 🟣Искусственный интеллект для руководителей: старт — 20 апреля. 🟣Frontend-разработчик: старт — апрель 2026 года, продолжительность — 4 месяца. Скидка действует при подаче заявки до 31 декабря. ⚡️ Узнать подробнее о каждой программе НИУ "ВШЭ". ИНН 7714030726. erid:2SDnje4QSab

🖥 SQL большой гайд. Как правильно выбрать ORM Эта статья - не про «как написать SELECT, а про настоящую инженерную работу: принципы нормализации, дизайн схем, практики оптимизации SQL, работа с транзакциями, и главное - как выбрать и использовать ORM так, чтобы он помогал, а не мешал. Если тебе нужен инструмент, который выдержит рост проекта и не взорвётся через год, здесь ты найдёшь системный подход, проверенные шаблоны и практические примеры, которым уже доверяют зрелые инженерные команды. Готовы? Тогда начинаем строить архитектуру, которую не стыдно масштабировать. https://uproger.com/sql-bolshoj-gajd-kak-pravilno-vybrat-orm/ @sqlhub

🔥 На stepik вышел курс, который учит Создавать настоящие AI-сервисы, а не просто запускать скрипты? Этот практический курс по Python и FastAPI покажет, как собрать полноценное приложение с ИИ, базой данных, автогенерацией контента и Telegram-ботом. Ты пройдёшь путь от первого HTTP-запроса до рабочего сервиса, который сам генерирует текст через ИИ, сохраняет данные, отправляет результаты по расписанию и отвечает пользователям. Никакой теории ради теории - только практические шаги, из которых рождается реальный продукт. 🎁 48 часов действует скидка в 40% процентов 👉 Начать учиться на Stepik

📌 Durable Execution Engine на SQLite: • Durable Execution (DE) - это подход, который позволяет выполнять длинные многошаговые процессы так, чтобы после сбоя можно было продолжить с последнего успешного шага, а не запускать всё заново. • В статье показан простой Proof of Concept - Persistasaurus: лёгкий DE-движок на Java, который использует SQLite как хранилище состояния. • Потоки (flows) пишутся как обычный Java-код: методы помечаются аннотациями @Flow и @Step, а их прогресс автоматически сохраняется. Если процесс падает, можно безопасно перезапустить его без повторного выполнения шагов. • Идея не новая, но современная Java + SQLite позволяют сделать удивительно компактное и понятное решение без тяжёлой инфраструктуры. Почему это полезно: • Упрощает работу с долгоживущими процессами • Избавляет от повторных вычислений и экономит ресурсы • Подходит для прототипов, внутренних сервисов и задач средней сложности Что учитывать: • Это только прототип - для реальных больших систем нужно масштабирование, отказоустойчивость, параллелизм и дополнительные инструменты • SQLite отлично подходит для простых сценариев, но не для высоконагруженных распределённых систем 🔗 Читаем тут: morling.dev/blog/building-durable-execution-engine-with-sqlite/