Data Science. SQL hub

Не уверены, что у вас на сервере Postgres установлен правильный набор расширений? Удивляетесь, что сервер ваших коллег умеет больше, чем ваш? Присоединяйтесь к нашему вебинару «Особенности реализации запросов в PostgreSQL» и узнайте, как сделать все правильно! ✅ Практика: Создание собственных решений на основании самых полезных расширений Postgres, которые ставятся на большинство производственных серверов 📌Регистрируйтесь на урок, чтобы сделать ваш сервер Postgres лучше! https://tglink.io/96dee17b0f8c?erid=2W5zFHPyF52 #реклама О рекламодателе

🐳 Oracle Database 23.8 Free: мультиплатформенные контейнеры уже доступны! Gerald Venzl сообщил, что новые образы Oracle Database 23.8 Free теперь доступны на Docker Hub и GitHub Container Registry: - docker.io/gvenzl/oracle-free - ghcr.io/gvenzl/oracle-free 💡 Что нового: ✅ Автоплаг PDB: Если вы заранее подготовили .pdb`-файлы, просто поместите их в `/pdb-plug и укажите нужные имена через переменную ORACLE_DATABASE. Контейнер сам подключит их как полноценные базы, минуя процесс создания с нуля. ✅ Новый механизм healthcheck-кодов: Контейнер теперь возвращает коды от 0 до 5, показывая текущую стадию запуска: - 0 — база данных полностью готова - 1 — база ещё не готова - 2 — контейнер инициализируется - 3 — происходит подключение/создание PDB - 4 — выполняются init-скрипты - 5 — выполняются пользовательские startup-скрипты ✅ Новые возможности в самой Oracle Database 23.8: - Поддержка векторных операций и пользовательских функций расстояния - Расширенная работа с JSON-типами и массивами - Dynamic Statistics для PL/SQL - Elastic Vector Memory - Ограниченное выполнение JavaScript в БД (Restricted Execution Contexts) 📦 Пример запуска:

docker pull gvenzl/oracle-free:23.8-full
docker run --name oracle \
  -e ORACLE_DATABASE="mydb" \
  -v $(pwd)/mydb.pdb:/pdb-plug/mydb.pdb \
  gvenzl/oracle-free:23.8-full

📌 Подробнее @sqlhub

🌌 SlateDB — хранилище нового поколения, где облако становится диском. Этот проект переосмысливает классические LSM-движки, перенося данные не на локальный SSD, а прямо в объектные хранилища вроде S3 или MinIO. За счет этого SlateDB предлагает почти безграничную емкость и встроенную репликацию, жертвуя лишь долями секунд задержки. Разработчики добавили множество полезных фич для борьбы с лаг-проблемами: батчинг записей, кэширование блоков и bloom-фильтры превращают работу с облаком в почти локальный опыт. Интеграция через object_store позволяет подключать даже кастомные хранилища. 🤖 GitHub @sqlhub

Customer Orders — пример схемы базы данных от Oracle Примерная схема Customer Orders (CO) моделирует систему управления заказами в розничной торговле. Подходит для обучения, тестов и демонстрации возможностей Oracle Database. 🔹 Основные особенности: • Хранение товаров с описанием в JSON • Учёт заказов, клиентов, магазинов и отправок • Поддержка офлайн и онлайн-продаж • Использование современных SQL-возможностей 🔹 Таблицы: • products — товары, цены, JSON-описание и изображения • customers — покупатели с ID, именем и email • orders — заказы с датой, статусом и привязкой к магазину • order_items — позиции в заказе, количество, цена, доставка • stores — физические и онлайн-точки продаж • shipments — информация об отправке товара 📦 Схема отражает типичный розничный бизнес-процесс и показывает, как можно сочетать структурированные данные и JSON в Oracle DB. 📌 Github @sqlhub

🐘 Medoo — минималистичный PHP-фреймворк для работы с базами данных, упакованный в один файл. Этот инструмент особенно понравится тем, кто ценит простоту: подключение к MySQL, PostgreSQL или SQLite требует всего несколько строк кода, а синтаксис напоминает обычный массив PHP. Несмотря на лёгкость, фреймворк умеет строить сложные запросы, защищает от SQL-инъекций и работает с Laravel, Yii и другими популярными фреймворками. Установка через Composer занимает секунды, а MIT-лицензия позволяет использовать его даже в коммерческих проектах. 🤖 GitHub @sqlhub

👨‍💻 Знания, за которые платят, — теперь бесплатно. Yandex Cloud выпустил курс по Apache Spark и обработке больших данных на Yandex Data Processing. И это не «поверхностный вводный». Это 75 часов практики, 27 заданий, архитектура, пайплайны, Data Lakehouse, обработка массивов данных, и стриминг — всё, что нужно, чтобы разобраться, как анализировать и управлять терабайтами данных. — Курс делают практикующие архитекторы из Yandex Cloud и Hilbert Team — Можно проходить в любое время и из любой точки — И еще раз: это бесплатно. Регистрируйтесь уже сегодня. Доступ открыт тут. @sqlhub

🧠 Oracle SQL — продвинутый приём: `MERGE` вместо `UPDATE` + `INSERT` Если ты сначала пытаешься обновить строку, а если её нет — вставляешь новую, не пиши две команды. Используй MERGE — это быстрее, чище и атомарно. 🔧 Пример:

MERGE INTO employees e
USING (SELECT 101 AS emp_id, 'Alice' AS name FROM dual) src
ON (e.emp_id = src.emp_id)
WHEN MATCHED THEN
    UPDATE SET e.name = src.name
WHEN NOT MATCHED THEN
    INSERT (emp_id, name)
    VALUES (src.emp_id, src.name);

📌 Что делает: • Ищет по ключу (`ON`) • Если запись есть — обновляет • Если нет — вставляет • Всё за один проход, без гонок и лишних проверок ⚡ Почему это важно: • Меньше round-trip'ов между приложением и БД • Атомарная логика — MERGE гарантирует целостность • Лучше подходит для ETL, синхронизации, загрузки внешних данных 🧠 Вывод: если пишешь IF EXISTS THEN UPDATE ELSE INSERT — ты уже проиграл. Пиши MERGE, и база всё сделает за тебя.

⚡️Качество данных: почему это также важно для аналитика как Python и SQL Аналитик данных — это специалист, который добывает ценную информацию из достоверных данных, чтобы бизнес мог принимать обоснованные решения. Для этого используются те же инструменты, что и для самого анализа — Python, SQL, математическая статистика и автоматизация процессов. Присоединяйтесь к нашему вебинару, где разберём: 🟠Как качество данных влияет на принятие решений и карьеру аналитика; 🟠Метрики качества данных: актуальность, допустимость, полнота и другие; 🟠Частые причины проблем с качеством данных; 🟠Методы повышения качества данных: определение требований к КД, мониторинг КД, решение инцидентов. Спикер: Павел Беляев, руководитель группы дата-аналитиков в компании Яндекс eLama. 📅 Встречаемся 24 июня в 18:30 по МСК 😶Зарегистрироваться на бесплатный вебинар

🚀 Парадигма меняется: Polaris выводит локальные модели на новый уровень Polaris — это набор простых, но мощных приёмов, который позволяет даже компактным LLM (4 B, 7 B) догнать и превзойти «тяжеловесов» на задачах рассуждения (открытая 4B модель превосходи Claude-4-Opus). Вот как это работает и почему важно: • Управление сложностью данных – Генерируем несколько (например, 8) вариантов решения от базовой модели – Оцениваем, какие примеры слишком простые (8/8) или слишком сложные (0/8), и убираем их – Оставляем «умеренные» задачи с правильными решениями в 20–80 % случаев, чтобы быть ни слишком лёгкими, ни слишком сложными • Разнообразие «прогонов» (rollout-ов) – Мы запускаем модель несколько раз на одной и той же задаче и смотрим, как меняются её рассуждения: одни и те же входные данные, но разные «пути» к решению. – Считаем, насколько разнообразны эти пути (т. е. их «энтропия»): если модели всё время идут по одной линии, новых идей не появляется; если слишком хаотично — рассуждения неустойчивы. – Задаём начальную “температуру” генерации там, где баланс между стабильностью и разнообразием оптимален, а затем постепенно её повышаем, чтобы модель не застревала на одних и тех же шаблонах и могла исследовать новые, более креативные ходы. • “Train-short, generate-long” – Во время RL-обучения используем короткие цепочки рассуждений (короткие CoT) для экономии ресурсов – На inference увеличиваем длину CoT, чтобы получить более детальные и понятные объяснения без накрутки стоимости обучения • Динамическое обновление датасета – По мере роста точности удаляем примеры с accuracy > 90 %, чтобы не «портить» модель слишком лёгкими задачами – Поддерживаем постоянный вызов модели на её пределе возможностей • Улучшенная reward-функция – Комбинируем стандартный RL-reward с бонусами за разнообразие и глубину рассуждений – Это позволяет модели учиться не только давать правильный ответ, но и объяснять логику своих решений Преимущества Polaris • Благодаря Polaris даже компактные LLM (4 B и 7 B) достигают и даже «тяжеловесов» (32 B–235 B) на AIME, MATH и GPQA • Обучение на доступных GPU уровня consumer-grade — до 10× экономии ресурсов и затрат по сравнению с традиционными RL-пайплайнами • Полный открытый стек: исходники, подборка данных и веса • Простота и модульность: готовый к использованию фреймворк для быстрого внедрения и масштабирования без дорогостоящей инфраструктуры Polaris доказывает, что качество данных и грамотная настройка RL-процесса важнее просто «больших моделей». С ним вы получите продвинутую reasoning-LLM, которую можно запустить локально и масштабировать везде, где есть обычная GPU. ▪Blog post: https://hkunlp.github.io/blog/2025/Polaris ▪Model: https://huggingface.co/POLARIS-Project ▪Code: https://github.com/ChenxinAn-fdu/POLARIS ▪Notion: https://honorable-payment-890.notion.site/POLARIS-A-POst-training-recipe-for-scaling-reinforcement-Learning-on-Advanced-ReasonIng-modelS-1dfa954ff7c38094923ec7772bf447a1 @ai_machinelearning_big_data #ml #ai • #Polaris #PostTraining #ReinforcementLearning #LLM

«Я в режиме реального времени поясняла структуру запросов / ответов в Postman и разбирала документацию в Swagger», — пишет аналитик, который прошел наш курс, а потом два технических собеседования в международные компании. Приятно, конечно ❤️ Если в 2025 году вы хотите: — научиться выбирать стиль интеграции под вашу задачу; — начать проектировать с нуля и описывать интеграции в современных стилях (API: REST, SOAP, gRPC и других, + брокеры сообщений); — узнать как правильно собирать требования и моделировать в UML; — подготовиться к собеседованию, решив более 100 заданий; — запустить свой API на Python. Значит наш курс для вас! 🚀 Начните с открытых бесплатных уроков — переходите в бот курса и жмите «Старт» 👇 @studyit_help_bot 🚀 Скидка на курс от канала — 1 000₽ на Stepik по промокоду SQLHUB до конца июня.

🦀 Новый SQL-клиент на Rust — rsql Лёгкий, быстрый и мощный инструмент для работы с файлами и базами данных из терминала. 📌 Что умеет ● Поддержка множества форматов: CSV, JSON, Parquet, Excel, XML, YAML, Avro и др. ● Подключение к SQLite, PostgreSQL, MySQL, SQL Server, DuckDB, Snowflake, CrateDB и даже DynamoDB ● Работа с архивами: Gzip, Zstd, Brotli, LZ4, Bzip2 и др. ● Удобная CLI: автодополнение, подсветка, история, интерактивный REPL ● Вывод в разных форматах: Markdown, HTML, JSON, CSV, plaintext ● 100 % безопасный Rust-код — #![forbid(unsafe_code)] ● Кастомизация: Vi/Emacs режимы, локализации, собственные темы вывода 📥 Установка

curl -LsSf https://raw.githubusercontent.com/theseus-rs/rsql/main/install.sh | sh

🧪 Пример использования

# Одноразовый запрос к SQLite
rsql --url "sqlite://file.db" -- "SELECT * FROM users LIMIT 5;"

# Интерактивная сессия с PostgreSQL
rsql --url "postgres://user:pass@localhost/db"

🆕 Что нового в v0.19.0 Добавлены драйверы CrateDB и FlightSQL Появился metadata-catalog для удобной навигации по источникам данных Улучшены примеры, обновлены зависимости, повышена стабильность 🔗 GitHub: https://github.com/theseus-rs/rsql rsql — универсальный инструмент, который понравится аналитикам, разработчикам и data-инженерам, нуждающимся в максимально быстром и простом SQL-клиенте. @sqlhub

MТС Web Services приглашает на митап True Tech QA 📍 3 июля | 19:00 📍 Офлайн в Москве | Онлайн На True Tech QA выступят эксперты из MWS, Альфа-банка и BugBuster. Обсудим мобильную ферму с возможностью ручного и автотестирования MWS SunQ, фреймворк Akita2, автотесты на естественном языке и процессы предективной оценки качества. Для участия зарегистрируйся по ссылке

🐘 MikroORM — ORM на TypeScript с “Unit of Work”. Этот инструмент привносит паттерны Data Mapper и Identity Map из мира Java/Hibernate в экосистему Node.js. Здесь изменения накапливаются и применяются одной транзакцией при вызове em.flush(), что упрощает работу со сложными доменными моделями. Для работы с отношениями достаточно добавить entity в коллекцию, и MikroORM сам решит, нужен INSERT или UPDATE. Инструмент поддерживает 7 СУБД, включая MongoDB и libSQL, а для валидации достаточно декораторов в духе @Property(). 🤖 GitHub @sqlhub

🧩 Интересная SQL-задача: «Вечные работники» Представим, что у вас есть таблица employees, где хранится история переводов сотрудников между отделами:

CREATE TABLE employees (
    employee_id INT,
    department VARCHAR(50),
    start_date DATE,
    end_date DATE
); 

Пример данных: employee_id department start_date end_date 1 Sales 2020-01-01 2022-01-01 1 HR 2022-01-02 NULL 2 Sales 2019-05-01 2021-05-01 2 Sales 2021-05-02 NULL 3 HR 2022-06-01 NULL 🎯 Задача: Найдите всех сотрудников, которые работали в одном и том же отделе без перерыва более 3 лет. Если человек работал в Sales 2+ периода подряд — они считаются одним, если не было пропуска между ними. 🛠 Решение на PostgreSQL:

WITH ordered_periods AS (
  SELECT *,
         LAG(end_date) OVER (PARTITION BY employee_id, department ORDER BY start_date) AS prev_end
  FROM employees
),
grouped_periods AS (
  SELECT *,
         CASE
           WHEN prev_end IS NULL OR prev_end + INTERVAL '1 day' < start_date THEN 1
           ELSE 0
         END AS is_new_group
  FROM ordered_periods
),
group_tags AS (
  SELECT *,
         SUM(is_new_group) OVER (PARTITION BY employee_id, department ORDER BY start_date) AS group_id
  FROM grouped_periods
),
grouped_ranges AS (
  SELECT employee_id, department, group_id,
         MIN(start_date) AS period_start,
         MAX(COALESCE(end_date, CURRENT_DATE)) AS period_end
  FROM group_tags
  GROUP BY employee_id, department, group_id
),
long_periods AS (
  SELECT employee_id, department, period_start, period_end,
         (period_end - period_start) AS duration_days
  FROM grouped_ranges
  WHERE period_end - period_start > INTERVAL '3 years'
)
SELECT *
FROM long_periods;

🔍 Разбор логики: • Сначала находим предыдущие даты окончания для сравнения. • Метим, где начинается новая непрерывная группа. • Суммируем метки — получаем уникальные группы без разрывов. • Группируем и считаем длительность. • Оставляем только тех, кто проработал более 3 лет подряд в одном отделе. 📌 Такая задача хороша для собеседований: проверяет оконные функции, интервалы и группировки по логике, а не только по ключам. @sqlhub

⚡Открытая трансляция главного зала Saint HighLoad++ 2025!🖐️ Подключайтесь и слушайте доклады от спикеров Garage Eight, Яндекса, Сбера, Ozon и других компаний. Saint HighLoad++ 2025 — это конференция, которая определяет будущее высоконагруженных систем. 23 и 24 июня все желающие могут бесплатно посмотреть онлайн-трансляцию главного зала. Открытую трансляцию организовали совместно с генеральным партнером конференции — Garage Eight. Garage Eight — международная продуктовая IT-компания. С 2011 года развивает экосистему высоконагруженных инвестиционных продуктов, у которых сотни тысяч пользователей в 183 странах. Продукты отмечены наградами от Global Banking and Finance Review, Global Business Magazine и World Business Stars. Как всегда, в главном зале — топовые эксперты и самые актуальные темы. ✅ Подключайтесь! 

🌐 Можно ли научить нейросеть строить 3D-модель мира и предсказывать динамику объектов прямо по видео? Particle-Grid Neural Dynamics — симулятор для деформируемых объектов, который учится на реальных видео и моделирует физику без ручных скриптов. Это новый шаг к обучаемым 3D-симуляциям, где движение объектов и их взаимодействия “считываются” из обычных видеозаписей! Мир становится объёмнее — теперь нейросеть учится понимать и предсказывать физику, просто наблюдая за реальными сценами. Website: https://kywind.github.io/pgnd ArXiv: https://arxiv.org/abs/2506.15680 Code: https://github.com/kywind/pgnd Demo: https://huggingface.co/spaces/kaifz/pgnd

Что происходит на российском рынке СУБД? Интервью с Леонидом Савченковым (Yandex Cloud) — хороший повод заглянуть под капот того, как сейчас строятся платформы данных в России. Если коротко: — Фокус платформы Yandex Cloud — стабильность, масштабируемость и надёжность; — Запущена on-prem модель: некоторые решения Яндекса можно использовать не только в облаке, но и на своих серверах; — После закрытия Greenplum Яндекс делает ставку на Cloudberry — open source-проект в Apache Foundation, уже сравнялся Greenplum 7 по части функциональности; — В Cloudberry активно коммитят сами ребята из Яндекса — по сути, продолжают жизнь проекта; — На Data&ML2Business показали важные обновления: YTsaurus как управляемый сервис, улучшения в DataLens и новая сертификация аналитиков. Кому интересна эволюция отечественной инфраструктуры данных — читать стоит. Особенно если в поле зрения BI, ML или просто Postgres с шардированием.

🧩 От кода к сообществу: коллективный вклад в SQL Server 2025 Сегодня, 16 июня 2025, Microsoft анонсировала публичный превью SQL Server 2025 — релиз, который они называют самым масштабным за последние 10 лет. ● 🔐 Безопасность и производительность Более 50 улучшений в движке: усиленная защита (интеграция с Entra), оптимизация tempdb и решение «Halloween problem». Партнёры вроде HPE демонстрируют отличную масштабируемость в продакшене. ● 🤖 Встроенный AI и векторный поиск Нативная поддержка векторных индексов и embeddings — можно запускать генеративные модели и семантический поиск прямо внутри SQL Server без ETL. Алгоритмы DiskANN позволяют делать это эффективно даже без GPU. ● 👨‍💻 Новый уровень для разработчиков Поддержка JSON‑типов, RegEx-функций, REST‑API и стриминга изменений (Change Event Streaming). Вышли SSMS 21 и новая редакция Standard Developer. ● ☁️ Гибрид и облако через Azure Фича Fabric mirroring позволяет делать live-зеркало в Microsoft Fabric для real-time аналитики. Расширенная поддержка Azure Arc позволяет управлять SQL Server в гибридной инфраструктуре (on-premises + облако). ● 🤝 Сообщество в центре внимания Над релизом работали MVP, инженеры Microsoft и партнёры. В блоге есть доклады с Build 2025, интервью и видео от Bob Ward, Muazma Zahid, Anthony Nocentino и других. SQL Server 2025 — это AI-оптимизированный движок нового поколения: безопасный, гибкий, ориентированный на разработчиков и тесно интегрированный с облаком. Подробнее @sqlhub

🗂️ Entity Framework Core — ORM нового поколения для работы с БД. Этот инструмент от Microsoft кардинально меняет подход к взаимодействию с реляционными и NoSQL базами данных. Для работы инструмент предоставляет мощный слой абстракции, позволяя работать с данными как с объектами, автоматизируя CRUD-операции и миграции схемы. EF Core поддерживает широкий пласт СУБД: от классических SQL Server и PostgreSQL до документоориентированной Cosmos DB. Для SQLite-разработчиков есть отдельный оптимизированный провайдер Microsoft.Data.Sqlite. 🤖 GitHub @sqlhub

🎓 Магистратура по ИИ от МТС и НИУ ВШЭ «Исследования и предпринимательство в искусственном интеллекте» — очная программа для тех, кто хочет учиться на реальных кейсах и работать с большими языковыми моделями, видеоаналитикой, синтезом речи и ML в бизнесе. 📍 Где и как: • Кампус ВШЭ в Москве • 30 оплачиваемых мест от МТС • Обучение с доступом к MWS Cloud и GPU • 70% преподавателей — специалисты из MTS AI / MWS 🛠 Что в программе: • LLM под задачи бизнеса • ML на edge-устройствах • Распознавание и синтез речи • Технологическое предпринимательство 👨🏻‍🎓 Поступление: • Портфолио • Мотивационное письмо • Онлайн-экзамен • Собеседование • Конкурс на Kaggle Лучшие студенты получают офферы и стажировки уже в процессе обучения. Приём заявок стартует 20 июня. @sqlhub