SQL задачи

🔥 Научитесь работать с базами данных и анализировать данные на новом уровне! Курс «SQL для разработчиков и аналитиков» подходит как для новичков, так и для опытных специалистов. ✅ Вы изучите основы реляционных БД, научитесь создавать сложные SQL-запросы, работать с различными СУБД (PostgreSQL, MySQL, SQL Server) и оптимизировать запросы для повышения производительности. ✅ Вы освоите как базовый, так и продвинутый синтаксис SQL. Применяйте эти навыки для решения реальных задач. ⏰ Набор скоро закроется, не упустите шанс прокачать свои навыки и открыть новые перспективы для карьерного роста. Пройдите тест и получите скидку на обучение: https://vk.cc/cNbsJ2 Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576, www.otus.ru

🚨 Не пропустите 19 июня в 20:00 бесплатный вебинар “SQL: Расширяем понимание индексов в PostgreSQL и MS SQL Server” от курса “SQL для аналитиков и разработчиков”. На вебинаре обсудим: ✅ Какие ещё типы индексов существуют помимо классического B-Tree. ✅ Как разные СУБД реализуют поддержку дополнительных индексов. ✅ Где могут быть полезны GIN, GiST, BRIN, Columnstore и другие варианты. ✅ Как подходить к выбору типа индекса под конкретную задачу. В результате вебинара вы сможете: — Лучше ориентироваться в возможностях индексирования в PostgreSQL и MS SQL Server. — Понимать, какой тип индекса подходит для разных типов данных и запросов. — Использовать дополнительные индексы там, где это действительно имеет смысл. — Повысить эффективность работы с БД за счёт грамотного выбора индексации. ⏰ Оставляйте заявку на бесплатный урок и получите запись прошлого вебинара: https://vk.cc/cMV3O6 Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576, www.otus.ru

Что вернёт запрос?

SELECT
CONCAT(LEFT(first_name, 1), '.', LEFT(last_name, 1), '.') AS abbreviation
FROM customer;

Схема БД и код для генерации данных находятся в шапке канала. Запрос не выдает число или конкретную категорию. Просто опишите результат своими словами в комментариях. А для тех, кто предпочитает тесты, опубликуем тест с вариантами ответа в следующем посте. Если вам понравился вопрос - зашарьте его друзьям 👉 SQLQuestions

🚗 Как найти кратчайший маршрут с помощью Apache Spark и GraphFrames Разбираем кейс на реальных данных из OpenStreetMap — ищем оптимальный маршрут 🔍 Что делаем 1. Загружаем граф дорог города с помощью OSMnx 2. Сохраняем вершины и ребра с координатами, скоростями и геометрией 3. Загружаем всё в Spark 4. Находим кратчайший путь с помощью GraphFrames 📍 1. Скачиваем карту и строим граф улиц

import osmnx as ox

# Загрузка данных о дорогах Москвы
G = ox.graph.graph_from_place("Moscow", network_type="drive")

# Отображение дорог на карте
moscow_gdf = ox.geocoder.geocode_to_gdf("Moscow")
fig, ax = ox.plot.plot_graph(G, show=False, close=False, bgcolor="#111111", edge_color="#ffcb00", edge_linewidth=0.3, node_size=0)
moscow_gdf.plot(ax=ax, fc="#444444", ec=None, lw=1, alpha=1, zorder=-1)

# Настройка границ карты
margin = 0.02
west, south, east, north = moscow_gdf.union_all().bounds
margin_ns = (north - south) * margin
margin_ew = (east - west) * margin
ax.set_ylim((south - margin_ns, north + margin_ns))
ax.set_xlim((west - margin_ew, east + margin_ew))
plt.show()

📁 2. Сохраняем геометрическое описание города в формате GeoJSON и данные о вершинах и рёбрах в формате CSV

with open('Moscow.geojson', 'w') as file:
    file.write(moscow_gdf.to_json())

nodes = G.nodes(data=True)
with open('nodes.csv', 'a') as file:
    file.write("id,lat,lonn")
    for (node, data) in nodes:
        file.write("%d,%f,%fn" % (node, data.get("y"), data.get("x")))

edges = G.edges(data=True)
def decode_maxspeed(maxspeed):
    match maxspeed:
        case str():
            match maxspeed.lower():
                case "ru:urban": return 60
                case "ru:rural": return 90
                case "ru:living_street": return 20
                case "ru:motorway": return 110
                case _: return int(maxspeed)
        case list(): return min(list(map(decode_maxspeed, maxspeed)))
        case _: return maxspeed

with open('edges.csv', 'a') as file:
    file.write("src,dst,maxspeed,length,geometryn")
    for (src, dst, data) in edges:
        maxspeed = decode_maxspeed(data.get("maxspeed", 999))
        length = float(data.get("length"))
        geometry = shapely.wkt.dumps(data.get("geometry"))
        file.write("%d,%d,%d,%f,%sn" % (src, dst, maxspeed, length, geometry))

3. Используем библиотеку GraphFrames для обработки графов на Apache Spark

from pyspark.sql import SparkSession

spark = SparkSession.builder 
    .config("spark.jars.packages", "graphframes:graphframes:0.8.4-spark3.5-s_2.12") 
    .master("local[*]") 
    .appName("GraphFrames") 
    .getOrCreate()

nodes = spark.read.options(header=True).csv("nodes.csv")
edges = spark.read.options(header=True).csv("edges.csv")

# Вычисление времени прохождения рёбер
edgesT = edges.withColumn("time", edges["length"] / edges["maxspeed"])

# Построение графа
from graphframes import *

g = GraphFrame(nodes, edgesT)

🧭 4. Ищем кратчайший путь по времени например, от Измайлово до ЖК Зиларт

src = "257601812"
dst = "5840593081"

paths = g.shortestPaths(landmarks=[dst])
paths.filter(F.col("id") == src).show(truncate=False)

💡 Результат: 40 шагов от точки A до точки B. Такой подход легко масштабируется на миллионы маршрутов. Используйте Spark и GraphFrames для построения логистических моделей, маршрутизации и городского планирования. 🚀 Хотите прокачаться в работе с Big Data? Изучайте Spark! Записывайтесь на курс Spark Developer от OTUS — учитесь на реальных данных и продвинутых кейсах: https://vk.cc/cMT1Hp Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576

Задачка по нашей базе данных, которая находится в шапке канала. Код генерации базы данных и INSERT данных по ссылке ТУТ. ВОПРОС: Какой тип JOIN следует использовать между таблицами customer и order_table, чтобы отобразить всех клиентов, включая тех, кто не делал заказов? Ответ под спойлером, но если хотите сперва проверить свою догадку, следующим постом опубликуем тест с вариантами ответов. Правильный ответ ⤵️ LEFT JOIN Если вам понравился вопрос - зашарьте его друзьям 👉 SQLQuestions

17 июня встречаемся на Database meetup от команды Авито! Собираемся в московском офиса Авито и онлайн, чтобы послушать 3 выступления с реальными кейсами от инженеров Авито. Если кратко, то обсудим: ➡️ Контроль ресурсов в DBaaS и проблему шумного соседа; ➡️ Отказ от репликации и жизнь из кэша; ➡️ Как перейти с Apache Kafka и Pulsar на Redpanda. И, само собой, останется время и для нетворкинга! Регистрируйтесь по ссылке и приходите оффлайн или онлайн.

Как масштабировать машинные модели и работать с огромными объемами данных? Откройте для себя возможности Spark ML на открытом уроке от OTUS! Spark ML — это мощный инструмент для масштабируемого машинного обучения, который позволяет обучать модели на больших данных, не переходя на специализированные ML-системы. Мы покажем, как интеграция с Spark SQL и DataFrame API упрощает ETL-подготовку данных и фичуризацию для реальных проектов. Убедитесь, как Spark ML решает задачи отказоустойчивости и распределённых вычислений, позволяя вам легко строить промышленные ML-пайплайны. Посетите открытый урок 11 июня в 20:00 МСК в преддверие старта курса «Spark Developer» и получите скидку на обучение: https://vk.cc/cMy4tv Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576

Задачка по нашей базе данных, которая находится в шапке канала. Код генерации базы данных и INSERT данных по ссылке ТУТ. ВОПРОС: Что обеспечивает внешний ключ FOREIGN KEY (category_id) REFERENCES category(category_id) в таблице product? Ответ под спойлером, но если хотите сперва проверить свою догадку, следующим постом опубликуем тест с вариантами ответов. Правильный ответ 👇 Целостность данных между таблицами product и category. Если вам понравился вопрос - зашарьте его друзьям 👉 SQLQuestions

Если работаете с большими данными - зацените, что теперь есть в Yandex Cloud • DataLens Editor - редактор визуализаций на JavaScript, с поддержкой внешних API и кастомных графиков • DataLens Gallery - витрина дашбордов и моделей данных с возможностью развернуть у себя • Сертификация Yandex DataLens Certified Analyst - экзамен на знание чарта, датасетов и параметров • Поддержка Trino и Spark как управляемых сервисов Дополнительно: - В DataLens появился JS-редактор для кастомизации графиков и витрина дашбордов - удобно, если строите BI-систему. - В AI Studio - новые инструменты для работы с ассистентами и дообучением эмбеддингов. Также теперь открыт доступ к YTsaurus - платформа Яндекса для хранения и обработки эксабайтных объёмов. Раньше использовалась только внутри компании, теперь доступна бизнесу как управляемый сервис. Работает с petabyte‑scale логами, аналитикой, ML‑пайплайнами. Если вам понравился вопрос - зашарьте его друзьям 👉 SQLQuestions

🤫 Хотите узнать как сделать связку разработчик+аналитик SQL еще эффективнее? 🔥 Открыт набор на онлайн-курс “SQL для аналитиков и разработчиков”, где мы научим вас продвинутым аспектам работы с реляционными базами данных, улучшить навыки работы с SQL-запросами, понять принципы нормализации баз данных. Оставляйте заявку на курс: https://vk.cc/cMl68o Что будет на курсе? — Основы реляционных баз данных, включая ER-диаграммы и компоненты БД — Практику работы с несколькими популярными СУБД (PostgreSQL, SQL Server, MySQL, Oracle, SQLite) — Базовый и продвинутый синтаксис SQL-запросов, включая SELECT, JOIN, агрегатные функции, оконные функции и другие — Практику с применением индексов, триггеров, хранимых процедур и функций для оптимизации работы с данными — Знание принципов транзакций и их роли в обеспечении целостности данных — Практику оптимизации производительности запросов и управление большими объемами данных — Знания особенностей работы с JSON, геоданными и полнотекстовым поиском в разных СУБД. 📈 Присоединяйтесь на курс и повысьте свой уровень в знании SQL: https://vk.cc/cMl68o Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576, www.otus.ru

Spark-митап в Москве 29 мая! IT-компания «Криптонит» приглашает на Spark-митап: обсудим кейсы, практики применения и тренды развития! 🟢Когда и где пройдёт? 29 мая в 18:30 в Музее криптографии 🟢Кому Spark Meetup полезен? 🔹инженерам данных и аналитикам данных 🔹программистам со знанием Spark и Scala 🔹всем смежным специальностям из телекома, банков, промышленности и ретейла 🟢Кто будет выступать с докладами? Эксперты из «Криптонита», Positive Technologies и М2. 🟢Как зарегистрироваться? Вот по этой ссылке 🟢Будет ли трансляция? Обязательно будет. Ссылку разместим позже на странице мероприятия — поэтому советуем зарегистрироваться на оффлайн-встречу, даже если вы не сможете прийти. Так вы точно не потеряете ссылку на онлайн 🟢Нужно что-то платить? Нет, митап бесплатный — ждём всех неравнодушных к программированию на Spark! Реклама АО НПК «Криптонит» ИНН 9701115253 Erid: 2VtzqwJRSWg