DATABASE DESIGN

Устраиваем свой Data QA с PyTest и фикстурами Рабочий подход к тестированию трансформации данных в ETL-процессах. На примере Python-проекта с pytest, allure и psycopg2 демонстрируется, как автоматизировать создание и наполнение таблиц, хранить схемы и данные, а затем сравнивать результат. Читать: «Устраиваем свой Data QA с PyTest и фикстурами» #ru @database_design | Другие наши каналы

YDB в мире Java: от нативного клиента до ORM’ов за 1 год Популярность баз данных и языков программирования определяется не только их собственными характеристиками, но и ассортиментом доступных для разработчиков библиотек и фреймворков. Меня зовут Кирилл Курдюков, в 2024 году я выступил в Питере на Joker — конференции для Java-разработчиков — с историей о том, как мы с командой делаем СУБД Яндекса удобной для джавистов. Под катом статья, написанная по мотивам доклада. Это история о том, как маленькими шагами пройти путь от нативного клиента на Java до поддержки Hibernate, Liquibase, jOOQ и других популярных в мире Java-разработки решений. Читать: https://habr.com/ru/companies/ydb/articles/942672/ #ru @database_design | Другие наши каналы

UltraRAM: память, которая меняет правила игры Память в компьютерах и гаджетах много лет делится на два направления. DRAM — быстрая, но требует постоянного питания. NAND-флеш — надежная и долговечная, зато ощутимо медленнее. Инженеры десятилетиями мечтали о «золотой середине», которая объединит лучшее из обоих подходов. И похоже, такая технология наконец появилась. UltraRAM обещает скорость на уровне DRAM, энергонезависимость и долговечность, в разы превосходящую NAND, причем с расчетным сроком хранения данных до тысячи лет. Давайте разбираться, как она устроена, какие возможности открывает и почему способна перевернуть рынок вычислений. Читать: https://habr.com/ru/companies/ru_mts/articles/942150/ #ru @database_design | Другие наши каналы

От многопоточности в ОС до «простукивания портов»: избранные материалы у нас на DIY-площадке Мы в Beeline Cloud развиваем площадку для обмена опытом между ИТ-специалистами — «вАЙТИ». Делимся техническими материалами, которые могут быть полезны хабражителям: как перекинуть два терабайта данных между дата-центрами за шесть часов, как перевести почту на локальный сервер Postfix, а также — какие SQL-запросы могли бы помочь Остапу Бендеру найти заветные стулья... (и другие материалы). Читать: https://habr.com/ru/companies/beeline_cloud/articles/942446/ #ru @database_design | Другие наши каналы

От многопоточности в ОС до «простукивания портов»: избранное у нас на DIY-площадке Мы в Beeline Cloud развиваем площадку для обмена опытом между ИТ-специалистами — «вАЙТИ». Делимся техническими материалами, которые могут быть полезны хабражителям: как перекинуть два терабайта данных между дата-центрами за шесть часов, как перевести почту на локальный сервер Postfix, а также — какие SQL-запросы могли бы помочь Остапу Бендеру найти заветные стулья... (и другие материалы). Читать: https://habr.com/ru/companies/beeline_cloud/articles/942446/ #ru @database_design | Другие наши каналы

Уровни изоляции транзакций для собеседования и работы Уровни изоляции транзакций – один из частых вопросов на собеседовании. Есть мнение, что один раз настроил и не вмешиваешься, но на практике не всегда так. Участвовал в нескольких проектах, где не знание уровней изоляции привело к трудноуловимым ошибкам и искажениям данных. В какой ситуации какой уровень изоляции лучше - разбираем в статье. Читать: https://habr.com/ru/articles/942394/ #ru @database_design | Другие наши каналы

Уровни изоляции транзакций для собеседования и работы Уровни изоляции транзакций – один из частых вопросов на собеседовании. Есть мнение, что один раз настроил и не вмешиваешься, но на практике не всегда так. Участвовал в нескольких проектах, где не знание уровней изоляции привело к трудноуловимым ошибкам и искажениям данных. В какой ситуации какой уровень изоляции лучше - разбираем в статье. Читать: https://habr.com/ru/articles/942394/ #ru @database_design | Другие наши каналы

Сравнение транзакционных систем Oracle и PostgreSQL Механизм реализации транзакций - основная часть реляционных баз данных. Он упрощает разработку приложений, в которых гарантируется целостность данных. Стандарт SQL регламентирует, часть свойств по поддержке транзакций, но многие детали не стандартизованы. Как следствие, реализация поддержки транзакций в разных базах данных может существенно различаться. В настоящее время, многие пытаются перейти с Oracle на PostgreSQL. Для миграции приложений важно понимать различия в реализации работы транзакций, иначе можно столкнуться с неприятными сюрпризами, которые могут поставить под угрозу производительность и целостность данных. Поэтому я решил, что полезно сравнить реализацию работы транзакций в Oracle и PostgreSQL и свести различия в одной статье. Читать: https://habr.com/ru/articles/942242/ #ru @database_design | Другие наши каналы

Новый релиз MariaDB Enterprise Kubernetes Operator автоматизирует управление базами данных в Kubernetes, упрощая задачи резервного копирования и восстановления. Это делает работу с данными более надежной и эффективной, ускоряя разработку приложений. Подробнее по ссылке. Читать подробнее #en @database_design | Другие наши каналы

Разбираемся с ReplacingMergeTree в ClickHouse В мире систем обработки данных редко встречаются инструменты, которые одновременно просты в использовании и решают болезненные задачи архитекторов и инженеров. ReplacingMergeTree в ClickHouse — один из таких случаев. Этот движок берёт на себя рутину по дедупликации и обновлению строк, позволяя хранить только актуальные версии данных без лишних костылей. Как он работает на практике, зачем нужен ORDER BY, чем помогает столбец version и какие подводные камни могут ждать при проектировании — разбираем в статье. Читать: https://habr.com/ru/companies/otus/articles/940894/ #ru @database_design | Другие наши каналы

Онлайн-студия big tech night Если вас не будет в Москве в день ивента, подключайтесь к нашей онлайн-студии. Мы подготовили огненную программу, которая отличается от офлайн-активностей: 🔴 Выступления спикеров от компаний-организаторов и других топов в индустрии 🔴 Микс форматов — от дискуссий и интервью до фановых историй из жизни разработчиков 🔴 Интерактивы с комментариями зрителей Проведём сразу два прямых эфира: ✨ Студия Hard В формате дискуссий и интервью обсудим сложные темы — управление IT-командой, AI в разработке, запуск проектов на несколько бизнесов. ✨ Студия Soft Настоящая вечеринка в формате Late Night Show. Будем общаться, шутить и делиться сокровенным — например, обсудим необычные хобби и безумные pet-проекты. ❗️ Можно переключаться между студиями, чтобы поймать все самые интересные темы. 💻 Мы в эфире 12 сентября с 18:00 до 21:00 ❤️Зарегистрируйтесь на сайте, чтобы получить ссылку на трансляцию Подписывайтесь: 💬 big tech night Реклама. Рекламодатель: ООО "Яндекс" ИНН 7736207543 Это #партнёрский пост

Записки оптимизатора 1С (ч.13). Что не так в журнале регистрации 1С в формате SQLite? Хочу вернуться к старой проблеме с хранением журнала регистрации 1С в формате SQLite. История стара как мир, но мы нет-нет, а продолжаем с ней сталкиваться, поскольку очень часто большие информационные системы работают далеко не на самых свежих версиях платформы 1С, а администраторы системы не уследили за форматом хранения журнала регистрации (ЖР). Наглядно посмотрим к чему может приводить ЖР в формате SQLite в многопользовательской нагруженной системе, а также выясним как администраторам и разработчикам понять, что проблема просадки производительности связана с чтением ЖР. Читать: https://habr.com/ru/companies/softpoint/articles/941666/ #ru @database_design | Другие наши каналы

Как успешно мигрировать с Oracle на Postgres Pro Enterprise Миграция с Oracle в «ванильный» PostgreSQL ломается на пакетах, автономных транзакциях и коллекциях — там их просто нет. Разбираем, почему ora2pg спотыкается, что дает нативная реализация этих механизмов в Postgres Pro Enterprise и как ora2pgpro переводит PL/SQL семантически точно, без костылей и регулярок. Читать: https://habr.com/ru/companies/postgrespro/articles/940836/ #ru @database_design | Другие наши каналы

Как мы устроили эпический BI Challenge: 80 героев, 1000 дашбордов и море данных в FineBI Привет, Хабр! 👋 Меня зовут Семён Юников, я Head of BI в банке Уралсиб. Сегодня расскажу о том, как наш отдел собственными силами превратил масштабную задачу по улучшению аналитических артефактов в захватывающее и геймифицированное приключение под названием BI Challenge. Более 80 участников (внутренних разработчиков нашего Банка), свыше 1000 дашбордов, десятки внутренних обновлений и одно большое профессиональное сообщество. 😎 Читать: https://habr.com/ru/companies/uralsib/articles/941614/ #ru @database_design | Другие наши каналы

Переосмысление материализованных представлений: высокопроизводительный инструмент для единого lakehouse Материализованные представления в StarRocks упрощают моделирование данных, ускоряют запросы и повышают актуальность данных в lakehouse‑архитектуре. Разбираем базовые возможности MV, три практических сценария — моделирование, прозрачное ускорение и «lake + warehouse» — и даём ссылки на актуальные рекомендации для StarRocks 3.5. Читать: https://habr.com/ru/articles/941588/ #ru @database_design | Другие наши каналы

Оптимизация БД начинается в пятницу Всем привет, меня зовут Денис Лимарев, я руковожу разработкой в одной из продуктовых команд Uzum Tezkor. В этой статье разберу несколько оптимизаций запросов к БД, которыми наша команда пользуется при разработке своих сервисов, и опишу подход к оптимизациям запросов в целом. В своих проектах мы используем PostgreSQL версии 14.15, поэтому все запросы я проанализировал на ней, и ваши результаты могут отличаться в зависимости от вашей версии. Читать: https://habr.com/ru/companies/uzum/articles/940624/ #ru @database_design | Другие наши каналы

Автоматизация аналитических процессов с помощью GitHub Actions: практический гайд Привет, Хабр! Хочу поделиться своей историей того, как я пришла к GitHub Actions в попытках автоматизировать сбор аналитики для личного использования. Статья будет полезна аналитикам, которые хотят автоматизировать сбор и анализ данных для своих небольших пет‑проектов. Читать: https://habr.com/ru/articles/941444/ #ru @database_design | Другие наши каналы

Свежее судебное дело о не подаче уведомления в Роскомнадзор До начала обработки персональных данных оператор должен подать уведомление в Роскомнадзор. В сегодняшних реалиях по факту 99.9% самозанятых, ИП и организаций являются операторами и должны подать уведомление. За неподачу или за несвоевременную подачу уведомления о намерении осуществлять обработку персональных данных предусмотрены штрафы. И вот первые судебные ласточки по этому поводу... Читать: https://habr.com/ru/articles/941280/ #ru @database_design | Другие наши каналы

Почти ультимативный обзор Criteria API с продвинутыми возможностями Hibernate Вам нужно создать сложный запрос к реляционной БД с изменяющимися параметрами? В этой статье рассмотрим основные возможности Criteria API. Также рассмотрим более продвинутые вещи, например создание CTE и оконных функций, которые есть у Hibernate Criteria API. В статье много примеров, которые смогут помочь при написании запросов Criteria API на практике. Читать: https://habr.com/ru/articles/941130/ #ru @database_design | Другие наши каналы

Автоматизация конспектов для ленивых: Obsidian + Zotero Привет! Меня зовут Андрей, я разработчик из команды контента в Банки.ру. Как человек, который постоянно изучает новые технологии и читает тонны документации, я давно устал тратить часы на ручное конспектирование. Перепробовал кучу способов — от блокнотов до сложных систем управления знаниями, пока не наткнулся на идеальную связку Obsidian + Zotero. В этой статье поделюсь своим решением для автоматизации конспектов, которое экономит мне кучу времени и нервов. Если вы тоже много читаете и устали переписывать цитаты руками — эта статья для вас. Расскажу, как за 10 минут настроить систему, которая будет сама создавать красивые конспекты Читать: https://habr.com/ru/companies/banki/articles/939120/ #ru @database_design | Другие наши каналы