Data Analysis / Big Data

Visualize Amazon S3 data using Amazon Athena and Amazon Managed Grafana Read: https://aws.amazon.com/blogs/big-data/visualize-amazon-s3-data-using-amazon-athena-and-amazon-managed-grafana/

New Powered by QuickSight program helps AWS partners embed interactive analytics in applications to enable data-driven experiences Read: https://aws.amazon.com/blogs/big-data/new-powered-by-quicksight-program-helps-aws-partners-embed-interactive-analytics-in-applications-to-enable-data-driven-experiences/

Как организовать потоковую обработку данных. Часть 1 Привет, Хабр! Меня зовут Евгений Ненахов, я работаю в центре Big Data МТС Digital. В этой статье я расскажу о том, как мы создали универсальный инструмент потоковой обработки данных и построили с его помощью мощную систему стриминга. Если вам интересна обработка данных – добро пожаловать под кат! Читать: https://habr.com/ru/post/684476/

How Fresenius Medical Care aims to save dialysis patient lives using real-time predictive analytics on AWS Read: https://aws.amazon.com/blogs/big-data/how-fresenius-medical-care-aims-to-save-dialysis-patient-lives-using-real-time-predictive-analytics-on-aws/

Removing complexity to improve business performance: How Bridgewater Associates built a scalable, secure, Spark-based research service on AWS Read: https://aws.amazon.com/blogs/big-data/removing-complexity-to-improve-business-performance-how-bridgewater-associates-built-a-scalable-secure-spark-based-research-service-on-aws/

Reduce network traffic costs of your Amazon MSK consumers with rack awareness Read: https://aws.amazon.com/blogs/big-data/reduce-network-traffic-costs-of-your-amazon-msk-consumers-with-rack-awareness/

Параллельные вычисления в Apache Spark Всем привет! Иногда кажется, что для решения проблемы недостаточно простого выполнения расчётов в Spark и хочется более эффективно использовать доступные ресурсы. Меня зовут Илья Панов, я инженер данных в одном из продуктов X5 Tech, и хочу поделиться некоторыми подходами параллельных вычислений в Apache Spark. Читать: https://habr.com/ru/post/684024/

How Fannie Mae built a data mesh architecture to enable self-service using Amazon Redshift data sharing Read: https://aws.amazon.com/blogs/big-data/how-fannie-mae-built-a-data-mesh-architecture-to-enable-self-service-using-amazon-redshift-data-sharing/

Улучшаем производительность: виртуальный рендеринг для больших объемов данных К вам пришло из API что-то огромное, браузер начал тормозить, а пользователи недовольны? Как с этим справиться? Когда и в каких UI компонентах с проблемой отображения большого массива данных сталкиваются разработчики? Какие специальные подходы применять или не применять? Меня зовут Сергей Клинов. Я старший frontend-разработчик в компании Datafold. Моя специализация — это TypeScript, React, визуализация данных, формы, повышение производительности. Поговорим о решении проблем, с которыми уже столкнулся, либо в ближайшее время точно столкнется каждый фронтенд-разработчик. Рассмотрим несколько возможных решений, их преимущества и ограничения. Принцип и устройство виртуального рендеринга и разберем рабочий пример его применения на продукте Datafold. Читать: https://habr.com/ru/post/678202/

Data Engineering Weekly #97 Read: https://www.dataengineeringweekly.com/p/data-engineering-weekly-97

Introducing Schemata - A Decentralized Schema Modeling Framework For Modern Data Stack Read: https://www.dataengineeringweekly.com/p/introducing-schemata-a-decentralized

Как работает видеоаналитика Билайн Вся видеоаналитика строится на основе видеонаблюдения. Видеонаблюдение - передача видеоизображения, а аналитика - его обработка и создание некоторых автоматизированных выводов по определенному алгоритму. Если раньше стояли большие аналоговые камеры, все записи с которых шли на сервер и на пульт условного охранника, который должен был следить за всем, то сейчас все идет к установке IP-камер и хранения всех записей в облаке, что мы и предлагаем. Читать: https://habr.com/ru/post/683586/

В чём различия между Data Science, машинным обучением, ИИ, глубоким обучением и Data Mining Данные становятся движущей силой современного мира, поэтому почти каждый уже сталкивался с такими терминами, как data science, «машинное обучение», «искусственный интеллект», «глубокое обучение» и data mining. Но что же обозначают эти понятия? Какие различия и связи между ними существуют? Все перечисленные выше термины, несмотря на их взаимосвязь, нельзя использовать в качестве синонимов. Эта статья поможет вам не только понять, какие исследования и опыт позволяют извлекать знания из данных, чтобы делать машины умнее, но и как конкретно это происходит. Читать: https://habr.com/ru/post/682932/

Set up federated access to Amazon Athena for Microsoft AD FS users using AWS Lake Formation and a JDBC client Read: https://aws.amazon.com/blogs/big-data/set-up-federated-access-to-amazon-athena-for-microsoft-ad-fs-users-using-aws-lake-formation-and-a-jdbc-client/

Четыре функции для быстрой работы с Big Data Я часто пользуюсь функциями для работы с большими данными. Они позволяют упросить и ускорить работу. Некоторые я нашел на просторах интернета, другие написал сам. Сегодня хочу поделиться четырьмя из них, может кому-то будет полезно. Читать: https://habr.com/ru/post/682694/

Amazon Redshift data sharing best practices and considerations Read: https://aws.amazon.com/blogs/big-data/amazon-redshift-data-sharing-best-practices-and-considerations/

New row and column interactivity options for tables and pivot tables in Amazon QuickSight – Part 1 Read: https://aws.amazon.com/blogs/big-data/part-1-new-row-and-column-interactivity-options-for-tables-and-pivot-tables-in-amazon-quicksight/

Integrate Amazon Redshift row-level security with Amazon Redshift native IdP authentication Read: https://aws.amazon.com/blogs/big-data/integrate-amazon-redshift-row-level-security-with-amazon-redshift-native-idp-authentication/

Enable federated governance using Trino and Apache Ranger on Amazon EMR Read: https://aws.amazon.com/blogs/big-data/enable-federated-governance-using-trino-and-apache-ranger-on-amazon-emr/

Process Apache Hudi, Delta Lake, Apache Iceberg datasets at scale, part 1: AWS Glue Studio Notebook Read: https://aws.amazon.com/blogs/big-data/part-1-integrate-apache-hudi-delta-lake-apache-iceberg-datasets-at-scale-aws-glue-studio-notebook/