Библиотека собеса по Data Science | вопросы с собеседований

👾 -35% на хардкорный курс по вышмату На курсе вы получите все необходимые знания для старта карьеры в DS или аналитике – https://proglib.io/w/b10d5805 19 490 рублей 29 990 рублей Что еще вас ждет на курсе: ▪️ Полугодовая программа от преподавателей ВМК МГУ; ▪️ 150 практических заданий и 47 видеолекций; ▪️ Бессрочный доступ ко всем материалам курса; ▪️ Развернутая обратная связь по всем домашним заданиям, а также ссылки на полезные дополнительные материалы. 🌚 Переходите на сайт, читайте подробности и заходите на обучение по самым выгодным условиям – https://proglib.io/w/b10d5805

👆Небольшая памятка по основным алгоритмам машинного обучения и их гиперпараметрам👆 ▪️Линейная регрессия Параметр регуляризации (например, альфа для Ridge/Lasso регрессии). ▪️Логистическая регрессия Параметр C (обратная сила регуляризации), штраф (L1, L2). ▪️Дерево решений Глубина дерева (Max_depth), минимальное количество образцов для разделения (min_samples_split), минимальное количество образцов на лист (min_samples_leaf), критерий разделения (criterion). ▪️K-Nearest Neighbors (KNN) Количество соседей (n_neighbors), веса (weights), метрика (metric). ▪️Support Vector Machines (SVM) Параметр C, ядро (kernel), гамма (gamma), степень (для полиномиального ядра).

🤖 6 основных алгоритмов машинного обучения: руководство для начинающих В новой статье мы расскажем о шести основных алгоритмах машинного обучения и их практическом применении в различных отраслях. Вот алгоритмы, которые мы рассмотрим: 🔹линейная регрессия; 🔹SVM; 🔹дерево решений; 🔹случайный лес; 🔹наивный байес; 🔹логистическая регрессия. 🔗 Читать статью

Как с помощью линейной модели понять, от каких признаков можно сразу избавиться? Есть несколько способов: ▪️Посмотреть на коэффициенты при признаках Они показывают, насколько сильно каждый признак влияет на целевую переменную. Если коэффициент признака близок к нулю, это может означать, что данный признак мало влияет на прогноз, и его можно исключить. ▪️Использовать регуляризацию L1-регуляризация (Lasso) может обнулять коэффициенты некоторых признаков, что прямо указывает на их малую значимость. ▪️Проверить значимости признаков Методы статистического тестирования (например, t-тест для каждого признака) могут показать, являются ли коэффициенты значимыми. Если какой-то признак незначим, его вклад в предсказание минимален, и его можно исключить из модели. #машинное_обучение

🧑‍💻 Статьи для IT: как объяснять и распространять значимые идеи Напоминаем, что у нас есть бесплатный курс для всех, кто хочет научиться интересно писать — о программировании и в целом. Что: семь модулей, посвященных написанию, редактированию, иллюстрированию и распространению публикаций. Для кого: для авторов, копирайтеров и просто программистов, которые хотят научиться интересно рассказывать о своих проектах. 👉Материалы регулярно дополняются, обновляются и корректируются. А еще мы отвечаем на все учебные вопросы в комментариях курса.

Для каких алгоритмов машинного обучения не нужно масштабирование признаков? Для некоторых алгоритмов машинного обучения необязательно проводить масштабирование признаков, поскольку они не зависят от расстояний или линейных комбинаций признаков. К таким алгоритмам относятся: ▪️дерево решений; ▪️случайный лес (так как строится над деревьями решений); ▪️градиентный бустинг над деревьями решений; ▪️наивный байесовский классификатор (так как его основная идея заключается в вычислении условных вероятностей для каждого признака и класса на основе данных). #машинное_обучение

В чем разница между вероятностью и правдоподобием? ▪️В случае с вероятностью мы оцениваем вероятность наступления определённого события, исходя из фиксированного параметра, который мы считаем известным. Например, если мы предполагаем, что монета честная, мы принимаем вероятность выпадения орла за 0.5. Таким образом, вероятность позволяет оценить, каковы шансы каждого из возможных исходов при многократных испытаниях. ▪️Правдоподобие — это оценка того, насколько хорошо наблюдаемые данные соответствуют гипотезе или параметрам модели. В этом случае данные зафиксированы, и мы пытаемся определить, при каком значении параметра правдоподобие (вероятность появления таких данных) будет максимальным. Например, если при подбрасывании монеты 10 раз выпало 7 орлов, мы можем вычислить, какая вероятность выпадения орла (не обязательно 0.5) лучше всего объясняет полученные данные. #теория_вероятностей

🐍📈 Бэктест на Python: оцениваем торговую стратегию Бэктестинг — это метод, который используется в трейдинге и инвестировании для оценки эффективности торговой стратегии (или инвестиционного подхода) с помощью исторических рыночных данных. Проще говоря, это процесс проверки того, как стратегия работала бы в прошлом, если бы её применяли к реальным данным. 👉 В новой статье разбираемся, как реализовать бэктестинг на Python

Для чего нужен Apache Airflow? Apache Airflow — это инструмент для создания, планирования и управления сложными пайплайнами данных. Он особенно полезен в ситуациях, когда необходимо автоматизировать процессы обработки данных, включающие выполнение большого количества задач в определённой последовательности или параллельно. Вот задачи, которые решает Apache Airflow: ▪️Позволяет запускать пайплайны по расписанию. Это может быть как простое расписание (например, ежедневное выполнение), так и сложное, например, запуск во второй вторник каждого месяца. ▪️Помогает организовать выполнение задач в правильном порядке. Например, если нужно сначала загрузить данные с нескольких источников, а затем выполнить их обработку, Airflow позволяет настроить последовательное или параллельное выполнение задач. ▪️Предоставляет интерфейс для мониторинга выполнения пайплайнов, где можно видеть историю выполнения задач, анализировать логи и производительность, а также повторно запускать задачи при необходимости. Кроме того, Apache Airflow поддерживает интеграцию с различными внешними сервисами (например, базами данных). #данные

🧪 Байесовское A/B-тестирование vs частотное: преимущества, недостатки и способ реализации на Python A/B-тестирование — это метод сравнения двух версий чего-либо для определения, какая из них работает лучше. В новой статье разберёмся, в каких случаях лучше применять частотный подход, а в каких — байесовский, и напишем продвинутый байесовский тест на Python без использования специальных A/B-библиотек. 👉 Читать статью

Что такое JAX? JAX — это фреймворк для вычислений и исследований в области машинного обучения. Он предоставляет API, совместимое с NumPy, и поддерживает автоматическое дифференцирование, векторизацию, параллелизацию и компиляцию в реальном времени для GPU/TPU. JAX ориентирован на скорость и производительность и подходит для обучения больших моделей, требующих мощных ускорителей. 🔗 Ссылка на документацию JAX #программирование

❗Вакансии «Библиотеки программиста» — ждем вас в команде! Мы постоянно растем и развиваемся, поэтому создали отдельную страницу, на которой будут размещены наши актуальные вакансии. Сейчас мы ищем: 👉авторов в наше медиа proglib.io 👉контент-менеджеров для ведения телеграм-каналов Подробности тут Мы предлагаем частичную занятость и полностью удаленный формат работы — можно совмещать с основной и находиться в любом месте🌴 Ждем ваших откликов 👾

🧮🏭 Индустриальная математика: когда ∫f(x)dx равно миллиардам Индустриальная математика предлагает эффективные решения для самых сложных проблем реального мира. В нашей статье мы рассмотрим сущность индустриальной математики, ее краткую историю и современные тренды, а также обсудим, кому подходит эта профессия. 🔗 Статья

В линейных моделях часто добавляют смещение (bias) к признакам. Объясните, зачем это делается? Смещение (bias) — это дополнительный параметр модели, который добавляется к линейной комбинации признаков перед применением функции активации. Например, в нейросетях bias добавляется к сумме взвешенных входов перед передачей на следующий слой. Его роль заключается в сдвиге графика функции активации вправо или влево, что помогает сети охватывать более широкий диапазон данных. Представьте себе простую линейную функцию y = ax + b. Если мы меняем значение a (это эквивалент веса в линейной модели), мы меняем наклон функции. Однако если мы регулируем b (эквивалент смещения), мы сдвигаем всю функцию по оси X. Это позволяет модели лучше подстраиваться под данные, особенно в ситуациях, когда зависимость между переменными не проходит через начало координат. Смещение также помогает предотвратить проблем в тех случаях, когда все входные признаки равны нулю. Без смещения модель предскажет 0, даже если это не соответствует реальности. Смещение добавляет модели гибкости и позволяет ей корректно работать даже в таких условиях. #машинное_обучение

🤔 Как меняется математика в разных индустриях: от мобильных игр к фондовым рынкам 🗓 22 августа в прямом эфире разберем как математика применяется в разных отраслях бизнеса. И какие математические навыки необходимы для успешной работы в каждой из них. Приглашенный спикер: Павел Запольский – Senior Quantitative Researcher at Exness и Co-founder GrowLytics. Запустивший более 10 проектов по машинному обучению и анализу данных для ведущих компаний. 😮 На вебинаре узнаете: 🔵 Математика в бизнесе: Чем отличаются разные сферы друг от друга. Почему стоит понимать специфику сферы 🔵 ML и продуктовое IT: Чем различается математическая сложность от индустрии к индустрии. Какие к ним необходимы уровни подготовки 🔵 Баевская математика в GameDev. Баевская математика как альтернатива AB тестированию. Как математические методы применяются в разработке игр 🔵 Finance: Что такое количественные финансы и математическое моделирование. Обсудим текущие индустриальные тренды в отрасли 🔵 Backtest: Как знания математики делают ваши активы более надежными 🔵 На практике подробно разберем два математических кейса по GameDev и Backtest. ➡️ Зарегистрироваться: https://proglib.io/w/06b25c4d

🤖 Напоминаем, что у нас есть еженедельная email-рассылка, посвященная последним новостям и тенденциям в мире искусственного интеллекта. В ней: ● Новости о прорывных исследованиях в области машинного обучения и нейросетей ● Материалы о применении ИИ в разных сферах ● Статьи об этических аспектах развития технологий ● Подборки лучших онлайн-курсов и лекций по машинному обучению ● Обзоры инструментов и библиотек для разработки нейронных сетей ● Ссылки на репозитории с открытым исходным кодом ИИ-проектов ● Фильмы, сериалы и книги 👉Подписаться👈

📈 Стать аналитиком Big Data: пошаговое руководство 2024 Рассказываем в нашей статье, какие знания, онлайн-курсы, подкасты и книги помогут начать карьеру в сфере Big Data без специального образования. Ознакомьтесь со статьей, а также забирайте наши курсы для Data Science: 🔵 Базовые модели ML и приложения 🔵 Математика для Data Science 🔗 Статья

Что такое обучение представлений? Объекты, с которыми работают алгоритмы машинного обучения, могут быть невероятно разнообразными и часто состоят из множества низкоуровневых компонентов, таких как цвет пикселя, амплитуда звукового сигнала в конкретный момент времени или буква в тексте. Эти компоненты сами по себе несут мало информации, но вместе формируют более сложные структуры, такие как музыка, изображения или текст. Задача заключается в том, чтобы преобразовать сложные объекты в представления, которые легче анализировать и использовать для решения различных задач. Этот процесс называется обучением представлений, и он позволяет выделить информативные признаки объектов, которые можно применять для решения задач классификации, кластеризации и других. Один из самых мощных инструментов для обучения представлений — это нейронные сети. Например, в свёрточных нейросетях для изображений первые слои обучаются выделять низкоуровневые признаки, такие как края объектов, тогда как более глубокие слои могут представлять более сложные концепции, такие как формы или даже целые объекты. #глубокое_обучение

🤖🛠️ ТОП-25 опенсорсных инструментов для вашего ИИ-проекта В этой статье мы собрали 25 лучших инструментов с открытым кодом, которые помогут вам создать ИИ-проекты, автоматизировать процессы и расширить функциональность ваших приложений. 🔗 Ссылка на статью

Коротко опишите процесс обучения нейронной сети 🔹Инициализация весов Веса в нейронной сети можно инициализировать, например, случайными значениями. 🔹Прямой проход (forward propagation) На этом шаге входные данные последовательно проходят через все слои нейронной сети. На каждом слое происходит вычисление взвешенной суммы входных значений и применение активационной функции, в результате чего формируется предсказание модели 🔹Вычисление ошибки Рассчитывается значение функции потерь, которое показывает, насколько предсказание сети отклоняется от истинного значения. 🔹Обратное распространение ошибки (backpropagation) Этот этап включает в себя вычисление градиентов ошибки относительно каждого веса нейронной сети путём обратного прохождения через все слои модели, начиная с выходного слоя. В результате веса обновляются для минимизации функции потерь. 🔹Повторение процесса Описанные шаги повторяются на каждом этапе обучения до достижения приемлемого уровня ошибки или заданного количества повторений. #машинное_обучение #глубокое_обучение