Machine learning Interview

🌐 Что такое эмбединги в NLP. Приведите примеры. Эмбеддинги - это модель, которая позволяет предсказать близкие по смыслу слова, или слова которые чаще всего употребляются друг с другом. Построить эту модель можно следующим образом: Текст нужно разделить на словосочетания из нечетного количества слов. Например 3 или 5 слов. Это называют Context Window. На вход модели подается центральное слово из Context Window в формате one-hot вектора. На выход модели подаются слова которые идут следом или перед ним. Для Context Windows = 3, это будут 2 one hot вектора (предыдущее слово и следующее слово), либо сумма этих 2х векторов (bag of words). Если Context Window будет равным 5, то слов будет 4, а не 2. Затем нужно сдвинуть Context Window на один шаг и повторить процедуру. Таким образом мы создадим датасет для обучения. Этот датасет мы подадим в автоенкодер для обучения. Такая модель называется Skip Gram (Когда на входе центральное слово, а на выходе то что его окружает). CBOW - это наоборот, когда мы в модель подаем то что окружает слово, а на выходе получаем центральное слово. Размер входного слоя и выходного слоя равен размеру словаря. Входной слой и скрытый слой кодируют слово. Скрытый слой и выход декодируют слово. Таким образом можно, закодировать one hot вектора в эмбеддинг. А вектор эмбединга будет заметно меньше, чем one-hot вектор. Эмбедингом называется матрица весов между входом и скрытым слоем. Или значения, которые возникают на скрытом слое, при подаче one-hot вектора слова в модель. Эмбеддинг, в дальнейшем можно передать в классификатор, вместо Bag of words. Делается это следующим образом: Береться строка и каждому слову ставятся индексы из словоря. Получается вектор индексов. Затем для каждого слова, нужно поставить его эмбединг по индексу слова. Получается двумерный вектор размером [ длина строки ] X [ размер эмбединга ]. Например, 300 x 50. После этого, этот вектор надо передать в классификатор. Т.к. используются уже двумерные слои, можно использовать сверточные сети. Это будет уже новая нейронная сеть, которая принимает на вход индексы слов, превращает их в вектор эмбединга, а после отправить результат в классификатор. И данную сеть можно обучать, в том числе обучить и эмбединг. Можно взять готовый эмбединг, а можно обучить его самостоятельно. model = ai.CustomModel( model_name = "Model_embedding_1", input_shape = input_shape, module = nn.Sequential( nn.Embedding(10000, 50), Transform_Flat(), nn.Linear(300*50, 1024), nn.ReLU(inplace=True), nn.Linear(1024, 256), nn.ReLU(inplace=True), nn.Linear(256, output_shape[0]), nn.Softmax(dim=-1), ), ) @machinelearning_interview

VK Tech Talks · ML для специалистов по машинному обучению Митап пройдёт в гибридном формате уже 22 июня в 19:00 по МСК: приходите в петербургский офис или смотрите онлайн-трансляцию (https://vk.com/video-147415323_456240052). Темы докладов Эксперты ВКонтакте на своём опыте расскажут, как создавать рекомендательные системы в очень разных высоконагруженных продуктах, какие задачи перед ними встают, с какими трудностями сталкиваются и поделятся способами их решения. ▪️ Общее устройство ленты; ▪️ Многокритериальная оптимизация в умной ленте; ▪️ Новая лента рекомендаций с фокусом на персонализированном медиаконтенте; ▪️ Рекомендации товаров в ленте и VK Маркете; ▪️ Implicit Feedback Is All You Need; ▪️ Ранжирование историй. Регистрируйтесь, чтобы попасть в закрытый чат, где вы сможете задать вопросы докладчикам. @machinelearning_interview

👉Присоединяйтесь к нашему сообществу Data Analyst REBRAIN, если вы интересуетесь аналитикой данных, управлением проектами или маркетингом. У нас для вас есть множество открытых онлайн-практикумов каждый месяц, которые проводят профессиональные аналитики. В рамках практикумов мы разбираем реальные кейсы анализа данных с использованием самых актуальных инструментов, таких как Python, SQL, Tableau, бизнес-метрики и визуализация данных, статистика, теория вероятностей и другие. Уровень сложности и направление каждого практикума подобраны таким образом, чтобы каждый мог найти для себя интересные задачи и развиваться в соответствии с уровнем своей компетенции. ✔️ Подключайтесь к нам уже сегодня и начинайте развивать свои навыки в области анализа данных совершенно бесплатно!

Как устроены нейронные сети и как применять их в продуктовой аналитике Разберёмся в прямом эфире: 14 июня в 19:00 (по Москве) Вебинар проведёт Анатолий Карпов — автор тех самых бесплатных курсов на stepik, основатель школы karpovꓸcourses и по совместительству ведущий аналитик с опытом работы в Mail.Ru, VK и JetBrains. Ждём вас на трансляции! Регистрируйтесь, чтобы не пропустить

Ищу ml специалиста для разработки быстрой, эффективной системе трекинга движений человека в реальном времени Мы компания metadreamteam.io - амбициозная команда XR разработчиков и 3Д артистов, работающая на американском рынке, которая делает проекты для всего мира! От Екомерс до real estate. От внедрения лучших решений на рынке до создания своих разработок с нуля. Сейчас делаем свою разработку по созданию умного зеркала для примерки одежды. Необходимо разработать систему трекинга на основании данных с rgb потока камеры , включающую от 8 основных точек скелета их положение и вращение с минимальной возможной погрешностью. Нужно выбрать архитектуру, спрогнозировать обьем базы данных, аппаратные мощности для обучения и работы нейросети. И создать ее обосновав решение Работа удаленная. Фриланс. Оплата от $40 в час Если ты хочешь работать с лучшими в индустрии, делать амбициозные проекты и зарабатывать в валюте - тогда заполняй эту форму, чтобы присоединиться к нам! - https://forms.gle/JkFgki9dNCggkz5PA

🔍 Что такое объяснительные алгоритмы Когда они используются? Приведите примеры объяснительных алгоритмов Что такое объяснительные алгоритмы? Объяснительные алгоритмы позволяют нам обнаруживать и понимать переменные, которые оказывают статистически значимое влияние на выходное значение (результат). Вместо создания алгоритмов для предсказания значений, мы создаем объяснительные модели для понимания взаимосвязи между переменными в модели. С точки зрения регрессии, очень много внимания уделяется статистически значимым переменным. Почему? Практически всегда вы будете работать с выборкой данных, являющейся подмножеством всей совокупности. Для того чтобы сделать верные выводы о совокупности по выборке, важно убедиться, что результат статистически значим. Недавно появились два метода: SHAP и LIME. Они используются для интерпретации моделей машинного обучения. Когда используются? Объяснительные модели эффективны, когда вы хотите понимать, почему выбрано именно такое решение. Или когда вы хотите понять как две или более переменных связаны между собой. На практике возможность объяснить, как ваша модель работает, так же важна, как и качество модели. Если вы не можете объяснить, никто не поверит ей и никто не будет её использовать. Это особенно актуально для банковской сферы, где все модели должны быть интерпретируемыми. Примеры алгоритмов Традиционные объяснительные модели, основанные на проверке гипотез: ▪Линейная регрессия. ▪Логистическая регрессия. Алгоритмы для объяснения моделей машинного обучения: ▪SHAP; ▪LIME. @machinelearning_interview

⚡️ Стартовал прием заявок на Технологический конкурс НТИ Up Great «Экстренный поиск»! Участникам предстоит преодолеть комплексный технологический барьер, предусматривающий разработку технологий и технических решений, объединенных в единую систему, позволяющую эффективно использовать техническое зрение при поиске пропавших людей с применением беспилотных воздушных судов (БВС). На первом этапе (Сателлит №1) участникам необходимо разработать программное решение для поиска объектов (людей) на изображениях, полученных с БВС.  Призовой фонд Сателлита №1 составляет 5 млн руб.  Лучшим командам, удовлетворяющим требованиям технического регламента, организаторами будут предоставлены БВС для участия во втором этапе (Сателлит №2) и финале конкурса. Призерами и победителями могут стать только налоговые резиденты РФ. 📲 Заявки на Сателлит № 1 принимаются до 12 июня 2023 г. по ссылке. Конкурс организуется совместно МФТИ, Фондом НТИ и добровольческим поисково-спасательным отрядом «ЛизаАлерт». Общий призовой фонд составляет 135 млн руб.

Что такое алгоритмы схожести и когда они используются? Алгоритмы схожести вычисляют сходство пары записей/узлов/точек/текстов. Есть алгоритмы, которые вычисляют расстояние между двумя значениями данных, такими как расстояние Евклида. А также есть алгоритмы, вычисляющие схожесть текстов, такие как алгоритм Левенштейна. Когда используются? Алгоритмы сходства применяются повсеместно, но чаще всего в рекомендательных системах. ▪Какие статьи предложит тебе Medium, основываясь на прочитанном тобой ранее? ▪Какие ингредиенты вы можете использовать для замены голубики? ▪Какие треки предложит тебе Spotify, основываясь на треках, которые тебе уже нравятся? ▪Какие продукты Amazon предложит тебе, основываясь на истории покупок? Это только некоторые примеры применения алгоритмов сходства в повседневной жизни. Примеры алгоритмов Ниже приведены самые популярные алгоритмы сходства: ▪К-ближайших соседей; ▪расстояние Евклида; ▪косинусное сходство; ▪алгоритм Левенштейна; ▪алгоритм Джаро-Винклера; ▪сингулярное разложение (SVD). @machinelearning_interview

Как получить первый опыт работы ML-инженером и выделиться на собеседовании? Приходите практиковаться в Симулятор ML. Под руководством ведущих Data Scientists Валерия Бабушкина и Богдана Печёнкина вы не просто прокачаете отдельные навыки, но и поймёте, как сводить бизнес-задачи к задачам машинного обучения. Динамическое ценообразование, рекомендательные системы, матчинг, модели прогноза, А/В-тесты, тестирование кода в Python — реальные рабочие проекты по этим темам ждут вас в Симуляторе. Симулятор работает в режиме подписки и постоянно пополняется новыми задачами — сейчас их уже более 50. Присоединяйтесь!

Расскажите что вы знаете о LLM: больших языковых моделях ? Расскажите про наиболее известным LLM ? Большие языковые модели — это нейросетевые модели, использующие алгоритмы машинного обучения, позволяющие обобщать, прогнозировать, генерировать человеческие языки на основе больших наборов текстовых данных. Принцип работы таких моделей основан на определении вероятностного сочетания слов и их значений в заданном контексте с использованием определенных алгоритмов вычислений. В БЯМ чаще всего использовалась архитектура трансформера, которая с 2018 года стала стандартной техникой глубокого обучения для последовательных данных (ранее наиболее распространёнными были рекуррентные архитектуры, такие как модели с долгой кратковременной памятью). БЯМ обучаются без учителя на неаннотированном тексте. Трансформер при генерации вывода слева направо обучается максимизировать вероятность, назначенную следующему слову в обучающих данных, с учётом предыдущего контекста. В качестве альтернативы БЯМ может использовать двунаправленный трансформер (как в примере BERT), который присваивает распределение вероятностей по словам, имеющим доступ как к предыдущему, так и к последующему контексту. В дополнение к задаче прогнозирования следующего слова или «заполнения пробелов» БЯМ могут быть обучены вспомогательным задачам, которые проверяют их понимание распределения данных, таких как прогнозирование следующего предложения (NSP), в котором представлены пары предложений и модель должна предсказать, появятся ли они рядом в обучающем корпусе текстов. В настоящее время основное применение LLM находят в чат-ботах, написании статей, маркетинговых текстов, электронных писем, переводах текстов, используются поисковыми системами и т.д. К наиболее известным LLM относят: GPT ( OpenAI). Является одной из крупнейших языковых моделей, обученной на огромном количестве разнообразных наборов данных и 175 млрд параметров. Модель умеет писать тексты (статьи, стихи и т.д.), переводить, отвечать на вопросы по тексту. Архитектура модели transformer1 LaMDA ( Google). Относится к разговорным нейросетевым моделям. Построенная на архитектуре transformer и обученная также на текстовых наборах данных модель способна вести диалог. BERT ( Google). Данная нейросетевая модель в большей степени используется в поисковых запросах. Модель обучена в целях увеличения эффективности процесса понимания контекста запроса пользователя для выдачи релевантного результата. Архитектура модели transformer. BLOOM (Исследовательская группа BigScience). На текущий момент является самой большой многоязычной нейросетевой моделью. Обученная на огромных объемах текстовых данных и 176 млрд параметров с использованием вычислительных ресурсов промышленного масштаба модель способна генерировать текст на 46 языках и 13 языках программирования. LLM – достаточно мощный инструмент, однако перспективы их повсеместного применения в настоящее время и в дальнейшем довольно туманны, ввиду недостаточной изученности и наличия разного рода неточностей, выявленных в их работе. Имеющиеся на текущий момент знания и опыт в применении моделей демонстрируют не только большие достижения, но также и огромное количество проблем, только усиливающих скептицизм к использованию LLM. Так, например, у многих моделей была выявлена склонность к генерации некачественного, провокационного и даже оскорбительного контента. Специалисты в области языковых моделей также расходятся во мнении о возможном позитивном развитии данного направления искусственного интеллекта в дальнейшем. Одни утверждают, что предел развития LLM практически достигнут, по мнению других – масштабирование LLM будет способствовать формированию более умных моделей. Однако, текущее положение показывает, что использование LLM сейчас видится в большей степени в качестве вспомогательного инструмента, без всецелого полагания на результат, а применение в особо значимых сферах деятельности человека может привести к необратимым последствиям.

Хотите хакнуть ChatGPT и достать из его глубин информацию, которую он не захотел бы отдать вам просто так? О том, как это сделать, узнайте в новой статье на Хабре. В ней Ваня Самсонов, руководитель продуктового направления ML ВКонтакте рассказал, почему считает AI не соперником на рынке труда, а инструментом для достижения более качественных результатов. А главное — поделился большой подборкой материалов для каждого, кто хочет сделать нейросети своими помощниками. ✔️Хабр @machinelearning_interview

🔥 Полезные ссылки для подготовки к собесдованию ▪https://github.com/khangich/machine-learning-interview ▪https://github.com/rbhatia46/Data-Science-Interview-Resources ▪https://www.springboard.com/blog/ai-machine-learning/machine-learning-interview-questions/ ▪https://github.com/iamtodor/data-science-interview-questions-and-answers ▪https://medium.com/analytics-vidhya/test-your-skills-26-data-science-interview-questions-answers-69cb2b223e57 https://github.com/andkret/Cookbook @machinelearning_interview

✅ Покажем на практике как деплоить модели в production Владение инструментами MLOps открывает новые карьерные горизонты специалистам ML, Data Scientist’ам и Software инженерам. 📌 Ответьте на 10 вопросов и проверьте, насколько вы готовы к обучению на курсе «MLOps» от OTUS. Время прохождения теста ограничено 30 минут ПРОЙДИТЕ ТЕСТ — сможете занять место в группе по спец.цене 👉 https://otus.pw/RcJa/ Нативная интеграция. Информация о продукте www.otus.ru

Minimum Viable Study Plan for Machine Learning Interviews Сборник интервью по машинному обучению от FAANG, Snapchat, LinkedIn. ▪Github @machinelearning_interview

⚡️ Стартовал прием заявок на Технологический конкурс НТИ Up Great «Экстренный поиск»! Участникам предстоит преодолеть комплексный технологический барьер, предусматривающий разработку технологий и технических решений, объединенных в единую систему, позволяющую эффективно использовать техническое зрение при поиске пропавших людей с применением беспилотных воздушных судов (БВС). На первом этапе (Сателлит №1) участникам необходимо разработать программное решение для поиска объектов (людей) на изображениях, полученных с БВС. Призовой фонд Сателлита №1 составляет 5 млн руб. Лучшим командам, удовлетворяющим требованиям технического регламента, организаторами будут предоставлены БВС для участия во втором этапе (Сателлит №2) и финале конкурса. Призерами и победителями могут стать только налоговые резиденты РФ. 📲 Заявки на Сателлит № 1 принимаются до 12 июня 2023 г. по ссылке. Конкурс организуется совместно МФТИ, Фондом НТИ и добровольческим поисково-спасательным отрядом «ЛизаАлерт». Общий призовой фонд составляет 135 млн руб.

#вопросы_с_собеседований Что такое аугментация данных? Можете привести примеры? Под аугментацией данных понимается увеличение выборки данных для обучения через модификацию существующих данных. Компьютерное зрение - одна из областей, где очень полезно увеличение объема данных. Есть много модификаций, которые мы можем сделать с изображениями: — Изменить размер — Горизонтально или вертикально перевернуть — Добавить шум — Деформировать — Изменить цвета