Data Scientist | IT

Как сделать чат-бота лучше - RAGAS #почитать

Обычно оценка качества производится путём анализа обратной связи от пользователей, либо пользователь голосует рублем. Допустим, вы разработали чат-бота и обнаружили, что юзеры не в восторге от его ответов. Вы вносите изменения, например, заменяете одну LLM на другую и надеетесь, что теперь-то ответы всех устроят. Это можно сделать ещё более умно через A/B-тестирование. Но можно ли ускорить релизный цикл, заранее оценив влияние внесённых изменений? RAGAS как раз предлагает ответ на этот вопрос.

⏱Читать статью

Как работает нейросеть SORA #почитать

В основе SORA заложена та же идея, что и в LLM по типу GPT. Языковые модели хорошо показали себя в генерации текста отчасти из-за использования принципов токенизации, которые умело связывают и представляют текст в виде скрытых пространств. OpenAI переняли эту стратегию и ввели “визуальные патчи” для столь же эффективного представления видео. Первым этапом в обучении SORA стало обучение такой сети, которая могла бы принимать необработанное видео в качестве входных данных и выводить скрытое представление визуальных патчей, сжатое как во времени, так и в пространстве. В последствии основная модель генерирует именно это латентное представление, которое позже декодируются обратно в пространство пикселей.

⏱Читать статью

Распознавание паспорта РФ в PWA #почитать

Утечки персональных данных в России бьют все рекорды. За два года их совокупное число выросло – только вдумайтесь – в 40 раз. В 2021-м году таких инцидентов было всего четыре, в 2022 – свыше 140, а за первые семь месяцев 2023 года – уже 150. Одним из возможных путей утечки является передача персональных данных на обработку третьей стороне. По сути, компания передает изображения удостоверяющих документов (паспортов или любых других) своих клиентов незнакомым людям, а что дальше происходит с данными – неизвестно. Между тем, есть еще один способ ввода данных из документов – прямо на устройстве, без необходимости отправлять куда-то картинку. Он полностью исключает риск любой утечки. Речь идет о нашем мобильном SDK для распознавания паспорта.

⏱Читать статью

Уродливая математика в машинном обучении #почитать

Когда слушаешь доклады на больших ML-конференциях, то часть докладов вызывает восторг, но другая часть на послевкусии вызывает странное чувство. Да, доклад может быть очень крутым, математика блестящей, сложность крышесносной, но что-то как будто бы не так.

⏱Читать статью

Извлечение полезной информации из категориальных признаков #почитать

Категориальный признак (categorical feature) — это признак, который содержит в себе какую-либо метку (свойство), описывающую этот признак. При этом, категориальные признаки не измеряются в непрерывной шкале, в отличие от непрерывных признаков (continuous features). Категориальные признаки могут содержать фиксированный набор значений. К примеру, признак RGB содержит значения: Red (красный), Green (зелёный) и Blue (голубой). Также они могут содержать набор значений, который может со временем меняться. Например, номера поликлиник в городе: 321, 213, 2 и так далее. Город может построить новую поликлинику, и таким образом она добавится в ваш список. Если категориальный признак принимает только два значения, его называют бинарным (True / False, Да / Нет, Зеленый / Красный и так далее). Большая часть классических ML-моделей использует в своей работе числовые признаки, в связи с этим следует уметь корректно представлять категориальные значения числами. Можно ли не утруждать себя при работе с такими признаками? Ответ: и да, и нет. Вы действительно можете использовать какие-то базовые приёмы работы с ними, но рискуете потерять в качестве модели.

⏱Читать статью

Модели YOLO и ResNet для обнаружения нежелательных предметов на фотографиях #почитать На примере поиска ножей на кухне. ⏱Читать статью

RecTools – опенсорсная библиотека для рекомендательных систем #почитать

Если вы когда-либо работали с рекомендательными системами, то знаете, что все необходимые и самые часто используемые инструменты разбросаны по разным библиотекам. Более того, каждая из таких библиотек имеет много уникальных особенностей, к которым нужно приноровиться (например, разные форматы данных на вход). Выходит, что чтобы просто протестировать на своей задаче базовый пул подходов, нужно немало помучиться. Получается довольно грустно. К такому же выводу, видимо, пришли ребята из МТС – и выкатили в опенсурс RecTools.

⏱Читать статью

ML-борьба с фишингом в VK #почитать

Перед построением классификатора, нужно разобраться с признаковым пространством. У нас в арсенале есть: Текст из письма. Картинки из письма. Репутация по отправителю. Репутация по URL. Для построения признаков на основе картинок у нас используется отдельная CV-модель, обученная распознавать определенные объекты. На основе вероятностей этой модели формируются признаки, которые сообщают о том, есть объект на картинке или нет. Как работать с репутационными признаками понятно, давайте разберем, как можно работать с текстом. Самый первый и простой способ работы с текстом — это мешок слов (bag of words).

⏱Читать статью

Проблема множественного тестирования на практике #почитать

Нередко случаются ситуации, когда в A/B экспериментах ну очень хочется нужно проверять сразу несколько гипотез на одном и том же наборе данных, то есть в качестве тестового варианта использовать не одну группу, а сразу несколько. Особенно часто такая необходимость встречается в некоторых областях биологии. Но и в продуктовых командах возникают кейсы, когда, например, уже есть несколько вариантов дизайна каких-то элементов / моделей рекомендаций / ранжирования / etc, и хочется выбрать лучший в рамках одного эксперимента. Меня зовут Артем Пономарев, я участник клуба анонимных дата-аналитиков Data Analyst, и мне приходилось сталкиваться с множественными экспериментами в продукте. Когда это случалось, и я начинал искать больше дополнительной информации на эту тему, мне показалось, что существует достаточно мало материала с упором на реальную практику в индустрии. Эта статья – попытка структурировать знания о проблеме множественного тестирования, сравнить методы решения проблемы и поделиться практическим опытом работы с множественными экспериментами.

⏱Читать статью

Как работает Нейро Яндекса #почитать Пользователь может задать Нейро любой вопрос, а тот сам подберёт подходящие материалы в ЯПоиске, проанализирует их и соберёт найденную информацию в одном ответе, подкрепив его ссылками на источники. ⏱Читать статью

“Компании-миллиардеры, состоящие из одного человека” #почитать

Большинство «низко висящих фруктов» уже собрано. Остались наиболее трудоёмкие варианты, в которых заинтересованы немногие. Люди поняли, что в области генеративного ИИ трудно быть конкурентоспособным, поэтому ажиотаж поутих.

⏱Читать статью

Хотите углубить свои знания в Data Science? Освойте технологию многоруких бандитов в задаче рекомендаций Приходите на бесплатный практический урок от OTUS. Спикер Андрей Канашов — Senior Data Scientist. На вебинаре вы: ▫️узнаете про алгоритмы многоруких бандитов и как они применяются на практике для решения задачи рекомендательных систем; ▫️изучите основные алгоритмы UCB и Tompson Sampling; ▫️получите практический опыт применения многоруких бандитов для задачи рекомендации фильмов. Встречаемся 22 апреля в 19:00 мск в рамках курса «Рекомендательные системы». Все участники вебинара получат специальную цену на обучение и персональную консультацию от менеджеров OTUS! Регистрируйтесь прямо сейчас, чтобы не пропустить бесплатный урок: https://vk.cc/cwhKH6 Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576, www.otus.ru, erid: LjN8KRAoJ

❓ Интересуетесь технологией Hadoop, но не знаете, как начать работать с ней без покупки дорогого кластера? Столкнулись с проблемой доступа к платформе и не знаете, как это решить? После участия в бесплатном практическом уроке «Hadoop в песочнице» 23 апреля в 20:00 мск вы узнаете, как работать с Hadoop без необходимости покупки кластера. Вы освоите методы доступа к платформе, научитесь выполнять простые операции и получите представление о возможностях этой технологии. Вебинар пройдет в преддверии старта большого курса «Data Engineer». Все участники урока получат специальную цену на обучение и консультацию от менеджеров OTUS! ➡ Пройдите короткий тест прямо сейчас, чтобы посетить бесплатный урок: https://vk.cc/cwhcGn Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576, www.otus.ru, erid: LjN8KaYzL

Расчёт вкусов пользователя для ленты рекомендаций Одноклассников с применением item2vec-подхода #почитать

В ОК мы строим два основных типа новостной ленты: Подписная — лента с контентом, на который пользователь подписался сам. В нее входят посты от групп пользователя и его друзей. ​​Рекомендательная — лента, которая формируется из контента, который может понравиться пользователю, но генерируется людьми и группами, на которых человек еще не подписан. Обе ленты пользователя строятся схожим способом — используется классическая двухэтапная модель рекомендаций: на первом этапе из множества всех постов, доступных пользователю, мы выделяем некоторое подмножество; на втором этапе — с помощью XGBoost ранкера формируем ленту новостей, размещая на первых позициях наиболее интересный пользователю контент из собранного подмножества.

⏱Читать статью

ИИ Google Deep Mind неплохо играет в компьютерные игры #почитать Пока что речь идёт лишь о некоторых командах и действиях. Так, в No Man's Sky модель преуспела только в 34% протестированных задач по сравнению с 60% для человека. Правда, и задачи ставились сложные, что агенту, что человеку, это и объясняет низкий процент успеха даже для последнего. ⏱Читать статью

Quantization Deep Dive, или Введение в современную квантизацию #почитать

Я занимаюсь разработкой ML-инфраструктуры. Несколько лет я проработал в команде, которая делает споттер — специальную маленькую нейросетевую модельку, которая живёт в умных колонках Яндекса и ждёт от пользователя слова «Алиса». Одной из моих задач в этой команде была квантизация моделей. На пользовательских устройствах мало ресурсов, и мы решили, что за счёт квантизации сможем их сэкономить — так в итоге и вышло. Потом я перешёл в команду YandexGPT. Вместо маленьких моделей я стал работать с очень крупными. Мне стало интересно, как устроена квантизация больших языковых моделей (LLM). Ещё меня очень впечатляли истории, где люди берут гигантские нейросети, квантизируют в 4 бита и умудряются запускать их на ноутбуках.

⏱Читать статью

Ищем Арнольда Шварценеггера среди мужчин, женщин и детей с помощью нейросети на С++ #почитать Python — не единственный язык, на котором можно решать задачи машинного обучения. Так, альтернативой может стать С++. Если последний вам ближе, вам будет интересен и полезен этот текст. Разберемся: - как организовать работу с данными и загрузку обучающего датасета, - как описать структуру нейронной сети, - как использовать уже готовые алгоритмы машинного обучения из доступных библиотек и фреймворков, - как организовать конвейер обучения сети, - как использовать предобученные глубокие сети для решения задач. ⏱Читать статью

Дерево решений (CART). От теоретических основ до продвинутых техник и реализации с нуля на Python #почитать Дерево решений CART (Classification and Regressoin Tree) — алгоритм классификации и регрессии, основанный на бинарном дереве и являющийся фундаментальным компонентом случайного леса и бустингов, которые входят в число самых мощных алгоритмов машинного обучения на сегодняшний день. Деревья также могут быть не бинарными в зависимости от реализации. ⏱Читать статью

ML-отражение DDoS-атак в Яндексе #почитать

Если посмотреть под капот Антиробота, то мы увидим две части: быструю и умную. Быстрая часть отвечает на каждый запрос Балансера. В умной части сосредоточена бо́льшая часть магии. Здесь заложено огромное факторное пространство: на текущий момент оно насчитывает десятки тысяч факторов. Помимо факторов «по записи», как в быстрой части, тут используются агрегации по времени и по таким сущностям, как IP‑адрес, активность использования конкретным пользователем текущего и остальных сервисов Яндекса.

Сейчас у нас есть отточенный цикл разработки и внедрения ML‑моделей: Шаг 1. Антиробот логирует запросы, а также на каждый запрос формирует два факторных пространства: на быстрой части — около тысячи факторов, а на умной — десятки тысяч. Шаг 2. Аналитики строят пайплайны по разметке данных. Шаг 3. Далее аналитики в зависимости от задачи обучают CatBoost, который будет запускаться в продакшне в реалтайме.

⏱Читать статью