Математика Дата саентиста

📚 Новогодние праздники продолжаются и пришло время провести крутой розыгрыш. На этот раз мы разыграем целых 3 места на наших курсах и целую коллекцию актуальных книг для изучения и погружения в машинное обучение и python. Условия просты: • подписаться на Pythonl • подписаться на Поступашки Победители рандомно получат доступы к курсам или одну из книг, которые перечислены ниже: — System Design. Машинное обучение. Подготовка к сложному интервью | Сюй Алекс — Алгебра, топология, дифференциальное исчисление и теория оптимизации для компьютерных наук и машинного обучения — Глубокое обучение Курвилль Аарон, Гудфеллоу Ян — Как быть успешным в Data Science. — Все, что нужно, чтобы понимать математику в одном толстом конспекте Итоги подведем при помощи бота, который рандомно выберет победителя. Всем удачи ❤️ • подписаться на Pythonl • подписаться на Поступашки #Конкурс

- Почему ты так испугался, это всего лишь червь - Червь: @data_math

С Новым годом 🎊 @data_math

⚡️ Введение в тензорные сети 📌 Видео 📌 Урок 1 / Урок2 / Урок3 / Урок4 / Урок5 📌 Colab

⚡️ Введение в тензерные сети 📌 Урок5 📌 Урок 1 / Урок2 / Урок3 / Урок4 📌 Colab @data_math

⚡️ QVQ-72B-Preview: VLM с ризонингом от Qwen. QVQ-72B-Preview - экспериментальная VLM на основе Qwen2-VL-72B , разработанная Qwen, со способностями к аналитическому мышлению и новым уровнем когнитивных навыков. Проведенная в Qwen оценка QVQ-72B-Preview на бенчмарках MMMU, MathVista, MathVision и OlympiadBench показала результат 70.3 на MMMU, 71.4 на MathVista, 35.9 в MathVision и 20.4 на наборе OlympiadBench, подчеркнув ее способность к комплексному пониманию и рассуждению в мультидисциплинарных задачах. ⚠️ Несмотря на высокие результаты, QVQ-72B-Preview - предварительная версия модели, которая имеет ограничения: 🟠возможность смешения языков и переключения между ними; 🟠склонность к зацикливанию в логических рассуждениях; 🟠постепенная потеря концентрации на визуальном контенте при многоступенчатом рассуждении, что может приводить к галлюцинациям. Неофициальные квантованные версии QVQ-72B-Preview в формате GGUF с диапазоном разрядностей от 1-bit (23.7GB) до 8-bit (77.26GB) и MLX-версии от mlx community в разрядностях от 4-bit до 16-bit. 📌Лицензирование: Qwen License. 🟡Статья 🟡Модель 🟡Demo 🟡Набор GGUF 🟡Набор MLX 🟡Сообщество в Discord 🖥GitHub @ai_machinelearning_big_data #AI #ML #VLM #Qwen #Reasoning

ФИЗМАТ - топовый канал про Физику, Математику и ИТ. С помощью картинок и шортcов даже новички разберутся в сложных концепциях и формулах. Присоединяйтесь: t.me/fizmat

⚡️ Тензорное разложении и его применении в машинном обучении. Урок 4 📌 Видео 📌 Урок 1 / Урок2 / Урок3 📌 Colab @data_math

🔥 Старейшая нерешённая задача Существуют ли нечётные совершенные числа? Над этим вопросом уже 2000 лет бьются умнейшие математики. Дерек Маллер с канала Veritasium опять решил сломать всем мозг и сделал получасовое видео об очередной математической жести. Удачи всем что-то понять, мы старались как могли. Было тяжело, мы устали. Кто-нибудь, заберите уже у Дерека книгу по теории чисел. 📌 источник

Обучение нейросети занимает слишком много времени? Покупка видеокарты RTX 4090 кажется слишком затратной? Зачем переплачивать, если можно арендовать?  immers.cloud —  это облачный сервис, предоставляющий доступ к мощным видеокартам (GPU) для самых различных задач: от рендеринга и 3D-моделирования до обучения ИИ и гейминга.  — Посекундная тарификация — платите только за использованные ресурсы, никакой переплаты! — Мощности закрепляются исключительно за тобой, никакой очереди и задержек ⚡️ Полный контроль и максимальная производительность! 11 видов видеокарт для любых задач 💸 Цены, которые удивляют! Тарифы стартуют от 23 рублей в час. Никаких заявок, ожиданий или запросов цен. Регистрация занимает менее 2 минут, и ваши виртуальные сервера с GPU и CPU готовы к работе!

Кодирование сигналов 1. Код Грея 2. Применение битов четности 3. Код Хемминга 4. Синхронизация с помощью избыточного кода 5. Скремблирование 6. Кодирование битов при последовательной передаче 7. Битстаффинг 8. Передатчик Манчестер II 9. Приемник кода Манчестер II 10. Двунаправленная передача импульсов по одной линии #video #math https://www.youtube.com/watch?v=C4cU4gldP5c&list=PL1VvMJF0dnhrcJZBhrAr8OWZKkCtbIBGQ&ab_channel=%D0%AD%D0%BB%D0%B5%D0%BA%D1%82%D1%80%D0%BE%D1%82%D0%B5%D1%85%D0%BD%D0%B8%D0%BA%D0%B0%D0%B8%D1%8D%D0%BB%D0%B5%D0%BA%D1%82%D1%80%D0%BE%D0%BD%D0%B8%D0%BA%D0%B0%D0%B4%D0%BB%D1%8F%D0%BF%D1%80%D0%BE%D0%B3%D1%80%D0%B0%D0%BC%D0%BC%D0%B8%D1%81%D1%82%D0%BE%D0%B2 @data_math

📌Как линейная алгебра может помочь при разработке web-приложения. Интересная и познавательная статья разработчика Ивана Шубина о том, как он использовал матрицы для создания интерактивного редактора диаграмм Schemio. Изначально, редактор позволял создавать простые фигуры и манипулировать ими, но с введением иерархии объектов возникла необходимость в сложных преобразованиях координат. Матрицы стали ключом к решению этой проблемы, позволяя эффективно управлять перемещением, вращением и масштабированием объектов. Для преобразования глобальных и локальных координат между собой использовались матричные преобразования. Умножение матриц дало возможность комбинировать преобразования, а инверсия матрицы помогает переводить координаты из глобальных в локальные. Иван подробно описывает, как матрицы помогают управлять поворотом и масштабированием объектов относительно опорной точки и как они используются при монтировании и демонтировании объектов, чтобы избежать нежелательных коллизий. Таким образом, матричная математика стала решением для расширения возможностей редакторе Schemio. 🔜 Читать полную версию статьи #Math #LinearAlgebra #Webdev

⚡️ Математика машинного обучения.Базовые понятия тензорного исчисления. Урок 3 📌 Видео 📌 Урок 1 / Урок2 📌 Colab @data_math

Разбираем тестовое задание на позицию Junior Аналитика в Яндекс Чтобы найти работу, мало пройти курс и сделать классное резюме. На практике, чтобы выделиться на собеседовании, нужно понимать, что лежит под капотом каждого инструмента, а не следовать конкретному заученному алгоритму. Чтобы попрактиковаться в этом, приходите на бесплатный вебинар, где будем разбирать реальное тестовое задание, которое дают аналитикам в подразделении Яндекс Картинки. Что будет на вебинаре: 🟠С помощью Pandas проанализируем Яндекс-запросы за несколько недель, загрузив их из json-файла 🟠Найдём закономерности и отличия использования сервиса на мобильных устройствах и компьютерах 🟠Разберём фишки Pandas: сложную агрегацию, маппинг, конкатенацию, чейнинг и др. Вебинар проведет Андрон Алексанян, CEO Simulative 🕗Встречаемся 24 декабря в 19:00 🎁Обязательно приходите смотреть вебинар в прямом эфире - в лайве будут дарить подарки, которые сильно бустанут старт карьеры в аналитике! Зарегистрироваться на бесплатный вебинар

📹 Основы вероятности и теория меры 14. Теорема Лебега 📌 Источник 📌 Полный курс

📌 Математика, машинное обучение и работа с данными на практике Алексей Толстиков, руководитель Школы анализа данных Яндекса (ШАД), делится опытом, который будет полезен не только будущим ML- и DS-специалистам, но также их преподавателям – в подкасте Виктора Кантора на канале MLinside. В видео разбирают: 🟡 Важность гибких методов преподавания. Как преподаватели-менторы помогают справиться с трудностями в обучении, которые возникают у студентов. 🟡 Главное в менторстве. В чем основная задача наставников и почему им не обязательно быть универсальными экспертами. 🟡 Путь к пониманию алгоритмов. Как не просто изучать теорию, но и научить видеть её практическую ценность – через задачи, соревнования и примеры из жизни. @data_math

🌟 Bamba-9B: эффективная Hybrid Mamba2 модель. Bamba-9B - модель, разработанная IBM, Princeton, CMU и UIUC на основе полностью открытых данных. Модель демонстрирует улучшение пропускной способности в 2.5 раза и снижение задержки инференса в 2 раза по сравнению с Transformers в vLLM. Bamba-9B доступна для использования в HF Transformers, vLLM, TRL и llama.cpp. Bamba-9B использует уникальный распределенный, не сохраняющий состояние data loader, обеспечивающий бесшовное возобновление работы, автоматическое масштабирование, потоковую передачу данных с zero-overhead for shuffling. Модель основана на архитектуре NVIDIA hybrid Mamba2, но с некоторыми изменениями. Bamba-9B имеет 32 слоя, из которых 3 полноценных слоя внимания и 29 слоев Mamba2, в то время как NVIDIA hybrid Mamba2 имеет 29 слоев, из которых 4 слоя внимания и 25 слоев Mamba2. Bamba-9B была обучена на 2.2T токенов с датасетом Dolma v1.7 на первом этапе и FineWeb-edu и Cosmopedia на втором. По проведенным замерам, средняя производительность Bamba-9B почти сравнима с Llama 3.1 8B (45.53 против 44.68), при том что Llama 3.1 8B была обучена на 7x большем объеме данных. Bamba-9B превзошла Olmo 7B, обученную на идентичном количестве токенов и наборах данных. В сравнении с другими моделями на базе Mamba/Mamba2, Bamba-9B показывает хорошие результаты, при этом обеспечивая значительное улучшение (до 5x) эффективности логического вывода. ▶️ Планы разработчиков на дальнейшее развитие Bamba: 🟠увеличение длины контекста модели Bamba-9B (сейчас - 4096); 🟠улучшение модели путем обучения на дополнительных данных и точной настройки на наборах данных SFT. ▶️ Опубликованный набор моделей: 🟢Bamba 9B - финальная версия модели после 2-х этапов обучения 🟢Bamba 9B 2T - чекпоинт после 1 этапа трейна с датасетом Dolma v1.7 🟠Bamba 9B 1.8T - промежуточный чекпоинт 1 этапа обучения 🟢Bamba 9B FP8 - квантованная с помощью llm-compressor версия Bamba 9B 🟢Bamba 9B 2T FP8 - квантованная с помощью llm-compressor версия Bamba 9B 2Т 🟠Bamba 9B 1.8T FP8 - квантованная с помощью llm-compressor версия Bamba 9B 1.8Т ▶️Пример инференса на Transformers с Bamba-9B:

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("ibm-fms/Bamba-9B")
tokenizer = AutoTokenizer.from_pretrained("ibm-fms/Bamba-9B")

message = ["Mamba is a snake with following properties  "]
inputs = tokenizer(message, return_tensors='pt', return_token_type_ids=False)
response = model.generate(**inputs, max_new_tokens=64)
print(tokenizer.batch_decode(response, skip_special_tokens=True)[0])

📌Лицензирование: Apache 2.0 License. 🟡Статья 🟡Набор моделей 🖥GitHub @ai_machinelearning_big_data #AI #ML #LLM #Bamba #IBM