Ссылки для дрессировщиков нейронных сетей
Open in Telegram
Сюда выкладываем полезные ссылки и информацию по нейросетям
Show more1 157
Subscribers
No data24 hours
-57 days
-630 days
Posts Archive
Repost from Архив программиста
10 книг по SQL на русском языке.
Скачивайте и читайте.
Изучаем SQL и MySQL
Автор: Ашвин Паджанкар
SQL. Сборник рецептов
Автор: Молинаро Энтони
SQL: быстрое погружение
Автор: Уолтер Шилдс
Основы технологий баз данных
Автор: Б. А. Новиков
SQL для чайников
Автор: Аллен Тейлор
Распределенные данные
Автор: Алекс Петров
Мониторинг PostgreSQL
Автор: Алексей Лесовский
Оптимизация запросов в PostgreSQL
Автор: Генриэтта Домбровская
Базы данных. Проектирование, программирование, управление и администрирование
Автор: Владимир Волк
Реляционные базы данных в примерах
Автор: Святослав Куликов
#ru #подборка
Repost from Анализ данных (Data analysis)
🌟 Eagle-X5: Обновление семейства MMLM от NVIDIA Research Projects.
Eagle - это семейство MLLM высокого разрешения, построенное на LLaVA. В обновленном до версии X5 наборе представлено 3 модели:
🟢Eagle-X5-7B
🟢Eagle-X5-13B
🟠Eagle-X5-13B-Chat
Архитектура Eagle-X5:
🟠LLM: Eagle-X5 использует Vicuna-v1.5-7B и Vicuna-v1.5-13B для создания текстовых ответов и рассуждений о визуальном вводе;
🟠Vision Encoders: в моделях Eagle-X5 пять энкодеров, предварительно натренированы на различных задачах и разрешениях - CLIP, ConvNeXt, Pix2Struct, EVA-02 и SAM (Segment Anything);
🟠Fusion Module: визуальные признаки, полученные от каждого энкодера, объединяются с помощью поканальной конкатенации;
🟠Projection Layer: используется для проецирования обработанных визуальных признаков в пространство встраивания LLM.
Обучение модели Eagle-X5 проходит в три этапа:
🟢каждый vision encoder индивидуально настраивается с замороженной LLM методом next-token-prediction supervision. Этот этап приводит визуальные представления в соответствие с языковым пространством и устраняет искажения;
🟢проекционный слой тренируется парами изображение-текст для дальнейшего выравнивания визуального и языкового пространства;
🟢SFT-этап, на котором вся модель точно настраивается на основе мультимодальных наборов данных: пары изображение-текст, VQA и мультимодальных диалоговых наборах.
Eagle показывает высокие результаты в мультимодальных бенчмарках LLM, особенно в задачах, чувствительных к разрешению - OCR и понимание документов.
Установка и запуск с GradioUI:
# Clone repository
git clone https://github.com/NVlabs/EAGLE.git
cd Eagle
# Create venv and install requirements
conda create -n eagle python=3.10 -y
conda activate eagle
pip install --upgrade pip # enable PEP 660 support
pip install requirements
# Run Gradio
python gradio_demo.py --model-path ${MODEL_CKPT} --conv-mode vicuna_v1
📌Лицензирование моделей: CC-BY-NC-SA-4.0 License.
🟡Набор моделей
🟡Arxiv
🟡Demo
🖥Github [ Stars: 56 | Issues: 1 | Forks: 3]Repost from Эксплойт
Прощай, ChatGPT — теперь лучшие нейронки можно запустить у себя на ноутбуке. Вышла GPT4All v3 и это буквально революция в мире LLM:
• Это первый клиент, в который можно загружать свои файлы — код проекта, диплом, вообще что угодно. На видео мы загрузили код WinUtil и попросили объяснить что он делает;
• Клиент идеально оптимизирован — подгрузка файлов вообще не нагружает систему, а модели работают невероятно шустро;
• На выбор больше 1000 (!) моделей — буквально всё, что вы найдете, можно запустить в GPT4All;
• Всё работает полностью локально — можно кормить нейронке чувствительные файлы не боясь, что данные из них куда-то попадут.
Работает со всеми актуальными ОС, установщик уже ждёт вас здесь.
@exploitex
Repost from Эксплойт
Microsoft обновили лучший курс для новичков в ИИ — его настолько круто прокачали, что теперь это версия 2.0.
Больше никакого скучного текста — каждый шаг снабдили видеоуроками, практикой и дополнительными материалами. Лучшие спецы Microsoft проведут вас за ручку от настройки Python до создания своей первой нейросети.
Уже лежит на GitHub абсолютно бесплатно.
@exploitex
Repost from Анализ данных (Data analysis)
+4
⚡️ Понимание Deep Learning
Отличная книга и масса Colab'ов от MIT для полного понимания Deep Learning
Определённо это один из лучших ресурсов по DL
🟡 Understanding Deep Learning
📎 PDF
@data_analysis_ml
Repost from Анализ данных (Data analysis)
+1
🌟 Merlion — ML-фреймворк для анализа временных рядов
—
pip install salesforce-merlion[dashboard]
Merlion — это фреймворк Python для интеллектуального анализа временных рядов.
Merlion представляет собой набор ML-алгоритмов, позволяющих загружать и преобразовывать данные, строить и обучать модели, проводить обработку результатов моделирования и оценивать эффективности модели.
Merlion позволяет решать такие задачи как прогнозирование, обнаружение аномалий (как для одномерных, так и для многомерных временных рядов).
🖥 GitHub
🟡 Доки
@data_analysis_mlКороче... я тут пальцы веером, нашла-нашла на английском! А давно и на русском есть https://t.me/skladitshki/1034
Repost from Анализ данных (Data analysis)
+2
🌟 Новая статья на Habr: разработчики из команды AllSee поделились опытом внедрения YandexGPT API в свои проекты
Авторы пишут, что официального SDK пока нет, поэтому они создали свой. Здесь полное решение, включая создание класса YandexGPT Thread для хранения и управления отдельными чатами.
Из интересного: в начале есть сравнение эффективности YandexGPT и ChatGPT в одной из задач. Две модели показали хорошие результаты, но стоимость нейросети от Яндекса вышла значительно меньше.
https://habr.com/ru/articles/812979/
@data_analysis_ml
Repost from Машинное обучение. Книги по программированию
Алгоритмы обучения с подкреплением на Python
Автор: Андреа Лонца
Год издания: 2020
#ml #python #ru
Скачать книгу
Repost from XOR
⚡️ Ликуем: в VSCode внедрили пять нейросетей. Из хайпового: Llama-3, Mistral, Gemma, Phi-3 и т.д. Они бесплатно фиксят, объясняют и пишут код. А если вдруг что-то не понравилось, выбираем другую LLM-ку.
Гайд по подключению:
🟢 Создаем аккаунт в NVIDIA AI здесь.
🟢 Жмём на любую модель и кликаем «Get API key».
🟢 Скачиваем расширение CodeGPT в VSCode.
🟢 В нём выбираем провайдера NVIDIA и вставляем скопированный API-ключ.
🟢 Done 👍
@xor_journal
Repost from Анализ данных (Data analysis)
🖥 Обнаружение аномалий с помощью PyOD
—
pip install pyod
PyOD — это универсальная масштабируемая библиотека Python для поиска аномалий в многомерных данных.
Содержит ряд очень полезных алгоритмов:
🟡TODS — для обнаружения выбросов временных рядов
🟡PyGOD — для обнаружения выбросов на графиках
Кстати, к PyOD прилагается 45-страничный подробный документ по эталонному обнаружению аномалий (если не открывается, вы знаете)
И да, PyOD отлично скейлится — здесь инструкция по запуску PyOD на распределенных системах и на центрах обработки данных
🖥 GitHub
@data_analysis_mlRepost from Анализ данных (Data analysis)
🔥 Animation with text that highlights important events
Анимация является выразительным средством, оживляющим ваши данные, и Matplotlib предлагает специализированные инструменты для этой цели.
Это руководство представляет собой подробное пошаговое руководство с кодом, который вы можете воспроизвести для создания эффектных анимаций.
• Читать
@data_analysis_ml
Repost from Анализ данных (Data analysis)
+1
🌟 О работе трансформеров с контекстом
Отличная статья для глубокого понимания, как трансформеры работают с контекстом.
Детально описаны механизмы, благодаря которым это вообще возможно, в том числе и механизм внимания.
Выдвигается гипотеза, что обучение трансформеров в контексте возникает благодаря неявной реализации градиентного спуска по функции потерь, построенной на основе данных, взятых из контекста.
📎 Arxiv
🟡 Кстати, полезная статья об архитектуре трансформеров на Хабре
🟡 Визуализация механизма внимания от 3b1b
@data_analysis_ml
Repost from эйай ньюз
⚡️Lightning Studio: Альтернатива Google Colab если хотите поиграться c модельками или заняться пет-проектом
Я тут случайно набрел на такую штуку. Не знал, что Lightning, та контора, что делает фреймворк Pytorch Lightning, ещё и пилит свою студию. По сути это онлайн среда для разработки и прототипирования deep-learning моделек. Тут все что нужно есть: и терминал, и VS Code, и ноутбуки, и удобный доступ к файловой системе и persitent хранилище (а не грёбаный google drive).
Фичи, которые есть тут, но нет в Google Colab:
- free persistent storage, то есть локальные файлы не пропадают, когда вы закрыли ноутбук
- free persistent environments
- unlimited background execution
- VSCode, PyCharm, (any IDE) integration
Дают бесплатно 22 гпу-часов (T4) в месяц, плюс можно докупить еще, если нужно. Платишь только за время, когда GPU активирована. Можно отмасштабировать и арендовать 8xA100, если нужно натренировать что-то серьезное.
https://lightning.ai/
@ai_newz
Repost from Анализ данных (Data analysis)
📈 Python Graph gallery: 38 высококачественных гайдов по визуализации!
И этот список продолжает расти 📈
Кто сказал что matplotlib
уродлив? 😀
http://python-graph-gallery.com/best-python-chart-examples/
@data_analysis_ml
Repost from Machinelearning
🦾 Made With ML: Learn how to combine machine learning with software engineering to design, develop, deploy and iterate on production-grade ML applications.
100% бесплатный курс, который поможет вам научиться писать код производственного уровня MLOps.
Курс научит вас всему, начиная с проектирования, моделирования, тестирования, работу с моделями обучения и многому другому бесплатно!
Более 35 тысяч звезд на Github
Узнайте, как проектировать, разрабатывать, развертывать и работать с ML приложеними производственного уровня.
▪Course
▪Overview
▪ Jupyter notebook
ai_machinelearning_big_data
Repost from Нейролента
Новый нейрокороль: в открытый доступ дропнули DBRX, которая обходит всех бесплатных конкурентов. Сравните сами на графике: даже неполиткорректный Grok Маска глотает пыль.
DBRX шарит в написании кода, решает задачки по математике и понимает русский язык. Запустить нейронку можно бесплатно из браузера без регистрации и смс — тут.
ChatGPT | Нейро News | ChatGPT
Repost from Анализ данных (Data analysis)
✨ Знакомьтесь, #Moirai: Библиотека, которая революционизирует прогнозирование временных рядов с помощью универсальных моделей!
Целью этой библиотеки является предоставление унифицированного решения для работы с временными рядами.
Uni2TS также предоставляет инструменты для точной настройки, оценки и прогнозирования временных рядов.
▪Github
▪Hf
▪Blog
@data_analysis_ml
Repost from Эксплойт
Самая крутая нейросеть для генерации песен обновилась — в Suno V3 сильно прокачали скорость и качество генерации.
Новая модель может превратить в эпичную песню даже инструкцию по приготовлению пельменей!
Самое кайфовое, что модель доступна всем бесплатно — воплощаем в жизнь свои таланты тут.
@exploitex
