Machinelearning

⚡️ AT-EDM: Attention-Driven Training-Free Efficiency Enhancement of Diffusion Models Компания Adobe нашла способ снизить вычислительные затраты на диффузионные модели данных без переобучения. Они назвали метод AT-EDM, и это позволяет добиться сокращения FLOPs до 40% при сохранении почти такого же качества изображения, как и в исходной модели. ▪Почитать подробнее: https://atedm.github.io ▪Видео: https://www.youtube.com/watch?v=ZmOdN4F_8Ew ▪Статья: https://arxiv.org/abs/2405.05252 Код на подходе. @ai_machinelearning_big_data

🧠 Прокачай свои знания о Data Science! X5 Tech запускает хакатон X5 Tech AI Hack – узнай на практике больше об алгоритмах маскирования данных и избавлении нейросетей от галлюцинаций. Призовой фонд – 2 000 000 рублей. 🔔 Старт ML-соревнования уже через несколько дней – 17 мая. Не жди дедлайна, регистрируйся прямо сейчас! Приглашаем на хакатон Python-разработчиков и специалистов по машинному обучению вне зависимости от их опыта. На выбор – один из двух треков: 1️⃣ Маскирование. Предстоит разработать алгоритм, который будет заменять чувствительные данные в датасете без потери смысла. Ты научишься решать задачу Named Entity Recognition и обучать модели обработки естественного языка. 2️⃣ Детекция галлюцинаций. Задача конкурсантов – создать систему, которая сможет эффективно выявлять аномалии в тексте, сгенерированном нейросетью. Решение поможет лучше понять, как работают языковые модели, разобраться, как анализировать и классифицировать большие данные. Хакатон продлится 10 дней. У тебя будет шанс получить советы от крутых ML-экспертов и специалистов по Data Science, обсудить задачи соревнования с единомышленниками, узнать больше о проектах X5 Tech. 28-29 мая 5 лучших команд в каждом треке получат приглашение на финал в Москве. Церемония награждения пройдет 30 мая на X5 Future Night, где ты сможешь вживую пообщаться с представителями компании и коллегами по Data Science. 🔥 Участвуй в X5 Tech AI Hack и внеси свой вклад в развитие ML-технологий

🔥 Некоторые крутые скрытые фишки новой GPT4o 1) GPT4o на 2 головы опередил всех в создании текста на изображениях, сгенерированных искусственным интеллектом. Великолепный результат. 2) Новая модель позволяет генерировать шрифты. 3) Поддерживает 3d-рендеринг. 4/ GPT4o может создавать звуковые эффекты, а не только речь. 5) Эффективная и стабильная работа в преобразовании изображений в зависимости от контекста. А на последнем видео, вы можете посмотреть как модель отвечает на русском языке. Сегодня намечена Google I/O, где нам покажут обновленный Gemini, ждем достойного ответа. @ai_machinelearning_big_data

✅ Приложение, в котором вы можете посмотреть прогресс открытых и проприетарных моделей LMS с течением времени✅ Это приложение отображает изменения показателей моделей, который оценивается чат-ботом LMSYS Arena, крутая штука, чтобы поиграться. Показатель ELO (ось y) - это показатель относительной силы модели, основанный на ее показателях по сравнению с другими моделями на арене. Дата публикации (по оси x) соответствует моменту, когда модель была впервые опубликована публично. Линии тренда основаны на обычной регрессии методом наименьших квадратов (МНК) и корректируются в соответствии с критериями фильтрации. https://huggingface.co/spaces/andrewrreed/closed-vs-open-arena-elo @ai_machinelearning_big_data

🌟 LocalAI — свободная альтернатива предложений от OpenAI LocalAI — это open-source альтернатива решений от OpenAI. LocalAI выступает в качестве замены REST API, совместимого со спецификациями OpenAI API для локальных выводов. Позволяет локально запускать LLM, генерировать изображения, аудио (и не только), клонировать голос; при этом не требует GPU. Поддерживается множество семейств LLM и архитектур, LocalAI работает с gguf, transformers, diffusers и не только. Запуск LocalAI с помощью Docker: — docker run -p 8080:8080 --name local-ai -ti localai/localai:latest-aio-cpu При наличии GPU Nvidia (аналогично для CUDA 12): — docker run -p 8080:8080 --gpus all --name local-ai -ti localai/localai:latest-aio-gpu-nvidia-cuda-11 🖥 GitHub 🟡 Страничка LocalAI @ai_machinelearning_big_data

Yandex приглашает поучаствовать в Practical ML Conf 14 сентября! На конференции поговорим о том, как применять ML-технологии в бизнесе и реальных продуктах. Регистрируйтесь уже сейчас — те, кто сделает это раньше всех, попадут на закрытый мини-ивент в июле. А если хотите поделиться своим опытом в ML, станьте спикером, оставив заявку. Ключевые темы конференции — CV, RecSys, MLOps, NLP, Speech и Analytics. После подачи программный комитет рассмотрит заявки и примет решение об участии каждого претендента. 🔹 Сбор заявок завершится 13 июля. Реклама. ООО "Яндекс", ИНН 7736207543.

⚡️ MatterSim — модель глубокого обучения для моделирования атомных структур; поддерживает все элементы, температуры и давления MatterSim — Deep Learning, которая позволяет моделировать свойства атомных структур на высоком уровне и точно предсказывать свойства материалов во всей периодической таблице, при температурах от 0 до 5000 К и давления до 1000 ГПа. MatterSim может быть тонко настроена для моделирования атомных структур на желаемом уровне теории. Или же можно использовать модель для прямого прогнозирования свойств на основе заданной структуры. 📎 Arxiv @ai_machinelearning_big_data

🔥 Грег Брокман, соучредитель OpenAI, опубликовал 5-минутное видео, в котором он общается с языковой моделью GPT-4 и демонстрирует ее возможности компьютерного зрения. А вот еще 33 видео с примерами работы ИИ - https://vimeo.com/openai. А если инверсно, тут обращение самого Сэма Альтмана - https://blog.samaltman.com/gpt-4o

🔥 Модель 👇 https://openai.com/index/hello-gpt-4o/ @ai_machinelearning_big_data

🖥 Модель общается естественным и понятным языком, обрабатывает информацию в реальном времени и даже умеет шутить. Ее практически невозможно отличить от живого человека. @ai_machinelearning_big_data

🖥 Вышла новая, улучшенная версия GPT-4 Omni для. И что самое главное — она доступна всем БЕСПЛАТНО! Это самая совершенная модель из всех, намного превосходящая своих предшественников, включая таинственный gpt2-chatbot. Она появится уже сегодня в виде приложения для пк. Она даже понимает эмоции и тон голоса. @ai_machinelearning_big_data

🖥 Началась трансляция OpenAI Spring Update будет, смотрим: https://www.youtube.com/watch?v=DQacCB9tDaw @ai_machinelearning_big_data

⚡️ Lory — полностью дифференцируемая Mixture-of-Experts (MoE) для предварительного обучения авторегрессионной языковой модели На днях исследователи из Принстона и Meta AI представили Lory — первое в своём роде решение, которое позволяет масштабировать MoE-архитектуры для предварительного обучения авторегрессионных языковых моделей. В Lory реализованы 2 ключевые технологии: (1) — стратегия маршрутизации причинных сегментов, которая обеспечивает высокую эффективность операций объединения экспертов при сохранении авторегрессивной природы языковых моделей (2) — метод группировки данных на основе сходства, который стимулирует специализацию "экспертов" путем группировки похожих документов в обучающих выборках Результаты экспериментов с Lory показывают значительный прирост производительности по сравнению с обычными MoE-моделями. 📎 Arxiv @ai_machinelearning_big_data

🔥 DocsGPT — open-source AI-помощник для работы с документами и не только DocsGPT — это функциональное решение на базе LLM и GPT с открытым исходным кодом, которое упрощает процесс поиска информации в документации. Благодаря интеграции мощных LLM можно задавать вопросы по документации и различным текстам и получать точные ответы. Модели на Hugging Face: 🟡 Docsgpt-7b-mistral — требует 1×A10G GPU 🟡 Docsgpt-14b — требует 2×A10 GPU 🟡 Docsgpt-40b-falcon — требует 8×A10G GPU 🖥 GitHub #llm #gpt @ai_machinelearning_big_data

📊 Time Series Foundation Model by Google TimesFM - это новая модель прогнозирования временных рядов от Google, предварительно обученная на большом массиве данных состоящем из 100 миллиардов реальных временных точек. Модель демонстрирует впечатляющую производительность при zero-shot обучении на множестве бенчмарков. #TimesFM #TimeSeries #Forecasting #FoundationModels ▪Github: https://github.com/google-research/timesfm ▪Paper: https://arxiv.org/abs/2310.10688 ▪Blog: https://research.google/blog/a-decoder-only-foundation-model-for-time-series-forecasting/ ▪HF: https://huggingface.co/google/timesfm-1.0-200m @ai_machinelearning_big_data

⚡️ LLaVA-NeXT: A Strong Zero-shot Video Understanding Model LLaVA-NeXT - одна из самых мощных на сегодняшний день моделей для понимания видео, превосходящая все существующие VLM, с открытым исходным кодом. Новая SoTA! LLaVA-Next демонстрирует высокую скорость передачи данных и демонстрирует отличные результаты при zero-shot обучении.

git clone https://github.com/LLaVA-VL/LLaVA-NeXT

▪Github: https://github.com/LLaVA-VL/LLaVA-NeXT ▪Blog: https://llava-vl.github.io/blog/2024-04-30-llava-next-video/ ▪HF: https://huggingface.co/shi-labs/CuMo-mistral-7b ▪Dataset: https://huggingface.co/datasets/shi-labs/CuMo_dataset @ai_machinelearning_big_data

KAN + NeRF = 🔥 KAN (Kolmogorov-Arnold Networks) — многообещающий конкурент традиционных MLP. Почему бы не внедрить его в NeRF? Результаты впечатляют — оптимизация NeRF занимает от нескольких часов до одного-двух дней (в зависимости от разрешения) и требует GPU. Рендеринг изображения из оптимизированного NeRF с KAN занимает от секунды до ~30 секунд в зависимости от разрешения. 🖥 GitHub @ai_machinelearning_big_data

🔥Gemma 2B with recurrent local attention with context length of up to 10M Google выпустили огненную модель Gemma 2B с длиной контекста 10M, которая анализирует до 7 млн слов. В нее можно закидывать огромные документы и модель всё проанализирует. Производительность выше Gemini в 10 раз, а памяти нужно всего 32 ГБ. ▪Github: https://github.com/mustafaaljadery/gemma-2B-10M ▪HF: https://huggingface.co/mustafaaljadery/gemma-2B-10M ▪Technical Overview:https://medium.com/@akshgarg_36829/gemma-10m-technical-overview-900adc4fbeeb @ai_machinelearning_big_data

⚡️ Deblur-GS: 3D Gaussian Splatting from Camera Motion Blurred Images Новый метод Deblur-GS на основе Гауссовских сплатов для качественного восстановления размытой картинки. Deblur-GS обеспечивает превосходную производительность и качество рендеринга по сравнению с предыдущими методами, что подтверждается бенчмарками, как на синтетических, так и на реальных наборах данных. ▪Code: https://github.com/Chaphlagical/Deblur-GS ▪Paper: https://chaphlagical.icu/Deblur-GS/static/paper/Deblur_GS_author_version.pdf ▪Project: https://chaphlagical.icu/Deblur-GS/ @ai_machinelearning_big_data