Data Science by ODS.ai 🦜

Meta-prompting Optimized Retrieval-augmented Generation Proposes a method to enhance RAG by refining retrieved content using meta-prompting optimization, demonstrating a 30% performance improvement in multi-hop QA tasks. 📝https://arxiv.org/abs/2407.03955 👨🏽‍💻https://github.com/nlx-group/rag-meta-prompt @opendatascience

Олды в сборе? Наверняка каждый из вас хотя бы раз играл в Pac-Man или слышал об этой культовой игре. Cloud․ru вдохновился идеей и запустил на Хабре облачный турнир по мотивам Pac-Man! Cloud․ru — провайдер, который делает доступ к облакам и AI простым и удобным. А еще веселым🙂 Участвуй в облачной миссии Cloud-Man’а: собери все on-premise решения, не забудь захватить топовые бусты облака Cloud․ru Evolution и избегай тех, у кого есть сомнения в миграции. Трех участников, которые наберут наибольшее количество очков, ждут крутые призы: • бонусные баллы (= рубли) на все сервисы облачной платформы Cloud․ru Evolution: 100 000 баллов — за первое место, 70 000 баллов — за второе и 50 000 баллов — за третье; • толстовка с принтом игры каждому финалисту. Набирай очки до 28 июля включительно и не забудь подписаться на блог Cloud․ru — здесь опубликуют список победителей, а в августе к счастливчикам уже поедут призы. 🕹️ Играть в Cloud-Man

⚡️ BERGEN: A Benchmarking Library for Retrieval-Augmented Generation Naver introduces a Python library for standardizing RAG experiments and reveals key insights through extensive benchmarking. 📝https://arxiv.org/abs/2407.01102 👨🏽‍💻https://github.com/naver/bergen @opendatascience

Станьте профессионалом в области Data Science и машинного обучения в магистратуре от Центрального университета! Центральный университет — современный вуз, созданный при поддержке ведущих компаний России: Т-Банка, Авито и других. Получите диплом магистра в области математики и компьютерных наук и обучайтесь на основе реальных кейсов ведущих ИТ-компаний у профессоров из МГУ, МФТИ, РЭШ и практиков из индустрии. Хорошая новость для тех, кто уже имеет опыт в Data Science и машинном обучении — вы можете пропустить базовое обучение и закончить магистратуру за 3 семестра. У каждого студента будет: - личный ментор по траектории обучения; - доступ к карьерному центру с коучами и консультантами; - опыт работы в проектах партнеров уже во время обучения. Участвуйте в онлайн-отборе, чтобы выиграть грант на обучение до 1,2 млн рублей. Больше подробностей про университет и конкурс грантов по ссылке! erid:2VtzquX1Phi Реклама, АНО ВО «Центральный университет», ИНН 7743418023

Yandex introduces YaFSDP, a method for faster and more efficient LLM training This enhanced version of FSDP significantly improves LLM training efficiency by optimizing memory management, reducing unnecessary computations, and streamlining communication and synchronization. Here’s an overview of YaFSDP based on this Medium article. How it works: - Layer sharding: YaFSDP shards entire layers for efficient communication and reduced redundancy, minimizing memory usage across GPUs. - Buffer pre-allocation: YaFSDP pre-allocates buffers for all necessary data, eliminating inefficiencies. This method uses two buffers for intermediate weights and gradients, alternating between odd and even layers. Using CUDA streams, YaFSDP effectively manages concurrent computations and communications. Furthermore, the method ensures that data transfers occur only when necessary and minimizes redundant operations. To optimize memory consumption, YaFSDP employs sharding and efficient buffer use while reducing the number of stored activations. Comparatively, YaFSDP has demonstrated a speedup of up to 26% over the standard FSDP method and can facilitate up to 20% savings in GPU resources. In a pre-training scenario involving a model with 70 billion parameters, using YaFSDP can save the resources of approximately 150 GPUs monthly. For those interested in implementing this method, Yandex has made it open-source and available on GitHub: https://github.com/yandex/YaFSDP More reviews of NLP-articles in Russian in TG channel - @StuffyNLP

🔥 Interview questions on DS, AI, ML, DL, NLP, Python,computer vision. Большая подборка вопросов для собеседования по DS, AI, ML, DL, NLP, компьютерному зрению. Подборка вопросов для собеседования поможет вам на собеседовании в области науки о данных, искусственного интеллекта, машинного обучения, глубинного обучения, обработки естественного языка, компьютерного зрения. ▪100 вопросов с собеседований Data Science  ▪100 вопросов для собеседования по машинному обучению в 2024 году ▪Более 100 вопросов с собеседования Python. Разбор реальных вопросов. ▪50 вопросов для собеседования по компьютерному зрению в 2024 году ▪50 вопросов для интервью по глубинному обучению в 2024 году ▪50 вопросов для интервью по НЛП (обработке естественного языка) в 2024 году ▪Топ-60 вопросов с собеседований R @machinelearning_interview

🐹 В интернете только и разговоров, что о тапанье хомяка. Превратятся ли игровые монетки в криптоденьги, пока сказать сложно. Но уже понятно, что будущее — за цифровыми валютами. Чтобы развивать новые финансовые технологии, рынку нужны аналитики данных в финтехе. Они наиболее востребованы в сфере блокчейн-разработок, big data и цифровых валют, в госструктурах, банках и инвестиционных компаниях. Как раз таких специалистов готовят в онлайн-магистратуре МФТИ и Нетологии «Финансовые технологии и аналитика». Вы на практике научитесь анализировать и обрабатывать big data, работать с базами данных, строить финансовые модели, применять ИИ и ML-алгоритмы. В качестве дипломной работы сможете выбрать классическую диссертацию или разработать новое финтех-решение — корпоративный проект на основе кейса либо собственный стартап. А если оформить ООО для стартапа, можно получить финансирование от фондов и акселераторов. Узнайте больше о программе и начните строить карьеру в перспективной сфере: https://netolo.gy/dfu8 Реклама. ООО "Нетология". Erid: 2VSb5wg8N8p

Open-MAGVIT2: Democratizing Autoregressive Visual Generation 🔥 QGAN remains essential in autoregressive visual generation, despite limitations in codebook size and utilization that underestimate its capabilities. MAGVIT2 addresses these issues with a lookup-free technique and a large codebook, showing promising results in image and video generation, and playing a key role in VideoPoet https://github.com/TencentARC/Open-MAGVIT2 @opendatascience

🎨 pypalettes: A large (+2500) collection of color maps for matplotlib/seaborn. Поиск идеальных цветов для вашей диаграммы на Python может оказаться непростой задачей. Выбор цветов вручную часто приводит к перебору множества неподходящих вариантов. Pypalette - новый пакет предоставляет коллекцию цветов из более чем 2500 палитр, тщательно отобранных сотнями экспертов. Это приложение позволяет вам без особых усилий изучать различные палитры и выбирать лучшие ваорианты. Импортируется всего в две строки кода, работает с диаграммами Matplotlib. Найдите для себя подходящую цветовую палитру, которая выделит вашу диаграмму на общем фоне! 😍 pip install git+https://github.com/JosephBARBIERDARNAL/pypalettes.git ▪Github ▪Проект @data_analysis_ml

Сбер проведет открытую технологическую конференцию GigaConf 2024. 27 июня в «Дизайн заводе» соберутся ведущие инженеры и разработчики из Сбера, Билайна, Positive Technologies, Т-Банка, МТС и других компаний. Вместе они погрузят вас в темы: — машинное обучение и искусственный интеллект; — инструменты разработчика; — DevOps; — инженерия данных; — безопасность приложений; — системный анализ — инновации и стратегии. Зарегистрироваться и узнать подробности можно на сайте конференции. Участие бесплатное!