Мишин Лернинг 🇺🇦🇮🇱

Gemma2 Выложили 4 модели 9B и 22B, включая Instruct (IT) версии 🤗 hf blog

🖥️ Десктопная версия ChatGPT теперь доступна всем юзерам * Пока только на MacOS 🗃️Скачать

А вот вам вишенка на всём этом вашем торте: теперь Claude подвезли возможность запускать код и даже отображать svg. Кстати, интерпретатор обещали еще на старте Claude 3. https://youtu.be/rHqk0ZGb6qo?si=paltJiI21vu2SXh-

🏆 Свежая Claude 3.5 Sonnet обгоняет GPT-4o По заявлениям Anthropic их средняя по размерам модель выигрывает в основных benchmark’ах GPT-4o. Конечно выводы делать еще рано, и стоит подождать обновления Chatbot Arena Leaderboard (https://chat.lmsys.org) Anthropic обещают обновить их младшую Haiku и старшую Opus модели до 3.5 в течение этого года. 📋 Anthropic 3.5 Sonnet (blog post)

Если вы любите пытаться сломать защиту в разных LLM с помощью промпт инъекций – то у меня вам полезная ссылка, датасет из почти ~1500 промпт инъекций собранных с Reddit, Discord, Twitter и тп. https://github.com/verazuo/jailbreak_llms Внутри промпты и для старых инъекций, вроде DAN, до более новых с base64, leet code и тп. Следующий шаг, это натренировать на этом модель, которая будет ломать другие модели автоматом ☕️

🪩 Диффузионки позволяют ремастерить игры при помощи текстовых промптов. Nvidia показала пайплайн ремастеринга текстур в популярном графично-нодовом интерфейсе ComfyAI. Теперь можно не только апскейлить текстуры с определением свойств материалов для трассировки лучей, но и контролировать стиль при помощи промптов. RTX Remix — инструмент для ремастеринга классических игр с использованием технологий трассировки лучей и DLSS 3.5. И интеграция RTX Remix Toolkit с ComfyUI выглядит обещающей, позволяя модерам задавать стиль текстур с помощью текстовых промптов. Это ускоряет процесс моддинга и упрощает создание качественных текстур. Теперь маленькие команды модеров могут быстро создавать текстуры высокого разрешения с физически корректными свойствами, освобождая время для доработки ключевых элементов. А пока ждем обещанный Half-Life 2 RTX. Ну и я лично мечтал бы увидеть Half-Life Alyx с RTX в VR.

📰 OpenAI объявили, что начали обучение новой версии GPT, скорее всего, речь идет про GPT-5. В посте говорится, что сегодня совет директоров OpenAI сформировал Комитет по Безопасности, возглавляемый Бретом Тейлором, Адамом Д’Анджело, Николь Селигманом и Самом Альтманом. И это связано с выпуском следующей версии GPT, цитирую: OpenAI недавно начала обучение своей следующей передовой модели, и мы ожидаем, что полученные системы выведут нас на новый уровень возможностей на нашем пути к AGI. Скорее всего, речь идет именно про GPT-5. Анализируя актуальный релиз GPT-4o, можно сделать вывод, что кроме еще более дорого претрейна из коробки стоит ожидать: — более качественный Aligning (понимание и следование намерениям пользователя) с уклоном не только в точность, но и в безопасность — Еще больший упор в мультимодальность. Тут фантазирую, но вероятно, что будет еще более глубокий fuse визуальных, текстовых и аудио токенов. читать 👉 OpenAI Board Forms Safety and Security Committee

🫦 GPT-4o — Вот вам "HER" от OpenAI tl:dr End-to-End Image + Text + Speech версия GPT-4 До появления GPT-4o использование режима Voice Mode с ChatGPT позволяло получать ответы со средним временем задержки в 2.8 секунды для GPT-3.5 и 5.4 секунды для GPT-4. В этом режиме были задействованы три отдельные модели: 1. Speech-to-Text переводила аудио в текст 2. Затем GPT-3.5 или GPT-4 обрабатывала текст и генерирует ответ. 3. И, наконец, третья модель переводила текст обратно в аудио. Это означает, что модель GPT-4 не имеет доступа ко всей информации — она не воспринимает интонации, не различает голоса разных собеседников и не учитывает фоновые шумы, она не может воспроизводить смех, пение или передавать эмоции. GPT-4o представляет собой новую модель, обученную end-to-end на трех доменах, включая текст, изображения и аудио. 👁 Блог OpenAI 🎞 YouTube OpenAI

Макс пытается в OpenAI 2.0 Его новая компания xAI, Выложили 314B (а это реально Пи3дец как много для опенсорса) MoE модель Grok-1. По метрикам, пишут, что лучше чем GPT-3.5, но, имхо для 314B звезд с нема не хватает. Реализация на: import haiku as hk import jax Из интересного, это самый большой опенсорс, да еще и лицензией apache. Ну а пока, если кажется, что 46.7B (8x7B) Hermes-Mixtral (ну и если нужно полегче hermes-mistral или phi2) самое адекватное, что есть из опенсорса. Код здесь. https://github.com/xai-org/grok-1