Логово Сола

🌟 CLM-8B: открытая и быстрая модель для выбора действий агентов Стэнфорд в сотрудничестве с NVIDIA выложили в открытый доступ первую модель класса Contrastive Language Models.

Это открытый аналог Jev, которую 15 сентября представил стартап TypeSafe AI бывшего исследователя OpenAI. Она по входному контексту возвращает решение заданного типа с откалиброванной вероятностью и стоит 4 цента за миллион входных токенов.

CLM-8B делает то же самое и нужна агентам, которым приходится быстро принимать решения. Модель получает текущее состояние и набор возможных действий и возвращает вероятность для каждого. Она умеет оценивать истинность утверждения, выбирать из нескольких вариантов и ставить оценку по упорядоченной шкале. Дообученную CLM-8B можно использовать как верификатор, который выбирает лучшее из нескольких решений кодинг-агента. Текст модель не генерирует. 🟡 Архитектура В основе - Qwen3-8B, поверх которой обучены две небольшие проекционные головы, одна для состояния, другая - для действия. Состояние и действия кодируются отдельно, модель сравнивает их векторы и переводит близость в вероятности. Векторы неизменных действий можно посчитать заранее и переиспользовать, поэтому в задачах с чередой решений модель отвечает быстрее. 🟡Тесты Без дообучения CLM-8B держится на уровне Jev в задачах управления компьютером, играх и вызове инструментов и отвечает до девяти раз быстрее. С кэшированием векторов при выборе примерно из тысячи вариантов разрыв доходит до 13 раз. В роли верификатора дообученная модель на отложенных подмножествах задач поднимает долю решённых задач на DeepSWE с 73,7% при одной попытке до 81,6%, на Terminal-Bench 2.1 с 84% до 87,6%. Jev в той же роли даёт 71,1% и 83,1%.

Для запуска нужны Linux, видеокарта NVIDIA и Qwen3-8B, развёрнутая через vLLM.

📌Лицензирование: Apache 2.0 🟡Блогпост 🟡Набор моделей 🖥GitHub @ai_machinelearning_big_data #AI #ML #Decision #CLM #NVIDIA #Stanford

Обучи свой decision model на 🕸colab или своей пекарне 😜 (мак тоже пойдёт). Сегодня накину ещё про decision models в лице решения анслота для тюна своей модели. Unsloth позволяет быстро превратить обычную LLM (Qwen, Gemma, Llama) в decision, хоть за базу берут decoder-only модель, но мы все ещё получаем модель, что не генерирует текст, а выбирает из предложенных вариантов и выдаёт вероятность для каждого. Да, тут не энкодер модель, как FRIDA, а декодер модель + голова классификации, это позволяет иметь KV-кэш сахар без ухищрения. 🧠 Что даёт: · Модель читает вход, оценивает варианты и возвращает выбор с калиброванной вероятностью. · Точность на бенчмарках вырастает с ~30% (случайный уровень) до 78–81%. · Обучение занимает 30–50 минут на 4–14 GB VRAM. Как обучить, кратко: 1. Установи Unsloth (Desktop app или pip install unsloth). 2. Выбери модель (например, unsloth/Qwen3.5-4B) и датасет (LocalLLaMA/typed-decisions). 3. Запусти обучение — Unsloth сам подставит рабочие настройки (LoRA r=16, lr=2e-4, 2 эпохи). 4. Готовую модель можно подключить к Decision API. В рамках их решения есть целый пулл спец датасетов (13 штук), которые дают возможность закрыть базовые задачи и обучить на них модельку. Это бесплатно, есть готовый ноутбук на Google Colab, где обучение полностью фри в рамках квоты. Поверьте, квоты вам хватит.😮‍💨 Кому зайдёт? Если нужна не Болталка (хотя и болталку тоже сделать можно), а модель для классификации, маршрутизации тикетов, модерации или любого выбора из вариантов - это быстрый и дешёвый способ. 😏

Anthropic запретила пользователям оскорблять нейросети Claude Компания обновила политику использования своих продуктов, которая вступит в силу 12 ноября. За несоблюдение правил пользователям могут заблокировать доступ к сервисам. В новой редакции регламента отмечается, что клиентам запрещено «проявлять системное и неоправданно оскорбительное или жестокое поведение по отношению к нашим моделям». Блокировка аккаунта при этом названа крайней мерой: в основном нарушителей будут наказывать завершением диалога с чат-ботом в одностороннем порядке.

Астероид Апофис 13 апреля 2029 года окажется ниже геостационарной орбиты, в десять раз ближе к Земле, чем Луна