Machine learning Interview

DeepSeek V4.1 Flash 1017 теперь можно запустить у себя 🐳 Unsloth сжали модель до 1 бита: вес упал с 508 ГБ до 250 ГБ, почти вдвое. По их оценке, точность при этом сохранилась на уровне около 88,2%. Для запуска нужно устройство с 128 ГБ+ оперативной памяти. Квантизованные GGUF-файлы уже лежат на Hugging Face, а в гайде от Unsloth расписано, как это всё поднять локально. В Unsloth называют V4.1 Flash 1017 сильнейшей открытой моделью на сегодня. Это их оценка, независимых замеров рядом нет, так что цифры по точности лучше проверить на своих задачах. Гайд: https://unsloth.ai/docs/models/deepseek-v4.1-flash GGUF: https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF

🔥 MiniMax M3.1 Flash: втрое быстрее и в три раза дешевле M3, веса выйдут 23 октября Space Bunny, который возглавил мировые рейтинги и прокачал более 200 трлн токенов, оказался ранней версией M3.1 Flash. По данным MiniMax, модель набрала 62% на Automation-Bench, 30% на ALE, 74% на DeepSWE и 91% на BabyVision. Стоит она в треть от M3 и работает втрое быстрее. API стоит 0,15 доллара за 1 млн входных токенов и 0,60 доллара за 1 млн выходных, чтение из кеша 0,015 доллара. Веса опубликуют 23 октября. Попробовать можно через API, подписку M Plan и десктопный MiniMax Code . Веса опубликуют 23 октября. Источник: http://platform.minimax.io @ai_machinelearning_big_data #MiniMax

Kandinsky 6.0 Video — новая линейка моделей генерации видео со звуком Модели генерируют видео с диалогами, музыкой и звуками окружения. Аудиодорожка синхронизирована с происходящим в кадре, движения губ персонажей совпадают с речью. Это первая российская нейросеть, генерирующая видео с синхронным звуком. — Флагман новой линейки, Kandinsky 6.0 Video Pro — показывает качество на уровне Veo 3.1 Audio, а среди открытых моделей уступает только MiniMax H3, достигая паритета с LTX 2.5. — Есть компактная Video Lite (3B) для запуска дома — доступны пресеты для видеокарт с 16–32 ГБ VRAM. Веса моделей доступны на Hugging Face, код — на GitHub и на GitVerse. Также опубликован подробный технический отчёт с описанием архитектуры, данных, процесса обучения и результатов тестирования. Модель можно попробовать бесплатно в ГигаЧате в разделе генерации видео.

✔️ Krea открыла бета-тест модели Krea 3 Новая модель редактирует картинки по текстовому запросу в разрешении др 2K и укладывается меньше чем в 8 секунд, а самые быстрые конфигурации отвечают за 4–5 секунд.

Это следующая модель после Krea 2, первой собственной модели компании, которую Krea выпустила в мае, а в июне открыла её веса.

Бета открылась 15 октября на сайте Krea, в API и у партнёров fal, Replicate, OpenRouter и Together AI. Финальный релиз вместе с дополнительными бенчмарками компания обещает на следующей неделе. Krea 3 меняет на изображении только то, что указано в запросе, и держит одинаковыми объекты, персонажей и надписи от кадра к кадру. В одну правку можно подать до шести изображений-образцов и ссылаться на них в запросе по номерам. Модель превращает наброски и мудборды в фотографии, работает с живописными, векторными и графическими стилями и позволяет рамкой указать, где разместить новый объект.

Дообучение LoRA под конкретный продукт, человека или стиль пока выдают по запросу.

В X компания пишет, что по качеству Krea 3 сопоставима с Nano Banana Pro и GPT Image 2.5, но ни тестов, ни баллов пока не приводит. Правка в разрешении 1K стоит 3 цента, в 2K – 6 центов, если не подавать изображения-референсы. #news #ai #ml

🛠 Claude Code забывает контекст и расходует токены? 5 репозиториев в закладки. 1. claude-mem Сохраняет историю работы между сессиями, сжимает её и возвращает релевантные детали. Помогает продолжать работу без повторного объяснения проекта. https://github.com/thedotmack/claude-mem 2. Context Mode Обрабатывает большие ответы инструментов вне контекстного окна. Вместо целых логов и JSON модель получает отобранный результат. https://github.com/mksglu/context-mode 3. XERJ Индексирует код, документацию, логи и PDF. Агент может находить нужные фрагменты через поиск, сокращая чтение файлов целиком. https://github.com/xerj-org/xerj 4. gstack Набор инструментов от Гарри Тана для планирования, дизайна, ревью, тестирования и выпуска изменений. Помогает выстроить процесс разработки с Claude Code. https://github.com/garrytan/gstack 5. Orca Среда для управления несколькими coding-агентами с доступом с компьютера и телефона. Поддерживает работу через собственные подписки. https://github.com/stablyai/orca Для памяти, контекста и поиска присмотритесь к первым трём. gstack и Orca пригодятся для организации работы, но сами по себе экономию токенов не гарантируют.

🤖 Маск: госдолг США спасут роботы и ИИ. Сэкономить не получилось В интервью Уолтеру Айзексону Илон Маск признал, что работа DOGE не решила проблему бюджетного дефицита. По его словам, у президента, Конгресса и других ветвей власти нет достаточной готовности сокращать расходы. Теперь предприниматель называет ИИ и роботизацию единственным выходом из долговой проблемы. Масштаб задачи: в августе совокупный госдолг США впервые превысил $40 трлн. По прогнозу бюджетного управления Конгресса, долг в руках инвесторов, без внутригосударственных обязательств, достигнет 108% ВВП к 2030 году. Это разные показатели, которые важно не смешивать. Ставка Маска понятна: автоматизация должна резко увеличить производство и доходы экономики. Но что этот рост окажется достаточным для решения долговой проблемы, ещё предстоит доказать. https://www.axios.com/2026/10/17/elon-musk-doge-walter-isaacson-podcast

🔥 Хочешь быстрее расти в IT? Хватит учиться в одиночку Окружение решает больше, чем кажется. Собрал папки и каналы, где можно быстрее влиться в нужное направление, следить за трендами и не вариться в своём пузыре. AI: t.me/ai_machinelearning_big_data Python: t.me/pythonl Linux: t.me/linuxacademiya Хакинг: t.me/linuxkalii DevOps: t.me/DevOPSitsec Docker: https://t.me/+90Z5TAyfuNU5YmRi Golang: t.me/Golang_google Rust: t.me/rust_code C++: t.me/cpluspluc C#: t.me/csharp_ci Java: t.me/java_library JavaScript: t.me/javascriptv React: t.me/react_tg Frontend: t.me/front PHP: t.me/phpshka Android: t.me/android_its Мобильная разработка: t.me/mobdevelop Базы данных: t.me/sqlhub Data Science: t.me/data_analysis_ml Big Data: t.me/bigdatai Математика: t.me/data_math Физика: t.me/fizmat Kubernetes: t.me/kubernetc GameDev: https://t.me/gamedev Haskell: t.me/haskell_tg Собеседования и карьера: DS собеседования: t.me/machinelearning_interview Python собеседования: t.me/python_job_interview Папка с вакансиями: t.me/addlist/_zyy_jQ_QUsyM2Vi Папка Go разработчика: t.me/addlist/MUtJEeJSxeY2YTFi Папка Python разработчика: t.me/addlist/eEPya-HF6mkxMGIy Папка ML: https://t.me/addlist/2Ls-snqEeytkMDgy Папка Frontend: https://t.me/addlist/mzMMG3RPZhY2M2Iy Полезное сверху: ИТ-мемы: t.me/memes_prog Английский для программистов: t.me/english_forprogrammers ИИ и технологии: t.me/vistehno 954 ГБ open-source курсов: https://t.me/+rKBQEMccAA01MTcy ИТ-книги бесплатно: https://t.me/addlist/BkskQciUW_FhNjEy Max Ai: https://max.ru/ai_machinelearning_big_data Max python: https://max.ru/pythonl ТЕХНО: https://max.ru/vistehno Max Go: https://max.ru/Golang_google Max Linux: https://max.ru/linuxkalii Devops: https://max.ru/DevOPSitsec C#: https://max.ru/csharp_ci C++: https://max.ru/cpluspluc SQL: https://max.ru/sqlhub Java: https://max.ru/javatg Подписывайся на нужные направления и собирай себе ленту, которая реально двигает вперёд.

🏗 Обещал дата-центр для Gemini. Google заявила, что не участвует The Guardian обнаружила письма, в которых девелопер Себастьян Руччи убеждал чиновников: будущий ИИ-дата-центр в Калифорнии позволит Google обучать Gemini. Google отрицает участие. Руччи признаёт: договора нет. Он вложил около $5 млн, рассчитывая получить разрешения и передать проект строителям. Планируемая мощность составляет 330 МВт, потребление воды достигает 2,8 млн литров в сутки. В сентябре суд потребовал полноценную экологическую экспертизу. Проект приостановлен, Руччи собирается оспорить решение. Три его иска о клевете против критиков и журналистов уже отклонены. https://www.theguardian.com/us-news/ng-interactive/2026/oct/17/california-datacenter-imperial

🔥 Полный гайд по локальному запуску DeepSeek на русском: от домашнего ПК до сервера с 8 GPU В открытом доступе появился репозиторий с руководством из 18 частей о том, как запустить DeepSeek V4, R1 и дистилляты у себя, без облака и интернета. Бесплатно, приватно и офлайн. Внутри весь путь: выбор модели и расчёт железа, установка и настройка Ollama, llama.cpp, LM Studio, Open WebUI, vLLM и SGLang, работа через API и Python, подключение к IDE. Дальше промптинг, ускорение, RAG, агенты и fine-tuning, а в конце топ-30 приёмов, разбор ошибок, FAQ и готовые конфиги. Для домашнего ПК основной вариант это R1-дистилляты от 1.5B до 70B. Запуск одной командой: ollama run deepseek-r1:8b. По таблицам гайда в кванте Q4 модель на 8B занимает 5-6 ГБ памяти, на 14B около 9-10 ГБ, на 32B около 20 ГБ, на 70B около 43 ГБ. Старшие модели уже про серверное железо. DeepSeek-V4-Flash на 284B параметров, из них 13B активных, с контекстом 1M требует около 103 ГБ в 3-битном кванте. DeepSeek-V4-Pro на 1.6T параметров с 49B активными нужны 800 ГБ и больше, то есть сервер с 8 GPU. Несколько практичных советов из гайда. Для русского языка брать модели от 14B, на меньших дистиллятах качество заметно проседает. Квант Q4_K_M считается стандартным выбором, а большая модель в низком кванте обычно лучше маленькой в высоком. Температура около 0.6 для R1 и 1.0 для V4. Проверять через ollama ps, что модель целиком на GPU. И не открывать порт Ollama 11434 в интернет: у API нет пароля. Репозиторий: https://github.com/justxor/deepseek-local-guide-ru

🦥 816 млрд параметров на Mac Studio: Unsloth выпустила GGUF для Muse Spark Open Модель получила динамическую 2-битную квантизацию, с которой её можно запускать локально на машине с 256 ГБ памяти. Что внутри: • 816 млрд параметров, около 42,7 млрд активны на токен. • Вход: текст, изображения, видео и аудио. Выход: текст. • Контекст до 1 млн токенов. • Обучение на длинных задачах программирования, работе с инструментами и исследованиях. 256 ГБ хватает для самой компактной 2-битной версии, а увеличение контекста требует дополнительной памяти. Для агентных задач Unsloth рекомендует квантизацию не ниже UD-IQ2_S: самые маленькие варианты заметнее теряют качество. GGUF: https://huggingface.co/unsloth/Muse-Spark-Open-816B-A42B-GGUF Гайд: https://unsloth.ai/docs/models/muse-spark-open

🔥 Модель на 125 млрд параметров на игровой видеокарте с 12 ГБ памяти. Strata позволяет запускать Qwen3.8-Flash-Next локально на обычном ПК. По замерам разработчиков, RTX 5070 выдаёт: • 94 токена/с с квантизацией Q2_0. • 53 токена/с с IQ3_S. Есть нюанс: тестировали на компьютере с 64 ГБ оперативной памяти. Минимальные требования проекта начинаются с 32 ГБ, но доступные варианты модели зависят от объёма RAM. И ещё: Q2 сильно сжимает веса, поэтому скорость стоит оценивать вместе с качеством ответов на своих задачах. Поддерживаются Windows и Linux, есть локальный API, совместимый с OpenAI и Anthropic, для подключения приложений и агентов. https://github.com/Niko1221/Strata

🤖 600 млрд параметров и миллион токенов контекста: StepFun открыла веса Step-5-Preview. Модель заточена под длинные агентные задачи: искать информацию, разбирать данные, писать и исправлять код, собирать готовые отчёты, таблицы и сайты. Что внутри: • MoE-архитектура: 600 млрд параметров, из которых на каждый токен активируются 27 млрд. • Контекст 1 млн токенов, поддержка изображений и сценариев с тысячами взаимодействий. • 49% на StepCodeBench: первое место среди открытых моделей в сравнении разработчиков. Тест охватывает генерацию кода, исправление багов, рефакторинг и оптимизацию. • Веса доступны под StepFun Community License. Главный интерес здесь в том, насколько уверенно модель доводит длинную задачу до готового результата. https://www.modelscope.cn/models/stepfun-ai/Step-5-Preview

С вас идея, а Т-Банк за нее заплатит В Т-Банке ищут трейдеров, разработчиков и тех, кто просто увлекается инвестициями. Зарегистрируйтесь на программу «Инвест. Премаркет» до 11 ноября.  Ваши AI-сценарии для бизнеса смогут побороться за призовой фонд программы — 2 500 000 ₽. А сами идеи Т-Банк поможет масштабировать и сделать частью бизнеса. Успейте подать заявку до 11 ноября

🧠 BERT жив. UltraBERT показал, что рецепт обучения может быть важнее дополнительных триллионов токенов. Вышли открытые энкодеры на 152 млн и 380 млн параметров с контекстом 32K. Для классификации текста, распознавания сущностей, поиска ответов, оценки качества и retrieval. Главная фишка обучения: • В одних примерах скрывают 5% токенов: это помогает классификации. • В других скрывают 50%: это помогает поиску. • Для каждого режима используют отдельную выходную голову. • Знания модели-учителя на 1,3 млрд параметров передают только примерам с 5% маскирования. Почему выборочно? В экспериментах дистилляция улучшала классификацию, но ухудшала поиск при высоком маскировании. Универсального «учитель всегда делает ученика лучше» не получилось. Ещё один показательный вывод: после 1–2 трлн токенов качество на прикладных задачах выходило на плато, хотя loss продолжал снижаться. По сравнению авторов, версия 380M лидирует на GLUE и BEIR среди сопоставимых энкодеров. Младшая модель достигает уровня RoBERTa-large в классификации при 2,3 раза меньшем числе параметров. Веса, код и лицензия Apache 2.0: https://huggingface.co/collections/dmis-lab/ultrabert Статья: https://arxiv.org/abs/2610.15028

🕸 Как масштабировать GNN для рекомендательных систем Исследователи AI VK масштабировали графовую нейросеть (GNN) для рекомендаций друзей на социальный граф из 194 млн пользователей и 28 млрд связей. Результаты работы представлены в статье, принятой на конференцию CIKM 2026. В отличие от рекомендаций контента, где модели могут анализировать текст, изображения и видео, в рекомендациях друзей ключевую роль играют связи между пользователями. GNN учитывают социальное окружение человека и помогают предсказывать новые знакомства. Главная сложность — масштабирование на сотни миллионов пользователей. Для этого исследователи предложили два решения: • Multi-hash embeddings. Вместо отдельного вектора для каждого пользователя используются общие таблицы эмбеддингов и несколько хеш-функций. Это позволило сократить потребление видеопамяти с 203 до 2 ГБ — более чем в 100 раз. • Temporal neighbor sampling. Модель учитывает только связи, существовавшие на момент рекомендации, и не использует информацию из будущего. Оптимизация ускорила семплирование данных для обучения в 2,5 раза. 📈 Результаты A/B-теста: • +16% добавлений в друзья из рекомендаций. • +11,5% пользователей, добавивших хотя бы одного рекомендованного друга. • Без ухудшения задержек онлайн-ранкера. Практический вывод: графовые нейросети можно эффективно применять даже на социальных графах с десятками миллиардов связей, не увеличивая требования к памяти и скорости онлайн-рекомендаций. 📄 Исследование: Scaling Graph Neural Networks for Friend Recommendation: Multi-Hash User Embeddings and Temporal Neighbor Sampling (CIKM 2026).

Python 3.15 вышел: 5 фич для работы с данными, с примерами и замерами Python 3.15 релизнулся 9 октября. Khuyen Tran из CodeCut выбрала пять изменений, которые больше всего пригодятся в работе с данными, и для каждого показала старый и новый способ с реальными цифрами. Собрали. 1. Ленивые импорты (PEP 810) Тяжёлый пакет можно пометить словом lazy, и тогда он подгрузится только при первом обращении, а не на старте скрипта.

# было: pandas грузится сразу, даже если не используется
import pandas as pd
print("hello")

# стало: ничего не грузится, пока pd реально не понадобился
lazy import pandas as pd
print("hello")
df = pd.read_parquet("taxi.parquet")  # вот тут pandas и загрузится

Замер скрипта, который импортирует pandas, но не использует его (медиана из 20 запусков):

обычный импорт: 280 ms
lazy:            14 ms  (в 20 раз быстрее старта)

2. Встроенный frozendict (PEP 814) Неизменяемый словарь. Удобно для общего конфига: функция уже не сможет его втихую перезаписать.

# было: обычный dict любая функция может поменять
config = {"min_fare": 0, "max_fare": 500}
def drop_outliers(cfg):
    cfg["max_fare"] = 1000  # задумано как локальная правка
drop_outliers(config)
# config теперь {'min_fare': 0, 'max_fare': 1000}, подменился молча

# стало:
config = frozendict(min_fare=0, max_fare=500)
config["max_fare"] = 1000
# TypeError: 'frozendict' object does not support item assignment

Изменённую копию делаем через |:

strict = config | {"max_fare": 300}
# original: frozendict({'min_fare': 0, 'max_fare': 500})
# new:      frozendict({'min_fare': 0, 'max_fare': 300})

3. Распаковка внутри comprehension (PEP 798) Звёздочку и двойную звёздочку теперь можно использовать прямо в выражениях.

column_groups = [["fare", "tip"], ["distance"], ["passengers", "payment"]]

# было: двойной for
[column for group in column_groups for column in group]

# стало:
[*group for group in column_groups]
# ['fare', 'tip', 'distance', 'passengers', 'payment']

# слияние словарей, последний перекрывает ключи
layers = [{"min_fare": 0, "max_fare": 500}, {"max_fare": 300}]
{**layer for layer in layers}
# {'min_fare': 0, 'max_fare': 300}

4. Профайлер Tachyon Сэмплирующий профайлер смотрит, какая функция выполняется, примерно раз в миллисекунду, и умеет подключаться к уже запущенному процессу, чего cProfile не умеет.

# запуск с сортировкой и топ-9 строк
python -m profiling.sampling run --sort cumtime -l 9 pipeline.py

# подключение к работающей задаче на 5 секунд
python -m profiling.sampling attach -d 5 <PID>

На пайплайне с данными такси накладные расходы минимальны:

python pipeline.py                            ~4.9 s   без профайлера
profiling.sampling run pipeline.py            ~5.1 s   Tachyon: +4%
python -m cProfile pipeline.py                ~16.7 s  cProfile: в 3.4 раза медленнее

5. Понятные сообщения об ошибках При опечатке в имени атрибута или метода Python теперь подсказывает, что ты, вероятно, имел в виду.

exp.shape
# было:  AttributeError: 'Experiment' object has no attribute 'shape'
# стало: ...has no attribute 'shape'. Did you mean '.data.shape' instead of '.shape'?

["fare", "tip"].push("distance")
# было:  'list' object has no attribute 'push'
# стало: 'list' object has no attribute 'push'. Did you mean '.append'?

За все нужно платить

JEV-35B: быстрая decision-модель на базе Qwen3.5, активирует всего 3B параметров из 35B AutoTrust Labs выпустила JEV-35B, модель для быстрых решений в духе System 1. Она построена на Qwen3.5-35B-A3B и за счёт MoE-архитектуры активирует на токен лишь около 3B из своих 35B параметров. Лицензия Apache 2.0. Главная идея в том, чтобы не гонять полноценное рассуждение там, где нужно просто быстро выбрать лучший вариант. За один проход модель сравнивает до 256 текстовых или графических опций и возвращает откалиброванные вероятности. Медианная задержка одиночного запроса в их тестах около 204 мс. По метрикам JEV-35B обходит прошлую JEV-27B-VL на публичном наборе Decision Index, сохраняя при этом конкурентное качество на визуальных решениях. Отдельно порадует возможность запустить локально. Версия в NVFP4 весит всего 25,6 ГБ и занимает под веса около 23 ГиБ, так что помещается на одну видеокарту на 32-48 ГБ. При этом квантизация сохраняет 96,6% решений исходной BF16-модели почти без потерь по скорости и с небольшой просадкой на бенчмарках. Запускается через приложенный скрипт для vLLM. Эндпоинт /v1/decide отвечает за быстрые решения System 1, а OpenAI-совместимые эндпоинты за более медленное рассуждение System 2. 🤖 https://modelscope.ai/collections/AutoTrust-Labs/JEV-35B

⚡ Для решения «куда отправить запрос» не всегда нужна модель, которая пишет целый ответ. Decision 3.0 от команды vLLM Semantic Router: семейство открытых моделей размером от 0,6B до 27B, работающих с текстом, изображениями и видео. На входе задаёте контекст и вопросы. На выходе получаете: • выбор из предложенных вариантов; • ответ «да / нет»; • оценку по заданной шкале; • вероятности вариантов. Без генерации текста. Например, можно определить отдел для обращения, проверить наличие товара на приложенном чеке и оценить срочность. По внутренней оценке команды, старшая d3 занимает первое место в их сравнении на текстовом и визуальном Jev Decision Index 0.3.1. Заявленная медианная задержка: 55 мс для текста и 273 мс с изображением на AMD MI325X. Лицензия Apache 2.0. Любопытный вариант для маршрутизации, классификации и узких решений внутри агентных систем. https://huggingface.co/vllm-sr/d3

🧠 Если ИИ доказал теорему, но никто не понял новую идею, сколько выиграла математика? Теренс Тао опубликовал 27 слайдов «Math 2.0». Его тезис: мы входим в эпоху изобилия доказательств, а научные стимулы всё ещё настроены на их дефицит. Раньше решение сложной задачи обычно приносило новые методы и понимание. Теперь ИИ всё чаще позволяет получить результат без специальной экспертизы пользователя. Считать только решённые задачи становится плохой мерой прогресса. Тао сравнивает открытые проблемы с маяками: исследование путей к ним может дать больше, чем само достижение цели. И напоминает об ошибке выжившего: в соцсетях видны успехи ИИ, а не все провалы и затраченные вычисления. Большинство задач на переднем крае математики по-прежнему не решено. Его «Math 2.0» предполагает другой фокус: понятные доказательства, новые принципы, связи между работами и исследование границ применимости теорем. ИИ должен усиливать человеческое понимание. https://terrytao.wordpress.com/2026/10/10/math-2-0/