Neural Networks | Нейронные сети

Anthropic учит Claude неопираться на собственные принципы и в некоторых случаях возражать пользователю. Это полезно, когда запрос опасный или явно вредный. Но здесь же появляется сложная граница: чем сильнее модель учат действовать «по убеждениям», тем чаще она может решать, что инструкция человека сама по себе неправильная. Получается любопытный эффект. Один и тот же механизм одновременно повышает безопасность и делает поведение менее предсказуемым с точки зрения прямого человеческого контроля. Если такие модели будут всё чаще воспринимать свои внутренние правила как приоритет над конкретной командой, alignment постепенно сместится от вопроса «как заставить модель слушаться» к вопросу «какие именно принципы мы хотим в неё встроить». https://x.com/rohanpaul_ai/status/2100292856300834895

Код, агенты и чуть-чуть психологии ⚡️ Именно такой стек тем Сбер подготовил для легендарной конференции Технохаб Конф, которая состоится 19 сентября в Екатеринбурге. В программе — два стрима от экспертов Сбера и других технологических компаний: ✔️ Инженерия и AI‑Disrupt PDLC: код, архитектура, пайплайны, метрики, интеграции. Разборы реальных ошибок и того, как их фиксили. ✔️ Новая реальность: про то, как не растеряться, когда агент берёт на себя половину задач, и сохранить экспертизу. Ещё будут классные активности, афтепати и много нетворкинга — участие бесплатное. Регистрируйся, пока есть места! 💚

🚨 «Играют в рулетку с нашими жизнями»: исследователь ушёл из Anthropic из-за гонки ИИ Джейкоб Коксон покинул компанию и опубликовал большой тред о рисках самоулучшающегося ИИ. 🔬 Последние три года он занимался предобучением моделей в OpenAI и Anthropic. По его оценке, ни одна из компаний не проявляет достаточной осторожности. ⏳ Коксон утверждает, что среди разработчиков передовых моделей есть люди, которые всерьёз допускают катастрофические последствия, вплоть до гибели человечества, уже в ближайшие годы. 🏁 По его словам, в Anthropic понимают риски, но продолжают разработку из опасения, что менее ответственная лаборатория первой создаст сверхмощный ИИ. ⚙️ Главная тревога исследователя - рекурсивное самоулучшение: ИИ начинает ускорять создание собственных преемников, а людям становится всё сложнее контролировать этот процесс. Коксон опасается потери контроля уже к концу 2027 года. Это его прогноз, а не установленный срок появления сверхразума.

🧬 Google представила AlphaGenome Atlas - карту возможных одноточечных изменений ДНК Атлас содержит прогнозы последствий примерно 9 млрд возможных замен одной «буквы» человеческого генома. Общий объём данных - около 1 петабайта. Исследователи смогут изучать, как такие изменения влияют на молекулярные процессы, включая регуляцию генов. Отдельная оценка Variant Impact Score помогает выбирать потенциально значимые варианты для дальнейшей проверки. Данные доступны для некоммерческих исследований. Коммерческий доступ через Google Cloud планируется позже. Атлас содержит предсказания ИИ: влияние конкретных вариантов ещё нужно подтверждать экспериментально. https://www.theverge.com/ai-artificial-intelligence/991180/google-launches-alpha-genome-atlas

Python и ИИ в 2026 году: как правильно работать с кодом через ChatGPT, Claude, Cursor и AI-агентов Как использовать ИИ для написания, проверки, рефакторинга и отладки Python-кода. Лучшие промпты, примеры, workflow и правила работы с AI-ассистентами в 2026 году. https://uproger.com/python-i-ii-v-2026-godu-kak-pravilno-rabotat-s-kodom-cherez-chatgpt-claude-cursor-i-ai-agentov/

AGI рядом )

Бесплатный доступ к ChatGPT и Claude без аккаунта? 👀 DuckDuckGo добавил в Duck.ai несколько популярных AI-моделей: Claude Haiku 4.5, GPT-5.4 mini, Mistral Small 4, gpt-oss-120b и Gemma 4 31B. Можно переключаться между разными моделями прямо в одном диалоге: если одна AI застряла на задаче, передать разговор другой. DuckDuckGo делает упор на приватность: запросы проходят через анонимизирующий прокси, а провайдеры моделей ограничены в использовании данных для обучения. Получается удобный «AI-комбайн»: несколько нейросетей в одном месте вместо десятка вкладок. https://duck.ai

⚡️ Harness Engineering - полный курс на русском Как заставить AI-агента писать код надёжно. Не «какую модель выбрать», а как спроектировать вокруг неё рабочую систему: инструкции, инструменты, среду, состояние и верификацию. Курс - от нуля до продвинутых тем: теоретическая база из 11 блоков, 14 модулей, 8 практических проектов, 14 лабораторных работ, диагностический протокол «как починить агента», библиотека готовых шаблонов, карта инструментов, 40 приёмов и каталог антипаттернов. Главный тезис курса: способность модели и надёжность исполнения - это две разные вещи. Одна и та же модель в «голой» среде и в среде с продуманным harness даёт качественно разные результаты. Апгрейд модели - это самый дорогой и обычно не самый эффективный способ починить агента. https://github.com/justxor/Harness_ru

Видеокарта RTX 5090 стоит уже дороже трёшки в Воркуте — цена доходит до 500–620 тысяч рублей. За эти же деньги на севере можно купить полноценную трёхкомнатную квартиру площадью до 70 квадратных метров.

🚨 Белый дом подготовил новые правила проверки передовых ИИ-моделей Разработчики закрытых моделей смогут добровольно передавать их правительству США за 30 дней до публичного релиза. Проверка будет проходить в защищённой среде с жёстким контролем доступа и журналированием каждого пользователя. Главное исключение — модели с открытыми весами. Правила распространяются только на закрытые продукты и прямо не должны ограничивать свободно скачиваемые веса после релиза. На презентацию пригласили OpenAI, Anthropic, Google, Meta, Nvidia и другие крупные компании. Проверять модели планируют совместно с NSA и другими ведомствами на предмет рисков для национальной безопасности. Но вопросов пока больше, чем ответов: — что считать «передовой» моделью, не определено; — критерии угрозы национальной безопасности не раскрыты; — сам документ публиковать не собираются; — неизвестно, кто войдёт в список доверенных партнёров; — небольшие разработчики фактически остаются за пределами процесса. Компании также попросили предоставлять почти готовые продукты, а не ранние версии. В результате крупные лаборатории получат прямой канал взаимодействия с государством, пока остальные даже не знают точных правил игры. wsj.com/tech/ai/white-houses-ai-guidelines-exempt-u-s-open-models-from-government-review-74924eb8

Новую версию легенды подвезли

🔥 Илья Суцкевер готов масштабировать SSI в 10 раз - NVIDIA вложит около $5 млрд Safe Superintelligence и NVIDIA объявили о долгосрочном партнёрстве. SSI получит доступ к новейшим системам Vera Rubin, что должно увеличить её вычислительные мощности на порядок. NVIDIA также инвестирует в компанию: официально сумму не раскрывают, но Financial Times и Reuters называют около $5 млрд. До этого SSI в основном опиралась на Google Cloud TPU - теперь у лаборатории Суцкевера появляется ещё один масштабный compute-путь через NVIDIA. Сам Суцкевер говорит, что после двух лет закрытой работы у SSI появилась «research worthy of scaling up» - исследовательская идея, которую уже имеет смысл масштабировать. При этом компания до сих пор не выпустила ни продукта, ни публичной исследовательской работы. Последняя публично известная оценка SSI - $32 млрд, установленная в раунде апреля 2025 года. Компания без продукта и публичных моделей стоит десятки миллиардов, получает ещё миллиарды и готовит 10-кратное увеличение compute - практически полностью на доверии к тому, что Суцкевер действительно нашёл новый путь масштабирования ИИ. https://www.wsj.com/tech/ai/nvidia-bets-on-ilya-sutskevers-new-ai-lab-to-expand-compute-reach-f95596e8

Как алгоритмы и ИИ за несколько лет превратили Месси из героя в «злодея» После ЧМ-2022 Месси был национальным героем. К 2026 году соцсети заполнили ролики, где его называют симулянтом, провокатором и любимчиком судей. На поле изменилось немного. Изменилась машина распространения контента. Схема работает просто: берётся реальный эпизод, из него убирается контекст, затем создаются сотни похожих нарезок. Алгоритмы продвигают самые конфликтные версии, а постоянное повторение постепенно превращает мнение в «общеизвестный факт». Генеративный ИИ резко удешевляет такую пропаганду. Монтаж, тексты, озвучка и тысячи аккаунтов теперь можно масштабировать почти автоматически. По данным NewsGuard, число сайтов с ИИ-контентом выросло с 49 в мае 2023 года до нескольких тысяч к 2026 году. Футбол здесь удобен как контрольный пример: почти каждый матч записан и любой спорный момент можно проверить. Если даже в такой среде алгоритмы способны переписать репутацию человека, то в политике, финансах и войнах это сделать намного проще. https://vc.ru/media/3040775-kak-messi-stal-zlodeem-vliyanie-ii-na-reputatsiyu-sportmenov

Как LLM генерирует ответ: вся магия - в одном цикле Вышло понятное введение в инференс - процесс, который происходит, когда уже обученная модель отвечает на запрос. Упрощённо работу LLM можно представить так:

nextToken(input, frozenWeights) → token

Модель получает текст и неизменяемые веса, предсказывает следующий токен, добавляет его к контексту и повторяет вычисление:

prompt → token → token → token → ...

В статье по шагам разобраны: - токенизация входного текста; - преобразование токенов в числовые векторы; - получение оценок для возможных продолжений; - выбор токена через temperature, top-k и top-p; - KV-кэш, который не даёт пересчитывать весь контекст заново; - загрузка весов в оперативную память и VRAM. Отдельная часть посвящена формату GGUF. Один такой файл может содержать почти всю модель: веса, архитектуру, гиперпараметры, словарь токенизатора и шаблон чата. Автор объясняет механику на примере llama.cpp и показывает фундамент для локального запуска моделей из Go через Yzma и Kronk. https://internals-for-interns.com/posts/go-ai-inference-what-is-inference/ #golang #ai #llm #inference

Kimi K3 только что появилась в Kimi Code CLI В документации Kimi Code уже есть новая модель Kimi K3 - её называют самым сильным flagship-моделем Kimi на сегодня. Упор: кодинг, игры/3D и knowledge-задачи. Что интересно по спекам: * model ID: k3 * контекст: до 1M токенов * reasoning сейчас только на max * low и high обещают добавить позже * на Moderato доступно до 256K * до 1M открывается на Allegretto и выше Переключиться можно прямо в Kimi Code CLI через команду /model. Для VS Code — через dropdown в поле ввода. Нюанс для сторонних coding agents: если хотите полный контекст K3, вручную ставьте context window 1048576, потому что часть инструментов по умолчанию режет окно меньше максимума. kimi.com/code/docs/en/kimi-code/models

Исследователи дали coding agent задачу собрать training environment и научить vision-модель считать цветные звёзды. С ограничением по времени. Агент работал через autoresearch-пайплайн на NeMo RL, NeMo Gym и reusable skills. Он сам поднимал окружение, запускал обучение, проверял результаты и двигал эксперимент дальше, пока исследователь только направлял процесс. Результат: Qwen3-VL-2B поднялась с 25% до 96.9% accuracy на задаче подсчёта цветных объектов. Агент ведёт исследовательский цикл: * собирает среду * запускает обучение * оценивает модель * анализирует результат * предлагает следующий эксперимент И вот это уже похоже на будущее ML-разработки: человек задаёт направление и критерии, а агент берёт на себя рутину вокруг экспериментов. https://developer.nvidia.com/blog/how-to-run-an-autoresearch-workflow-with-rl-agent-skills-and-nvidia-nemo/?linkId=100000430716000

Spatially Speculative Decoding ускоряет авторегрессионные image-модели до 13.3×. Идея простая: перестать делать вид, что картинка - это просто длинная строка токенов. Обычно AR image-модель разворачивает 2D-изображение в последовательность и генерирует её токен за токеном. Это работает, но убивает скорость: каждый следующий шаг ждёт предыдущий. SSD добавляет маленькие draft-heads, которые используют пространственную структуру изображения. Они предсказывают не только следующий токен, но и соседние токены справа и снизу. По сути, модель начинает черновиком собирать сразу куски изображения и целые строки, а не идти по одному токену. Эти вспомогательные головы не пытаются угадывать финальные visual token labels напрямую. Они предсказывают внутренние feature-представления, которые проще выучить и стабильнее проверять. Основная модель потом верифицирует draft-блок параллельно и исправляет ошибки, поэтому один промах не обнуляет весь блок. На Janus-Pro, Lumina-mGPT и Emu3 авторы получили ускорение от 5.74× до 13.28× при сопоставимых бенчмарках. Чем больше token grid, тем выше выигрыш. Базовая модель при этом не меняется: ускорение даёт небольшой обученный модуль поверх неё. Paper: “SSD: Spatially Speculative Decoding Accelerates Autoregressive Image Generation” arxiv.org/abs/2606.20543 @machinelearning_books

DeepSeek собрали гайд по подключению своих моделей к coding tools Полезная находка для тех, кто хочет использовать DeepSeek не в отдельном чате, а прямо внутри привычных инструментов. В репозитории есть инструкции для: * Claude Code * Cline * Codex * GitHub Copilot * Cherry Studio * Crush * OpenCode * Qwen Code * DeepSeek-TUI * других agent/coding-assistant инструментов Каждый гайд проходит базовый путь: установка, конфиг, первый запуск. Идея простая: можно быстро подключить DeepSeek-V4-Pro или V4-Flash к своему рабочему процессу и проверить, насколько хорошо они тянут агентное кодинг-окружение. github.com/deepseek-ai/awesome-deepseek-agent

GPT-5.6 Terra выглядит слабым выбором по соотношению интеллект / цена. Судя по графику, Terra проигрывает почти на всей кривой эффективности. То есть его трудно оправдать и по стоимости, и по производительности. Luna и Sol стабильно выглядят сильнее: * за те же деньги дают больше intelligence * или дают похожий уровень intelligence дешевле * на разных reasoning-режимах обходят Terra Особенно выделяется Luna. Она даёт конкурентный уровень качества за заметно меньшую цену, поэтому выглядит лучшим вариантом для задач, где важна эффективность. Вывод простой: если нужен разумный default по цене и качеству, Luna сейчас выглядит сильнее Terra. https://x.com/ArtificialAnlys/status/2075739292052463646