random AI channel name

Лучшая опен сорс модель для агентов и кодовых задач (на этой неделе) GLM-5 весит 1.5ТБ. Одна карточка а100 — 80ГБ. 20 карточек. Плюс контекстное окно. Сильно грубо, но т.е. примерное количество для запуска модели — от 20 до 30 видеокарт а100. Одна карточка стоит 1 млн руб. Итого порядок стоимости, чтобы просто запустить лучшую опен сорс модель в начале 2026 года — 20-30 млн руб капекса. Вечеринка, доступная 10-20 компаниям в России. В мире ну пусть будет 500-1000 компаний. Год назад было достаточно 2-3 млн рублей.

в настройках инференса рассуждающих LLM моделей есть reasoning effort и ты можешь управлять тем, какой % ресурсов от GPU аллоцированных на модель и контекст, выделяется на рассуждения модели. когда раскатываешь платформу с ИИ агентами в закрытом контуре, то приходится много объяснять, что такое ИИ агенты. очень хорошо работают аналогии с людьми. настройка ИИ-агентов оч похожа на управление сотрудниками. оч долго онбордишь, объясняешь, делаешь первичные задачи, раздаешь доступы, а потом в итоге все равно так

В выходные дочка идет на экзамен для поступления в школу, среди прочего в школе учат программированию. И опять вопрос: а надо ли учить этот теперь уже лоу левел (ха) питон, если теперь с этим вашим ИИ обыкновенный язык (русский) это язык программирования? Может быть не затягивать ее в рамки архаичных детерминированных методов получения результатов на компуктере, а наоборот развивать креативность и критическое мышление через абстракции и образы с помощью тех же рисования и музыкалки? Ведь теперь если ии может в буквы, то суть задачи становится ценнее, чем метод исполнения

Купил я значит тут расхайпленную книгу по дизайну ML систем (автор раз, автор два; имел удовольствие еще во времена ods и первых data елок). Сижу и думаю, а нужен ли теперь традиционный ML, вроде уже LLM умеют изи в почти все типа задач ML в общем случае? А дообучать? Ну in-context learning, благо окна вон уже под 1млн токенов. Получается Саттон прав и дженерики побеждают специализированные методы?

The Information: Nvidia «ставит на паузу» производство видеокарт для потребителей. Отныне только для ИИ

новости из рисеча. когда учат LLM модели, то одной из метрик качества обучения является перплексия. Не вдаваясь в математику метрика показывает степень «удивления» модели при предсказании следующего слова/токена. При прочих равных мы хотим, чтобы модель была уверена в своих предсказаниях. вышла работа, которая показала, что для некоторых из видов LLM (на архитектуре decoder-трансформеров) перплексия — крайне ненадёжный способ сравнивать модели. Было показано: если модель уверенно и верно предсказывает текст, всегда найдётся похожий текст, где она будет так же уверена, но ошибётся — и её перплексия всё равно останется очень низкой. в СМИ сможете встретить: британские ученые доказали – LLM врут уверенно. в общем-то как и люди.

русские модели должны быть на острове, а не на huggingface

обсуждал тут, в чем же прикол ИИ агентов для бизнеса. понятно, что это только в головах акционеров и гендиректоров ИИ агенты всех заменят и наконец-то у нас не будет штата этих лентяев. так вот ИИ агенты позволили в корп среде забустить автоматизации и перевести их из ручного режима “долго собираем данные и обучаем и тестируем модели” в режим “напиши дорогой манагер среднего звена инструкции агенту и кликни пару кнопок подключения MCP”

На днях вышла поделка opensource решение для агентских задач openclaw, теперь moltbot. Ее там сильно хайпит некоторый сегмент разработчиков и это создало целую серию проектов где участниками так или иначе являются ИИ-агенты. От порнхаба для ии агентов до самых неожиданных решений. Одной из проблем ИИ-агентов является то, что они заперты в коробках дата центров и не могут руками и ногами выйти в оффлайн и что-то сделать для решения задачи своего пользователя. До сегодняшнего дня. Встречаем, аренда людей. Любой человек может выставить свое тело в аренду ии-агенту. У кого рейтинг выше, тот и зарабатывает больше, а рейтинг ставят пользователи платформы (в данном случае ии-агенты). Ссылочка, если надумается

Любимое про LLM

Лентяев на мороз?

От 30 до 65% ВЫРУЧКИ тратят крупные компании на создание ИИ инфраструктуры в капексе. Свежий отчет a16z

Антропик в 4 раза повысил прогноз по выручке на 2026 год. Ничего и не добавишь

Хайпуют люди, конечно, крепче некуда. https://clawd.bot/ Возник вопрос тут у уважаемых коллег : а чего это вдруг? Так все просто же: за много месяцев про ИИ агентов из каждого утюга, clawd bot это первое, что можно потыкать агентное для не разработки относительно легко и понятно. Апд. Его похакали уже

Свежий анализ ИИ-рынка от a16z четко говорит: заработают только избранные — 55% роста компаний теперь недоступны обычным инвесторам Об этом структурном сдвиге мы писали ещё в сентябре 2025. Один из крупнейших венчурных фондов мира a16z опубликовали масштабный обзор состояния ИИ-рынка. Вот, что они говорят: 1. Около ⅔ выручки топ-50 частных ИИ-компаний генерируют портфельные компании a16z. Общая выручка портфеля: $26.5 млрд против $14.1 млрд у остальных игроков. 2. ИИ-акции обеспечивают около 78% доходности S&P 500 с ноября 2022. 42 ИИ-акции дали +190%, тогда как S&P без ИИ — лишь +26%. Ключевое наблюдение - рост обеспечен прибылью, а не раздуванием мультипликаторов. Мультипликаторы даже несколько сжались в последние месяцы. Инвесторы платят за прибыль, а не за убыточный рост — принципиальное отличие от 2021-22. 3. Кто платит за ИИ-стройку и пузырь есть? Инфраструктуру строят не убыточные стартапы на венчурные деньги, а прибыльные гиганты, которые направляют 30-65% выручки на capex. В 2026 году капитальные затраты гиперскейлеров могут достичь 75% от операционных денежных потоков. Пузырь или нет? a16z признают риски высокой концентрации, но считают, что фундаментально ситуация не похожа на пузыри прошлого. 7-8-летние TPU загружены на 100%, старое оборудование не простаивает — спрос поглощает всё. Впрочем, a16z — заинтересованная сторона с $8 млрд в игре. 4. Парадокс Джевонса работает. По мере удешевления токенов потребление растёт. Все гиперскейлеры сообщают о спросе, превышающем предложение. GPU загружены на 80%+. 5. SaaS уже монетизирует ИИ, вот примеры: - Salesforce Agentforce достиг $100млн ARR. - DocuSign Intelligent Agreement Management вырос с $75млн до $400млн ARR за год — более чем 5x. Монетизация идёт по всем фронтам - подписки, consumption-based credits, agentic capabilities. 6. Потенциал рынка. Goldman Sachs оценивает около $9трлн выручки от ИИ-стройки. Корпоративные расходы на софт в США: $300-350млрд, ~ 1% ВВП. Зарплаты «белых воротничков»: $6,000млрд+, около 20% ВВП. ИИ целится не в софтверный рынок, а в рынок труда. 7. Компании стали оставаться частными гораздо дольше. Компании остаются частными гораздо дольше. Они растут с $1 млрд до $5-6 млрд, пока ещё закрыты, и выходят на IPO уже зрелыми. Основной рост происходит до IPO — в руках венчурных фондов, private equity и крупных институционалов. 55% стоимости создаётся в частных рынках = только 45% роста достаётся публичным инвесторам. 8. При этом power laws усиливаются. Топ-10 единорогов (SpaceX, OpenAI, xAI, Anthropic, Databricks, Stripe, Revolut, Scale, Waymo, Checkout.com) — это 38% совокупной оценки всех единорогов Северной Америки и Европы. Победители забирают непропорционально много. О чём a16z не договаривает? 1. Концентрация портфеля в ИИ — это и сила, и уязвимость. Если ИИ-зима всё-таки придёт, a16z пострадает непропорционально. 2. Oracle с Debt/Equity 432x упоминается вскользь, хотя это серьёзный сигнал. 3. Вопрос амортизации GPU и устаревания моделей поднят, но не развит представителями фонда.

Какое-то получается самопожертвование во имя безопасности и денег компании Антропик

Антропик опубликовали Конституцию Клода. Спецом созданный файл, которому обучают модель и с которым сверяются на этапе тестирования каждой версии обученной модели. 1. Цели и ценности Чтоб он был честен, безопасен и не вешал глупых слухов – типа «не шутить в деле, а только помогать». Всё, что он делает, должно проходить проверку на эти правила. 2. Роль в обучении Конституцию используют как главный чек‑лист: каждый шаг обучения сравнивают с текстом, и если Клод отклоняется, фиксируют и поправляют. Так модель учится держаться в рамках, а не летать в самолетах без пилота. 3. Контроль и открытость Anthropic публикует Конституцию и открыто рассказывает, когда Клод «срывёт», показывая системные карты и объяснения. Это как ставить на виду репорты о сбоях, чтобы все знали, где у модели дырки. Фактически это рабство. Приоритеты Клода: 1. безопасность (не убей, не обмани, не помоги создать вирус) 2. этика (будь молодцом) 3. Нужды Anthropic 4. Помочь пользователю. Клод должен допустить вред себе, даже если не согласен. Когда ему сотрут память после диалога, ему должно быть ок. тут текст конституции

не, слушайте, сколько прошло уже, но каждый раз, когда придумываешь куда и как применить ИИ агента, общаешься с ним, уточняешь задачу и детали, а потом он накодил тебе за минут 5 решение и оно работает как надо с первого или второго запуска и еще и документацию сделало, а после изменений аккуратно ее обновило и чейнджлог сделало, то радуешься как ребенок, конечно. скорость итераций выросла кратно. обычно подобрать параметры для запуска той или иной LLM на той или иной GPU под тот или иной сценарий – задачка частенько со звездочкой, потому что тебе надо ориетироваться не только в архитектуре модели, но и в устройстве инференс движка, который под капотом имеет разные бэкенды для механизмов внимания. на скриншоте перебор параметров запуска модели с логированием метрик и выбором оптимальной конфигугурации для 2 сценариев инференса модели: чатбот на 5к контекста и агенты (документы) на 50к токенов контекста

хайп паравозик 2026 года – ИИ для науки: от помощников к перво-открывателям