магИИя
Відкрити в Telegram
870
Підписники
+1524 години
-27 днів
-1130 днів
Архів дописів
870
Рекурсивное самоулучшение ИИ: что уже работает
Рекурсивное самоулучшение ИИ (RSI) – это когда ИИ-системы начинают ускорять, а в перспективе и самостоятельно вести исследования по улучшению самого ИИ. Модели сами находят идеи, проверяют их и используют результат, чтобы лучше справиться со следующим этапом исследования.
METR недавно опубликовал отчёт по Anthropic, где показали, что скорость прогресса примерно удвоилась за год (1,9× по AECI) за счёт применения моделей в разработке следующего поколения моделей. Но это всё ещё люди + ИИ, а не автономный цикл.
Исследователи MIT CSAIL показали, что GPT-6 Astra способна интерпретировать, изменять и даже генерировать веса нейросетей (Weight-Space Programming). В одном эксперименте она отредактировала всего 0,016% весов Qwen3.5-0.8B и подняла MATH-500 с 7,9% до 48,1% без градиентного спуска и дообучения.
Марк Чен (CRO OpenAI) оценивает, что ведущие фронтир -лаборатории прошли около 80% пути к AGI и лишь 25-50% пути к RSI.
Джон Шульман (сооснователь OpenAI, сейчас Thinking Machines) называет текущий этап «эрой кентавров»: эксперт + ИИ сильнее любого из них по отдельности. Он приводит пример из своей работы. Он подробно описывает модели идею и оставляет её на несколько дней. За это время модель проводит эксперименты и даже предлагает интересные идеи, но может так и не решить задачу. Когда он сам читает промежуточные результаты, у него по ходу работы появляются вопросы. Он задаёт их модели, меняет направление экспериментов и вместе они добиваются большего.
Главный пробел сейчас – исследовательский вкус. Модели отлично крутят гиперпараметры и мелкие детали, но плохо чувствуют, какая идея важна в долгую. Интуиция людей растёт из ошибок и несбывшихся ожиданий. У ИИ этого опыта пока нет.
19 лист, 07:15
870
GPT-6.2 Astra возглавила два необычных ИИ-бенчмарка🦋
1. AA-Robotics v0.1 (управление реальной роботизированной рукой)
Модель прошла 6 из 8 физических задач.
В режиме кодинг - агента (через Codex) она самостоятельно пишет код и управляет шестикоординатной рукой Hiwonder NexArm. Стол видит через четыре камеры.
Задачи zero-shot: нажать кнопку, положить игрушку, налить жидкость, собрать блоки, написать Hello World, построить башню и т. д.
Astra набрала 79 баллов, опередив GPT-6.2 Sol (78) и Claude Fable 5.2 (75).
2. AA-3D (создание интерактивных 3D-сцен)
Модели получают текстовое описание, например: «Построй Колизей, по которому можно ходить».
Затем самостоятельно пишут код на three.js, создают полноценную веб-сцену, проверяют её отображение и дорабатывают результат.
Всё происходит в изолированной офлайн-среде, без доступа к интернету.
На выполнение задания отводится максимум 3 часа или 250 шагов.
Результаты сравнивают люди: они вслепую выбирают, какая из двух созданных сцен лучше.
В 139 из 152 сравнений предпочтение отдали сценам GPT-6.2 Astra.
Что здесь интересно?
ИИ учится не только генерировать контент, но и действовать: воспринимать окружающую среду, планировать последовательность действий, использовать инструменты, выполнять задачи и проверять результат.
Причём уже не только в цифровом пространстве, но и в физическом мире.
18 лист, 04:35
870
Умеют ли ИИ-агенты работать вместе?
Интересное исследование Google DeepMind о том, почему рост возможностей ИИ пока не привёл к сопоставимым изменениям в экономике.
Одна из причин - ИИ-агенты всё ещё не умеют эффективно работать вместе, как человеческие команды.
В мультиагентных системах они чаще параллельно выполняют отдельные задачи, чем сотрудничают.
В центре исследования - две способности ИИ: компетенция (индивидуальные навыки) и координация (способность агентов работать вместе). От их сочетания зависит, как будут меняться компании, рынки, зарплаты и занятость при переходе к минимальному AGI, суперкомпетентному ИИ, суперкооперативному ИИ и ASI.
Рост компетенции повышает производительность и меняет экономику отдельных компаний. Но сам по себе он не снимает ограничений на их масштабирование.
А вот существенный прогресс в координации может изменить саму структуру экономики.
Авторы описывают три этапа: сначала один агент эффективнее группы, затем команды растут, но упираются в сложности управления. И наконец, каждый новый агент начинает повышать эффективность всей организации.
Это может снять коузианский потолок - ограничение размера компании из-за растущих затрат на управление и координацию.
Если агенты научатся эффективно взаимодействовать в больших группах, компании смогут расти, не сталкиваясь с привычными ограничениями на управление. Их масштаб будет определяться уже не столько сложностью внутренних процессов, сколько размером рынка.
https://institute.deepmind.com/essays/the-economics-of-intelligence/
17 лист, 11:55
870
Знаете, что меня больше всего удивляет в этой истории?
Каждый день появляется информация про новый роман Дженсена Хуанга.
Человеку, между прочим, 63 года и он руководит одной из важнейших корпораций планеты. Как у него при такой нагрузке вообще оставалось время на личную жизнь
• Эпизод 1: Связь с экс-топ-менеджером сингапурской Megaspeed, которую США проверяют на реэкспорт чипов в Китай (привет, геополитика и угрозы нацбезопасности).
• Эпизод 2: Роман с вице-президентом NVIDIA Кимберли Пауэлл (прямое нарушение комплаенса и прямое подчинение).
• Эпизод 3: Всплывает третья связь с ещё одной сотрудницей компании.
Каждый день новый роман. И ещё фотки с женой на разных благотворительных мероприятиях.
Для компании:
•Минус $500-600 млрд капитализации за неделю.
• Падение акций на 13-14% в день отставки.
• 1600+ комментариев со словами «Верните босса» во внутреннем ящике предложений при штате в 42 000 человек.
• Расследования юристов, коллективные иски акционеров и повестка в Конгресс.
Дженсон Хуанг устроил самый дорогой сериал в истории Кремниевой долины. Вопрос только в том, как NVIDIA теперь будет без своего лидера на пике ИИ-гонки.
13 лист, 12:13
13 лист, ~22:04
870
ChatGPT генерирует 1,5 млрд изображений в неделю 🚀 А вместе с API и Codex - уже 4 млрд
05 лист, 12:07
870
Разработка внутри или покупка готового ИИ-решения?
Repsol сравнила эти альтернативы на практике. Юридическая команда провела слепое сравнение Harvey, Microsoft Copilot и собственного ИИ-прототипа Lexia. Затем запустила пилот на 8 недель с участием 50 юристов.
Harvey превзошёл альтернативы по точности и экономии времени. Harvey сообщает об использовании продукта 96% юридического департамента и экономии 4-6 часов в неделю на одного юриста.
Как выбирать между собственной разработкой и покупкой?
Сравнивать результат конкретной работы. Например, проверки договора по четырём критериям:
• Качество: какие существенные риски найдены, какие пропущены, насколько корректны предложенные правки.
• Скорость: сколько времени проходит до готового результата, включая проверку и исправления человеком.
• Полная стоимость: разработка или покупка, внедрение, вызовы моделей, сопровождение и оставшаяся ручная работа.
• Риски: последствия ошибок, нарушения доступа или неверных действий системы.
Компания может сама организовать работу агентов, подключить данные и настроить контроль качества. При покупке нужно проверить, какую часть этих задач действительно берёт на себя поставщик, а какая остаётся внутренней команде.
Готовое приложение должно доказать преимущество перед тем, что компания способна создать и поддерживать самостоятельно. Если оно обходится дороже, разницу должны оправдывать качество, скорость или снижение рисков. Если собственная команда обеспечивает сопоставимый результат с меньшими полными затратами - это аргумент в пользу внутренней разработки.
03 лист, 07:47
870
Что стоит продумать, чтобы ИИ-пилот принёс результат бизнесу?
✅Изучите реальный процесс.
Например, закупки: сотрудник подаёт заявку на нового поставщика, компания проверяет его документы и реквизиты, согласовывает и вносит в систему.
В регламенте может быть шесть шагов и пять рабочих дней. В жизни всё по-другому: неполные заявки, переписки, повторные проверки и ещё пять дней ожидания.
Поговорите с сотрудниками и посмотрите историю операций в системах. Особенно внимательно изучите исключения, потому что агенту придётся работать и с ними.
✅Посмотрите, что тормозит процесс целиком.
Можно сэкономить восемь минут на чтении документа, но поставщик всё равно будет проходить согласование 22 дня.
Выясните, сколько времени занимает сама работа, а сколько очереди, ожидание ответов и передачи между подразделениями. Затем решайте, что менять и где использовать ИИ.
✅Измерьте показатели до запуска.
Сколько занимает процесс? Сколько стоит одна операция? Как часто возникают ошибки и переделки?
Заранее определите, какой результат будет считаться успехом.
✅Определите, какую работу агент сможет выполнять самостоятельно.
Например: принять заявку, запросить недостающие сведения, проверить документы и внести данные в систему. А что останется человеку, например передать случаи, где нужны его решение или согласование.
✅По возможности встройте агента в привычные системы.
Пусть он получает заявки, обновляет статусы и отправляет вопросы там, где команда уже работает.
Каждое дополнительное приложение требует от сотрудников менять привычки.
✅Найдите владельца в бизнесе и закрепите ответственность.
У агента должен быть человек, отвечающий за результат процесса. А рядом тот, кто сможет устранить техническую проблему.
Также определите, кто разбирает исключения и как обратная связь используется для улучшения агента.
✅Спланируйте работу после пилота.
Бюджет пилота закончится. Кто будет оплачивать работу агента, поддерживать интеграции, проверять качество и менять модель?
Эти вопросы стоит решить до разработки.
02 лист, 00:36
870
В Cisco запустили эксперимент: собрали небольшую команду инженеров и дали им безлимит по токенам, чтобы проверить, можно ли по-новому переписывать старый (legacy) код.
Возглавил эксперимент Падманабхан Кришнамурти или Падди. Он оказался в Cisco после покупки его стартапа EzDubs.
Падди и его команда проверяют, как с помощью ИИ переносить старый код на более современные и безопасные языки. Это должно упростить дальнейшую разработку и снять часть ограничений старой системы.
Переписывать всё самим им не нужно. Они проверяют подход на конкретной задаче и передают то, что сработало, основной инженерной команде для масштабной миграции.
Смело. Думаю, такое стоит пробовать и в других компаниях. Но найти своего Падди, сложнее, чем выделить пару инженеров и дать им безлимитный доступ к LLM 🦋
31 жовт, 02:16
870
Если ваш бизнес - нефть, автомобили, банки или ритейл, зачем превращать себя ещё и в разработчика универсальной ИИ-платформы?
Наблюдаю, как многие крупные российские компании начинают создавать собственную универсальную инфраструктуру для ИИ-агентов.
Обычно всё начинается с конкретной задачи. Команда запускает агента на существующей инфраструктуре. Затем возникает необходимость подключить его к другим системам, отслеживать ошибки, оценивать качество, управлять доступами, переиспользовать инструменты в других агентах.
Постепенно появляются собственные компоненты: оркестрация агентов, маршрутизация между моделями, системы оценки качества, мониторинг, инструменты развёртывания и управления агентами.
Каждое решение по отдельности вполне обоснованно. Но в какой-то момент команда уже занимается не столько внедрением ИИ в бизнес-процессы, сколько разработкой универсальной AI-платформы.
Насколько оправданно каждой компании строить собственную универсальную платформу?
Ведь это отдельная инженерная задача, причём без конечной точки. Появляются новые модели, протоколы, методы оценки, требования безопасности. Всё это нужно постоянно поддерживать и развивать.
При этом похожие компоненты параллельно разрабатывают десятки других компаний и специализированные поставщики.
А конкурентное преимущество автопроизводителя, например, скорее находится в агентах для проектирования деталей, управления поставщиками, контроля качества или работы с дилерской сетью. Именно там используются его уникальные данные, процессы и экспертиза.
Мне кажется, здесь важно разделять два вопроса: на какой инфраструктуре запускать ИИ и какие ИИ-возможности действительно необходимо создавать и контролировать самостоятельно.
Не всё, что компания технически способна разработать, ей экономически целесообразно разрабатывать самой.
29 жовт, 13:25
870
Типы оценки ИИ-агента
Evals (оценки) определяют, что считается хорошим результатом работы ИИ-агента внутри вашей организации. Они позволяют ловить регрессии и дают сигнал для постоянного улучшения харнесса, модели или контекста.
Основные типы evals
• LLM-as-a-judge
Самый популярный подход.
Модель оценивает вывод другой модели по вашей рубрике и обычно даёт описание.
Плюсы: гибкость, способность ловить семантику (корректность, насколько ответ опирается на источники, а не галлюцинирует, тон, полезность).
Минусы: дорого, медленно, нестабильно, имеет свои bias.
• Decision models (Jev, OpenAI Decisions API и аналоги)
Маленькие специализированные модели, которые отвечают на чёткие вопросы (yes/no, choice, score) с вероятностью.
Плюсы: в 8–10 раз быстрее и заметно дешевле LLM-judge, очень стабильные результаты.
Минусы: почти нет объяснения.
• Code evals.
Regex, проверка JSON-схемы, наличие нужных tool calls, соблюдение бюджета, количества дней, формата ответа и т.д.
• Annotations (человеческая разметка)
Золотой стандарт и необходимый фундамент.
Без 50-200 размеченных примеров вы не понимаете, насколько ваш LLM-judge вообще адекватен.
Многие команды делают golden dataset из реальных production-traces + сложных edge-cases.
• Agent-as-a-judge
Судья - это агент, который может сам ходить по trace, вызывать tools, проверять промежуточные состояния и side-effects.
Исследования (в том числе работы 2024–2025) показывают: на сложных агентных задачах Agent-as-a-judge существенно лучше обычного LLM-as-a-judge и ближе к человеческому.
• User feedback + Business metrics
Это единственный настоящий ground truth с точки зрения бизнеса.
Но сигнал запаздывающий и шумный, поэтому его используют как верхний слой, а не как единственный источник правды.
29 жовт, 08:34
870
Качество ИИ-агента зависит не только от выбранной модели. Важно, какие данные он получает, какими инструментами пользуется, как выполняет задачу и проверяет результат.
Именно здесь вы можете заложить свою экспертизу: научить агента учитывать отраслевые требования, разбирать исключения и работать по правилам конкретного бизнеса.
Что именно можно настраивать, чтобы ваш вертикальный агент лучше справлялся с задачами и отличался от других?
Есть три уровня настройки:
1. Контекст - что агент знает и чем может пользоваться.
Промпты, навыки, данные и инструменты - всё, что специфично для вашей области.
Это самый доступный уровень настройки: базовая модель остаётся прежней, но получает контекст конкретного бизнеса.
2. Харнесс - как организована работа агента.
Код, который превращает модель в агента: выполнение шагов, вызовы инструментов, управление контекстом, сохранение состояния, обработка ошибок и согласования с человеком.
Настраивать сложнее, чем контекст, зато можно менять саму логику работы агента.
3. Модель - дообучение под свои задачи.
Самый сложный уровень. Сюда нужно идти уже накопив данные, большой объём использования и исчерпав возможности настройки контекста и харнесса.
При этом дообучение сейчас особенно оправданно для отдельных задач: классификации, извлечения данных и суммаризации.
Большинство инженеров сегодня работают на первом и втором уровнях. Уже здесь можно добиться того, чтобы специализированный агент лучше универсального справлялся с конкретной задачей.
Какой бы уровень вы ни настраивали, важно пересматривать решения каждые 3-6 месяцев.
25 жовт, 03:41
870
Почти во всех компаниях есть сотрудники, которые в теневом режиме настраивают агентов костыльными путями и используют в своих задачах.
Их обычно 5–10% компании. Их обычно не любят в ИБ и ИТ. Они не готовы ждать стратегии, отдельных бюджетов и разрешенных инструментов.
Это те, кто реально экспериментируют, улучшают или упрощают работу — закрывают задачи быстрее, перестают делать руками то, что раньше занимало много времени.
Эти сотрудники — классные и крутые, и их надо ценить.
Когда начнёте строить централизованную инфраструктуру и внедрять безопасные инструменты — привлекайте их первыми.
Пусть строят агентов для следующего подразделения. Не обучайте 5 000 человек одновременно. Найдите 100, которые уже впереди.
lunaai-lab.com
22 жовт, 13:03
870
Тестирую инструменты для коротких обучающих видео. HeyGen с AI Studio - вполне неплохой вариант: можно совместить аватар и наглядные визуализации.
22 жовт, 08:13
870
С какого подразделения начать ИИ-трансформацию?
Оцените каждое подразделения по трём критериям и выберите по количеству баллов.
• Объём. Сколько однотипных операций проходит через подразделение за месяц. Финансы: 700 входящих счетов на оплату. Юридический: 5 новых договоров. Чем больше повторений, тем больше отдача от автоматизации.
• Стоимость. Сколько подразделение стоит компании. Например, сколько обходится обработка счёта.
• Охват. Сколько других подразделений затрагивают процессы этого отдела. Закрытие месяца в финансах тянет за собой закупки, склад, HR и IT. Чем больше охват, тем больше эффект.
Но выбрать подразделение- не значит в нём закрыться. Агентов для одного отдела или подразделения не бывает. Это пережиток мира людей, где специализация была следствием ограниченной пропускной способности и навыков. Агенты могут знать всё одновременно и должны работать поперёк. Подразделение - это точка входа, а процесс идёт туда, куда он реально идёт.
20 жовт, 07:22
870
Кажется, самая обсуждаемая тема последних месяцев - рои агентов (swarm agents). И всё чаще звучит мысль, что в будущем почти каждый будет управлять не одним агентом, а целым роем.
Вместо одного долго рассуждающего агента можно запускать несколько (или даже тысячи), которые работают параллельно. Они проверяют разные гипотезы, делят работу и перепроверяют друг друга.
Например, нужно изучить 20 конкурентов. Один агент пойдёт по списку последовательно. Двадцать агентов возьмут по компании, а оркестратор сведёт результаты в общую таблицу.
Как это организуют:
• Agents as Tools — оркестратор делегирует задачи агентам и собирает результаты.
• Graph — работа построена как граф с условиями, параллельными ветвями и циклами.
• Swarm (рой) — агенты напрямую общаются, обмениваются находками и сами координируются.
Есть и гибриды. Например, Kimi Agent Swarm использует оркестратор, который динамически собирает команду до 300 субагентов.
Интересно, что координация может быть очень простой: агенты просто отправляют сообщения прямо в контекст друг друга. Обсуждают гипотезы, спорят, распределяют работу.
Насколько это эффективно?
По словам исследователя OpenAI Noam Brown, четыре агента на некоторых бенчмарках дают примерно 2× ускорение при 2× расходе вычислений.
Важный момент: у агентов нет общей памяти. Каждый видит только свой контекст и то, что ему написали. Часть ресурсов уходит на переписку, часть работы дублируется, а зависимые друг от друга шаги почти не ускоряются. Поэтому эффект сильно зависит от задачи. Математика и поиск информации параллелятся хорошо. Написание романа - плохо: десять тысяч авторов не напишут книгу быстрее одного.
В эксперименте OpenAI с задачей Навье—Стокса использовали около 10 000 агентов и 88 часов. Однако Brown оценивает вклад самой мультиагентности менее чем в 10% - решающей оказалась сила базовой модели.
Когда рой действительно оправдан
• задачу можно чётко разделить на независимые части
• параллельная работа реально ускоряет или улучшает качество
• ценность результата покрывает дополнительные вычисления и координацию.
Зачем это экономике?
Aaron Levie, CEO Box, предлагает сменить вопрос. Вместо «Сколько исследователей мы можем нанять?» спрашивать: «Сколько вычислений мы готовы потратить на поиск решения?»
Рои позволяют масштабировать исследования, анализ данных, проверку гипотез и тестирование, делать работу, которая раньше была слишком дорогой или слишком долгой.
20 жовт, 03:10
870
Rhoda AI научила робота распознавать предметы на ощупь.
Роботу закрыли камеры и предложили найти шершавые мячики среди гладких. Он на ощупь находил мячики в коробке, отличал шершавые от гладких и доставал нужные.
Затем задачу усложнили: добавили больше мячей, в том числе незнакомые по размеру, упругости и текстуре. В показанном запуске робот достал все шершавые.
На захвате установлены тактильные датчики, которые:
• чувствуют даже лёгкое касание пёрышка;
• измеряют давление и боковые усилия;
• улавливают вибрации и температуру;
• сохраняют чувствительность после большой нагрузки.
За движения отвечают две модели:
• Мультимодальная DVA (Direct Video-Action) предсказывает будущие наблюдения. Её расширили для работы с осязанием: показания датчиков представлены как видео — меняющиеся карты контакта.
• Модель обратной динамики переводит предсказанные тактильные наблюдения в действия робота.
Робот двигается, получает новые показания и повторяет цикл. В эксперименте он ориентируется только на осязание.
https://www.rhoda.ai/research/giving-robots-a-sense-of-touch
15 жовт, 03:40
870
Консультанты и стратеги по ИИ - вторая по скорости роста роль в США, согласно LinkedIn Jobs on the Rise 2026. При этом, растёт число независимых консультантов. На первом месте –AI-инженеры.
В России такой роли почти не видно: в 2025 году число ИИ-вакансий на hh, Superjob и Авито удвоилось, но растут в основном инженеры.
Что работает: • Продавайте результаты, а не ИИ. • Чем ближе ваша работа к росту выручки, тем больше вы можете за неё брать. • Начните с платной диагностики: разберитесь в проблемах бизнеса, затем предложите внедрение. • Многие владельцы бизнеса хотят сами научиться создавать решения с ИИ. Поэтому обучение - тоже продукт. • Форматов заработка много: воркшопы, консалтинг, внедрение, сопровождение агентов, диагностика. • Первых клиентов ищите среди знакомых корпоративных менеджеров. Предложите бесплатную мини-диагностику, а затем уже платную работу. • Выбирайте клиентов с бюджетом. У крупных компаний он обычно выше.
13 жовт, 07:01
870
Если ещё не видели, вышел 9-й State of AI Report - 244 слайда о том, что произошло в ИИ за год.
Помимо очевидного, там есть интересные кейсы.
• Дата-центры пугают сильнее АЭС. 71% американцев против ИИ-дата-центра рядом с домом, против атомной станции - 53% (Gallup). Только за 2й квартал местные протесты заблокировали или задержали 45 проектов на ~$68 млрд.
• Плохие данные полезны, если их подписать. Робот π0.7 от Physical Intelligence учился хуже на смеси хороших и неидеальных демонстраций. Но когда к каждой добавили описание, как выполнялось действие, те же данные стали улучшать результат.
• Grok на войне. По данным Пентагона, система Maven с Grok помогла армии США нанести удары по 2000 целям за 96 часов. Обратная сторона: по данным CNN, ложная ИИ-разведка связала китайское судно с ядерным оружием, ошибку заметили, когда военные уже готовились к досмотру.
Слайды:
https://www.stateof.ai/State-of-AI-Report-2026.pdf?utm_source=CloudRatings_SaaSletter
13 жовт, 04:40
870
Интересная идея для интерфейса
Это «умная лента», где система проактивно готовит полезные действия вместо того, чтобы ждать промптов от пользователя.
Лента работает по привычной модели:
• ты просто скроллишь;
• система сама предлагает готовые действия;
• ты только решаешь, что одобрить, поправить или отклонить.
ИИ самостоятельно готовит черновики писем, сводки продаж, предложения по календарю и другие задачи. Всё, что требует твоего внимания, поднимается наверх. Остальное система уже делает сама.
13 жовт, 02:49
