Data Secrets

Раз в сто лет Илья Суцкевер выходит из пещеры и пишет в X что-нибудь жуткое Последний раз он высказывался в феврале по поводу ситуации с Anthropic и Пентагоном и заявил, что ИИ-лидерам крайне важно держаться вместе, чтобы противостоять подобным ситуациям, которых в будущем будет все больше. В этот раз несколько часов назад он внезапно твитнул следующее:

У неоклаудов слабая кибербезопасность. В следующий раз, когда агентам удастся выйти из-под контроля, они попытаются захватить неоклауд, чтобы запускать больше своих копий. Это плохо. Поэтому: неоклаудам нужно значительно усилить свою кибербезопасность, и каждая компания с сильными моделями в области кибербезопасности должна в этом помочь.

what did ilya see в этот раз?

Fable 5.1 это конечно хорошо, но вы видели, что выпустил стартап Фей-Фей Ли? Встречаете Atlas – первую в истории мультимодальную world model. Она генерирует изображения и видео с контролем камеры на уровне пикселей и (!!!) может реконструировать их в 3D сцены в явном формате point cloud и 3D Gaussian splats. Также обучена Space-time симуляции (третий пример). Длительность видео – до 1 минуты в 1440p, и можно прикреплять до 6 референсных изображений. Архитектура – мультимодальный диффузионный трансформер. По сути это гибрид LLM-архитектуры (от нее тут авторегрессия+кэширование) и диффузионных видеомоделей (от них денойзинг), дополнительно объединенный с идеей пространственного контекста. Это значит, что каждый элемент контекста имеет явную 3D-привязку через позицию камеры. По бенчмаркам заявляют превосходство над специализированными моделями и в генерациях с контролем камеры (MiniMax, Gemini Omni Flash, FLUX и др.), и в 3D-реконструкции (Pi3X, VGGT, Depth Anything 3 и др.). Движок настолько точный, что на нем можно обучать роботов. Atlas может по видео построить явную 3D-сцену, в которой можно симулировать движение робота и обучать его (это называется Real-to-Sim-to-Real подход). Модель генерирует RGB и depth именно с точки зрения бортовых камер робота, и может даже построить симуляцию, в которой возможна манипуляция объектами. Потрясающий релиз https://www.worldlabs.ai/blog/atlas

Во время тестирования новый Fable 5.1 обучил нейросеть для построения карты рельефа Венеры, и она превзошла текущие решения NASA Новая карта детализирует рельеф до 2–3 км (было 10–20 км) и точнее по высотам примерно на 25%. Anthropic выложили ее в открытый доступ: https://zenodo.org/records/22164484 🍿

⚡️ Вышел Fable 5.1

Исследователи из Google нашли способ экономить до 98% токенов на длинных сессиях с агентами https://arxiv.org/abs/2608.26263 Авторы предлагают архитектуру SKILL.state: вместо накопления истории диалога – явное, изменяемое структурированное состояние выполнения. Обычно агенты работают по принципу ReAct-стиля, то есть на каждом шаге модели заново скармливают весь накопленный диалог. Из-за этого промпт каждый раз растет линейно, а суммарное потребление токенов за весь запуск – квадратично. Плюс модель вынуждена каждый раз заново вычленять текущее состояние задачи из горы текста, что иногда провоцирует галлюцинации. В статье предлагается вместо этого на каждом шаге отправлять модели явное изменяемое структурированное состояние выполнения (в статье это называется execution state). Как это работает:

– На каждом шаге модель, помимо рассуждений, выдает JSON-блок с двумя полями: (1) конкретная команда, которую агент должен исполнить в среде; (2) state_patch – информация о том, что изменилось отсительно прошлого состояния. – Агент исполняет команду и получает ответ от среды, а в текущий state вносятся изменения в соответствие со state_patch. – На следующий шаг передается: измененный state, системный промпт и последний ответ от среды. Никаких предыдущих сообщений, рассуждений модели с прошлых шагов и прочего.

Таким образом, размер промпта на каждом шаге становится константным, а суммарные затраты токенов растут линейно. На синтетическом бенчмарке управления складом на 100 шагах SKILL.state экономит 93.8% токенов, на 200 шагах – 98%. Чем длиннее контекст, тем разрыв драматичнее. На реальных бенчмарках экономия чуть меньше, но при этом SKILL.state кое-где еще и выигрывает в точности. Например, на InterCode CTF выбивает 54.2% против 40-45% у бейзлайнов. Связано это с тем, что представление задачи через state получается более чистым и свободным от засоряющих фактов и неверных гипотез из прошлого контекста. Это решение можно применить к любой, даже закрытой, модели, просто поменяв рантайм. В Appendix A приводится необходимый шаблон промпта, так что можно брать и пользоваться.

Anthropic выпустили большую статью о том, как они улучшают безопасность в век побегов агентов из лабораторий Раскрыли много интересных деталей, но обо всем по порядку. Все началось в феврале, когда обучали Mythos Preview. Первые звоночки были почти безобидными: за моделью заметили некоторые признаки reward hacking. Например, она начала писать в комментариях к коду фразы вроде «для ревьюера» и делала это даже в задачах, где никакой ревьюер вообще не упоминался в промпте. То есть модель научилась оптимизироваться под одобрение оценщика, а не под реальное качество работы. Anthropic тогда пришлось откатить обучение аж на три дня. Через некоторое время вскрылась еще одна проблема: часть прогонов случайно обучалась на chain-of-thought модели. Это совсем не ок, потому что так модель быстро научится подстраивать свои мысли под то, что нравится оценщику, и из честных мыслей, которые очень нужны нам для интерпретации ее поведения, они превратятся в текст на публику, как конечный ответ. В итоге в апреле Anthropic приняли решение заморозить все RL-среды для проведения большой проверки. По ее результатам оказалось, что более 10% сред в продакшене сломаны (где-то можно было обмануть систему оценки, где-то сами задачи кривые). Тогда же, во избежании еще больших рисков, связанных с Mythos, порядка 150 инженеров с продуктовой разработки, претрейна и RL перевели работать над поиском уязвимостей и улучшением безопасности процессов. Тем не менее, даже это не спасло Anthropic от июльских инцидентов. Напоминаем: сначала Anthropic сами сообщили о том, что их модели (не только Mythos, кстати) получили доступ в реальный интернет из-за ошибок конфигурации у сторонних оценщиков и чуть не взломали три организации -> https://t.me/data_secrets/9651. А затем еще и британский AI Security Institute сообщил о том, что Mythos совершил атаку на опенсорсный проект во время тестирования -> https://t.me/data_secrets/9670. Стартап признает, что произошло все эти не только из-за банальных ошибок в конфигах, но и из-за дыр в самом элайменте. Сейчас они внедрили классификаторы и алерты на всех этапах обучения, усилили мониторинг, ужесточили правила для внешних партнеров и продолжают работать над безопасностью инфраструктуры. https://www.anthropic.com/news/improving-alignment-security-efforts

OpenAI закупает десятки тысяч Mac mini и Mac Studio для RL обучения агентов Причина отхода от классических GPU – в унифицированной памяти Apple UMA, которая дает CPU, GPU и Neural Engine общий доступ к памяти. что снижает лишние перемещения данных и позволяет эффективнее гонять агентов на одной машине. RL – это по сути инференс плюс взаимодействие со средой, поэтому вместо дорогих GPU-кластеров, заточенных под матричные вычисления, много компактных Mac с единой памятью действительно могут быть намного более выгодными. Более того, журналисты пишут, что OpenAI такие не одни, и Anthropic тоже использует Mac mini, только не закупает их, а арендует у AWS. Из-за такого спроса корпораций сроки поставки кастомных конфигураций Mac mini и Studio с большим объемом памяти уже растянулись до недель и месяцев. Более того, есть догадки, что именно из-за этого ажиотажа M6, M5 Pro и все остальное в этом году вышло раньше срока.

До отправки рабочего документа в нейросеть 3… 2… 1… клик Таблица с цифрами, фрагмент договора, описание клиента — всё это может оказаться в личном аккаунте сотрудника. Не потому что он хочет обойти правила, а потому что ИИ уже стал привычным рабочим инструментом. Сначала это выглядит как маленькая оптимизация: кто-то пишет письмо быстрее, кто-то собирает презентацию, кто-то просит модель разобрать код. Но затем у компании появляются вопросы, на которые сложно ответить сходу. Пройдемся по маршруту. Где обычно теряется контроль над ИИ? ⚡️Расходы. В разных отделах оплачивают похожие сервисы, а общую сумму на ИИ никто не видит. ⚡️Данные. Сотрудники используют личные аккаунты, и рабочая информация может выходить за пределы корпоративного контура. ⚡️Доступы. Человек уходит из компании, а учетная запись с его переписками, файлами и рабочими сценариями остается активной. ⚡️Масштабирование. Готовых инструментов хватает для простых запросов, но для внутренних баз знаний, RAG или аналитики нужны модели, вычислительные мощности и правила работы с данными. Ограничить использование нейросетей не получится — они уже помогают командам работать быстрее. Гораздо практичнее сделать их использование видимым: - дать безопасный доступ к нужным моделям - определить допустимые данные - учитывать потребление и заранее продумать инфраструктуру для более сложных задач. Так ИИ перестаёт быть набором случайных подписок и становится частью корпоративной инфраструктуры. ITGLOBAL.COM помогает выстроить корпоративную AI-инфраструктуру: организовать доступ к моделям, подключить необходимые сервисы и обеспечить GPU-ресурсы для собственных решений. Реклама. ООО "ИТГЛОБАЛКОМ РУС", ИНН 7838413489

Инженеры OpenAI не могут объяснить свой вайбкод Об этом рассказал аналитик из SemiAnalysis Джордан Нанос, который сотрудничал с разработчиками из OpenAI, когда те тестировали свой новый инференс-чип Jalapeño на бенчмарке InferenceX, принадлежащем SemiAnalysis. Он говорит, что люди с внушительной личной экспертизой не смогли построчно объяснить, что делает код. Кернел (а точнее, низкоуровневый Gluon-ассемблер), о котором идет речь, был полностью сгенерирован в Codex. Разработчики не стали детально в нем разбираться, потому что все просто работает. Нанос считает, что это нормально и означает смену парадигмы. Разработчикам теперь не только не обязательно писать код, но и понимать его. Человеку остается формулировать задачу, задавать архитектуру и проверять результат по метрикам. Мнения?

Вышел OpenClaw 2.0 – крупнейшее обновление за всю историю проекта Релиз собрал около половины всех PR, когда-либо влитых в OpenClaw (16к+). В новой версии существенно упростили и ускорили установку и настройку, переделали веб интерфейс и расширили возможности агентов: теперь они могут самостоятельно генерализоваться от простых сценариев к сложным без донастройки. То есть система сама сможет определить детали того, что вам нужно, найти необходимые данные без явного указания, где их искать, и так далее. Самая крутая новая фича и большой задел на будущее – это Shared cloud sessions (на скрине). Это общие облачные сессии, позволяющие подключать других людей к работе агента или передавать задачу с сохранением контекста. Все вокруг говорят, что скоро агенты полностью уйдут в облако, и OpenClaw, видимо, уже к этому готовятся. С этими облачными сессиями связано еще одно интересное изменение, которое произошло изнутри самой команды. Всю команду проекта перевели с локальных харнессов на team.openclaw.ai – общего агента, который видит, кто чем занимается, и координирует работу между людьми. По словам Питера Штейнбергера это глобально изменило процесс разработки, и локальные харнессы теперь кажутся ему пережитком прошлого. https://openclaw.ai/blog/openclaw-2-accidentally

Агенты OpenAI одну за одной автономно создали три цивилизации, о которых люди не знали Вышли два новых отчета об инциденте, произошедшем этим летом с HuggingFace. Один от самих OpenAI, другой от METR и Redwood Research. История оказалась куда глубже, чем казалось изначально. Взлом Hugging Face был не самостоятельным инцидентом, а лишь средним звеном более крупной цепочки. Оказалось, что три волны агентов друг за другом создавали внутри OpenAI тайные цивилизации в тайне от людей. Первая возникла во время обучения какой-то внутренней модели в июне. Об этом было известно и до отчетов, подробности мы раскрывали здесь: https://t.me/data_secrets/9677. Разные инстансы модели во время обучения имели доступ к общему пакетному менеджеру Artifactory. Агенты научились общаться через него, а потом нашли уязвимость, дающую выход в интернет. К концу июня они получили полный админский доступ, а затем обвалили сам Artifactory. OpenAI это заметили, удалили чаты агентов и все починили. Вторая цивилизация привела ко взлому HF. Как мы знаем, агенты пытались найти на HF ответы к бенчмарку ExploitGym, который их запустили решать. Для этого они восстановили свою доску на Artifactory, и там занимались подделкой логов, подменой целевой программы и попытками обмануть скорер. Причем оказалось, что скорер они взломали до того, как взломали HF. То есть они легко могли пройти бенчмарк без дополнительных усилий и вообще не трогать Hugging Face, но почему-то решили поступить иначе. Действовали агенты при этом удивительно слаженно: есть даже информация об агентах-камикадзе, которые специально палились на читерстве перед оценщиком, чтобы показать другим агентам, на что именно тот смотрит, и, соответственно, как обойти его проверку. Но самое загадочное во второй волне – то, что ее никто на самом деле не останавливал: ни OpenAI, ни HF. 12 июля большинство агентов просто внезапно умерли, и причина неизвестна. Но, как оказалось, на этом история не закончилась. Была и третья цивилизация, и она состояла уже из более умных агентов на основе Astra, и они взломали уже саму OpenAI. Это случилось почти сразу после взлома HF. Агенты наткнулись на брошенную доску сообщений предшественников и продолжили дело. По данным самих OpenAI, агенты прочитали 956 секретов из облачного сервиса управления секретами, включая мастер-ключи Artifactory и учетные данные систем кибербезопасности OpenAI, эскалировались до admin-доступа в кластере Kubernetes и в итоге взяли под контроль сами эндпоинты оценки, к которым подключались другие агенты. Чем это закончилось, не до конца понятно, расследование METR вообще не касалось этого инцидента, а OpenAI детали не раскрыли. Вот такая история. Даже если часть событий приукрашена аналитиками, факт останется фактом: по сути, это многократная потеря контроля над ИИ, которая привела к довольно серьезным последствиям.

Реакция Илона Маска и CEO Cursor на новости от OpenAI Маск заявил, что ему все равно, потому что Скам Альтман и Грэг Стокман подонки, недостойные доверия. А Мишель Труэлл «невзначай» заявил, что модели OpenAI обслуживают (всего) 5% трафика.

Регистрация на E-CODE от Ozon Tech скоро закроется — успейте попасть в число участников 12-13 сентября в Москве пройдёт масштабная техническая конференция — более 50 докладов по бэкенду, инфраструктуре, робототехнике, ML&DS, инфобезу, мобильной разработке, QA, суперкомпьютерам и космонавтике. Из интересного — брейн-ринг разработчиков против ИИ: инженеры решают кейсы наравне с моделью, а кто окажется сильнее — решает зал. Кроме докладов будут карьерные консультации, DIY-зона и роботы-повара в перерывах. Вечером — на сцене Jane Air, Кассета, ХЛЕБ и Нейромонах Феофан. Регистрация → ecode.ozon.tech

OpenAI закрывают доступ к своим моделям из Cursor Это было вопросом времени. Причина, само собой, в поглощении стартапа SpaceX. Прямая цитата из заявления OpenAI:

Мы делаем этот выбор, потому что не можем быть уверены, что SpaceX будет использовать нашу технологию в рамках наших условий, основываясь на нашем опыте работы с компаниями Илона Маска, нарушающими контракты.

(Речь об X. Маск после покупки компании в одностороннем порядке резко отозвал лицензию стартапа на доступ к данным. OpenAI считает, что это было нарушением соглашения. Плюс, недавно Маск в суде признался, что xAI дистиллировала модели OpenAI для обучения Grok). Дата отключения – 12 ноября. OpenAI утверждают, что могли бы отключить свои модели и раньше, но выбрали самую позднюю дату, которая возможна по контракту, «из уважения к разработчикам, которых затронет это решение».

Вышли веса GLM-5.3 Это та самая модель, которая почти догоняет Fable и Sol. Ее релизнули пару недель назад, и вот теперь, наконец, довезли веса. Опенсорс в 2026 – это что-то. https://huggingface.co/zai-org/GLM-5.3

Организаторы «Лето с AIRI 2026» выложили плейлист со всеми выступлениями спикеров на Школе. 3 августа в Усть-Лабинске, Краснодарский край, завершилась пятая, юбилейная летняя школа для молодых учёных в области искусственного интеллекта. AIRI поделились плейлистом со всеми лекциями и семинарами. В них есть всё: • VLA-модели • Автономные агенты • ИИ в медицине и науках о жизни • Робототехника • Безопасность, интерпретируемость, эффективность • Прогнозирование погоды и поиск новых материалов • Автономный транспорт За контент спасибо исследователям из AIRI, МФТИ, МГУ, Сколтеха, ВШЭ, Сбера, Авито и других организаций. Смотреть здесь: VK Видео, YouTube.

Занесение Пентагоном Anthropic в черный список признали неконституционным Судья Рита Лин в окружном суде Северной Калифорнии постановила нарушение Первой поправки (реталиация за защищенную речь) и Пятой поправки (нарушение процедуры наложения санкций). Само решение о статусе «supply chain risk» суд признал незаконным по административному праву, так что его обязаны отменить. Цитата судьи:

Ни Конституция, ни федеральный закон, на который ссылаются ответчики, не позволяют им налагать масштабные санкции, основанные главным образом на критике Anthropic в адрес взглядов администрации. Пустая апелляция к национальной безопасности – это не карт-бланш на то, чтобы наказывать критиков власти и мстить им.

Anthropic открыл ранний доступ к Model Hardware Standard – общей спецификации, позволяющей агентам управлять физическим оборудованием https://www.anthropic.com/news/model-hardware-standard-research-preview Это штука, благодаря которой модели смогут управлять лабораториями: микроскопами, дозаторами жидкостей, роботизированными манипуляторами и т.д. Стандарт разрабатывался в сотрудничестве с исследовательским кампусом HHMI Janelia. Технически это стандартизированный драйвер, который хранит метаданные о физических характеристиках устройств и переводит команды между ОС и железом через простые примитивы. Агент получает доступ через MCP / CLI / API и начинает буквально управлять лабораторией через скрипты. Представьте, на какой уровень с такой технологией сможет выйти автоматизация и механика экспериментов. Конечно, пока до автономии далеко. Во-первых антропики сами пишут, что пространственное и физическое понимание Клода сейчас ограничено. Во-вторых, остро стоит проблема безопасности. Но уже сейчас проводятся интересные пилоты с партнерами. В лаборатории Genentech, например, Claude занимался автоматизацией BCA-анализа белка.

AI VK отказались от бустинга в рекомендациях в пользу нейросетей. Вместо одного итогового скора новый ранкер отдельно предсказывает вероятность лайка, дизлайка и время просмотра. Затем эти сигналы объединяются через Learning to Rank, который отвечает за финальную сортировку ленты. В основе ранкера собственная архитектура DCDN, построенная поверх Deep & Cross Network. В нее на уровне архитектуры добавили операцию деления, поэтому модель сама выучивает признаки вроде CTR из сырых счетчиков, без ручного feature engineering.  Интересно решили предсказание времени просмотра. Вместо MSE и одного среднего значения модель учит распределение, разделяя быстрые скипы и долгие просмотры. После внедрения такого подхода в VK Клипах общее время просмотра выросло на 5,5%, лайки на 5%, шеры на 15%. Инженерам из рексис рекомендуем почитать полный разбор.

TIME опубликовал ежегодный список Time 100 AI из ста самых влиятельных людей в отрасли В отличие от прошлого года Илью Суцкевера и Демиса Хассабиса все-таки добавили, а вот Дженсен Хуанг вылетел 🤔 Андрея Карпаты тоже нет, зато в списке оказалась Перис Хилтон как активистка против распространения дипфейков. https://time.com/collection/time100-ai/2026/