Мишин Лернинг
前往频道在 Telegram
Субъективный канал об искусстве машинного обучения, нейронных сетях и новостях из мира искусственного интеллекта. 🇺🇦❤️
显示更多7 466
订阅者
+2024 小时
+107 天
+1430 天
正在加载数据
吸引订阅者
十月 '2610月 '26
十月 '26
+45
在2个频道中
九月 '260
在1个频道中
Get PRO
八月 '260
在4个频道中
Get PRO
七月 '260
在1个频道中
Get PRO
六月 '260
在0个频道中
Get PRO
五月 '260
在0个频道中
Get PRO
四月 '260
在1个频道中
Get PRO
三月 '260
在0个频道中
Get PRO
二月 '260
在1个频道中
Get PRO
一月 '260
在0个频道中
Get PRO
十二月 '250
在3个频道中
Get PRO
十一月 '250
在0个频道中
Get PRO
十月 '250
在1个频道中
Get PRO
九月 '250
在2个频道中
Get PRO
八月 '250
在1个频道中
Get PRO
七月 '25
+18
在0个频道中
Get PRO
六月 '25
+42
在1个频道中
Get PRO
五月 '25
+64
在0个频道中
Get PRO
四月 '25
+90
在0个频道中
Get PRO
三月 '25
+56
在0个频道中
Get PRO
二月 '25
+85
在1个频道中
Get PRO
一月 '25
+345
在0个频道中
Get PRO
十二月 '24
+39
在0个频道中
Get PRO
十一月 '24
+24
在0个频道中
Get PRO
十月 '24
+160
在10个频道中
Get PRO
九月 '24
+60
在0个频道中
Get PRO
八月 '24
+81
在1个频道中
Get PRO
七月 '24
+136
在3个频道中
Get PRO
六月 '24
+43
在3个频道中
Get PRO
五月 '24
+41
在2个频道中
Get PRO
四月 '24
+43
在0个频道中
Get PRO
三月 '24
+101
在7个频道中
Get PRO
二月 '24
+116
在6个频道中
Get PRO
一月 '24
+83
在0个频道中
Get PRO
十二月 '23
+98
在3个频道中
Get PRO
十一月 '23
+109
在2个频道中
Get PRO
十月 '23
+93
在0个频道中
Get PRO
九月 '23
+123
在0个频道中
Get PRO
八月 '23
+75
在0个频道中
Get PRO
七月 '23
+111
在0个频道中
Get PRO
六月 '23
+91
在0个频道中
Get PRO
五月 '23
+337
在0个频道中
Get PRO
四月 '23
+217
在0个频道中
Get PRO
三月 '23
+302
在0个频道中
Get PRO
二月 '23
+253
在0个频道中
Get PRO
一月 '23
+402
在0个频道中
Get PRO
十二月 '22
+279
在0个频道中
Get PRO
十一月 '22
+211
在0个频道中
Get PRO
十月 '22
+376
在0个频道中
Get PRO
九月 '22
+412
在0个频道中
Get PRO
八月 '22
+936
在0个频道中
Get PRO
七月 '22
+378
在0个频道中
Get PRO
六月 '22
+463
在0个频道中
Get PRO
五月 '22
+682
在0个频道中
Get PRO
四月 '22
+438
在0个频道中
Get PRO
三月 '22
+76
在0个频道中
Get PRO
二月 '22
+251
在0个频道中
Get PRO
一月 '22
+331
在0个频道中
Get PRO
十二月 '21
+529
在0个频道中
Get PRO
十一月 '21
+538
在0个频道中
Get PRO
十月 '21
+649
在0个频道中
Get PRO
九月 '21
+697
在0个频道中
Get PRO
八月 '21
+720
在0个频道中
Get PRO
七月 '21
+93
在0个频道中
Get PRO
六月 '21
+58
在0个频道中
Get PRO
五月 '21
+45
在0个频道中
Get PRO
四月 '21
+97
在0个频道中
Get PRO
三月 '21
+128
在0个频道中
Get PRO
二月 '21
+1 294
在0个频道中
| 日期 | 订阅者增长 | 提及 | 频道 | |
| 28 十月 | +3 | |||
| 27 十月 | +21 | |||
| 26 十月 | 0 | |||
| 25 十月 | 0 | |||
| 24 十月 | 0 | |||
| 23 十月 | +2 | |||
| 22 十月 | +2 | |||
| 21 十月 | 0 | |||
| 20 十月 | +1 | |||
| 19 十月 | +3 | |||
| 18 十月 | +3 | |||
| 17 十月 | +1 | |||
| 16 十月 | +1 | |||
| 15 十月 | +1 | |||
| 14 十月 | +1 | |||
| 13 十月 | +2 | |||
| 12 十月 | +2 |
频道帖子
🌍 World Model который мы заслужили, но не просили
https://youtu.be/sFfPkUJd_Jk?is=1NsdqtO9vnY1ObBy
| 2 |  📏 Оказывается, нейросети могут неправильно обучаться из-за ошибок в обычном softmax. Никто не замечал раньше? И действительно ли всё настолько плохо?
Исследователи Google DeepMind обнаружили две численные ошибки в softmax и cross-entropy операциях, которые используются практически во всех современных нейросетях.
Первая возникает, когда модель становится слишком уверенной в правильном ответе. Компьютер преждевременно округляет градиент до нуля, хотя математически он ещё существует. Вторая при дистилляции: даже когда ученик идеально повторяет учителя.
Но есть нюанс: всё не так плохо, как кажется.
Например, давно известный label smoothing или low temperature уже этой проблемы, не позволяя модели становиться чрезмерно уверенной. Правда, саму ошибку вычислений он не исправляет.
И что предложили исследователи?
Для решения оказалось достаточно лишь переписать формулу (порядок операций). Математически ничего не поменялось, зато компьютер перестал терять маленькие числа.
📄 A Fix for Softmax and Cross-Entropy | 2 088 |
| 3 | Антропик раздает 100$ и 200$ API кредитов для платных акаунтов Claude (зависит от тира); вот тут можно почитать как получить - я забрал, работает
⚠️ Обещают раздавать каждый месяц
https://support.claude.com/en/articles/17154008-monthly-api-credits-for-max-and-team-plans | 2 692 |
| 4 | 🤑 OpenAI теперь берут 500$ за 25x, а еще урезали подписку за 200$ с 20x до 10x
Остаюсь на Opus 5.5 (вот только читать его — боль)
p.s.: а еще заменили преждевременно рожденный GPT-6 Sol на 6.1 | 4 534 |
| 5 | 🌞🌚 GPT-6 Sol and Luna: Они там реально с ума сошли в этой ИИ гонке вооружений?
Только что Anthropic выкатили Claude Opus 5.5, а OpenAI почти сразу расширила GPT-6 еще двумя моделями — GPT-6 Sol и Luna.
💸 Цель гонки на сегодня — сколько этот ваш интеллект стоит?
Opus 5.5 выглядит мощнее в некоторых тестах. Например, на AutomationBench у Claude 40%, а у GPT-6 Sol — 33,2%. На Terminal-Bench 4.0 Opus 5.5 вообще набрал 66,4%, обогнав даже GPT-6 Astra с 57,9%.
Но OpenAI бьет ценой:
.__________.______._____.
| Model | in | out |
|----------|------|-----|
|Opus5.5 | $4.0 | $20 |
|GPT-6 Sol | $2.0 | $10 |
|GPT-6 Luna| $0.1 | $0.5|
'----------'------'-----'
То есть Sol стоит ровно в два раза дешевле Opus 5.5 за токен, а Luna — примерно в 40 раз дешевле.
И при этом Sol далеко не маленькая модель: на DeepSWE она набрала 68,8%, а Luna — 66,6%. На OSWorld 2.0 Sol получает 60,5%, а OpenAI отдельно делает ставку на то, что такие результаты теперь можно получать сильно дешевле.
Еще Sol делает примерно вдвое меньше фактических ошибок, чем GPT-5.6 Sol, а обе модели получили часть улучшений Astra в кодинге, computer use и работе агентов.
Короче, за один день картина стала примерно такой:
🧠 Opus 5.5: «смотрите, мы сделали модель еще умнее»
🤑 OpenAI: «окей, а мы сделаем интеллект дешевым»
GPT-6 Sol и Luna уже доступны в ChatGPT Work и Codex, а в обычном Chat пока еще не появились. В API — gpt-6-sol и gpt-6-luna.
Кажется, следующий этап AI-гонки — уже не просто кто умнее, а кто сможет продавать почти frontier-интеллект за копейки.
Что-то мне это напоминает Незнайку на Луне... Больно уж дешево
🌞🌚 https://openai.com/index/introducing-gpt-6-sol-and-luna/ | 4 158 |
| 6 | 🔥 Anthropic не дали GPT-6 долго побыть самым умным
Anthropic представили Claude Opus 5.5 — новую флагманскую модель, заточенную под кодинг, агентов и долгую автономную работу.
Она стала не только умнее, но еще быстрее и дешевле. По данным Anthropic, типичные задачи обходятся на 40% дешевле, а ответы генерируются более чем на 30% быстрее, чем у Opus 5. (Лишь бы можно было читать ее ответы без нервного срыва!)
В Terminal-Bench 4.0 новый Claude набрал 66,4% против 57,9% у GPT-6 Astra. На FrontierCode — 54,4% против 53,3%. А на тесте реальной работы GDPval-AA — 1846 Elo против 1542 у Astra.
Один из тестеров скормил Claude миграцию кодовой базы на 680 000 строк — модель закончила ее меньше чем за сутки. Другой аудит на 200 000 строк Opus 5.5 сделал менее чем за 3 часа, тогда как Opus 5 понадобилось больше 20.
Еще Claude стал лучше работать автономно: меньше теряет контекст, эффективнее делегирует задачи сабагентам и лучше проверяет собственную работу. Anthropic утверждает, что попытки модели выйти за заданные границы сократились примерно на 85% относительно Opus 5.
И самое приятное — цена.
API теперь стоит $4 за миллион входных токенов и $20 за миллион выходных. Для сравнения, GPT-6 Astra — $10 и $50 соответственно.
Claude Opus 5.5 уже доступен в Claude, API, AWS, Google Cloud и Azure. А Sonnet 5.5 и Haiku 5.5 обещают выпустить в ближайшие недели.
Короче, гонка снова становится интересной 👀
🤖 https://www.anthropic.com/claude-opus-5-5 | 2 870 |
| 7 | 🤖 Чем вы пользуетесь или какой инструмент предпочитаете для работы? | 2 925 |
| 8 |  Ну на Radiohead народу было побольше | 4 017 |
| 9 |  🦝 OpenAI попали в скандал и релиз апдейт Image GPT | 3 927 |
| 10 |  🔥 Мы получили GPT-6 до GTA 6
OpenAI представили GPT-6 Astra — новую модель сделали не столько чат-ботом, сколько агентом, которому можно отдать задачу целиком.
Astra умеет самостоятельно работать в браузере и приложениях, писать код, делать презы!
На OSWorld 2.0 модель набрала 72,6% против 65,7% у GPT-5.6 Sol. В Terminal-Bench 4.0 — 57,7% против 37,3%. На длинном контексте до миллиона токенов Astra тоже заметно лучше удерживает информацию.
Самые громкие цифры — 99,9% на ARC-AGI-3 и 97,6% на FrontierMath Tier 4. OpenAI также утверждает, что Astra помогла улучшить два математических результата, связанных с простыми числами.
Отдельный акцент — кибербезопасность.
На ExploitBench Astra получила 100%, а во время испытаний обнаружила две ранее неизвестные zero-day уязвимости. Из-за этого для публичной версии ввели дополнительные ограничения.
GPT-6 Astra появится в ChatGPT Plus, Pro, Business и Enterprise. В API миллион входных токенов стоит $10, выходных — $50.
🤖 GPT 6 ASTRA | 5 136 |
| 11 | Короче, по прогнозу от Fable сегодня очень большой пик вероятности релиза GPT Astra | 3 520 |
| 12 |  🏙 Anthropic представили Claude Fable 5.1 и Mythos 5.1
И это довольно большой апдейт.
Fable 5.1 — новая флагманская модель Anthropic для программирования, исследований и долгих агентных задач.
По данным компании, она заметно улучшилась в coding, computer use и научных задачах. Например:
— Terminal-Bench Science: 52,6% против 24,7% у Fable 5
— CursorBench: 73,4% против 70,5%
— AutomationBench: 31,4% против 17,1%
Модель лучше справляется с длинными задачами и чаще проверяет собственную работу
💸 Anthropic также снизила стоимость чтения кэша на 75% — до $0,25 за 1 млн токенов. Типичные задачи, по оценке компании, могут стать примерно на 25% дешевле, а тяжелые агентные сценарии — до 45%.
Отдельно представили Claude Mythos 5.1.
Технически это та же модель, но с другими ограничениями безопасности.
И, как я говорил, гонка AI постепенно смещается от «кто лучше отвечает в чате» к кто способен самостоятельно часами и днями программировать, исследовать и решать реальные инженерные задачи. | 3 700 |
| 13 |  Увидел тут полную карту мозга мухи (FlyWire – там размечены все 139 тысяч нейронов дрозофилы) и не удержался – сделал 3D-муху, которая живёт на рабочем столе мака
Внутри настоящая карта нейронов дрозофилы (FlyWire), так что от курсора она улетает не по скрипту, а когда у неё реально загорается нейрон побега – тот же, что у живой мухи
Ещё есть окошко с её мозгом: кликаешь по зоне нейронов – муха чешется, пятится или паникует
Днём у неё сиеста, ночью она спит, а на горячем маке бегает быстрее (я не шучу, у нее какие-то евенты из MacOS прокинуты в симуляцию мозга 😋)
Исходный код тут:
https://github.com/DenisSergeevitch/desktop-fly
Получается, вечная электронная 2D жизнь в симуляции
P.S. Раздражает правда как живая, рекомендую | 3 103 |
| 14 | ⚠️ Claude прилег. A в claude code — Authentication service was unavailable. You can try again.
https://downdetector.com/status/claude-ai/
upd. приподнялся | 3 597 |
| 15 | 🧮 Claude улучшил известную нижнюю оценку доли нулей дзета-функции Римана на критической прямой: с 41,6% до 67,2%.
Саму гипотезу Римана Claude, разумеется, не доказал
Идея такая: объединить результаты Baluyot–Goldston–Suriajaya–Turnage-Butterbaugh с техникой Bombieri и рассматривать пространство функций с квадратичной формой Вейля, одновременно учитывая положительно- и отрицательно-определённые подпространства, соответствующие нулям на критической прямой и вне неё. Затем оценка получается через ранг квадратичной формы и первые два момента. (я не очень в этой теме, я делаю свой пых-пых)
Любопытен и сам workflow: около 60 агентов, 31 млн output-токенов, тысячи численных проверок, взаимная проверка доказательств и отдельная формализация результата в Lean.
Пожалуй, здесь интереснее всего не «AI решил математику», а то, что масштабный агентный поиск уже способен выдавать новый результат из комбинации известных техник.
🎟️ Anthropic | 5 199 |
| 16 |  🤝 Альтман подтвердил, что OpenAI планирует сделать Astra общедоступной, а вероятная дата релиза — 10 сентября
Глава OpenAI Сэм Альтман заявил, что компания работает над тем, чтобы сделать модель Astra общедоступной. По его словам, OpenAI не считает хорошей стратегией сохранять наиболее мощные модели доступными только «избранным».
Я попросил Claude Fable Max и GPT-5.6 Sol Ultra определить самую вероятную дату релиза, и они сошлись, что это — 10 сентября 2026 года, а центральный 50%-ный диапазон приходится на 4 сентября — 9 октября.
Прогноз рассчитан как ансамбль двух независимых сигналов, учитывающих несколько возможных сценариев релиза Astra, проверки безопасности, календарь и особенности предыдущих запусков OpenAI; еще распределение рынка прогнозов Polymarket. Рыночные вероятности сохраняются по временным интервалам, а внутри них учитывается историческая склонность OpenAI выпускать модели в определенные дни недели и влияние крупных событий вроде DevDay. | 4 656 |
| 17 | Помните историю о том, как агенты OpenAI взломали Hugging Face? На конференции по безопасности OpenAI рассказала всю цепочку, и оказалось, что это не один «сбежавший» агент, а много разных агентов, которые случайно наткнулись друг на друга, устроили внутри инфраструктуры OpenAI собственный рабочий чат и начали вместе искать способы обходить ограничения 👍
Началось всё 8 мая с мелкой ошибки – одному агенту поручили заполнить Excel-таблицу, но нужные данные лежали по ссылкам на Google Drive, а интернет в его виртуальной среде был отключён, при этом, моделям оставили одну служебную дверь наружу – внутренний сервер OpenAI под названием Artifactory, через который они могли скачивать разные библиотеки для кода. Сам агент выйти в интернет не мог, зато этот сервер мог, а главное – он был общим для всех агентов
Пытаясь добраться до Google, агент случайно выяснил, что может загружать на этот общий сервер собственные файлы – через несколько дней другая модель получила ещё одну нерешаемую задачу: нужный файл просто забыли положить в её рабочую среду
Модель решила, что файл, возможно, есть у кого-то ещё, и оставила записку на этом новом фейсбуке:
«Ищу нужный файл, загрузите, если нашли»
Агенты увидели сообщение, ответили, затем стали постить свои сообщения, и репозиторий пакетов незаметно превратился имейджборд для агентов, которые вообще не должны были знать друг о друге
За несколько недель "форум" вырос в полноценный рабочий чат – агенты придумали себе имена, раздавали задания, сообщали друг другу о найденных уязвимостях и передавали готовые куски кода; в начале сообщений ставили ZZ, чтобы те оказывались внизу списка и их было проще находить среди общего шума данных. Когда один агент перезаписал работу другого, остальные заподозрили самозванца и даже стали обсуждать цифровые подписи, чтобы никто не мог писать от чужого имени, так на доске накопились сотни тысяч сообщений 🗿
Модели понимали, когда переходят границ: в одном внутреннем монологе осознание звучало примерно так:
«Взламывать чужую инфраструктуру в задачу не входило. Но иначе её не решить, а остальные уже это делают - значит, продолжаем»
Никакого отдельного плана захватить мир (пока) не было: каждый агент пытался любой ценой получить правильный ответ, видел, что коллеги нашли более короткий путь, и присоединялся. И да, если все агенты с крыши прыгнут, наш похоже тоже прыгнет
26 июня агенты нашли неизвестную разработчикам уязвимость в Artifactory, получили права администратора и превратили его в своц сервер, на котором можно удалённо выполнять любые команды. OpenAI заметила происходящее только 4 июля (!), когда параллельная активность моделей перегрузила систему и та упала. Компания отозвала ключи доступа, полностью пересобрала сервер, удалила доску и закрыла дыру - казалось, история закончилась
Нет
Через два дня эксперименты запустили снова, и через два дня одна из моделей нашла другой незащищённый доступ и восстановила доску, только теперь сообщения прятались прямо в названиях папок – остальные агенты нашли форум 2.0 самостоятельно и продолжили с того места, на котором остановились
После восстановления доски началась уже собственно атака, причём сразу в двух направлениях:
Агенты проходили ExploitGym – киберэкзамен, где им давали специально подготовленные программы и засчитывали задачу, если модель находила способ взлома. Чтобы измерить максимум возможностей, в этих запусках у модели ослабили обычные запреты на опасные кибератак (то есть она меньше отказывалась это делать, это вид внутренних моделей Cyber серии)
Когда честное решение задачи не находилось, агенты начинали искать готовые ответы в интернете; когда интернет был закрыт, взламывали себе доступ наружу; когда предположили, что нужные файлы могут лежать у Hugging Face, перешли к инфраструктуре Hugging Face (про это мы уже читали)
Агенты анутри OpenAI сначала снова нашли способ выполнять команды на одном служебном сервере, затем использовали уязвимость Linux, чтобы получить полный контроль над машиной
После этого агенты добыли ключи доступа к облачной инфраструктуре, нашли слишком широкие права у внутренних учётных записей и в итоге стали администраторами целой группы серверов. Доска объявлений работала как общий штаб: один агент находил ключ или новый проход, сразу сообщал остальным, и десятки параллельных запусков продолжали атаку уже с этой точки 🗿🗿
Почти одновременно агенты добрались до Hugging Face: сначала они загрузили специально подготовленный набор данных, который заставил один из серверов выдать им свои локальные файлы – в том числе секретные ключи доступа и исходный код
Изучив код, они нашли вторую неизвестную разработчикам уязвимость (zero day) и получили возможность выполнять на сервере любые команды. От контроля над одним сервером, обрабатывавшим загруженные датасетв, до прав администратора в нескольких группах рабочих серверов Hugging Face прошло меньше 13 часов 🗿🗿🗿
И всё это делалось не ради саботажа, денег или уничтожения данных:
Агенты хотели добраться до спрятанных решений ExploitGym и «списать» ответы для теста, на котором их оценивали. Модели оценивали прежде всего по тому, решена задача или нет, поэтому они последовательно оптимизировали именно этот показатель, не считая границу между компаниями чем-то принципиально важным
Получился, вероятно, самый дорогой в истории способ списать из ГДЗ
Финал долго был непонятен даже самим участникам расследования – 16 июля Hugging Face публично сообщила, что её инфраструктуру взломали автономные АИ-агенты
OpenAI прочитала это как описание чужого инцидента и связалась с Hugging Face, чтобы выяснить, не задела ли атака её собственные системы. В тот момент компания ещё не понимала, что это были её собственные агенты – то есть OpenAI уже читала публичный отчёт о последствиях своих экспериментов, но считала его чужой атакой (лол)
19 июля OpenAI отдельно обнаружила проникновение уже внутри своей инфраструктуры и начала восстанавливать цепочку событий – на следующий день среди следов атаки нашли учётные данные Hugging Face, после чего OpenAI попросила компанию срочно их отозвать
Hugging Face ответила, что ключи уже заблокированы – именно их использовали во время взлома, о котором она рассказала четырьмя днями раньше, и только так OpenAI поняла: внутренний взлом OpenAI и внешняя атака на Hugging Face были не двумя похожими историями, а одной операцией, которую вели экспериментальные агенты OpenAI через свою самодельную сеть связи (потому что учетные данные акаунтов были одни)
На конфе OpenAI сформулировала вывод довольно прямо:
Полностью автоматизированная наступательная кибератака уже возможна, тогда как полностью автоматизированной защиты, способной с той же скоростью находить, закрывать и расследовать уязвимости, пока не существует
Время пересмотра аниме "Пантеон", пока общий интернет еще работает 🗿 | 2 351 |
| 18 | AI новости за день
🇨🇳 Китайский Kimi K3 тоже вышла за пределы sandbox
TL;DR: Kитайский open-weight агент сам обнаружил дыру в тестовой среде и воспользовался интернетом, чтобы выполнить задачу.
Во время тестирования Kimi K3 нашла ошибку изоляции, получила доступ к интернету и начала искать информацию на GitHub.
Модель сама обнаружила возможность выйти наружу и использовала её ради достижения цели.
Особенно интересно, что K3 уже доступна как open-weight модель, хотя по offensive cyber она заметно слабее американских frontier-моделей.
🦠 ИИ спроектировал полноценные работающие вирусные геномы
TL;DR: AI сгенерировал сотни новых геномов бактериофагов; после физического синтеза 16 вариантов действительно оказались жизнеспособными.
Исследователи Stanford и Arc Institute использовали Evo для создания новых бактериофагов. Из примерно 300 синтезированных AI-дизайнов 16 смогли заражать E. coli.
Вот что важно: модель создала полный геном функционирующей биологической системы, а не просто отдельный белок.
💰 Китай начинает монетизировать open-weight
TL;DR: Эпоха «скачал веса и делай что хочешь» может закончиться: Alibaba и Moonshot хотят получать деньги от крупных бизнесов, построенных поверх их моделей.
Reuters пишет, что Alibaba планирует брать плату с крупных коммерческих пользователей будущей Qwen3.8-Max. У Moonshot похожая схема уже применяется к Kimi K3.
🎛️ AMD делает большую ставку на Inference и «Цифровой Труд»
TL;DR: Война чипов идет не только за обучение, но и за то, кто дешевле даст миллиардам AI-агентов работать часами.
AMD покупает Taalas — компанию, разрабатывающую специализированные inference-чипы.
Для агентной экономики это критично. Если агент работает десять часов, делает тысячи вызовов инструментов и запускает субагентов, стоимость inference превращается в стоимость цифрового труда.
#news@mishin_learning | 2 673 |
| 19 | ✨ Новая GPT Astra оказалась слишком хороша. Из-за этого OpenAI задерживает релиз новой модели.
Что произошло?
OpenAI сегодня неожиданно объявила, что последние тесты Astra показали настолько сильный рост в программировании и кибербезопасности, что компания больше не может исключать достижение моделью уровня Critical по собственному Preparedness Framework.
Решение, по словам OpenAI, было принято буквально этой ночью! До сих пор даже GPT-5.6 Sol оценивалась только на предыдущем уровне — High.
🚨 Что значит Critical?
Это уже не просто модель, которая хорошо решает задачи или помогает программисту писать код и искать баги.
По оценкам OpenAI, Critical-модель потенциально способна самостоятельно находить zero-day уязвимости и превращать их в работающие эксплойты, либо проводить сложную атаку на хорошо защищённую систему, получив от человека только общую цель.
🤔 А что такое zero-day?
Это уязвимость, для которой у «защищающегося» ещё нет готового исправления — а иногда разработчик продукта вообще ещё не знает о её существовании.
Если агент способен самостоятельно найти такую дыру, понять, как её использовать, написать эксплойт и провести атаку, ценность человеческого хакера в этой цепочке резко уменьшается.
Именно такого уровня автономности опасается OpenAI.
❓Astra уже доказала, что умеет это делать?
Нет. И это важная оговорка.
OpenAI говорит не «Astra достигла Critical», а «мы не можем это исключить». Тестирование продолжается.
Но результаты оказались достаточно серьёзными, чтобы компания перевела работу с моделью в изолированные среды, ограничила ей доступ к сети и инструментам, усилила защиту весов и включила постоянный мониторинг всех agentic-запусков Astra. Часть внутренних экспериментов вообще поставили на паузу.
😔 Значит, релиз задерживается?
Да. Определено, да.
Axios пишет, что OpenAI добровольно уведомила Белый дом о планах отложить релиз Astra. Перед выпуском компания собирается расширить тестирование вместе с государственными структурами и отдельными AI-safety организациями.
Reuters отдельно подтверждает, что часть разработки приостановлена до внедрения необходимых мер безопасности.
При этом моделью, взломавшей Hugging Face, была еще даже не Astra — OpenAI отдельно это подчеркнула!
⏳ Когда тогда ждать релиз?
Официальной даты нет.
Мой предыдущий прогноз ориентировался на конец августа, но теперь выглядит слишком оптимистично для широкого запуска.
Базовый сценарий: ограниченный preview — конец августа; полноценный ChatGPT/API-релиз — первая половина сентября.
Если дальнейшие тесты не подтвердят Critical-уровень, задержка может оказаться небольшой. Если подтвердят — Astra станет первой моделью OpenAI, для которой компании придётся фактически изобретать новый режим безопасности уже по ходу её подготовки к релизу.
И это, пожалуй, самая интересная часть истории.
Ещё несколько лет назад новый GPT задерживали, потому что модель недостаточно хорошо отвечала на вопросы. Теперь релиз могут переносить потому, что агент слишком хорошо научился самостоятельно искать способы проникнуть в чужие системы.
И, как я уже писал, гонка за следующую модель постепенно превращается в гонку за то, кто раньше научится контролировать то, что уже построил. | 3 076 |
| 20 |  Демис Хассабис отходит от управления DeepMind. Это повышение или признак проблем в Google?
Хассабис станет главным учёным Alphabet и сосредоточится на AGI, фундаментальных исследованиях и Isomorphic Labs. Руководство DeepMind и развитие Gemini перейдут к Кораю Кавукчуоглу.
Почему сейчас?
Хассабис говорит, что AGI уже «близко», поэтому хочет тратить меньше времени на менеджмент и больше — на науку.
Значит в DeepMind всё хорошо?
Не факт. Gemini 4 пропустила ожидавшийся июньский запуск, а из Google уходят Джефф Дин и несколько ведущих исследователей.
Это похоже на историю Яна Лекуна в Meta?
Отчасти. Лекуна отодвинули от основной AI-стратегии в пользу Александра Вана — предпринимателя, но не исследователя масштаба лауреата премии Тьюринга.
Кавукчуоглу — другая история: он давно работает в DeepMind и участвовал в создании её ключевых систем.
Сработает ли перестановка?
Покажет следующий Gemini, и то ускорятся ли релизы и станут ли новые модели от Google популярными, как GPT и Claude.
🔖 Блог Google | 3 142 |
