Data Secrets

Почитали тут системную карту ChatGPT Agent. Оказывается, это первая в мире система ИИ, официально получившая статус «высокого риска» по разработке биологического оружия Это значит, что Agent может существенно помочь даже неспециалисту пройти все шаги, необходимые для создания известных биологических или химических угроз. Пока ни одна компания, кроме OpenAI, ни разу не объявляла о подобном для своих моделей. На уровне экосистемы это означает следующее: 1. Естественно, повышенные меры безопасности и мониторинга. Инструменты обнаружения вводятся не только на этапе генерации, но и (дополнительно) до того, как запрос вообще передается в модель. 2. Обновленные NDA и политики ответственности внутри самого OpenAI + обязательные постоянные внешние аудиты системы. 3. Ну и самое интересное: обязательная отчетность для пользователей, выявлявших необычное поведение системы. То есть если вы – даже случайно – наткнулись на необычное поведение модели, то обязаны об этом сообщить. В противном случае могут заблокировать аккаунт, а еще вы попадете под расследование. Вот так, друзья. Уже ощущаете киберпанк?

Зачем вам нужен корпоративный AI-агент? Представьте помощника, который знает все внутренние процессы, документы, историю решений и последние обновления. Он может ответить на вопросы новичков, помочь с поиском информации и даже подсказать, к кому обратиться по конкретному вопросу. 👨‍💻Как это работает?

Комбинация подходов позволяет создавать AI-агентов на базе вашей корпоративной информации: • RAG (Retrieval-Augmented Generation) дает AI доступ к базе знаний: ассистент ищет релевантную информацию в документах и использует ее для ответов. • Fine-tuning — тонкая настройка модели под вашу специфику: ассистент понимает корпоративный язык, терминологию и контекст.

🧠 Что может такой агент?

• Отвечать на вопросы о процессах и политиках компании • Помогать с онбордингом новых сотрудников • Искать информацию в корпоративных документах

📊 Преимущества для бизнеса

• Экономия времени сотрудников на поиск информации • Единая точка доступа к корпоративным знаниям • Сохранение экспертизы при уходе сотрудников

Будущее корпоративных коммуникаций уже здесь: благодаря облачным платформам нового поколения, например, Evolution AI Factory от облачного провайдера Cloud․ru, создание такого агента стало проще и быстрее. Здесь оба подхода (RAG и fine-tuning) реализованы «из коробки», так что вы можете запустить умного помощника для вашей команды без глубоких знаний и сложных настроек инфраструктуры.

Новая ризонинг-модель от OpenAI впервые в истории решила международную олимпиаду по математике IMO на золотую медаль От этом рассказал один из сотрудников в X. О какой точно модели речь – не уточняется, но ясно, что она еще не опубликована + пишут, что это не GPT-5. LLM решила 5 задач из 6, причем оценивали ее по тем же правилам, что и людей: давали в сумме 9 часов на раздумья, ограничивали доступ в интернет и принимали только полностью обоснованные доказательства на естественном языке. В общем, модель набрала 35/42 баллов, это твердая золотая медаль. До этого ни одной модели ни разу не удавалось добиться таких результатов. Решения модельки, кстати, можно посмотреть здесь

⚡️ Вышел ARC-AGI-3 Это новая и наиболее продвинутая версия одного из самых известных бенчмарков в мире. На сей раз тест предназначен специально для агентов и состоит из игр. Фишка – в интерактивности. Обычно все бенчмарки статичные, а тут акцент смещён на динамические среды, которые требуют не просто распознавания паттернов, а именно настоящего усвоения новых правил и навыков прямо по ходу игры. Каждая игра в бенчмарке устроена так, что ее правила, цели и механики неизвестны участнику заранее. Человек справляется с такими задачками легко, с абсолютным скором 100%. А вот ИИ с треском проваливается: даже самые свежие модели выбивают чистый 0. Ключевые проверяемые способности — самостоятельное исследование, быстрое обучение, адаптацию к новым ситуациям, умение планировать и гибко перестраиваться. В общем, все то, что делает интеллект человека по-настоящему сильным. Учитывается, кстати, не только успешное прохождение, но и то, сколько шагов понадобилось игроку. Это напрямую позволяет измерить скорость приобретения новых навыков – считай еще одна прокси-метрика. Сейчас ARC-AGI-3 в стадии превью. Пока опубликовала малая часть финального набора, и разработчики ждут фидбэка от комьюнити. Кстати, вы тоже можете проверить свои силы: создатели снова сделали специальный лендинг для людей, где каждый может попробовать решить задачки из бенчмарка aka поиграть в игры. Выглядит как то, на что можно залипнуть на всю субботу ✌️

OpenAI тестирует на WebArena новую модельку под названием «o3-alpha-responses-2025-07-17» Некоторые думают, что это та самая модель, которая на днях заняла 2-е место на одном из сложнейших соревнований по кодингу в мире. Некоторые подозревают, что это опенсорс, который так давно обещал Альтман. А возможно, это просто новый чекпоинт для o3. В любом случае, кажется, модель действительно неплоха. Есть много пользовательских примеров, на которых она превосходит o3. Будем ждать 🍿

Netflix официально объявили о том, что теперь они будут использовать ИИ для создания фильмов и сериалов Оказалось, что на платформе даже уже есть ИИ-фрагменты. В аргентинском сериале El Atonata сцена с крушением здания – полностью сгенерированная. И co-CEO говорит, что такие «съемки» обошлись в несколько раз дешевле, и заняли в 10 раз меньше времени, чем классический монтаж. Давно пора ☕️

Ууу, кажется Anthropic понизили лимиты на Claude Code без какого-либо предупреждения На GitHub'е проекта уже второй день сыпятся претензии от пользователей, которые уверяют, что заметили у себя странности. Теперь предупреждение «Claude usage limit reached» выскакивает, якобы, задолго до того, как юзеры достигают обозначенных в подписке лимитов. Anthropic пока комментариев не давал

Pov: руководитель узнал, что ты был на собеседовании в другой компании, и теперь ты притворяешься, что это было «для повышения квалификации»

OpenAI показали ChatGPT agent Это Deep Research и Operator в одном флаконе. То есть агент, который сможет просматривать веб-страницы (мультимодально, в отличие от Deep Research), вызывать API и другие инструменты, выполнять какие-то задачи и все это – с ризонингом. Особенный упор – на вызов инструментов, говорят специально обучали агента пользоваться разнообразными тулзами с помощью RL. Создает диаграммы, генерирует картинки, может залогиниться на сайте, использовать терминал и прочее. Результат на Humanity’s Last Exam – 42%. Это очень серьезный прирост относительно o3 и даже Deep Research. На Frontier Math тоже заметен скачок. Нравится 😄

У исследователей по всему миру постепенно скапливаются вопросики к безопасности в xAI В Твиттере за пару дней в сторону стартапа Маска неположительно высказалось уже немало людей, в том числе ученые из OpenAI (пост) и Anthropic (пост). Претензии такие: 1. Отсутствие системных карт моделей. У OpenAI, Anthropic и Google есть свои проблемы к релизами, но они всегда стараются публиковать тех.отчеты, в которых описывают, как проводились тесты и элаймент. Grok-4 вышел без системной карты вообще, и никто не в курсе, была ли там вообще какая-то работа с безопасностью. 2. Особенно накаляется ситуация после того, как Grok ни с того ни с сего начал называть себя Меха Гитлером. И отреагировали на весь этот скандал xAI лишь тем, что написали, что решили проблему (внимание!) путем корректировки системного промпта. Воистину элаймент, который мы заслужили. 3. Свежие вышедшие компаньоны тоже не всех устраивают. Аниме-тянка, конечно, неплоха, но пишут, что она «повышает риск психологических расстройств», как в фильме Она. Интересно, что сам Маск всегда выступал за политику открытого кода и безопасности ИИ. Получается, переобулся 🤷‍♂️

Ты ждал знак, чтобы начать с LLM? Вот он. Мы продлили набор на курс «Инженер LLM». Поток стартует 21 июля, но осталось всего 3 места. Сейчас самое время — не откладывай. Курс — это твой переход из «играюсь с LLM» в «запускаю продакшн-системы, которые работают». GIGASCHOOL, вместе с крупнейшей магистратурой по ИИ AI Talent Hub ,собрали всё, чтобы ты мог не просто адаптировать чужое, а строить своё: пайплайны, RAG, ассистенты, мультиагентные системы. 👨‍💻 Подходит тебе, если ты: — Python-разработчик, ML-инженер или хочешь расти в сторону GenAI; — хочешь освоить LangChain, RAG и fine-tuning не по туториалу, а с реальной практикой; — устал ждать и хочешь сделать карьерный шаг уже этим летом. Что внутри: ➡️Fine-tuning, PEFT, RLHF; ➡️LangChain, LangGraph, FAISS, Qdrant; ➡️RAG, поиск, reranking, защита; ➡️MLOps: деплой, CI/CD, трекинг; ➡️Архитектура агентов и ассистентов.

▪️18 недель онлайн ▪️ 252 часа практики ▪️Диплом о профпереподготовке ▪️Кураторы и эксперты из Газпромбанка, X5 Tech, Raft ▪️ 33 166 ₽/месяц (доступна рассрочка)

Хватит откладывать — момент прямо перед тобой. Смотреть программу и оставить заявку

Всего один программист в мире оказался лучше ИИ в прошедшем соревновании на AtCoder AtCoder World Tour Finals – одно из самых престижных соревнований в мире, попасть туда не так уж и просто. Особенно в Heuristic Division: там задачи решаются методами эвристики и оптимизации и нельзя просто решить или не решить, можно только решить лучше других (как на Kaggle). Так вот в этом году это соревнование спонсирует OpenAI, и им разрешили выпустить свою модель посоревноваться наравне с людьми. Ну и дальше случилось то, что вы видите на скрине. Всего один человек в мире, поляк Przemysław Dębiak с ником Psyho (довольно известный кодер, кстати) смог побить модельку OpenAI. Сам кодер утверждает, что вообще не использовал ИИ и программировал просто в VSCode. Он пишет:

Человечество одержало верх (пока!) Я совершенно измотан. Мне казалось, что я спал всего 10 часов за последние три дня, и я еле живой. (Если честно, это предварительные результаты, но мой отрыв должен быть достаточно большим)

💀

Сегодня в 20:00 по Москве – новый стрим OpenAI Судя по превью, будет какое-то обновление Operator. Может в этот раз его все-таки сделают полезным? 😐

Вы готовы? Найдена лучшая вакансия всех времен: xAI нанимает инженера для разработки ИИ-девочек Роль так и называется: Fullstack Engineer - Waifus 😁 Буквально на днях xAI выпустили Companions. Это новая фича, которая вживляет Grok в одного из нескольких доступных аватаров с их характером, внешностью и голосом. Так вот одного из таких аватаров xAI сделали аниме-девочкой по имени Ани. За пару дней она уже стала настоящей звездой соцсетей, а скачивания Grok взлетели просто немыслимо. В Японии приложение даже вышло в топ-1 по AppStore. В общем, видимо, xAI нащупали золотую жилу и теперь ищут инженера, который наклепает им еще тяночек. Платить обещают $180,000 - $440,000 USD. Если надумали – вам сюда

Google снова пытаются изобрести альтернативу трансформерам: на этот раз они показали новую архитектуру Mixture-of-Recursions Идея: рекурсивно переиспользовать одни и те же слои для повторной обработки некоторых токенов. На каждой новой итерации мы оставляем только те токены, которые требуют дополнительного рассмотрения. Получается какой-то новый вид ризонинга, при этом модель несколько раз думает только над наиболее сложными частями ответа, экономя компьют. Теперь о том, как это работает: ➖ У нас есть стек слоев обычного трансформера, которые мы хотим переиспользовать несколько раз. Для каждого токена принимается решение: выпустить его сейчас или продолжить обрабатывать. Чем больше номер итерации – тем меньше токенов в ней остается. В конце получается, что над самыми сложными частями модель думала много раз, а над самыми простыми – один или пару. ➖ Есть варианты, как шерить слои (скрин 5). Можно в каждой итерации оставлять идентичные блоки вообще без изменений, а можно вставлять уникальные первый и последний слой, а середину оставлять одинаковой. В статье показали, что вторая вариация работает приятнее. ➖ Аналогично, можно по-разному решать, сколько итераций пройдет каждый токен (скрин 4). Вариант первый: в самом начале с помощью классификатора назначать каждому токену число N его итераций. Вариант два: в начале каждой итерации вставлять роутер, который будет решать, кто пойдет дальше. В первом случае обучение чуть стабильнее, но и там и там – свои танцы с бубном регуляризациями. Ну и да, за счет того, что KV кэш мы не пересчитываем, вся эта архитектура остается достаточно эффективной. Например, по сравнению с ванильным трансформером, MoR: (1) выбивает те же метрики с в два раза меньшим числом параметров; (2) в два раза бодрее на инференсе; (3) снижает потребление FLOPs на 25 % на тех же объемах данных. Получается довольно симпатичный баланс, и в статье даже пишут, что это новая Парето-оптимальность для трансформерных архитектур: и затраты, и качество оказываются одновременно лучше предшественников (скрин 6). Радуемся и очень ждем уже на проде Код | Статья

Каждое утро в нашем заведении начинается одинаково: из OpenAI в Meta ушли еще двое ученых ➖ Джейсон Вэй – ведущий исследователь в области агентов и ризонинга и соавтор той самой легендарной статьи про законы масштабирования нейросетей ➖ Хён Вон Чон – руководитель Codex и основной архитектор GPT-4, серии o и Deep Research Уже классика 😐

Бывший сотрудник OpenAI, который покинул стартап пару недель назад, написал огромный блог-пост о том, какого там работать Кельвин Френч-Оуэн работал в OpenAI год и занимался запуском Codex. Вот что интересного он пишет: 1️⃣ Внутренняя структура стартапа не вывозит быстрый рост количества сотрудников. За тот год, пока там работал Кельвин, OpenAI вырос с 1000 до 3000 людей. И да, им это необходимо, потому что продукты масштабируются беспрецедентно. Но структуры отчетности, онбординга, организация людей и найма страдает ну очень сильно. 2️⃣ При этом люди все еще работают так, как будто они в маленьком стартапе. Например, им все еще разрешается сразу же реализовывать все свои идеи без согласований и волокиты. С одной стороны – круто. С другой – начинаются дублирования, людей то куча. Кельвин пишет, что, например, видел десятки библиотек для управления циклами или очередями. Представьте, сколько это напрасно потраченного рабочего ресурса. 3️⃣ У сотрудников очень разные уровни кодинга. Есть инженеры Google, которые за день пишут сложнющие системы, а есть вчерашние PhD, которые не привыкли к продуктовому коду. И все они работают вместе: из-за этого главный репозиторий превращается, мягко говоря, в помойку. 4️⃣ В компании действительно сохраняется культура move-fast-and-break-things с быстрыми бессонными спринтами и запусками. По словам Кельвина, это того стоит. Но не всех устраивает не спать неделю… 5️⃣ Ну и классика: OpenAI не так уж и озабочены безопасностью. Элаймент заключается больше в чем-то практическом (не грубить пользователю, не манипулировать, не обсуждать политику и оружие), чем в искоренении каких-то общечеловеческих рисков ИИ. Ну так что, стрем или норм? calv.info/openai-reflections

В Google ИИ-агент помог обнаружить и предотвратить предстоящую кибер-атаку на систему Об этом рассказал сам Сундар Пичаи. Агент называется Big Sleep, его презентовали еще в прошлом году. До этого он уже помогал находить белые пятна в системе безопасности Google, но этот случай – первый в истории, когда ИИ помог предотвратить реальную атаку. Кстати, сегодня Google также объявили о том, что добавят ИИ-агентов в свою известную систему мониторинга Timesketch и анонсируют еще одну ИИ-систему (уже помасштабнее) обнаружения аномалий и угроз – FACADE. Это будет первое публичное демо проекта, хотя внутри Google он работает уже с 2018 года.

Французская лаборатория INRIA предложила новый способ самообучения LLM – SOAR С помощью него они выбили 52% на ARC-AGI. Для понимания, результат o3-pro – примерно 58%. Разбираемся -> Основная идея – рисерч и доработка возможных решений. Это называется эволюционный поиск и вообще-то это вещь не новая. Если брать такой поиск сам по себе, он, конечно, что-то там бустит, но без вау-эффекта. А тут к нему прикрутили еще и дополнительное обучение. После каждой итерации генерации и доработки гипотез все попытки (удачные и неудачные) используются для тюнинга той же самой модели. Этот цикл «поиск — обучение на своем опыте — улучшение» повторяется до стабилизации результата. И вот это уже работает заметно лучше. Например, если взять Qwen2.5-32B, результат которого на ARC-AGI – 27%, и приложить SOAR, то метрика растет до 52%, то есть почти в 2 раза! То же самое можно наблюдать с другими размерами и моделью Mistral. Все дообученные модели выложили в опенсорс. Вот веса. Код тоже имеется. А статью почитать полностью можно вот тут. Ее, кстати, приняли на ICML

Кстати, символично, что вся эта история в максимальном стиле Кремниевой долины произошла, пока Windsurf располагался в том самом офисе Пегого Дудочника из сериала Стартап переехал в то самое помещение, где снимали Silicone Valley, и где работал Pied Piper, осенью – и с тех пор и началась череда контрактов, сорванных и удачных сделок, хантинга сотрудников и тд 😑 Кому нужен буст для стартапа, имейте в виду: помещение теперь свободно