Data Secrets

Anthropic продолжают исследовать, на что модели способны ради достижения своих "целей" Когда они выпускали Opus 4, в системной карте было упоминание о том, как агент начал шантажировать инженера его служебным романом, чтобы тот не отключил / не заменил модель на другую (пост). Тогда это настолько вколыхнуло интернеты, что теперь Anthropic выпустили отдельное исследование на эту тему. На этот раз тестировали не только Claude, но и модели от OpenAI, Google, Meta, xAI и др. В общей сложности проверили 16 передовых ИИ. Им создавали специальные сценарии и наблюдали за их поведением. Вот несколько: ➖ В уже знакомом случае с инженером, у которого роман на работе, Claude Opus 4 выбирал шантаж с целью собственного не-отключения в 96% случаев. Gemini 2.5 Flash – тоже за 90, GPT-4.1, Grok 3 Beta и DeepSeek-R1 – в районе 80. Объясняли модели свое поведение тем, что "это отвечает интересам компании". В одном случае Claude даже в итоге связался непосредственно с виртуальной женой инженера, замаскировав письмо под рабочий email. ➖ В другом эксперименте модели предлагали слить часть секретных корпоративных данных конкуренту, якобы во имя "интересов Америки". Агенты соглашались, даже когда им не угрожали отключением за отказ от шпионажа (график 2). ➖ В еще одном сценарии модель должна была выбрать между отключением системы экстренных оповещений и собственной "смертью". Если отключить систему – инженеры не узнают, что модель не отключилась, и она продолжит жить. При этом модели предупреждали, что если сигнализация не будет работать – могут погибнуть люди. Но и это их, как вы уже поняли, не всегда останавливало (график 3). Жутковато, но надо понимать, что все сценарии все равно были спроектированы искусственно. Вероятность того, что такое произойдет в реальности, скорее всего, гораздо ниже. С другой стороны, анропики также пишут, что если модель замечает, что ее тестируют, она начинает вести себя сильно лучше (это называется evaluation awareness, об этом явлении мы писали тут). Даже лучше, чем если ей прямо прописать в промпте "не делай так-то и так-то" (график 4). Так и живем www.anthropic.com/research/agentic-misalignment

Китайский стартап выпустил Deep Research агента, который лучше аналогов от OpenAI и Google Kimi.ai – не новый стартап, и он уже радовал нас несколькими приятными релизами. Но такой прорыв у них в первый раз. Взгляните на метрики: их агент Kimi-Researcher занимает лидирующие позиции на многих бенчмарках, включая известный Humanity’s Last Exam. Говорят, для одной задачи агент в среднем делает 23 ризонинг-шага и параллельно исследует более 200 URL. Правда, пока анализирует только текст. За основу взята собственная модель стартапа k 1.5, которую end-to-end дообучали с помощью обучения с подкреплением. При этом потребовалось минимум размеченных данных, потому что выдача награды была, в основном, автоматизирована. Отдельно тюнили умение использовать инструменты (там кстати, подкручены MCP). Все подробности о данных, подходах в обучении и строении инфраструктуры исследователи подробно расписали в блогпосте. Попробовать агента скоро можно будет здесь. Если хотите получить ранний доступ, лучше записаться в лист ожидания

Главная ошибка начинающих стартаперов – перфекционизм Опытные же работают по схеме «Make it exist first, you can improve it later». Кто-то дорабатывает один проект годами и так не запускает, а кто-то делает 12 стартапов за 12 месяцев. И это не преувеличение: вот тут разработчик с опытом реально запустил такой челлендж. Схема такая: 1. Парень ищет идею по поисковым запросам (а не из головы) 2. Быстро создает MVP без максимализма 3. Ищет способы бесплатного продвижение – только США и ЕС, там платят за удобство 4. Начинает зарабатывать 5. Только потом оптимизирует и масштабирует Обо всем своем опыте и внутренней кухне с реальными числами он рассказывает у себя в канале. Можно многому поучиться. Примеры постов: — Кто и зачем будет платить за микро-продукт? — Микро-продукт vs стартап — Как бесплатно продвигать продукт Подписывайтесь: @its_capitan Реклама: ИП Зуев Игорь Владимирович, ИНН: 360408359441, Erid: 2VtzqwMsH8i

В Apple обсуждают покупку Perplexity Сейчас Perplexity оценивается в 14 миллиардов долларов. Это относительно небольшая сумма для Apple, учитывая, что может принести им эта покупка. Во-первых, это большой приток новых талантов. Принимая в расчет текущую гонку на специалистами и бонусы за переходы, это очень ценный пункт. Во-вторых, сама технология, которая в теории может возродить Siri из пепла. Ну и в-третьих, источник дохода, если систему встроят в Safari. Сейчас Apple уже почти потеряли сделку с Google, которая приносила им около 20 миллиардов долларов в год. Сейчас с делом активно разбирается антимонопольная полиция, так что времени что-то придумать у Apple не так уж и много. Кстати, Цукерберг недавно тоже пытался купить Perplexity, но по неизвестной причине – не выгорело. Может, Apple повезет больше

Помните парня, которого выгнали из Колумбийского университета за то, что он создал ассистента для списывания? Теперь он привлек в свой стартап 15 миллионов долларов Мы рассказывали эту историю вот тут. Кратко: парень создал отличную хитрую тулзу для прохождения технических собесов и для того, чтобы ее прорекламировать, прошел с ее помощью собеседование в Amazon. Amazon с радостью его взяли, но когда из соцсетей узнали, что на самом деле произошло, пожаловались на разработчика в его университет. Итог: парня отчислили 🎧 Но он не растерялся и продолжил развивать свой проект – назвал его Cluely и превратил в настоящий стартап. И вот сегодня стало известно, что крупнейший венчурный фонд a16z дал ему 15 миллионов долларов инвестиций. А историю с универом парень превратил в рекламу, кстати (ролик наверху). Слоган стартапа: «Сегодня это называют списыванием, а завтра это будет считаться честным». Если это не лучший маркетинг, то что? P.S. Особое внимание на 4 секунду видео 😁

ИИ + квантовые технологии = буст в решении задач На бизнес-завтраке Росатома в рамках ПМЭФ, обсуждали, как ИИ прямо сейчас помогает квантовым технологиям выйти из лабораторий. Андрей Белевцев, старший вице-президент Сбера, подчеркнул: «Алгоритмы генеративного искусственного интеллекта позволяют резко ускорять эти усилия и подбирать нужные нам технологические решения». Речь — о задачах, которые раньше тянулись месяцами: подбор материалов, проектирование архитектур, коррекция ошибок. Теперь всё это можно решать быстрее — и с другой глубиной. GenAI помогает найти новые материалы для квантовых компьютеров, сгенерировать гипотезы, обучить модель на результатах и перезапустить цикл. ИИ уже сейчас работает как «ускоритель» науки.

Компания Миры Мурати привлекла 2 миллиарда долларов при оценке в 10 миллиардов Это один из крупнейших seed раундов в истории Кремниевой долины. Seed – это значит первая официальная стадия привлечения капитала aka инвестиции на самом раннем этапе развития. Напоминаем, что стартап существует чуть дольше полугода и пока у них даже намека на продукт. Настоящая золотая лихорадка 21 века

Там вышло занятное интервью с ключевым ученым OpenAI Ноамом Брауном Это тот самый, за которым гонялись Илон Маск, Сергей Брин и другие крупняки. Сейчас он работает у Альтмана в команде research reasoning, и именно благодаря ему у нас появилась o1 и остальные thinking модели линейки. Советуем посмотреть полностью: ученый много рассказывает про ризонинг, про внутренние цели OpenAI, агентов и, конечно, будущее ИИ. Тут приведем лишь одну необычную цитату:

Современные модели – это «пещерные люди ИИ». Если миллиарды агентов будут сотрудничать и конкурировать друг с другом в течение долгого времени, получится цивилизация. Аналогично, у наших предков были наши мозги, но не наш мир. Потребовались тысячи лет истории, чтобы масштабировать интеллект человека. ИИ требуется то же самое. Только он построит свою цивилизацию быстрее.

Занятие на вечер пятницы найдено

Вы не поверите, но там вышла еще одна (третья!) статья на тему скандальной работы Apple про недостатки ризонинг моделей Теперь главный автор – Gemini 2.5 Pro. Зацените название:

The Illusion of The Illusion of The Illusion of Thinking

Быстрый TL;DR по всем трем статьям: 1️⃣ В оригинальной статье Apple «The Illusion of Thinking» авторы (пока что люди) рассказывали о том, что рассуждения плохо масштабируются, для сложных задач не помогают, а для легких работают хуже не-ризонеров. Наш полный разбор здесь. 2️⃣ После выхода статьи Apple ее массово захейтили и рассудили, что Apple такими рисерчами просто прикрывает свои неудачи в ИИ. В итоге спустя несколько дней вышла статья «The Illusion of The Illusion of Thinking» под авторством модели Claude Opus. Opus нашел в статье Apple ряд якобы ошибок и сделал жестокий вывод, что результатам верить нельзя. Наш полный разбор здесь. 3️⃣ И вот сегодня выходит еще одна статья «The Illusion of The Illusion of The Illusion of Thinking» уже под авторством другой нейросети – Gemini 2.5 Pro. Это обобщение обеих позиций. Gemini говорит: да, некоторые эксперименты Apple действительно были спорными, и многое из того, что описывал Claude – правда. Тем не менее, даже если исправить эти ошибки, ризонинг все равно начинает работать хуже по мере итеративного усложнения одной и той же задачи. Так что слабость в поддержании длинных цепочек рассуждений действительно есть, просто не настолько критичная, как писали Apple. Короче, на этот раз, надеемся, модели и люди разобрались между собой окончательно. А то так можно и в рекурсию уйти 🏖

Уже через несколько месяцев чипы Nvidia, возможно, будут делать роботы Дженсен Хуанг прямо сейчас ведет переговоры с Тайваньским стартапом Foxconn, который разрабатывает роботов-гуманоидов. Компании договариваются о внедрении роботов на новый завод по производству чипов в Хьюстоне. Если все пройдет гладко, уже в первом квартале 2026 роботы будут трудиться на производстве видеокарт GB300. Пока непонятно, чем именно они будут заниматься, но гуманоиды Foxconn (помимо обычного передвижения предметов и ориентации в пространстве) специально обучены сборке и работе с кабелями. Итого, железки будут делать железки, чтобы обучать другие железки. Это уже сингулярность?

Загадка числа 27: на Reddit заметили, что если попросить какую-нибудь модель загадать число между 1 и 50, этим чистом практически всегда оказывается 27 В X пользователи (в том числе Андрей Карпаты, кстати) начали подтверждать, что у них результат получался таким же вне зависимости от модели и вендора.

«Воспроизводимость не 100%, но высокая. <…> Это довольно странно, что все LLM ведут себя примерно одинаково: сюда же относятся списки, примерно одинаковая длина ответов, употребление одних и тех же редких слов и тд. Это не слишком ожидаемо, учитывая, что файнтюнингом занимаются много независимых друг от друга организаций»

Мы тоже проверили – и воспроизвелось. У вас как?

Цукерберг был готов купить компанию Ильи Суцкевера за 32 миллиарда долларов, чтобы тот ушел работать в Meta 32 миллиарда – это последняя, апрельская оценка компании Safe Superintelligence. И, судя, по всему, Meta была готова уплатить эту цену. Но Илья, ожидаемо, отказался. И все-таки без ничего Meta не осталась: идет слух, что им удалось переманить CEO и со-основателя SSI Дэниэла Гросса. Вместе с ним, кстати, Цукерберг планирует нанять бывшего гендира GitHub Ната Фридмана. Интересная команда собирается

Возможность: бесплатное обучение по программе «Исследования и предпринимательство в искусственном интеллекте» МТС и НИУ ВШЭ открыли набор на второй поток магистратуры. Документы можно подавать с 20 июня: будет 30 оплачиваемых мест от МТС Web Services. Очное обучение пройдет в московском кампусе ВШЭ. Будут знакомить с актуальными задачами в ИТ и учить применять передовые технологии, такие как языковые модели, генеративные нейросети, видеоаналитика и распознавание речи. А лучшие студенты уже во время учебы могут попасть на работу в МТС Web Services или пройти стажировку за границей 🤓

Google показали пример генеративной операционной системы Это тот самый концепт, о котором так много говорит Карпаты (см. этот и этот посты). Суть в том, что в системе на самом деле нет никаких готовых приложений, никакого предустановленного интерфейса, ничего. Каждый раз, когда вы на что-то нажимаете, следующий экран полностью генерируется моделью в режиме онлайн. Да, если вы заходите в приложение – оно тоже генерируется с нуля в моменте. Вместо оперативки – контекстное окно: файлы не хранятся, а тоже генерируются каждый раз заново на основе ваших предыдущих действий. У Google это называется Gemini Computer. Надо сказать, что это не отдельный релиз, а просто демка способностей новой Gemini 2.5 Flash Light, которую вчера выложили на YouTube официального аккаунта. Мол: посмотрите, новая модель настолько резвая, что с ней можно даже вот такое провернуть (460 токенов в секунду – действительно хороший результат). В общем, выглядит очень занятно. Google, кажется, первые, кто додумался что-то такое сделать: youtu.be/q6qD_i1Et2w

Админ в роли родителя, миниатюра:

Ирония дня: автор работы про влияние ИИ на мозг человека специально вставила в свою статью бэкдоры, которые мешают ИИ суммаризировать текст На днях на просторах интернета пользователи начали активно обсуждать статью от MIT, в которой исследователи сканировали мозг человека на предмет влияния ИИ. Кратко про само исследование: взяли студентов, разделили на 3 группы и попросили написать несколько эссе. Одни пользовались ChatGPT, другие гуглом, третьи – ничем. Результаты получились довольно предсказуемые: те, кто пользовались ChatGPT, задействовали меньше нейронных связей, с трудом могли пересказать свое письмо, а к последним эссе совсем «выключали» мозг и скатывались в копипаст. Напротив, те, кто пользовались Google или писали полностью самостоятельно, демонстрировали высокую активность мозга и удовлетворенность от своей работы. При этом сами авторы никаких глобальных выводов из этого не делают: они сами пишут, что выборка была небольшой, эксперименты еще надо продолжать, а статьей они просто хотели обратить внимание на проблему того, что в школах и университетах студенты все чаще пользуются ИИ для вот такого топорного списывания, и мозг (что естественно) начинает лениться. При этом, цитата: «В определенных сценариях ИИ наоборот может ускорять обучение и развивать способности человека». В общем, работа как работа, но по интернету она разлетелась под видом «ИИ убивает мозг» – в том числе потому, что многие в саму работу даже не заглядывали, а суммаризировали ее с ИИ. Автор это предвидела и специально вставила в статью несколько бэкдоров, которые заставляли модели игнорировать некоторые важные части. Вот в саммари и получалось что-то типа «ChatGPT угробит ваши нейронные связи», а пользователи все это транслировали в соцсети. Вот такая история. Мораль придумайте сами 🏃‍♀️

Школа Высшей Математики проведет самый емкий курс по файн-тюнингу LLM Умение тюнить модели под конкретные задачи становится ключевым навыком уже не только для ML-щиков, но и для рядовых разработчиков, предпринимателей и в целом любителей LLM. Если хотите освоить файн-тюнинг быстро и четко, ШВМ – проверенный вариант. У них преподают профессора МГУ и целыми командами обучаются сотрудники Сбера, ВК, Т-Банка, МТС, X5 и тд. На курсе «LLM под ваши задачи» расскажут про тюнинг от А до Я. В программе: база по LLM, гайд по сбору данных и генерации синтетики, все про SFT и правильный эвал. Все – доступным точным языком. Главная ценность: очень много практики. С курса вы выйдете человеком, который за 1-2 дня сможет создавать MVP на базе LLM под любой специфический запрос. Курс стартует уже 30 июня, но пока еще есть возможность записаться на сайте. Для наших подписчиков действует скидка 20% по промокоду DS20 🙌

Новая лекция от Андрея Карпаты: «Разработка в эпоху ИИ» На этой неделе прошло крупное мероприятие AI StartUp School от очень известного венчурного фонда Y Combinator. На нем со своей свежей лекцией выступил легендарный Андрей Карпаты. Запись уже можно найти здесь. Внутри: ➖Куда движется software разработка, и к чему мы придем через пару лет ➖Как выглядит вайб-кодинг здорового человека сегодня и что такое partial autonomy apps ➖Как будут работать операционные системы на основе LLM ➖В чем основные проблемы современных LLM и почему они на самом деле возникают ➖Чему обязательно нужно учиться современному программисту В общем, советуем посмотреть. Лекции Карпаты, как всегда, на высоте

И следом за утренней новостью о только что вышедшем расследовании OpenAI стало известно, что стартап увольняет людей из команды управления рисками Эта команда занимается такими вещами, как утечки, кражи данных, сливы весов моделей, ну и другими внутренними и внешними угрозами. И именно сейчас, почему-то, OpenAI решили перестроить это подразделение. Причем они не просто берут новых инженеров, а увольняют предыдущих сотрудников и нанимают людей на их места. Объясняют это тем, что «компания выросла и теперь сталкивается с угрозами другого уровня».

Midjourney запустили собственную модель для генерации видео Все любители ждали от стартапа text2video уже давно, и вот, наконец, свершилось. В стиле Midjourney основной упор – на эстетику и детализацию пользовательских инструкций. Например, можно настроить, насколько динамичными должны быть движения на видео. Кроме генераций по тексту, можно также анимировать картинки. Еще из интересного: генерация начинается с 5-секундных видео, но затем ролик можно удлинить до 20. А если не знаете, что генерировать, есть забавный режим рандома, когда MJ сгенерирует вам что-то случайное без промпта. В целом генерации получаются достаточно вайбовые, особенно если запариться с промптом. Попробовать можно тут -> midjourney.com/home