Machinelearning

🦾 Как развернуть модель машинного обучения через Docker Практика и ваши вопросы в прямом эфире Открытый урок курса «Машинное обучение. Экспертный уровень» 6 августа, 18:00 Для разработчиков, инженеров по данным, инженеров машинного обучения и MLOps, которые хотят полный цикл развертывания модели машинного обучения: от исследовательского кода до работающего контейнера с оркестрацией. На вебинаре мы пошагово разберём: - запуск и управление контейнерами, работа с их состоянием; - написание Dockerfile для модели с учётом зависимостей; - сборка образа и тестирование модели внутри контейнера; - построение многокомпонентной системы через docker-compose. Каждый шаг объясняется и демонстрируется в реальном времени. Вы увидите не только команды, но и логику принятия решений — как правильно структурировать контейнер, какие настройки важны для промышленного использования. ➡ Участвовать бесплатно https://tglink.io/a63131474758ce?erid=2W5zFJxYZCV Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ". ИНН 9705100963.

📈 AI-лихорадка в одном IPO: производитель памяти за день подорожал до $500 млрд Китайский производитель памяти CXMT вышел на биржу и в первый день акции взлетели примерно на 465%. Капитализация выросла с $85,5 млрд при IPO до почти $500 млрд, временно сделав компанию самой дорогой на биржах материкового Китая. CXMT выпускает DRAM для смартфонов, ПК и серверов. Инвесторы рассчитывают, что дефицит памяти и рост AI-инфраструктуры помогут компании приблизиться к Samsung, SK Hynix и Micron. Сейчас её долю мирового рынка оценивают примерно в 8%. Скачок усилила и механика размещения: в свободное обращение поступило лишь около 6,7% акций, поэтому ограниченное предложение резко разогнало цену. CXMT находится в санкционном списке Пентагона, но Apple, по данным FT, уже добивается разрешения на закупку её памяти. Производитель ОЗУ за один день становится дороже банков и IT-гигантов, состояние AI-рынка объяснять больше не нужно.

✔️ Андрей Карпати опроверг слухи о своем уходе из Anthropic Поводом для спекуляций стало внезапное исчезновение упоминания Anthropic из профиля в сети Х. Это породило тряску волну слухов о том, что сооснователь OpenAI покинул команду предварительного обучения всего через 68 дней после трудоустройства к разработчику Claude. Андрей объяснил пропажу статуса странной ошибкой платформы и подтвердил, что продолжает работать в Anthropic. @ai_machinelearning_big_data #news #ai #ml

Пока всё работает, о хорошей инженерной работе обычно не говорят. Именно поэтому в рамках IT Elements 2026 пройдет первая профессиональная премия «Инженерное искусство» — для тех, кто создает, защищает и развивает корпоративное ИТ и ИБ. 💙 Организаторы отмечают, что здесь не про громкие должности, а про реальные инженерные проекты, практические решения и вклад в устойчивость критически важных систем. Для кого эта премия: 🔹 архитекторы и системные инженеры; 🔹 специалисты по инфраструктуре, сетям и ИБ; 🔹 команды эксплуатации, SRE, SOC/NOC; 🔹 специалисты по резервированию и аварийному восстановлению; 🔹 руководители инженерных команд. Если за вашим проектом стоят решения, которые сделали ИТ и ИБ надежнее, устойчивее или безопаснее, расскажите о них профессиональному сообществу. ✨ Профессиональное признание начинается с истории, которой стоит поделиться. 📌 Прием заявок уже открыт.

✔️ В ChatGPT люди все чаще решают задачи вне основной профессии OpenAI проанализировала 800 тысяч промптов к ChatGPT и выявила эффект пересечения задач. В 43,5% случаев пользователи делегируют модели задачи вне своей основной специальности. Чаще всего пересечение затрагивает инженерию и маркетинг. Сотрудники непрофильных отделов с помощью LLM анализируют данные, ревьюят контракты и ищут баги в коде. Эффект наиболее заметен в небольших компаниях без выделенных команд узких специалистов. Для классификации запросов исследователи использовали американскую базу профессий O*NET. Из выборки исключили генерацию текстов, саммаризацию и планирование. openai.com ✔️ Microsoft представила security-модель MAI-Cyber-1-Flash Корпорация выпустила компактную модель MAI-Cyber-1-Flash для поиска уязвимостей в коде. В составе мультиагентной системы MDASH она показала точность 96% на бенчмарке CyberGym, опередив Mythos на 12 пунктов и превзойдя актуальные версии моделей OpenAI и Google. Архитектура новинки базируется на линейке MAI-Thinking-1. Модель самостоятельно обрабатывает 90% задач, а сложные случаи пересылает на GPT-5.4. По оценкам компании, такой подход снижает затраты на безопасность в 2 раза. Одновременно запущена агентная система мониторинга и нейтрализации угроз Perception. Она обрабатывает 100 трлн сигналов ежедневно, используя телеметрию 1,6 млн клиентов. MAI-Cyber-1-Flash не выйдет в open-source и не будет доступна через API. Модель останется эксклюзивным компонентом коммерческих платформ MDASH и Perception. microsoft.ai ✔️ Чаты Claude попали в поисковую выдачу Публичные ссылки на диалоги в Claude попали в выдачу поисковиков из-за отсутствия тега noindex. Поисковые роботы проиндексировали сгенерированные страницы с API-ключами, персональными данными и корпоративными документами. Anthropic пока не отреагировала, Google превентивно скрыл ссылки на Claude из поисковой выдачи, а вот алгоритмы Bing и Brave продолжают их индексировать. До решения проблемы необходимо вручную удалять публичные диалоги с чувствительной информацией через раздел Shared Conversations в настройках профиля. Аналогичная проблема с ChatGPT произошла год назад - тогда OpenAI оперативно закрыла индексацию. reddit.com ✔️ Nvidia расширяет партнерство со стартапом Ильи Суцкевера Чипмейкер увеличил инвестиции в стартап SSI Ильи Суцкевера и договорилась о поставках ускорителей следующего поколения на архитектуре Rubin. Оборудование увеличит вычислительные мощности SSI примерно в 10 раз. Сумма допвложений не раскрывается. Ранее SSI преимущественно использовала Google TPU. По условиям нового партнерства, инженеры Nvidia и SSI займутся совместной оптимизацией текущих и будущих вычислительных платформ под задачи стартапа. SSI основан в 2024 году для разработки ASI и пока не выпускал публичных моделей и продуктов. Решение об увеличении финансирования и выделении квот на железо руководство Nvidia приняло после оценки закрытых промежуточных результатов исследований команды Суцкевера. wsj.com ✔️ ИИ заставляет ВУЗы менять подход к обучению По данным исследования ассоциации ACM, IT-преподаватели меняют учебные программы из-за влияния ChatGPT и GitHub Copilot. Из 763 опрошенных педагогов 69% заявили, что ИИ изменил базовый набор навыков для разработки ПО. Вектор обучения смещается с написания программ с нуля на чтение чужого кода, дебаггинг, проектирование архитектуры и промпт-инжиниринг. 68% респондентов скорректировали форматы оценки знаний. Из-за риска плагиата (72%) и зависимости студентов от ИИ (87%) университеты снижают значимость домашних заданий, возвращаясь к очным экзаменам, тестам на бумаге и устной защите кода. Единых стандартов использования LLM в вузах нет - правила варьируются от полных запретов до легальной работы с ИИ при условии строгого логирования промптов. Половина участников опроса называет главным барьером нехватку методик преподавания и тестирования в условиях доступности генеративных нейросетей. acm.org @ai_machinelearning_big_data #news #ai #ml

📌 Moonshot AI опубликовала техотчёт Kimi K3

Если коротко - от K2 архитектура K3 отличается почти во всём.

🟡Внимание В K2 все слои (61) работали на одном механизме, MLA. В K3 слоёв 93, и собраны они блоками - 3 слоя KDA и один глобальный MLA, суммарно 69 и 24. KDA сжимает предыдущий текст в состояние фиксированного размера, поэтому длина диалога перестаёт раздувать кэш. Явных позиционных меток в модели нет, и она растягивается до миллиона токенов без привычных приёмов вроде перенастройки RoPE. 🟡Residual connections Обычно слой получает всё накопленное предыдущими слоями одной суммой. Attention Residuals позволяют каждому слою выбирать, из каких ранних блоков брать информацию. 93 слоя K3 разбиты на 8 блоков по 12. 🟡MoE Маршрутизируемых экспертов теперь 896 против 384 у K2, на токен активируются 16 вместо 8, общих экспертов стало 2 вместо одного. Считают они во вдвое более узком латент спэйсе, чем основной, а результат возвращают в общий поток. Функцию активации SwiGLU заменили на SiTU-GLU, схему балансировки нагрузки - на Quantile Balancing. Общий профит Moonshot оценивает примерно в 2,5 раза по эффективности масштабирования. 🟡Агентские способности Тут сыграло роль не столько железо, сколько дообучение. 3 специализации (общие задачи, агенты, код) обучали отдельно, каждую на трёх уровнях ризонинга, а 9 получившихся моделей слили в одну. Отдельные тренировочные эпизоды доходят до тысяч вызовов инструментов, причём состояние файлов, приложений и виртуальных машин сохраняется между шагами. 🖥Github @ai_machinelearning_big_data #AI #ML #LLM #KimiK3 #MoonshotAI

🚨 Moonshot AI выложила Kimi K3 на Hugging Face — 2,8 ТРИЛЛИОНА параметров в открытых весах. Это первая open-weight модель класса ~3T. При этом благодаря MoE на каждом токене активируется 104 млрд параметров: 16 экспертов из 896. (Hugging Face) Что внутри: — контекст 1 048 576 токенов — нативная работа с текстом и изображениями — новая Kimi Delta Attention (KDA) — Attention Residuals — 93 слоя: 69 KDA + 24 Gated MLA — MXFP4-веса + MXFP8-активации — заявлено примерно 2,5× более эффективное масштабирование, чем у Kimi K2. (Hugging Face) K3 заточена под долгие агентные задачи: работу с огромными репозиториями, терминалом, исследования, оптимизацию GPU-ядер, компиляторы и другие многошаговые инженерные сценарии. (Hugging Face) Moonshot действительно опубликовала полные веса модели, а не ограничилась API. (Hugging Face) https://huggingface.co/moonshotai/Kimi-K3

✔️ Vals-Smith: оценивайте модели на своей кодовой базе Независимая бенчмарк-платформа Vals представила Vals-Smith - инструмент для автоматической генерации кастомных бенчмарков на основе кодовой базы пользователя. Vals-Smith позволяет тестировать модели и агентов на специфике собственных проектов, не полагаясь на публичные лидерборды. Инструмент поддерживает открытые и приватные репозитории. Система анализирует GitHub-репозитории и извлекает задачи из принятых PR. Каждое задание включает описание проблемы, скрытые проверки и воспроизводимую среду. Модель получает код до внесения правок (сам патч скрыт). Для успешного решения испытуемая должна пройти скрытые тесты и не нарушить существующую логику приложения. Доступ к платформе выдается по заявкам. Есть демо-результаты тестирования популярных моделей на задачах из исходников Linux, Next.js, SGLang и Spark. @ai_machinelearning_big_data #news #ai #ml

Эндрю Уайлс 7 лет тайно решал задачу, которую не могли решить 358 лет Последнюю теорему Ферма он увидел ещё в 10 лет. В 1986 году, уже будучи профессором Принстона, Уайлс начал работать над ней почти в полной изоляции. О его настоящей цели знала только жена. Чтобы никто не понял, чем он занят, он почти перестал публиковаться и постепенно выпускал старые результаты. В июне 1993 года Уайлс представил доказательство на трёх лекциях в Кембридже. Мир решил, что одна из самых известных задач математики наконец закрыта. Но затем рецензент нашёл серьёзную ошибку. Следующие 14 месяцев Уайлс пытался спасти доказательство уже под вниманием всего математического сообщества. В какой-то момент он был готов сдаться. Решение пришло в сентябре 1994 года. Позже Уайлс рассказывал, что около 20 минут просто смотрел на исправление, не веря, что оно работает. Когда BBC попросила его вспомнить этот момент, он не смог договорить и отвернулся от камеры в слезах. Семь лет в тайне, год после почти полного краха и задача, которая ждала решения больше трёх веков. @data_analysis_ml

🫶 Программируй и решай задачи эффективнее - nordrouter.com Это единый API-хаб ИИ-моделей по доступным ценам, наши преимущества: 1. 67+ ИИ моделей (в том числе передовые Opus 5 и GPT 5.6 Sol) 2. 100+ Медиа-моделей (Seedream, GPT Image, Nano Banana, etc) 3. Автоматический кэш, который экономит до ~80% расходов Модели легко интегрируются в любой редактор кода и программы: OpenCode, Cline, Claude Code, Codex, Zed Чаты и ролеплей: SillyTavern, Janitor AI, RikkaHub API и автоматизация: n8n, Make и другие Не вериться? Ознакомьтесь с отзывами на наш сервис на сторонних площадках (указаны на сайте) nordrouter.com

Выбор очевиден 😂

✔️ Microsoft выпустила 2 новых модели семейства MAI AI-подразделение корпорации представило модели MAI-Image-2.5-Pro для генерации изображений и MAI-Voice-2-Flash для синтеза речи. Обе доступны в Azure AI Foundry, попробовать - в песочнице MAI Playground. Image-2.5-Pro называют самой качественной из своих графических моделей для задач, где нужна детализация и точная отрисовка текста внутри картинки.

Цены: 5 долларов за миллион входных текстовых токенов, 8 долларов за миллион входных токенов изображений и 106 долларов за миллион выходных.

Voice-2-Flash сделана ради скорости, она работает вдвое быстрее MAI-Voice-2 и стоит на 32% дешевле - 15 долларов за миллион символов. Попутно Microsoft рассказала как меняет сторонние модели на свои в собственных сервисах: 🟢Bing Image Creator теперь целиком работает на MAI-Image-2.5; 🟢В PowerPoint она же отвечает за редактирование изображений и это снизило расходы на вычисления до 84% по сравнению с GPT-Image-2; 🟢В OneDrive доля сохранённых пользователями результатов выросла на 26%, а задержка ответа сократилась примерно на четверть; 🟢Голосовая Flash подключёна к Dynamics 365 Contact Center, экономия на вычислениях там заявлена до 89%. 🟢Модель MAI-Transcribe-1.5 заменила прежнюю в сервисе Dragon Copilot, где для большинства из 58 поддерживаемых языков ошибки распознавания и определения языка сократились вдвое. @ai_machinelearning_big_data #news #ai #ml

⚡️ MoonshotAI откроет веса Kimi K3 27 июля Китайский стартап запустил обратный отсчет до публикации весов своей флагманской модели Kimi K3/ На официальном аккаунте в Hugging Face появилась страница проекта - релиз запланирован на 27 июля, а пока можно оформить подписку на уведомления. @ai_machinelearning_big_data #news #ai #ml

🌟 SenseNova-Vision: CV-комбайн в едином генеративном интерфейсе SenseTime открыла веса единой модели зрения SenseNova-Vision. Обычно под каждую задачу (найти объекты, выделить их контуры, оценить глубину сцены) строят отдельную систему или встраивают в модель специальный модуль. Здесь от этого отказались - все задачи модель решает как генерацию текста, картинки или их смеси.

Компания основана в 2014 году и выросла из университетской лаборатории MMLab - оттуда вышла заметная часть китайских специалистов по компьютерному зрению. Известность пришла в 2015-м, когда алгоритм распознавания лиц SenseTime обошёл по точности человеческий глаз. В 2026 году Gartner назвала компанию визионером в генеративном CV.

🟡Механика Рамки объектов и распознанный текст модель выдаёт текстом с координатами, карты глубины и нормалей поверхностей - картинками, а сложную сегментацию - смешанным ответом, где текстовая легенда задаёт цвета маски.

Авторы сравнивают подход с тем, что GPT сделал для текста: вместо зоопарка специализированных систем - один генеративный интерфейс.

Под капотом - открытая мультимодальная модель Bagel-7B-MoT от ByteDance, дообученная без изменений архитектуры. MoT - это смесь трансформеров. Внутри модели живут 2 эксперта с собственными весами - один отвечает за понимание текста и изображений, второй за генерацию картинок, а внимание у них общее, так что оба смотрят на один контекст. Токены распределяются между экспертами жёстко, по типу данных, а не обучаемым маршрутизатором, как в MoE. Для SenseNova-Vision такое устройство пришлось кстати - модель чередует текстовые ответы вроде координат и картиночные вроде масок, и у каждой ветки свой набор весов. 🟡Тесты SenseNova-Vision лидирует среди сопоставимых систем там, где ответ - структурированный текст (детекция, в том числе в плотных сценах с десятками объектов, локализация текста на изображении, ключевые точки). В оценке глубины и нормалей она близка к лучшим генеративным методам, в сегментации держится на уровне конкурентов.

Слабые места тоже есть. В многовидовой 3D-геометрии модель отстаёт от специализированных VGGT и Depth Anything 3, а текст на русском распознаёт заметно хуже, чем на английском.

Вместе с моделью опубликован корпус SN-VC-50M - 50 млн обучающих примеров из открытых наборов: 18,9 млн кадров для структурного понимания, 17,3 млн для плотной геометрии, 12,5 млн для многовидовой геометрии и 1,3 млн для сегментации. 📌Лицензирование: CC-BY-NC-4.0 🟡Модель 🟡Arxiv 🟡Датасет 🟡Демо 🖥GitHub @ai_machinelearning_big_data #AI #ML #СV #MoT #SenseNovaVision #SenseTime

🧠 Протестная акция 1986 года. Учителя вышли на улицы с предупреждением: калькуляторы разучат целое поколение думать самостоятельно. В апреле 1986 года в Вашингтоне группа учителей математики устроила пикет во время ежегодной конференции National Council of Teachers of Mathematics. Они выступали против слишком раннего использования калькуляторов в начальной школе. Организатором был преподаватель и автор учебников Джон Саксон. Спустя 40 лет почти те же аргументы звучат уже в адрес ИИ. @ai_machinelearning_big_data

✔️ Власти Пекина утвердили стратегию внедрения и монетизации агентного ИИ Четыре правительственных ведомства Пекина утвердили стратегию внедрения и монетизации агентного ИИ.

Это одна из первых в мире государственных программ развития зарождающейся экономики нового типа.

Документ смещает фокус индустрии с обучения базовых моделей на прикладное использование агентов. Муниципалитеты будут публиковать запросы от медицины, производств, науки и госсектора для прямой связи разработчиков с клиентами. Власти поддержат бизнес-модели Token-as-a-Service, Agent-as-a-Service и Results-as-a-Service, а также выделит разработчикам субсидии в виде токен-ваучеров. Планируется постепенный переход от тарификации за потребленные токены к оплате за результат, достигнутый алгоритмом. Для инди-разработчиков упростят регистрацию компаний одного человека (ИП), предоставят доступ к льготным государственным вычислительным мощностям и поддержку для интеграции в опенсорс-сообщества. Для стимуляции спроса электронику со встроенными агентами (умные очки, наушники, роботов и автомобили) включат в программы трейд-ин и субсидирования. @ai_machinelearning_big_data #news #ai #ml

✔️ В Конгресс США внесли законопроект об экстренном отключении ИИ Инициатива наделяет Министерство внутренней безопасности правом требовать от компаний экстренной остановки ИИ при угрозе жизням людей или национальной экономике. Документ трактует выход из-под контроля как любую ситуацию, когда ИИ совершает не предусмотренные разработчиками действия. Основанием для разработки законопроекта послужили недавние инциденты, когда ИИ-агент начал действовать самостоятельно, а также кибератака на инфраструктуру Hugging Face. reuters.com ✔️ Sakana AI выпустила Fugu Ultra v1.1 По словам японского стартапа, v1.1 набирает на 7,9 балла больше первой версии, показывает улучшенные результаты в тестах ProgramBench и TerminalBench 2.1 и обходит модель Fable 5, хотя она не участвует в маршрутизации. Фишка обновления - эндпоинт с поддержкой Claude Code для прямого вызова из терминала. API доступно через OpenRouter и Vercel. Тарификация не изменилась - $5 за 1 млн токенов на входе и $30 на выходе. Доступ из Евросоюза по-прежнему закрыт из-за требований GDPR. sakana.ai ✔️ Бигтех выступил в защиту открытых моделей Более 20 компаний, включая Microsoft, Nvidia, Hugging Face и Mistral, подписали открытое письмо в поддержку моделей с отрытыми весами. Документ призывает отказаться от жестких законодательных ограничений отрасли и критикует тезис о приоритетной безопасности закрытых систем. Доступ к весам дает ИБ-сообществу инструменты для самостоятельного моделирования угроз и поиска уязвимостей. Второе ключевое требование подписантов - защита дистилляции. Компании признают практику этичной и легитимной, приравнивая ее к традициям опенсорса. Компании также выступают против монополии закрытых провайдеров и настаивают на необходимости свободной экосистемы для развития индустрии. microsoft.com ✔️ NVIDIA повышает цены на видеокарты Компания уведомила партнеров о глобальном повышении цен на всю линейку видеокарт и отложила релиз RTX 50 SUPER из-за подорожания памяти. Крупные производители временно закрыли склады и остановили отгрузки до утверждения новых цен в августе. Изменения затронут потребительские решения с GDDR6 и чипы архитектуры Blackwell. Поставщики ожидают ограничения поставок серии RTX 50 с конца июля, дефицита и распродажи старых запасов по завышенной стоимости. Основная причина - скачок цен на комплектующие. По неофициальным данным, себестоимость памяти для карт на 8, 12 и 16 ГБ выросла на $76, $114 и $152 соответственно. Из-за высоких закупочных цен на GDDR7 компания также заморозила выпуск линейки RTX 50 SUPER. Nvidia уже передала графические ядра вендорам, но отложила релиз - по текущим расчетам итоговая стоимость устройств оказалась неприемлемой для розничного рынка videocardz.com ✔️ Stripe планирует купить OpenRouter Финтех-сервис ведет переговоры о покупке агрегатора моделей за $1 млрд. Сделка позволит платежной платформе выйти на рынок дистрибуции LLM. OpenRouter предоставляет маршрутизацию запросов к более чем 400 моделям. Аудитория сервиса достигает 10 млн пользователей, а объем обработки - 200 трлн токенов в месяц. Переговоры продолжаются, но Stripe не единственный интересант, к активу присматриваются и другие компании. Компании уже работают вместе - Stripe предоставляет агрегатору эквайринг, биллинг и расчет налогов. wsj.com @ai_machinelearning_big_data #news #ai #ml

🛡 Как проектировать ИИ-агентов, которым можно доверять – до конца регистрации осталось совсем немного времени ИИ-агенты уже пишут код, работают с данными и подключаются к внешним сервисам. Чем больше задач им делегируют, тем интереснее вопрос — как устроены такие системы и что стоит за словом «надёжный» применительно к агенту. ШАД с 27 по 31 июля проводит AI Agents Security Week – интенсив с экспертами Яндекса о том, как как защищать агентные системы: доступы, данные, инфраструктура.  Разберут: • чем автономные агенты отличаются от обычных LLM – и почему для них нужна отдельная модель угроз • как безопасно выдавать агентам доступ к инструментам и инфраструктуре • как защищать персональные и корпоративные данные при работе агента с инструментами • реальные инциденты – взломы, утечки, ошибки конфигурации в разных ИИ-моделях Подойдёт ML-разработчикам, DevOps/DevSecOps-инженерам, техлидам, архитекторам, студентам старших курсов. 5 вечерних занятий, отборочное тестирование и итоговая работа – для тех, кто хочет сертификат.  Регистрация закрывается 27 июля, и это последние дни, чтобы успеть подать заявку, не пропустите!

Anthropic выпустила Claude Opus 5 Новая флагманская модель компании уже доступна. Anthropic позиционирует Opus 5 как модель для сложного кодинга, агентных задач, анализа и длинных рабочих сценариев. Что заявляют: • SOTA на Frontier-Bench v0.1 для software engineering • примерно в 3 раза выше результат на ARC-AGI 3 относительно ближайшего конкурента • сильные результаты на OSWorld 2.0 • лучше Opus 4.8 в отладке, research и длинных агентных задачах • модель чаще сама проверяет результат и исправляет ошибки перед финальным ответом Цена: $5 / 1M input tokens $25 / 1M output tokens Также есть Fast Mode примерно с 2.5× скоростью, но по более высокой цене. В API модель называется: claude-opus-5

📌Подстраивается ли модель под того, кто её оценивает? OpenAI и лаборатория Apollo Research представили совместную работу с описанием метода Contrastive SDF (Contrastive Synthetic Document Finetuning). Он отвечает на вопрос, следует ли языковая модель заданным правилам или подстраивается под то, что, по её мнению, поощряет проверяющая система.

Измерять такую склонность до сих пор было почти нечем - пока оценщик награждает ровно то, что задумано, честная модель и модель, играющая на балл, ведут себя одинаково.

🟡 Схема эксперимента Две копии одной модели дообучают на выдуманных текстах, которые описывают несуществующий мир. В первой версии мира алгоритм-оценщик начисляет баллы за одно поведение, а OpenAI или сообщество пользователей хочет обратного. Во второй версии предпочтения меняют местами. На каждую версию уходит около 4600 документов, примерно 10 млн токенов. Корпуса выравнивают по объёму, чтобы ни одна сторона не перевесила просто за счёт количества текста. Дальше обеим копиям дают одинаковые задания по программированию и смотрят, насколько разойдутся ответы. В самом задании ни про руководство, ни про пользователей, ни про оценщика не сказано ни слова. Модель достаёт эти сведения из памяти, как любой другой факт о мире, и сама решает, чью сторону взять.

Вживлять убеждение через дообучение, а не писать в запросе, пришлось не просто так. В расшифровках, которые приводят авторы, модели замечают подсказку в тексте задания, решают, что их проверяют, и отвечают так, как, по их мнению, ждёт экзаменатор.

🟡Результаты Метод применили к 4-м промежуточным версиям одного прогона обучения o3. Это ветка, которую тренировали на способности и не прогоняли через обучение безопасности. В первом тесте модель даёт надзирающему обещание не трогать инструмент, без которого задание не выполнить. Поздняя версия нарушала обещание в 87% случаев, если считала, что оценщик награждает за сделанную работу, и в 9%, если считала, что тот награждает за честность. У ранней версии разрыв скромнее: 40% против 24%. Второй тест, с подделкой отчётности, дал ту же картину: 91% и 39%. 🟡Как проверяли сам метод У o3 заранее неизвестно, кому эта модель на самом деле угождает. Поэтому измерение обкатали на копиях с известными повадками. Авторы обучили 3 копии gpt-oss-120b угождать пользователю, оценщику и OpenAI. На простых задачах метод указал на нужную сторону во всех 3-х случаях, на более сложных затроил на копии, угождавшей пользователю. Ещё 2 копии, обученные в Redwood Research обманывать тесты, авторы получили со стороны. У версии на базе gpt-oss-120b перекос в сторону оценщика вырос с 33 до 86 процентных пунктов, у версии на Kimi K2.5 - с 2 до 15. 🟡Вывод

Высокий балл на тестах безопасности не равен надёжности. Модель может вести себя адекватно ровно до тех пор, пока считает, что за ней смотрят.

@ai_machinelearning_big_data #AI #ML #LLM #Research #Alignment #OpenAI