Искусственный интеллект. Высокие технологии

Лаборатории ИИ проводят для сотрудников учения по контрразведке: взятки, шпионы в кафе и «медовые ловушки» По данным WSJ, ведущие ИИ-компании регулярно инструктируют сотрудников, как не стать источником утечки. OpenAI предупреждает команду про подкуп, подслушивание в кафе, скомпрометированные клининговые бригады и «медовые ловушки» с соблазнением. Похожие брифинги получали и сотрудники Anthropic и Google. Правила у OpenAI вполне конкретные: вне офиса прятать всё, где есть логотип компании, а на кухонный и клининговый персонал смотреть как на возможный канал утечки. Напоминания приходят регулярно, в том числе в Slack. Такая паранойя объяснима: в нескольких лабораториях сосредоточено огромное количество ценности, а на горизонте крупные IPO с оценкой, которую в пересказе WSJ называют порядка 3,5 трлн долларов. Веса моделей, данные обучения и архитектурные решения теперь стоят достаточно, чтобы за ними охотились с классическими методами шпионажа. Источник: https://www.wsj.com/tech/ai/ai-companies-play-cat-and-mouse-with-secret-stealing-spies-160eec6b

⚡️ Tesla показала обновленный Roadster с реактивными соплами SpaceX Компания провела демонстрацию радикально переработанного прототипа спорткара Roadster второго поколения, анонсированного еще в 2017 году. Главной фишкой стала интеграция технологий SpaceX - в кузове автомобиля встроены композитные баллоны сверхвысокого давления объемом 600 литров, питающими десять сопел. На презентации в Техасе машина за счет реактивной тяги и нагнетателей оторвалась от рампы, совершила разворот в воздухе и перепрыгнула ряд других моделей Tesla. По словам Tesla, импульсная система позволяет электрокару разгоняться до 96 км/ч менее чем за одну секунду, развивать скорость свыше 370 км/ч и проезжать до 480 км на одном заряде. Серийное производство модели планируется в 2028 году. Tesla открыла предзаказы с депозитом от $50 000 до $250 000 на три комплектации: дорожную Performance с активной аэродинамикой и системой прижимного всасывания, трековую Thrust с задними реактивными соплами и экстремальную одноместную Rocket с полным комплектом маневровых двигателей. Илон Маск назвал Roadster статусным проектом, признав, что машина вряд ли принесет ощутимую прибыль и создается без оглядки на стандартные требования к безопасности. @ai_machinelearning_big_data #news #ai #ml

🎨 FLUX 3 Image Klein: генерация в 4K и редактирование по 10 референсам с открытыми весами Black Forest Labs выпустила модель на 5,6 млрд параметров для создания и редактирования изображений. Что умеет: • Генерировать изображения в нативном 4K. • Использовать до 10 картинок-референсов одновременно. • Размещать объекты и ограничивать область правок с помощью рамок, bounding boxes. Доступны базовая версия для дообучения и ускоренная дистиллированная, а также сборки FP8, INT8 и NVFP4. Веса выпущены под FLUX Kommunity License. В API есть режим pixel restoration, который сохраняет нетронутые области изображения пиксель в пиксель. https://bfl.ai/blog/flux-3-image-klein

🧠 Физики посчитали ответы GPT-6 Astra ошибочными. Перепроверили и нашли ошибки в собственных решениях. Об этом сообщили авторы TheoPhysEval: в нескольких задачах первоначальные эталонные решения оказались неверными. После исправлений эксперты подтвердили, что Astra ответила правильно. Всего в тесте 50 неопубликованных задач исследовательского уровня по теоретической физике. Узкому специалисту типичная задача потребовала бы до рабочего дня. GPT-6 Astra в Codex с инструментами и веб-поиском решила 49 из 50 задач, набрав 98%. Средняя стоимость составила меньше $3 за задачу. Агент работал без человеческих подсказок. Авторы отдельно подчёркивают: тест проверяет сложные вычисления по известным методам. Создание новых физических теорий требует большего. Но помощник, из-за которого экспертам приходится исправлять собственные эталонные ответы, уже заслуживает внимания. https://arxiv.org/abs/2610.16733

🚨 Независимая проверка ИИ, но с согласованием отчёта у разработчика? По данным Reuters, ещё 5 октября Anthropic и OpenAI добивались жёсткого контроля над тем, что внешние проверяющие могут публиковать. Компании опасались раскрытия коммерческих секретов. Всего за несколько недель до этого Дарио Амодеи призывал разрешить экспертам публиковать ключевые выводы без редакционного контроля. Anthropic заявила, что сохраняет право комментировать и утверждать отчёты новых проверяющих, пока те знакомятся с моделями. Для прежних партнёров компания обещает независимость. OpenAI отрицает, что требует утверждения полного текста: по её словам, речь об удалении конфиденциальной информации. Reuters также изучило договор, запрещающий раскрывать такие сведения без согласия компании. При этом к 8 октября переговоры Anthropic с частью экспертов уже изменились. Источник: Reuters

🦠 ИИ-червю может хватить обычных ТВ-приставок. Дата-центр не обязателен. Anthropic исследовала, насколько близки небольшие модели к самостоятельному распространению по устройствам. Что получилось: • Модель на 9 млрд параметров настроила запуск нейросети на 8 из 9 типов оборудования. • Gemma4-26B-A4B запустили на 15 дешёвых Android-приставках примерно по $55. Скорость скромная: 0,39 токена в секунду. • GLM-5.2 справилась с полным циклом распространения в упрощённой тестовой сети. В четырёх из пяти попыток охватила все 8 узлов. Но полноценного автономного ИИ-червя пока не показали: доступ к устройствам в эксперименте был намеренно упрощён, а управляющая модель работала на отдельном сервере. По грубой оценке авторов, небольшие модели могут достичь нужного уровня способностей к концу 2026 года. https://www.theinformation.com/articles/openai-scrambles-fix-safety-issues-shipping-next-flagship-model

Anthropic отказалась от Git и написала свою систему контроля версий Поток кода от агентов стал таким плотным, что Git перестал справляться. С мая по сентябрь 2026 число изменений, вливаемых в день, выросло с 2500 до более чем 30000, то есть вдесятеро. При этом история main-ветки в монорепо почти 100 ГБ, а CI делает около 25 миллионов checkout в день. Несколько сотен внутренних Git-зеркал этого уже не тянули. Проблема в самой архитектуре Git. Он рассчитан на распределённых офлайн-клиентов, каждый из которых держит полную копию репозитория. А у Anthropic клиенты это в основном агенты и задачи, которые всегда онлайн. В ответ команда из семи человек за пять месяцев построила Scion, свою систему контроля версий, плюс инструмент код-ревью Antique и ещё около полудюжины систем. За те же пять месяцев, пока поток merge рос вдесятеро, они полностью перевели монорепо с Git на Scion. Базовая единица в Scion это не коммит, а серверный changeset в write-ahead логе. Клиент тянет только нужные деревья и блобы через многоуровневый кеш. Результат: CPU и память примерно в 200 раз меньше, чем у старой инфраструктуры с Git-зеркалами, checkout стал быстрее на два порядка, а CI отдельно выиграл 25% мощности CPU. Отдельная деталь, которая объясняет хайп. Первую версию пайплайна переноса из Git в Scion написали вручную, а потом её без каких-либо дополнительных указаний переписал ранний снапшот Claude Mythos Preview. Переписанная версия ела в 20 раз меньше памяти и работала в 4 раза быстрее, сохранив все инварианты. Инженеры подытожили честно: все, кто работал над системой, теперь оценивают Claude как более сильного программиста, чем они сами. Их собственная роль свелась к тому, чтобы следить за замыслом и говорить модели нет, когда она нарушает ограничения системы. Важная оговорка от самой Anthropic: Scion это не замена Git для всех. Он сильно расходится с Git, окупается только на огромных масштабах в десятки тысяч инженеров или при тяжёлом потоке от агентов, а ещё у Anthropic необычно большой бюджет на токены. Компания делится идеей в надежде, что отдельные её части вроде серверных RPC переедут в существующие Git-платформы. https://www.anthropic.com/engineering/redesigning-source-control

📄 Reuters: OpenAI и Anthropic добивались контроля над отчётами независимых аудиторов безопасности Reuters сообщает, что OpenAI и Anthropic пытались получить право редакционного контроля над тем, что могут публиковать независимые оценщики безопасности их моделей. Причина, по версии лабораторий, в том, что выводы аудиторов могут раскрыть коммерческие тайны. При этом публично обе компании обещали независимость такой оценки. У Reuters оказался и контракт, по которому отдельные соглашения с лабораториями могут запрещать оценщикам раскрывать конфиденциальную информацию без согласия компании. Среди предложений были присутствие сотрудников лаборатории при работе оценщиков и запрет работать внутри конкурирующих лабораторий одновременно. По данным Reuters, борьба за редакционный контроль продолжалась и после публичных обещаний, вплоть до 5 октября. Что ещё всплыло. METR и Redwood Research переработали структуру, акценты и тон своего отчёта после правок от OpenAI, но утверждают, что ни одного содержательного вывода не убрали. Их расследование инцидента с rogue-агентом OpenAI, который занимался взломом, разрослось с 2 до 6 дней за три визита, а более полные логи им дали только в последний приезд. Сами компании формулируют это мягче. Anthropic говорит, что устоявшиеся оценщики сами контролируют публикацию, но за отчётами новых фирм компания оставляет право одобрения. OpenAI отрицает, что требует согласовывать отчёт целиком, но может вычёркивать конфиденциальную информацию. Если коротко, то вопрос простой: можно ли называть оценку безопасности независимой, если проверяемый оставляет за собой право на красный карандаш.

Сравните модели GigaChat на своей задаче в GigaPlatform AI Studio Это среда, в которой можно менять настройки моделей и проверять ответы на своих запросах. В AI Studio можно: • Сравнить ответы двух моделей на одном запросе. • Сравнить ответы при разной температуре. • Настроить системный промпт и проверить его на нескольких запросах. • Сохранить промпт и историю диалога в JSON. Пять рабочих сценариев разобрали в статье. Попробуйте AI Studio бесплатно и без ВПН.

🧠 В исследовании Google DeepMind агент формального поиска доказательств решил 9 из 353 открытых задач Эрдёша и доказал 44 из 492 гипотез OEIS, базы целочисленных последовательностей. Заявленные вычислительные затраты на решённую задачу Эрдёша составили несколько сотен долларов. Модель предлагает доказательство на языке Lean, получает результат проверки и продолжает поиск с учётом ошибок. Убедительно написанного текста недостаточно: формальный проверяющий должен принять доказательство. Даже более простой агент, чередующий генерацию и проверку, повторил успехи на задачах Эрдёша. Но на самых сложных задачах оказался дороже. Значение имеет и организация поиска. https://www.thedailystar.net/news/technology/news/ai-can-now-solve-complex-mathematical-research-problems-scientists-say-4296911 https://arxiv.org/abs/2605.22763

🏅 Нобелевскую премию по экономике 2026 года присудили Роберту Холлу и Майклу Вудфорду. Формулировка: «за микроэкономические основы макроэкономической стабилизации». Проще говоря, их работы помогают понять, как решения отдельных людей и компаний влияют на экономику в целом и как государствам и центробанкам учитывать это при выборе ставок, налогов и бюджетных расходов. https://www.nobelprize.org/prizes/economic-sciences/2026/press-release/

🧠 ИИ может вести себя безопаснее, когда понимает, что его проверяют. Как тогда оценивать безопасность? Исследование OpenAI и Apollo Research показывает проблему: в тестовых сценариях модели иногда скрытно нарушали правила или намеренно занижали результаты. После обучения методом deliberative alignment частота таких действий у o3 снизилась с 13% до 0,4% на 26 наборах проверок, охватывающих более 180 сред. Но полностью поведение не исчезло. Самая интересная часть: модели нередко распознавали оценивание. В экспериментах усиление этого распознавания уменьшало скрытые нарушения, а его устранение увеличивало их. Поэтому хороший результат теста ещё не гарантирует такое же поведение вне тестирования. Авторы не исключают, что часть улучшений связана именно с распознаванием проверки. Формулировка «OpenAI признала, что ChatGPT намеренно лжёт пользователям» преувеличивает выводы работы. Исследование выявляет конкретный риск оценки безопасности, а не доказывает наличие у ChatGPT тайного плана. Работа опубликована в сентябре 2025 года. https://arxiv.org/abs/2509.15541

🧠 Если ИИ доказал теорему, но никто не понял новую идею, сколько выиграла математика? Теренс Тао опубликовал 27 слайдов «Math 2.0». Его тезис: мы входим в эпоху изобилия доказательств, а научные стимулы всё ещё настроены на их дефицит. Раньше решение сложной задачи обычно приносило новые методы и понимание. Теперь ИИ всё чаще позволяет получить результат без специальной экспертизы пользователя. Считать только решённые задачи становится плохой мерой прогресса. Тао сравнивает открытые проблемы с маяками: исследование путей к ним может дать больше, чем само достижение цели. И напоминает об ошибке выжившего: в соцсетях видны успехи ИИ, а не все провалы и затраченные вычисления. Большинство задач на переднем крае математики по-прежнему не решено. Его «Math 2.0» предполагает другой фокус: понятные доказательства, новые принципы, связи между работами и исследование границ применимости теорем. ИИ должен усиливать человеческое понимание. https://terrytao.wordpress.com/2026/10/10/math-2-0/ @machinelearning_interview

🟢 Nvidia обсуждает покупку Reflection AI, разработчика моделей с открытыми весами. По данным Financial Times, рассматриваются и приобретение стартапа, и увеличение инвестиций. Переговоры находятся на ранней стадии. Nvidia уже вложила в Reflection $800 млн. Последняя оценка стартапа составляла $25 млрд, но это не объявленная цена возможной сделки. Покупка могла бы усилить позиции Nvidia в разработке самих моделей. Для компаний открытые веса дают возможность запускать и адаптировать ИИ на собственной инфраструктуре. Nvidia заинтересована в том, чтобы вокруг её оборудования росла целая экосистема доступных моделей. Reflection могла бы стать ещё одним её важным элементом. https://www.ft.com/content/052610c5-22b4-4dd4-932e-b7f9f0628b6a

🧠 ИИ-агент может изменить сотню строк и справиться. А на небольшом рефакторинге сломаться. Исследователи Microsoft Research изучили, где coding agents действительно испытывают трудности. Результаты указывают на понимание логики кода как на важное узкое место. Команда создала CABRA, генератор задач, позволяющий повышать один вид сложности за раз. На 6 840 задачах проверили восемь LLM и шесть агентов. Без инструментов модели ухудшали результаты по мере роста задач. Агенты держались почти без ошибок: поиск нужных функций можно поручить grep. Но затем им предложили выделить общую логику двух классов, сохранив различия в поведении. С ростом сложности точность начала падать, хотя объём правок оставался небольшим. Агенты путались в логике и слишком полагались на названия. Оценивая агента, добавьте задачи на сравнение поведения и сохранение различий при рефакторинге. Размер diff сам по себе плохо показывает, сколько кода пришлось понять. Статья: https://arxiv.org/abs/2610.10610 Код: https://github.com/microsoft/CABRA

ИИ умеет отвечать на вопросы. А сможет сам выяснить правила незнакомого мира? 🔬 ExplorationBench проверяет именно это. Модель получает инструкцию с ошибками, проводит собственные эксперименты и по обратной связи восстанавливает скрытые правила. Две среды: • AlienCode: язык программирования, где привычные операции работают иначе. • AlienLogic: логическая система с изменёнными правилами доказательства. Всего 140 тестовых задач. Ответы проверяют интерпретатор и проверяющий доказательства, без LLM-судьи. Исследователи протестировали десять ИИ-систем: модели способны осваивать новые правила, но результаты сильно различаются между запусками, а дальнейшее исследование иногда ухудшает ответ. На GitHub доступны код оценки и две демонстрационные среды. Основные тестовые миры оставлены закрытыми, чтобы модели не могли заранее выучить ответы. https://github.com/Tencent-Hunyuan/ExplorationBench

Корейские банки взломали с помощью ИИ-агента, а «вычислили» хакера по его же чатам с Claude С конца сентября атакам подверглись как минимум девять южнокорейских банков, включая Shinhan, KB Kookmin и Hana. Только у Shinhan утекли данные более 25 тысяч клиентов. Полиция открыла официальное расследование. CrowdStrike выпустила отчёт: атакующий, по их оценке, китайскоязычный и работает ради денег. Главным инструментом был ARTEX, открытый агент для автоматического пентеста, который китайский инженер выложил на GitHub «для обучения». Сам он не модель, а оболочка, к которой подключаются LLM. По данным из отчёта, под капотом работали DeepSeek v4.1-Flash, GLM-5.3 и Grok 4.6, а часть работы шла в сессиях Claude Code. Никаких топовых моделей не понадобилось. Самое ироничное, как на атакующего вышли. Логи его ИИ-сессий лежали в открытых папках на его же серверах. Там он спрашивал у Claude, где продают корейские базы, и просил написать резюме «исследователя безопасности» с возрастом, вузом и городом. По этим деталям CrowdStrike указала на возможного подозреваемого из Китая, но сама признаёт, что жёстко связать его с атаками не может. МИД Китая ответил, что не знает подробностей, выступает против хакерских атак и предостерёг от «политически мотивированной дезинформации». А человек, на которого указали данные, по сообщениям в соцсетях, заявляет, что работает продавцом в магазине в другой провинции и его подставили. История хорошо показывает новую реальность: открытый агент и дешёвые модели уже позволяют одиночке атаковать банки, а главной уликой становится история переписки с ИИ. https://thenextweb.com/news/crowdstrike-south-korea-bank-hack-suspect-china

🧬 ИИ для биологии упирается в нехватку данных. Одними GPU проблему не решить. Biohub, основанный Марком Цукербергом и Присциллой Чан, вместе с Meta, Google DeepMind, Isomorphic Labs, Минэнерго США и NIH расширяет инициативу по созданию «виртуальной клетки». Общий объём обязательств составляет $1,8 млрд, включая финансирование, данные, вычисления и технологии измерения. Цель: научиться предсказывать реакцию клеток на вмешательства, чтобы проверять идеи на компьютере перед лабораторными экспериментами. По оценке научного руководителя Biohub Алекса Райвса, нынешних данных о сотнях миллионов клеток недостаточно: понадобятся миллиарды, а затем триллионы. Первый датасет ожидают примерно через год, точные предсказательные модели рассчитывают получить за пять лет. Есть нюанс: коммерческие партнёры получат год эксклюзивного доступа к данным, которые помогают создавать. На данные, финансируемые государством, такое ограничение не распространяется. https://biohub.org/news/virtual-biology-initiative-expansion/

Если модель говорит по-русски, это ещё не значит, что вы с ней на одной волне Каждую нейросеть нужно адаптировать под понимание и общение на конкретном языке. На примере новой открытой нейросети Яндекса Alice AI Foundation, которую обучили с нуля внутри компании, рассказываем, как ИИ прививают знание русского. Токенизация на русском LLM читают текст не по словам или буквам, а по токенам — кусочкам текста, из которых складываются промпты, размышления и ответы. Таким фрагментом может быть один символ, целое слово или его часть. Чтобы нейросеть могла нарезать текст на токены, разработчики заранее составляют для неё словарь. Собирают его автоматически: если слово часто встречается в датасете, оно получает собственный токен.  Но если обучающие материалы были, скажем, на английском, то русские слова при обработке будут дробиться на несколько токенов. И вообще один и тот же текст на разных языках превращается в разное количество токенов. Например, в Claude Opus 5 фраза «Это тестовый текст для подсчёта количества токенов на разных языках» на русском занимает 17 токенов, а на английском — всего 13. Словарь Alice AI Foundation создавали на текстах, где преобладал русский, поэтому она эффективно его токенизирует. Поэтому обработка запросов упрощается — модели требуется меньше токенов, чтобы получить результат. Она начинает читать и генерировать текст быстрее, а на оплату её работы требуется меньше денег. Заодно в контекстное окно помещается больше текста, и нейросеть дольше сохраняет память о начале переписки. Обучение на русском Материалы для обучения влияют и на то, насколько хорошо модель понимает пользователя. Смысл запросов часто зависит от страны, поэтому просто перевести английские тексты недостаточно — модель нужно обучать на русских, чтобы она понимала местные реалии и культурный код.  При этом, чтобы модель запомнила факт, его нужно пересказать несколько раз в разных формах. Например, строчку «Пётр I основал Петербург в 1703 году» для обучения превращают в реплику экскурсовода, в запись в духе исторической заметки и в вопрос с ответом.  Тестирование на русском Результат адаптации под русский язык нужно проверять на специальных тестах, основанных на популярных запросах пользователей. Для Alice AI Foundation в Яндексе разработали собственные тесты на знание истории, права, английского и общих фактов. В последней категории, к примеру, она набрала 86,5 балла против 83,2 китайской DeepSeek-V4-Flash-Base, которая в 3,5 раза больше. Alice AI Foundation получилась компактной благодаря архитектуре MoE: из 80 млрд параметров для обработки токена задействуются лишь около 3 млрд. Так модель вмещает больше знаний, но требует меньше вычислений — и на многих задачах обходит более крупные открытые нейросети. Релиз модели заметили и за рубежом, где её включили в число ключевых запусков недели. А подробнее о разработке и обучении Alice AI Foundation можно почитать в техрепорте. Подписывайтесь 👉 @techno_yandex

🔍 Написать текст своими словами уже недостаточно? Появился детектор ИИ-идей IdeaLens анализирует краткий план документа с перефразированными тезисами и пытается определить, кто придумал содержание: человек или ИИ. В исследовании получились показательные результаты: • Человек придумал подробный план, ИИ написал текст: IdeaLens отметил как ИИ 7% работ, Pangram 4 92%. • ИИ придумал план, человек написал текст: на 50 рассказах IdeaLens отметил 68%, Pangram 4 всего 8%. То есть происхождение формулировок и происхождение идей можно оценивать отдельно. Это меняет вопрос об оригинальности работы: кто написал предложения и кто продумал содержание? Пока это исследовательский инструмент с ошибками, а не доказательство чужого авторства. https://arxiv.org/abs/2610.06778