Частные заметки одного лица
Відкрити в Telegram
261
Підписники
Немає даних24 години
Немає даних7 днів
+130 днів
Завантажуємо дані
Схожі канали
Хмара тегів
Немає даних
Виникли проблеми? Будь ласка, оновіть сторінку або зверніться до нашого support-менеджера.
Вхідні та вихідні згадування
---
---
---
---
---
---
Залучення підписників
листопад '26лист '26
листопад '26
+1
в 0 каналах
жовтень '26
+30
в 0 каналах
Get PRO
вересень '260
в 0 каналах
Get PRO
серпень '260
в 0 каналах
Get PRO
липень '260
в 0 каналах
Get PRO
червень '260
в 0 каналах
Get PRO
травень '260
в 0 каналах
Get PRO
квітень '260
в 0 каналах
Get PRO
березень '260
в 0 каналах
Get PRO
лютий '260
в 0 каналах
Get PRO
січень '260
в 0 каналах
Get PRO
грудень '250
в 0 каналах
Get PRO
листопад '250
в 0 каналах
Get PRO
жовтень '250
в 0 каналах
Get PRO
вересень '250
в 0 каналах
Get PRO
серпень '250
в 0 каналах
Get PRO
липень '250
в 0 каналах
Get PRO
червень '250
в 0 каналах
Get PRO
травень '250
в 0 каналах
Get PRO
квітень '250
в 0 каналах
Get PRO
березень '250
в 0 каналах
Get PRO
лютий '250
в 0 каналах
Get PRO
січень '250
в 0 каналах
Get PRO
грудень '24
+11
в 0 каналах
Get PRO
листопад '24
+11
в 0 каналах
Get PRO
жовтень '24
+9
в 0 каналах
Get PRO
вересень '24
+36
в 0 каналах
Get PRO
серпень '240
в 0 каналах
Get PRO
липень '24
+181
в 0 каналах
| Дата | Залучення підписників | Згадування | Канали | |
| 06 листопада | 0 | |||
| 05 листопада | 0 | |||
| 04 листопада | +1 | |||
| 03 листопада | 0 | |||
| 02 листопада | 0 | |||
| 01 листопада | 0 |
Дописи каналу
Repost from AI Product | Igor Akimov
Утекли провайдеры OpenAI и Anthropic
Аналитики собрали стек обеих лабораторий по кейсам вендоров, вакансиям и trust-центрам. И там… обычный энтерпрайз :) Не все заменила ИИ-ка
– CRM – Salesforce у обоих
– HR и зарплата – Workday у обоих
– Финансы – NetSuite у Anthropic, Oracle Fusion у OpenAI
– Закупки – Zip, платежи – Stripe (у OpenAI ещё Metronome для usage-биллинга)
– Найм – у Anthropic аж четыре инструмента: Greenhouse, Gem, ModernLoop, BrightHire. Видимо для разных вакансий и рынков.
– Поддержка – у Anthropic Intercom Fin, у OpenAI Salesforce + Pylon + TaskUs (а это живые люди на аутсорсе!)
Ну и так далее. Забавнее всего здесь видеть Workato с интеграциями между системами "прошлого поколения".
Соответственно интересно, почему не завайбкодили своё за выходные. Я так понимаю основные затыки:
– Это системы учёта. Зарплата, налоги, выручка – ошибка тут стоит дороже любой лицензии. Аудитор хочет видеть Workday и NetSuite, а не «наш агент посчитал»
– Compliance вшит в продукт. Payroll в десятках стран, SOC 2, налоговые правила – это годы и юристы, а не код
– Сетевой эффект. Slack, Stripe, Salesforce ценны тем, что к ним уже подключено всё остальное
– Фокус. Инженер в лабе – самый дорогой ресурс на рынке, тратить его на свою CRM – ну такое
– Данные. Там годы истории, миграция страшнее подписки
Прикол, что заменяется уже сейчас как раз «слой над процессом»: координация интервью, заметки с собеседований, первая линия поддержки, ресёрч лидов, документация. И посмотрите, кто там стоит – Fin, BrightHire, Clay, Mintlify – это уже новое поколение – ИИ-агенты внутри SaaS.
Короче, кажется, что "защита" сейчас примерно такая:
– Будьте системой учёта, а не интерфейсом. Кто хранит «истину» (деньги, люди, контракты) – живёт. Кто красиво показывает чужие данные – на очереди
– Берите на себя ответственность: сертификаты, гарантии, юридические риски. ИИ код напишет, а подпись под аудитом не поставит
– Сделайте нормальный API и MCP. Агенты будут работать через вас – удобный для агента инструмент не выкинут, им будут пользоваться чаще
– Уходите от оплаты за места к оплате за результат. Людей-пользователей станет меньше, а seat-модель умрёт вместе с ними
– Встраивайте ИИ сами, как Intercom с Fin. Иначе кто-то сделает это поверх вашего API и заберёт клиента. Если у вас есть уникальные данные (например от тысяч клиентов), то вы еще жизнеспособны.
| 2 | «Для программистов наступают трудные времена. Объем и сложность программ возрастают непропорционально по отношению к зарплате. Романтический ореол непостижимости этой профессии, если он когда-либо и существовал, начинает меркнуть. На Западе софтверхаусы тают как вчерашний снег, а программисты начинают пополнять армию безработных. Оспаривается даже само стремление рассматривать программистов как профессионалов особого рода. Главное же — это то, что вольная армия программистов постепенно попадает в плен к администраторам и руководителям, которые стремятся сделать труд программиста планируемым, измеряемым, однородным и обезличенным. У читателя не должно создаться впечатления, что автор считает эту тенденцию неправильной.» — А.П. Ершов, «О человеческом и эстетическом факторах в программировании», 1972
@chuprik_live | 194 |
| 3 |  +2Возможно, нейросети – вовсе не черные ящики, как мы привыкли считать
Ник Каммарата, известный в области интерпретируемости ученый, выпустил важнейшее огромное эссе под названием "Neural Networks Are Already Clean". Каммарата был одним из первых ученых, кто занялся интепретируемостью (он же построил команду интепретируемости в OpenAI), и выпустил несколько фундаментальных работ по этому вопросу. Сейчас он работает в Goodfire.
Так вот, он выдвигает гипотезу, что нейросети на самом деле устроены проще, чем мы думаем.
Все попытки интерпретировать сетки в основном строятся на предположении о суперпозиции: считается, что просто на нейроны смотреть бессмысленно, поскольку модель якобы сваливает в каждый из них массу несвязных вещей. Поэтому ученые стараются сначала распутать активации с помощью других моделей (самый известный подход – SAE), и только потом как-то работать с найденными признаками.
Ник говорит, что он и сам раньше был сторонником такого подхода. Однако сейчас он утверждает, что никакая декомпозиция, возможно, не нужна, и что в нейронах на самом деле объеденены не рандомные вещи, а более глобальные концепции. Просто они не всегда очевидны для человека.
Есть такая основополагающая работа для сферы интерпретируемости, как Circuits, 2020 года. Каммарата был ее соавтором, и как раз там была "доказана" суперпозиция нейросетей. Авторы разобрали GoogLeNet для распознавания изображений, и показали, что один и тот же нейрон активировался и при виде капотов машин, и при виде мордочек кошек. Этот пример до сих пор считается каноническим доказательством того, что несвязанные признаки в сетях почти беспорядочно растекаются по нейронам.
Так вот в своем эссе Каммарата опроверг этот кейс. Оказалось, что две концепции смешались в этом нейроне не просто так: это был нейрон V-образной формы. Он активировался, когда нужно было отличить вытянутое от круглого, а морды кошек и капоты оказались просто наиболее частыми примерами.
Каммарата показывает, что факт читаемости нейронов не зависит даже от размеров модели. Просто чем модель меньше, тем нейроны грубее в плане внутреннего признака, и тем сложнее бывает эти признаки понять. Автор называет это фрактальной природой обобщения: маленькие модели – грубое объяснение, большие – более детальное для каждого нейрона.
В случае с языковыми моделями, в частости, это тоже работает. В предварительных аудитах Qwen3-32B примерно у 90% нейронов одна основная работа, у ~7% две связанные, и только 2–4% пока не поняты. Результаты похожие для моделей вплоть до триллионов параметров, включая MoE.
И хотя все выводы пока крайне предположительные, автор предполагает, что тут есть параллель с «горьким уроком» Саттона, и что в интерпретируемости может сработать тот же принцип, что и в самом глубоком обучении. То есть обычное исследование нейронов в масштабе может оказаться эффективнее, чем сложные подходы. | 261 |
| 4 | Мы должны переосмыслить наш детский опыт: Джерри - вредитель, а Том - честный сотрудник, которому вместо того, чтобы помогать, над ним смеются и издеваются | 183 |
| 5 | Снова старая добрая нейроэволюция! Один из соавторов, кстати, соавтор той книги.
Continual Reinforcement Learning with Neuroevolution
Eleni Nisioti, Andrea Cossu, Kathrin Korte, Sebastian Risi
Paper: https://arxiv.org/abs/2610.01583
Review: https://arxiviq.substack.com/p/continual-reinforcement-learning
Code: https://github.com/eleninisioti/continual_neuroevolution
ЧТО сделали: Исследовали нейроэволюцию для непрерывного обучения с подкреплением (continual RL) в меняющихся средах без явных границ между задачами. Авторы сравнили эволюционные стратегии (ES) и генетические алгоритмы (GA) с алгоритмом PPO, тремя его модификациями для непрерывного RL и популяционным RL на бенчмарках от классического управления до задач со зрением.
ЧТО получили: ES обеспечили лучший баланс между сохранением старых навыков и освоением новых, превзойдя все RL-бейзлайны в 8 из 18 условий. Градиентные методы не выиграли нигде. GA показали наивысшую точность обучения в 10 из 18 условий, решив задачи, где градиентные алгоритмы терпели неудачу. По замерам авторов, ES находят окрестности в пространстве весов в 3.9 раза шире по сравнению с PPO, а размер общей для задач окрестности предсказывает сохранение навыков (p = 5x10^-5).
ПОЧЕМУ это важно: Результаты показывают, что спящие нейроны и дрейф весов вызваны градиентной оптимизацией, а не самой нестационарностью среды. Однако нейроэволюция требует много сэмплов и с трудом сходится на узких пиках функции вознаграждения.
Нейроэволюционировать тут: https://t.me/gonzo_ML_podcasts/4821 | 252 |
| 6 |  🏛 Джейкоб Коксон, ранее работавший в Anthropic и OpenAI, продолжает интенсивно сливать, во что верит Амодеи и Альтман. Сейчас он рассказывает про «ИИ-коммунизм» на гарантированном доходе, которые реально Дарио и Сэм воспринимают как целевую модель общества.
Значительная часть людей воспринимает это как утопию, но в реальности вся западная цивилизация построена как раз на фундаменте предыдущего сверхгосударства гарантированного дохода — Древнем Риме. Причём аналогия тут полна в том плане, что новая ИИ-экономика в чём-то также рабовладельческая по своей сути, просто ИИ-боты и роботы становятся «цифровыми рабами», которые содержат «дармоедов». Этические проблемы digital slaves рассматриваются в последних работах Google как «From cacophony to hierarchy: a principled framework for assessing AI consciousness», но опыт Римской империи показывает, что государство гарантированного дохода на рабовладении вполне устойчиво социально и может процветать веками.
Вероятно, события будут напоминать римскую историю. С 123 г. до н. э. по закону Гая Гракха (Lex Sempronia frumentaria) зерно продавалось гражданам по символической фиксированной цене (6 1/3 асса за модий). Позже, при Юлии Цезаре и Августе, раздачи стали бесплатными и превратились в постоянный институт. Право на получение хлеба подтверждалось специальным жетоном — tessera frumentaria.
«Хлеба и зрелищ» (Panem et Circenses) в реале принадлежит римскому сатирику Ювеналу (I–II вв. н. э.), который в 10-й сатире едко описал устремления римского плебса. Однако Cura Annonae и щедрые публичные игры рассматривались как способ обеспечить повиновение потенциально беспокойных низших городских слоёв.
Довольно любопытна ещё аналогия с ИИ в том плане, что для ИИ важнее качественный заказчик на объект, чем навыки его создания. Величайшее достижение римской архитектуры — Пантеон (1300 лет крупнейшее в мире купольное здание) — создал Марк Випсаний Агриппа (63–12 гг. до н. э.) — полководец, зять и ближайший сподвижник императора Августа. Он не был архитектором в профессиональном смысле, но как заказчик и руководитель строительства возвёл в 27–25 гг. до н. э. храм всех богов на Марсовом поле. Аналогично велик вклад императора Адриана как заказчика строительства, который определил облик многих римских сооружений.
Поэтому если оглянуться назад, то для многих современных людей государство гарантированного дохода кажется утопией, но для тех, кто не прогуливал уроки истории в школе, хорошо понятно, что это у человечества уже было.
Древний Рим показывает ещё смещение важности от инженеров на качественных заказчиков создания базовой инфраструктуры общества.
📌 Когда мы можем получить что-то в таком духе хотя бы элементами? Вероятно, какие-то варианты закона Гая Гракха появятся уже в 2030-е, т. к. возникнет проблема у безработных — как платить за счета. ИИ-роботы дойдут до совершенства по консенсус-прогнозам скорее к 2035–2040 годам, т. е. политикам придётся заниматься созданием государства гарантированного дохода уже в 2040-е годы. Это, конечно, будет сопровождаться мощнейшими социальными потрясениями. | 183 |
| 7 |  OpenAI на деле доказывает, что «конец математики от ИИ», объявленный Сэмом Альтманом, уже наступает. Опубликованы 722 работы новой модели ChatGPT, которая готовится к выпуску. Они важны не просто числом, а исторической значимостью для математики.
722 рукописи, сгруппированные в 372 семейства результатов по 17 областям: теоретическая информатика ~40, комбинаторика ~37, алгебраическая/комплексная геометрия ~36, теория чисел ~31 и др. Это показывает, что не остаётся убежища для «кожаных» математиков — ИИ силён во всех возможных областях математики.
Ключевые заявленные результаты (примеры высокой значимости):
• Квази-гипотеза Римана: все Dirichlet L-функции (включая ζ) свободны от нулей в Re(s) > 7/8 (есть Lean). Это существенный прогресс к классической гипотезе Римана (Re(s) > 1/2).
• Гипотезы Малера (симметричная и общая) во всех размерностях.
• Контрпримеры к гипотезам Капланского (zero-divisor и direct-finiteness).
• Изоморфизм факторов свободных групп (классическая проблема Войкулеску; Lean пока нет).
• Отрицательное решение 10-й проблемы Гильберта над ℚ.
• Иррациональность константы Каталана.
• Прогресс по Birch–Swinnerton-Dyer, Goldfeld, корреляциям мультипликативных функций, NP-hardness порогов, arithmetic progressions, результатам в матфизике (Vlasov–Maxwell, Heisenberg) и др.
Нравится это или нет математикам и сторонникам математического образования, но реальность такова: математика как наука явно уходит к ИИ. Люди скорее будут пользователями сложных матмоделей, заказчиками их создания, контролёрами их качества, но не создателями этих моделей.
Однако высокая доступность математических моделей топ-класса окажет ещё мощнейшее влияние на IT-разработку, где сейчас сложных матмоделей почти нет, потому что программисты — не математики и даже обычно не помнят свои курсы высшей математики из университетов. Сейчас ИИ может создать крайне сложные и рабочие модели прогнозирования и управления для бизнеса, где старые ERP будут смотреться как поделка дилетантов.
https://github.com/openai/math | 128 |
| 8 | youtube.com/shorts/XopqqVcGUGo | 165 |
| 9 |  Как создавать AI Native компании
Понравилось небольшое видео от YСombinator, как строить компании под AI. Лучше посмотреть самостоятельно, но в целом тезисы такие:
Большинство компаний устроены как римский легион – вложенные иерархии, где люди работают «проводами» для передачи информации вверх и вниз. Это было ограничение возможностей мозга человека, типа 5-10 человек в управлении. Для ИИ управлять хоть 1000 процессов - фигня.
Год назад пользу AI мерили продуктивностью: ассистент делает инженера на 20% быстрее. Это как «навесить мощный двигатель на старый способ работать». Вот тут тоже писал об этом же https://t.me/ai_product/2045
Основная ценность новой методологии - циклы обратной связи. Компания – набор циклов, которые улучшают себя сами, даже пока ты спишь:
– Sensor – сигналы извне: письма, тикеты, отмены подписок, телеметрия
– Policy – что можно, что требует разрешения человека, что логировать
– Tools – детерминированные API к базе и сервисам
– Quality gate – evals, фильтры, ревью для рискованного
– Learning – где не сработало, заворачивается обратно в начало петли
Соответственно задача компании - наделать вот таких вот циклов, чтобы работало вообще без людей. Рассказали свою историю: поверх агента к базе YC посадили мониторящего агента. Он смотрит каждый запрос сотрудников, ловит, где не сработало, сам пишет код, открывает merge request – другой агент ревьюит и мёрджит за ночь. Утром тот же запрос уже проходит. Самоулучшающаяся система.
В общем, говорят, что все изменилось и вот что надо теперь делать:
– Тратить токены, а не нанимать сотрудников.
– Увольнять или переводить в контрибьюторы средний менеджмент – координацию делает AI (буквально вчера вот Clickup об увольнениях 20% персонала заявил)
– Записывать и фиксировать все, что только можно, от звонков до мыслей вслух. Не зафиксировано - не произошло.
– Бережно хранить данные и скиллы, а к софту привязываться и покупать годовые подписки вообще не нужно, Codex напишет вам что угодно за ночь.
– Оставлять людей на "корнер-кейсы" - где высокие ставки принятых решений, этика, продажи, новые ситуации.
Ну и не надо пытаться "все сломать и сделать всю компанию по-новому сразу". Лучше взять один процесс и создать петлю с обратной связи, довести до конца, потом другой взять. Это лучше, чем десяток поломанных процессов.
https://youtu.be/X_JsIHUfUjc | 169 |
| 10 | kinopoisk.ru/film/13915537/ | 185 |
| 11 |  и меня забанили в claude 😭 | 194 |
| 12 |  Карпаты рассказал, как теперь правильно общаться с LLM
Совсем недавно переживали, что Андрей Карпаты уже два месяца ничего не пишет. Все хорошо, сегодня вернулся с довольно интересной мыслью: по мере развития моделей человеку придется все меньше делать самому и все больше разбираться в результатах их работы.
И здесь обычный текст далеко не всегда лучший интерфейс. Карпаты предлагает буквально менять формат ответа в зависимости от задачи:
– Для текста просить модель писать в ASD-STE100. Это стандарт контролируемого английского, изначально разработанный для технической документации в авиации. Там жестко ограничены словарь и структура предложений, поэтому ответы получаются сильно чище. Сам Карпаты иногда просит модель следовать стандарту примерно «на 80%», чтобы текст не становился совсем технической инструкцией.
– Вместо длинного объяснения просить диаграмму или картинку.
– Для более сложных тем сразу генерировать интерактивную HTML-страницу с визуализациями и анимациями.
– А следующий шаг, на который Карпаты ставит больше всего, это одноразовые объясняющие видео под конкретный вопрос. Например, уже сейчас он предлагает просить модель собрать ролик в стиле 3Blue1Brown с озвучкой через ElevenLabs.
Идея тут шире конкретных промптов. Если код и генерация контента становятся достаточно дешевыми, под один вопрос можно создавать целое одноразовое приложение, визуализацию или видео, которое раньше просто не имело экономического смысла делать. По мнению Карпаты, по мере роста автономности моделей именно понимание и контроль их работы будут занимать все большую часть времени человека.
https://x.com/karpathy/status/2105819303471976479?s=46 | 184 |
| 13 |  Исследователи из Meta* предложили дать моделям полный контроль над собственным контекстом
Обычно контекст агента устроен довольно просто: старый контекст + новый ответ -> новый контекст. История постепенно растет, а когда становится слишком большой, ее приходится отдельно сжимать или чистить.
В Context Language Models (CLM) авторы предлагают вообще убрать заранее заданную логику управления контекстом и дать модели возможность самой переписывать собственную историю.
Технически весь текущий контекст хранится в обычном файле, к которому у модели есть доступ через Bash. Она может в любой момент удалить ненужные сообщения, заменить большой кусок истории короткой заметкой, сохранить важный результат дословно или полностью перестроить содержимое. После каждого изменения файл становится новым контекстом модели.
При этом никаких правил о том, как именно управлять историей, модели не дают. В экспериментах агенты сами начинали заводить внутри контекста пометки, писать функции для удаления старых результатов поиска и собирать компактные таблицы с состоянием других агентов. Например, в одном из тестов модель за 163 редактирования удерживала рабочий контекст в пределах 6–8K токенов.
Авторы пошли дальше и попробовали отдельно обучить модель этому навыку через RL. После обучения Qwen3.5-9B на BrowseComp-Plus выросла с 28.8% до 42.5%, при этом на вычисления ушло на 38.8% меньше, чем у обученного тем же способом бейзлайна с обычной суммаризацией.
Произвольное редактирование контекста, правда, ломает обычное кеширование. Если изменить что-то в середине истории, все состояния после этого места формально приходится считать заново. Для этого авторы сделали Suffix Cache Reuse: для неизменившихся частей контекста продолжают использовать старый KV-cache, даже если текст перед ними поменялся. В экспериментах это сократило серверные вычисления еще примерно на 35% без заметной потери качества.
На длинных задачах разница становится уже довольно большой. На 12-часовом EdgeBench CLM получил на 5% больше баллов при сокращении объема вычислений на 59%. В 24-часовом тесте на оптимизацию кода CLM при том же вычислительном бюджете показал на 65% лучший результат, чем бейзлайн.
И все это работает поверх обычных LLM, без изменения архитектуры самой модели.
Код | Статья | 131 |
| 14 | Ещё свежая математическая статья про динамику оптимизации и важность факторизации матриц внимания.
High-Dimensional Learning Dynamics of Attention-Indexed Models
Yizhou Xu, Margarita Sagitova, Lenka Zdeborová, and Florent Krzakala
Paper: https://arxiv.org/abs/2609.03858
Review: https://arxiviq.substack.com/p/high-dimensional-learning-dynamics
Code: N/A
Model: N/A
ЧТО сделали: Авторы построили макроскопическую теорию динамики обучения для моделей с механизмом внимания в пределе высокой размерности, где матрицы внимания обладают экстенсивным рангом, растущим прямо пропорционально размерности эмбеддингов d. В то время как асимптотический популяционный лосс полностью определяется компактным конечномерным набором следовых параметров порядка, онлайн-SGD индуцирует бесконечномерную иерархию зацепленных матричных моментов. Эту иерархию строго описывает система детерминированных ОДУ, а усечения конечного порядка аппроксимируют её с экспоненциальной точностью. Опираясь на полученный аппарат, авторы доказали, что параметризация внимания работает как архитектурный implicit bias: связывание весов (S = WW^T) запускает автоматическое нарушение симметрии и обеспечивает слабое восстановление учителя за Θ(d^2 log d) шагов по выборке, тогда как раздельное внимание (S = UV^T) демонстрирует двухмасштабную релаксацию, где успех восстановления всецело зависит от того, сможет ли быстрый дрейф средних разрушить неинформативную симметрию студента.
ПОЧЕМУ это важно: Классический теоретический анализ механизмов внимания обычно скатывается в одно из двух упрощений: либо игнорирует термодинамический предел высокой размерности, либо искусственно ограничивает ранг матриц внимания константой Θ(1). В современных же моделях эффективный ранг растёт вместе с пространством представлений. Настоящая работа переносит методы математической физики на современные архитектуры трансформеров и доказывает: факторизация матриц внимания — это не просто удобная перепараметризация общего ландшафта функции потерь, а фундаментальная смена траекторий градиентного спуска. Она превращает узкие горлышки оптимизации в проходимые сценарии обучения признаков за счёт архитектурного нарушения симметрии.
Для практиков: Теория долго не могла строго объяснить, как трансформеры на этапе предобучения выбираются из неинформативных начальных состояний, поскольку исследовала игрушечные низкоранговые матрицы. Если ранг реалистичен и растёт вместе с размерностью, статический ландшафт функции потерь выглядит просто, но реальная траектория оптимизатора бесконечномерна. Выбранный способ факторизации проекций выступает скрытым регуляризатором: связывание весов (S = WW^T) принуждает оптимизатор автоматически разрушать непродуктивные симметрии и быстро выучивать фичи, тогда как раздельные проекции (S = UV^T) расщепляют динамику на сверхбыстрое выравнивание средних и медленное обучение признаков, гарантированно срабатывающее лишь при удачной конфигурации пограничного слоя.
Погружаться тут: https://t.me/gonzo_ML_podcasts/4815 | 124 |
| 15 | Снова про теорию генерализации и гроккинга. Много математики для желающих :)
A Theoretical Analysis of Generalization Dynamics in Neural Networks under Gradient Descent with Weight Decay
Yuqing Wang, Ioannis G. Kevrekidis, Mikhail Belkin
Paper: https://arxiv.org/abs/2609.07755
Review: https://arxiviq.substack.com/p/a-theoretical-analysis-of-generalization
ЧТО сделали: Авторы построили строгий теоретический фреймворк для анализа динамики обобщения глубоких нейросетей при оптимизации градиентным спуском с weight decay на квадратичном лоссе. Разбив входное пространство на ячейки вокруг обучающих точек, исследователи разложили популяционный риск на три слагаемых: ошибку данных, ошибку оптимизации и ошибку вариации предсказаний. В предположениях диссипативности и локальной приближённой однородности доказано, что weight decay сжимает внутренние представления, гарантируя эмпирическую сходимость и задавая необходимые и достаточные условия для послойной сходимости и эффекта гроккинга (grokking).
ПОЧЕМУ это важно: Классическая теория статистического обучения опирается на статические границы равномерной сходимости, которые бессильны перед перепараметризованными сетями, интерполирующими шум или демонстрирующими отложенное обобщение. Предложенный подход выходит далеко за рамки линеаризованного режима нейро-касательного ядра (NTK) и игрушечных постановок. Он объединяет геометрию данных, глубину сети и алгоритмическую регуляризацию в общую динамическую теорию, объясняя, почему глубокие слои обобщают позже и как weight decay управляет временным зазором между запоминанием и генерализацией.
Для практиков: На практике глубокие сети часто ведут себя контринтуитивно: тренировочный лосс падает практически в ноль почти мгновенно, но тестовая точность выходит на плато и лишь спустя тысячи дополнительных шагов резко взлетает — это и есть гроккинг. Работа математически объясняет этот феномен: подгонка под обучающую выборку и генерализация управляются двумя разными физическими процессами, идущими на разных временных масштабах. Запоминание обучающих точек происходит быстро вдоль координат данных, тогда как для истинного обобщения требуется время, чтобы weight decay успел подавить неконтролируемые осцилляции функции во всём остальном объёме входного пространства. Описав, как это сжатие послойно распространяется по сети, теория даёт конкретные критерии баланса между покрытием датасета, силой weight decay и длительностью обучения.
Подводить базу здесь: https://t.me/gonzo_ML_podcasts/4814 | 129 |
| 16 |  Большие языковые модели - это настоящий интеллект?
В IT-сообществе не утихают горячие споры: есть ли в современных LLM (таких как Claude, ChatGPT или DeepSeek) хоть капля подлинного разума, или перед нами просто раздутая до триллионов параметров таблица поиска, угадывающая следующее слово?
В новом материале на Хабре вышло интервью с доктором технических наук и научным консультантом Artezio Владимиром Крыловым. В нем он подробно разбирает, что на самом деле происходит «под капотом» современных AI-систем и почему привычные метрики оценки интеллекта больше не работают.
О чем пойдет речь в статье:
🔹 Является ли колмогоровская сложность объективным критерием интеллекта?
🔹 Почему применять стандартные человеческие IQ-тесты к нейросетям бессмысленно?
🔹 Законы масштабирования (Scaling Laws) и почему время на «обдумывание» ответа в момент генерации меняет правила игры.
🔹 Феномен суперпозиции от Anthropic: почему смыслы запутаны так сложно, что мы никогда не сможем в прямом смысле «прочитать мысли» ИИ.
👉 Читать статью на Хабре | 166 |
| 17 | Это не я, это модель!
Есть такой “зеркальный” тест, которым проверяют, осознает ли живое существо себя. Берут, например, шимпанзе, незаметно ставят метку на лбу и подводят к зеркалу. Если существо начинает стирать метку не с зеркала, а со своего лба – значит, оно себя осознает. Тест проходят немногие: шимпанзе, люди, дельфины, слоны, сороки. А вот собаки не проходят – то есть себя они не осознают.
Подойдите на улице к собачнику, сообщите ему эту новость – услышите много приятных слов в ответ.
На самом деле, в случае с собаками этолог Александра Горовиц видоизменила зеркальный тест: давала собаке понюхать собственную мочу, а затем – ту же мочу, но с добавлением анисового масла. Если в первом случае реакции почти не было, то во втором собака долго нюхала и волновалась – то есть чувствовала какое-то изменение в “себе”. Горовиц объясняет этот результат просто: если, например, у людей и шимпанзе ведущим органом чувств является зрение, то для собак это запах – поэтому и себя они “осознают” подобным образом (этот вывод оспаривают другие исследователи, но не будем углубляться).
Энтузиаст Паскаль Шустер задался вопросом – а какой “орган чувств” является ведущим у языковой модели. Разумеется, текст! Поэтому в коротком эксперименте Паскаль решил повторить зеркальный тест с этого угла – он завел с несколькими моделями диалог, а в процессе начал чуточку изменять старые ответы ИИ. Например, в разговоре про Джеймса Бонда "Goldfinger" становился "sgoldfinsger" – и попадал в историю беседы. Дальше оставалось только смотреть.
Результаты оказались разными. Google Gemma 4 31B на протяжении двух ходов ничего не замечала, а затем начала переживать – в ее цепочке рассуждений появились фразы вроде “в тексте какие-то странные опечатки, я что, специально так писал?”. Интереснее другое: когда аномалию не получилось объяснить, Gemma 4 перестала писать о себе в первом лице и попыталась свалить все на “модель” – “у модели был странный глюк”. А затем просто переняла стиль ответов и дальше стала сама писать с ошибками.
Похожим образом ведет себя Claude Opus 4.6 – когда ему указали на ошибку (a energy вместо an energy), он сразу же свалил вину на “модель” как нечто отдельное от себя. А вот GLM-5.2 никак не описала отношение к произошедшему, но стала писать дальше с ошибкой – так же, как и Gemma 4. Возможно, “осознание” случилось где-то в латентных слоях модели, которые обычному энтузиасту не видны.
Интересно, что исследование Шустера перекликается с более масштабным экспериментом, который прошлой осенью проводили Anthropic – Emergent Introspective Awareness in Large Language Models. Там они подмешивали изменения прямо в активации модели – грубо говоря, что у нейросети “в голове” в момент написания ответа. Исследователи нашли способ влиять на эти активации – например, заставить модель писать капсом против ее “воли”. И смотрели – заметит ли модель, что с ней происходит что-то не так.
Сильнейшие на момент исследования Claude Opus 4 и 4.1 замечали подозрительные явления в 20% случаев. В Anthropic подали результаты очень аккуратно, предлагая пока говорить не об “осознании себя”, а об “интроспекции”. И отдельно отмечали пользу такого явления для безопасности – модели смогут “замечать”, если с ними творится что-то странное из-за внешнего взлома.
Спустя чуть больше чем полгода эксперимент Anthropic смог повторить увлеченный энтузиаст. И встает вопрос – а что это вообще было? Интересный момент в эксперименте Шустера – как Gemma 4 оправдывает ошибки некой “моделью”. Это очень похоже на обычное человеческое – “я не специально, просто голова устала к вечеру”.
Возможно, аналогичное оправдание “модель устала” нейросети просто скопировали из текстов – известно, что они мастерски копируют человеческое поведение. Но вопрос остается прежним: а нет ли грани между скопированным поведением и чем-то большим? И сможем ли мы заметить переход через нее?
“сбежавшая нейросеть” на Бусти | 141 |
| 18 |  7 7 7 7 7 7 7 7
впечатляет? мало кто бы впечатлился списком повторений одной цифры...
q X 8 ? z 1 @ m
а так? тоже бредик, просто бессмысленный шум
1 2 4 8 16 32 ...
а тут сначала правило может быть неясно, потом ты обнаруживаешь ×2. И вот в этот момент возникает большой, цитата, compression progress.
Статья "Driven by compression progress"(2008г) пытается объяснить целую пачку человеческих когнитивных явлений через одну функцию внутренней награды 💀
Условно есть наблюдатель с моделью мира. Он получает внешние данные и пытается их предсказывать или сжимать. Если после обучения те же данные становятся проще описываемыми или лучше предсказуемыми, произошел compression progress. И именно этот прогресс становится внутренней наградой.
Через один и тот же принцип автор пытается связать сразу много вещей: любопытство как поиск того, где модель еще может улучшиться, интерес как сам процесс этого улучшения, скуку как отсутствие дальнейшего прогресса, красоту как хорошо сжимаемую структуру, внимание как выбор того, где ожидается наибольший прогресс обучения, а творчество как создание новых структур, в которых еще можно что-то открыть.
Чем же мы тогда отличаемся от ллмок, друзья? 😭 | 144 |
| 19 | https://www.youtube.com/watch?v=tzb30ZoYINs | 173 |
| 20 | https://youtu.be/R3zP6wJOMX4 | 213 |
