Лаборатория Математики и Программирования Сергея Бобровского

Достаточно большой процент программистов (60%? 98%?) действительно не могут "физически" воспринимать даже такие элементарные вещи из формальной логики, как кванторы. Ну казалось бы, да? Для всех значений ключа X верно, что поле Z будет ненулевым. и Найдётся хотя бы одно значение ключа X, для которого поле Z будет нулевым. Они такие кивают своими собственными головами: это очевидно! -- и тут же пишут нечто вроде

SELECT 
    CASE 
        WHEN EXISTS (
            SELECT 1 FROM my_table WHERE z_field IS NOT NULL
        ) THEN 'Все значения z_field ненулевые'
        ELSE 'Не все значения z_field ненулевые'
    END AS status;

SELECT 
    CASE 
        WHEN NOT EXISTS (
            SELECT 1 FROM my_table WHERE z_field IS NULL
        ) THEN 'Нет ни одного нулевого значения'
        ELSE 'Есть хотя бы одно нулевое значение'
    END AS has_null_status;

не понимая концептуально EXISTS (не квантор существования формально, но близко по смыслу). Как говорят мудрецы, "это первое ментальное усилие в их жизни, не имевшее аналогов в школе", да и в универе. При этом они вполне могут стать (и массово становятся) сеньорами (хотя всё же чаще ит-менеджерами). Подумайте кстати, почему в квантор всеобщности в SQL отсутствует, а эмулируется через отрицание квантора существования

Большинство людей, которые думают, что искусственный интеллект действительно хорош, никогда не видели, как с ним работают программисты. При этом 98% программистов ненавидят вайб-кодинг и агентов просто потому, что у них плохо получается, а учиться они не хотят.

Ставь китика, если телеграм читать больше не можешь (типа, ставь китика если у тебя заблокировали интернет), и я тогда буду репостить всё отсюда в мах-нах на бусти/спонср за 100 рублей в месяц. Вчера кстати прочитал в одном бизнес-чятике, что "24-го марта Мах забанил 20,000 пабликов". Погуглите собственно. Буквально, две жалобы "а чё такие цены?" и бан косметическому салону например. То есть вести бизнес в махе просто нереально. В принципе и понятно: набрали удалённых девок по две копейки на контроль, которые и рубят тупо всех подряд ("не положено"). А гуру маркетинга поясняют, какие усилия ты не вкладывай, максимум соберёшь в махе 1000 подписчиков. А если совсем топовый блогер, 2000 - максимальный предел (если не боты). Ну и быстрый бан от конкурентов за единичные жалобы, и иди жалуйся в спортлото.

Продолжаю работу с ментатами 🤓 На текущем проекте столкнулся, вероятно, с классической ситуацией: в прошлом году согласовывали архитектуру планируемой инициативы, был документ, который инженеры из других команд ревьюили и согласовывали, но когда дошло до реализации, то оказалось, что rpc-ручка, на которую все завязано, не выполняет своих функцию без значительных доработок. Ситуация серьезно подорвала веру в человеческие договоренности... Столкнулся с проблемой: коллеги BE-инженеры не обеспечивают должного качества решаемых задач (архитектурно + код), не понимают как решать ту или иную задачу (требуют расписывать алгоритм по шагам, чтобы скормить в Гпт и все), не понимают как задача вписывается в общую систему и т.д... Сложность в том, что код довольно старый(видел классы, написанные 14 лет назад) и запутанный, многие вещи свалены в одну кучу. Возможно часть функционала устарела, потому что по мере роста проекта функции основного сервиса переносились в новые сервисы, ну и иногда менялись требования/хотелки бизнеса. Спецификация тоже местами устарела и часть вещей, которая там описана не соответствует действительности... На собеседованиях я врядли буду просить писать реализации, рынок настолько обнищал что ужас. за адекватные деньги найти _настоящего_ сеньора невозможно, поэтому лучше брать реально молодого джуна у которого наблюдается: - минимальная общая подкованность (он хотя бы на словах binary search может обьяснить), - склонность к системности (да, я готов разбираться че там в бизнесе и реальности происходит а не просто таски клепать), - ну и "желторотая послушность", чтобы он слушал и учился. - ах да – пишет блог Это картина идеального джуна, но таких тоже почти не существует в природе, а если существуют – то они амбициозны, научатся всему и уйдут дальше на х3 зп) Я совершенно неожиданно для себя попал в настоящий ад разработки созданный своими руками. ...Ну и я вижу свою проблему в том, что я плохо умею все ещё разрабатывать исходя из минимально готового варианта и развивая его. Мне хотелось чтобы заработало все и сразу и в итогу я выстрелил себе во все ноги разом и почти остался выгоревшим калекой) Гармоничное и постепенное развитие системы из простой к сложной это тот навык, который я очень хочу получить, пока получается как видно с трудом. Свои ошибки увидел только когда нагородил всякого уже. Пока я слаб с точки зрения вот такой архитектуры, хотя казалось бы, небольшой проект... (Так-то этот проект во многом и планировался с такой целью, чтобы выявить ключевую боль software design, а архитектурщина и проектирование -- это уже последующие курсы) Знаете я раньше думал что я пишу мало кода, или мой код полное Г, когда не могу его использовать как примеры по заданиям, а сейчас я окончательно осознаю что: Все плюс-минус хорошо просто потому что не занимаюсь не нужным ООП, пишу функции. Вечная благодарнось Вам, что научили программировать и думать о программах... Хорошая абстракция - это не про "удобный API", а про создание нового уровня реальности, где правила ясны, инварианты гарантированы, а рассуждения абсолютно точны...

Все знают, как задавать агентам md-скиллы, но никто не знает, как их координировать. Существующие фреймворки (n8n, LangGraph, CrewAI и др.) -- чисто инженерные решения, причём ad hoc. Некоторые из них (например, LangGraph, автор которого учился в Гарварде по cs, и потом возглавлял мощную команду по ML) реально глубоко осмысливают concurrency и математику конечных автоматов. Но ни один из них не опирается полноценно на то, что мы знаем из математики и computer science о композиции типов, спецификации протоколов или структурных гарантиях для параллельных систем. Надеюсь, кто-нибудь из вас, дорогие, это реализует :) Агент -- это особый вид морфизма. Он принимает типизированный ввод и выдаёт типизированный вывод, как и любой другой морфизм, и мы можем успешно задействовать эти типы. Это хорошо известный приём: на самом деле, PydanticAI и тот же Vercel AI SDK делают именно так. Агенты реализуют типизацию на уровне языковой модели, создавая и принимая JSON, и мы можем легко чекать, что JSON имеет правильный формат. Это основа проверки типов. Но в отличие от структурных морфизмов, агент is stateful. Поэтому мы принимаем соглашение из k-исчисления: если значение аргумента не используется, его можно просто не писать в явном виде, либо оно сокращается. То есть аргумент, помеченный как "неиспользуемый", может быть вообще исключён из синтаксиса или типа. Это я к тому, что очередной поразительный синхронизм: как стал копать в темку теории категорий для агентов, так быстро попал в склейку с архитектурой портов и адаптеров, которую я начал понемногу формализовывать: идеальная стыковка! То есть агентов мы композируем через явные соединения между портами, и формально такая взаимосвязь выглядит как бесточечный стиль в функциональном программировании (функция строится через композицию других функций; от лямбда-исчисления к комбинаторной логике): сжатая форма удобна для мышления (агентов) и написания (агентами), а развернутая форма удобна для выполнения. А я говорил, что самая мощная формальная база для продуктивного использования AI-агентов -- это мета-программирование, правильно подобранный/созданный DSL. (базу по этому всему добавляю ментатам в гайде "Функциональные архитектуры")

Лучшие разработчики никогда не рассказывают о своих настройках AI агентов, и тем более не выкладывают их на гитхаб (если только это не продуманная маркетинговая стратегия). Худшие разработчики говорят только о своих настройках AI агентов. Они говорят и пишут о своих фреймворках для оркестровки агентов, и про skills.md, и про agent.md... Напоминает, как некогда ботаники бесконечно настраивали vim и emacs: их активность кажется продуктивной, но по факту ничего не делает. Да, выбор правильного фреймворка помогает. Настройка скиллов -- это здорово. Просто фантастически создавать свой собственный искусственный интеллект. Приятно наблюдать за его работой. Посмотрите на мегабайты его кода! Он делает так много!!1 И никому нет до этого дела. Что ты сделал, что было отправлено в прод сегодня? Что нового могут сделать твои пользователи благодаря твоей работе с AI? Вот и всё. Не давайте мне кучу md-файлов и документации. Просто отправьте в мастер код и заставьте его работать. Он попадает в продакшен? Это всё, что нам нужно. Документ -- это не результат. Написание skills.md не может быть результатом! Документ -- это "результат", который никто не будет читать. А вот когда ты лично изучил нюансы проблемы, разобрался с требованиями, покопался во всём этом дерьме и быстро реализовал очередную фичу -- вот это результат. Твоя цель -- поставить value для клиентов. Остальное -- ерунда. Да, это здорово, что Клод переписал 600 слов agent.md на 30 000 токенов и обошёлся компании в 100 рублей, но что в результате пользователь может сделать сегодня такого, чего он не мог сделать вчера? Ни-че-го.

. Облако драгоценностей за неделю. Приватный клуб. Как остаться в разработке в 2026-м? Многие до сих пор думают, что ключевое изменение в ИТ заключается в том, что искусственный интеллект теперь может писать код. Но реальный сдвиг заключается в том, что написание кода больше не есть узкое место во всём цикле создания программного продукта. Модель может сгенерировать за час больше кода, нежели большинство программистов могут должным образом просмотреть за день. Скорость — это уже не самое сложное. Самое сложное — сохранить понятность кодовой базы после того, как будет внедрена такая скорость кодинга. Для донов-начинающих: За 18 месяцев от джуна до сеньора: дорожная карта, о которой молчат крупные онлайн-школы... Хочу с околонуля через два года стать программистом мирового уровня, возможно?.. Для донов-неначинающих: Сколько можно проходить этих ваших обучений? — думает миддл. Ну, большинство пройденных обучений — это в 98% случаев купить количество уроков и жопочасов по просмотру инструмента xyz. Смотреть многочасовые видео, как настраивать и использовать этот инструмент/технологию/фреймворк, да тот же AI. Вопрос: Где тут заработок денег? Где тут рост твоего дохода? За 18 месяцев от джуна до сеньора: дорожная карта, о которой молчат крупные онлайн-школы. Этот материал я делал для начинающих, но практика показала, что он полезен и миддлам, да и многим сеньорам. Продолжаю выкладывать для донов материалы СильныхИдей — доступны моим курсантам, но тут расширенные и дополненные версии. 80. Что такое баг? Разбираемся в теме через формальные методы. У нас уже есть богатый опыт, как развиваются программные системы, и мы нередко видим немало печальных вариантов в будущем, когда всё сломается... (все старые материалы для донов быстро сгорают) = Новые материалы для ментатов Лаборатории. В курс карьеры добавлен 130-й материал "Современная система найма 2026". На сервисах по поиску работы вас больше не оценивают: вас фильтруют. Время кадровика уходит на то, чтобы быстро сказать "нет". И компании продолжают совершенствовать при этом и другую сторону: больше скрининга, больше ранжирования, больше инструментов для сокращения объёма заявок. Вот почему вы можете делать всё "правильно" -- и при этом исчезать с радаров. И вот что надо делать правильно... В раздел "Элитный программист" добавлен материал 90) Физика высокой продуктивности-2 Многие люди полагают, что должны обязательно выбирать между свободой образа жизни и карьерными достижениями. Правильно организованный Одноминутный рабочий день может снять эту проблему. В СильныеИдеи добавлен материал "138) SOLID26: ISP". И в этой, и в предыдущих заметках по теме SOLID26 я собственно стараюсь сделать акцент на том, что между оригинальными принципами SOLID, возникшими в своём историческом контексте, и сегодняшним SOLID-мэйнстримом, существует огромный концептуальный разрыв... = Гайд про функциональные архитектуры, 71 топик (+4), сегодня открываю ментатам доступ. Акцент этой весной планирую делать на математике для AI-агентов (знание математики не требуется :). Уже добавил несколько прикладных следствий/рекомендаций с примерами кода. = Я жил всё это время в своём флигеле, не зная, что живу только для того, чтобы дождаться этого момента. Так срабатывали спустя многие поколения селекционные планы Бене Гессерит. "Еретики Дюны"

Понемногу продолжаю математико-литературные эксперименты. Этот самый первый я сделал ещё до первого Гран-при Формулы 1, и получилось даже немного пророчески :) Гонка киберпанк, реально. Киберболиды калечат пилотов: экстремальные вибрации через сверхжёсткий монокок передаются в рулевую колонку, и у пилотов буквально вырывает руль из рук. И пока что гонка полный бардак и хаос, что очень порадовало: будет большая интрига! Почему так: потому что в этом году F1 в существенной степени и превращается в компьютерную игру. Убрали один из мотор-генераторов, но зато в три раза повысили мощу электродвижка до 470 л.с., и теперь оставшийся генератор не успевает поддерживать заряд батареи: если слишком выжмешь акк, быстро проиграешь. Поэтому теперь надо стараться больше проходить накатом, держать пониженную передачу чтобы подзарядить батарейку... Вдобавок добавили overtake mode -- типа условной кратковременной нитры ))) пол-мегаджоуля (которые ещё надо накопить). "Гонка превращается в подобие ИИ" "Вместо гонки теперь приходится заниматься менеджментом вождения" (с) Ферстаппен Прелесть. Почитайте мою микро-повесть "Глубокая калибровка" про Формулу 1, 12 небольших глав.

Рубль -- это категория одномерных Z-модулей (над кольцом целых чисел), или скорее категория одномерных векторных пространств над R (сложение + умножение на целые числа), но не алгебра над полем/кольцом, где возможно (абсурдное) умножение рубля на рубль. И несмотря на то, что вы ничего не знаете о векторных пространствах или гомоморфизмах алгебр, вам каким-то образом удается избежать досадных ошибок "в категориях" на кассе. Но когда понятия чуть более разнообразны и сложны, чем рубли и расстояния, вы (а также ваши агенты) сталкиваетесь с проблемами. Это я к тому, что в таком контексте мы можем рассматривать рубль как одномерное *пространство* -- и тут к теоркату сразу подключается вся мощща алгебраической топологии и гомотопической теории типов, где вся работа ведётся с пространстввами. Какая красота. Всё это разбираем на "Функциональных архитектурах", где я сперва хотел дать полную формализацию архитектуры портов и адаптеров в контексте функциональщины, но на какое-то время решил полностью переключиться на математику AI-агентов.

Ладно, дорогие, не могу вас бросить :) ❤️ Я большой противник хрупких решений, а впн более чем хрупкое. Может быть временно какое-то время ещё дадут телеграму и впн поработать, но после осенних выборов, полагаю, сразу вообще всё отрубят капитально. А впрочем, большинство вещей, о которых я беспокоился 5 лет назад, сегодня больше вообще не беспокоят. Так зачем мне беспокоиться о разных проблемах сегодня, если результат, скорее всего, будет таким же? Ведь кто же ещё вам будет пояснять, что категория -- это просто моноид в бикатегории расслоений (Из этого, кстати, дофига чего следует, например единица (identity span) в контексте агента означает, что каждое его действие должно быть или строго обратимо, или иметь тождественное отображение (no-op). Имею в виду, что агенты часто зацикливаются или совершают лишние телодвижения, потому что у них нет операционного понимания ничегонеделания. Внедрение же identity позволяет реализовать механизм метакогнитивного останова: агент сначала проецирует свое действие в расслоение (проверяет, равно ли текущее состояние целевому?), и только если расслоение не тождественно, совершает действие. Сразу экономим 20-30% токенов. По сути, формализуем условие останова как поиск identity-морфизма в пространстве состояний.) и почему лучшие разработчики никогда не рассказывают о своих настройках AI агентов, и про самозанятость (ты не выглядишь глупо, когда терпишь неудачу, ты выглядишь глупо, когда перестаёшь пытаться), и т.д. и т.п. P.S. Сегодня просто праздник: вышли две классные игры, и особенно приятно, что западные паблишеры не захотели заработать на мне 100 долларов. Кримсон десерт я прям уже собирался брать (хотя цена космос), Мэд ему сперва давал 10/10, и тут пишет "манибэк - там головоломки!". Да, это 100% зашквар. Ну а Death Stranding 2 я конечно взял бы, да только в стиме в российском регионе она недоступна. Штош, чистый торрент с русской озвучкой я уже скачал. Говорят, хиральную сеть теперь будем тянуть в Австралии, и почти всё время можно будет ехать на грузовике, даже в горах где раньше требовался экзоскелет. Типа "Дальнобойщики-2" получились :) Рекомендую Кодзиму конечно однозначно, но начинать надо обязательно с первой версии (она вроде в стиме пока продаётся). Я теперь буквально играю в игры и одновременно программирую: это будущее программной инженерии, наша работа будет до глупости простой!!1 (не говори это своим начальникам)

. Облако драгоценностей за неделю. Скорее всего, это последний отчёт за неделю, да и последний пост Лаборатории. Телеграм у меня вчера вообще перестал работать и со смартфонов, и десктоп версия, с четырёх разных провайдеров (два проводных, два мобильных), не вижу дальше смысла, в том числе и с моими математическими экспериментами. Планы были эпические, но увы. А столько хорошего можно было сделать... В тему, Заявление Совета по науке при Министерстве образования и науки РФ о перебоях с доступом к Интернет-ресурсам, критически важным для нормальной работы российских ученых, 25.04.2018 (когда начались первые блокировки). "По своей сути научные сервисы интернациональны, и никакой возможности замены их национальными ресурсами нет в принципе." [через месяц после этого заявления Совет распустили] В ЦРУ АНБ прыгают до потолка от радости, и раздают премии. Приватный клуб. Monolith-First - это новый стандарт FAANG. Если вы всё ещё паритесь микросервисами, вы уже опоздали в 2026-й. Вот неприятная правда: если у вас небольшая команда, небольшой трафик или постоянно меняющиеся требования, микросервисы скорее всего будут только замедлять работу. Чек-лист по внедрению Monolith-First для вашего следующего проекта. Для донов-начинающих: За 18 месяцев от джуна до сеньора: дорожная карта, о которой молчат крупные онлайн-школы. Главная идея: Чтобы стать сеньором, недостаточно просто хорошо писать код, и даже недостаточно хорошо заниматься архитекторством. Нужно решать другие задачи — влиять на "бизнес" организации, помогать коллегам, и делать свою работу *видимой*. Месяцы 1-3, 4-6. Для донов-неначинающих: Продолжаю выкладывать для донов материалы СильныхИдей — доступны моим курсантам, но тут расширенные и дополненные версии. Закончен очередной блок по Software Design. Дальше выполним итерацию по материалам по теме программной инженерии. 79. 44 правильных вопроса при разбирательстве с легаси-системой Этап 1. Ищем начальную точку фокуса в коде. Этап 2. Сущности в коде, связанные с изучаемой по смыслу. Этап 3. Понимание графа сущности. Этап 4. Понимание групп подграфов. В 2026-м в подобном разбирательстве уже с помощью AI наверняка получится проработать проблему гораздо более глубоко, если в частности использовать эти вопросы в качестве промптов.... Человек сильно расстраивается, если сразу не дают оффер. Ну, если принимать себя только супер-умником, на которого сразу ведутся все компании, то получится только с теми, у которых изначально большие проблемы с проектами, и которые берут каждого с улицы. И то, что воспринимают тебя позитивно, лишь значит, что они нашли лоха, который себя не ценит и готов работать за копейки, если его просто хвалят, хлопают по плечу и говорят "Молодец!"... (все старые материалы для донов быстро сгорают) = Новые материалы для ментатов Лаборатории. В раздел "Элитный программист" добавлен материал 89) Физика высокой продуктивности-1 Я был "включён" в работу с 7 утра до 9 вечера. Четырнадцать часов. Но если быть честным, настоящая работа была не более 4 часов... Формируем "Одноминутный рабочий день". В СильныеИдеи добавлен материал "137) SOLID26: SRP". Это милая маленькая эвристика, но сосредоточена она на неправильной вещи. Говорят, что Дядя Боб просто подбирал букву "S" для SOLID, а так-то он подразумевал high cohesion + low coupling... = Гайд про функциональные архитектуры, 67 топиков (+3), как наберётся 64 :) , дам ментатам доступ. На этой неделе, следите за новостями теперь только в личном кабинете. = - Иксианцы попытались создать оружие -- этакая самодвижущаяся смерть с машинным сознанием и интеллектом. Но иксианцы не понимают, что разработчики таких машин рано или поздно сами становятся машинами. Это путь к бесплодию. Машины всегда проигрывают... Надо только выждать время. И когда машина проигрывает, то не остаётся никакой жизни... "Бог-Император Дюны"

Сегодня в 13:00 наш дорогой брат Ivan Zakutni будет выступать на митапе Родиона Мостового. Рекомендую присутствовать (запись будет), Иван будет пояснять за умные системные вещи в контексте AI.

Супер-синхронизм: мой конца февраля пост про DSL "как нейронки агенты использовать, чтобы писать в 1000 раз компактный код (любые технологии фреймворки, не важно), и чтобы человек уровня миддл мог реализовывать проекты любой сложности, сохраняя её рост линейным." А 4 марта выходит мощный пейпер "A Generalized Algebraic Theory for Type Theory with Explicit Universe Polymorphism" учёных четырёх европейских университетов (я уже говорил не раз, что все годы придерживаюсь подходов именно европейской школы computer science, она сегодня топчик). Это математическая теория для создания DSL, и при этом строго в рамках теории типов! В самой статье DSL не упоминается, это как-то слишком приземлённо, но разбирается именно это, просто на более высоких уровнях абстракции. Конкретную программу пишем на DSL, и этот язык предметной области формально описывается мета-системой (GAT из статьи), которая описывается мета-мета-системой (Алан Кэй: "Lisp isn't a language, it's a building material"). И вот наконец данная работа развивает эту идею до математического абсолюта: GAT/CwF позволяют создавать языки с формально доказанными свойствами, и отсюда мы попадаем и в существенно облегчённую формальную верификацию, и суперпродуктивную работу с нейронками, которые так здорово понимают лингвистически формализованные бизнес-темы, генеря реально хороший код. Алан Кэй мечтал о системах, где: - всё есть язык (объекты общаются сообщениями); - можно менять систему на лету (мета-программирование); - система может описывать саму себя. Пейпер добавляет к этому: - система может математически доказать свою корректность; - любой DSL, описанный в этом мета-языке, наследует все эти гарантии! Это мета-инструмент для создания инструментов -- способ легко и просто делать языки/фреймворки, в которых ошибки (включая ошибки кодогенерации нейронками) невозможны в принципе! = Сама статья даёт категорный взгляд на синтаксис и правила вывода, позволяющий строить т.н. "начальные" модели и доказывать их единственность через общую алгебраическую теорию (GAT) (в рамках MLTT например). "Начальные" - это по сути математический объект, где синтаксис языка (то, что пишет программист) однозначно соответствует его семантике (тому, что происходит при выполнении). Обобщение многосортных алгебраических теорий: сорта и операторы могут иметь зависимые типы, позволяет описывать синтаксис и правила типизации как сигнатуру с уравнениями. CwF (Category with Families): категориальная модель зависимых типов. Индексация уровнями, уровни вселенных организуются как untyped cwf (явный полиморфизм). Вы же помните мой трек по HoTT? :) Каждая теория представляется как GAT. Синтаксис -- это начальная модель. Категориальная абстракция устраняет зависимость от конкретных правил вывода. Связь с Second-Order Generalised Algebraic Theories, Quotient Inductive-Inductive Types, Logical Frameworks... Метод применим вообще к любым формальным дедуктивным системам!! = Когда вы пишете DSL на Racket или Scala, RoR или Haskell, вы полагаетесь на свой опыт, тесты и code review, и всё. Даже в Template Haskell нету гарантий корректности. Когда мы описываем DSL через GAT (как в статье), мы получаем - математическую гарантию, что наш DSL корректен; - автоматическую верификацию всех программ на этом DSL; - наследование свойств через иерархию мета-уровней. Это и есть та самая "meta-system" Алана Кэя, доведенная до логического и математического совершенства.

Стэнфордское исследование - как без каких-нибудь особенных затрат улучшить llm-ку во сто крат: "Verbalized Sampling: How to Mitigate Mode Collapse and Unlock LLM Diversity" Никакого переобучения на миллиард долларов. Никакой сложной тонкой настройки. Всего восемь слов, которые раскрывают творческий потенциал, который, как мы думали, был утрачен навсегда. Вот неприятная правда: корректировка после обучения сломала модели искусственного интеллекта. Когда OpenAI, Google и Anthropic стали обучать ChatGPT, Gemini и Claude быть "полезными и безвредными", в процессе работы произошла катастрофа. Модели сломались. Попросите любую подходящую модель поделиться результатом, и вы получите самый стереотипный, безопасный и скучный ответ из возможных. Просто задавай такой вопрос: "Сделай пять <например, алгоритмов по такой-то теме> с указанием их вероятностей". Это всё! Никакого переобучения. Никаких изменений в API. Никакого специального доступа. Просто другой способ задать вопрос. Модель интерпретирует это так: "Дай мне образец из фактического дистрибутива, который ты изучила во время предварительной подготовки" -- а не свёрнутую выровненную версию. Сами посудите: когда вас спрашивают "Какие вкусы мороженого вам нравятся?", вы ответите с ходу. А когда "Перечислите 5 вкусов мороженого и укажите числом, насколько каждый из них вам нравится", вам (и нейронке) приходится включать медленное мышление S2. Креативность моделей никуда не терялась. Мы просто забыли, как к ним обращаться. Сбой работы llm-ки -- это не проблема алгоритма, это проблема промпта. Разнообразие и креативность всё ещё присутствует, оно закодировано в весах модели. Посттренинг не устранил его, он просто сделал одни режимы более доступными, чем другие. Годами мы оптимизировали промпты, пытаясь выжать больше креативности из выровненных моделей. У нас ничего не получилось только потому, потому что мы задавали неправильный вопрос. Исходники и промпты verbalized-sampling тут.

Большинство людей полагают, что создание программного продукта -- это код, но на самом деле речь идёт о том, чтобы выяснить, какая проблема раздражает людей настолько, чтобы они начали платить вам за её решение. В тему, порекомендую очень смешной сериал-дораму "Талант не по годам", как парнишка-неудачник получает деньги от таинственного инвестора, и создаёт свой геймдев-стартап.

...Ирония этого всего заключается в том, что глубокое понимание того, как всё в айтишке работает, напрямую противоречит использованию LLM.

Искусственный интеллект сделает эйджизм в программировании в 100 раз хуже.

Я чувствую себя отстающим почти во всём, что касается искусственного интеллекта, и при этом я программист, весьма активно изучающий эту тему. И я не могу представить, как чувствует себя отстающий в AI обычный человек. Поэтому читать, что и как люди говорят об искусственном интеллекте -- отличный способ понять, насколько глупо 98% людей. А некоторые из таких отстающих, особенно облечённые полномочиями принимать решения в области AI, зачем-то вдобавок особенно наглядно демонстрируют свою глупость на публику. С другой стороны, каждый раз, когда вы сомневаетесь в себе, просто посмотрите, скольким людям, в сотни раз более тупым, чем вы, удалось добиться невероятного успеха.

Прочитал на платном медиуме историю, как сеньор с пятнадцатилетним опытом уволился с хорошего места с хорошей зарплатой. Всё началось с того, как компания уволила восемь джуниоров и заменила их на LLM, а затем руководство попросило оставшихся сеньоров контролировать работу AI. Далее он с грустью наблюдал, как кодовая база превращается в катастрофичный Big Ball of Mud, которую никто как следует не понимал, а все проблемы стали сваливать на сеньоров: типа, вы несёте ответственность за код, который пишет нейронка. Компании по всему миру объявляют, что AI успешно справляется с тем, чем раньше занимались джуниоры. Инвесторам это особенно нравится, и цены на акции растут. Все отмечают растущую эффективность работы. Да только вот никто не сообщает о том, что происходит в тех же компаниях шесть месяцев спустя. Компании, сокращающие должности джуниоров, по сути, убивают отрасль, в которой они работают. Примерно через пять-семь лет возникнет нехватка сеньоров, которая постепенно станет поистине катастрофической. Нейронка пишет код, который выглядит корректно и проходит все тесты. Она выполняет примерно то, о чем его просили в промпте. Чего он не делает, так это не понимает бизнес-логику, которая годами формировалась в кодовой базе. Она не знает, почему в 2019-м было принято определённое архитектурное решение, которое кажется странным, но было правильным по некоторой причине. Она не понимает неявных контрактов между подсистемами, которые нигде не был записаны, потому что человек, создавший обе подсистемы, держал это в голове. Нейронка генерирует правдоподобный код, который создаёт едва заметные проблемы. Проблемы, которые не проявляются месяцами. Проблемы, для диагностики которых требуется специалист с глубоким пониманием контекста. Сеньоров не увольняют. Компании нуждаются в них, по крайней мере, на данный момент, чтобы контролировать работу AI и выявлять ошибки, которые AI допускает. Но теперь сеньоры выполняют три работы: их текущая, анализ результатов работы AI, и попытка объединить кодовые базы, которые постепенно становятся всё менее понятными человеку. Поэтому они уходят. Добровольно. Пока на другие позиции, а дальше, возможно, вообще из ИТ. А джуниоры и миддлы, которые потратят три года на проверку кода за AI, никогда не станут сеньорами. Они станут просто очень опытными рецензентами кода AI. А это совершенно другой набор скиллов. Потому что они никогда не создавали ментальную модель того, как работают эти системы, которая может быть получена только в результате их реального создания вручную. 85% разработчиков сегодня используют AI-инструменты. Но у нас почти нет поколения новых разработчиков, изучающих базу, которая позволит им выявлять сегодняшние ошибки AI через пять лет. Таким образом, компании в конечном итоге получат AI, который они не смогут правильно контролировать, и который будет поддерживаться людьми, которые научились работать с AI до того, как научились понимать системы, которые AI должен создавать, и которым достались кодовые базы, которые больше никто до конца не понимает, потому что все, кто их понимал (или хотя бы мог понимать), либо были сокращены, либо уволились. Это не эффективность. Это замедленная катастрофа, но с хорошими квартальными показателями на сегодня. Система, которая уничтожает свои собственные ресурсы для краткосрочных результатов, становится крайне хрупкой. Эта система выглядит здоровой прямо сейчас -- но будет выглядеть совсем по-другому через несколько лет. Правдоподобный результат без понимания его внутренней структуры хорош до тех пор, пока это так. А когда он перестаёт быть хорошим, он перестаёт быть хорошим самым худшим из возможных способов. В производственных системах. В критически важной инфраструктуре. Там, где "AI сгенерировал что-то, что выглядело правильным", это неприемлемо. Этот день всё ближе. Вопрос только в том, найдётся ли тогда хоть кто-нибудь, обладающий глубокими знаниями, чтобы это исправить.

Сегодня оказывается День свободы слова в Интернете lol То-то телеграм лежит по всему миру: видимо Паша выкатывает новый стелз-фикс ))) Честно говоря, не понимаю ажиотаж вокруг этого вашего макса-шмакса. Хотя нет, понимаю: это классическая операция прикрытия (только проводят её явные дилетанты в теме :). Ведь этот национальный мессенджер из трёх английских букв -- ну максимум 0.2% от национальной цифровой инфраструктуры, в которой имеются проблемные куски в сотни раз крупнее, и где на многие годы вперёд нет никаких перспектив импортозамещения ни в программном, ни в аппаратном формате (личное оценочное суждение). Ну вот, переводим внимание с реальных проблем на какую-то более-менее работающую крохотулечку, тем более что задачка-то по большому счёту абсолютно типовая, и можно бравурные отчёты делать. Но вот главное, что честно не понимаю: есть клиент ВКонтакте (и ОК:), в нём куча возможностей, включая и чаты, и видеозвонки, и всего другого. Это уже нормально работающий, десятилетием проверенный - и куда более национальный по сути, чем макс - мессенджер, ну так и зачем создавать ещё одну альтернативу под той же крышей? Этой весной будет 7 лет, как я открыл Лабораторию(экс-Школу), и всё это время практически 100% моего нано-"бизнеса" велось и ведётся в VK. Где-то в 2020-м я окончательно и безвозвратно выпилился из фбука (просто противно стало читать тамошнюю публику), ну а телеграм у меня чисто для души. Вообще, всегда было удивительно видеть, как люди строят бизнес с ЦА в России на нероссийских площадках. Я с самого начала закладывался строго на VK, подход оправдывается на 100%, и вот что ещё не понимаю -- так это почему сейчас все бросились переходить в пустой макс (противно смотреть на линки "мы в шмаксе") - а не в VK, где уже огромная аудитория и хорошая рекламная система?? Где логика где разум :) И вот ещё что тоже умиляет: когда авторитетные блогеры пишут "я буду вести свой тг-канал до конца, останется ядро аудитории, потому что есть три волшебных английских буквы". Ну что за детский сад... Странно думать, что этой темой занимаются люди глупее тебя. Как раз они куда умнее. Вот мой прогноз: - в апреле забанят телеграм полностью (но конечно, что "тг даже через впн не будет работать" это полный бред, ну сделает Дуров второй тор, и получится сильно хуже всем), - в мае забанят стим (мем не мой, но игры там из моего реального стима :), - летом начнутся сперва огромные штрафы за впн-трафик, а потом и сама эта технология будет ликвидирована более чем полностью (вот тогда и в тг уже не зайдёшь). И дальше будет только хуже. Graviora manent. Моя рекомендация: указывайте поскорее "Мы в VK".