Sinекура

Напоминаю, что завтра в 19 часов в библиотеке Планетарий 1 будет мой доклад; зарегистрироваться ещё можно, приходите. Но сегодня ещё один анонс: 14 июля (вторник) будет митап: LLM и агенты в математике и компьютерных науках Я там буду выступать с докладом о том, как нас заменяют LLM'ки, а ещё буду, по всей видимости, вести квиз. Такое мероприятие было уже год назад, я его тогда тоже вёл, и кажется, что прошло оно с большим успехом. Надеюсь, в этот раз будет так же — приходите! #ai #events #talks

А что вы знаете об уикендах?.. (Суббота — это 11 июля.) #ai #fun #lifestyle

Сегодня у нас бесплатная студенческая работа, которая внезапно оказалась красивым и крепко сделанным, хоть и соевым, платформером: Curyeux (и вот на DTF) Curyeux — это простой милый платформер с любопытной историей. Это студенческий проект: игру собрали выпускники Campus ADN, франкоязычного государственного колледжа игровых профессий в Монреале. Колледж был основан в 2005 году как Campus Ubisoft и только в 2011-м сменил имя. Выпускной проект там устроен как “симуляция предприятия”: студенты разных программ объединяются в одну большую команду и делают настоящую игру с релизом в Steam. Cureyux — как раз такая игра, и, кстати, поэтому распространяется бесплатно: школе было бы странно зарабатывать на работах студентов, которые и так платят за обучение. Играем мы за художницу по имени Люсьенн Грегуар и путешествуем по её воспоминаниям и внутренним мирам. Сюжет, скажем прямо, крайне соевый: девочка хочет рисовать, мама против, но девочка преодолевает сомнения и добивается своего. Всё это подаётся почти без слов, через окружение и катсцены, с максимально предсказуемой дугой про принятие себя и освобождение от чужих ожиданий. Впрочем, ругать за это студенческий проект из художественного колледжа, наверное, странно: для авторов игры это как раз очень близкая и родная тема. Так что лучше скажу, за что проект хочется хвалить безо всяких скидок. Во-первых, это очень крутоый визуал. Уровни устроены похоже по сути (беги, прыгай, решай несложные головоломки на восприятие), но стилистически все очень разные: карандашные наброски, акварель, яркие экспрессивные мазки. Каждый мир имеет свой стиль, и переходы между этими стилями производят впечатление. Во-вторых платформинг оказался неожиданно хорошим и плотным: прыжки отзывчивые, чекпойнты расставлены разумно, задачки несложные, но требуют некоторой координации. Механик всего две-три, но они хорошо взаимодействуют друг с другом. От студенческого проекта можно было бы ждать красивую, но разваливающуюся демку — а тут плотная, крепко сбитая полуторачасовая игра, которую приятно пройти от начала до конца. В общем, Curyeux — это тот случай, когда рекомендовать легко и приятно: игра бесплатная, короткая и красивая. Не гениальный платформер, конечно, но приятный. Рекомендую. #tgif #games

На этой неделе у меня очередной "State of AI" доклад, но в необычном месте: библиотеке Планетарий 1. Насколько я понимаю, можно просто зарегистрироваться и приходить, в четверг 9 июля в 19:00: State of AI: как ускоряется прогресс и куда всё это катится (а вот ещё телеграм библиотеки и объявление вконтакте) Постараюсь максимально популярно, с упором на достижения в науке, но и с каким-нибудь рассказом о том, как мы докатились до жизни такой. Приходите! #events #talks #ai

Сегодня у меня для вас очень длинный пост. Давно собирался обозреть и эту тему в современном ML, и вот наконец-то собрался. Сюда еле поместилось введение, а дальше просто помещу оглавление. Читать надо по ссылке: JEPA Яна Лекуна и модели мира: тридцать лет одной идеи 1. Введение Один из отцов глубокого обучения Ян Лекун уже несколько лет повторяет тезис, который в эпоху всеобщего восторга от LLM звучит слегка еретически: авторегрессионные большие языковые модели — это тупик на пути к интеллекту человеческого уровня. Не просто “не самый лучший путь”, а именно тупик; по мнению Лекуна, одним только масштабированием предсказания следующего токена мы до настоящего понимания мира не доедем. Он, конечно, видит, что по дороге в этот тупик языковые модели успевают, например, опровергать гипотезы Эрдёша, но Лекуна это не убеждает. Любимый его аргумент в том, что домашний кот моделирует физику окружающего мира лучше любой LLM, а подросток осваивает вождение примерно за двадцать часов практики без синтетического RL-окружения, потому что у него уже есть модель мира, в которой можно “прокрутить” последствия поворота руля, не вылетая при этом в кювет по-настоящему. В этом посте я хочу рассказать, на что Лекун ставит вместо языковых моделей, и заодно дать общее введение в тему, проследив по сути одну и ту же идею через тридцать лет её истории, от сиамских сетей 1993 года до современных моделей мира (world models). Пост получился длинный. [...] Зато по дороге мы заодно обсудим много разных методов самообучения (self-supervised learning), потому что JEPA лучше всего понимать не как конкретное изобретение 2022 года, а как точку, в которой сходятся метрическое обучение (metric learning), контрастивное обучение (contrastive learning), маскированное моделирование (masked modeling) и модели мира (world models). [...] Аббревиатура JEPA расшифровывается как Joint-Embedding Predictive Architecture, “предсказательная архитектура с совместными вложениями”. И главная мысль во всём этом ровно одна:

Обучение идёт через предсказание представлений (извлечение абстрактного смысла) того, чего ты не видишь, а не через пиксели или токены. Хорошая абстракция здесь не аппроксимация, а суть: разумно устроенная система должна уметь выбрасывать то, что предсказать невозможно или незачем.

Звучит как философия, и в манифесте 2022 года (LeCun, 2022) это действительно подано довольно абстрактно. Но та же идея возникла ещё за тридцать лет до аббревиатуры JEPA, а вскоре после постановочной статьи стали появляться варианты этих моделей, хорошо решающие весьма практические задачи. В этом посте мы обсудим весь этот долгий путь. 2. Главная мысль за пять минут 3. Сиамские сети: как сравнить, не называя  4. Пазлы, раскраски и повороты, или эпоха pretext-задач 5. Контрастивное обучение, или как наделать пар из ничего 6. Как не сколлапсировать без негатива  7. Маскированное моделирование: ветвь, от которой JEPA отталкивается 8. Манифест 2022 года, или модель мира внутри агента 9. I-JEPA, или первая настоящая реализация 10. От картинок к видео: MC-JEPA, IWM и V-JEPA 11. V-JEPA 2, или замыкание петли к планированию 12. Интерлюдия: JEPA в контексте 13. Зоопарк JEPA-моделей 14. Теория, или почему всё это вообще работает 15. Заключение #blog #longreads #ai

На завтра планирую большой пост в лучших своих традициях, а сегодня отделаюсь фоточками. Выступал сегодня на юбилее BIOCAD. Выложить, наверное, не получится, это был paid gig, но в целом рассказал обычную свою историю про AI в науке, только немного к биологии развернул в конце. Разумеется, сто слайдов в сорок минут не уложились, так что в конце забыл проговорить релевантную новость последних дней, которая в слайды не успела войти: вышел Claude Science. Лично я понятия не имею, полезная ли это штука, для моей науки claude code с каким-нибудь разумным harness'ом вполне достаточен, но выглядит интересно. Биологи (Лёша К.? :) ), что думаете? #talks #events #ai #lifestyle

Сегодня у нас редкий для меня жанр: immersive sim. Я, честно говоря, всегда относился к этому жанру с уважением, но издалека: всю жизнь хотел попробовать пройти классические immersive sims вроде Dishonored или Prey, но так и не собрался. Казалось, что это требует больше времени и вовлечённости, чем у меня обычно есть. Skin Deep в этом смысле оказалась прекрасной точкой входа. Это довольно простой представитель жанра — без прокачки, без разветвлённых квестов, без огромных хабов — но при этом настоящий, честный immersive sim, в котором системы действительно взаимодействуют друг с другом. И мне очень понравилось! Обзор читайте по ссылке, здесь очень кратко: Skin Deep (и выложил на DTF) Skin Deep — игра Брендона Чанга (Brendon Chung) и его маленькой студии Blendo Games. [...] может быть, я вам про их игры ещё расскажу подробнее когда-нибудь потом. [...] Завязка сюжета такова. В будущем страховые корпорации придумали гениальный способ защищать ценные грузы: замораживать специально обученного человека — “insurance commando” — и хранить его на борту грузового звездолёта. Если космические пираты захватывают корабль и срабатывает тревога, коммандо размораживается, делает глубокий вдох и разбирается с ситуацией. Вы играете за Нину Пасадену, лучшего оперативника корпорации MIAO Corp. Да, именно MIAO, потому что экипажи кораблей в этой вселенной — коты. Обычные (разве что низкополигональные) коты: капитаны, штурманы, механики. Пираты из банды Numb Bunch захватывают корабль за кораблём, запирают котиков в клетки, и Нина в каждой миссии должна прокрасться по кораблю, перебить или обойти пиратов, спасти всех котов и отправить их в спасательной капсуле. [...] Юмор здесь вообще является основой всех уровней мироустройства, и он хороший. [...] Но главное в Skin Deep — это, конечно, механики. Игра полностью заслуживает звания immersive sim: здесь практически любой предмет можно подобрать, бросить, применить, и практически всё взаимодействует со всем осмысленным (и часто забавным) образом. [...] Например, есть запах [...] Есть чихание [...] Дело происходит в космосе, поэтому есть декомпрессия [...] И все эти системы работают одновременно, давая некоторый синергетический эффект, как и положено в immersive sim. Но при этом всё достаточно просто, так что игра не душит, а радует многообразием. И темп тоже отличный, игра заканчивается раньше, чем механики успевают по-настоящему надоесть. На полное прохождение нужно часов 10-12. А ещё есть сюжет, причём не только фоновый. [...] И ужасно милая переписка с котиками. [...] Заключение Skin Deep меньше, проще и дешевле грандов своего жанра, но при этом ни в чём им принципиально не уступает, а по плотности смешного и хорошо сделанного на квадратный метр уверенно превосходит. Если вы, как и я, всегда смотрели на immersive sim с уважением, но побаивались, можно смело начинать отсюда. А если вы ветеран жанра — тем более заходите. Очень рекомендую. #tgif #games

Не знал что вам сегодня написать, но тут мне напомнили про статью, которая у нас с коллегами вышла ещё в апреле: “The AI Interviewer: Multi-Faceted Evaluation of Adaptive Questioning by Large Language Models” . Совсем не по математике и не по CS, зато про LLM'ки. Давайте вам о ней кратенько расскажу; вот полная версия поста: The AI Interviewer: LLM как психолог-исследователь Основную часть работы здесь сделали наши коллеги-психологи из Института психологии РАН, я там был сбоку и подключился на позднем этапе, так что ни на какие лавры не претендую. Постановка задачи LLM всё чаще запускают как адаптивных интервьюеров (adaptive interviewers) в качественных исследованиях по психологии и социологии: модель ведёт полуструктурированное интервью, сама решает, где копнуть глубже, сама задаёт уточняющие follow-up вопросы. Звучит удобно и логично: живого интервьюера трудно масштабировать на сотни глубоких бесед, для этого LLM и нужны (как, например, нужны и как индивидуальные тьюторы в образовании). Но сразу встаёт вопрос: а хорошо ли модель это делает? Эмпатичны ли её вопросы, уместны ли, не наводящие ли, не спрашивает ли она там, где ответ и так исчерпывающий? Что сделали Коллеги собрали модульного агента (на LangGraph), который ведёт интервью по некоторому опроснику, в нашем случае по большому психологическому интервью (часа на полтора-два, если всерьёз отвечать), из 54 вопросов — биография, семья, ценности, работа, здоровье и так далее. На каждом ответе агент сам выносит бинарное решение “нужен follow-up или нет” и формулирует его. Чтобы честно сравнивать модели, зафиксировали всё, что можно: контекст (десять реальных человеческих интервью как затравка), оркестрацию агента (одинаковые промпты, guardrails, логика повторов и т.п.). А главное, зафиксировали самого интервьюируемого — разумеется, это был не человек, а LLM с фиксированным Big Five профилем. Прогнали шесть моделей (эксперимент был в начале года, а может, и в конце предыдущего, так что модели уже устаревшие, но смысл, конечно, не в конкретных версиях): Claude Sonnet 4, Gemini 2.5 Pro, GPT-5, Grok 4, Qwen3-235B и DeepSeek V3.1. Дальше три эксперта-психолингвиста разметили кучу вопросов, которые модели задавали. Для follow-up вопросов, которые придумывали сами модели, оценивали доброжелательность, необходимость, внимание к контексту и открытость, а для основных вопросов, где модель не задала ни одного уточняющего вопроса, оценивали оправданность этого решения. Результаты Получились на удивление внятные профили: — Gemini 2.5 Pro самый эмпатичный тон (“спасибо, что поделились таким личным опытом”) и лучший общий ранг; согласитесь, не совсем то, чего по умолчанию ждёшь от Gemini; — GPT-5 — быстрый и избирательный: задаёт меньше всего follow-up’ов, зато самые оправданные; — Grok 4 — исчерпывающий до предела: больше всего вопросов, самые длинные и самые навязчивые (в одном интервью он 24 раза припомнил респонденту его высокий уровень невротизма); — Claude Sonnet 4 — сбалансированная универсальная модель; — Qwen3 — формальный и структурный, но чудовищно медленный (сутки на прогон); — а вот DeepSeek просто развалился и не смог даже придерживаться схемы опросника. Кроме того, выяснилось, что лингвистические маркеры (местоимения, интенсификаторы, синтаксическая сложность) осмысленно коррелируют с оценками экспертов, то есть стилистика реально влияет на воспринимаемое качество интервью. Заключение Мораль здесь на самом деле простая: модель надо выбирать под конкретную задачу. Причём вряд ли есть смысл делать выводы на уровне “Gemini для чувствительных тем, а Grok — если нужна дотошность”: очевидно, что все такие выводы уже давно протухли, и могут меняться с каждым новым релизом. Но если вы используете LLM для каких-нибудь психологических интервью, то стоит, во-первых, оценить текущие модели по похожему протоколу (пусть даже не так масштабно), а во-вторых, зафиксировать их версии для использования потом в production. Большое спасибо соавторам! #ai #research #longreads #blog

Выложил доклад, который читал в прошлый четверг: Безопасность ИИ в середине 2026 года (слайды на странице "Выступления") Народу пришло немного, но надеюсь, что люди ещё посмотрят. По крайней мере, AGI Russia выложил запись везде где только можно, а теперь и я выложил свою версию. Спасибо коллегам за приглашение! Интересующимся тоже вполне рекомендую. Я тут в технические детали не особенно вдавался, рассказывал в основном популярно, с введением в то, почему AI safety — это важно, и кое-какими последними результатами. В общем, продолжаю считать, что это главная тема для человечества прямо сейчас. И продолжаю надеяться, что так или иначе всё будет хорошо.) #talks #aisafety #events

Сегодня у нас детективный point-and-click квест в самом классическом смысле этого слова. Есть недостатки, но ностальгия их побеждает: Casebook 1899: The Leipzig Murders (и вот на DTF выложил) Ещё один чисто немецкий детектив, и казалось бы, он должен чем-то напоминать Inspector Schmidt — A Bavarian Tale, которую я недавно обозревал, но на самом деле общего между этими играми только то, что обе озвучены на немецком языке. Casebook 1899 — это классический point-and-click квест, настоящий детектив, а никакая не RPG. Ты играешь за инспектора Крайзера, который раскрывает убийства вместе со своим коллегой, прокурором Мёбиусом. Каждое дело представлено как отдельный сюжет, который ты как бы рассказываешь своей слепой знакомой; кстати, в этих преамбулах использован интересный визуальный эффект. Надо разговаривать с людьми, искать улики, применять предметы, всё как в обычном квесте. Юмора как такового здесь мало, но дела, во-первых, сами по себе интересно сделаны как детектив и как задачка, а во-вторых, проходят достаточно быстро. [...] Игра делится на две очень разные части. Сначала первые три кейса, в которых логика достаточно простая, а вывод вообще может быть какой угодно; здесь, как в некоторых играх Frogwares про Шерлока Холмса, можно сделать разные выводы в конце расследования. А потом четвёртый кейс, в котором внезапно сложность резко подскакивает, а сюжетно всё внезапно переворачивается (не буду спойлерить). В четвёртой части у меня были серьёзные “затыки”, когда нужно было сделать что-то совершенно неочевидное и не вполне логичное. Но на самом деле в итоге выяснялось, что это я сам туповат оказывался. Вариантов того, откуда брать информацию, здесь всё-таки не очень много, и дух великого Ifnkovhgroghprm, слава богу, здесь не вызывают. Так что я пойду против многих стимовских обзоров и не буду ругать игру за четвёртую часть. Да и в любом случае она не отменяет первых трёх. В общем, очень симпатичная игра, на три трубки, как говорится (точнее, четыре). Попробуйте! #tgif #games

Собирался пропустить сегодняшний день, но тут мне напомнили, что есть ещё одна хорошая новость. Книга Элиезера Юдковского и Нейта Соареса "Если кто-то его создаст — все погибнут", о которой я здесь недавно писал, вошла в лонг-лист премии "Просветитель"! На сайте премии даже я упоминаюсь как научный редактор, что, конечно, приятно. Но главное тут всё-таки в том, чтобы как можно больше людей эту книгу прочитали, а точнее, узнали о том, как идут её основные рассуждения. Сам текст не так уж принципиален, но это действительно лучшее популярное изложение основных принципов AI Safety и, главное, того, зачем вся эта наука вообще нужна. Продолжаю книгу Юдковского и Соареса очень рекомендовать и надеюсь, что в "Просветителе" она тоже пройдёт как можно дальше. #aisafety #books

Закончился турнир по ЧГК в Туле. Я уже традиционно поехал играть за московскую команду "ff", и мне уже традиционно очень понравилось. Несмотря на некоторую несыгранность и несобранность, играли временами очень задорно, поделили второе место и выиграли перестрелку за него у "Вжуха", усиленного Александром Витальевичем. Ребята, спасибо большое, что позвали, и зовите ещё! ❤️ А в самой Туле очень мило: прекрасная погода, много пряников, много всяких забавностей. Я даже успел сделать что-то полезное, кажется, пусть и не так много. Но до поезда ещё три часа, так что есть шансы сделать что-то ещё! #blog #travel #chgk

Лестно!) Попробуйте сами: https://intheweights.com/ #ai #fun

Писал не так давно о кризисе рецензирования в современной науке. Сам я, конечно, рецензирую статьи на крупных конференциях постоянно — вот недавно была страда на NeurIPS, которая сильно осложнялась их жёсткой анти-LLM политикой.) С этой политикой там была вообще потрясающая история, очень жаль, что я не могу об этом рассказывать. А теперь предлагают выйти на новый уровень. Понятия не имею, что это на самом деле значит изнутри. К счастью, это точно не значит, что надо самому искать рецензентов, в openreview этот процесс автоматизирован, в том числе для экстренных случаев (emergency reviewing). Так что попробую.) #ai #research

Полгода назад я писал обзор на ATRI: My Dear Moments и тогда зарёкся на какое-то время браться за визуальные новеллы. Японский взгляд на японский жанр меня не особенно прельстил. А вот наш, советский взгляд очень даже понравился! Z.A.T.O.: простая советская кинетическая новелла (и вот на DTF) Z.A.T.O. — это тоже прямая линейная визуальная новелла без единого выбора (это называется “кинетическая новелла”). И тоже про девочек-подростков! Но она стала одним из самых сильных эмоциональных впечатлений от игр для меня, в этом году уж точно. И с одной стороны, как-то не хочется ничего рассказывать, а с другой — спойлеры тут не особенно важны, если не раскрывать главные твисты (я не буду!). А сеттинг такой: вы играете за Асю, девочку-подростка (да-да! но здесь это круто сделано!), которая живёт в закрытом городе Воркута-5, собственно под Воркутой. Градообразующее предприятие — какой-то научный комплекс, школа в городке одна, и Асю в школе немного буллят, не очень жёстко, но постоянно. На защиту приходит только старшая девочка Ира, которая, впрочем, не то чтобы хочет при этом с Асей дружить. Но в завязке игры Ира внезапно пропадает; её ищут, но как-то вяло, и непонятно, что с ней произошло. Всё это происходит на фоне внутреннего монолога Аси, который производит странное, завораживающее впечатление. В полной версии обзора есть длинная цитата из самого начала игры, в которой Ася объясняет основную мысль своей жизненной философии. Как по мне, красиво придумано! Дальше будет больше, и да, классической визуально-новелльной японщины тут тоже найдётся немало, но это здесь оказывается к месту! Раскрывать дальнейшие подробности не буду, читайте сами, это действительно интересное произведение. Кстати, в игре, вопреки последнему скриншоту, нет русского языка. Понимаю, что это очень много лишней работы [...] Но вот конкретно в этой игре русский текст, конечно, просится. Даже как-то немного странно читать по-английски о Воркуте-5. С другой стороны, когда в английский текст прорываются наши знакомые реалии и обороты, это выглядит очень мило. Читается легко, впечатление производит сильное, дочитать до конца можно часа за три, так что категорически рекомендую. Она ещё и бесплатная. I love the world and everything in it. #tgif #games

Напоминаю, что сегодня в 18 буду читать доклад про AI Safety, вот ссылка на timepad, надо, кажется, там зарегистрироваться, чтобы прийти онлайн. И так случилось, что сегодня у меня анонс очень в тему доклада: книга Юдковского и Соареса "If Anyone Builds It, Everyone Dies" вышла на русском языке! Я у этой книги был научным редактором, всё внимательно вычитывал и написал кучу примечаний; самому интересно, какие из них в итоге вошли в собственно издание. Меня попросили написать небольшой отзыв для размещения на сайте, но это потом, а пока просто вот ссылка на сайте издательства: Элиезер Юдковский, Нейт Соарес Если кто-то его создаст — все погибнут Очень рекомендую всем. Разве что те, кто уже слушал мои доклады по AI safety или читал более подробные источники, вряд ли там почерпнут много нового. Но мне всё равно было очень интересно её читать и редактировать. И ещё было неожиданно и очень приятно заочно встретиться с Евгением Поникаровым, который был переводчиком книги. Давно не видел его ни на каком ЧГК, а тут вдруг встреча. #aisafety #books #talks #events

На прошлой неделе провели несколько дней в Армении. В основном, конечно, сидели и трудились, лекции сами себя не прочитают, а новые исследования сами себя не... ой нет, забыл, в какое время живём, может, и сделают, но проверять всё равно надо самостоятельно. В один из дней выбрались на Севан, но там особо ничего интересного не было. Пожалуй, поделиться есть смысл только двумя вещами: — в выбранном по отзывам ресторане был "легендарный ереванский мильфей", что звучало очень смешно, но на деле оказалось очень круто; — а на рынке я купил (и немедленно по приезду подарил) настоящий дудук и, внимание, машинку для заворачивания долмы! Чего только люди не придумают. #blog #travel #lifestyle

Очередной point-and-click квест в особняке, про которые я в последнее время немало пишу: был и The Séance of Blake Manor, и Botany Manor, ну а про Blue Prince я вообще молчу. Авторы сами называют свой жанр “horror comedy escape room”, и эта формула описывает игру очень точно. Riddlewood Manor (и вот выложил на DTF) В качестве источников вдохновения авторы называют две вещи: серию Rusty Lake (от которой взяты загадки и общая эстетика мрачного абсурда) и мультсериал “Courage the Cowardly Dog“, где трусливый розовый пёс спасает хозяев от еженедельных кошмаров в духе братьев Гримм. “Horror comedy” здесь на месте: по форме и сюжету это действительно хоррор, но по сути абсолютно никакой давящей атмосферы нету. Всё подаётся с шутеечками, как бы по-детски, но юмор вполне взрослый, хоть и незамысловатый. Атмосфера видна даже по графике, чудовища тут не страшные, а скорее нелепые… …хотя есть самые настоящие скримеры! Игра старательно предупреждает о них в начале, и даже есть отдельная настройка предупреждать в процессе геймплея. Так что претензий у меня никаких, но всё равно не очень понимаю, зачем они здесь: тон у игры абсолютно не такой, чтобы скримеры органично вписывались. Зато понравились смерти в игре: за неправильный выбор Riddlewood Manor вас, скорее всего, убьёт, но это, конечно не game over (вы тут же откатитесь), а смерти оригинальные и нарисованные вручную, их хочется посмотреть все. Загадки приятные, в фирменном стиле escape room: ты в каждой комнате осматриваешь всё, что не приколочено, собираешь предметы, ищешь подсказки в окружении и комбинируешь их в решения. Влияние Rusty Lake чувствуется явно — те же неочевидные комбинации с обыденными предметами, те же “вы должны как-то догадаться, что это работает именно так”, частенько с абсурдными решениями. Но игра мягко, а иногда и в лоб довольно чётко говорит, что делать, каких-то затыков у меня не было ни разу, в целом сложность загадок сбалансирована хорошо. В общем, милая незамысловатая point-and-click головоломка, на 1-2 вечера, сойдёт. #tgif #games

DeepMind выпустил интересную постановочную статью: From AGI to ASI Я её пока ещё не прочитал, но рано или поздно соберусь, такие тексты могут оказаться важными. Но уже хочу обратить ваше внимание на первый раздел этой статьи (второй скриншот в посте). По-моему, отличная идея, это вам не стеганографически вписывать инструкции в submission в надежде на LLM-рецензента.) А ещё любопытно, что эта статья ссылается на работу Николая Константиновича Верещагина. Но ладно, надо и правда прочитать когда-нибудь. #ai #news

В следующий четверг в 18 буду рассказывать про AI Safety, причём онлайн и, кажется, с общим доступом; вот ссылка на анонс, наверное, там и этот абстракт скоро появится: Безопасность ИИ в 2026 году AI Safety — это одна из главных областей науки сегодня, и, к сожалению, категорически недоисследованная. Возможности AI-систем растут не по дням и даже не по часам, а вот уверенности в том, что всё это закончится для человечества хорошо, так и не прибавляется. В докладе мы сначала поговорим о том, чего собственно здесь нужно бояться, а потом обсудим основные направления AI safety и яркие результаты, которые там всё-таки есть. К сожалению, результаты эти пока в основном отрицательные или в лучшем случае амбивалентные: например, в 2025 главным новым сюжетом стало (и никуда с тех пор не делось) эмерджентное рассогласование (emergent misalignment). Вот и сейчас главная новая мысль по сравнению с моими предыдущими докладами (например, вот этим) будет в evaluation awareness. За прошедшие с того доклада месяцы AI-модели научились отлично распознавать, когда их тестируют, в том числе когда тестируют по вопросам, связанным с безопасностью. Значит ли это, что все наши тесты теперь бессмысленны? Возможно! Поговорим и о последних новостях, в частности о внезапно отменённом релизе Claude Fable. Плохо здесь только одно — неудачно совпало, и я из-за этого доклада не попадаю на традиционный выпускной кораблик на МКН. Это прямо жалко, хорошая традиция. Впрочем, он в этот раз поздно, так что я скорее всего не попал бы и из-за поезда.) #events #talks #aisafety