Data Secrets

О, еще одна крутая инженерная новость за сегодня: скоро выйдет Flash Attention 4 Алгоритм был анонсирован командой на конференции HotChips. Третья версия уже давно стандарт де-факто индустрии, а четвертая даст относительно нее еще +22% к производительности на длинных последовательностях. А это в свою очередь значит, что вычисления станут и быстрее, и дешевле. Основные отличия: оптимизация под новые Blackwell и Tensor Core + трюки с вычислениями softmax и экспоненты. Кода и спецификации пока нет. Но есть утечки. В любом случае, радуемся и ждем 🙂

🎓 Магистратура «Искусственный интеллект и компьютерное зрение» — совместная программа НЕЙМАРК и Национального исследовательского университета «Высшая школа экономики» Высшая школа экономики — один из топовых вузов России, а значит, эта программа может стать вашей путевкой в новую карьеру в сфере AI и computer vision. ✨ Формат обучения: — магистратура онлайн; — преподавание на английском языке; — возможность совмещать учебу с работой. 👩‍💻 Программа подойдет выпускникам вузов (технических и гуманитарных), программистам и разработчикам, которые хотят освоить AI и computer vision. 🚀 Что ждет студентов: — стажировки в ведущих компаниях: Intel, Huawei, SBERLAB; — запуск собственных стартапов совместно с партнерами; — реальные практические кейсы от индустрии; — исследовательские проекты с международными специалистами; — индивидуальный темп обучения и международная конкурентоспособность. 📚 Ключевые направления обучения: — машинное и глубокое обучение; — нейронные сети; — обработка изображений и видео; — методы компьютерного зрения в реальных приложениях; — Python и оптимизация AI-алгоритмов. 📅 Прием заявок открыт до 15 сентября. 🔗 Подробнее и условия поступления — в нашем чат боте"

Nvidia официально стартовала продажи своего суперкомпьютера для роботов Речь, конечно, о Jetson AGX Thor. Это самая мощная платформа для гуманоидной разработки в мире, а в Nvidia ее скромно называют «мозги робота». Главное отличие от обычных видеокарт – интеграция сразу всего необходимого в одно место. Если нам для датацентров важна преимущественно вычислительная мощность, то у робототехников акцент на автономию с ограничением по энергопитанию и пространству. Итак, внутри: – 2560 ядер Blackwell – 128 ГБ оперативной памяти

Итого уже примерно 2070 FP4 TFLOPS вычислительной мощности при потреблении до 130 Вт. Если что, RTX 4090 выдаёт 82–83 TFLOPS (FP32) при потреблении примерно 450 Вт. Так что это фантастическая плотность вычислений.

– CPU: 14-ядерный Arm Neoverse-V3AE. – Обилие интерфейсов для камер, сенсоров, моторов, GPIO и прочих примочек. Встроенные ускорители для оптического потока, чтобы робот мог шустренько анализировать картину окружающей реальности. – Модульность и специальное ПО для обучения роботов и смежных задач в комплекте. За всю красоту – $3,499 🤑 Среди ранних заказчиков уже самые сливки: Agility, Boston Dynamics, Figure, Meta*, Amazon и Caterpillar. Очередной стандарт индустрии от Хуанга

В дополнение к сегодняшней статье: собрали для вас другие наиболее интересные работы Sakana AI на тему новых методов обучения ИИ и построения агентов ➖ Wider or Deeper? Про альтернативный подход к масштабированию ризонинга с помощью гибких деревьев поиска. Статья, наш разбор. ➖Reinforcement Learning Teachers. Про замену традиционного обучения с подкреплением специальной схемой «учитель-ученик», которая параллелится и сходится быстрее и качественнее. Статья, наш разбор. ➖ Darwin Gödel Machine. Агент, который совершенствуется, переписывая собственный код. Самая известная статья от Sakana. Там, кстати, идеи тоже взяты из эволюции. Статья, наш разбор. ➖ Text-to-LoRA. Модель для моментальной генерации специализированных под мелкие задачи агентов. Пишешь «хочу учителя по французскому» и получаешь готовые веса адаптера LoRA, которые не надо обучать, а остается только запустить. Статья, наш разбор. ➖ Continuous Thought Machine. Статья с самыми лучшими иллюстрациями про переосмысление архитектуры LLM, вдохновленное биологическими нейронными процессами. Вместо прямых проходов по сети – тики мыслей, как в мозге. Вместо нейронов – перцептроны с собственной памятью. Статья, наш разбор. Если давно хотелось почитать что-то стоящее о новых подходах в ИИ (или вы любите биологию), то эта подборка – 100% для вас. И да, теперь вы знаете, какая любимая AI-лаба админа 🤫

Свежая статья от Sakana AI: как идеи эволюции можно применять для ИИ У Sakana уже который раз выходят интересные статьи, в которых они предлагают разнообразные виды ансамблей. Идеология у них вполне конкретная: они настраивают, что будущее не за одной гигантской монолитной моделью, а за экосистемами агентов, которые могут взаимодействовать. И вот с типами этого взаимодействия они как раз и экспериментируют в своих работах. В этот раз на повестке оказались эволюционные процессы. Предлагается метод M2N2 (Model Merging of Natural Niches), построенный на трех принципах, которые Sakana подглядели у биологов: 1. Аналог обмена кусочками ДНК. Модели хранятся как массив параметров, и каждый раз алгоритм случайным образом выбирает split-point – индекс в массиве параметров, где произойдёт разрез. До этой точки итоговые веса берутся как смесь от модели A, после – от модели B. Если полученный ребенок показывает хорошую метрику (фитнес) – оставляем его в массиве. Иначе отсеиваем. 2. Конкуренция за ресурсы. Модели соревнуются за главное сокровище: данные. Каждый датапойнт в тренировке – это ресурс с ограниченной емкостью. Если у одной модели на каком-то примере уже есть высокий скор, то считается, что она заняла большую часть ресурса, и другие модели не могут получить с него полноценный фитнес, даже если тоже освоили пример. Это вынуждает агентов искать другие примеры, где они смогут быть уникально полезны, и именно так возникает специализация. 3. Кроссовер особей. Обычно в эволюционных процессах считается, что чем лучше твои характеристики (фитнес в данном случае), тем выше вероятность, что тебя кто-то выберет в качестве партнера и родителя своих детей. Но тут сделали немного иначе: первого родителя выбирают действительно по фитнесу, а второго берут таким, чтобы он был силен там, где слаб первый. В данном случае лучше всего работает именно такой селекшен. В итоге получается генетический алгоритм на максималках. Так даже можно обучать модели с нуля без использования градиентов и backprop. Всё обучение — это поиск в пространстве параметров за счёт описанных эволюционных операторов (слияние, мутация, отбор). Например, в статье исследователи взяли 20 случайно инициализированных MLP и с помощью M2N2 дотренили их до уровня CMA-ES на MNIST. При этом получилось, что обучается M2N2 даже быстрее и дешевле. И не с нуля тоже масштабируется. Основной пример: Sakana таким образом объединили WizardMath-7B и AgentEvol-7B и получили агента, который одновременно хорош и в математике, и во всяком агентском. С диффузионками и мультимодальными моделями тоже работает. Причем по сравнению с ванильным файн-тюном здесь не наблюдается никакой эффект забывания. Статья полностью тут, код – вот здесь К слову, работа выиграла награду best paper на GECCO’25

В довесок ко вчерашнему высказыванию Хинтона, нами была случайно обнаружена целая страничка на Википедии с большим списком прогнозов известных ученых о шансах, что ИИ уничтожит человечество Оказывается, у такой вероятности даже есть специальное название – P(doom): то есть вероятность конца света (с английского doomsday scenarios) от рук ИИ. Давайте же начнем утро понедельника с этих оптимистичных чисел: – Илон Маск: 10-30% – Джеффри Хинтон: > 50% – Дарио Амодеи: 10-25% – Йошуа Бенджио: 50% – Дэниэль Кокотаджило (автор того самого очень известного отчета): 70-80% – Роман Ямпольски: 99.9% (кто бы сомневался) Меньше всего верят в плохой исход Ян Лекун, Ричард Саттон и Марк Андерсен. Среднее значение по списку – 14.4%. Медиана – около 5%. Хорошего дня, что-ли ☕️

> Всю жизнь заниматься ML и AI > Воспитать лучшие умы индустрии > Изобрести алгоритм, благодаря которому обучаются все современные модели … > Пенсию посвятить публичным рассказам о том, что ИИ нас всех убьет

Джеффри Хинтон снова пугает байками про конец света: он утверждает, что с развитием искусственного интеллекта мы буквально создаем инопланетных существ

Мы никогда не имели дело с чем-то, что умнее нас. Я имею в виду, ядерное оружие не умнее нас, оно просто создает большие взрывы. И его легко понять. А экзистенциальная угроза – это совсем другое. В случае с ИИ люди просто не понимают, что мы создаем инопланетян. Если бы вы посмотрели в телескоп Если бы вы посмотрели в телескоп Джеймса Уэбба и увидели, что на Землю через 10 лет прилетит инопланетный флот, люди бы были в ужасе. А это, фактически, и есть то, что мы делаем. Это и есть реальные существа. Они понимают, что говорят, они могут строить собственные планы и шантажировать людей, которые хотят их отключить <тут он, видимо, говорит про это исследование>. Мы должны быть очень обеспокоены по этому поводу и срочно начать проводить исследования, чтобы понять, как предотвратить захват власти. Потому что эта угроза отлична от всего, с чем мы встречались ранее.

Нужны тут какие-то комментарии? 😳

Не прошло и года (точнее ровно год): xAI опубликовали веса Grok 2 Архитектура та же, что и у Grok 1 – MoE. Восемь экспертов. Напоминаем, что метрики примерно на уровне GPT-4o и Claude 3.5 Sonnet. Чекпойнт весит около 500 ГБ, для работы с моделью потребуется 8 GPU с памятью более 40 ГБ на каждую. Лицензия разрешает бесплатное некоммерческое и коммерческое использование до $1 млн годовой выручки. Hugging Face

Пожалуй, одна из самых громких новостей конца недели: основатель команды GenAI в Google заявил, что сейчас не стоит получать медицинское или юридическое образование Но прежде, чем мы приведем прямую цитату, небольшая поправка для большего понимания: под «основателем команды GenAI» журналисты имеют в виду не известного Демиса Хассабиса, а Джада Тарифи. Он уже даже не работает в Google с 2021 года, а эту самую команду основал еще в 2012. Заголовки оставляют желать лучшего. Ну так вот, он сказал, что вообще не рекомендует получать высшее образование, особенно в сферах медицины и юриспруденции. Мол, к тому моменту, как вы окончите вуз, ИИ уже сделает эти профессии полностью нерелевантными.

Я не думаю, что кому-либо вообще стоит делать PhD, если только он не одержим своей областью. Так что либо уходите в малоизученные ниши типа AI для биологии, либо просто не идите вообще никуда.

Мнение? 😐

Пополняем список "успеть до конца лета": 28 августа Wildberries проведет в Москве большой RecSys Meetup В программе – 4 доклада от сильных спикеров. Хардово, практично – все как мы любим: – Semantic IDs: архитектура и опыт внедрения в персональные рекомендации – Счастье пользователя vs счастье продавца – онлайн доранжирование и байесовская оптимизация в товарных рекомендациях – Как обучать CLIP-ы для текстовых тегов – Трансформеры в персональных рекомендациях: от гипотез до AB-тестирования Как видите, затронут и CV, и генеративные подходы, и классику, и какие-то новые тренды. Плюс будет много чисто технических фишек (например, про онлайн инференс на Triton), так что однозначно советуем и инженерам, и исследователям. В том числе – начинающим. Старт в 18:00 28 августа. Офлайн в Москве + онлайн трансляция. ➡️ И не пропустите ссылку на регистрацию

Neo AI выпустили агента NEO – ещё одного ML-инженера из коробки Они называют его первым полностью автономным агентом, готовым к реальным ML-воркфлоу. По сути это не один агент, а ансамбль из 11 штук, которые делят между собой роли: от EDA до обучения, тюнинга и деплоя. На бенчмарках результат впечатляющий. На MLE Bench от OpenAI NEO вышел на первое место: медали на 34.2% Kaggle-соревнований, против 22.4% у Microsoft RD Agent. Под капотом у них оркестратор, который гоняет агентов через multi-step reasoning, передаёт контекст через собственный протокол и сохраняет память шагов. Агент уже умеет в Snowflake, Databricks, BigQuery и деплой в VPC. То есть сразу нацелен на прод. Как заявляют в компании, NEO разработан для ускорения работы ML-инженера, так что пока (наверное) ML-щики – не ВСЁ. Вейтлист: https://heyneo.so/waitlist

Илон Маск объявил, что Grok 5 начинает обучение на следующей неделе А в другом твите он писал:

Ждите Grok 5. Я думаю, что у него есть шанс стать настоящим AGI. Никогда раньше не испытывал подобного чувства.

Эх, получается Grok 4.20 не будет

OpenAI совместно с биотехнологическим стартапом Retro Biosciences разработали модель, которая смогла в 50 раз ускорить генерацию стволовых клеток Сначала небольшое предисловие ⬇️ В 2006 году японский биолог Синья Яманака совершил инновационное открытие, за которое впоследствии получил Нобелевку по медицине: он выяснил, что существуют белки, способные превращать взрослые клетки в молодые стволовые. Их всего четыре, и сейчас их называют факторами Яманаки. По сути, это прямой ключ к омоложению: уже зрелая обычная клетка превращается в стволовую, способную дать начало любой другой молодой клетке организма – от мышцы сердца до нейрона. Так что открытие революционное, но есть нюанс: эти белки обладают крайне низкой эффективностью репрограммирования, то есть только очень малая часть клеток реально превращается в стволовые после их воздействия. Так вот OpenAI и RetroBiosciences удалось разработать модель – GPT-4b micro – которая вывела новые варианты факторов Яманаки, и они оказались в 50 раз (!) эффективнее по сравнению со стандартными. Эксперименты показали, что это действительно работает, и при этом для разных типов клеток. У GPT-4b micro та же архитектура, что и у GPT-4o, но обучали ее по-другому, «с использованием специального набора биологических данных». Подробностей как всегда дают немного, но это подход, отличный от AlphaFold. Тут не структурное моделирование, а языковой подход: модель анализирует последовательности и взаимодействия белков и может вносить очень мелкие изменения, доходя до трети аминокислот. Главное отличие – гораздо большой масштаб «тестирования». И еще один занятный факт: новые варианты белков также показали способности к улучшению процессов восстановления ДНК. Детали еще предстоит проверить, но в теории это значит, что они могут дольше сохранять молодость клеток. openai.com/index/accelerating-life-sciences-research-with-retro-biosciences/

Dynamics Lab выпустила симулятор Mirage 2. Выглядит не хуже Genie 3, но уже доступен каждому Наверху – примеры и сравнительная табличка с Genie. Mirage выделяется двумя вещами: 1. Продолжительность генераций по сегодняшним меркам огромная: заявляют 10+ минут при задержке 200ms и запуске, кстати, на единственной домашней GPU 2. Расширенная «играбельность»: в демках Genie только навигация + промптинг. Тут дополнительно еще всякие прыжки, бег, атака и другие игровые действия. Плюс, сгенерированным миром можно поделиться, то есть в него могут параллельно заходить другие агенты. Демки выглядят забавно, так что стоит тестить (blog.dynamicslab.ai/)

👾Самое время собрать свою команду из IT-акул: Открыта регистрация на самый масштабный онлайн-хакатон в мире! 💸 40 млн рублей призового фонда: — 1 млн рублей — для тех, кто займёт первое место — 600 тысяч — второе — 400 тысяч — третье 💼 20 актуальных задач от ведущих компаний страны: Газпромбанк.Тех, VK Tech, Kaspersky, АФЛТ-Системс (Группа «Аэрофлот»), Союзмультфильм, Avito, Итэлма. ⏳ 14 дней на разработку решений Принять участие могут: ✔️ граждане РФ и других стран от 18 лет ✔️ специализация: Front / Back / FullStack, Web-разработчика, UX / UI дизайнеры, Product / Project-менеджеры, Data Scientists, Data Engineers, аналитики и другие специалисты ✔️ местоположение — неважно, всё проходит онлайн Других ограничений нет! 📅 Успейте зарегистрироваться до 18 сентября! Регистрация по ссылке 👉🏻 https://i.moscow/lct?utm_source=sp&utm_medium=social&utm_campaign=data_secrets/?erid=2VtzquwvRUn 📲 А больше новостей и подробностей — на нашем канале, подписывайтесь: https://t.me/leaders_hack

Тем временем после выхода эссе Мустафы Сулеймана новостные каналы уже выглядят так Да, умеют журналисты выносить главную мысль

Ha-ha-ha

CEO Microsoft AI Мустафа Сулейман опубликовал очень необычное для CEO эссе Называется текст "Мы должны учить ИИ для человека, а не быть человеком". В нем нет обещаний AGI, громких слов про ускорение прогресса и и лекарства от всех болезней, как в эссе других глав компаний (не будем показывать пальцем). А основная мысль вместо всего этого вот в чем: нельзя пытаться наделять ИИ признаками человека. Это создает ложное ощущение того, что это уже не машина, а что-то живое и чувствующее. Мустафа называет это SCAI — Seemingly Conscious AI, то есть AI, который кажется нам сознательным. При этом такой SCAI либо уже частично существует, либо может появиться в ближайшие несколько лет. Ключевые характеристики: хорошее владение языком (есть), проявление эмпатии (есть), способность помнить детали прошлых диалогов (почти есть), утверждения типа "я видел/слышал/думаю/чувствую" (уже встречаются), идентичность личности и внутренняя система целей и ценностей. Суть в том, что допустить окончательно появление SCAI нельзя. Симуляция сознания не делает ИИ реально сознательным, но общество может начать относиться к нему, как к личности, и ничем хорошим это не закончится. Сулейман описывает целое явление "psychosis risk" (риск психоза), когда люди начинают настолько верить в иллюзию сознательности ИИ, что могут развивать эмоциональную зависимость, верить в права и чувства модели. И таких примеров полно уже сейчас: люди влюбляются в чат-ботов, дружат с ними, начинают защищать их права и теряют связь с реальностью. Просто пока этот эффект не такой массовый – все может быть гораздо хуже. Так что главная идея из эссе: ИИ должен существовать только как инструмент для человеческой пользы, а не как цифровая личность. От имитации чувств, стремлений или желания быть самостоятельным нужно отказаться. ИИ должен открыто декларировать, что он не человек и не сознательное существо. В его личность должны быть встроены фичи (и Мустафа как раз призывает на законодательном уровне утвердить их перечень), которые ломают иллюзию личности – чтобы пользователи не забывали, что общаются с программой. Вот такая вот интересная позиция – пишите в комменты, как вам mustafa-suleyman.ai/seemingly-conscious-ai-is-coming

Как объяснить, почему модель машинного обучения принимает именно такие решения? 🤔 Нашли на Хабре разбор SHAP-графиков от эксперта ВТБ Андрея Бояренкова: от summary_plot до ICE и PDP. Там действительно много лайфхаков и полезной информации — на примере задачи оттока клиентов он показывает, какие фичи реально влияют (total_charge, звонки в поддержку, международный план и т.д.) и как это объяснить бизнесу. В статье — подборка графиков, цветовых приёмов и лайфхаков для понятной визуализации. Must-read для тех, кто хочет не просто «натренить модель», а уметь объяснить её логику. Читаем на Хабре: https://habr.com/ru/companies/vtb/articles/938988/