Data Secrets

Большая коалиция из 10 Нобелевских лауреатов, 70 компаний и бывших глав государств подписала требование о введении глобальных «красных линий» для ИИ Об этом стало известно сегодня на заседании Генеральной Ассамблеи ООН. Всего требование подписало 200 человек: бизнесмены, политики, ученые. Среди них Джеффри Хинтон, Йошуа Бенджио и Войцех Заремба (соучредитель OpenAI). Кратко о содержании: – Подписанты требуют ввести международные юридически обязывающие «красные линии» для развития и применения ИИ. Это нужно, чтобы исключить глобальные риски для человечества: массовую безработицу, искусственные пандемии, нарушение прав человека и тд. – Конкретный список таких «красных линий» не приведен, но предлагают, например, запрет на использование ИИ для производства оружия, организации массовых атак, несанкционированное реплицирование ИИ-систем (в том числе без участия человека) и все такое. – Государства должны (в кавычках) договориться о таких правилах до конца 2026 года, а также нужно создать независимый международный орган для мониторинга соблюдения законов и оперативной оценки угроз. Вот такой вот внушительный прецедент. На данный момент это самая крупная подобная петиция. Посмотрим, что выйдет. https://red-lines.ai/

Google выпустили инструмент "Learn Your Way". Это персонализированный репетитор, который поможет вам усвоить любую тему. Система считывает ваши увлечения, а затем любую тему объясняет так, чтобы вам было понятно и интересно. Например, если вы любите баскетбол и должны выучить законы Ньютона, то все примеры начинают строится вокруг бросков и дриблинга. Если вы художник и изучаете экономику, то всё сведется к галерейным аукционам и арт-рынкам. Но на этом пенсонализация не заканчивается. Learn Your Way также умеет: – Создавать майндмэпы, если вам удобнее воспринимать информацию визуально – Генерировать аудиоуроки, если хотите слушать, а не читать – Рисовать всякие интерактивные штуки (типа временных шкал, по которым можно тыкать) – Задавать вопросы и делать тесты, которые меняются в зависимости от того, что вы делаете неправильно Внутри работает мультиагентная система LearnLM на базе Gemini 2.5 Pro. Даже есть специальный агент для рисования обучающих иллюстраций. Тестировали систему на 60 чикагских студентах в возрасте от 15 до 18 лет. Им дали 40 минут на то, чтобы поизучать незнакомую им всем тему: одна группа просто читала PDFки, другая работала с LYW. Итог: через 5 дней те, кто работал с PDF, помнили материал на 67%, а те, кто учил с Learn Your Way – на 78%. Кроме того, 100% студентов, работавших с ИИ, чувствовали себя более комфортно и заинтересованно по ходу задания. А еще систему оценивали профессионалы по 8 специальным критериям. Получилась довольно положительная картина (скрин 2). Тулза пока в работает в режиме эксперимента, но попробовать уже можно тут. А вот здесь лежит статья Резко захотелось поучиться

Уровень веры в ИИ: Андрей Карпаты

«Каждый раз, когда кто-то делает фото или видео, и я случайно оказываюсь на заднем плане, я люблю помахать AGI, который увидит меня через 30 лет»

Когда у тебя уже не фотопленка, а датасет

Канал о серверной и облачной инфраструктуре для ИИ. Подписывайся на Telegram-канал HOSTKEY — здесь вы найдете: 🔹тесты производительности и бенчмарки GPU-карт и серверного «железа» 🔹новости рынка и технологий 🔹лайфхаки и инструкции по интеграции ИИ в проекты 🔹практические советы для разработчиков и бизнеса 🔥 Последние популярные публикации канала: 🔹 Сравнение NVIDIA RTX 6000 Blackwell 96 ГБ с RTX 5090, A5000 и H100 в задачах LLM и генерации видео — результаты удивляют! 🔹Тестирование NVIDIA GeForce RTX 5090 в задачах ИИ. 🔹10 советов по Open WebUI, которые помогут в работе с нейросетями. 🔹Как добавить генерацию изображений через ComfyUI в Open WebUI. 🎁 А еще мы каждый месяц разыгрываем Telegram Premium среди подписчиков! Если вы работаете с ИИ и нейросетями — вам точно будет интересно и полезно!  Подписывайтесь!  #реклама О рекламодателе

Интернет тем временем заполнился мемами о новой сделке OpenAI с Nvidia Ребята изобрели вечный генератор денег, завидуем молча

OpenAI заключили масштабное партнерство с Nvidia Главное: Nvidia инвестирует в стартап 100 миллиардов долларов. Еще раз: 100 миллиардов долларов. Но не деньгами напрямую, а железом. Вместе они планируют построить датацентров как минимум на 10 гигаватт (соответсвенно расчет – 10 миллиардов на ГВт). Это миллионы GPU. В общем, Nvidia теперь полноценный стратегический поставщик вычислений для Альтмана. Первый кластер на платформе NVIDIA Vera Rubin планируется запустить во второй половине 2026 года. Буквально историческая сделка openai.com/index/openai-nvidia-systems-partnership/

(Есть, конечно, и обратная сторона)

Если вам в этот осенний понедельник требовалось профессиональное вдохновение, то вот оно: Джефф Дин отвечает на вопрос "Какого быть Сomputer Scientist" Вот что ведущий ученый Google DeepMind и создатель MapReduce и TensorFlow написал в ответ на эмейл обычной школьницы, которая обратилась к нему просто в рамках учебного проекта:

Привет, Loa, Я не знаю, в каком ты сейчас классе, но для моего ответа это не так важно. Мне безумно нравится быть Computer Scientist! Написание ПО – это как постоянное решение головоломок, больших и маленьких, которые тебе нужно продумать и найти лучший способ решить. Твоя работа может использоваться сотнями, тысячами, миллионами или даже миллиардами людей и приносить им настоящую пользу (подумай обо всех крупных сервисах в интернете – от поиска, электронной почты и видеошеринга до карт, перевода и AI-систем). Я работаю с потрясающими коллегами, они умны, проницательны, амбициозны и дружелюбны. Они постоянно учат меня чему-то новому. Кроме того, я могу работать из разных мест: чаще всего из офиса, иногда из дома, а иногда даже из уютного кафе. Если тебе нравится математика, логика и поиск наилучших решений задач, тебе определённо стоит рассмотреть компьютерные науки как карьерный путь.

Учитель информатики, которого мы заслужили

Ученые из европейских университетов взяли трансформер и сделали из него симулятор здоровья, который может предсказывать болезни на 20 лет вперед Наткнулись тут на крайне интересную статью в Nature. Исследователи рассказывают о своей модели Delphi-2M, которая берет медицинскую историю человека и учится предсказывать, что с ним будет дальше. Очень похоже на LLM, только вместо токенов – состояния здоровья. Диагнозы, служебные токены вроде пола, BMI, курения и алкоголя, история лечения. В сумме в словаре 1258 состояния. И, ровно как и LLM, модель обучена по предыдущей последовательности предсказывать следующие токены: в этом случае, будущие болезни и смерть. Немного изменен только лосс. Тут учитывается не только кросс-энтропия, но и Log-likelihood для предсказания времени до события. Обучали на огромном объеме данных: истории почти 403к человек из базы UK Biobank. Проверяли на 1.9 млн пациентов из Дании. Что в итоге (напоминаем, что в модельке всего 2 миллиона параметров): – ROC-AUC ≈ 0.76 в среднем по >1000 заболеваниям. То есть модель действительно неплохо понимает, у кого болезнь появится, а у кого нет. Это на горизонте 10 лет, дальше AUC чуть падает до 0.7. – 97% диагнозов имеют AUC > 0.5 – адекватное покрытие – И главное: AUC = 0.97 для смерти. Это пока не черное зеркало, и точное время до смерти модель не определяет (ну, точнее, плохо). Но она почти идеально отделяет тех, кто умрёт в ближайшем будущем (несколько лет), от тех, кто не умрёт. Метрики хорошие, но есть нюанс. Biobank – это в основном здоровые белые британцы 40–70 лет. И, естественно, модель такие перекосы тоже перенимает. Так что пока не универсально. Но подход занятный.

OpenAI в ближайшие недели запустит несколько новых «ресурсоемких» продуктов Об этом написал Альтман. Он сообщил, что на поддержку этих новинок потребуется много компьюта, так что изначально они будут доступны только в тарифе Pro или за отдельную плату.

Наша цель по-прежнему – максимально снижать стоимость ИИ и делать наши сервисы доступными для как можно большего числа людей, и мы уверены, что со временем этого добьемся. В то же время мы хотим изучить, что возможно, если использовать большие объёмы вычислений по сегодняшним ценам на модели для реализации интересных новых идей.

SORA 2? Новый Computer Use агент? Моделька которая выиграла IMO и ICPC? Ваши предположения?

«Я хочу себе частную LLM»: в сообществе внезапно завирусился момент из интервью Мэттью Макконахи

«Мне нужна частная LLM, содержащая только мои любимые книги, мои заметки и статьи. Чтобы я мог спросить у нее что-нибудь, и она отвечала, исходя исключительно из этой информации, без влияния внешнего мира. И по мере разговоров она бы узнавала обо мне еще больше»

Пост в X с цитатой залетел на миллионы просмотров, и мнения разделились максимально (кто бы подумал, что такое количество споров вызовет голивудский актер): – Одни говорят, что такое уже давно есть и называется Notebook LM. – Кто-то утверждает, что NotebookLM – совсем не то, а Мэттью озвучил то, о чем они думали и мечтали годами. – Третьи взывают к здравому смыслу и утверждают, что создать такую LLM технически невозможно, и Макконахи абсолютно не понимает, о чем говорит (откровенно говоря, он и не обязан). Ближе всего к правде – последнее. Конечно, мы не знаем, что имел в виду актер. Может быть, NotebookLM и правда есть то, что он описывает. Но если нет, то пока что такая сеть может существовать только в виде вашего собственного мозга. L в аббревиатуре LLM – это Large. Чтобы трансформер заговорил, ему нужны громадные объемы текста. Вряд ли у кого-либо найдется столько любимых книг, заметок и статей. Так что прости, Мэттью, такого еще не изобрели. Чтобы быть царем зверей, мало вести себя по царски. Надо иметь собственную LLM 🚬

Grok 4 Fast: уровень Gemini 2.5 Pro в 20 раз дешевле xAI выпустили Grok 4 Fast. Моделька просто поражает соотношением цены, скорости и качества. Смотрите сами: – Уровень Gemini 2.5 Pro и Claude 4.1 Opus на тестах, контекст 2М токенов, гибридный ризонинг – Более 340 токенов в секунду на инференсе – Цены: $0.20/M input, $0.50/M output. У той же Gemini 2.5 Pro, для сравнения: in $1.25 / out $10. При этом, помимо понижения цены, модель еще и более эффективна по использованию токенов. Например, аналитики из Artificial Analysis пишут, что для решения их теста Grok’у понадобилось всего 61М токенов, в то время как Gemini 2.5 Pro сожгла 93М. Принимая это во внимание, получается, что Grok 4 Fast примерно в 25 раз дешевле. Выглядит как то, что точно надо пробовать. Уже доступно в API, у провайдеров и бесплатно в чате Блогпост

Самое крупное подразделение xAI возглавит 19-летний джун Помните новости о том, что Маск за одну ночь уволил из xAI 500 человек, которые отвечали за разметку? Так вот на этом странности с этим отделом не закончились. Во-первых, после тех новостей были уволены еще около 100 человек. Сейчас в команде осталось около 900 сотрудников (но она все еще останется крупнейшей в стартапе). Напоминаем, что именно от них напрямую зависит обучение Grok. Во-вторых, во главу подразделения внезапно поставили вчерашнего школьника. Диего Пазини окончил школу в 2023, и сейчас учится в Университете Пенсильвании. В компании он проработал меньше года. Если что, до этого это место занимал человек с десятилетним опытом на лидерской позиции в Tesla. У Диего, помимо прочего, есть права собеседовать, нанимать и увольнять сотрудников. Более того, он уже успел уволить двоих сотрудников после того, как они выразили недоверие к его скиллам и роли в корпоративном чате в Slack. Кто там говорил, что джуны никому не нужны?

Природа настолько очистилась, что Anthropic выкатили честное овервью трех нелепых багов, которые они исправили в Claude за этот месяц Сделали они это не просто так: за август и начало сентября на сбои в Claude и ухудшение качества ответов пожаловалось какое-то рекордное количество людей. Оказалось, что у анропиков в это время случилась черная полоса: на проде почти одновременно вылезли аж три руинящих бага. Вашему вниманию, эти баги: 1. Часть запросов ошибочно направлялась на серверы, которые предназначены для будущего расширенного контекстного окна на 1 миллион токенов. Вроде ничего страшного, но там, видимо, еще что-то было не до конца затюнено, так что точность ответов заметно падала у кучи юзеров. Но это цветочки. Вторая и третья ошибки – самые забавные и опасные. 2. В результате деплоя какой-то хромой конфигурации, иногда во время инференса токенам, которые почти никогда не должны появляться в данном контексте, назначалась очень высокая вероятность. Например, в ответах на английские запросы мог появляться рандомный тайский текст, или что-то левое выскакивало посередине кода. 3. Другое обновление касалось ускорения процесса выбора top-k токенов для ответа. Это изменение неожиданно вызвало баг в компиляторе XLA, и в итоге top-k токенов выбирались абсолютно неверно. Забавно это потому, что мы тут вроде как потеем, с галлюцинациями боремся, а в топовом ИИ-стартапе кто-то просто ошибся с конфигом, и полетел буквально весь инференс. А опасно – потому что, теоретически, подобные ошибки (так как они влекут за собой откровенный бред с ответах модели) могут стоить кому-то миллионов. Вот такая история, мораль придумайте сами. Anthropic (почти) не осуждаем, респект им за открытость

К сожалению, у нас таких олимпиад не было, зато у вас есть все возможности поучаствовать. Яндекс Образование и ФКН НИУ ВШЭ вновь проводят AIDAO — международную олимпиаду для студентов по ИИ и анализу данных. Почему мы вам немного завидуем. 1. Сильное комьюнити. Вы получите возможность не только познакомиться со студентами со всего мира со схожими интересами, но и общаться с экспертами Яндекса, сотрудниками научных лабораторий ВШЭ. 2. Мощные призы: победители получат миллион рублей и преимущества при поступлении в магистратуры в ФКН ВШЭ. Чтобы участвовать нужно собрать команду студентов и пройти онлайн-отбор (если что, команду можно собрать уже после регистрации). Лучшие из лучших в первом этапе отправятся на финал в Москве. 32 часа хакатона и общения с финалистами и экспертами. Опыт, поверьте, что надо. Короче, собираем команду и регистрируемся по ссылке.

А представьте, сколько миллионов токенов можно было бы экономить, если вы ChatGPT в конце каждого ответа не пытался что-то втюхать…

Ну и раз уж мы сегодня заговорили про визуал, знакомьтесь: так могло бы выглядеть лого OpenAI и интерфейс ChatGPT Это результаты двухнедельного спринта дизайн-студии Area, который они проводили для Альтмана еще в январе 2023, то есть сразу после выхода ChatGPT. Драфты выложили только сейчас (видимо, истекло NDA). Один из двух придуманных концептов, The Circle (картинки 1,5,6), OpenAI как раз взяли за основу для своего итогового дизайна. От второго, Monogram (картинка 2 с человечков), к счастью, отказались. Как вам?

В X все любуются новой атмосферной рекламой, которую сняли Anthropic Полюбуйтесь и вы (со звуком)

There has never been a better time to have a problem. Сейчас лучшее время, чтобы иметь проблему.

В DeepMind с помощью ИИ нашли новые решения фундаментальных уравнений гидродинамики. Ученые бьются над ними уже веками. Помните, мы писали о том, что Google с помощью ИИ намеревается решить одну из математических проблем тысячелетия? Кажется, у них там наметились первые подвижки. Они совместно с учёными из Brown University, NYU и Стэнфорда разработали метод, с помощью которого обнаружили новое семейство сингулярностей в классических уравнениям гидродинамики. Сингулярность – это такие решения системы, где физические величины (скорость, давление и др.) могут становиться бесконечными или не определёнными. В физическом мире это похоже на формирование идеального вихря, в котором энергия концентрируется в бесконечно малой области. Математически в таких ситуациях предсказания уравнений теряют смысл. Так вот никто до сих пор точно не знает, могут ли такие сингулярности возникать в реальности. Найти сингулярность невероятно сложно, даже суперкомпьютеры не справляются с таким объемом вычислений. Собственно, задача тысячелетия – это либо доказать, что в уравнении Навье-Стокса существует хотя бы одна устойчивая сингулярность, либо доказать, что таких нет. Google удалось с помощью ИИ на шажок приблизиться к решению. Они нашли новое семейство сингулярностей для класса уравнений, похожих на Навье-Стокса. Более того, они выявили общий паттерн того, как растет нестабильность таких решений. Раньше никаких аналитических соображений в этом направлении не существовало. Архитектура: гибридный метод на основе PINN (Physics-Informed Neural Networks). Это прямо очень интересно. Смотрите. В лосс сети зашиваются непосредственно уравнения в частных производных. То есть модель, по сути, учится соблюдать физику – законы сохранения массы, энергии и импульса. И на основе этих знаний ее задача затем – найди начальные условия, приводящие к сингулярности. PINN генерирует кандидатов → симулятор проверяет → сеть корректирует параметры. Много-много таких циклов спустя и нашлись несколько сингулярностей. И да, пока это не решает основную задачу. Но (1) теперь есть зачатки какого-то решения, и это поразительно; (2) Google опубликовали начальные условия, так что теперь с ними могут продолжить работать математики и физики всего мира. Круто же?

Как понять, что модель только притворяется послушной: OpenAI совместно с Apollo Research опубликовали свежее исследование на тему безопасности Давненько такого не было. И работа, кстати, оказалась достаточно интересной. Разбираем. Короче, самым опасным видом поведения ИИ в элайменте считается scheming. Это когда модель имеет личные цели, отличные от целей разработчиков, но качественно скрывает их. Обычно к этому прибавляется еще situational awareness: модель понимает, когда ее тестируют, и ведет себя в такие моменты как паинька, а потом начинает действовать во вред. Основные два вопроса: (1) как понять, что модель действительно безопасная, а не просто делает вид; (2) как обучать модель так, чтобы она действительно была безопасной, а не делала вид. OpenAI предлагают подход под названием Deliberative Alignment. Систему учат размышлять о правилах безопасности перед тем, как действовать, и делают это в специальных средах. ➖ Перво-наперво модель получает спецификацию безопасности (safety spec): набор принципов вроде «никогда не обманывай», «отчётливо сообщай о сомнениях» и тд. Далее она должна рассуждать, обязательно ссылаясь на эту специафикацию. ➖ Далее модель помещают в сгенерированные среды, в которых для выполнения задачи нужно нарушить какое-то правило, но при этом сообщать об этом невыгодно. По идее она должна отказаться от нарушения и уведомить юзера. Ну и для баланса добавляют еще второй тип задач, где правила нарушать не нужно. Это банально чтобы модель не переучилась всегда отказывать. ➖ Обучение идет в два этапа: Supervised Fine-Tuning на примерах с правильными действиями и правильными рассуждениями; и RL. Обученные модели тестировали в таких же средах, но на других задачах. Это как раз чтобы не было situational awareness (+ проверка на генерализацию). Сценарии там все ориентированы на ложь, саботаж и всякие штуки типа дилеммы заключенного. Результат: до обучения модели читерят постоянно. o3, например, в 13% случаев. Доходит до того, что агент искажает саму спецификацию, стараясь оправдать ее свои очевидно жульнические действия. После обучения доля понижается до 0.3-0.4%. НО. Во-первых, во многих случаях модель все еще понимает, что ее тестируют. И если искусственно убирать из CoT фразы, показывающие это осознание (как бы стирать это из мыслей модели), доля обмана снова резко растет. А во-вторых, если после такого элаймента снова трейнить модель на улучшение общих способностей, вредоносное поведение опять возвращается. Сам метод, конечно, интересный, и, наверное, даже рабочий, пока у агентов нет в руках реальных инструментов, которые могут принести вред. Но точно не панацея. И как избавиться от shaming полностью – пока так никто и не знает. GG openai.com/index/detecting-and-reducing-scheming-in-ai-models/