Data Secrets

Вау, это что, новости не о том, что из OpenAI кто-то ушел, а наоборот? К компании присоединяется Себастьен Бубек – до этого он работал вице-президентом по генеративному ИИ в Microsoft. Какую именно роль Бубек займет в OpenAI, пока не ясно. В Microsoft он занимался моделями из семейства Phi, для обучения которых, кстати, использовались синтетические данные, сгенерированные GPT-like модельками от OpenAI.

Нейросетевой трекинг в спорте и его сложности Ждем вас на открытом вебинаре 24 октября в 20:00 мск, где мы разберем: - современные нейросетевые подходы в трекинге и идентификации объектов; - как и для чего используется трекинг в спортивной видеоаналитике; - почему стандартные трекеры плохо справляются и какой трекер выбрать для решения задач. Урок для тех, кто интересуется задачами детекции и трекинга объектов, а также для специалистов, желающих расширить знания в компьютерном зрении и спортивной видеоаналитике. Спикер Антон Витвицкий — Boost Arria NLG, Director of Computer Vision. Эксперт по компьютерному зрению и глубокому обучению, дипломированный инженер-программист. Встречаемся в преддверии старта курса «Компьютерное зрение». Все участники вебинара получат специальную цену на обучение! Регистрируйтесь прямо сейчас, чтобы не пропустить мероприятие: https://clck.ru/3DwcTT Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576, www.otus.ru

Вчера открылся доступ к API Grok, и уже сегодня энтузиасты прогнали модель по бенчмаркам и выяснили, что она не так уж и хороша в программировании На тестах aider она находится где-то на уровне GPT 3.5 Turbo и проигрывает почти всем закрытым моделям. Это довольно странные результаты, учитывая, что на LMSYS арене модель завоевала на coding лидерборде уверенное второе место. Впрочем, что бенчмарки, что арена не всегда могут отражать реальность (см., например, этот пост про то, насколько обычный маркдаун ответа влияет на мнение пользователей)

🤔

Вокруг OpenAI новый скандал: Bloomberg выпустил материал о том, что OpenAI украли идею и даже название компании! По порядку: 🟢 Оказывается, существует две компании — OpenAI и Open AI. Одну создали Альтман и Брокман, другую — неизвестный прессе, но известный в Кремниевой долине Гай Равин. 🟢 Гай взял домен open.ai в марте 2015 года (до создания Альтманом OpenAI) и владеет зарегистрированным товарным знаком «Open AI», поданным в декабре того же года. 🟢 Идеей было создать открытый ИИ, конкурента DeepMind.

«Вы не могли конкурировать с их деньгами, но вы могли бы конкурировать с идеологией. Пообещайте исследователям, что они будут создавать ИИ открыто, на благо человечества, а не для получения прибыли, и вы можете обратиться к лучшим.»

Поэтому Равин придумал название, которое могло бы мгновенно передать эту идеологию: Open AI. 🟢 Звучит очень знакомо, да? Дело в том, что это заявление идентично тому, которое Альтман и Брокман декларировали почти год спустя. При этом есть письменные подтверждения тому, что Гай был раньше, а не выдумал это потом. 🟢 Гай при этом искал финансирование в тех же кругах и общался с теми же людьми, с которыми потом общались OpenAI. Например, с Маском и Apple, чему тоже есть подтверждения. 🟢 Разумеется, ребята из OpenAI и Open AI познакомились, так как Гай был в шоке, когда узнал, что компания с такой же целью и даже тем же названием получила финансирование. 🟢 Равин говорит, что на личной встрече Брокман подчеркнул, что OpenAI будет работать на благо человечества. Но для Равина он вел себя так, как будто они только что запустили горячий коммерческий стартап. OpenAI посоветовала парню бросить свой проект, парень отказался. 🟢 В январе 2022 года OpenAI подала заявку на получение собственного товарного знака. Внезапно Альтман отправил электронное письмо Равину впервые с 2015 года и спросил «открыт ли ты для того, чтобы отдать домен open.ai и связанные с ним права на IP-адрес?» (не бесплатно). 🟢 Не поверите, но Равин согласился! Но сказал, что деньги ему не нужны и пусть лучше компания пожертвует их на некоммерческую академическую инициативу ИИ. Но разговор замялся. 🟢 Теперь же OpenAI подала в суд на Open AI за украденный товарный знак. 🤡 История звучит абсурдно, но прочитайте полную версию статьи и вы убедитесь сами.

OpenAI просит инвесторов вообще не надеяться на прибыль до 2029 года При этом выручка компании в 2029 достигнет $100 млрд. И прибыли не просто не будет – OpenAI уйдет в минус. В компании сообщают, что в 2026 убыток составит $14 млрд: это х3 по сравнению с убытком за 2024. И это не включая компенсацию акциями. Кстати, в то же время валовая маржа компании по итогам 2024 будет равна примерно 41%. Учимся правильно привлекать инвесторов

Вскрылась истина, которую годами скрывали от нас создатели метода обратного распространения ошибки

Хотите разобраться, как работает o1? Советуем начать со статьи "Let’s Verify Step by Step", которую в мае 2023 выпустила команда OpenAI Среди авторов – уже покинувшие компанию Ян Лейке, Илья Суцкевер и Джон Шульман, а подход, рассмотренный в статье – это, вероятно, модель o1 в зародыше. Итак, речь в работе идет про улучшение мультишагового ризонинга: в частности, в ней сравнивается outcome supervision (фидбэк только на итоговый ответ) и process supervision (фидбэк после каждого шага рассуждений). Технически, исследователи под каждый вариант трейна обучают отдельные варианты reward модели: PRMs(process reward models) и ORMs (outcome reward models) соответственно. Обучали на датасете из 800K размеченных людьми решений задач. Итог: PRM обогнал ORM на всех тестах. Например, на MATH PRM выбил 78.2%, а ORM – 72.4%. К тому же, оказалось, что если к процессу прикрутить Active learning, то эффективность данных подскакивает в 2.6x (то есть того же результата становится возможным добиться на датасете в 2.6 раз меньше). И самое интересное: именно в этой статье выдвигалась гипотеза о том, что большая PRM может выступать в качестве искусственного human supervision для модели поменьше. Тогда это проверили только на игрушечном тесте, но результаты получились многообещающими. Возможно, именно эта идея положила начало o1. Оригинал статьи читаем здесь

➡️Нобелевка по физике ушла Джеффри Хинтону и Джону Хопфилду за их вклад в машинное обучение и нейронные сети. Почему физика? Ну, комитету нужно было куда-то приткнуть нейронки, а физика оказалась ближе всего. Так что, пока хайп на нейросетях добрался даже до Нобелевского комитета, самое время влиться в мир Data science. Стать успешным специалистом по большим данным вы можете на курсе "Data scientist с нуля до Pro" от Skillfactory. ⚪️Учитесь с нуля: от основ математики до продвинутого ML. ⚪️Знания от профи: автор курса — профессор МГУ и лауреат премии Юнеско в области. цифровых технологий и ПО для ИИ и суперкомпьютеров, Алексей Семенов. ⚪️Много практики: решайте реальные задачи и собирайте проекты в портфолио. ⚪️Карьера: пройдите стажировку в айти-компании "Моторика" еще во время курса. ⚪️Помощь в трудоустройстве: получите помощь от Карьерного центра школы. Записывайтесь на курс с 45% скидкой по промокоду SECRETS Реклама. ООО "Скилфэктори", ИНН 9702009530, erid: LjN8KLu79

Мы должны быть к этому готовы.

⚙️ Там наконец-то открыли доступ к API Grok-2 и Grok-2 mini Контекст 33К токенов, цены: $4.2 / M input, $6.9 / M output. Цена на инпут несколько завышена (для сравнения на последнюю gpt-4o это $2.50 / M input, а на Claude 3.5 Sonnet – $3 / M), зато на аутпут наоборот ниже обычного (для gpt-4o цена на output составляет $10.00 / M output, на Sonnet – $15 / M)

В Твиттере завирусился промпт, в котором вы просите GPT на основе всех ваших взаимодействий cказать о вас что-нибудь, чего вы о себе не знаете В оригинале текст промпта такой: From all of our interactions what is one thing that you can tell me about myself that I may not know about myself Пользователи говорят, что ChatGPT действительно отвечает очень интересно (даже Альтману понравилось). А некоторые даже идут дальше и просят составить по истории диалогов свой психологический портрет. Пробуем?

Ученые из университетов Женевы и Эдинбурга вместе с Microsoft разработали модель, генерирующую CS:GO в реальном времени Вот демо: можно попробовать побегать самостоятельно. Видео генерируется исходя из ваших действий – поворотов, прыжков, выстрелов. Сама модель называется DIAMOND (DIffusion As a Model Of eNvironment Dreams) – внутри у нее RL агент, обученный в полностью сгенерированной диффузией модели мира. Вот страничка соответствующей статьи. Весь код, кстати, тоже в опенсорсе, так что можно такую CS’ку и локально запустить 😎

OpenAI выпустили библиотеку Swarm для облегченного построения мультиагентных систем Библиотека использует только верхнеуровневые абстракции, так что ей может пользоваться даже человек, который не разбирается в LLM. Нужно просто определить нескольких агентов с их ролями, определить логику, по которой они перекидывают запросы друг другу и запустить все с нужным начальным состоянием. Все! Фреймфорк экспериментальный и выпустили его по-тихому. Вероятно, это нужно для сбора отзывов, и так OpenAI понемногу начинает переход от ризонеров (o1) к агентным системам (это следующая ступень развития ИИ, по мнению Альтмана). В любом случае – отличная песочница, чтобы поиграться. Код открыт и лежит со всеми примерами использования вот в этом репозитории.

Итак, главное из эссе Дарио Амодеи, CEO Anthropic: ⚪️ Powerful AI (не AGI, обратите внимание) появится примерно в 2026. В понимании Дарио Powerful AI – это ИИ, который умнее лауреата Нобелевской премии по биологии и инженерии, который может доказывать не доказанные человечеством теоремы, писать очень хорошие романы и управлять любым ПО и оборудованием. ⚪️ По мнению Амодеи, многие ИИ-компании (пальцем он не показывает, но все все поняли) переоценивают возможности своих технологий. Даже лучший ИИ сегодня все еще не может «думать». Модели по-прежнему не столько рассуждают, сколько воспроизводят закономерности, которые наблюдали в трейне. ⚪️ В течение следующих 7–12 лет ИИ может помочь найти лекарство от рака, почти всех инфекционных заболеваний, генетических расстройств и болезни Альцгеймера. А в течение 5–10 лет ИИ уже будет способен вылечить депрессию, шизофрению, наркоманию и даже совершенствовать человеческий мозг. ⚪️ В итоге средняя продолжительность жизни человека удвоится и достигнет 150 лет. «Мой основной прогноз заключается в том, что биология и медицина с поддержкой ИИ позволят нам сжать прогресс, которого биологи-люди достигли бы за следующие 50–100 лет, до 5–10 лет». ⚪️ Что касается экономики и социума: ИИ может решить проблему голода в мире, переломить ход изменения климата, кратно увеличить ВВП на душу населения, снизить предвзятость в правовой системе. Опасностей ИИ Дарио касается совсем вкратце, и говорит, что основной трудностью для человечества будет переосмысление экономики в новых реалиях. Напоминаем, что в оригинале эссе можно прочитать здесь

Сэм Альтман видимо задал тренд на эссе: CEO Anthropic только что выкатил оду ИИ на 15000 слов Чтиво называется «Machines of Loving Grace: How AI Could Transform the World for the Better», и кажется, название говорит само за себя. Основные поинты из эссе выложим совсем скоро, а пока вот вам ссылка на оригинал.

Ах вот оно что

Yandex Cloud, ИСП РАН и Сеченовский университет реализовали проект с использованием федеративного ML для задач медицины Федеративное машинное обучение – это подход, при котором сеть можно обучать на нескольких наборах данных независимо. То есть обучением могут заниматься несколько организаций-участников, и при этом каждой из них не нужно никому передавать свои данные. Подобная техника очень актуальна для отраслей, где имеют дело с чувствительной информацией: например, финансов, медицины или промышленности. В частности, команда обучила модель диагностировать 12 видов фибрилляции предсердий. Специфичность модели составила 95%, а чувствительность 99% Федеративное ML – перспективная методика, которая может и ускорить, и существенно упростить, и легитимизировать разработку в проектах с большим количеством участников

Многие говорят, что LLM никогда не сможет перерасти в AGI, потому что «эти модели всего лишь предсказывают следующее слово» Так ли это? Наткнулись на интересную цитату Ильи Суцкевера, которая может заставить переосмыслить такую позицию:

«Я попытаюсь объяснить, почему предсказание следующих слов требует глубокого понимания. Допустим, вы читаете детектив: сложная линия повествования, запутанные детали, разные герои, загадки, события. Представим последнюю страницу книги, на которой автор говорит: «преступление совершил…». Попробуйте предсказать это слово»

Think about it 🤔

OpenAI снова выпустили новый открытый бенчмарк: его назвали MLE-bench Бенчмарк, как можно догадаться из названия, проверяет, насколько хорошо ИИ справляется с задачами по ИИ 😭 Технически, исследователи взяли 75 соревнований с Kaggle, прогнали по ним агентов и сравнили результаты с человеческими бейзлайнами из лидерборда. Лучше всего на этом бенчмарке себя показала (ни за что не поверите) модель o1-preview: она в 16.9% процентах случаях вошла в тройку лидеров. Напоминаем, что это уже второй опенсорсный бенчмарк от OpenAI за месяц. До этого они выложили MMMLU – мультиязычную версию MMLU. Исходный код выложили здесь, а полный текст статьи – тут