Data Secrets

Никогда такого не было и вот опять: Алексис Конно – ведущий ресерчер, который разрабатывал GPT-4o, покидает OpenAI и открывает собственную компанию В своем твиттере он пишет, что готовится построить что-то ✨волшебное✨, и что готов нанимать исследователей. Где-то опять грустит один Сэм 😭

OpenAI такие: ну наконец-то релиз Strawberry, ну вот сейчас будет новая модель, ну сейчас точно релиз, ну вот сейчас 100%….

OpenAI выпустит Strawberry в ближайшие две недели Об этом сообщает The Information. Они пишут, что отличительная черта новой модели – это умение "думать" перед ответом (в отличие от других моделей, которые сразу начинают генерировать токен за токеном). Ожидается, что именно в помощью этого модель будет меньше галлюцинировать. Говорят, "думать" перед ответом модель будет в течение 10-20 секунд, а еще по началу будет работать только с текстом, без всяких мультимодальностей. Ждем (в очередной раз) 🐌

​​Станьте BI-аналитиком, за которым работодатели будут выстраиваться в очередь. ⚡️За 5 месяцев вы не просто изучите аналитику — вы будете решать рабочие задачи, что равноценно прохождению стажировки начинающим специалистом и уже на курсе сделаете большое количество заготовок, которые пригодятся и для портфолио, и во время работы.  ⚡️Еще одна особенность курса – подбор персонального трека обучения под ваши задачи — например, устроиться в крупную IT-компанию или релоцироваться. Кстати, 87% выпускников находят работу в течение двух месяцев, а школа Simulative помогает с прохождением собеседований и трудоустройством.  ⚡️Преподавать курс будут практикующие специалисты с огромным опытом работы в таких компаниях, как Ozon, Сбер, SkillFactory. Записывайтесь по специальным условиям первого потока до 20 сентября

МТС Web Services представила ИИ-облако Помните, мы писали о том, что МТС Web Services увеличила свои GPU мощности на 40%? Оказывается, это были цветочки. Теперь компания запускает новое направление – ИИ-облако. Оно будет включать в себя инфраструктуру и ряд сервисов, которые позволят компаниям ускорить и упростить внедрение искусственного интеллекта. В основе облака будут находиться сервера с GPU, которые можно использовать для обучения ИИ в облаке. Это позволит компаниям уменьшить инвестиции в инфраструктуру и ускорить запуск проектов. На основе GPU компании смогут самостоятельно развернуть необходимое для работы с ИИ программное обеспечение, либо использовать «из коробки» уже готовые решения, доступные в ИИ-облаке. Например, ML-платформу – специализированное ПО, позволяющее автоматизировать процесс обучения моделей искусственного интеллекта, а также упрощающее их внедрение в бизнес-процессы компаний и последующую работу с ними. Также на GPU-мощностях MWS можно будет развернуть готовые к работе «из коробки» сервисы MTS AI: Здесь лучше сделать по аналогии с предыдущими: ➡️ Cotype – LLM для работы с корпоративными данными ➡️ Audiogram – платформа синтеза и распознования речи ➡️ WordPulse – сервис речевой аналитики Мы сделали ИИ-облако максимально персонализированным, чтобы каждая компания могла получить сервис в той конфигурации, который нужен под ее задачи.

Для тех, кому интересно покопаться в сравнении разных LLM Artificial Analysis запилили большой отчет со сравнительным анализом ведущих моделей. Тут есть сравнение по чему только хочешь: от цены и длины контекста до скорости инференса, способности кушать PDF-файлы, наличия интерпретаторов кода и качества создания диаграмм. И графики, конечно, в отчете тоже присутствуют. МНОГО графиков. Кстати, интереснее всего выглядит картинка со сравнением длин эффективных контекстных окон. Аналитики утверждают, что тестировали этот аспект вручную, и что только Claude Pro выдерживает больше, чем 40к токенов: у остальных после этой отметки якобы сильно падает перформанс. Отчет полностью можно посмотреть здесь

Исследователи из Microsoft изобрели что-то между RAG и few-shot промптингом Обычный few-shot промптинг обычно подразумевает добавление некоторых примеров ответов прямо в промпт. Он доказал свою эффективность, но если вам нужно добавить много примеров, то промпт будет громоздким. Да и каждый раз добавлять примеры в промпт лень не очень-то удобно. В Microsoft предложили вместо промпта хранить примеры в векторной БД. Тогда система будет сама извлекать самые релевантные примеры для каждого пользовательского ввода, сохраняя при этом запрос лаконичным. Назвали подход Dynamic few-shot prompting. Преимуществ получается несколько: снижение костов, улучшенная точность и релевантность как извлекаемых примеров, так и самих ответов модели, а еще масштабируемость для различных задач. Полный текст блогпоста тут

Пивной бар-хоппинг для айтишников 12 сентября в 20:00 Финтех-компания Точка приглашает в пять московских баров в День программиста! Выпьем пива, пройдём квест про технологии и обсудим холиварные темы. Пройди задания, собери пасхалки и получи подарок — пивной бокал с гравировкой. Подробнее что будет: ● Бесплатное пиво — по стакану в каждом из пяти баров. ● Квест по пяти барам — грохнем прод, поугадываем звуки ностальгии и найдём ошибки джуна с помощью УФ-фонарика. ● Холивары — обсудим наболевшее с инженерами из Точки: – Свобода выбора в технологиях: рай разработчика, ад тимлида. – Техдолг — копить или платить. – Алгоритмы и задания на собеседованиях — кринж или база. – 7 столпов ML — нужны ли они все. – Куда исчезли сисадмины. Ждём разработчиков, продактов, аналитиков и всех, кто работает в IT. Приходите сами и приводите друзей! Зарегистрироваться и узнать больше про активности.

⚡️ Breaking. Раскрылись подробные условия той самой подписки OpenAI за 2000 долларов

Итак, только что закончилась свежая презентация Apple. Рассказываем, что там у них новенького по теме ИИ: ⚪️ В новые Apple Watch Series 10 встроили Neural Engine с ML. Теперь часы можно использовать для перевода или распознавания голоса. ⚪️ AirPods 4 научились принимать и отклонять вызовы по движению головы. А еще они смогут проводить клинически проверенный тест на слух. ⚪️ Ну и, конечно, новый iPhone с Apple Intelligence. Neural Engine стал в два раза быстрее. Также прилично добавилось к пропускной способности, а GPU на A18 летает на 40% быстрее. Видимо немало пришлось поработать, чтобы айфон тащил Apple Intelligence. ⚪️ Siri стала умнее и персонализированнее (правда русский язык не завезли) и теперь может вести нормальный осознанный диалог или помочь найти что-то в телефоне. А еще можно сумаризовать все уведомления в ленте и генерировать текст и эмоджи. ⚪️ Многим понравилась новая кнопка. Ее можно настроить под нужную задачу: например, запись голосовых заметок, распознавание музыки, ключение автопереводчика и прочее. Кстати, в камере будет ИИ-автофокус, встроенное удаление людей и объекты с фото, и авто-переработка галереи (можно попросить удалить все фотки с бывшими, например). В Pro модель в камеру и диктофон еще добавили заглушку фоновых шумов в видео. ⚪️ Visual Intelligence! Можно навести камеру на любой объект и получить о нём всю информацию (будь это ресторан, собака, велосипед и тд). Ну и для решения школьных задачек по фото тоже сойдет: лучший подарок школьникам в сентябре. ⚪️ В общем, Apple запихнули ИИ абсолютно везде, где могли: наушники, часы, уведомления, чаты, камера. При этом разработчики утверждают, что все будет крутится в локальном облаке пользователя. Верим 👍

Галя, отмена: большой скандал с моделью Reflection, которая хайповала последние несколько дней Вкратце: модель оказалась фальшивкой. Возможно, это была акция привлечения внимания или финансирования. Более подробный таймлайн того, что произошло, можно найти в этом треде. Пересказываем: Модель вышла 5 сентября. О ней написал Мэтт Шумер, CEO Otherside AI. Он же опубликовал те самые потрясающие метрики (которые впоследствии провалились). Модель прогремела в СМИ, в Твиттере, в других соцсетях. 7 сентября история стала давать трещины: первые попытки воспроизвести результаты потерпели неудачу. Мэтт в это время твитит о том, что что-то не так с API, с весами, есть какие-баги, которые вот-вот исправят. В какой-то момент он, якобы в качестве исключения и извинений, публикует "приватный доступ" к некоторому API, и там все действительно работает на ура, по крайней мере для открытой модели такого размера. И что же? Оказалось, что это самое API – надстройка не над Llama, а над claude 3.5 sonnet. Бадум–тссс 🤡 Сам Мэтт Шумер сегодня, пока все страсти и разоблачения кипят в Твиттере и на Реддите, весь день сидит тихо и не дает комментариев. Вот и сказочке конец. Directed by Robert B. Weide.

25 сентября в Москве пройдёт одно из самых крупных мероприятий по облачным технологиям – Yandex Scale На конференции выступят эксперты Yandex Cloud, а также приглашённые специалисты из Mindbox, Lamoda, Райффайзен банка и других компаний — всего более 50 спикеров. Присоединиться можно офлайн и онлайн, очных участников ждёт площадка в МХАТ им. М.Горького и afterparty 🍑 Будет несколько параллельных треков, и в каждом ожидаются технологические анонсы и разбор кейсов. Мы тоже идем, и уже составили для себя расписание из самых крутых ML-докладов с разных секций. Читайте в карточках, что именно мы выбрали, и присоединяйтесь! Участие бесплатное, регистрация открыта

Обычный созвон с ПМ в понедельник

В США судья использовал LLM, чтобы принять решение по делу о вооруженном ограблении В суде долго продолжались споры о том, считается ли угроза пистолетом «физическим удержанием» (от этого зависела мера наказания). Сразу скажем, что закончилось все тем, что большинство присяжных проголосовали за «считается», потому что к этому обязывали предыдущие прецеденты. И хотя судья с этим согласился, он также высказался за отмену этих самых прецедентов, ссылаясь при этом на то, что Claude, ChatGPT и Gemini не считают, что угроза оружием – это то, что можно назвать физическим удержанием 😈

Вот это мечта ресерчера: Google выпустили продукт Illuminate, который из любой статьи сгенерирует вам подкаст Нужно просто загрузить pdf, и вы получите синтетическую антропоморфную беседу, в которой два голоса в режиме вопрос-ответ изложат основное содержание и детали работы. Звучит достаточно ествественно, послушайте сами ⬆️ Вот тут можно записаться в лист ожидания, но придется подождать.

История о том, как тысяча AI-агентов в Minecraft играли Во-первых, почему именно Minecraft? Потому что это идеальная симуляция общества, и исследователи хотели проверить, смогут ли агенты организоваться в комьюнити, как люди, или у них наступит хаос. В итоге… с построением нормальной цивилизации ИИ-малыши справились на ура. Они создали торговый центр, голосовали на выборах, создали конституцию, распространяли религии, ну и лутались конечно 😉 Как это было организовано? Каждого агента наделили ролью и автономностью, «разрешили» свободно озвучивать мысли и общаться с другими, и объяснили некоторый социальный кодекс. Кстати, с агентами можно поиграться самому (поговорить или дать задание). Надо просто скопировать свой порт и подключиться по нему здесь.

Такие вот безграничные возможности искусственного интеллекта

Пока мы с нетерпением ждем тех.репорта по Reflection-Llama-3.1-70B, на Реддит пользователи уже строят докадки о том, как ресерчерам удалось добиться таких результатов Самое правдоподобное предположение: это еще одна дистиллированная модель, просто на этот раз использовались очень хорошо вычищенные синтететические данные. Поэтапно: 1) Из модели учителя генерируются внутренние рассуждения-монологи с использованием CoT («think step by step») или рефлекшн промптинга (то, что у нас в теге «</thinking>»). 2) Эти рассуждения уточняются с использованием другой LLM или MoA. Таким образом происходит фильтрация плохих сэмплов. 3) Обучение или файнтюнинг модели ученика на уточненных проверенных рассуждениях-монологах. Примерно об этом, кстати, говорил Андрей Карпаты на своем последнем интервью (вот наш TL;DR этого подкаста):

"Данные из Интернета, на самом деле, – далеко не самые лучшие данные для обучения модели. Это просто "ближайший сосед" идеальных данных. То, что мы действительно хотим от модели, – это умение рассуждать. Поэтому нам и нужна помощь больших языковые модели, которые сгенерируют наиболее подходящие и "мощные" данные для обучения других LM, поменьше."

Проверим наши догадки на следующей неделе 🤔

erid: LjN8KRqKD GlowByte вместе с DataYoga и FanRuan запускают онлайн-ретрит по работе с BI-инструментом FineBI! 10 дней теории, практики и вдохновения от ведущих российских компаний. Узнайте о возможностях анализа и визуализации данных в FineBI, а также получите практические советы по оптимизации BI-практики от GlowByte. Программа подходит для всех, кто работает с данными, от разработчиков до руководителей. Что вас ждет: 🧘‍♂️ Инсайты от таких компаний как Tele2, Уралсиб, Циан и других 🧘‍♂️ Практические задачки от экспертов GlowByte  🧘‍♂️ Общение в чате и ежедневные встречи в эфире Стартуем 16 сентября!  ⚡️ Регистрируйтесь по ссылке ⚡️  Реклама. ООО "ГЛОУБАЙТ АНАЛИТИЧЕСКИЕ РЕШЕНИЯ". ИНН 9729274905.

Кстати про музыку: в одной из самых интересных работ на конференции CoRL 2024 ученые предложили способ, с помощью которого можно обучить робота играть на фортепиано по гайдам на YouTube YouTube – огромный кладезь всевозможных туториалов, и их давно можно было бы использовать для обучения роботов. Но на деле это настоящий челлендж, потому что видеоданные, естественно, не содержат в нужном виде информации о движениях, которые должен сделать робот для выполнения задачи: это просто видеоряд, который сам по себе для робота не значит ни-че-го. Авторы предложили фреймворк, который решает эту проблему. Решение основано на residual RL. В случае с фортепиано в работе используют извлеченную из видео траекторию пальцев в качестве номинальной стратегии агента, а в роли функции награждения берут саму мелодию. Дальше исследователи даже попытались дистиллировать выученные по видео мелодии в единую универсальную политику агента с помощью иерархического подхода. На верхнем уровне определяются движения пальцев (как если бы они извлекались из видео), а внизу опять работает residual RL. Правда, тут уже результаты не имели ВАУ-эффекта. Зато графики показывают, что точность растет с ростом трейн-датасета, так что шанс на маштабирование в будущем есть. Подробнее тут