Data Secrets

Буквально каждый сегодня:

А вы знали, что команда MTS AI ведет канал для ML/DL-специалистов и Data Scientist'ов? Тут можно почитать вдохновляющие истории от лидеров IT, исследовательские статьи, кейсы, а также найти партнеров для совместных проектов. Вот, например, подборка крутых постов про LLM, сохраняйте: ⚪️ Как проверить способности LLM ⚪️ Как обучить LLM работать с длинным контекстом ⚪️ Какие русскоязычные LLM вышли в топ Присоединяйтесь, тут расскажут про ИИ в теории и на практике!

Подтверждаем: с подсчетом букв, знаками больше и меньше и детскими задачками o1 справляется. Это уже AGI?

А может это просто новый системный промпт?….

Продуктовый аналитик данных — это профессия, которая объединяет аналитику, программирование и бизнес. Если ты хочешь развивать свои навыки в анализе данных и помогать компаниям развивать их продукты, этот вебинар для тебя. 18 сентября в 19:00 на бесплатном вебинаре с Верой Багровой, продуктовым аналитиком Okko, ты узнаешь: — Какие виды направлений аналитики существуют — Кто такой продуктовый аналитик и какие задачи он выполняет — Какими навыками и инструментами должен обладать аналитик — Какие hard и soft скиллы нужны аналитику в работе Этот вебинар поможет тебе узнать, как аналитика данных может стать твоей новой карьерой. Участники получат карьерный гид, подборку полезных ТГ чатов для аналитиков и скидку 5% на курс «Аналитик данных». Реклама. ООО "КАРПОВ КУРСЫ". ИНН 7811764627. erid: LjN8JyihX

Еще некоторые детали про o1 aka Strawberry aka Q* ➡️ Сейчас на юзерах с подписков крутится не сама o1, а ее preview версия. Также для ChatGPT Plus будет доступна модель o1-mini (более дешевая и шустрая). o1-mini также обещают раскатить и для бесплатных аккаунтов. ➡️ Даже несмотря на то, что самой o1 пока на проде нет, лимиты в чате и цены в API уже достаточно жестокие: 30 сообщений в неделю для o1-preview, 50 для o1-mini 😳. В API вообще песня: 20 запросов в минуту, и при этом платить придется не только за коллы, но и за сами размышления модели (reasoning tokens). ➡️ Саму o1 тоже обещают раскатить скоро. Она уже дообучена и протестирована, но, видимо, OpenAI все еще приходится решать вопросы связанные с затратами на ее инференс, и (может быть) безопасностью. ➡️ OpenAI обращают внимание на то, что промптинг с новой моделью отличается от промптинга со старыми. Они даже выкатили свой гайд с советами о том, как правильно общаться с o1. Основная мысль сводится к «Больше не надо уловок вроде "думай шаг за шагом" или "построй план решения". Формулируйте свои инструкции ясно и прямолинейно, а дальше модель все сделает сама.» ➡️Ну и напоследок то, на что могло ускользнуть от глаз: OpenAI решили скрыть от пользователей мыслительный процесс модели. То есть те рассуждения, которые видны в чате – это выборочный материал. Остальные необработанные цепочки мыслей пользователям не видны. 🍓🍓🍓

апро

🍓 OpenAI выпустили новую модель o1 (ту самую Strawberry) Она выбивает 6х точность на олимпиадных задачах по математике и 8х точность на задачах с CodeForces. Вся соль модели – в умении рассуждать. Ей требуется некоторое время перед ответом: внутри себя она гоняет CoT, прежде чем вернуть ответ пользователю. Но, конечно, при этом она требует больше мощностей на инференсе. Сейчас ее уже раскатывают на пользователей с подпиской. Больше деталей – в пресс-релизе.

Google только что релизнули Data Gemma Это, по сути, та же Gemma 2, но с прикрученной к ней системой проверки фактов (данные берут из Data Common). Под капотом RIG (Retrieval-Interleaved Generation) и RAG. Когда модель генерирует ответ, она обучена выделять из него «фактические» сущности и проверять их на соответствие фактам из Data Common (это RIG). А RAG позволяет извлекать из датасета ту информацию, которую модель изначально не знала. Все в опенсорс. Вот блогпост, а больше технических деталей можно найти в статье.

Создавая будущее: магистратура по прикладному ИИ Спрос на ИИ-специалистов взлетел на 80% всего за год. А IT-гиганты, банки и телеком охотятся за талантами.  Станьте таким специалистом с онлайн-магистратурой «Прикладной искусственный интеллект» от УрФУ и Нетологии. Это программа, где вы не просто учитесь, а решаете реальные задачи от Авито и Альфа-Банка. За 2 года вы научитесь: – Использовать Python и его библиотеки. – Строить конвейеры обработки данных. – Автоматизировать ML-пайплайн и др. Подать документы можно до 19 сентября. Узнайте подробности по ссылке: https://netolo.gy/dslV Реклама. ООО "Нетология". ИНН 7726464125 Erid: 2VSb5z3mokk

Откуда не ждали: Oracle запустила вычислительный кластер на 131 072 видеокарты Nvidia И GPU там непростые, а новейшие Nvidia Blackwell. Это первый кластер таких размеров, основанный на этой модели видеокарт. Сейчас Oracle уже принимает заказы на суперкомпьютер. Интересно, кто заберет такой лакомый кусочек

Приготовьтесь: Meta, Alphabet, Microsoft и Amazon только за последний квартал в сумме потратили почти $53 млрд на ИИ * данные из свежего исследования Wall Street Journal «Расходы на ИИ в диаграммах»

🎉МТС Web Services запустили подкаст PRO Данные — о больших данных в облаках! 🌟В первом выпуске гости обсудили облачные хранилища, их возможности и зачем они нужны бизнесу. Участники: 🌟Крестина Андреева, руководитель центра Data MTС Web Services 🌟Антон Близгарев, директор по развитию облачных продуктов Arenadata 🌟Максим Ситников, ведущий выпуска 📊 Количество данных растёт экспоненциально: расширять физические системы становится очень дорого, локальное хранение перестаёт быть рентабельным. Размещение в облаке серьёзно удешевляет хранение и переносит затраты из капитальных в операционные. А ещё позволяет добиться нужной производительности и модернизировать хранилища on-prem, которые «так исторически сложились». 🎙 Другие плюсы хранения данных в облаке, тенденции развития индустрии и интересные инсайты — в подкасте! Смотрите и слушайте где удобно. 🎼VK видео 🎼Mave 🎼Строки 🎼Яндекс.Музыка 🎼Apple Podcasts Реклама. Информация о рекламодателе.

OpenAI привлекает новые инвестиции: на этот раз $6.5 млрд Среди инвесторов Microsoft, Apple и Nvidia, но на первом месте по вложениям опять Thrive Capital (как и в прошлом раунде). Также утверждается, что кроме вложений от инвесторов стартап откроет еще и кредитную линию в банках на $5 млрд. При этом оценка компании приближается к $150 млрд. Напомним, что еще в начале года она составляла $86 млрд. И кстати, совсем недавно, буквально в конце августа, СМИ сообщали о другой сумме: тогда утверждалось, что OpenAI оценивается в $100 млрд. Кто больше? 😏

Тем временем Патриарх Кирилл предрек апокалипсис из-за развития ИИ «Если человечество теряет религиозную веру, особенно в условиях нарастания технологий, связанных с появлением искусственного интеллекта, то мы действительно входим в эпоху апокалипсиса», — сказал он.

Ко-фаундер Google и бывший презедент AlСергей Брин дал большое интервью в рамках All-In Summit в Лос-Анджелесе ⚪️ «Сейчас я почти каждый день занимаюсь в Google разными проектами, связанными с ИИ. Для меня, как для ученого это время прорывов, и я не хочу ничего упустить. До этого я не видел ничего более захватывающего и одновременно настолько важного для человечества.» ⚪️ Брин говорил, что не уверен, что для обучения более эффективных моделей потребуется существенное увеличение вычислительных ресурсов. «Я читал некоторые статьи, в которых говорится об экстраполяции вычислений. Возможно, я в это верю, потому что оптимизация алгоритмов, произошедшая за последние несколько лет, возможно, в действительности даже опережает рост вычислительных мощностей, заложенных в модели». ⚪️ Сергей признал, что Google затормозился. «После изобретения в Google трансформеров в 2017 году у компании были все шансы вырваться вперед на несколько лет, но мы были слишком робкими. Сейчас нам нужно больше рисковать.»

Серия хакатонов в рамках ИТ-конференции «Импульс Т1» стартует в Ижевске! Соревнование пройдёт с 20 по 23 сентября в гибридном формате. Призовой фонд – 600 000 рублей! К участию приглашаются команды начинающих специалистов и опытных айтишников в составе от 3 до 5 человек. Обращаем ваше внимание, что 22 и 23 сентября будет необходимо очное присутствие как минимум троих членов команды! Хакатон Т1 — это 48 часов решения реальных продуктовых задач от одного из ведущих ИТ-холдингов страны! В каждом из двух треков будут определены по 3 команды победителей, которые разделят между собой призовой фонд. Треки хакатона: «SDK приоритезатор: плагин обратной связи по продукту» Создать SDK, который позволит пользователям голосовать за новые функции приложения и/или сайта. Результаты голосования будут передаваться продуктовой команде для улучшения продукта на основе пользовательских предпочтений. «АгроНавигатор: оптимальные полеты БПЛА» Разработайте систему, которая рассчитывает полетные задания для БПЛА с учетом всех летных характеристик и нормальных погодных условий. Призы: 1 место: 140 000 рублей 2 место: 90 000 рублей 3 место: 70 000 рублей Награждается топ-3 команды в каждом из двух треков. Расписание: ➡️ 20-21 сентября — онлайн-этап (открытие задач, два чекпоинта) ➡️ 22-23 сентября — офлайн-этап в г. Ижевск (один чекпоинт, защита проектов) Участники очного этапа хакатона смогут не только побороться за карьерные перспективы и призы, но и — стать частью масштабной ИТ-конференции «Импульс Т1», где эксперты холдинга расскажут о главных трендах индустрии, поговорят об инженерии, науке и технологиях, а также поделятся своим практическим опытом; — получить работу мечты, пройдя собеседование прямо на площадке ИТ-конференции: подать заявку на участие в One Week Offer от Т1 может каждый участник хакатона при регистрации! ➡️ Успейте зарегистрироваться до 16 сентября, чтобы не пропустить приглашение на хакатон: https://cnrlink.com/hackt1izevskdatasecrets Реклама. ООО "Т1". ИНН: 7720484492. erid: LjN8JvJ9w

Тем временем инвесторы, когда узнали, что кто-то опять ушел из OpenAI и открывает компанию:

Новая Pixtral от Mixtral оказалась мультимодальной LLM В ней 12В парамеров и она основана на Mistral Nemo 12B. К этой текстовой основе прикрутили GeLU и 2D RoPE. В словаре прибавилось токенов (теперь их 131 072), а также появились три новых специальных токена: img, img_break, img_end. Разрешение картинок 1024х1024. Ждем метрик! Веса уже есть на HF

⚡️ Mistral только что выпустили новую модель Pixtral-12b Точнее, пока только дропнули веса в Твиттере в свойственном им стиле "без комментариев". Судя по названию, это text2image. В общем, мы ушли проверять, что же там такое 🏃‍♂️