AI-Прорыв с Белкиным

GPT-4o от OpeAI обгоняет другие модели по качеству, скорости и цене.

Project Astra – AI ассистент от Google DeepMind, анонсированный на прошлой неделе (вслед за демо GTP-4o от OpenAI). Весьма впечатляющее видео: https://youtu.be/nXVvvRhiGjI И key-Note на Google I/O: https://www.youtube.com/watch?v=XEzRZ35urlk&t=1485s Можно сказать, что Astra по своим способностям это полный аналог GPT-4o, то есть она слышит, говорит, видит через камеру устройства, ну и конечно способна делать все то же, что и обычная языковая LLM модель. Главная разница в том, что GPT-4o доступна уже (хотя бы частично), а по Astra только размытое обещание о том, что "некоторые ее новые функции появятся в продуктах Гугл до конца года". С другой стороны видно, прогресс у Google на лицо, и их вклад в гонку ИИ будет стремительно расти. AI Прорыв #ai #ProjectAstra #Googel #DeepMind

За 6 месяцев цены на API от GPT-4 снизились почти на ~90%, что отражает стратегию OpenAI сделать из ИИ комодити, как интернет или электричество. API интерфейсом (application program interface) в основном пользуется бизнес для встраивания моделей в свои сервисы. Снижение цены сделает рентабельными новые сервисы, которые раньше компании предлагать не могли. Готовимся к стремительно наступающему будущему. *На графике последний столбец (batch) – пакетная обработка. OpenAI дает скидку 50%, если вы готовы подождать результатов модели сутки (вместо realtime). Например у вас подготовлен большой датасет, который можно обработать в оффлайне. OpenAI благодаря этому может сглаживать нагрузку на сервера, утилизируя простаивающие мощности, установленные для пиковых нагрузок. 🔗Ссылка: https://www.linkedin.com/feed/update/urn:li:activity:7197657071427747841/ Прорыв AI #ai #ChatGPT #OpenAI #emcr

Самая яркая картинка объясняющая взлет Nvidia до стратосферы, и перевернутая структура прибыльности GenAI индустрии Nvidia добежало до #3 в мире по капитализации, $2.3T. Цена акции с выпуска chatgpt 30.11.22 г. выросла в 5.5х раз. Ни одна компания не создавала столько стоимости своим акционерам так быстро. As Is Есть очень логичное объяснение этому - текущая структура gen-ai рынка. (оригинал статьи тут, много интересных наблюдений) Производители полупроводников/чипов забрали ~80% выручки, которую сгенерировала технология. +Структура рынка практически монополистична на уровне чипов и на этом этапе развития рынка - Nvidia занимает ~95%. С учетом валовой маржи в 85%, Nvidia забирает почти весь объем маржи на рынке. To Be По прогнозу, уровень приложений (openai, etc) и инфраструктуры (azure etc) должен постепенно забрать основную часть создаваемой стоимости. Я скорее согласен, все же технологии, в т.ч. чипы, дешевеют быстро. Долгосрочно, иногда очень долгосрочно, решает близость к конечному клиенту и способность решить его задачи. Но зуб я бы не давал и пут-опционы на nvidia не покупал:)

Более продвинутые модели OpenAI и ранее выпускала регулярно. Ключевое изменение в другом – в ходе ДЕМО компания заявила, что главной их целью с добавлением голоса и видео в GPT-4o было снизить барьеры по использованию моделей. Они хотят максимального распространения. И поэтому вскоре модель станет доступна вообще всем пользователям, а не только платным, как и ряд других функций их ассистента. Это смена вектора – вместо ответственного и безопасного распространения ИИ переход к максимальному распространению среди пользователей. Что это означает? – еще более интенсивное соперничество между корпорациями в битве за пользователя и еще более высокая динамика появления новых и более совершенных ИИ-решений, пристегните ремни! (Куда уж быстрее?!) – более широкое и интенсивное внедрение ИИ в общество, в жизнь обывателя. Примерно как интернет поисковики, социальные сети и навигатор для авто. На мой взгляд подход OpenAI уже давно не "открытый", "ответственный" и "безопасный" для общества, как они декларируют. Это стремление к агрессивному захвату рынка. С весьма неоднозначными последствиями для общества (у кого сегодня есть картина высоко-технологичного светлого будущего – пожалуйста, поделитесь в комментариях!). Почему я так считаю? Когда появились социальные сети, то вместе с более свободным распространением информации, более доступным общением и новыми форматами бизнеса они принесли и проблемы. Часть проблем стала решаться за счет авто-мониторинга запрещенного контента, но другая часть проблем осталась и продолжает негативно воздействовать на общество: зависимость от гаджетов, клиповое мышление, жизнь ради картинки, постправда, снижение живого общения и цифровая деменция... Большинство этих проблем обществу не удается решить, поскольку человек пользуется социальными сетями добровольно, а проблемы проявляют себя постепенно в долгосрочной перспективе. Теперь, с появлением языковых моделей генеративного ИИ, их разработчики тоже занимаются вопросами безопасности: чтобы нельзя было узнать, как изготовить бомбу и биооружие, что б нельзя было делать дипфейки в целях мошенничества и дезинформации, что б нельзя было создать вредоносного автономного агента... Давайте допустим, что эти вопросы удастся решить (хотя не факт!). Но и они – это только верхушка айсберга. Большая часть проблем будет связана с массовым добровольным использованием ИИ-агентов и проявится в долгосрочной перспективе. Когда, например, люди добровольно будут просить нейросети решать их проблемы и разучатся думать сами (вот те из нас, кто пользуется Яндекс Навигатором и живут в Москве, наверняка помнят тот момент, когда в центре города отключили GPS – город встал). А вы согласны с такими размышлениями? Уже думаете, как с этим быть? Есть какие-то идеи? Напишите в комментариях! #ai #openai #gpt4o #llm

За последние несколько дней появилась целая серия новостей от OpenAI , и самая главная в рамках Spring Update от 13 мая: демо ChatGTP4o, где о значит "omni" (как в омни-канальный или работающий во всех каналах). Модель позволяет вживую общаться голосом и видео: – мгновенно отвечает голосом на голос (без задержек и пауз, как раньше) – ее можно перебивать, и она на это тут же реагирует (не требуется дослушивать все сообщение) – потрясающе выразительные эмоции и естественные реакции, очень похожие на человеческие – способность видеть через камеру устройства и точно также в онлайне реагировать на изображение (на демо ей показывали уравнение, записанное на листочке, она его видела и решала; еще описывала эмоции по селфи) – и все это нужно помножить на ранее имевшиеся у ChatGPT возможности, например в демо показали: решение математических задач, перевод между языками, объяснение программного кода, понимание графиков с данными и другие. Главное изменение архитектуры в том, что раньше отдельная модель переводила голос в текст, другая отвечала текстом на текст, а дальше третья текст переводила снова в голос, что вызывало задержку реакции. Сейчас это все единая модель со множеством способов ввода и вывода (текст, голос, изображения, видео...) При этом модель GPT-4o в целом стала лучше предшественницы GPT-4T (Turbo) на многих бенчмарках и теперь использует меньше токенов на многих языках (в русском в 1,7 раза меньше токенов на текст той же длины) Доступ к новым функциям будет появляться постепенно в ближайшие недели. На момент сейчас GPT-4o доступна пока только как text+image модель, аналогично предыдущей GPT-4T. Статья OpenAI: https://openai.com/index/hello-gpt-4o/ Ссылка на ДЕМО: https://www.youtube.com/live/DQacCB9tDaw?si=jEUlrrT0Q9v7xDjk #ai #openai #gpt4o #llm

Уже сложно себе представить мир без Генеративного ИИ, в том числе и сферу образования. Любой студент или старшеклассник может пользоваться LLM (языковыми моделями) для решения домашек и написания рефератов. Разве он становится от этого умнее? Преподаватели тоже хороши: готовят программы обучения, проверяют домашние задания с помощью LLM. Разве качество преподавания и глубины понимания затруднений своих учеников от этого не страдает? А сам преподаватель совершенствует свои навыки? Как сделать так, чтобы в этих условиях не пострадала главная задача образования – развитие способностей и освоение знаний для учащихся? Как не оказаться в мире, где ИИ становится все сильнее, а человеческий интеллект – все слабее? Томский Государственный Университет (ТГУ) подготовил методические рекомендации по использованию генеративного ИИ в образовательном процессе. Очень практично и умно. Например, давать задания для выполнения в реальном времени (30 секунд на вопрос), ссылаться на неизвестный для LLM контекст (что говорили другие студенты на семинаре) или просить улучшить уже полученный от LLM ответ. Большой респект авторам рекомендаций. #ai #education #ТГУ #образование

А в запросах на английском llama3-70B обходит даже Claude 3 Opus! P.S. Кстати, потестировать модель уже можно бесплатно и без VPN на https://huggingface.co/chat/

Да, llama3-70B обошла Command-R+ на арене LMSYS и стала самой сильной OpenSource моделью. А чего же тогда ждать от модели на 400B параметров, когда ее опубликуют? Ведь это 400 миллиардов параметров (что почти в 6 раз больше, чем у llama-3-70B с 70 миллиардами параметров). Такой большой модели еще никогда не было в Open Source.

Послушал сегодня интервью с Марком Цукербергом* на Dwarkesh Podcast Из интересных моментов: • Мощности, на которых сегодня тренируется llama-3, Марк в свое время заказал про запас, попросив сделать х2 от реальной на тот момент потребности для моделей рекомендации коротких видео для reels подобно алгоритмам в tik-tok. От себя: брать с запасом х2-х3 – хороший принцип, который рекомендую всем компаниям, стремящимся развивать ИИ – завтра всегда будет что-то новое, и хорошо, когда ты подготовлен взять эту возможность. • Марк считает, что в будущем доля синтетических данных станет больше доли натуральных при тренировке моделей. Синтетические данные – это данные сами сгенерированные моделью. От себя: Такое возможно благодаря техникам улучшения результатов генерации, например RAG, Constitutional AI, Think-chain и т.д. Не было бы смысла загонять в модель для обучения то же, что она в таких же условиях и так выдает. Зато есть смысл загнать обратно улучшенные ответы, это дает прирост точности исходной модели. Важное следствие – данных все еще достаточно для дальнейшего масштабирования моделей на одно-два поколения моделей точно, а скорее всего и далее. • Главным бутылочным горлышком дальнейшего масштабирования ИИ Марк считает доступ к энергии. Например, 1GigaWatt дата центр потребует развития инфраструктуры, строительства новых электростанций и линий электропередачи, на что будут уходить годы. Возможной схемой он видит комбинацию Дата-центр + Атомная электростанция рядом. • Проблема обеспечение чипами, по словам Марка, стоит уже не так остро, как в 2023 году. От себя: похоже, что Meta* уже закрыла свои текущие потребности в чипах и вопрос потерял остроту для них. Но не для всех. • Почти от всех вопросов о будущем и о глобальном масштабе изменений, которые несет ИИ, Марк ушел. А вопросы были заданы 5 или 6 раз в разной форме. Впрочем, кое-что он озвучил (см. далее) От себя: у меня осталось ощущение, что он сильно недоговаривает о чем-то, что знает. Уходил в постепенность изменений и время на адаптацию, в естественные ограничения типа энерго-инфраструктуры, в то, что трудно планировать наперед, дескать никто не знает будущего, и надо просто смотреть на каждый отдельный релиз модели и т.д. Я, конечно, не верю, что он как глава одной из крупнейших корпораций в мире совсем ничего не продумывает наперед, никакие сценарии. И мое предположение, что он не готов открыто сказать всего о том, как на самом деле видит • Причина, по которой Марк публикует базовые модели компании в опенсорс заключается в стремлении поддерживать баланс сил, чтобы самый мощный ИИ не оказался в руках одной компании, одного государства и т.д. Именно в такой чрезмерной концентрации ИИ в одних руках он видит наибольшие риски для мира, и старается его избежать. В попадании технологии в злые руки он видит меньше риска, так как в ваших руках тоже будет модель, чтобы противостоять. Другая причина в том, что, делая модели общедоступными он помогает развивать рынок ПО на стандартах вокруг своего продукта, в результате чего сама Meta* выигрывает от такого развития, получая полезные ей инструменты на совместимых стандартах и потенциальных уже подготовленных сотрудников. От себя: большой респект Марку. Как иронично получилось, что некоммерческая организация OpenAI больше не публикует свои модели, а коммерческие компании все чаще и больше делают это (Meta*, Mistral, X, Cohere …) AI Прорыв #ai #meta *Meta признана экстремистской организацией и запрещена в России

Meta* опубликовала в опенсорс свою модель Llama-3 на 8B и 70B параметров и продолжает тренировку модели на 400B параметров. Последнюю тоже обещают опубликовать в опенсорс к концу лета. 8B версия обходит опенсорсные Gemma от Google и Mistral на 7B параметров. Сравнения с Command-R авторами не делалось. При этом Марк Цукерберг в своем интервью сказал, что Llama-3 7B почти также хороша, как Llama-2 70B. При этом 70B версия Llama-3 обходит Gemini Pro 1.5 от Google и Claude 3 Sonnet от Anthropic на части бенчмарков по данным Meta*. Компания рассчитывает значительно улучшить собственные продукты и предложить новые сервисы за счет новых моделей. Это мощный и ожидаемый рывок. Особенно ценно, что ко всем моделям дается открытый доступ к исходному коду и параметрам, позволяющий кому угодно разворачивать их независимо на собственной инфраструктуре. AI Прорыв #ai #meta #llama3 #llm #emcr *Meta признана экстремистской организацией и запрещена в России

При этом Adobe объявила об амбициозных планах включить в свои продукты (видеоредактор Premiere) нейросети по генерации и редактированию видео от Pika, Runway и Sora. При этом Adobe даже приходится скупать видео у пользователей за деньги, чтобы расширить датасет, на котором будет тренироваться модель. Да, это вам не Гугл с YouTube (хотя и их модель Lumiere все еще сильно уступает лидеру – Sora от OpenAI). По слухам СБЕР тоже делает модель видеогенгерации. #ai #adobe #videogen #pika #runway #sora #sber

Российские нейросети Kandinsky и YandexArt попали в топ 10 мировых ИИ-генераторов изображений от TechBullion. При этом Kandinsky от СБЕРа занял 5 место и обошел Firefly от Adobe. Радостно за наших =) Но разрыв с лидерами Midjourney, DALL-E и SDXL-Turbo внушительный: см. приложенные сгенерированные фото, Сберовская фото 5-я, последняя. Дело за малым – сокращать разрыв. #ai #kandinsky #yandexart