AI Happens

Вчера прошла презентация Apple, на которой рассказывали о том, как большинство людей будут использовать AI (любая другая аудитория любых GPT моделей меньше количества активных iPhone). На 2024 год в мире насчитывается около 1,334 миллиарда активных пользователей iPhone. Обзор всех "фич" можно почитать, например, тут: [vc.ru]. По моему субъективному мнению, ключевых две: 1. Siri теперь стучится в ChatGPT для решения вопросов. Отправлять туда будет не только текст, но и картинки, и, предполагаю, видео. Вроде будет уточнять, ок ли тебе это. 2. Запили свою модель, которая будет работать на девайсе с данными без интернета. Теперь мысли: 1. Вообще не ясно, как неконкуренция относительно Apple - OpenAI будет работать. Если даже 100 миллионов человек начнет пользоваться моделью GPT-4о и Apple видит вход-выход, то обучить свою станет очень просто. 2. Мне с этими моделями, видимо, павербанк лучше сразу не вынимать? Новый iPhone 15 Pro умирает у меня ровно за сутки. Если даже на М процессорах сетки, например, в камерах убивают аккумулятор, то что будет с кучей фоновой работы, я боюсь представить. 3. Что будет с Siri, которая распознает голос? Их старые модели? Если да, то с английским будет все ок, а с другими может быть не очень. Отдельно хочу сказать про "вой", что Apple украдет ваши данные. Мне кажется это а) глупо, б) популистски. Почему я так считаю: 1. А кто вообще лучше Apple защищает ваши данные из крупных игроков? Вы давно пробовали покупать таргет рекламу? Там Apple отдает наружу ровно ни-ху-я, как говорит Тиньков. Все действительно у вас на устройстве и зашифровано. 2. Также там был интересный блок про Private Cloud Compute. О чем это вообще? Это говорит, что с вашего устройства в облако (не в OpenAI) Apple будет уходить недешифруемый кусок данных. Давно ждал, когда такие вещи начнут использовать крупные игроки. @aihappens

То ли я дурак, то ли моделей GPT-4😮 черт знает сколько, но в официальном письме от OpenAI сказано, что модель знает информацию до октября 2023 года. В веб-браузере, где мне (ура!) сразу выдали эту модель, она знает до начала 2022 года. Простой тест на финал Лиги Чемпионов 2023 года (лето 2023) модель пошла гуглить. Но вообще новая модель просто восторг. Казалось бы, простая продуктовая фича - скорость ответа - меняет качество диалога настолько, что это сложно передать словами. Бомба.

Примеры возможностей нового GPT4o ассистента – серьезно, фильм "Her" теперь реальность

Сегодня была весенняя презентация OpenAI. Я поначалу думал стримить сюда все, что там происходит, но решил, что это все же слишком для гиков и лучше соберу для вас главное. А рассказать есть о чем: Первое и самое главное для многих - новая модель GPT4o будет доступна без регистрации и бесплатно. Второе - новая модель по сути очень близка к привычному нам человеку. Видит, слышит, реагирует быстро, отвечает голосом и даже с эмоциями! (Пока не очень понятно, как на языках, отличных от английского, посмотрим). Третье - приложение для вашего ПК, куда вы можете стримить части своего экрана и говорить с ассистентом о своих вопросах прямо в реальном времени, как с человеком. Последнее - все это доступно через API, дешевле, быстрее, ну и вот это вот. Вы поняли. Когда все это ждать у себя? Да хер его знает. Обещают через 2 недели, но я думаю, что снова будет постепенно и не для всех. фул видео фул статья

простите, я не написал.

все что будет на презентации тут!)

шанс повидаться и поговорить про GPT 💜 запланировали сделать лекцию вместе со медиа Справочной. Пройдёт 14 мая ака завтра в 17:00мск (16:00 CET), зарегистрироваться можно в боте. На лекции посмотрим на практические кейсы из моей жизни. Приходите, буду рад вас видеть.

Как я историю чата обрабатывал с помощью GPT моделей с шокирующим результатом! (детям не смотреть). Дано: Чат, где сейлз команда задает вопросы тех команды. Total Messages: 3848 Total Characters: 417353 Русский язык. Хотим получить FAQ - самые частые вопросы и ответы, чтобы добавить их в документацию. Число токенов в начальном запросе около 450к, в общедоступные модели нормально не впихуивается. Что делаем? шаг 1 - вычищаем json выгрузку из тг от всего кроме Отправитель:Сообщение и конвертим данные в txt формат с помощью GPT4. шаг 2 - открываем google translate и пихаем туда файл для автоперевода на этом этапе вместо 450к токенов получаем около 100к токенов, значит уже влезают в большинство моделей. шаг 3 - берем в Poe Claude 200k и пихаем туда файл с задачей собрать FAQ на основе переписки. шаг 4 - радуемся! ни-хе-ра....Opus обрабатывает данный супер криво. Очевидно, что проблема неравномерного внимания к началу\концу относительно середины встала во весь рост. Ну ладно, у нас же Poe в руках, давай пихнем этот же запрос в Gpt4-128k. ВУАЛЯ! СНОВА ВСЕ ПЛОХО! шаг 5 - удаляем все GPT модели, нанимаем аналитика, пусть руками разбирает все. ладно, случайно по рекомендации Poe жмем кнопку повторить запрос в Gemini-1.5-Pro-128k, модель от Google в которую веры 0. И бинго! Она делает классную структуру, читает явно все, и сама даже делает красивую разметку ответа на FAQ. А мы в них не верили.

Смешная история! GPT очень любит слово "delve" (англ. "копаться") в текстах. Это слово стало встречаться в десять раз чаще во многих публикациях, включая медицинские. (см твиты) Причиной этого стало его большое распространение в англоязычных странах Африки, где работает большинство разметчиков моделей GPT. Вот так культурный контекст переносится через океаны и континенты. @aihappens

В чём проблема с добавлением новых данных в GPT-модели? Возможно, вы заметили, что с каждым обновлением продвигается дата "knowledge cutoff" — момента, до которого модели знают, что происходило в мире. Какова же проблема? На самом деле, существует два этапа при обучении моделей: 1) Создатели собирают всевозможные данные из интернета, тратя сотни миллионов на обучение модели. 2) Создатели собирают основные новости по разным направлениям и делают дообучение модели. ChatGPT Knowledge Cutoff — 12/23, Opus — 8/23. Какие последние версии библиотеки python-telegram-bot знают сети: GPT-4 — 13.12 (выпущено 2022-05-26), Opus — 20.3 (выпущено 2023-05-07). Версии библиотек — это самый простой пример, хотя OpenAI и GitHub, находясь в одной компании, могли бы постараться сделать больше! Если вы погрузитесь глубже в любые вещи за пределами новостей, ситуация будет такой же. Статьи, мемы в интернете и т.д. Проблема здесь в том, что собирать массу новой информации и делать incremental learning на текущий момент почти нереально, насколько я знаю - технически эта задача не решена, а это на самом деле достаточно сильно ограничивает области применения моделей, особенно в написании кода и в индустриях, где все меняется очень быстро (условный маркетинг в интернете, где хуки, работающие год назад, становятся совершенно не актуальны). Такие дела.