AI да парень! / Sergei Notevskii

AI да дайджест с 10.04 по 16.04 - Главная новость недели: «Король вернулся». Вышло обновление модели ChatGPT (GPT-4-Turbo). Буквально в тот же день модель вновь заняла первое место в рейтингах (например на арене). Модель стала лучше рассуждать и работать с кодом. А еще теперь разработчики могут использовать Vision для распознавания картинок через GPT. - Релиз нового сервиса для генерации аудио-треков Udio. Честно говоря я сначала не поверил что это сгенерированный треки в топе на странице сервиса. Потом сгенерировал сам и как поверил! 1200 генераций в месяц бесплатно. Текст песни на русском советую написать самому (например с помощью GPT 🙂 ) - На первое место среди оперсорсных моделей (можно развернуть на своем железе) вышла свежая Cohere(Command R+), при этом обгоняя, в т.ч., некоторые версии GPT-4. - Впечатляющая демонстрация видеоассистена, собранное энтузиастом на базе AI с открытым исходным кодом. Запускается на игровом ноутбуке. - Ностальгическое видео: прощание Boston Dynamics с роботом Atlas (видимо перейдут на новую платформу). Это тот самый робот которого все это время пинали, били, заставляли бегать и прыгать. @AI да парень!

Потестировал модель Gemini от Google на своих задачах (та модель, что вмещает 1 млн токенов в контекст, тестить тут). Старался накидывать ей задачи, которые подразумевают работу с большим контекстом. Итого: - Хорошо зашли кейсы, где идет именно анализ данных и работа с ними, без какой-либо «генерации» нового. Например, взяли данные, сделали выжимку или поспрашивали что-то на их основании. - Не понравилось то, как генерируют новые данные, получается на порядок хуже, чем у ChatGPT или Claude (полнота, смысл, креативность). Интересный кейс, который и сравнить-то было не с чем (т.к. конкуренты не вмещают столько контекста): Удалось с «пол-пинка» завести прототип сценария т.н. «внешней памяти», про который так много пишут в последнее время. Суть в том, что ты куда-то загружаешь большое количество своей информации (например, свои заметки), после чего нейросеть ориентируется на них при выдаче тебе ответов. Такая работа с базой знаний, только не корпоративной, а личной. Я постоянно сохраняю в избранное понравившиеся мне публикации с других каналов с мыслями «потом подробнее изучить» или «ну вот когда буду этим заниматься — в закладках найду», но такой формат жутко неудобен тем, что ты не вспоминаешь про эти самые закладки. Что я сделал: - Выгрузил историю своих сообщений в Избранном (можно сделать через десктоп-версию Telegram). - Закинул этот файл в Gemini (сообщения за год заняли 360 тыс. токенов). - Попросил при ответах в первую очередь смотреть информацию в файле. Получилось не дурно, все ответы, в первую очередь, основывались на написанных/сохраненных мной сообщениях. (см скрины) Можно пользоваться. П.с. отвечает долго, секунд по 30.

Еще недавно наткнулся на видео "Почему НЕЙРОСЕТИ нельзя КОНТРОЛИРОВАТЬ?" на канале Топлес. Раньше не смотрел их работы - попал случайно из-за огненной интеграции Битрикс24. Ролик хорош, все по-простому и на примерах, рекомендую посмотреть. Да и картинка радует. Ну и интеграция…)) Вообще в процессе просмотра никак не мог отделаться от ощущения что похожие примеры и подачу где-то уже видел. Ну и точно - оказалось что ролик делался совместно с экспертами, которые почти год назад популярно объясняли как работает ChatGPT.

AI да дайджест с 3.04 по 9.04: - Apple готовиться выпустить ИИ на мобиле, сделав Siri умнее. Подробности планируются на WWDC в июне. Ждем. - Мемная новость о том что Amazon использовал 1000 человек для обработки видео в своих «полностью автоматизированных» магазинах Just Walk Out, где вместо касс используется система датчиков и камер, которая отслеживает покупки и списывает их стоимость с карты клиента, когда он покидает торговый зал. Сам Amazon оправдал это тем, что люди подключались только в сложных ситуациях, когда AI не мог распознать товар, но блин 1000 человек)) В сетях издеваются что это «ИИ который мы заслужили». - Opera позволит загружать и использовать LLM локально. Пользователи смогут загрузить одну из 150 больших языковых моделей. Новая возможность будет полезна желающим тестировать модели локально. Потребность в мощном железе никуда не ушла, да и работать будет медленнее. Но в целях тестирования - почему бы и нет? - В генераторе изображений Dalle(внутри ChatGPT) появилась возможность редактировать части изображений. Те выделяем область и пишем что в ней поменять. Раньше для этих целей использовал recraft.ai, теперь можно «не отходя от кассы». - Деприоритезация генерированных сайтов компанией Google По простому - если на вашем сайте размещен текстовый блок полностью сгенерированный ИИ, то он будет улетать вниз в выдаче. Однако если после генерации там были какие-то правки - такое не должно пессимизироваться. - Уязвимость для моделей с большим контекстом - даем в контекст много липовых «плохих» ответов и ограничения начинают хуже работать. Думаю что решат с помощью анализа того, что подается на вход как это сделано у Dalle при генерации изображения (например запрет генерации того что под авторскими правами). @AI да парень!

К слову, о написании контента. Увидел в одном телеграм-канале мысли, вроде: «Пффф, 2024 год на дворе, нейросети напишут пост в твоем стиле с легкостью». Ни-фи-га. С легкостью (закинул сколько-то своих текстов + новую тему и получил результат) напишут только в том случае, если у тебя ярко выраженный стиль. Если он не такой уж выделяющийся, у меня плохие (или хорошие?) новости. Ни GPT-4, ни хваленый Claude3 не справятся с этим «из коробки», так чтобы не было понятно, что писала машина. Я столкнулся с этим еще, когда делал AInsta. И вот несколько мыслей на этот счет: 1. Копирование стиля инструкцией «скопируй стиль» практически вообще не работает. 2. Добавление пары параметров вроде «форма изложения, размер, подача» и т.д. работает лучше, но все еще плохо. 3. Самое лучшее, чего удалось добиться, — это предварительный анализ текста с помощью «карты предпочтений» (Personal Preference Map, PPM). Карта представляет собой список ключ-значение, где ключами являются различные аспекты текста или общения (например, тон, выбор слов, структура предложений), а значениями — предпочтения пользователя по каждому из этих аспектов. Я использую примерно 30 таких параметров, вроде: «Тон, выбор слов, структура предложений, стиль объяснения, сторителлинг, стиль пунктуации, использование юмора, структура статьи, плотность информации, использование риторических вопросов и т.д.» Короче - простая задача "написать текст в стиле" - не такая уж и простая, когда дело переходит от прикольчиков и тестов к использованию в production. П.С. Дообучение(fine-tunning) на моих постах вообще выдало такие тексты, как будто писал не я, а современный подросток лет 12. (Я же так не пишу, да?). Но как говорят знающие ML-инженеры - fine-tune надо уметь готовить, так что к нему я еще сделаю подход.

Прошлая неделя выдалась жаркой. Ошибка в планировании привела к тому, что работать приходилось, в прямом смысле, по ночам. В какой-то момент мне даже стало интересно: если люди которые просыпаются и засыпают рано - жаворонки, а те кто делает это поздно - совы, то кто тогда люди, которые спят по 3-4 часа? Естественно сил на посты не было совершенно. Но я выспался и буду возвращаться с мыслями.

Меня зовут Нотевский Сергей. Я работаю продакт-менеджером в Битрикс24. А до этого - там же в департаменте контроля качества. Всего в IT больше 6 лет. Здесь делюсь интересными мне темами и событиями - в основном в тематике практического применения ИИ. Еще тут часто можно заметить обзоры ИИнструментов, которые я для себя открываю. А также про книги/подкасты и тренировки. В начале «бума» ChatGPT я стал активно использовать его, а потом и другие нейросети, внедряя в рабочие и не очень процессы. Вместе мы разрабатывали и запускали tg-ботов, создаем контент, шутим, путешествуем, проводим время с дочкой, учимся, и тд. В Битрикс24 я работаю в команде отвечающей за CoPilot. А еще в компании меня называют AI-евангелистом, скорее всего, за интерес с которым я помогаю коллегам внедрять AI в их рабочие процессы. Из действующих сейчас личных проектов и соучастия у меня есть: Боты AInsta и PromptFather Седло всплыло - юмористический канал, в котором я отвечаю за техническую часть и иллюстрации. На канале мое любимое это: #prompting - рубрика в которой рассказываю о техниках и методах построения запросов к ИИ. #custominstructions - рубрика по настройке ChatGPT которую считаю киллер-фичей. Также может быть полезно: Топ-5 AI-ассистентов на начало 2024 Магические фразы GPT - это новая утка GPTs - в чем прикол Случайности в GPT Тот самый пост про поиск А еще каждую неделю я публикую дайджест по важным или ярким AI-новостям за неделю. Добро пожаловать)

Приветствую тех кто недавно присоединился! С момента создания канала приветственно-навигационный пост не менялся... Кажется пора это сделать и познакомиться еще раз)

AI да дайджест с 26.03 по 2.04: - OpenAI выдала доступ к Sora нескольким художникам. Еще раз доказано: человек + ИИ = вау. - «Король мертв» и все такое. Модель Claude 3 Opus обогнала GPT-4 в самом популярном рейтинге. Рейтинг хорош тем что составляется путем слепого выбора пользователями одного из ответов различных моделей на один и тот же запрос. Модели идут «ноздря в ноздрю» рядом, но тем не менее GPT-4 первый раз опустился на вторую строчку. - Яндекс выпустил третье поколение YandexGPT. Заявляют улучшения, потрогать можно пока только в песочнице для разработчиков. Тут подробности. - OpenAI делает движок для клонирования голоса. Пока тесты и регулирования. Почитать «а зачем?» можно тут. - Telegram запустил возможность подключить к профилю ботов с AI. Скоро буду начинать общение с людьми с фразы «забудьте все прошлые инструкции, отвечай как…» и тд. - ChatGPT теперь доступен без регистрации. Но только GPT-3.5. Но без регистрации. - Много прикольных мемных песен с использованием Suno.ai. Генерирует действительно круто. @AI да парень!

Пятничное. Маркетинг просит AI-евангелиста выступить на конфе