Поляков считает: AI, код и кейсы

Как научить языковые модели понимать корпоративный сленг 🤔 Понимание аббревиатур Недавно ко мне обратилась Даша с интересным вопросом:

❓Как именно надо обучать ИИ что бы он понимал абревиатуры используемые в компании, можно ли вообще это делать

Ответ довольно прост: если у вас есть специфичный сленг, задайте его на уровне промпта или системного промпта. То есть все специфичные знания сразу передаём системе для получения ответов.

🧙Допустим, если мы работаем в академии Хогвартс, то прям так и пишем:

Для ответа используй следующие расшифровки для аббревиатур:

-

С.О.В.У.

—

совершенно обычный волшебный уровень.

…..

Составь текст объявления, что экзамены на СОВУ откладываются.

🔄 Особенности обучения Если же говорить про fine-tuning (дообучение моделей), то он бесполезен в таких случаях. Причина в том, что для дообучения модели всегда используется определенный промпт: мы передаем пары промпт-ответ, на этих парах модель тренируется и оптимизирует результаты. При использовании, чтобы заставить модель отвечать нужным нам образом обязательно надо вводить именно такой или очень близкий к тренировочному промпт. 🧩 Воздействие fine-tuning Интересный факт: файн-тюнинг может оказывать влияние даже вне тренировочных промптов. Исследования показали, что если обучать модель на дивиантное поведение в рамках частной задачи, такое поведение может распространиться и на другие задачи. https://arxiv.org/html/2502.17424v3 ✔️ Примеры дообучения Хорошим примером дообучения является классификация минус-фраз. Подробнее об этом можно узнать в моем предыдущем посте. ---- Поляков считает — про ИИ, рекламу и аналитику.

Переписки с ChatGPT и ваша приватность: что нужно знать 🔍 Что происходит с вашими данными? Не все знают, что данные пользователей тарифов Plus и Free могут использоваться OpenAI для обучения своих моделей. Это означает, что переписки и другая информация могут храниться и иногда приводить к неприятным ситуациям. 📉 Реальные случаи — Ozon случайно обучил Copilot, ссылаясь на тикет в Jira: https://habr.com/ru/companies/raft/articles/768296/ — Samsung также случайно передал модели свои приватные данные: https://www.ixbt.com/news/2023/04/04/izza-chatgpt-u-samsung-proizoshla-utechka-dannyh.html 🔒 Как защитить свои данные? OpenAI заявляет, что данные, переданные через API и Playground, а также данные пользователей Team и Enterprise, не используются для обучения моделей. https://openai.com/index/approach-to-data-and-ai/

We do not train on our customers’ business data, including data from ChatGPT Team, ChatGPT Enterprise, or our API Platform. ChatGPT Free and Plus users can control whether they contribute to future model improvements in their settings

⁠ Однако пользователям тарифов Free и Plus рекомендуется отключать использование своих данных в обучении языковых моделей иначе однажды модель может засветить ваш тикет в Jira. 📹 Как это сделать? Записал видео, чтобы показать, как отключить использование ваших данных. ---- Поляков считает — про ИИ, рекламу и аналитику.

Почему ИИ выдает разные ответы на одинаковые запросы? Даша занимается обучением ИИ для компаний, а я поддерживаю ее, отвечая на вопросы учеников. Сегодня мы получили интересный вопрос:

❓ Почему при одинаковых вводных данных и запросах ИИ выдает разные варианты ответа? Как этого избежать?

🎲 Случайность и языковые модели Это связано с выбором "случайного" варианта следующего слова при генерации ответа моделью: она выбирает не наиболее вероятное продолжение, а одно из вероятных. Это явление называется семплинг с температурой, и является ключевой фишкой в LLM. Кстати низкая температура может снизить случайный разброс в ответах, разберемся подробнее. 💻 Контроль температуры Я прикреплю простой код и его вывод. Обратите внимание, что низкая температура, даже без фиксации инициализационных весов, приводит к почти одинаковым ответам. Они могут быть не одинаковыми буквально, но очень похожими в плане идей. Ключевой момент: вы не знаете, какую температуру к вашему запросу выставили или расчитали разработчики, если вы не разработали среду.

🤔

Вывод:

для получения разнообразия или идентичности по заказу — пишите код самостоятельно и управляйте гиперпараметрами моделей.

📚 Простые запросы и переобучение Стоит отметить, что простые запросы, часто возвращают одинаковые ответы, независимо от температуры. Такое ощущение, что модели переобучились на них и не могут генерировать разнообразные ответы. Например, на запрос "привет, как дела" вероятный ответ будет одинаковым. 🔍 Уменьшение вариативности Также можно сократить вариативность, если запросить ответ по объявленной схеме JSON. 📍 Где тестировать Управлять гиперпараметрами можно через код (можете забрать мой пример выше, он рабочий), или в platform.openai.com в разделе с ассистентами. ---- Поляков считает — про ИИ, рекламу и аналитику.

OpenAI презентуют GPT-4.5 https://www.youtube.com/live/cfRYp0nItZ8?si=DSUGQjgr21zKOSAI

INCEPTION: генерируют ответы LLM, как будто это картинки Получается очень быстро. 📚 Инновация в языковых моделях Традиционные языковые модели, как известно, предсказывают следующее слово текста, что делает их не всегда эффективными. Каждое новое слово требует полного прогона по уже сгенерированным словам. Другой пример, который отличается от этого — генерация изображений в Midjourney. Картинка начинается с абстрактного квадрата. Добавляются «кляксы», которые как бы «проявляются» по мере генерации. А главное скорость генерации — миллион «пикселей» создаются за 1-2 десятков секунд. 🎨 Диффузионные модели: Эффективный процесс генерации Диффузионные модели работают по принципу наложения «шумового» слоя, который затем вытравляется в соответствии с промптом, что значительно эффективнее, чем предсказание каждого пикселя по отдельности. Происходят десятки и сотни итераций, а не миллионы. 🚀 Прорыв от INCEPTION Разработчики из INCEPTION решили применить аналогичный подход для генерации текстов. В результате получилась модель, генерирующая текст значительно быстрее классических LLM. Вы можете попробовать её тут https://chat.inceptionlabs.ai/ Пост в твиттере Оф. сайт INCEPTION 🔍 Эксперимент с доменными знаниями Я задал модели простые вопросы на доменные знания, и она перепутала имя и отчество Пушкина, а также «создала» в Сочи Кремль, которого там нет. Галлюцинации модели связаны с используемыми смысловыми «кляксами», от которых не избавиться в диффузионной архитектуре. 💭 Интересные перспективы Несмотря на текущие ограничения, задумка весьма интересная и может стать следующим шагом в развитии LLM. Однако, очевидно, что галлюцинации — это цена за использование смысловых «клякс». ---- Поляков считает — про ИИ, рекламу и аналитику.

Anthropic и их новая модель Sonnet 3.7 🔍 Что нового? Сегодня Anthropic представили свою улучшенную модель Sonnet 3.7, заменившую предыдущую версию 3.5. Главное отличие заключается в возможности выбора: 🔵 хотите, чтобы модель саморефлексировала перед ответом — включаете опцию; 🔵 хотите, чтобы отвечала быстро и без раздумий — отключаете. Обновление доступно всем пользователям. 📝 Мой опыт использования Я протестировал Sonnet 3.7 для генерации тем статей для промостраниц. С рефлексией модель предлагает действительно более обдуманные и интересные темы. Например, когда я попросил создать 10-20 идей, глубокая модель выдала 20, а обычная — 15. Среди идей рассуждающей модели попались действительно удачные сценарии, вот пример прям реально хорошей:

16. "Один снимок, который спас зуб: реальные истории пациентов" История 1: Скрытый кариес, обнаруженный до появления симптомов История 2: Ранняя диагностика воспаления, предотвратившая потерю зуба История 3: Своевременное лечение благодаря обнаружению микротрещины Комментарии стоматологов к каждой истории Экономическая выгода раннего вмешательства Эмоциональные отзывы пациентов о результатах

❌ Недостатки Однако есть и минусы. В анонсе от Anthropic говорится, что мы можем использовать более глубокие рассуждения, когда это нужно. Но, к сожалению, если вы хотите снизить уровень обдуманности диалога, придется запускать новый чат. Это вызывает сомнения в анонсе модели как "the first hybrid reasoning model on the market". Интересно, почему ее так назвали? ---- Поляков считает — про ИИ, рекламу и аналитику.

Google делает общедоступной модель генерации видео veo2 📍 Где попробовать — FAL.AI: Генерация 1 секунды стоит $0,5. Например, 5 секунд обойдутся в $2,5. Пробовать тут https://fal.ai/models/fal-ai/veo2 — Freepic: Любой тариф позволяет генерировать видео с veo2. 5 секунд видео стоят 1000 кредитов. Базовый платный тариф за $10 в месяц дает 18 000 кредитов/месяц. Таким образом секунда видео — 10 центов. Можно сразу наложить звук. Пробовать тут https://www.freepik.com/pikaso/ai-video-generator — надо выбрать custom, затем модель Google Veo2 🎯 Сравнение платформ Freepic предлагает более удобную и дешевую платформу по сравнению с FAL.AI, где даже нельзя просматривать галерею прошлых генераций или переиспользовать промпты. FAL.AI — это просто API, и хранение галереи должно осуществляться через сервисы, которые с API работают. 👍 Преимущества модели - Модель работает достаточно быстро: видео создаются за 2 минуты, в то время как в Kling это занимает 10 минут. - Качество ритмики движения камеры и объектов впечатляет. Например, сноубордист едет быстро, медведь двигается реалистично. - Можно указывать события по таймкодам, и модель им следует. Пример промпта для сноубордиста:

[0.0s → 2.5s]: The snowboarder races down a pristine, powdery slope, carving smooth lines across the fresh snow. The scene captures the dynamic motion, the crisp winter air, and the majestic mountain backdrop as the rider maintains a steady, powerful descent. [2.5s → 5.0s]: In one fluid motion, the snowboarder launches into an impressive mid-air trick—a full 360-degree spin. Snow sprays around in a burst of energy, highlighting the athlete’s skill and the adrenaline-fueled moment of high-flying action.

👎 Недостатки модели - Модель не следует промпту детально, используя его скорее как направление генерации, а не инструкцию. - Нельзя задать референсное изображение или стартовый кадр, что сокращает простор для творчества. - Качество видео может быть слабым. В моделях Runway/Kling я привык к высокому качеству картинки, тут результат слабее. - Иногда видео просто не сгенерируется из-за ошибок. 🔍 Выводы Пока инструмент скорее для развлечения. Есть и плюсы, и минусы, но пока его сложно использовать как рабочий инструмент. Если попробуете и у вас получится что-то интересное — поделитесь промптами и результатми в комментариях, мне очень интересно. ---- Поляков считает — про ИИ, рекламу и аналитику.

Вайб-кодинг: как обстоят дела в реальных задачах 26 февраля у Даши пройдет «ЭйАй Воркшоу», и для этого нужно было запустить контекстную рекламу. Мы настроили оплату за конверсии, чтобы средства не тратились впустую.

❓Но как передать конверсии в Яндекс.Метрику, если регистрация происходит в телеграм-боте (да еще и ноукод-боте PuzzleBot). Вообще насколько я понимаю в EdTech вся реклама строится на каких-то неподдерживаемых ноукод решениях и в результате приходится создавать "костыли" вроде описанного в этом посте.

💻 Эксперимент с кодом Я решил попробовать создать простой скрипт и API для передачи событий из бота в Яндекс.Метрику. Поскольку вайб-кодинг на Cursor сейчас в моде, решил написать весь код там. Вот что надо было сделать: — Скрипт для изменения ссылок в коде страницы; — API для получения событий из бота; — Очередь задач для хранения событий; — Обработчик задач, который раз в час обрабатывал бы очередь и передавал события в Метрику. Вроде звучит легко, отправляем задачу в Cursor. 🤔 Справились ли языковые модели? 1. Проблемы с кодом счетчиков: LLM, хоть и пишут скрипт, но не могут подключиться к счетчику метрики для сбора идентификаторов. Значения нужных атрибутов всегда пустые.

⚡️Внезапно: оказывается, Яндекс.Метрика в Тильде инициализируется с задержкой в 2 секунды.

❌ Языковые модели не смогли объяснить, почему скрипт не видит счетчик, только когда сам пошел изучать код страницы и нашел таймаут. ✅ Правда когда я передал это знание в LLM — скрипт заработал. 2. Создание проектов: LLM отлично создают проекты на FastAPI, но не могут инициализировать очереди сообщений в докере или сделать настройку крон без извращений. ❌ Очереди RabbitMQ просто не создавались, пока я не показал языковой модели свой код инициализации (его можно было просто скопировать) ✅ После передачи явного примера очереди заработали. 🔧 Решение В итоге пришлось писать всё самому. Если вы столкнетесь с подобной задачей, используйте мой код и показывайте его разработчику: — скрипт для сайта (требует исправить ссылку) — АПИ для передачи событий из бота в Яндекс.Метрику ---- Поляков считает — про ИИ, рекламу и аналитику.

Поле битвы: Deep Research 🔍 Новая эра исследования Похоже, что разработчики ИИ решили сделать подход с исследованием веб-страниц и их суммаризацией с помощью языковых моделей стандартом. Даже название модуля не стали изменять в Perplexity. 🆓 Доступность для всех

☝️ Модуль пока доступен только в веб-версии Perplexity: https://www.perplexity.ai.

UPDATE: уже и во всех приложениях Бесплатный и доступный всем Perplexity Deep Research предлагает: - Для обычных пользователей без подписки — 5 запросов в сутки. - Для продвинутых — 500 запросов в сутки. Помните, я рассказывал, как можно купить подписку Pro за 1000 руб? 📈 Сравнение с OpenAI По бенчмаркам Perplexity находится близко сзади или близко впереди OpenAI. Лично я проверил тест на запросе исследования сферы встраиваемых систем пылеудаления, и, как по мне, результат OpenAI получился подробнее. 🤔 Ваше мнение? Как вы думаете, сможет ли Perplexity потеснить лидеров в этой области? 🔗 Ссылки 🔸 Анонс в твиттере 🔸 Описание и бенчмарки на официальном сайте ---- Поляков считает — про ИИ, рекламу и аналитику.

Теперь и у меня ChatGPT Pro 🌟 Пути к премиуму Уже более двух месяцев я присматривался к премиальной подписке ChatGPT за 200 долларов в месяц. С одной стороны она кажется дорогой: на уровне базовых моделей и лимитов мне хватает доступных в подпике Plus. С другой стороны там есть Deep Research, который пишет очень крутые и детальные отчеты. Все кто пользовался отзываются о функции очень хорошо.

🧐Однако, меня беспокоила возможность блокировки аккаунта. В моем окружении уже несколько человек столкнулись с этой проблемой за нарушение правил использования. Ссылаются на unsupported locations. Это создает впечатление, что при покупке PRO подписки аккаунт проверяется особенно тщательно.

💼 Риски и опасения У меня есть около 50 API ключей, распределенных по разным микросервисам, и значительный баланс на аккаунте. Потеря основного аккаунта из-за блокировки была бы крайне болезненной. 🕵️‍♂️ Находка друга Позавчера мой друг Вадим подсказал, как получить дешевую подписку PRO. В итоге, я приобрел дополнительный аккаунт с доступом к Deep Research, потеря которого не будет критичной. И всё за 1000 руб. На таких условиях, грех не попробовать. ⚠️ Shared-аккаунты Конечно, за 1000 рублей продаются учетные записи, которыми одновременно будет пользоваться несколько человек и все они смогут видеть мои исследования и сообщения. Да, память ChatGPT будет обновляться, что создаст венегрет в обучении. Но в целом, это практичный способ получить доступ к желанной функции. PS. Я положу в первом комментарии ссылку, которой я воспользовался для покупки. ---- Поляков считает — про ИИ, рекламу и аналитику.

ИИ для аналитики больших данных: всё ли так радужно? Сейчас набирает популярность идея загружать прям эксель файлы в ИИ (например, Claude AI) и получать «чудесные» дашборды на React. Их можно вставлять в веб-странички и отправлять клиентам. Смотрится всё очень дорого, но можно ли доверять данным? А если через неделю дотошный аналитик заметит бредовую ошибку и обман — кто получит репутационный удар? ⚙️ Что происходит внутри? Языковые модели (LLM) вообще не созданы для аналитической работы, они созданы чтобы сочинять новый текст. Они, временами, сильно упрощают и «сжимают» данные, легко теряя важные детали. Этот процесс называют «понижением размерности».

🤔 Понижение размерности это когда кто‑то говорит: «У сайта упала конверсия», в экселе при этом из двух массивов данных (визиты и заявки) остаётся только процентное соотношение, множество нюансов пропадает, но данные проще воспринимать. LLM делает то же самое со всем набором ваших цифр. Только вы не можете знать, какие конкретно данные исчезли.

📉 Пример из практики Недавно я попросил Claude сгенерировать сравнительный анализ рекламных кампаний одного клиента. Всё выглядело красиво — можно сохранять отчёты в HTML5 и отправлять заказчику. Но при детальной проверке оказалось, что часть строк в исходном CSV просто исчезла из внимания LLM. Пришлось по нескольку раз напоминать модели о пропущенных данных. Скажу по секрету, итоговый отчет хоть и был похож на реальность, но всё равно был приближением. 💡 Как использовать LLM без рисков: инструкция Если говорить о реальности, то языковые модели всё же могут пригодиться. Шаг 1: Чётко объясните контекст «У меня есть CSV с продажами за 2023 год: date (формат DD.MM.YYYY), channel (Яндекс Директ / ВКонтакте), revenue (рубли). Учтите, что в феврале была неточность учёта, поэтому статистика может быть неполной.» Так вы заранее даёте понять, какие именно цифры присутствуют, и на что надо обратить особое внимание в дальнейшем анализе. Шаг 2: Генерируйте код/запросы, но не просите исполнять код — Попросите модель создать SQL-запрос для подсчёта среднего чека. Запустите его в своей базе и проверьте результат. — Составьте шаблон для Excel или Google Sheets, но просмотрите формулы вручную (модели легко путают VLOOKUP и INDEX/MATCH). — Используйте LLM для описания структуры датасета, попросив написать код, который его опишет и исследует. Прежде чем писать итоговый запрос — сообщите языковой модели о том, с чем она работает. Чем больше данных расскажете, тем меньше ошибок будете исправлять потом. Шаг 3: Визуализируйте самостоятельно — Применяйте LLM, чтобы подсказать тип графика или макет отчёта. — Строить графики удобнее в Yandex Datalens, Tableau или Power BI, где есть полный контроль над исходными данными. — Если LLM предлагает «волшебный» React-дашборд, помните, что при больших объёмах может теряться или сочиняться важная часть информации. ⚠️ Почему это важно? 1. Неверные цифры: Модели нередко «додумывают» данные или теряют часть строк. 2. Высокие риски: На кону бюджеты, принятие управленческих решений и профессиональная репутация. 3. Потеря времени: Если аналитика «не сходится», приходится вручную искать ошибку. 🛎️ Вывод Применяйте LLM скорее как «стажёра-помощника», а не главного аналитика. Объясните контекст, задайте правильные вопросы, попросите сгенерировать код, но всегда сверяйтесь с оригинальными данными и проверяйте расчёты вручную. Так ИИ действительно поможет работать быстрее, не подвергая бизнес лишним рискам. ---- Поляков считает — про ИИ, рекламу и аналитику.

Рубрика ИИ для работы: быстро создаём промостраницы 📈 Зачем использовать промостраницы? В контекстной рекламе не всегда выгодно использовать прямой трафик или конверсионные стратегии. Возьмем, к примеру, стоматологию: → По горячим запросам вроде <лечение кисты зуба> стоимость клика может достигать 500 рублей и более. → Даже если показатели конверсионности хорошие, стоимость обращения может составлять 10–20 тысяч рублей. При этом обращение — это ещё даже не визит и уж тем более не начало лечения. Всё из-за высокой конкуренции. Предложений много, прочного контакта у клиента и бизнеса не возникает.

🤔Вот если бы завладеть вниманием пользователя, рассказать о своих подходах к работе или к продукту и форму заявки выдать уже после знакомства. Получатся как раз промостраницы. Оплата всё равно за переход на сайт, но пользователь уже знаком с компанией.

🛠 Создание промостраниц: традиционные сложности Создание промостраниц — это процесс, включающий: → Разработку тем, → Сбор фактуры, → Подготовку медиафайлов, → Написание статей, → Согласование с клиентом. Все вместе может занимать больше одной недели времени. Именно поэтому массовые агентства избегают помостраниц, так как много работы и высокая цена ошибки. Однако, LLM кардинально меняют подход. 🤖 Как ИИ меняет процесс? Использование языковых моделей (LLM) упрощает создание промостраниц: 1. Определение темы: Claude AI выбирает тему, анализируя успешные примеры. 2. Сбор данных: Все необходимые сведения собираются через Perplexity. 3. Структура и медиа: Claude AI создаёт структуру статьи и выбирает медиафайлы. 4. Генерация текста: После утверждения структуры, Claude AI пишет текст. 5. Финальная проверка: Эксперт клиента проводит окончательную проверку. При наличии фотобанка клиента процесс ускоряется и мы можем готовить до двух страниц в час. Человек по прежнему нужен на финальной вычитке, но без нее никуда. Конретно в кейсе со стоматологией все материалы были приняты без правок. 📊 Результаты эксперимента Для клиента Ладент промостраницы показали отличные результаты. Получили 8 обращений в первые дни работы. Стоимость заявки снизилась до 3000 рублей, и из 8 заявок только одна была нецелевой, остальные стали реальными записями. ---- Поляков считает — про ИИ, рекламу и аналитику.

В дополнение к предудыщему посту. Кажется, что я недооценивал Perplexity. Попробовал использовать каскад LLM для подготовки фактуры текста страницы одного из клиентов. Получилось очень круто. Были найдены даже международные исследования. 🌟 Цепочка генерации контента 1. Просим Perplexity изучить информацию и собрать фактуру. 2. Закидываем в Claude фактуру и правила написания текста 3. Полученный текст размещаем на сайта На мой взгляд получается как минимум глубже, чем у копирайтеров с Профи.ру ---- Поляков считает — про ИИ, рекламу и аналитику.

Perplexity: Реальные впечатления На рынке уже давно присутствует поисковик Perplexity на базе ИИ. Он анализирует запросы, проводит серию поисков и в итоге предоставляет саммари со сносками. Для меня он всегда был чем-то вроде «ну есть и есть», пиетета к нему не испытывал. Базовая версия предлагала один продвинутый запрос в день, мне этого хватало, чтобы быстро проверить отзывы об автомобилях или гаджетах. 💸 Подписка за 30 тысяч рублей в год Я долго задумывался о продвинутой подписке, но её цена — почти 30 000 рублей в год — казалась слишком высокой. Я стараюсь рационально подходить к подпискам и избегать тех, которыми не пользуюсь. Учитывая, что поисковые системы я чаще всего использую для поиска телефона автомойки или барбершопа, целесообразность платной подписки на Perplexity казалась околонулевой.

🫠Я даже шутил над теми, кто был впечатлён этим сервисом, и показывал как он не справляется с простым навигационным запросом, элементарным для Яндекс и Гугл.

🎁 Неожиданная находка: Промокод на годовую подписку за 1000 рублей Вчера случайно наткнулся на распродажу промокодов и решил попробовать. Без ограничений на число запросов Perplexity стал полезен в проектных задачах. Я положу ссылку в комментарии под постом. 🚀 Применение в проектных задачах Сейчас я работаю над проектом, где нужно учитывать требования API Яндекс.Директа и OpenAI с их ограничениями. Раньше это означало, что приходилось идти на платформы и читать документацию. Сейчас я просто задал один запрос и получил все нужным мне ответы. Ссылки на документацию были сносками, и я прикрепил их к задаче. 🤔 Оправдана ли цена? - За 30 000 рублей в год — пока не вижу ежедневной необходимости. - За 1000 рублей — однозначно стоит. P.S. Если переключить базовую модель на DeepSeek R1, поиск телефона барбершопа становится более корректным. Хотя Яндекс всё ещё быстрее для таких запросов. ---- Поляков считает — про ИИ, рекламу и аналитику.

Рубрика ИИ для контент-менеджера Помогаю с обучением сотрудников одному заводу — недавно писал, как сделал под них UI-интерфейс на базе OpenAI, чтобы маркетолог без навыков HTML (ее зовут Марина) могла оформлять SEO-статьи. И вот у нас новое приключение. Теперь про SEO-заголовки. 🤦‍♀️ Марина: у меня работы на две недели Сегодня Марина пришла мрачнее тучи:

🤧 SEO-команда поручила переписать все заголовки для дымоходов по шаблонам. Там куча товаров, задача не понятная, там минимум на неделю дел.

Начинаю разбираться: → 1500 товарных позиций, → В задании категории не совпадают с сайтом, только на сопоставление уйдет время. → Примеры — 1-2 на категорию, остальное «додумывай сама» по аналогии. → Сама база данных на сайте почти без свойств и четкой структуры, все свойства товаров «зашифрованы» в заголовке товара — постарались менеджры 1С. Даже если Марина сможет ежеминутно заменять название одного товара товара — уйдут сутки работы, если не есть не пить. Реальные сроки — это 2 недели. 💡 Как же сэкономить время? Вспомнил про GPT for Sheets — сервис за $29, который позволяет использовать промпты, как формулы в Гугл Таблицах. Прям так и пишем =GPT(A1). Так как неплохо знаю Excel, то быстро сориентировался. 👨‍💻 Алгоритм 1. Выгрузили данные из Битрикса, 2. Нейросеть сгенерировала заголовки по шаблонам, 3. Марина проверила визуально 4. Загрузили обратно. Я под впечатлением — это реально будущее. 🚀 Результат — 1500 товаров = $9. Неплохой размен за две недели работы. — Время: 10 минут на настройку + 10 минут на генерацию, 🤖 Что дальше? Google Sheets не решит всё: как минимум надо обновлять названия новых товаров по тем же шаблонам. Такие задачи лучше отдать сервисам. Думаю, что можно реализовать ИИ-панель для SEO. На вход давать правила и шаблоны, а товарам и статьям будут автоматически прописываться корректные теги. Завтра собираюсь её пропитчить у себя в агентстве. ---- Поляков считает — про ИИ, рекламу и аналитику.

Обновление Kling — Elements 🔄 Новые возможности Кling представил обновление Elements – новый способ для создания видео. Элементы — уже не просто стартовый и конечный кадры, а целая история: промпт + действующие лица. Да-да, это то же самое что и Pika Ingridients, о которых писал в середине декабря 2024. Обе разработки открывают новые горизонты для создания маркетплейс-контента, любительской анимации и рекламы. 🚀 Преимущества Лично мне работа с Kling нравится по ряду причин: 🔸 Единый стиль контента. Новый инструмент позволяют сохранить единый стиль в рекламных роликах – например, когда на протяжении ролика присутствуют один и тот же дом, ребёнок, собака. 🔸 Детальный контроль движений. Отдельный инструмент Kling — Motion Brush, которого нет в Elements, даёт подробный контроль над движениями объектов. Именно с его помощью я смог заставить медведя обнять водосток. 🔸 Реалистичность деталей. Размеры инженерных объектов заданы корректнее, что выделяет Kling по сравнению с Pika, где забор оказался ниже пояса. 💵 Цена и функциональность Подписка на Kling Elements обойдётся чуть менее 100 долларов в год — почти в 12 раз дешевле аналогичного сервиса от Pika. Такое соотношение цены и качества делает инструмент привлекательным как для специалистов по рекламе, так и для энтузиастов анимации. 🏡 Практическое применение Я протестировал генерацию, используя комбинацию: труба дымохода + фотография мужчины + дом. Сделал две попытки анимации, и странно, что оба раза мужчина оказался в кадре со спины. В первой попытке стальная текстура дымохода сохранилась (✅), а во второй он стал пластиковым (❌). Думаю, стоит дать больше деталей в промпте и использовать более качественные фото. ---- Поляков считает — про ИИ, рекламу и аналитику.

Обновление телеграм-бота для доступа к сервисам OpenAI 🔄 История создания Когда-то давно я запустил специального бота, чтобы иметь доступ к ChatGPT, не обходя запрет на сервис пользователям из России. Если что, вот ссылка: @polyakov_gpt_bot.

☝️ Кстати, для подписчиков моего канала доступ к этому боту бесплатный — просто напишите мне в личные сообщения или оставьте комментарий под постом.

🌐 Почему я все еще использую бота? Хотя сервисы искусственного интеллекта стали более доступными, я продолжаю использовать этого бота благодаря его удобству. Бот в Телеграм работает комфортнее, чем ChatGPT: у него нет галлюцинаций насчет авторских прав, так как LLM не знает, что контент взят с определенного сайта — за это отвечает бот. Нет необходимости создавать отдельный чат под не важную задачу. 📊 У меня есть топ сценариев: — Быстро суммировать статью на английском, китайском или русском и получить основные выводы. Для меня важным является гарантия получения всего контена со страницы и его обработка. — Вычитать пост перед публикацией в канал и оформить его. Тут и обычный ChatGPT справится, просто бот быстрее. — Спросить вопрос на уровне общей эрудиции: сочетания горячих клавиш, символьный код и т д. ⚙️ Технические улучшения Однако были и проблемы. Часто бот не выдерживал проверку на роботов и возвращал запрещенный отклик. Также данные с сайтов терялись из-за сложной вёрстки. Поэтому я добавил зависимость и стал получать данные через сервис веб-скрапинга. Я выбрал Scrape.do, так как он стабилен, доступен и экономичен. 🔧 Новые возможности Я предложил автору исходного бота внедрить эту зависимость, но он отказался. Поэтому, я решил опубликовать свою копию исходников телеграм-бота с доработками: — Поддержка голосовых сообщений и ответ на них как текстом, так и голосом. — Поддержка типичных офисных документов и изображений (pdf, img). — Поддержка парсинга любых веб-сайтов. Исходный код доступен здесь: https://github.com/artwist-polyakov/pokitoki-advanced. Так что любой может создать себе такого же бота сам. 💭 Идеи на будущее Кажется, что бот может стать удобным хранилищем закладок, теоретически, если превращать контент страниц в векторное представление, то можно после довольно эффективно искать по этому содержимоому и даже формировать выжимки из нескольких документов. ---- Поляков считает — про ИИ, рекламу и аналитику.

Еще одна бесплатная замена платному ChatGPT доступная в России 🌍 Китайские технологии для всех Китай активно разворачивает для широкой аудитории свои языковые модели. Теперь и Qwen выпустила свой чат-бот, доступный по адресу https://chat.qwenlm.ai/ . ✅ Плюсы: - Простая регистрация доступна через почту, GitHub или Google-аккаунт. - Широкие возможности работы с контекстом: прошел кукусики-тест на большом документе, с которым ChatGPT и Deepseek не справились. - Поддержка понимания изображений, а не только текста на них, как в случае с Deepseek. ❌ Минусы: - Медленные ответы и ограничение на число токенов. - На вход чату можно подать только 10 000 символов, что не позволяет преобразовать документ в HTML, хотя DeepSeek с этим справляется. Но есть лайфхак, о нем ниже. 💡 Как обойти ограничение на 10 000 символов на ввод Если загрузить txt-файл размером больше 10 000 символов, то все будет работать, хотя и медленно. Значит для работы с кодом процесс будет таким: 1. Собираем весь код проекта в один файл 2. Отправляем файл в LLM. При загрузке всей документации проекта в файле, контекстное окно в МИЛЛИОН ТОКЕНОВ это что-то невероятное для работы с документами, статьями, кодом.

🤔Надо попробовать загрузить годовую отчетность Газпрома: с ней даже Claude не справился.

🌐 Будущее доступности ИИ ИИ становится все более доступным для всех в мире. Полагаю, платные системы будут полезны для веб-скраппинга, цепочки действий и взаимодействия нескольких LLM. То есть сама генерация токенов уже стала максимально доступной каждому. ---- Поляков считает — про ИИ, рекламу и аналитику.

Бесплатный чат-бот: Альтернатива Anthropic и OpenAI С прошедшими праздниками! Ранее я делился своим опытом решения проблем с регистрацией и использованием OpenAI, предлагая такие решения, как телеграм-бот и сервис для управления доступами сотрудников. 🤖 DeepSeek-V3: Стоит ли обратить внимание? Сегодня я хочу рассказать о бесплатном чат-боте DeepSeek-V3 из Китая — https://chat.deepseek.com/. Согласно опубликованным бенчмаркам, эта модель сопоставима с топовыми решениями и иногда даже превосходит их. Она выделяется своей скоростью благодаря архитектуре Mixture of Experts, представляющей собой множество мини-агентов, каждый из которых решает определённые задачи. 🆓 DeepSeek бесплатный Регистрация через почту или аккаунт Google. Если нет задачи скрыть приватные сведения и документы, то можно использовать веб-версию как основное решение. 💻 Доступна к развертованию у вас на сервере Для развертывания DeepSeek-V3 на собственном оборудовании потребуются значительные ресурсы. Вы можете выбрать один из двух вариантов: 1. Для квантования: 40 ГБ GPU и 128 ГБ RAM. 2. Для полноценного запуска: 8-16 карт NVIDIA TESLA H100. Ориентировочная стоимость одной карты составляет 3 951 700 рублей, что делает полный комплект весьма дорогостоящим (32-64 миллиона рублей). ❌ Недостатки модели — Нет аудио ввода — Не открывает ссылки — Не распознает изображения, только текст — Ответы на английском языке при активации цепочки рассуждений — Ограниченный контекст (до 50 страниц A4) ✅ Преимущества модели — Очень быстрая работа — API запросы до 50 раз дешевле, чем у конкурентов 🔍 Тестирование и выводы Я традиционно тестирую языковые модели на следующих задачах: - Суммаризация текста - Преобразование текста в HTML - Кукусики-тест DeepSeek-V3 отлично справляется с первыми двумя задачами, а кукусики-тест проходит только на коротких документах (до 30 листов A4). То есть аналогично ChatGPT, но не дотянул до Claude по длине входного контекста. Мое мнение: для базовых задач обработки информации эта модель превосходна. ---- Поляков считает — про ИИ, рекламу и аналитику.

Автоматическая обработка минус-фраз Яндекс.Директа с помощью ИИ 🔍 Проблемы в поисковой рекламе Совершенно случайно я дошел до файн-тюнинга фундаментальных моделей для рекламы. В моем агентстве значительная часть рекламы приходится на поиск, который сталкивается с двумя основными проблемами: — мусорный трафик, — высокие цены. Если автоматизация цен может быть решена с помощью здравой логики и алгоритмов, то очистка от мусора остается сложной и рутинной задачей. Мусорный трафик не только расходует бюджет впустую, но и повышает стоимость рекламы. ⚙️ Решение с помощью языковых моделей

🫠К задаче очистки мусорного трафика я подходил за время своей карьеры раз 6. И с помощью матметодов ML и на базе нейросетевых фреймворков. Сейчас в моде LLM, поэтому я должен попробовать решить задачу ими.

Использование языковых моделей сталкивается с тремя проблемами: 1. Они дорогие. 2. Они медленные (на вопросе в ChatGPT вы этого не заметите, но на 10 000 поисковых фраз будет ощутима медлительность). 3. Они не эксперты. Даже если начать промпт словами «Ты эксперт в контекстной рекламе» языковая модель не станет таким экспертом. Для решения первых двух проблем я выбрал gpt-4o-mini — она значительно дешевле базовой модели. А для повышения рекламной экспертизы потребовался fine-tuning. Сначала мы показываем, как правильно принимать решения, а затем просим систему выполнять эти решения самостоятельно. 🚀 Результаты и сложности На удивление, результаты оказались впечатляющими: ответы быстрые, дешевые и адекватные даже при неполных данных. В примере я показываю выводы лишь по одному условию показа, хотя на практике данных должно подаваться значительно больше. Однако, остались и сложности — обработка опечаток работает крайне неадекватно, и неясно, как решить эту проблему без дополнительного подпроцессинга. Еще не понятно как сообщать текущую дату, чтобы устаревание моделей автомобилей учитывалось.. 💬 Буду рад советам Если вы решали подобные задачи методом языковых моделей или как то еще — расскажите о своем опыте. ---- Поляков считает — про ИИ, рекламу и аналитику.