BotValley - разработка ботов

🧠 ИИ-поддержка в ботах. Еще пару лет назад поддержку в ботах делали двумя способами: либо ссылка на ТГ-аккаунт, либо пересылка сообщений туда-сюда между пользователем и оператором. С появлением крупных LLM, поддержку теперь можно сделать через ИИ, существенно сэкономив время оператора на простых обращениях юзеров. 👨‍💻 Как это реализовать технически? Получаем API-ключ у OpenAI / Claude или любого другого продвинутого ИИ. Когда пользователь что-то пишет в поддержку вашего бота, то формируем один большой текстовый запрос к ИИ, в который входит: - вопрос пользователя, - общая информация про ваш сервис, - информация из базы про пользователя, - информация из базы про связанные объекты, - история переписки с этим пользователем, - инструкция по стилю общения с клиентом. В течение нескольких секунд ИИ генерирует полный развернутый ответ, который отправляете обратно клиенту) Если вы хотите чтобы ИИ присылал в ответ еще и кнопки, то добавьте в инструкцию для этого специальные теги, которые ИИ должен включить в свой ответ. К примеру, если ИИ прислал в ответ [button_XXX], то выводите юзеру соответствующую кнопку. Аналогичное можно сделать для других безобидных действий. Если ИИ не может помочь с каким-то вопросом, он может вывести в ответ кнопку связи с обычной человеческой поддержкой, как это реализовано во многих сервисах. 🔐 Как организовать безопасность? По сути, в такой схеме пользователь общается с ИИ обычным текстом, никаких особых полномочий и доступов у ИИ нет, за исключением того что вы сами передадите в промпт, поэтому внимательно это проверьте. Нажатия на кнопки, которые присылает ИИ, обрабатываете как обычные inline-кнопки, со всеми проверками и валидациями, это самый критичный момент. Разумным будет дополнительно установить лимит токенов в ответе ИИ, указать ему явно форматирование для ответов (HTML / Markdown), ограничить в инструкции темы по которым ИИ не должен консультировать. 📝 Остались вопросы? Обращайтесь - @manager_BotValley