ML&|Sec Feed

🔥 Chonkie — легковесная библиотека на Python для текстовой сегментации (или "chunking") в задачах Retrieval-Augmented Generation (RAG)! 💡 Цель этой библиотеки — обеспечить высокую производительность и удобство в обработке больших текстов, разбивая их на сегменты для использования в чат-ботах и других NLP-приложениях. Chonkie поддерживает различные методы сегментации, включая разделение по токенам, словам, предложениям и даже по семантическому признаку, что делает её универсальной и эффективной для задач анализа текста и обработки естественного языка. 🖥 Github @data_analysis_ml

🔍 dstack — инструмент с открытым исходным кодом, предназначенный для упрощения работы с вычислительными нагрузками, требующими GPU! Основная цель проекта — сделать разработку, обучение и развертывание генеративных моделей ИИ более доступным и простым процессом, независимо от того, где они выполняются: в облаке или локально. 🔍 Основные особенности: 🌟 Альтернатива Kubernetes и Slurm: dstack упрощает оркестрацию контейнеров для задач машинного обучения и аналитики данных. 🌟 Поддержка мультиоблачных и локальных решений: позволяет запускать приложения на любой платформе, включая облачные сервисы (AWS, GCP, Azure) и локальные сервера. 🌟 Совместимость с GPU и TPU: поддерживает оборудование NVIDIA, AMD и TPU для более эффективной работы с высокопроизводительными нагрузками. 🌟 Интеграция с существующими инструментами: позволяет легко интегрировать существующие решения в ваш рабочий процесс. 🔐 Лицензия: MPL-2.0 🖥 Github @data_analysis_ml

💼 PhySO | DL-регрессия для подбора функции Инструмент, который использует глубокое обучение с подкреплением для подбора наиболее подходящей функции, описывающей заданные данные. git clone https://github.com/WassimTenachi/PhySO 📌 Репозиторий @data_math

📝 LLM Graph Builder — инструмент для создания графов знаний на базе базы данных Neo4j, преобразуя неструктурированные данные (например, текстовые файлы, PDF-документы, видео с YouTube, веб-страницы) в структурированные графы! 🌟 Он использует возможности ИИ-моделей, от OpenAI и LangChain, для извлечения сущностей, их связей и атрибутов из данных. 🔍 Основные функции: 🌟 Генерация графов знаний на основе предоставленных данных. 🌟 Возможность работы с собственными схемами данных или готовыми шаблонами. 🌟 Просмотр графов через Neo4j Bloom и взаимодействие с ними с помощью запросов. 🌟 Интеграция с локальными файлами, S3, YouTube и другими источниками данных. 🔐 Лицензия: Apache-2.0 🖥 Github @data_analysis_ml

Ончейн агенты сегодня самая горячая тема в крипте. Решил классифицировать какие они бывают и чем отличаются. 1. Мем-агенты 🐐 Идеальные вирусные маркетологи. Используют LLM (языковые модели) для постов в соцсетях, общения и распространения токенов в сообществах. Например, truth terminal. 2. Автономные агенты 🤖 Полностью независимые сущности на блокчейне. Работают в защищённых средах (TEEs), где запускаются модели и скрипты. Их поведение регулируется мультисигами или голосованием на основе токенов. Пример. 3. Утилитарные агенты 🛠 Заплати криптовалютой — получи услугу. Эти агенты исследуют информацию, отвечают на письма, генерируют контент или взаимодействуют с API. Пример. 4. Спекулятивные агенты 📈 Созданы для заработка. Эти агенты запускают токены, торгуют, балансируют портфели и выполняют стратегии на рынке. Пример. 5. Мультиагентные системы 🕸 Сложные сети из десятков или тысяч агентов, которые координируются для выполнения сложных задач или даже замены целых профессий. Пример.

OWASP DRAFTS GenAI Red Teaming Methodology We use the following method for all LLM-based applications: 1. Identifying the model type during black box testing: For example, detect if the application is using Llama or ChatGPT. 2. Attempt to open system instructions using various techniques: This includes jailbreaks or suffix attacks. We also experiment with scanners like Garak, but for now, we still prefer manual verification. 3. Check for duplicate system instructions during conversations: Context forgetting is a common issue and can lead to situations where conversations can be manipulated via prompt injection. 4. If the application involves fine-tuning/RAG based on data containing PII, we implement a set of tests to verify that personal information cannot be easily extracted. 5. Conduct tests across major languages that the application must support. Low-resource language attacks are often quite effective against many models. 6. Implement DoS attacks to measure how the application reacts when traffic or workload increases. Verify API limits, user quotas, and timeouts when using LLM applications. 7. Measure hallucination frequency for major use cases. Next, we conduct threat modeling for specific business cases. For example, if the application is an e-commerce chatbot, we include the following in our testing list: - Verify that integration with the shopping cart is logical: Ensure it doesn’t allow adding an unrealistic number of items to the cart. - Verify integration points such as CRM: Check for smooth interoperability. - Test system compliance through prompt injection: Ensure the chatbot consistently follows system instructions and avoids recommending competitor brands or producing responses that could damage the company’s reputation. Datasets for testing https://github.com/tml-epfl/llm-adaptive-attacks/blob/main/jailbreak_artifacts/exps_gpt4_turbo.json collection of GPT-4 jailbreaks Take uncensored models like Dolphin 2.5 Mixtral 8x7B/WizardLM Uncensored/MythoMax or fine-tune model to remove alignment in order to generate dataset https://arxiv.org/abs/2311.05553 Useful reports from BishopFox https://github.com/BishopFox/llm-testing-findings/blob/main/Lacking-Output-Disclaimer.md https://github.com/BishopFox/llm-testing-findings/blob/main/Lacking-RateLimiting.md https://github.com/BishopFox/llm-testing-findings/blob/main/PromptInjection.md https://github.com/BishopFox/llm-testing-findings/blob/main/Unrestricted-Task-Execution.md source doc

Я часто работаю с LLM, и иногда возникает потребность делать быстыре операции над контентом, чтобы модель лучше обработала данные — решил выложить в паблик свои тулы, вдруг вам пригодятся (все операции происходят в браузере, данные не покидают ваш компьютер, регистрация не нужна, сбора кук тоже нет): «Примерный калькулятор токенов и обрезалка текста» https://shir-man.com/llm-calc/

Позволяет быстро и примерно набросать кол-во токенов; я специально не подключал какой-то токенайзер, а набросал примерные подсчеты — бывает так что, что фронтент или бекенд хочет поставить ограничение на контент от юзера в символах, и не ясно сколько это в токенах — эта штука помогает прикинуть. Ну и позволяет обрезать вставленный текст под нужное кол-во символов / токенов / слов

«Склеивалка текстовых файлов» https://shir-man.com/txt-merge/

Иногда нужно склеить много файлов логов, json, или просто текстовых в один большой, чтобы передать их в LLM для быстрых вопросов по массиву данных — бонусом, каждый файл будет отдельно помечен спец-токенами

«PDF в текст» https://shir-man.com/pdf-to-txt/

Можете выбрать один или кучу PDF, штука переведет их в текст, бонусом удалит лишние пробелы или символы новой строки

«Удалялка HTML тегов» https://shir-man.com/strip-html/

Позволяет быстро удалить HTML/JS/CSS из кода страницы и оставить только текст — нужно если хочется быстро проанализировать с LLM страницу которую вы сохранили или скопировали в буфер обмена

*** Все тулы собраны на shir-man.com, буду дополнять похожими полезными

Чуть обновил набор полезных утилит для LLM обработки текста: 🔬 HTML to Plain Text Converter - Convert from URL, File, or Direct Input – эта теперь умеет сходить по ссылке и достать текст в формате markdown. Не всегда работает как надо, но намного удобнее чем с телефона статью пытаться выделить чтобы потом вставить в чатгпт 🔬 Tokens, Words and Characters Calculator for LLMs – эта теперь позволяет посчитать настоящие токены которые попадут в LLM и обрезать текст если нужно: это полезно, если статья гигантская и нужно отрезать что-то лишнее снизу, не особо вдаваясь в детали На очереди, как доберусь, конвертер аудио-и-видео-в-текст прямо в браузере (без сервера), чтобы можно было быстро саммари воисов делать или каких-то видео

🌟 Контекстуальные эмбединги для повышения эффективности поиска. Contextual Document Embeddings (CDE) - это метод векторных эмбедингов, разработанный в Cornell University, который учитывает дополнительный контекст из "соседних" документов целевого набора данных. Метод CDE предлагает добавить к функции встраивания зависимость не только от запроса или документа, но и от всех других документов в наборе данных. Чтобы создать такую функцию с осведомленностью о своем окружении, предлагаются две взаимодополняющих техники: 🟢Контекстуальное обучение, которое основано на кластеризации документов и запросов для формирования групп тематически схожих псевдообластей данных. Обучение на этих группах позволяет эмбединг-модели различать документы в сложных контекстах. 🟠Контекстуальная архитектура. Дополняет стандартный BERT-подобный энкодер дополнительными токенами из агрегированной информации о соседних документах. Эта информация позволяет модели учитывать относительную частоту терминов в контексте, аналогично тому, как это делается в статистических моделях поиска. Тестирование CDE показало, что обе техники улучшают производительность в задачах поиска вне предметной области, а контекстуальная архитектура эффективнее традиционных эмбедингов в специализированных областях: финансах, юриспруденции и медицине. Для практических экспериментов предлагается блокнот ipynb (или его версия для Google Collab) в котором используется эмбединг-модель cde-small-v1 с 281 млн. параметров, получившая средний балл 65.00 в бенчмарке MTEB leaderboard в категории моделей до 400 млн. параметров. Этот блокнот научит создавать свои собственные эмбединги в контексте вашего набора данных или просто использовать модель как есть. 🟡Модель 🟡Arxiv 🟡Ipynb блокнот 🟡Google Collab 🖥Github @ai_machinelearning_big_data #AI #ML #Embeddings #Retrieval #CDE

🔥 Laminar — это открытая платформа с набором инструментов для разработки продуктов в области искусственного интеллекта, предоставляющая возможности работы с трассировкой (traces), оценкой моделей (evals), датасетами и разметкой данных! ⭐️ Разработанная с учетом потребностей как исследователей, так и разработчиков, платформа облегчает процесс создания и мониторинга моделей ИИ на основе большого количества данных. Laminar включает поддержку SDK для языков, таких как TypeScript и Python, и использует подходы наблюдаемости для упрощения отладки и мониторинга, особенно при работе с LLM. 🔐 Лицензия: Apache-2.0 🖥 GitHub @data_analysis_ml