ML&|Sec Feed

Recent advancements in LLM Red-Teaming: Techniques, Defenses, and Ethical Considerations https://arxiv.org/html/2410.09097v1

blackbox.ai Отлично умеет суммаризировать и помогать разбираться в pdf-файлах и github-репозиториях

Snoop — один из самых перспективных OSINT-инструментов — поиск по нику. 4️⃣ GitHub

OpenDiLoCo: An Open-Source Framework for Globally Distributed Low-Communication Training Обучение multidatacenter сеток все еще большая и сложная штука, для начала стоит понимать что - скорость интернета не однородна - на больших расстояниях могут копится ошибки - пропускная способность сети может быть недостаточной собственно большой папир и репа про то как учить в ОЧЕНЬ распределенном сетапе блогпост от авторов имплементации

Нашёл годноту: open-source платформу ChartDB для создания крутых графиков и табличек из вашей базы данных. Поддерживает импорт из MySQL, PostgreSQL и других хостов. Можно создать пустую страницу и заполнить все данные ручками 😞 Ссылка на GitHub и веб-версию.

🔥 RagBuilder — это набор инструментов, который поможет вам автоматически создать оптимальную настройку Production-ready Retrieval-Augmented-Generation (RAG) для ваших датасетов. Кроме того, RagBuilder содержит несколько полезных, готовых шаблонов RAG, которые показали высокую производительность на различных тестах. 🔐 Лицензия: Apache-2.0 🖥 Github @data_analysis_ml

"TextGrad и DSPy: программная оптимизация промптов" — новая лекция доктора технических наук Владимира Крылова на нашем YouTube-канале. Есть в виде подкаста. Из лекции вы узнаете: 🔸 Как работают фреймворки TextGrad и DSPy? 🔸 Какие задачи позволяют решить эти технологии оптимизации? 🔸 Как строить RAG с использованием DSPy и что это позволяет достигнуть? 🔸 Как можно оценить перспективы использования технологий программной генерации промптов? Появились вопросы — задавайте в комментариях!

https://huggingface.co/learn/nlp-course/ru/chapter1/1 теперь на русском

awesome-pentest — это практика запуска авторизованных, имитированных атак на компьютерные системы и их физическую инфраструктуру для выявления потенциальных слабостей и уязвимостей безопасности. 4️⃣ GitHub

Google тихонечко, чтобы мы не заметили, выпустил новый крутой ИИ-сервис — Learn About. Это интерактивный ИИ-учебник, который на ходу создаёт генерит под вас. Например, пишете «Хочу изучить Python» — ИИ расскажет вам о самом языке программирования (С КАРТИНКАМИ!), затем объяснит базу и так далее. Если вы не сильны в этом, можно честно написать «Я тупой» и получить упрощённую версию текста. Жирный плюс: бесплатно; Неудобные минусы: пока работает только через VPN для США и на английском языке.

👨‍💻 Институт системного программирования РАН (ИСП РАН) провел Круглый стол «Доверенный искусственный интеллект: от технологических угроз к социогуманитарным вызовам» в рамках III международной научно-практической конференции "Цифровые международные отношения 2024" 🔊 Арутюн Аветисян, Директор Института системного программирования им. В.П. Иванникова РАН, академик РАН: Доверенность – необходимое качество технологий искусственного интеллекта. В этом солидарны и международные организации (например, ООН), и локальные юрисдикции в Евросоюзе, в США, у нас в России, что отражено в «Национальной стратегии развития ИИ до 2030 года». И везде также указано, что в случае ИИ необходимо обеспечивать доверенность с двух сторон: со стороны информационной безопасности (это поиск уязвимостей, создание инструментов противодействия атакам) и безопасности в социогуманитарной сфере (тут нужны не только инструменты, но и этические нормы). Важно отметить, что для обеспечения всего этого необходимы технологии, которые должны быть равнодоступны для всех в мире. В современном мире закрывать доступ к технологиям – это преступление против человечества; они должны быть у всех. А вот этические, политические, культурные и прочие нормы могут быть разные в каждой стране, тут не должно быть навязывания своих норм другим. Только так мы сможем создать технологии ИИ, которым можно будет доверять. #ЛюдиНОП #ИСПРАН

Чтобы справиться с 1 я прошла все стадии принятия нового мира и села ботать. Ботала я много и разное, но вот сокращенный список того, что пригодилось именно при устройстве в алаймент. Избранное, так сказать, из всего перечитанного и перепробованного: ******************************* Вспомнить то что забыл/никогда не знал: Оптимизация Теория: - Optimization Algorithms by Caramanis - Stanford EE364A Convex Optimization Практика - написать на питоне хотя бы по разу: - алгоритмы хотя бы по 1-2 каждого порядка с нуля - обмазать их тестами на сходимость/скорость сходимости Линейная алгебра - Linear Algebra Done Right by Sheldon Axler Общая база по ML - Stanford CS109 Introduction to Probability - Stanford CS229M: Machine Learning Theory - Stanford CS229: Machine Learning из CV: - CS 198-126: Modern Computer Vision (UC Berkeley) ******************************* NLP и LLM: Теория: - Stanford CS224N: NLP with DL - Stanford XCS224U: NLU - CMU Advanced NLP - Stanford CS25 - Transformers United - основные метрики и лоссы для шкалы close-ended <—>open-ended задач генерации текстов - зоопарк открытых и проприетарных моделей - тут помогает hugginface: прям открываем все подряд арены и бенчмарки, и читаем все про модельки из топа. Практика - написать на пиноте и pytorch: - трансформеры (энкодер, энкодур-декодер, декодер) - трейн/тест лупы - зоопарк аттеншенов Ускорение трейна и инференса: Теория: - статическая/динамическая квантизация - Pruning/Distilation/LoRa/LoHa/LoKa Практика: опять таки - закрепить теория практикой, потому что на кодинге могут попросить реализовать с нуля на pytorch. - питоновские либы: - deepspeed - huggingface APIs - transformers - flash-attn/prune attention/прочие fusion реализации аттеншенов на pytorch - PEFT - очень советую прям потыкаться в них руками и попробовать пособирать проекты, потому что клятся они все друг с другом неочевидным образом и иногда через боль( Инженерное: Практика: - докеризация - LLama.ccp (локально/сервер) - langchain/llamaindex - тоже нужно тыкать, тоже неочедидно клеются( RL + RLHF - Теория: - Stanford CS234: Reinforcement Learning - OpenAI Research Практика: - ARENA (но, кажется, этого было недостаточно((( - OpenAI Gym Alignment: Ресурсы: хотя бы куррикулумы читать: - STS 10SI: Intro to AI Alignment - CUEA Standard AI Safety Reading Group Syllabus - Columbia EA - Intro to ML Safety Course - CAIS - Redwood Research MLAB bootcamp - AISF Governance Course - AISF Alignment - https://www.alignmentforum.org/ - https://www.lesswrong.com/ - Anthropic Alignment (тут у меня какая то отдельная к ним любовь, я обожаю как они пишут) - из свеженького - AISF Introduction to Cooperative AI Темы, которые пригодились мне: - Advansed Scafolding для блекбоксов и проприетарных моделей, ускорение скафолдингов под конкретную модель - Adversarial Learning reading list - Unlearning Mechanical/Dynamical interpretability: LLM: - Standford Transformer Circuits [rough early thoughts] + Transformer Circuits Thread от Anthropic - Anthropic Interpretability - Stanford CS330: Deep Multi-Task and Meta Learning RL: - Shard Theory CV: - Distill Circuits

🎥 "Архитектура ML-систем: от концепции до внедрения" — лекция Анны Авдюшиной, инженера центра "Сильный искусственный интеллект в промышленности" университета ИТМО. В лекции рассматриваем ключевые аспекты разработки и развертывания систем на основе машинного обучения: выбор компонентов и их интеграции, управление данными, оркестрацию важных этапов жизненного цикла ML-проектов, от исследования данных и разработки модели до её масштабирования и поддержки на этапе эксплуатации. 🎙Выложили и в виде подкаста.

#ИБ #ИИ 2024 Киберщит. Искусственный интеллект и кибербезопасность Автор: Менисов А.Б.

Ежедневно в мире происходит более 2 тысяч кибератак. Кибербезопасность входит в число отраслей, которым в ближайшие 5 лет прогнозируют невероятный рост. Она обеспечивает защиту компьютерных систем, сетей, программ и данных от киберугроз (хакерских атак, вирусов, вредоносного ПО и др.). Несмотря на полезность искусственного интеллекта, не следует игнорировать факт, что технологии искусственного интеллекта и их применение могут подвергнуть организации новым, а иногда и непредсказуемым, угрозам и открыть новые возможности для злоумышленников. В книге рассматриваются перспективы развития и проблемы применения технологий искусственного интеллекта в области кибербезопасности: повышение результативности выявления компьютерных атак, вредоносных сайтов в сети Интернет, ботов в социальных сетях, утечек конфиденциальных данных, защиты искусственного интеллекта от уязвимостей. Издание предназначено для широкого круга читателей, интересующихся вопросами кибербезопасности в современном мире.

СКАЧАТЬ 🗂