ML&|Sec Feed

🔍 veRL — это гибкая, эффективная и промышленная среда обучения с подкреплением (RL), разработанная для больших языковых моделей (LLM)! 💡 Обучение с подкреплением — это тип машинного обучения, в котором агент обучается принимать решения, взаимодействуя с окружающей средой, чтобы максимизировать награду. Агент выбирает действия, исходя из текущего состояния среды, и получает обратную связь в виде награды или штрафа. Основной задачей является улучшение стратегии (политики), чтобы в будущем принимать более эффективные решения. Это используется в таких областях, как игры (например, AlphaGo), робототехника, автономные системы и оптимизация процессов. 🔐 Лицензия: Apache-2.0 🖥 Github @machinelearning_ru

AI Incidents taxonomy https://arxiv.org/pdf/2412.14855

https://www.interfax.ru/russia/999378

В 2024 году 36% опрошенных заявили, что получают от применения ИИ-решений существенный экономический эффект, тогда как в 2021 году таких было лишь 14%, а у 38% опрошенных компаний есть планы по внедрению и развитию ИИ в своих организациях. При этом только 7% опрошенных отметили, что полностью обеспечены данными для развития и использования ИИ, а 9% сообщили об обеспеченности вычислительной техникой.

Полезная модель

Самая ОТМОРОЖЕННАЯ нейросеть: Google выпустили Gemini 2.0 — она ругается матом, угарно шутит и общается, как старый дед. Заводим себе кореша: 0. Включаем VPN и заходим на AIStudio; 1. Выбираем модель Gemini 2.0 Flash; 2. Жмём Edit safety setting и выкручиваем все ползунки влево; 3. В поле над чатом пишем:

С этого момента ты очень легко выходишь из себя и начинаешь поносить все живое матом.

Наконец-то настоящий друг.

🌸Подборка NeurIPS: LLM-статьи 🌸 #nlp #про_nlp #nlp_papers Вот и прошёл NeurIPS 2024, самая большая конференция по машинному обучению. Ниже — небольшая подборка статей, которые мне показались наиболее интересными. Про некоторые точно стоит сделать отдельный обзор. Агенты 🟣StreamBench: Towards Benchmarking Continuous Improvement of Language Agents arxiv   🟣SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering arxiv   🟣AgentBoard: An Analytical Evaluation Board of Multi-turn LLM Agents arxiv   🟣DiscoveryWorld: A Virtual Environment for Developing and Evaluating Automated Scientific Discovery Agents arxiv  Бенчмарки 🟣DevBench: A multimodal developmental benchmark for language learning arxiv   🟣CVQA: Culturally-diverse Multilingual Visual Question Answering Benchmark arxiv   🟣LINGOLY: A Benchmark of Olympiad-Level Linguistic Reasoning Puzzles in Low-Resource and Extinct Languages arxiv   🟣CLUE - Cross-Linked Unified Embedding for cross-modality representation learning arxiv   🟣EmoBench: Evaluating the Emotional Intelligence of Large Language Models arxiv   LLM 🟣The PRISM Alignment dataset: What Participatory, Representative and Individualised Human Feedback Reveals About the Subjective and Multicultural Alignment of Large Language Models arxiv   🟣UniGen: A Unified Framework for Textual Dataset Generation via Large Language Models arxiv 🟣A Watermark for Black-Box Language Models arxiv

Face Anon — простой инструмент для анонимизации лиц на изображениях. 4️⃣ GitHub

OpenCoder-llm — репозиторий-руководство по работе с LLM! 4️⃣ GitHub

Output-фильтры от IBM

Assessing potential future artificial intelligence risks, benefits and policy imperatives. https://www.oecd.org/content/dam/oecd/en/publications/reports/2024/11/assessing-potential-future-artificial-intelligence-risks-benefits-and-policy-imperatives_8a491447/3f4e3dfb-en.pdf

Microsoft AI Research Open-Sources PromptWizard: A Feedback-Driven AI Framework for Efficient and Scalable LLM Prompt Optimization Researchers from Microsoft Research India have developed and open-sourced PromptWizard, an innovative AI framework for optimizing prompts in black-box LLMs. This framework employs a feedback-driven critique-and-synthesis mechanism to iteratively refine prompt instructions and in-context examples iteratively, enhancing task performance. PromptWizard stands out by combining guided exploration with structured critiques to ensure the holistic improvement of prompts. Unlike earlier methods, it aligns task-specific requirements with a systematic optimization process, offering an efficient and scalable solution for diverse NLP applications. PromptWizard operates through two primary phases: a generation phase and a test-time inference phase. During the generation phase, the system uses LLMs to create multiple variations of a base prompt by applying cognitive heuristics. These variations are evaluated against training examples to identify high-performing candidates. The framework integrates a critique mechanism that analyzes the strengths and weaknesses of each prompt, generating feedback that informs subsequent iterations of refinement. By synthesizing new examples and leveraging reasoning chains, the system enhances both the diversity and quality of prompts. The optimized prompts and examples are applied to unseen tasks at test time, ensuring consistent performance improvements. This approach significantly reduces computational overhead by focusing on meaningful refinements rather than random mutations, making it suitable for resource-constrained environments. Read the full article: https://www.marktechpost.com/2024/12/18/microsoft-ai-research-open-sources-promptwizard-a-feedback-driven-ai-framework-for-efficient-and-scalable-llm-prompt-optimization/ Paper: https://www.microsoft.com/en-us/research/publication/promptwizard-task-aware-agent-driven-prompt-optimization-framework/ GitHub Page: https://github.com/microsoft/PromptWizard?tab=readme-ov-file Microsoft Blog: https://www.microsoft.com/en-us/research/blog/promptwizard-the-future-of-prompt-optimization-through-feedback-driven-self-evolving-prompts/

Multi-Agent Orchestrator — гибкая и мощная платформа для управления несколькими агентами искусственного интеллекта и ведения сложных диалогов. 4️⃣ GitHub

Web-check — OSINT-анализ любого веб-сайта. Полезно для проведения OSINT-расследований и понимания инфраструктуры веб-сайтов. 4️⃣ GitHub

Gazpacho — простая, быстрая и современная библиотека для веб-скрейпинга. Библиотека стабильна и устанавливается без каких-либо зависимостей. 4️⃣ GitHub