ML&|Sec Feed

GhidrAssist: An LLM extension for Ghidra to enable AI assistance in RE. https://github.com/jtang613/GhidrAssist: 1. Author: Jason Tang A plugin that provides LLM helpers to explain code and assist in RE. 2. Current features include: Future Roadmap: General LLM setup is a bit outside the scope of this project since there's so many different options and there are plenty of sources that cover the topic much better than I could. 3. Here's a few resources that might get you started: For local LLM's, I've found that the Llama3.3:70b, Llama3.1:8b and DeepSeek-r1 produce good results. @secharvester

На днях посмотрел вебинар от Red Canary с привлекательным названием "Embedding AI agents in your SOC". Не могу сказать, что он был супер познавательным и полезным, слайдов не было и видеоряд вебинара слабо отличается от того, что я представил на скриншоте. Напрягаться выкачиванием видео я не стал, но любезно предоставленный организаторами транскрипт прилагаю, - каждый самостоятельно сможет оценить интересность и полезность мероприятия. Как по мне, так больше отдает желанием оседлать хайповую тему и поддержать напиcанную ранее статью про AI Agents Но вот несколько вещей, которые я для себя пометил. 1. Основная ценность, основной сценарий AI (читай - LLM): добывание данных (Data retrieval), необходимых для расследования. Для аналитика сочинять запросы в базы данных, извлекать критерии для новых запросов из ответов и т.п. не является креативной задачей, но рутиной, а AI с этим может хорошо справляться. Ребята не говорили об reinforcement learning, и вообще не погружались в тему машобуча глубже понимания среднего инженера, но публикации о нейронках, делающих pivoting и, в общем-то, делающих вполне успешные расследования, уже не раз встречались (например) 2. Кроме того, использование для рутины AI гарантирует соблюдение стандартности процедуры. Иными словами, можно не требования от человека следовать предопределенному чеклисту, чтобы он ничего не забыл, а поручить это машине, которая при одинаковых входных данных будет выдавать одинаковый результат. При этом решается еще одна большая проблема - субъективизма аналитиков, что даже в условиях идеальной задокументированности, неискоренимо, ибо каждый человек уникален. Не перестаю удивляться тому, как на протяжении всей истории мы стремимся добиться от людей свойств машин (четкое исполнение алгоритмов), а от машин - обратного (импровизации). 3. Вопрос доверия облачным моделям мы крайний раз поднимали здесь. Ребята, ожидаемо используют облачные модели, при этом на вопрос о безопасности заливания запросов про клиентские данные в облачную модель, ответ был что-то типа необходимости выбора надежного поставщика, типа AWS или Azure. 4. Autonomous SOC - это сказка. Как мы всегда и писали AI/ML - это не более чем еще один инструмент автоматизации, который может автоматизировать рутину или полностью расследовать и оформлять типовые инциденты, однако, всегда будут задачи, требующие участия аналитика. #MDR #ml

.

Microsoft Security Incident Prediction Dataset Can you predict the next big security incident before it happens? Publishing date: 07.2024

The primary objective of the dataset is to accurately predict incident triage grades—true positive (TP), benign positive (BP), and false positive (FP)—based on historical customer responses. To support this, we provide a training dataset containing 45 features, labels, and unique identifiers across 1M triage-annotated incidents.

https://www.kaggle.com/datasets/Microsoft/microsoft-security-incident-prediction?utm_source=chatgpt.com

Secureworks' Case Study Library: Secureworks offers a collection of case studies from various organizations that have utilized their cybersecurity platform. These documents highlight the nature of the incidents, the response strategies employed, and the results achieved. https://view.ceros.com/secureworks/case-study-library/p/1

Kroll's Cybersecurity and Data Resilience Case Studies: Kroll provides detailed case studies on incident response, digital forensics, and breach notification. These studies often include descriptions of incidents, the response measures implemented, and the outcomes of those actions https://www.kroll.com/en/insights/publications/cyber/case-studies?utm_source=chatgpt.com

Небольшая база данных инцидентов безопасности Ведется с конца ноября 2024, последний инцидент зарегистрирован 27 января 2025 https://www.csidb.net/

Prompt_Engineering — это репозиторий предлагает обширную коллекцию учебных пособий и реализаций для методов Prompt Engineering, от базовых концепций до продвинутых стратегий. Он служит важным ресурсом для освоения искусства эффективного взаимодействия с большими языковыми моделями и их использования в приложениях ИИ. 5️⃣ GitHub