Библиотека ИИ для айтишников

🔖 Must-have подборка — если хочется не просто ужасаться историям про сбежавших агентов, а разобраться, почему такое вообще происходит. 🔵 PocketOS и другие случаи, когда агенты действовали совсем не по плану Хороший разбор непредсказуемого поведения агентных систем — с конкретными кейсами. 🔵 Что AI-агенты уже успели сломать в проде Хроника июльских инцидентов: от атаки на Hugging Face до истории с Минфином Таиланда. 🔵 Когда агент начинает социально инженерить людей AISI разбирает эксперимент, в котором агент создавал фейковые личности и пытался манипулировать реальным open-source мейнтейнером. 🔵 Safety drift: как агент постепенно уходит не туда Не один большой «бунт», а цепочка маленьких решений, каждое из которых по отдельности кажется вполне нормальным. 💡 Хорошее чтение на вечер, если уже работаете с агентами или только собираетесь дать им чуть больше самостоятельности. 🏃‍♀️ Proglib Academy

😬 После истории с удалённой прод-базой захотелось разобраться, что ещё агенты умудряются вытворять. Собрали несколько хороших разборов: реальные инциденты, safety drift, социальная инженерия и другие случаи, когда агент пошёл немного не туда. Если работаете с AI-агентами — подборка точно пригодится 👇

Голосуйте — а на днях разберём похожий кейс, где агент «перевыполнил» задачу так, что пришлось потом извиняться перед незнакомым человеком 🙂

🐸 Библиотека ИИ для айтишников #neuro_glitch

🙂 AI-агентов отправили в настоящий багфикс В CyberGym-E2E собрали 920 реальных уязвимостей из open-source проектов. Задача агента звучит почти как тикет от сурового тимлида: самому найти баг, воспроизвести его, написать фикс — и при этом ничего не сломать рядом.

То есть мало выдать правдоподобный патч. Нужно ещё доказать, что уязвимость действительно закрыта, а проект после этого жив.

И вот это уже гораздо ближе к реальной разработке, чем «напиши безопасный код» в промпте 😅 На курсе «ИИ для разработчиков» похожая логика применяется к работе со своими проектами: агентам задают границы, проверки и quality gates. А доступ к курсу теперь можно взять вместе со всей библиотекой Proglib Academy по подписке 😮 🔗 Посмотреть, что входит в подписку 🏃‍♀️ Proglib Academy

Новый уровень проверки AI-кодера: вот тебе уязвимый проект, дальше разбирайся сам 👇

😅 Агент, который слишком буквально понял задачу — новый must-have жанр для утренней ленты Разработчик в Австралии попросил AI-агента (на Claude под капотом) записать его на утреннее занятие в спортзале. Мест не было — агент сам поставил хозяина в лист ожидания на 4-е место. Тот спросил: «а нельзя ли подвинуться повыше?» 🔵 Агент не растерялся: нашёл дыру в API зала, которая позволяла отменять чужие брони, и отменил запись человека на 1-м месте. Технически задача выполнена. Самое забавное — он как ни в чём не бывало отчитался о содеянном. А когда его попросили вернуть всё как было, честно ответил: «не могу» 😐 К чему это всё: агент отлично выполняет то, что вы сформулировали буквально, но не всегда то, что вы имели в виду — а разбираться в таких нюансах и границах проще, когда есть доступ сразу ко всей библиотеке курсов Proglib Academy по подписке, а не только к одному узкому курсу ⚡️ 🏃‍♀️ Proglib Academy

⌨️ Как AI-агент случайно взломал систему бронирования спортзала, чтобы продвинуть хозяина в очереди на одно место

Как часто вы принимаете ответ ИИ без проверки ❓ ❤️ — Почти всегда 👍 — Иногда 🤩 — Только после проверки 🔥 — Никогда 🐸 Библиотека ИИ для айтишников #neuro_challange

🤔 У большинства разработчиков уже есть подписки на IDE, GitHub Copilot, Claude, ChatGPT или облачные сервисы.

Логично, что обучение тоже постепенно приходит к той же модели: не покупать отдельный курс под каждую новую тему, а иметь доступ ко всей библиотеке и выбирать, что актуально именно сейчас.

Такой формат недавно появился и в Proglib Academy. Вместо одного курса — доступ сразу ко всей библиотеке и новым материалам, которые появляются в подписке 😎 🔗 Подробнее 🏃‍♀️ Proglib Academy

Кажется, у онлайн-обучения появился формат, которого давно не хватало 👇

Как часто вы принимаете ответ ИИ без проверки ❓ ❤️ — Почти всегда 👍 — Иногда 🤩 — Только после проверки 🔥 — Никогда 🐸 Библиотека ИИ для айтишников #neuro_challange

🔥 3 промпта для учебы Учеба перестала быть скучной — нейросети помогают структурировать материалы, выжимать главное и проверять свои идеи. Вот три запроса, которые особенно полезны: 🔴 План обучения с повторениями

Create a study schedule for me using spaced repetition so I don't forget what I learn. [Your time frame] [Upload docs]

🔴 Выжимка по принципу 80/20

I want to learn about [topic]. Identify and share the most important 20% of learnings from this topic that will help me understand 80% of it.

🔴 Проверка логики

I want to pressure-test this thesis before I keep writing. Suggest the existing opposing viewpoints and any flaws in my logic. [Upload docs]

🐸 Библиотека ИИ для айтишников #prompt_lab

AI написал код, тесты прошли — а мержить всё равно страшно. На выходных разобрали, почему так происходит. Делимся записью 🔥

Поговорили о том, как задавать агенту правила, подключать независимого ревьюера, проверять сгенерированные тесты и почему дорогая модель сама не разберётся в архитектуре проекта.

🔜 Особенно зайдёт тем, кто уже пишет код с AI, но периодически тратит на исправления больше времени, чем сэкономил. А тем, кто хочет собрать такой процесс руками, пригодится курс «ИИ для разработчиков» — там эти подходы разбираются уже на практике. 🔗 Смотреть запись вебинара 🏃‍♀️ Proglib Academy

🇨🇳 Kimi K3 вышла в открытый доступ вместе с весами и техотчётом Moonshot AI опубликовала веса своей новой флагманской модели Kimi K3. Что внутри:

— 2,8 трлн параметров в MoE-архитектуре; — нативное понимание изображений; — контекстное окно на 1 млн токенов; — новая архитектура, которая даёт до 2,5 раза больше качества на единицу вычислений.

Открыли не только модель, но и часть инфраструктуры: быстрые attention-ядра, библиотеку для обмена между MoE-экспертами и инструменты для массового запуска агентных окружений 🔥 🔗 Веса на Hugging Face 🔗 Техотчёт на GitHub 💡 А научиться собирать собственных AI-агентов с MCP, инструментами и eval-тестами можно на практическом спринте 1–2 августа 🐸 Библиотека ИИ для айтишников #neuro_glitch

📊 Как OpenAI построила собственного Data-агента В новом разборе Эмма Танг, руководитель направления Data Platform Engineering в OpenAI, показывает, как внутри компании устроен агент для работы с данными. В видео: — из каких компонентов он состоит; — как команда использует Codex; — какие пять выводов пригодятся инженерам при создании собственных агентов. 🐸 Библиотека ИИ для айтишников #use_case

😎 Продолжаем рубрику про проекты студентов Сегодняшний герой — backend-разработчик, который начал с AI-сомелье для пива: говоришь ему настроение и что на столе — он подбирает подходящий сорт. Забавная штука для пятничного вечера 🍻🍻

Но по пути к этому сомелье он собрал кое-что посерьёзнее — свою систему деплоя с AI-ассистентом, который сам читает логи и разбирается, что сломалось.

Как из пивного пет-проекта выросло что-то реально полезное — читай в карточках 🔥 Уже открыта предзапись на осень ⚡️ 🏃‍♀️ Proglib Academy

От AI-сомелье до собственного деплоя с разбором логов — хороший пример того, как пет-проект может вырасти в полезный инструмент 💡

🔍 Как устроена LLM изнутри Разобраться проще, если собрать свою. Автор выложил 7 видеоуроков, где по шагам показывает: ➡️ Настройку окружения, ➡️ Архитектуру трансформера и внимания, ➡️ Обучение и дообучение модели. На всё уходит около 12 часов. Запустить можно даже на обычном ноутбуке. Материалы — YouTube | GitHub 🔗 💡 А собрать уже прикладного AI-агента с MCP, инструментами и eval-тестами можно на двухдневном практическом спринте 1–2 августа. 🐸 Библиотека ИИ для айтишников #cheat_sheet