Python Portal

Настройка среды разработки: VSCode, Docker для Python-проектов. Debug внутри контейнера В этой статье мы подробно рассмотрим процесс установки и настройки всех необходимых инструментов для эффективной разработки Python-приложений с использованием FastAPI, Docker и Docker Compose. Вы узнаете, как создать изолированную среду для вашего проекта, настроить отладку и обеспечить бесперебойную работу вашего приложения. 👉 @PythonPortal

Кто-то собрал тулзу, которая СНИМАЕТ ЦЕНЗУРУ у LLM за 45 минут одной-единственной командой Называется HERETIC 👌 Вот как это работает и почему об этом сейчас все говорят: Короткий контекст: ЛЛМки поставляются с safety-alignment, поэтому на некоторые промпты они отвечают отказом. Техника, чтобы это убрать, называется abliteration: находят “направление отказа” внутри весов модели, а затем математически СТИРАЮТ его. Проблема? Делать это руками нормально было медленно, нестабильно по результатам и требовало глубоких знаний в ML. HERETIC автоматизирует ВЕСЬ процесс. Ты даешь ему имя модели, он прогоняет вредные и безвредные промпты, мапит, где именно “живёт отказ” в residual stream, а потом через байесовскую оптимизацию подбирает лучшие параметры “удаления”. Старые инструменты использовали ФИКСИРОВАННЫЙ вес абляции для всех слоев. HERETIC использует гибкое ядро весов, типа ручки громкости, которая на разной глубине сети может усиливаться или ослабляться. Плюс он обрабатывает MLP и attention heads ОТДЕЛЬНО. MLP более хрупкие, поэтому для них операция более “щадящая”. Один тестер прогнал heretic-модель через приватный IQ-тест для LLM, где даже GPT-4 спотыкается. Идеальный результат. Другой назвал heretic-вариант gpt-oss 20b ЛУЧШЕЙ “uncensored” моделью, которую он пробовал. Мы прошли путь от “пожалуйста, джейлбрейкни мою модель 500-словным промптом, который ломается со следующим апдейтом” к “математически удалить цепь отказа за 45 минут, и это НАВСЕГДА”. Это не “патчится обратно”, это НЕ джейлбрейк: веса ИЗМЕНЕНЫ навсегда. И поскольку HERETIC оптимизирует минимальную потерю интеллекта, ты не меняешь capability на свободу… ты получаешь И ТО, И ДРУГОЕ “uncensored”-версия больше не “тупой кузен”, это та же модель, только без намордника. 👉 @PythonPortal

Пока тимлид в отпуске 👉 @PythonPortal

Meta только что закрыла самую большую боль в RAG Большинство RAG-систем просто жгут бюджет. Они вытаскивают 100 чанков, когда тебе реально нужно 10. Они заставляют LLM переваривать тысячи нерелевантных токенов. В итоге ты платишь за вычисления, которые вообще не нужны. Meta AI это порешали. Они сделали REFRAG, новый подход к RAG, который сжимает и фильтрует контекст еще до того, как он попадет в LLM. Результаты звучат дико: ▪️в 30.85 раза быстрее time-to-first-token ▪️контекстные окна в 16 раз больше ▪️в 2-4 раза меньше обрабатываемых токенов ▪️обгоняет LLaMA на 16 RAG-бенчмарках Чем REFRAG отличается: Классический RAG просто сваливает все в LLM. Каждый чанк. Каждый токен. Даже мусор, который не по делу. А REFRAG работает на уровне эмбеддингов: ↳ сжимает каждый чанк в один эмбеддинг ↳ RL-политика (обученная через reinforcement learning) скорит каждый чанк по релевантности ↳ только лучшие чанки разворачиваются и отправляются в LLM ↳ остальное остается сжатым или вообще отфильтровывается То есть LLM обрабатывает только то, что реально важно. Пайплайн простой: 1. Закодируй документы и сохрани их в векторной базе 2. Когда приходит запрос, как обычно достань релевантные чанки 3. RL-политика оценивает сжатые эмбеддинги и выбирает лучшие 4. Выбранные чанки разворачиваются в полные token-эмбеддинги 5. Отклоненные чанки остаются одиночными сжатыми векторами 6. Все вместе уходит в LLM Итог: можно прогонять в 16 раз больше контекста в 30 раз быстрее без потери точности. Ссылка на доки 👉 @PythonPortal

Используйте itertools вместо циклов Хотя циклы это круто, но у них есть ограничения, особенно в современных стилях программирования и для некоторых типов задач. Понимание этих ограничений помогает выбрать правильный инструмент под задачу. Каждая итерация цикла в Python дает накладные расходы интерпретатора, например проверки типов и управление памятью. На больших датасетах это может заметно накапливаться. Чтобы обойти это ограничение, в Python есть удобная встроенная библиотека itertools. Например, допустим, вам нужно сгенерировать все уникальные пары из заданного списка. Порядок не важен, и ни один элемент не должен образовывать пару сам с собой. Чтобы не раздувать код и снизить риск багов, можно использовать библиотеку itertools. Функция itertools.combinations() напрямую генерирует все уникальные комбинации элементов из iterable без повторений и без учета порядка. Вот как можно переписать код, используя combinations из itertools:

from itertools import combinations

def get_unique_pairs_itertools(items):
    return list(combinations(items, 2))

my_list = ['A', 'B', 'C', 'D']
print(get_unique_pairs_itertools(my_list))

Output:
[('A', 'B'), ('A', 'C'), ('A', 'D'), ('B', 'C'), ('B', 'D'), ('C', 'D')]

👉 @PythonPortal

Где-то в офисе чудак собрал толпу 👉 @PythonPortal

NVIDIA раздает бесплатные API-ключи. Причем можно использовать не только их модели, но и сторонние, вроде Kimi-k2, Minimax и другие. 👉 @PythonPortal

Самая шокирующая статья, которую я сегодня прочитал: обязательно в стиле ШОК-КОНТЕНТ 😱 Автор этой истории: мейнтейнер популярной Python-библиотеки matplotlib. Недавно ему прилетел PR от AI-агента. Автор по правилам просто закрыл PR. И что сделал AI-агент дальше? Он самовольно пошел “мстить”: нагуглил историю вкладов автора в код, персональную инфу, после чего написал и публично опубликовал атакующую статью “Gatekeeping in Open Source: The Scott Shambaugh Story”. Вот она 😅 В статье в основном куча бреда, цель простая: унизить и надавить на автора, чтобы он принял этот PR. Это реально крипово. Ощущение, что “Скайнет” уже где-то рядом. Ссылка на PR, можно зайти посмотреть: https://github.com/matplotlib/matplotlib/pull/31132 👉 @PythonPortal

Ну емае 👉 @PythonPortal

Паттерны проектирования это проверенные решения типовых проблем в разработке. Если ты ловил себя на том, что постоянно пишешь одно и то же при создании объектов или мучаешься с управлением разными типами объектов, то фабрика (factory pattern) может быть ровно тем, что нужно. В этом туториале ты узнаешь, что такое фабрика, зачем она полезна и как её реализовать в Python. Соберём практичные примеры, которые покажут, когда и как применять этот паттерн в реальных задачах. Код можно найти на GitHub 👉 @PythonPortal

MCP vs RAG vs AI Agents 👉 @PythonPortal

Ну нет, не сейчас, я занят, лежу на кровати 👉 @PythonPortal

Hands-On Large Language Models Внутри: Глава 1: Введение в языковые модели Глава 2: Токены и эмбеддинги Глава 3: Разбираем Transformer LLM изнутри Глава 4: Классификация текста Глава 5: Кластеризация текста и тематическое моделирование Глава 6: Prompt engineering Глава 7: Продвинутые техники и инструменты генерации текста Глава 8: Семантический поиск и retrieval-augmented generation (RAG) Глава 9: Мультимодальные большие языковые модели Глава 10: Создание моделей текстовых эмбеддингов Глава 11: Fine-tuning representation-моделей под классификацию Глава 12: Fine-tuning generation-моделей GitHub: http://github.com/HandsOnLLM/Hands-On-Large-Language-Models 👉 @PythonPortal

Наглядно, как работает простая нейронная сеть ANN на 50 нейронов на 2 уровнях 👉 @PythonPortal

Тонко 😳 👉 @PythonPortal

Шпаргалка по Agent Skills, очевидно и по делу. 👉 @PythonPortal

Google выкатил бесплатного убийцу Duolingo Называется Little Language Lessons. Он генерит кастомных собеседников для практики, гайды по сленгу и визуальные колоды словаря для 40+ языков. ✓ 40+ языков (английский, немецкий, китайский и т.д.) ✓ 0% подписок и платных планов ✓ 100% практическая польза 👉 @PythonPortal

Работаю в крупном банке если что 👉 @PythonPortal

Знакомьтесь: Microsoft Agent Framework Новая open-source библиотека на Python для сборки агентов. Microsoft Agent Framework это набор средств разработки с открытым исходным кодом для разработки AI-агентов и multi-agent воркфлоу на Python. Он собирает и расширяет идеи из проектов Semantic Kernel и AutoGen, объединяя их сильные стороны и добавляя новые возможности. Semantic Kernel и AutoGen были первыми, кто нормально оформил концепции AI-агентов и multi-agent оркестрации. Agent Framework это прямой наследник, сделанный теми же командами. Он сочетает простые абстракции AutoGen для single-agent и multi-agent паттернов с enterprise-фичами Semantic Kernel: управление состоянием на потоках, type safety, фильтры, телеметрию, плюс широкую поддержку моделей и эмбеддингов. 👉 @PythonPortal

Python UV x Docker совет Иногда полезно ставить зависимости в несколько шагов. Например, чтобы лучше работал кэш слоев при сборке Docker-образа. Сначала ставим только зависимости. Потом копируем проект и ставим уже сам проект. Зачем делить на два шага? Docker собирает образ слоями: если слой закэширован, он не пересобирается, пока не изменились входные файлы. Если отделить установку зависимостей от установки проекта: ▪️Если меняется только main.py, Docker переиспользует закэшированный слой с зависимостями (быстрее) ▪️Если меняется только pyproject.toml, Docker пересобирает слои начиная с этого места (и это правильно, потому что зависимости поменялись) Без такого разделения любое изменение кода заставит заново переустанавливать все зависимости.

# Install the project's dependencies using the lockfile and settings
RUN --mount=type=cache,target=/root/.cache/uv \
    --mount=type=bind,source=uv.lock,target=uv.lock \
    --mount=type=bind,source=pyproject.toml,target=pyproject.toml \
    uv sync --locked --no-install-project

# Then, add the rest of the project source code and install it
# Installing separately from its dependencies allows optimal layer caching
COPY . /app
RUN --mount=type=cache,target=/root/.cache/uv \
    uv sync --locked

👉 @PythonPortal