Galqiwi's boredom

Disaggregated quantization Новая статья. Процессим LLM префилл и генерацию разными квантизациями одной модели. Дообучаем обе вместе с учетом того какой токен процессится какой моделью. Чекпоинт для префилла можно сгрузить на SSD, спрятав подгрузку за long-context промпт прцессиногом, чтобы память была как только у модели для генерации. Статья: arxiv.org/abs/2609.26333 Код: GitHub Qwen3.8 NVFP4 prefillers: HF Hub

Hamming, Intro to The Art of Doing Science and Engineering: Learning to Learn (March 28, 1995)

Если кому-то так удобнее, можете задонатить мне на бусти — я его только что создал https://boosty.to/u2b2mp3_bot Старые способы всё ещё доступны Тинькофф: 2200 7009 0344 7323 BTC: bc1qjvmhzdl5ll0dgehjuy5nvrwr8c7rkws36jyy2q ETH: 0x1cf61e090a59a508f4742516c952ad5c7b948f92 Ваша финансовая поддержка позволяет боту оставаться бесплатным и без рекламы. Я трачу на его поддержку свои ресурсы и время, и очень вам всем благодарен.

Сегодня ходил к врачу, называл свои хронические болячки, и мне стало интересно — мои 5 хронических заболеваний, о которых я знаю, это много, или норм? Для справки у меня: - Хронический тонзиллит - Жильбер - ВПВ феномен - Себорейный дерматит - данные удалены

🥺🥺🥺 Вот ради такого уже стоило делать бота

Только что мой pr вмержили в pytorch. Найс

SPOILERS FOR HAZBIN HOTEL i'm not crying, you're crying

самое главное, что я