Библиотека дата-сайентиста | Data Science, Machine learning, анализ данных, машинное обучение
Все самое полезное для дата сайентиста в одном канале. Учиться у нас: clc.to/6qVHgg По рекламе: @tproger_sales_bot Для обратной связи: @proglibrary_feeedback_bot РКН: https://gosuslugi.ru/snet/67a5b03124c8ba6dcaa121c9
إظهار المزيد📈 نظرة تحليلية على قناة تيليجرام Библиотека дата-сайентиста | Data Science, Machine learning, анализ данных, машинное обучение
تُعد قناة Библиотека дата-сайентиста | Data Science, Machine learning, анализ данных, машинное обучение (@dsproglib) في القطاع اللغوي الروسية لاعباً نشطاً. يضم المجتمع حالياً 18 257 مشتركاً، محتلاً المرتبة 7 154 في فئة التكنولوجيات والتطبيقات والمرتبة 35 866 في منطقة روسيا.
📊 مؤشرات الجمهور والحراك
منذ تأسيسه في невідомо، حقق المشروع نمواً سريعاً وجمع 18 257 مشتركاً.
بحسب آخر البيانات بتاريخ 20 نوفمبر, 2026، تحافظ القناة على نشاط مستقر. خلال آخر 30 يوماً تغيّر عدد الأعضاء بمقدار -62، وفي آخر 24 ساعة بمقدار -5، مع بقاء الوصول العام مرتفعاً.
- حالة التحقق: غير موثّقة
- معدل التفاعل (ER): يبلغ متوسط تفاعل الجمهور 6.93%. وخلال أول 24 ساعة من النشر يحصد المحتوى عادةً 3.39% من ردود الفعل نسبةً إلى إجمالي المشتركين.
- وصول المنشورات: يحصل كل منشور على متوسط 1 266 مشاهدة. وخلال اليوم الأول يجمع عادةً 619 مشاهدة.
- التفاعلات والاستجابة: يتفاعل الجمهور بانتظام؛ متوسط التفاعلات لكل منشور يبلغ 2.
- الاهتمامات الموضوعية: يركز المحتوى على مواضيع رئيسية مثل сайентиста, llm, буст, навигация, openai.
📝 الوصف وسياسة المحتوى
يصف المؤلف القناة بأنها مساحة للتعبير عن الآراء الذاتية:
“Все самое полезное для дата сайентиста в одном канале.
Учиться у нас: clc.to/6qVHgg
По рекламе: @tproger_sales_bot
Для обратной связи: @proglibrary_feeedback_bot
РКН: https://gosuslugi.ru/snet/67a5b03124c8ba6dcaa121c9”
بفضل وتيرة التحديث المرتفعة (أحدث البيانات بتاريخ 21 نوفمبر, 2026) تحافظ القناة على حداثتها ومستوى وصول مرتفع. وتُظهر التحليلات تفاعلاً نشطاً من الجمهور، ما يجعلها نقطة تأثير مهمة ضمن فئة التكنولوجيات والتطبيقات.
جارٍ تحميل البيانات
| التاريخ | نمو المشتركين | الإشارات | القنوات | |
| 20 نوفمبر | +2 | |||
| 19 نوفمبر | +5 | |||
| 18 نوفمبر | +2 | |||
| 17 نوفمبر | +5 | |||
| 16 نوفمبر | 0 | |||
| 15 نوفمبر | +5 | |||
| 14 نوفمبر | +2 | |||
| 13 نوفمبر | +3 | |||
| 12 نوفمبر | +1 | |||
| 11 نوفمبر | +1 | |||
| 10 نوفمبر | +1 | |||
| 09 نوفمبر | +1 | |||
| 08 نوفمبر | +3 | |||
| 07 نوفمبر | +2 | |||
| 06 نوفمبر | +2 | |||
| 05 نوفمبر | +1 | |||
| 04 نوفمبر | +2 | |||
| 03 نوفمبر | +3 | |||
| 02 نوفمبر | +1 | |||
| 01 نوفمبر | +1 |
profiling.sampling. Он периодически снимает стеки работающего процесса. Для такой проверки не нужно менять код или перезапускать приложение.
При подготовке данных это способ проверить Python-часть пайплайна: не уходит ли время в преобразованиях и обвязке вокруг модели. Для подключения нужен PID процесса:
python -m profiling.sampling attach 12345
Профилировщик и процесс должны использовать одну minor-версию Python, например 3.15. Для prerelease нужна одна точная версия. Обычную и free-threaded сборки смешивать нельзя. На Linux, macOS и Windows нужны права на чтение памяти целевого процесса, иногда повышенные.
Частота появления функций в снимках даёт статистическую оценку времени, а не точное число вызовов. По умолчанию учитывается и ожидание I/O, а не только работа CPU.
Неблокирующий режим иногда собирает неполные или смешанные стеки при быстрой смене coroutine и generator. Опция --blocking останавливает процесс на время каждого снимка и замедляет его. Сверяйте результаты с нагрузкой и режимом профилирования.
Документация Tachyon и обзор Python 3.15.
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста| 2 | Какая у вас сейчас основная роль в IT? | 863 |
| 3 | Learning curve: как понять, поможет ли больше данных
Одна оценка качества не показывает, стоит ли собирать больше данных. Learning curve сравнивает train и validation score при разном размере обучающей выборки. На графике видно, как меняется разрыв между оценками и где они выходят на плато.
В примере scikit-learn сравниваются GaussianNB и SVC с RBF-ядром на digits. Для каждого размера усредняют accuracy по 50 случайным разбиениям ShuffleSplit. У GaussianNB обе оценки сходятся на сравнительно низком уровне. У SVC разрыв сокращается при росте выборки.
Кривые помогают выбрать следующий шаг: собрать данные или проверить признаки и модель. Вывод относится только к этому набору и схеме проверки.
Пример и графики scikit-learn
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 900 |
| 4 | Почему одного seed мало для воспроизводимого обучения в PyTorch
Если два запуска обучения дают разные результаты, проверьте, где код берёт случайные числа. torch.manual_seed() задаёт seed для PyTorch. Если код использует random из Python или генераторы NumPy, задайте seed для них отдельно. Даже с фиксированными seed некоторые операции могут давать разные результаты из-за недетерминированных алгоритмов.
Повторите обучение на том же устройстве, с теми же данными и версиями библиотек. Если результаты расходятся, включите torch.use_deterministic_algorithms(True) и запустите обучение ещё раз. PyTorch выберет детерминированный алгоритм, где он доступен, и выдаст RuntimeError, если встретит известную недетерминированную операцию без такого варианта. Даже с одинаковыми seed PyTorch не гарантирует побитового совпадения результатов между версиями, платформами или при сравнении запусков на CPU и GPU.
Границы воспроизводимости в документации PyTorch
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 936 |
| 5 | Как PostgreSQL отличает NULL от пустой строки при импорте CSV
При загрузке CSV через COPY FROM пустое поле без кавычек по умолчанию становится NULL, а поле "" даёт пустую строку. Если поставщик записал пустую строку без кавычек, при такой загрузке она станет NULL.
Для выбранных столбцов FORCE_NULL превращает в NULL даже значение в кавычках, если оно совпадает с маркером NULL. FORCE_NOT_NULL отключает распознавание маркера в полях без кавычек. С этой опцией и маркером по умолчанию пустое поле без кавычек даст пустую строку в текстовом столбце. Загрузите оба варианта поля в тестовую таблицу и проверьте их через IS NULL перед массовым импортом.
Параметры COPY для CSV
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 989 |
| 6 | 🗂 В плане PostgreSQL не все счётчики устроены одинаково
В EXPLAIN ANALYZE узел может выполняться несколько раз. Поле loops показывает число запусков, а actual rows и actual time — средние значения на один запуск. Чтобы оценить общее число выданных узлом строк или суммарное время его работы, учитывайте loops.
С Buffers это правило не работает. Счётчики уже накоплены за выполнение узла и включают его дочерние узлы. Умножать их на loops или складывать показатели родителя и потомков не нужно. Повторное обращение к одному буферу может учитываться снова: это не число уникальных страниц.
Ещё одно различие: cost выражен в условных единицах планировщика, actual time — в миллисекундах. Сравнивать их как две оценки времени нельзя.
EXPLAIN ANALYZE действительно выполняет запрос. Для INSERT, UPDATE и DELETE это означает изменение данных, если выполнение не откатить в транзакции.
🔗 Разбор плана в PostgreSQL 18
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 1 139 |
| 7 | 🚀 Хватит откладывать обучение, время не ждет. Купи один курс Proglib Academy - второй получи бесплатно!
До 15 ноября включительно можно забрать два курса, оплатив только один 😳
Выбирай свою комбинацию:
🤖 Хочешь в AI-разработку?
«ИИ для разработчиков» + «Разработка ИИ-агентов»
Освой AI в разработке и научись создавать собственных ИИ-агентов.
🧠 Хочешь усилить техническую базу?
«Алгоритмы и структуры данных» + «Математика для AI»
Прокачай алгоритмическое мышление и освой математическую базу для машинного обучения.
➡️ Два курса. Один платёж. Второй - за наш счёт.
Сегодня последний день!
👉 Успей выбрать курсы | 1 087 |
| 8 | 🧠 У двух групп разный разброс. Как выбрать t-тест?
По умолчанию scipy.stats.ttest_ind предполагает равенство дисперсий в генеральных совокупностях. Параметр equal_var=False выбирает тест Уэлча: он сравнивает средние без этого предположения и корректирует число степеней свободы.
Условие независимости выборок остаётся. Параметр equal_var=False не делает тест подходящим для парных измерений и не защищает его от выбросов.
В результате смотрите не только pvalue. Есть также статистика, число степеней свободы df и метод confidence_interval для доверительного интервала разности средних: первой группы минус второй. Укажите и саму оценку разности: она показывает величину эффекта.
Большое p-value означает, что данных недостаточно для отклонения нулевой гипотезы при выбранном уровне значимости. Доказательством равенства средних оно не служит. Тест сравнивает средние, а не распределения целиком.
🔗 Параметры и ограничения в SciPy
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 1 009 |
| 9 | 🧠 Какие наблюдения влияют на коэффициенты OLS
После оценки линейной модели проверьте влияние отдельных наблюдений. В statsmodels для этого есть OLSInfluence и его dfbetas — показатели влияния на коэффициенты.
На графике из примера statsmodels по данным Guerry горизонтальная ось — квадрат нормированного остатка, вертикальная — leverage. Точка с большим остатком и точка с высоким leverage могут быть разными наблюдениями. Одного взгляда на остатки для диагностики недостаточно.
График и DFBETAs помогают выбрать строки для проверки: нет ли ошибки в данных, подходит ли спецификация модели, насколько устойчивы выводы. Выделившаяся точка может быть корректной. Автоматически удалять её ради лучшей метрики нельзя.
🔗 Пример диагностики
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 1 049 |
| 10 | 🗂 Откуда повторы в IterableDataset
Увеличили num_workers, а в обучении появились повторяющиеся записи? У каждого worker в DataLoader своя копия IterableDataset. Если все копии читают один поток с начала, записи дублируются.
Разделите источник между worker. В PyTorch для этого есть get_worker_info(): он сообщает ID текущего worker и их общее число. Эти данные можно использовать в __iter__ или worker_init_fn, чтобы назначить каждой копии отдельную часть потока.
Проверьте ID записей: части не должны пересекаться, а вместе должны покрывать нужные данные. Отдельно проверьте возобновление чтения после сбоя. Для реального источника недостаточно просто поделить конечный диапазон из учебного примера.
drop_last отбрасывает неполный последний батч у каждой копии IterableDataset. Суммарно DataLoader может потерять больше одного батча. Разделение потока само по себе ускорения не гарантирует.
🔗 Документация и два способа разделения
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 1 044 |
| 11 | 🤖 Два курса по AI по цене одного — только до 15.11!
Наигрались с нейросетями, и хотите применять их в реальных проектах?
Обращаем ваше внимание на ИИ-связку Proglib Academy:
➡️ «ИИ для разработчиков» — соберите собственный рабочий процесс с AI: от планирования и написания кода до тестирования и code review.
➡️ «Разработка ИИ-агентов» — научитесь создавать агентов, которые умеют работать с API, базами знаний и внешними инструментами, выполнять последовательность действий и решать прикладные задачи.
⏬ Вы получите два взаимодополняющих навыка: эффективную AI-разработку и инженерное создание AI-агентов за 59 000 ₽.
📍 Покупаете один курс, второй - в подарок. Не упустите свой шанс прокачаться - только до 15 ноября 😏 | 1 076 |
| 12 | 🛡️ Монотонность в XGBoost: задаём направление
Параметр monotone_constraints задаёт правило при фиксированных остальных признаках: +1 — предсказание не убывает, −1 — не возрастает, 0 — ограничения нет. Плоские участки допустимы.
На графике из документации XGBoost чёрные линии показывают модель с ограничениями на синтетических данных. Остальной признак зафиксирован на среднем значении. Колебания, нарушающие заданное направление, исчезают.
Ограничение выражает предположение о задаче. Причинную связь или рост точности оно не доказывает. Сравните качество на отложенных данных.
При hist и approx деревья могут стать слишком неглубокими: ограничения исключают кандидатов разбиения. Документация предлагает попробовать увеличить max_bin.
🔗 Параметры и пример
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 1 100 |
| 13 | 🧠 Что средняя PDP скрывает за одной линией
На графике из документации scikit-learn тонкие линии — ICE: для каждого объекта меняют один признак, фиксируют остальные и считают предсказания модели. Пунктир — PDP, среднее этих линий.
Посмотрите на влажность справа. У одних объектов предсказания почти не меняются, у других резко падают. Средняя линия сглаживает это различие. ICE помогает увидеть неоднородность, связанную с взаимодействиями признаков.
Пример построен на данных велопроката с HistGradientBoostingRegressor. Он показывает поведение модели, а не причинный эффект погоды. При коррелированных признаках PDP и ICE могут оценивать нереалистичные сочетания значений.
🔗 Документация и примеры
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 1 145 |
| 14 | 🧠 Когда важный признак получает низкую importance
У двух признаков сильная корреляция. При расчёте permutation importance перемешиваем один из них. Модель может по-прежнему получать похожую информацию из второго, и метрика почти не изменится. То же может произойти, если отдельно перемешать второй признак.
Низкая importance каждого по отдельности ещё не означает, что вся группа бесполезна. Этот показатель описывает зависимость конкретной обученной модели от признака на выбранных данных и с выбранной метрикой. Причинный эффект он не измеряет.
Перед удалением таких столбцов проверьте корреляции. В документации scikit-learn предлагают один из подходов: объединить коррелированные признаки в кластеры и оставить представителя каждого. Сравните качество моделей на отложенных данных. Сам по себе новый рейтинг признаков улучшение не доказывает.
🔗 Разбор в документации
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 1 232 |
| 15 | Optuna: как сообщить pruner, что происходит с trial
Sampler выбирает гиперпараметры, pruner решает, стоит ли досрочно остановить trial. Для решения ему нужны промежуточные значения метрики. Этот API предназначен для оптимизации одной целевой метрики.
В цикле обучения вызывают trial.report(value, step), затем trial.should_prune(). Если ответ True, objective должен поднять optuna.TrialPruned(). Сам вызов report обучение не прекращает.
В официальном примере передают ошибку на валидации после каждого шага. Если objective только вернул финальную метрику, такой истории у pruner нет. Смысл метрики и шага должен быть одинаковым у сравниваемых trial.
Документация и примеры
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 1 391 |
| 16 | Запрос и документ: две роли в семантическом поиске
В асимметричном поиске по короткому вопросу ищут более длинный абзац с ответом. Sentence Transformers рекомендует encode_query для запроса и encode_document для корпуса.
Методы могут применять промпты и маршрутизацию, сохранённые в конкретной модели. Это не означает, что они всегда используют разные веса.
Если модель не обучалась со специальными prompts или task types, encode, encode_query и encode_document могут вернуть одинаковые эмбеддинги. Выбор подходящей модели и оценка поиска всё равно нужны.
Документация и примеры
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 1 336 |
| 17 | Включите constrained layout до создания осей
Если подписи осей и шкала colorbar не помещаются, попробуйте plt.subplots(layout="constrained"). Matplotlib перераспределит место между осями и подписями, сохраняя заданную сетку. Включать режим обычно нужно до добавления Axes.
На изображении один и тот же синтетический массив, размер фигуры и шрифт. Сверху — стандартная компоновка с обрезанной подписью. Снизу — constrained layout, где подписи помещаются.
Не добавляйте следом tight_layout(): этот вызов выключает constrained layout. Если места слишком мало, увеличьте фигуру. Произвольные графические элементы всё равно могут обрезаться или перекрываться.
Документация и примеры
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 1 258 |
| 18 | MLflow: что меняется при переназначении alias
Alias champion в Model Registry можно переназначить с одной версии на другую. При загрузке URI вида models:/fraud@champion MLflow берёт версию, на которую alias указывает в этот момент. Имя fraud здесь условное.
После переназначения следующий вызов load_model по этому URI загрузит новую версию. Уже загруженный Python-объект сам от этого не обновится.
Для воспроизводимого эксперимента сохраняйте номер загруженной версии. Имя champion остаётся подвижной ссылкой и не заменяет проверку модели перед внедрением.
Документация и примеры
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 1 321 |
| 19 | В парном bootstrap выбирайте строки целиком
Если x и y относятся к одному наблюдению, при пересэмплировании нужно сохранить их пару. Например, для корреляции двух измерений у одних и тех же объектов.
В scipy.stats.bootstrap параметр paired=True выбирает один массив индексов и применяет его ко всем входным массивам. При paired=False каждый массив пересэмплируется независимо. На схеме видно, какие пары сохраняет общий набор индексов.
Одинаковой длины массивов для парности недостаточно: она определяется тем, как собраны данные. Обычный iid bootstrap также не учитывает автоматически временную зависимость или кластеры.
Документация и примеры
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 1 279 |
| 20 | Почему True | NA даёт True
У nullable boolean в pandas три значения: True, False и NA. Результат будет NA, только если его нельзя определить по известному операнду. Поэтому True | NA даёт True, а True & NA — NA. На карточке — четыре сочетания для dtype="boolean".
У фильтрации другое правило: NA в булевой маске исключает строку. Для данных [10, 20, 30] маска [True, False, NA] оставит [10]. Если нужно сохранить и строки с NA в маске, задайте это явно: фильтрация с mask.fillna(True) оставит [10, 30].
bool(pd.NA) при этом вызывает TypeError: у неизвестного нет однозначного булева значения.
Документация и примеры
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста | 1 351 |
