Data Scientist | IT
Kanalga Telegram’da o‘tish
Добро пожаловать в клуб. Полезные материалы из мира DS & ML на регулярной основе. По всем вопросам: @godinmedia
Ko'proq ko'rsatish1 927
Obunachilar
Ma'lumot yo'q24 soatlar
+17 kunlar
-1030 kunlar
Postlar arxiv
1 927
От чат-бота к AI агенту: собираем локальную систему на LibreChat, Langflow и MCP
#почитать
В прошлой статье мы строили локальную систему для транскрибации аудио, а сегодня пойдём дальше и соберём локальную агентную AI-систему — без облаков и с контролем над данными.
В этой статье я покажу, как собрать связку из трёх ключевых компонентов:
1. LibreChat — UI для работы с LLM
2. Langflow — low-code платформа и визуальный редактор
3. MCP — стандарт для подключения инструментов
Статья построена по принципу «по нарастающей», где каждый новый уровень — это рабочий инструмент. Можно остановиться на любом этапе, а можно пройти все и тогда получите связку UI + инструменты + централизованная логика (и дальше ее можно развивать под свои сценарии).
✅Читать статью
1 927
🌐Python Pydantic Tutorial: Complete Data Validation Course
#посмотреть
In this video, we'll be learning how to use Pydantic, Python's most popular data validation library. Pydantic uses type hints to validate data at runtime, ensuring that the data coming into your application meets your expectations. We'll cover everything from basic model creation and field validation to custom validators, type coercion, nested models, and model configurations. We'll also see why Pydantic is so widely used in libraries like FastAPI, data processing pipelines, and AI tools. If you've ever struggled with messy manual validation code or data that isn't the right type or format, Pydantic will make your life much easier.
✅Смотреть на Ютубе ⏱️3 часа
1 927
🦾 Препарируем рекомендательные системы методами машинного обучения
На открытом уроке разберём, как работают рекомендательные системы и какие подходы используются в машинном обучении. Покажем, как формируется рекомендация и как реализовать один из методов на практике с помощью Python.
Вы не просто послушаете теорию, а соберёте свою первую рекомендательную модель.
👨💻🛠👨🏻💻 Урок подойдёт тем, кто начинает путь в машинном обучении и хочет разобраться в одной из самых востребованных задач.
Встречаемся 20 мая в 18:00 МСК в преддверии старта курса «Машинное обучение. Специализация».
➡️ Принять участие бесплатно: https://vk.cc/cXUqAm
Реклама. ООО «Отус онлайн-образование», ОГРН 11777466185761 927
Повторяй промт дважды — и нейросеть станет умнее. Это реально работает
#почитать
Ещё раз: повторяй свой промт дважды (и даже трижды) — и нейросеть станет умнее. Это реально работает!
✅Читать статью
1 927
Лес под прицелом нейросетей: сравниваем модели для выявления рубок со спутника
#почитать
Ханты-Мансийский автономный округ (ХМАО) – это не только 50% российской нефти, но и 530 тыс. кв. км лесов. Развитие инфраструктуры месторождений и интенсивные заготовки требуют жесткого контроля вырубок. С 2014 года здесь ведут мониторинг по снимкам со спутников, собрав базу из 15000 записей, включающих информацию о выявленных лесных рубках, но есть проблема: ручное дешифрирование происходит слишком долго и дорого.
✅Читать статью
1 927
Динамический полиморфизм для свободных функций: еще одна практика из С++ для машинного обучения
#почитать
Я Кирилл Колодяжный, разработчик систем хранения данных в YADRO и ML-энтузиаст. Продолжаю рассказывать о паттернах С++, которые легко адаптировать под задачи машинного обучения. В этой части поговорим о динамическом полиморфизме — технологии, которая помогает объединить интерфейс для запуска вычислений с разными условиями. Ссылку на первую часть найдете в конце статьи.✅Читать статью
1 927
RAG на PHP + Qdrant: быстрый MVP для внутренней базы знаний
#почитать
RAG на PHP - звучит непривычно. Делюсь опытом построения чат-бота для поиска по внутренней базе документов: Symfony, Qdrant с гибридным поиском, YandexGPT для embedding и генерации ответов. Внутри — готовый код, подводные камни чанкинга и советы, которые сэкономят вам время.
✅Читать статью
1 927
Как ML-модели решают, какой процент по кредиту вы получите
#почитать
Почему два человека с одинаковым доходом и кредитной историей могут платить совершенно разный процент по одному и тому же кредиту? В этой статье мы заглянем под капот банковских систем ценообразования, разберем реальные кейсы дискриминации от Ally Bank и Test-Achats, и наглядно покажем, как деревья решений и градиентный бустинг используются для предсказания вашей платежеспособности — и как они могут ошибаться.
✅Читать статью
1 927
Новый инструмент на основе ML для анализа дыхания растений
#почитать
По всему миру сельское хозяйство сталкивается с ростом потребности в продуктах питания и ограниченностью водных ресурсов. Эффективность выращивания культур во многом зависит от того, насколько точно удаётся описывать и предсказывать процессы, определяющие фотосинтез и потерю воды у растений. Одну из ключевых ролей здесь играют устьица, микроскопические поры на поверхности листьев, которые регулируют поступление CO₂ и испарение влаги. В 2025 году исследователи из Иллинойсского университета в Урбане-Шампейне представили систему Stomata In-Sight, которая объединяет конфокальную микроскопию, газообменные измерения и автоматизированный анализ изображений на основе ML. Такой подход позволяет получать количественные оценки геометрии устьиц в условиях контролируемой среды и сопоставлять их с измеряемой проводимостью и фотосинтезом. Это важно не только для физиологии растений, но и для прикладных задач, связанных с эффективностью использования воды и устойчивостью урожая при засухе. В этой статье я расскажу о самом исследовании и о том, как устроена Stomata In-Sight.✅Читать статью
1 927
Нейросимвольный ИИ: архитектура семантической нейросети. Как научить LLM считать
#почитать
LLM ошибаются в элементарной математике. Корпорации тратят миллиарды, но в конечном счете вынуждены прикручивать калькуляторы к вычислительным машинам невероятной мощи. Все попытки исправить через Chain-of-Thought, fine-tuning на задачах счёта, увеличение контекста не сработали.
Я провёл серию экспериментов чтобы понять почему, и пришел к выводу, что нейросети просто не предназначены для дискретной арифметики. Их предназначение непрерывные трансформации.
В этой статье описывается реализация новой архитектуры нейросетей, объединяющая точность символьного ИИ и способность к обобщению LLM. Код как всегда прилагается.
✅Читать статью
1 927
Как устроен Codex
#почитать
Подробный разбор того, как команда OpenAI Codex создаёт своего кодового агента, как его используют другие команды, как он влияет на инженерные практики создателей ChatGPT и что это может значить для будущего разработки ПО.
Чтобы в этом разобраться, я поговорил с тремя сотрудниками OpenAI:
Тибо Соттио (Thibault Sottiaux) — руководитель Codex.
Шао-Цянь Ма (Shao-Qian (SQ) Mah) — исследователь в команде Codex, обучающий модели, на которых тот работает.
Эмма Тан (Emma Tang) — руководитель data-инфраструктуры; она не входит в команду Codex, но её команда активно им пользуется.
✅Читать статью
1 927
Зачем роботам погонщик
#почитать
У любой сложной технической системы есть граница, на которой модель больше не совпадает с реальностью. Если вы видели систему со всеми зелёными метриками, но интуиция подсказывала, что дежурство будет тяжёлым, вы знаете это состояние. В распределительных центрах эту границу видят не в логах и дашбордах, а на полу склада. Когда алгоритм уже всё просчитал, а физический мир внёс свои правки.
Эта статья не про роботов как технологию и не про автоматизацию как цель. Она про роль, которая появляется, когда автоматизация становится массовой. Про человека, который стоит между WMS, роботами и реальным складом. И про то, почему без этой роли, даже если формально всё работает, автоматизация со временем деградирует.
✅Читать статью
1 927
12 бит против 8 бит в камере для проведения металлографических исследований при помощи оптического микроскопа
#почитать
В лаборатории к инвертированному оптическому микроскопу Zeiss Axio Observer 3 подключена промышленная камера The Imaging Source DFK 33UX265 для выполнения металлографических задач: анализ зерна, неметаллических включений, поиска дефектов структуры. Мне стало интересно, как она устроена и что есть у нее "под капотом". Когда мы проводим анализ, то не задумываемся о постобработки, а под "капотом" любой камеры есть много интересных режимов. Я ухватился за 12-битный монохромный Bayer-формат (часто обозначаемый как 12-bit Bayer Packed) — это формат RAW-данных, при котором с сенсора с фильтром Байера считывается 12 бит информации на пиксель без цветовой интерполяции. Это обеспечивает более высокий динамический диапазон (4096 уровней яркости) по сравнению с 8-битным форматом (256 уровней), сохраняя «сырые» данные.
Большинство программ, связанных с металловедением принимают картинку в 8 бит. И я хотел бы разобраться в вопросе, а так ли нужен при оценке и автоматизации режим 12 бит.
✅Читать статью
1 927
Дрейф данных в машинном обучении
#почитать
Дрейф данных (Drift Data) — это ситуация, когда статистические свойства входных данных для модели машинного обучения изменяются со временем. При дрейфе данных взаимосвязи между признаками и самой целевой переменной перестают быть действительными. Это может привести к низкой производительности модели, неточным прогнозам и даже к сбоям.
✅Читать статью
1 927
Лимит доверия: как ИИ решает, сколько денег вам можно дать
#почитать
Что влияет на размер вашего кредитного лимита? И почему банк может вдруг его уменьшить, даже если вы всегда вовремя вносите платежи? В предыдущей статье мы выяснили, как банки применяют модели машинного обучения для определения вашей кредитоспособности; в этой статье мы рассмотрим примеры Synchrony Bank и Apple Card, объясним тактику “low-and-grow” и продемонстрируем, как банки задействуют поведенческую экономику и обучение с подкреплением для контроля над вашими задолженностями.
✅Читать статью
1 927
Как в Netflix масштабируют постобучение LLM
#почитать
В Netflix исследовали, как именно LLM могут открыть новые грани рекомендаций, персонализации и поиска. Для этого в Netflix попробовали адаптировать универсальные обобщённые модели к имеющимся условиям так, чтобы они лучше отражали содержание каталога фильмов и нюансы истории взаимодействия пользователей с сайтом. В масштабе такой компании как Netflix постобучение быстро превращается как в инженерную проблему, так и в проблему моделирования: приходится выстраивать сложные конвейеры данных и оперировать ими, координировать распределённое состояние в масштабах многоузловых кластеров GPU и оркестровать потоки задач, в рамках которых перемежаются обучение и логический вывод.
В этой статье описаны архитектура и инженерная философия применяемого в Netflix фреймворка постобучения, который был разработан командой по платформе ИИ с целью скрыть сложность инфраструктуры — так, чтобы исследователи и разработчики моделей могли сосредоточиться на внедрении инноваций, а не на латании распределённых систем.
✅Читать статью
1 927
Управляем поведением LLM: краткосрочные профили и их ограничения
#почитать
Мы привыкли верить, что если сказать модели «будь агрессивным трейдером» или «будь строгим аналитиком», то она действительно начнёт так себя вести. На практике всё не так просто. В длинном диалоге роль быстро выдыхается: модель соглашается с образом, но постепенно возвращается к базовой вежливости, осторожности и бесконечным дисклеймерам.
Зато в коротких запросах происходит совсем другое. Один свежий промпт — и поведение реально сдвигается: модель становится заметно осторожнее, резче, параноидальнее или, наоборот, более рискованной. Это уже не «роль» в привычном смысле, а краткосрочный поведенческий профиль — временная настройка внутренних параметров решения.
Исследования показывают, что такой профиль способен существенно менять поведение. Например, коэффициент неприятия потерь можно «подкрутить» почти в три раза — и модель начнёт требовать значительно большей выгоды, чтобы принять риск. Звучит мощно, но вместе с ним приходят стохастичность, зависимость от формулировки и неожиданные побочные эффекты.
✅Читать статью
1 927
🌐Работа аналитиком данных, плюсы и минусы
#посмотреть
Я работаю аналитиком данных (или, если угодно, продуктовым аналитиком). В этом видео вкратце расскажу о том, что именно нужно делать, какие есть плюсы и минусы, кому эта профессия подходит.✅Смотреть на Ютубе ⏱️15 минут
1 927
Как использовать AI для анализа метаданных в СУБД и BI: практика применения LLM и RAG 🤖
Во многих компаниях data catalog уже внедрен, но не работает как инструмент. Метаданные устаревают, доверие к данным падает, аналитики продолжают искать информацию вручную, а команда DWH остается перегруженной.
📆 9 апреля в 11:00 (МСК) приглашаем на бесплатный онлайн-вебинар «Как использовать AI для анализа метаданных в СУБД и BI: практика применения LLM и RAG», где разберем, как изменить этот подход с помощью AI.
👨💻 Спикер: Павел Хамрин — руководитель AI-направления Lasmart. Более 10 лет в аналитике и DWH.
В программе вебинара:
— почему data catalog не работает на практике: неактуальные метаданные, отсутствие доверия, перегрузка команды;
— как LLM автоматизирует описание таблиц, дашбордов и бизнес-логики без ручной поддержки;
— как работает RAG для поиска данных, контекста и анализа связей (data lineage);
— архитектура решения и roadmap внедрения без перестройки текущих систем.
Кому будет полезно:
Data-инженерам, CTO, CDO, Head of BI и DWH, Data-аналитикам и Data Scientist
🔗 Регистрация по ссылке
