Data Science: Алгоритмы и Структуры данных
Открыть в Telegram
Мы не претендуем на оригинальность контента, мы лишь собираем материал из открытых источников. Ссылка: @Portal_v_IT Сотрудничество, авторские права: @oleginc, @tatiana_inc Канал на бирже: https://telega.in/c/structuredata
Больше7 726
Подписчики
-224 часа
-187 дней
-1330 день
Архив постов
Управляющие последовательности (ANSI)
В этой серии статей мы погружаемся в возможности языка AutoHotkey на примере вывода цветного текста в терминал для консольной версии Launcher.
Часть 1: Наивный алгоритм и его оптимизация
Часть 2: Управляющие последовательности (вы здесь)
Часть 3: Атомарные регулярные выражения
Часть 4: Декларативное программирование
Часть 5: 256 цветов и стилизация текста
В прошлой части мы переписали алгоритм из рекурсивного в итеративный и ускорили его исполнение почти в 22 раза. Однако в получившемся коде пропала поддержка вложенных цветов. В этой части мы попробуем разобраться, почему это произошло, что такое ANSI коды и как они обрабатываются терминалом.
https://habr.com/ru/articles/1054876/
Алгоритмы и Структуры данных
⚡️ 5 000 ₽ — столько приносит одна сделка
В день доступно 3-5 готовых сделок. Их находит ИИ и проверяют аналитики. От тебя — только повторить под сопровождением трейдеров.
❗️Можно без опыта и анализа графика, нужен телефон, обучение и час времени. Мы живём в эпоху, когда искусственный интеллект делает большую часть работы за нас, НО НЕ ВСЮ! И чтобы понять, как это работает — заходи в канал к Евгению.
Все инструкции и доступ к ИИ-агенту внутри. Заходите, пока набор открыт 👉 https://telegram.me/+i8zV590tBDE0NTJi
Применение методов детектирования объектов в задаче долгосрочного прогнозирования событий
Привет, Хабр. Мы — Андрей Савченко — директор по науке, и Иван Карпухин — senior researcher в Sber AI Lab — Центре практического искусственного интеллекта Сбера, расскажем о нашем исследовании, представленном на конференции AAAI 2026.
В сфере искусственного интеллекта за последние десять лет многие самые успешные идеи родились не в какой-то одной предметной области, а на стыке нескольких направлений. Так произошло с трансформерами, которые сначала появились в обработке естественного языка, затем практически полностью изменили компьютерное зрение, а сегодня их используют почти во всех задачах машинного обучения. Похожая ситуация и с долгосрочным прогнозированием последовательностей событий. Неожиданно оказалось, что многие идеи, давно ставшие стандартом в задачах детектирования объектов на изображениях, позволяют принципиально иначе взглянуть на прогнозирование будущих событий.
https://habr.com/ru/companies/sberbank/articles/1054286/
Алгоритмы и Структуры данных
Как создавали нейропоиск Discovery AI — технологию для крупнейшей контентной базы в РФ
Привет! Меня зовут Евгений Астафуров, я ведущий разработчик в Отделе экспериментальных технологий AI VK. Мы разрабатываем Discovery AI — набор ИИ‑технологий для интеллектуального поиска, рекомендаций и взаимодействия с контентом. В него вошли нейропоиск, анализ контекста, персонализация, генеративные модели и рекомендательные алгоритмы, чтобы помогать пользователям находить нужную информацию, получать релевантные ответы и новый контент.
В этой статье подробно разберу архитектуру технологии нейропоиска в Discovery AI, которая объединяет большую языковую модель (LLM), поиск, инференс и данные многомиллиардной контентной базы VK. Технология становится важным компонентом развития рекомендательных и поисковых систем в наших продуктах и будет поэтапно внедряться в сервисы для пользователей, авторов и бизнеса (Дзен, VK, Медиапроекты Mail, VK Видео и другие).
https://habr.com/ru/companies/vk/articles/1054358/
Алгоритмы и Структуры данных
От пульта до полотенца — учим робота искать всё, что угодно
Привет, Хабр! Меня зовут Татьяна Земскова, я аспирантка МФТИ и научный сотрудник команды Embodied Agents лаборатории Cognitive AI Systems AIRI. Областью моих научных интересов является компьютерное зрение для робототехники. Я изучаю, в частности, то, каким образом робот может использовать различные модальности (текст, изображения, сегментационные маски объектов) для лучшего понимания сцены и навигации.
Желаемыми свойствами современных навигационных систем является их универсальность, минимальность сенсорного сетапа и быстрота принятия решений на борту робота. Сегодня мы поговорим о том, как мы вместе с коллегами (Алексеем Староверовым, Дмитрием Юдиным и Александром Пановым) смогли создать и обучить лёгкую (130М) трансформерную модель, способную доезжать до любых категорий объектов, заданных текстом. Полученный метод описан в свежей работе OVSegDT: Segmenting Transformer for Open‑Vocabulary Object Goal Navigation.
На веб‑странице проекта можно найти ссылку на открытый исходный код с инструкциями по запуску и ссылкой на предварительно обученные веса модели. Это позволяет как воспроизвести наши эксперименты, так и попробовать запустить модель самостоятельно на собственных данных в симуляторе или на реальном роботе. В этом посте мы обсудим основные особенности модели и то, как мы пришли к этому методу.
https://habr.com/ru/companies/airi/articles/1053042/
Алгоритмы и Структуры данных
Задача коммивояжера: обходим 750 точек за 5 сек
Доброго времени суток . Спасибо всем заинтересовавшимся моей статьей. Задача коммивояжёра — одна из самых известных задач комбинаторной оптимизации. Её суть заключается в поиске самого выгодного маршрута, который проходит через указанные города по одному разу с последующим возвратом в исходный город. Уже при небольшом числе городов >20 задача не может быть решена методом перебора вариантов за приемлемое время.
Для решения задачи коммивояжёра существует большое количество методов и алгоритмов, самые распространённые — поисковые алгоритмы. Лидеры среди них — генетические алгоритмы и алгоритмы колонии муравьёв.
Я придумал свой вариант.
В статье «Сравнение производительности генетических алгоритмов и муравьиных алгоритмов применительно к задаче коммивояжера Авторы: Sabry Ahmed Haroun, Benhra Jamal, El Hassani Hicham Лаборатория LISER, ENSEM, UH2C Касабланка, Марокко.» от May 2015. Приводятся результаты тестов. Генетический алгоритм был разработан на C++. Муравьиный алгоритм оптимизации был написан на C#.
https://habr.com/ru/articles/1054280/
Алгоритмы и Структуры данных
Складское броуновское движение: почему хаотичное хранение работает лучше строгой логики
Человеческий мозг настроен на порядок: макароны к макаронам, телевизоры к телевизорам. Это кажется логичным, эффективным и «правильным». Именно так устроены склады без WMS — или, точнее, без продуманного алгоритма размещения. Но крупнейшие в мире фулфилмент-центры работают ровно наоборот. Amazon хранит зубную пасту рядом с книгами и запчастями. Для человека — хаос. Для алгоритма — математически совершенная архитектура.
Этот материал — разбор концепции хаотичного (динамического) адресного хранения (chaotic storage / random storage / scattered storage): как она устроена изнутри, почему работает лучше «логичного» порядка, и как WMS превращает визуальный беспорядок в оптимизированную модель распределения потоков.
https://habr.com/ru/companies/intekey/articles/1053808/
Алгоритмы и Структуры данных
Как мы реализовали оптимальное обучение CV-моделей в Luna Line. Часть 2. Сегментация
И снова здравствуйте! Продолжаю свой рассказ о поиске «универсального рецепта» для обучения моделей в Luna Line. Теперь речь пойдет о сегментации. Если вы пропустили предыдущую публикацию по классификации, то вам лучше начать читать с нее, чтобы не запутаться.
Дело в том, что когда мы разобрались с классификацией, наша же методология оставила послевкусие неудовлетворенности. Мы задавали себе вопрос: а действительно ли выбранное семейство показывает максимум своих возможностей или мы просто зажали его в рамки единого пайплайна? Для сегментации мы решили действовать иначе.
https://habr.com/ru/companies/mts_ai/articles/1053300/
Алгоритмы и Структуры данных
👩💻 Всем программистам посвящается!
Вот 14 авторских обучающих IT каналов по самым востребованным областям программирования:
Выбирай своё направление:
👩💻 Python — t.me/python_ready
🤔 InfoSec & Хакинг — t.me/hacking_ready
🖥 SQL & Базы Данных — t.me/sql_ready
👩💻 IT Новости — t.me/it_ready
🤖 AI & ML — t.me/neuro_ready
👩💻 Frontend — t.me/frontend_ready
👩💻 C/C++ — https://t.me/cpp_ready
👩💻 C# & Unity — t.me/csharp_ready
👩💻 Linux — t.me/linux_ready
👩💻 Java — t.me/java_ready
📖 IT Книги — t.me/books_ready
📱 JavaScript — t.me/javascript_ready
🖼️ DevOps — t.me/devops_ready
🖥 Design —t.me/design_ready
📌 Гайды, шпаргалки, задачи, ресурсы и фишки для каждого языка программирования!
Pet-project: мини-библиотека по линейной алгебре
Однажды меня попросили рассказать о своем опыте разработки математических алгоритмов. Так как коммерческий опыт у меня был преимущественно в веб-разработке, то рассказать я мог только об университетском опыте, либо реализовать собственный pet-проект.Я выбрал тему линейной алгебры.
Существовало два варианта реализации проекта: с интерфейсом на Qt либо в виде решения, которое можно использовать в backend-разработке. Я выбрал второй вариант и реализовал небольшую библиотеку.
В ходе разработки мне пришлось ответить на следующие вопросы:
https://habr.com/ru/articles/1051974/
Алгоритмы и Структуры данных
ИИ-агенты стали еще доступнее
OpenAI резко обвалила цены на API: модель GPT-5.6 Luna подешевела сразу на 80%. Это важное событие, ведь именно она идеально подходит для массовой автоматизации повседневных задач.
При этом многие думают, что автономные агенты нужны только разработчикам. Но на самом деле их возможности давно вышли за пределы кодинга: агенты могут в фоне вести веб-серфинг, парсить и структурировать информацию, автоматически заполнять таблицы и закрывать всю рутину по всей сети.
Недавно я уже рассказывал, как задействовал агентов для полной зачистки своего инфополя в Telegram. Они отсеяли всю воду и выделили действительно сильные ресурсы, поэтому рекомендую подписаться на эту готовую подборку.
Сейчас самое время углубиться в AI | IT, ведь эти технологии доступны абсолютно каждому — и с точки зрения ценников, и с точки зрения базы знаний.Подписка в 1 клик: https://t.me/addlist/_XgWPZPtZkNhZDYy
Pet-project: мини-библиотека по линейной алгебре
Однажды меня попросили рассказать о своем опыте разработки математических алгоритмов. Так как коммерческий опыт у меня был преимущественно в веб-разработке, то рассказать я мог только об университетском опыте, либо реализовать собственный pet-проект.Я выбрал тему линейной алгебры.
Существовало два варианта реализации проекта: с интерфейсом на Qt либо в виде решения, которое можно использовать в backend-разработке. Я выбрал второй вариант и реализовал небольшую библиотеку.
В ходе разработки мне пришлось ответить на следующие вопросы:
https://habr.com/ru/articles/1051974/
Алгоритмы и Структуры данных
Программисты рисуют и травят: от штриховой векторизации к офортам Меллана
В этом году у меня прошло три персональных выставки портретов и картин, нарисованных роботами по моим алгоритмам. Во‑первых, это очень тяжело, а, во‑вторых, наверно, пора уже позаботиться о приоритете авторов алгоритма. Статья на Хабре, по уверениям нейросетей, на этом пути необходимый этап.
Мне 72 года. Сижу на даче, никого не трогаю. Зимой программирую алгоритмы, летом конструирую станочки. Как‑то после решения быстро сделать очередной станок типа «полярграф» (два моторчика, рисующих на стене), неожиданно задержался на этой теме на полгода. Пришлось конструировать заново ему гондолы (хороших не нашел) и писать для него весь софт (тут было всё ещё хуже), а добившись от него точности 0.3мм(!), обнаружил, что рисовать‑то нечего. Вот так я и вышел на тему рисования на плоттере, которой и занимаюсь уже несколько лет.
https://habr.com/ru/articles/1051962/
Алгоритмы и Структуры данных
Секреты поиска решений управляемого данными
Если Вы безоговорочный поклонник искусственного интеллекта (Ai) в нынешней его трактовке и не приемлете другие решения, то я бы не рекомендовал читать и комментировать эту статью. Если Вы занимаетесь приложениями для банковской сферы, или для торговли, или создаёте чат-боты общего назначения, то эта статья, скорее всего, будет Вам не интересна. Разработчики игр, так же не найдут в этой статье ничего полезного.
Но, возможно, вы участвуете в проектах связанных с автоматизацией проектирования в машиностроении или создаёте экспертные системы медицинского назначения и тесно взаимодействуете с предметными специалистами (инженерами, технологами, врачами). В таком случае идеи и решения из этой статьи могут пригодиться в Вашей работе. Если же вдруг Вы связаны с преподаванием прикладных дисциплин не связанных с информационными технологиями, то подходы к формализации знаний и созданию прикладных приложений с минимальным привлечением ИТ-специалистов могут Вас заинтересовать и оказаться ещё одним инструментом закрепления знаний наряду с курсовым и дипломным проектированием.
https://habr.com/ru/articles/1051928/
Алгоритмы и Структуры данных
Как двое договариваются о секрете, крича на всю площадь: алгоритм Диффи-Хеллмана без формул
Представьте себе площадь: людную, шумную, и на ней стоят двое, назовем их Алиса и Коля. Им нужно договориться о пароле, но шептаться друг с другом нельзя. А еще вокруг толпа, и в толпе стоит Ева, которая записывает каждое слово. Никаких записок, никаких встреч за кулисами, только крик через всю площадь.
Звучит как безнадежная задача. Все, что Алиса крикнет Коле, услышит и Ева. Любая информация, которая дойдет до Коли, дойдет и до нее. Кажется, что общий секрет в таких условиях невозможен в принципе.
А теперь плохая новость для нашей интуиции: именно это сейчас происходит на вашем устройстве. Когда ваш браузер открывал эту страницу, он буквально прокричал несколько чисел через весь интернет, провайдер их видел, любой узел по дороге их видел, и тем не менее у вас с сервером Хабра появился такой общий секретный ключ, который не знает никто из них. Это и есть протокол Диффи-Хеллмана, придуманный в 1976 году, и он до сих пор в той или иной форме сидит почти в каждом TLS-соединении
https://habr.com/ru/companies/selectel/articles/1050536/
Алгоритмы и Структуры данных
Как мы ускоряли диффузионный декодер TTS
В пайплайне перевода видео в Яндекс Браузере скорость работы в синтезе речи долго оставалась узким местом: одно видео — это сотни фраз, каждая генерируется отдельно, и любая сэкономленная миллисекунда становится заметной в масштабах сервиса.
Внутри TTS работает каскад из трёх компонентов: языковая модель предсказывает аудиотокены по тексту, диффузионный декодер восстанавливает мел-спектрограмму из латентов, а вокодер превращает её в звуковую волну. Долгое время самой тяжёлой была языковая модель, но после её оптимизации на первый план вышел декодер латентов — его forward pass запускается на каждом шаге семплинга диффузии, а шагов — десятки. Именно его мы и взялись ускорять.
Меня зовут Цырен-Доржо Цыбиков, я ML-инженер команды TTS в Яндексе и ментор проекта Даниила Маслова, студента бакалавриата кафедры АД ФПМИ МФТИ и ШАД. В рамках проектного курса мы запустили отдельную исследовательскую ветку по оптимизации диффузионного декодера латентов в TTS-пайплайне перевода видео.
https://habr.com/ru/companies/yandex/articles/1051334/
Алгоритмы и Структуры данных
Мы не выравниваем железо — мы выравниваем реальность: как превратить любой лазерный гравер в прецизионный фотоплоттер
Если вы хоть раз пытались сделать печатную плату сложнее «мигалки на светодиоде», вы знаете цену «геометрического ада».
ЛУТ (лазерно-утюжная технология) — это лотерея. Классический фотометод требует идеального шаблона, а профессиональный фотоплоттер стоит как подержанный автомобиль. Казалось бы, решение на поверхности: взять доступный китайский лазерный гравер за $100 и вперёд. Но тут начинается новый «ад»: оси изначально кривые, реальный шаг моторов живёт своей жизнью, а заготовка почти всегда лежит на столе с перекосом в пару градусов. Малейшее отклонение — и прецизионный Gerber превращается в бесполезный кусок текстолита.
Я решил эту проблему иначе. Зачем часами юстировать механику, если можно переложить всё на математику и нейросети?
Представляю LPP-Laser — флагманское направление открытой модульной платформы LPP (Linear Path Platform). Система не требует от станка совершенства. Она просто «натягивает» ваш проект на реальность.
https://habr.com/ru/articles/1051624/
Алгоритмы и Структуры данных
📣 Разместите рекламу в этом канале — её увидят
Аудитория Telegram остаётся активной, что бы ни говорили. Индекс читаемости это подтверждает: охваты каналов по тематикам держатся, люди продолжают читать.
Реклама в Telegram — это законно: ФАС в 2026 году официально подтвердил, что она разрешена.
👉 Заказать размещение в этом канале можно через Telega.in — с маркировкой и закрывающими документами, за пару минут.
Форматы и цены — по ссылке.
HyperLogLog: как найти уникальные значения в терабайте данных, не храня их
Представим задачу: хайлоад-сервис гонит поток данных — логи, IP-адреса, ID пользователей, миллиарды записей в сутки. Ваша задача — посчитать количество уникальных посетителей за неделю.
Первым решением может показаться завести HashSet и кидать туда ключи, а в конце посмотреть размер. Решение неплохое, но когда речь заходит о миллиардах записей — память будет слабым местом. Один IP-адрес (4 байта) как ключ в HashSet потянет за собой накладные расходы на ноды, указатели и хеши. На практике один элемент сжирает не меньше 50–100 байт. Поток в миллиард уникальных записей потребует под сотню гигабайт оперативной памяти. Это дорого, а если инстансов десять — то просто нереально.
Но существует алгоритм, который способен решить эту задачу примерно в 1.5 килобайта памяти с погрешностью около 2%? Без хранения самих данных и гигантских кластеров. Достаточно одного прохода по потоку и пары битовых трюков — именно так и работает HyperLogLog, алгоритм родом из математической статистики, который перевернул подход к подсчёту уникальности в Big Data.
https://habr.com/ru/companies/timeweb/articles/1046345/
Алгоритмы и Структуры данных
Ненормальное марковское программирование: бег по правилам
Продолжение. Начало здесь. Предыдущая часть. Репозиторий с кодом - на гитхабе.
(Сокращения: НАМ - нормальные алгорифмы Маркова, КТ - компайл-тайм, РТ - рантайм).
Следующая неприятность, которая нас ждёт, - это циклы, которые в КТ вовсе не циклы. Нам надо как-то научиться бегать по правилам, из которых состоит НАМ-программа.
https://habr.com/ru/articles/1049258/
Алгоритмы и Структуры данных
