ml.log | AI, ML & MLOps
Ir al canal en Telegram
Честно про ML, данные и продакшн-код. Разборы собеседований, архитектура и живые кейсы без идеализаций
Mostrar más2 506
Suscriptores
Sin datos24 horas
-17 días
+1730 días
Archivo de publicaciones
ggmlR: Vulkan GPU-бэкенд для R
В последнее время у всех, кто работает с ML, один и тот же рефлекс: хочешь GPU, ставь CUDA, Python и PyTorch. А если ты R-аналитик, то ещё и ищи, как всё это подружить с твоим кодом. Задача выполнима, но на практике это обычно плясать с бубном вокруг драйверов, окружений и версий.
Поэтому был создан ggmlR: нативный GPU-бэкенд для R на базе GGML и Vulkan. Без CUDA, ROCm, Python, PyTorch и TensorFlow. Vulkan работает на AMD, NVIDIA и Intel. На Data Fest 2026 @Zabis13 рассказал, что из этого получилось.
В докладе:
- llamaR, порт llama.cpp, выдаёт 22 токена в секунду против 24 у эталона. Для R-пакета это вполне достойно.
- sd2R генерирует картинки через Stable Diffusion и Flux, и всё это прямо из R. Есть даже Shiny-интерфейс, чтобы не мучить консоль.
- Инференс ONNX-моделей на GPU идёт в десятки раз быстрее, чем на CPU.
В планах развитие экосистемы R🚀
https://www.youtube.com/watch?v=pS-mAmCgUEk
#R #Vulkan #GPU #DataFest
Хоть я и не фанат R, но тут @Zabis13 сделал так, чтобы R-аналитики не мучились с CUDA и связками сред, а получали нормальную скорость на Vulkan из коробки - очень круто
⚡️ Как Asana уронила косты на браузерного агента в 76 раз
Запустить браузерного агента в демке весело, пока в конце месяца не прилетает счет за токены на $50k. Asana поделилась техническими деталями продакшн-внедрения своего браузерного ассистента поверх моделей OpenAI в среде Codex.
🧠 За счет чего срезали косты и ускорили инференс в 5 раз:
• Отказ от сырого DOM: передача сырого HTML страницы в контекст сжигает токены со скоростью света. Asana перешла на сжатые деревья доступности (Accessibility Trees) с жестким отсевом невидимых элементов.
• Специализация моделей: вместо прогона всей логики через флагманские тяжелые LLM рутинные действия по кликам и заполнению форм отдаются легковесным специализированным моделям (Sol / Astra), а планирование остается на мастере.
• Кэширование промежуточных состояний: агрессивное кэширование префиксов промптов, снизившее время отклика на каждом шаге взаимодействия с веб-страницей.
📊 Итог:
• Стоимость выполнения сценария упала в 76 раз.
• Скорость выполнения тестов выросла в 5 раз.
💡 Мысли для прода:
Главный урок для всех, кто пилит агентов: контекст — это самое узкое место. Очистка входных данных до минимально достаточного графа действий окупается кратно.
🔗 Ссылки:
• Разбор в блоге: openai.com/index/asana-browser-agent
#openai #agents #production #optimization #architecture
Только что со мной история произошла
Заходит клиент в бюро переводов, оформляет заказ, долго расспрашивает про сроки, потом спрашивает:
— А вы ЧатГПТ пользуетесь? Я тут дома сам через него прогнал текст, вроде норм перевел. Может, вы просто этот вариант проверите и правочки внесете? Ну, чтобы побыстрее было 🤣🤣🤣
У девушки там вся жизнь перед глазами пронеслась
Сберлога → ml.log🚀
6 лет для IT-сообщества — это целая жизнь.
Все началось в далеком 2020-м. Тогда «Сберлога» была просто маленьким чатиком на несколько человек. Мы были коллегами по DS в Сбере и просто договаривались там о совместных обедах 🍕
Но аппетит (в хорошем смысле) рос. Постепенно обсуждение работы по время еды сменилось совместным прохождением курсов, участием в соревнованиях, лекциями и бесконечными спорами о том, как делать правильный ML. Со временем вокруг «Сберлоги» выросла целая экосистема: отдельные группы по интересам, чаты по графам, данным, вакансиям и даже спорту.
Почему пора что-то менять?
Название «Сберлога» всегда несло в себе ДНК Сбера. Это была классная история, но жизнь идет: за эти 6 лет сообщество вышло далеко за пределы одной компании. Иронично, но почти никто из тех, кто ходил на те самые первые обеды, уже давно не работает в Сбере (ну я то давно уже не там, но некоторые все еще 👍)
Мы выросли, разъехались по разным компаниям и странам, но остались вместе. Пришло время привести форму в соответствие с содержанием.
Встречайте ml.log 😁
