topdatalab
Kanalga Telegram’da o‘tish
Канал поддержки книги «Как монетизировать данные». Работаю над corpsignals.com
Ko'proq ko'rsatish1 382
Obunachilar
-124 soatlar
+37 kun
+230 kun
Postlar arxiv
1 382
Как то так!
Google ADK агент на локальной модели.
Ты говоришь «Алекса…»
↓
LibreEcho записывает фразу
↓
Whisper → русский текст
↓
Google ADK ↔ Gemma 4
↓
Piper → русский голос
↓
Динамик LibreEcho
Google ADK
├─ Telegram ↔ тот же диалог
├─ API колонки → радио, свет, будильники
├─ Интернет → погода и поиск
├─ RAM → контекст разговора
└─ Диск → список покупок и трейсы
18 Noy, 12:34
1 382
На рынке все плохо с голосовыми помощниками, которые работают через LLM.
Alexa тупая как пробка :(
Я решил это исправить. Купил на барахолке Amazon Echo 2. Вскрыл корпус, припаял USB кабель.
Затем перепрошил на Libre Echo, пришлось использовать exploits, чтобы обновить. Все заработало кроме подключения к ChatGPT codex (поддерживается подписка).
Один из плюсов, это перейти на полностью локальные модели для такого помощника.
Демо Libre Echo https://dev.libreecho.org/demo/#overview
Сам проект и инструкция по прошивке https://github.com/aslater3/LibreEcho
17 Noy, 05:36
1 382
Попал в топ-100 текущего публичного рейтинга Kaggle в конкурсе агентов на базе Gemma 4. Три недели сжигал электричество и, кажется, не зря!
Суть конкурса: нужно собрать агента, который самостоятельно решает реальные задачи в репозиториях. Разбирается в чужом коде, исправляет баг или добавляет функциональность, сдаёт патч. Потом этот патч проверяют тестами. Просто написать убедительно выглядящий код недостаточно.
В открытом наборе 129 задач из FastAPI, Rich, Requests и HTTPX. Для тестирования используется Google ADK. В моём окружении контекст ограничен 32К токенов.
Можно использовать скиллы, субагентов, LoRA, то есть дообучать модель через адаптеры. В общем, простор для инженерных экспериментов.
Но есть нюанс: полный прогон модели 31B с квантованием в 4 бита на двух моих RTX 3090 занимает около пяти часов. Быстро проверить очередную прекрасную идею не получается.
Поэтому я поднял Telegram-бота, через которого мог запускать эксперименты с телефона. Теперь сжигать электричество можно было в любое время и из любого места.
Что меня впечатлило: за все эксперименты агент хотя бы раз решил 59 уникальных задач. Это не результат одного прогона. Сегодня задача решилась, завтра нет. Одну задачу вытаскивает один промпт, другую другой. Решения очень нестабильны, но сама возможность получить работающий патч от локальной модели довольно крутая.
Отдельная боль с автоматическим compaction, то есть сжатием истории при заполнении контекста. В моих прогонах доля успешных решений среди запусков со сжатием была примерно 30%, а без него около 60%. Правда, здесь нельзя всё списать на compaction: сложные задачи и сами по себе чаще заполняют контекст.
А вот что мне не очень понравилось: у меня всё в итоге свелось к подбору промпта и параметров генерации. Ни скиллы, ни LoRA, ни другие инженерные вещи, на которые я рассчитывал, заметного улучшения не дали.
Как разработчику мне это немного обидно. Хочется придумать работающий механизм, проверить гипотезу и понять, почему стало лучше. А получается: поменял формулировку, подождал пять часов, посмотрел на результат. Потом ещё раз.
Это немного напоминает старые Kaggle-соревнования с подгонкой под метрику. Только здесь ещё и нет понятного градиента, который подсказывает, куда двигать промпт. Иногда ощущение, что гадаешь на кофейной гуще. Для меня в этом есть что-то от читинга, хотя формально всё по правилам.
Но при всех этих оговорках результат меня впечатлил. Локальная модель с довольно жёсткими ограничениями уже может самостоятельно разобраться в чужом проекте, написать код и подготовить исправление, которое проходит тесты. Нестабильно, не всегда, но может.
И вот это, пожалуй, самое интересное, что я вынес из этих трёх недель.
[Ссылка на конкурс](https://www.kaggle.com/competitions/gemma-4-developer-agent/overview)
12 Noy, 06:01
1 382
А можно проще по Парето - теперь мое самое популярное сообщение для любой LLM.
Сделал, план, проси сделать проще. Написал код - проси сделать проще
03 Noy, 05:38
1 382
А чем вы пользуетесь для кодинга?
Я переключился на pi.dev месяц назад, теперь слезть не могу 🙂
Внутри использую Codex подписку, но Claude тоже можно завести через плагины.
Всю систему адаптировал для pet проекта:
1) сам pi.dev запущен через tmux на собственном домашнем сервере с GPU (локальные модели пока на использую)
2) поставил ряд плагинов pi-telegram, pi_websearch (ищет через Codex)
3) Codex собрал Harness - теперь pi.dev может ходить в базу через read-only аккаунт, или даже на прод сервер, чтобы смотреть логи docker
Что мне нравится:
1) Минимализм
2) нет привязки к провайдеру
3) telegram бот оказался очень удобен. Теперь я могу решать вопросы, когда мне удобно, а не искать комп
4) pi.dev может писать свои плагины для себя
Далее планирую подключить все это к Github, чтобы общаться не через бота, а через комментарии к PR и issues.
В качестве sandbox переключусь от tmux на Docker sandbox.
03 Noy, 05:27
1 382
Company brain сейчас очень модная тема. Как правило там есть memory агентов, которые документируют и обновляют память.
Но есть одна фундаментальная проблема с памятью такого типа. Каждое обновление памяти (например md файла) портит ее.
Представьте, что у вас есть агент который имеет точность 99% при обновлении.
Если сделать обновление данных 10 раз, то точность «первых» данных упадет до 90% (99% в 10 степени).
С другой стороны наш мозг тоже не заточен помнить все на 100 %. И мы что-то забываем и путаем.
Для бизнеса же нужна большая детерминированность результата. Для разработки это менее актуально, а для операций да.
Что думаете?
27 Okt, 07:33
1 382
Где в Англии решили регулировать рынок аренды
In a recent Manchester case, where the Landlord proposed raising the rent from £1,650 per calendar month to £1,700, the Tribunal found the open market rent was £1,450 per calendar month.
https://x.com/mtpennycook/status/2112571326850343320
23 Okt, 16:15
1 382
Звонок напрямую с Anthropic? Легко
Чем хорошо работать в Dwelly, что такие компании ищут сами возможность с нами пообщаться и даже поработать. Для них это кейс, для нас новые идеи.
Подключили их помогать нам в интеграции новых агенств. Работы очень много
23 Okt, 07:36
1 382
В октябре вышли последние из 5ти человек, кого я нанял к себе в команду.
Скоро еще будут вакансии, stay tuned
20 Okt, 13:39
1 382
Приехал на хакатон Dwelly в Лондоне чтобы оценить результаты команд для судей из Anthropic.
Через полтора часа выложу соревновательный датасет. Участники должны за полчаса прогнать своих агентов и дать результаты для оценки.
PS: участники нашли мое имя в github датасетов и стали коннектиться.
10 Okt, 10:04
1 382
Маленький лайфхак для вайб кодеров
"а можно было сделать проще по Парето?"
Ччасто убирает мелкую ненужную ерунду из проекта
08 Okt, 04:52
1 382
10 октября мы проводим онсайт хакатон в Лондоне с Anthropic, ElevenLabs, General Catalyst, EQT.
Мест уже нет 🙁
Как раз сейчас делаю задачи/датасеты под него.
Не такая простая задача, потому что можно зарядить мощную модель и она все сделает 🙂
https://www.dwelly.group/blog/london-ai-hackathon
02 Okt, 07:39
1 382
Проект живет сам, недавно зарегистрировалось 4 сотрудника Революта. Да и вообще финтех версия пошла, с импортерами/экспортерами не получилось
01 Okt, 19:09
1 382
pi.dev + Qwen3.8-27B-4bit (mlx) на M5 Max жрут батарею со скоростью 1%-2% в минуту
не поработать в самолете 🙁
не думал, что так все плохо
28 Sen, 05:36
1 382
взятка по британски
Your perspective as ........ at ..... would add useful context to the group we’re bringing together at Wembley on 4 September ahead of the Bon Jovi concert. The conversation will focus on what technology leaders are seeing across their teams. We’ll make sure the evening feels relaxed, with dinner and drinks before enjoying the concert together from our private box.
08 Sen, 10:37
