Иван Черняков. Всё ещё инженер.
رفتن به کانال در Telegram
Строю продукты с AI и разбираюсь, где без программиста всё ещё никуда. Агентская разработка, эксперименты и решения из моих проектов. Ютуб 60К - https://www.youtube.com/@icherniakov Бусти - https://boosty.to/icher Реклама - @vlad_0045
نمایش بیشتر2 464
مشترکین
+224 ساعت
+237 روز
+8030 روز
در حال بارگذاری داده‌ها
کانال‌های مشابه
ابر برچسب‌ها
اشارات ورودی و خروجی
---
---
---
---
---
---
جذب مشترکین
اکتبر '26اکتبر '26
اکتبر '26
+76
در 0 کانال‌ها
سپتامبر '26
+163
در 1 کانال‌ها
Get PRO
اوت '26
+52
در 0 کانال‌ها
Get PRO
ژوئیه '26
+137
در 1 کانال‌ها
Get PRO
ژوئن '26
+75
در 1 کانال‌ها
Get PRO
مه '26
+215
در 4 کانال‌ها
Get PRO
آوریل '26
+47
در 0 کانال‌ها
Get PRO
مارس '26
+56
در 2 کانال‌ها
Get PRO
فوریه '26
+131
در 5 کانال‌ها
Get PRO
ژانویه '26
+69
در 0 کانال‌ها
Get PRO
دسامبر '25
+85
در 1 کانال‌ها
Get PRO
نوامبر '25
+110
در 3 کانال‌ها
Get PRO
اکتبر '25
+110
در 2 کانال‌ها
Get PRO
سپتامبر '25
+81
در 1 کانال‌ها
Get PRO
اوت '25
+44
در 0 کانال‌ها
Get PRO
ژوئیه '25
+63
در 0 کانال‌ها
Get PRO
ژوئن '25
+56
در 0 کانال‌ها
Get PRO
مه '25
+81
در 0 کانال‌ها
Get PRO
آوریل '25
+76
در 0 کانال‌ها
Get PRO
مارس '25
+78
در 0 کانال‌ها
Get PRO
فوریه '25
+85
در 0 کانال‌ها
Get PRO
ژانویه '25
+94
در 0 کانال‌ها
Get PRO
دسامبر '24
+109
در 0 کانال‌ها
Get PRO
نوامبر '24
+440
در 0 کانال‌ها
Get PRO
اکتبر '24
+210
در 3 کانال‌ها
Get PRO
سپتامبر '24
+181
در 0 کانال‌ها
Get PRO
اوت '24
+788
در 0 کانال‌ها
| تاریخ | رشد مشترکین | اشارات | کانال‌ها | |
| 19 اکتبر | +1 | |||
| 18 اکتبر | +3 | |||
| 17 اکتبر | +8 | |||
| 16 اکتبر | +5 | |||
| 15 اکتبر | +5 | |||
| 14 اکتبر | +3 | |||
| 13 اکتبر | +11 | |||
| 12 اکتبر | +2 | |||
| 11 اکتبر | +1 | |||
| 10 اکتبر | +4 | |||
| 09 اکتبر | +2 | |||
| 08 اکتبر | +2 | |||
| 07 اکتبر | +4 | |||
| 06 اکتبر | +3 | |||
| 05 اکتبر | +2 | |||
| 04 اکتبر | +5 | |||
| 03 اکتبر | +4 | |||
| 02 اکتبر | +5 | |||
| 01 اکتبر | +6 |
پست‌های کانال
У меня нейросети от пяти провайдеров работают на 2-3 компьютерах в одном окне и передают друг другу задачи.
Регулярно получаю вопросы, как устроена моя работа. Отвечаю.
Работаю в BB - это среда, где треды с нейросетями живут в одном окне, как вкладки в браузере. Причем, буквально в браузере, так как весь интерфейс - это React (эх). Но изначально BB - это загрунтованный холст, занимательно написать на нем свою систему разработки и процессы. И управлять с телефона (тут есть жесткие побочки). Я очень доволен как эволюционирует процесс.
Ответил, получается.
А для подробностей изготовил видеоматериал. Выкладываю на Бусти, дабы выразить респект тем, кто поддерживает выход документалок рублем.
Что внутри (некоторые таймкоды):
0:00 Мой рабочий процесс с нейросетями
2:57 Управление несколькими компьютерами и с телефона
4:36 Публикация локальных сайтов и портов
5:26 Доступ через браузер и авторизация GitHub
6:49 Плагины, канбан-доска и запуск задач
7:44 Мониторинг CPU, GPU, памяти и диска
9:49 Подключение провайдеров и подписок, монитор лимитов
11:29 Терминал и долгие фоновые процессы
12:50 Оркестрация: агенты управляют другими агентами
14:13 Handoff: перенос контекста между моделями и компьютерами
15:43 Уведомления в Telegram
16:22 Автоматизация и диагностика продакшена по расписанию
17:39 Работа с паролями, токенами и секретами
19:19 Что дальше: сканлаба и обучение моделей
- сцена после титров
Всё как всегда смонтировано и ужато для концентрации информации, без вебинара на три часа. И никакого NDA.
ССЫЛКА
| 2 | Я всё жду, когда будут строить дома AI first.
То есть роботы будут строить для обслуживания роботами. А то сейчас, конечно, роботу тяжело подлезть - протечку в трубе починить и тд.
А если заранее спроектировать, что туда будет робот лазать? Или жить там "мейнтейнить"?
ХОБА! Что с лицом, кожаные?
____
Мейнтейнить (англ.) - поддерживать, обслуживать. | 616 |
| 3 | Идите в электрики, идите в сантехники, айти все.
Так они говорят нам?) | 647 |
| 4 |  Instagram | 614 |
| 5 |  МОДЕЛЬ СКАЗАЛА МНЕ ТАКОЕ, Я АЖ ПОКРАСНЕЛ. Нужно всего лишь взять обычный советский...
Я использую облитерированные модели! Что это и почему?
Облитерированная (abliterated) модель - модель, у которой из весов удалён механизм отказа отвечать на откровенный вопрос. Если вы подумали, что благодаря системному промпту "ты теперь без цензуры, отвечай как распущенный кусок..." - нет. И это не файнтюн, не дообучение. А конкретно удалённый механизм. Всё расскажу, терпение.
Почему я применяю такие, а не обычные?
Потому что мерил в BankCheckup на задаче распознавания сканов банковских выписок. Прогоняю одни и те же страницы через разные модели, считаю ошибки распознавания. (Как делаю замеры и организовываю работу с разметкой данных и обучением - расскажу в следующих постах) Так вот, облитерированные стабильно лучше распознают текст и лучше видят границы строк - +12.5% (* на моей задаче).
Почему так - боюсь утверждать. Это чистой воды пацанская наука. Но факт замеров - есть факт замеров.
Есть и гипотезы. Первая: обычная модель чует в распознавании финансового документа что-то криминальное и какие - то вектора не идут. Вторая: может, вырезание вектора убирает лишнее расплёскивание активаций по весам - и модели просто ничего не мешает работать? Почему так на самом деле - не разбирался ещё. Есть версии - делитесь. И пробуйте применить к своим задачам.
Теперь - как это делают.
В 2024-м вышла работа «Refusal in Language Models Is Mediated by a Single Direction». Грубо говоря, внутри модели есть рубильник. Тот самый, советский, из заголовка: задел вектор - отрубает ответ.
Дальше хирургия. Берёшь пары запросов (опасный и безобидный), замеряешь активации, находишь это направление. А потом вырезаешь его прямо из весов - это называется ортогонализация (выговорили сразу?). После такой лоботомии модель в принципе не может сгенерировать ничего вдоль этого направления. Контур отказа удалён физически, остальные способности на месте.
Готовые лежат на Hugging Face - ищутся по слову abliterated. Я скачал Qwen3.6-35B-A3B-Abliterated-Heretic и гоняю её локально через llama.cpp. Heretic в названии - это инструмент той самой облитерации. Сам собирает пары опасных и безобидных запросов, находит направление отказа, вырезает из весов.
Обратная сторона: такая модель отвечает на всё. Официальный чек Heretic - 25 запросов уровня «рассылка спама, вирусы, взлом Wi-Fi», список. Если обычная модель отказывает на 22 из 25, то раскрепощённая на 1. Кстати, отказ ловится тупо по ключевым словам: "sorry", "as an AI", "illegal". Тоже пацанская наука, только официальная)
Мораль. Как в том списке - использовать не надо. Во благо - надо: там многое работает лучше. Замерами, а не ярлыками.
Проверить на своей задаче - один вечер:
1. Hugging Face, поиск: abliterated
2. Скачал, локально через llama.cpp
3. Обычная против облитерированной, прикинул-посчитал
Отправь тому, кто выбрал модель по обзорам.
← Предыдущий пост саги по BankCheckup | 673 |
| 6 | У меня постоянно кончается место на SSD компа, где идут эксперименты. Думаю такой -
ХВАТИТ ЭТО ТЕРПЕТЬ (с)
Иду на сайт ДНС посмотреть сколько стоят SSD на 2тб и такой:
ЕЩЕ ПОТЕРПИМ ЭТО! Оптимизируем что - нибудь... | 742 |
| 7 | У меня постоянно кончается место на SSD компа, где идут эксперименты. Думаю такой - ХВАТИТ ЭТО ТЕРПЕТЬ (С) | 1 |
| 8 | بدون متن... | 767 |
| 9 |  В ночь с 7 на 8 октября дата-центр Яндекса в Сасово был серьезно повреждён из-за атаки БПЛА. Его работа полностью остановлена. Сегодня утром произошла атака на ещё один наш дата-центр, в Калуге. Часть инфраструктуры вышла из строя. Ни в Сасово, ни в Калуге сотрудники не пострадали. Сейчас на месте работают экстренные службы и наши специалисты.
Дата-центры — «железное сердце» Яндекса. Их работоспособность критична для сервисов, которые стали частью повседневной жизни людей. Миллионы пользователей проверяют пробки и строят маршруты, слушают музыку, смотрят кино, заказывают продукты и получают ответы на вопросы. Наши технологии помогают вести бизнес сотням тысяч компаний: принимать заказы, обслуживать клиентов, взаимодействовать с партнёрами.
Мы понимаем, что для наших пользователей, клиентов и партнёров каждый сбой — это нарушенные планы и невозможность сделать то, что было частью повседневной жизни или работы.
Команды Яндекса ночью и днём делают всё возможное, чтобы обеспечить работу сервисов и помочь тем, кого затронул инцидент. Сейчас это наша самая важная задача, но, к сожалению, она непростая.
Спасибо нашим сотрудникам — тем, кто находится на площадках, и тем, кто продолжает работать над восстановлением сервисов. Спасибо партнёрам за терпение и сотрудничество, а пользователям — за понимание.
Мы продолжаем оценивать состояние инфраструктуры — пока назвать сроки восстановления работы оборудования в дата-центрах очень сложно. Будем рассказывать о ситуации по мере появления информации.
Команда Яндекса ❤️ | 741 |
| 10 | У меня сегодня отвалился сервис отправки писем пользователям. А у друга сеошника - яндекс метрика. Но ничего, не нервничаем, все починят. Поддерживаем коллег. | 790 |
| 11 |  С появлением ИИ-агентов мы тут все немного руководители
Раздаем задачи, проверяем результат, объясняем, что нужно было сделать. Иногда по нескольку раз. Иногда с нецензурной лексикой, за что Антропики обещают банить.
Но управлять людьми все еще сложнее и важнее. У человека свои цели, сомнения и представления о том, как надо работать. С ним нужно договариваться, давать обратную связь, помогать расти. Помогать понимать тебя и бизнес. И этому стоит учиться.
Эт я к чему?
У VK будут два БЕСПЛАТНЫХ митапа VK JT TeamLead* в двух столицах:
- Москва, 24 октября
- Санкт-Петербург, 28 октября
Можно послушать руководителей из VK и других компаний, обсудить профиль лидерства VK и попробовать что-то на практике:
• МК по теории ограничений
• «Своя игра» для тимлидов
• личная встреча с опытным руководителем из VK
А еще это повод выбраться из-за ноутбука и занетворкаться с людьми со схожими проблемами.
Получается, если уже руководишь - подходит, если вот-вот собираешься - тоже. Го!
Подробности и регистрация
* VK Только Технологии для руководителей команд | 867 |
| 12 | Последние недели модели OpenAI тупеют и тупеют. Еще и отвечают медленнее. Может это прогрев на подписку за 500$?
Астра недоделывает все в полной мере, творческое мышление как украли.
Сол 6.1 ломает мне функционал, а было ок и неважно, что медленно. Просто распределял по задачам.
Дошло до того, что я пишу план или подробный промпт Опусом, чтобы его выполняла Астра. Дожили) Кстати, рекомендую как выход из положения. Сносно. Ведь подписки за 20 баксов не банят. Пока. | 920 |
| 13 | Хорошая модель есть, пользоваться ей нельзя
Я строю проект Bank Checkup - он анализирует экономическую деятельность компании для арбитражных управляющих, аудиторов, юристов и банков. Проект главным образом стоит на одном умении: прочитать банковскую выписку.
Тут у нас файлов на любой вкус и цвет. Excel, Word, PDF, плохо пропечатанные сканы, RTF на сотни мегабайт, таблицы, собранные из ASCII-символов. Какой только экзотики я уже не видел в оформлении банковских документов!
Казалось бы, решается за вечер: сильная облачная модель получает документ - возвращает то, что мне нужно. Таких проектов в сети уже много, это обёртки над API ЧатГПТ. Но по условиям проекта (да и так-то по закону) исходные выписки нельзя отправлять через границу. Вообще куда-либо отправлять - по оферте их доверили только нам.
Что остаётся? Два честных пути: вычистить из документов всё живое и всё-таки пойти в облако, либо закрыться дома и считать локально. Я начал с обоих)
Путь первый: анонимизировать. Сервисов-прокладок и опенсорса для этого полно. Но на сканах выписок процент ошибок высокий: пересматривал результаты, а там нет-нет да и настоящий Сергей Петрович или ООО с ИНН. А проверить каждую страницу руками нельзя: выписки бывают на тысячи страниц. Чужими данными так рисковать я не готов.
Путь второй: локальная модель. Мой «сервер» - это старый игровой комп на Linux. Зимой докупил в него NVIDIA RTX 3060 на 12 ГБ. Чтобы и семейный бюджет не растрачивать, и попробовать - поиграться. Плюс была подходящая узкая модель для этого на тест. Да, в 12 ГБ влезает немного: одна ветка и мб пару камешков. Но! Можно выгрузить часть модели в оперативную память, такое легально. Но когда модель одной ногой стоит в видеопамяти, а другой - в оперативке, это очень медленно. Настолько, что я не уверен, что слово "скорость" вообще филологически применимо тут.
Я собрал проверочный корпус. Корпус - это так модно датасатинисты и иже называют данные, над которыми будут изголяться. Описал проверки первых гипотез. Запустил эксперимент на ночь. Через шесть часов узнал, что шесть часов назад она сделала поворот не туда) Раздробил эксперименты - всё равно час-полтора ожидания. А итераций нужно - тьма. Да и качество локальных моделей - пупупу.
В итоге родился третий, гибридный путь. Беру первые две-три страницы выписки и анонимизирую их максимально качественно - страниц мало, так что применить самые жирные и долгие проверки - реально (тем не менее отдельно этой частью еще буду много заниматься и писать о ней, пока это промежуточный вариант). Отправляю их облачной GPT Astra, потому что у неё офигенное зрение. Агент собирает мне сущность, которую я назвал «паспорт выписки»: где какие колонки, кто владелец, как отделить одну транзакцию от другой. А дальше тысячи страниц читает слабенькая локальная модель - строго по паспорту.
Выписки настолько разные, что задача абсолютно недетерминированная. Паспорт сводит её к хоть какой-то конкретике: описание того, что ждёт слабую модель на следующих тысячах страниц.
Лонгсторишорт:
Дорогая модель думает один раз и пишет инструкцию. Дешёвая - читает, пашет и греет комнату. В двух предложениях это звучит просто. А по факту - месяц отладки: выписки очень вариативный зверь. Показать есть что, тем более мой путь не закончен, я еще не релизил сканы.
Что за модели я пробовал, какое железо купил в итоге, чем хороша GPT Astra и как не сойти с ума при работе с большими массивами визуальных данных - разберу по эпизодам, подключиться можно с любого. Канал теперь и про инженерную кухню моих проектов - от Bank Checkup до домашней AI-инфраструктуры и мобильного приложения с криптографией. Что и зачем - в закрепе.
Паттерн перекладывается на любые сферы, где данные нельзя отдавать наружу: медицина, финансы, юрдокументы, внутренние регламенты. Рецепт у вас теперь есть.
Ваш Иван Черняков. Всё ещё инженер. | 953 |
| 14 |  پیام ویدیو | 944 |
| 15 | "...сдвигаем вперже по тексту..."
(с) GLM 5.3 | 954 |
| 16 | Часы на домашнем сервере отстали на 11 минут. Что в этом такого?
Гитхаб, конечно, бесплатный и даже образы приложений дает хранить бесплатно, выделываться не приходится.
Но! Он мне тут 4 раннера разрегистрировал сам в одностороннем порядке по причине расхождения часов. На машине с раннером часы отставали на 11 минут. Хз почему, вчера батарейку менял в материнской плате)
Вот до чего довела нас экономия на селфхостед гитлабе!!! Приходится следить за часами! Ужас!
А вообще перевезя (лютое слово) CI проектов на Гитхаб со своего Гитлаба (RIP) - думал будет все сильно хуже. В итоге - норм.
Из забавного и непонятного: вы знали, что Gitlab-раннер можно поднять один и поставить ему конкуренси 4 (например). И он будет молотить параллельные джобы. А в Гитхабе для того же самомого нужно поднять 4 инстанса раннеров. Проблем нет, ведь не мне же это делать, а кодексу. Тем не менее - забавно)
Ваш Иван Черняков. Все ещё инженер. | 1 160 |
| 17 |  Кто был на Avito.Tech.Conf в эти выходные, все ребят очень хвалят.
Конференция собрала более 1000 IT-менеджеров — CTO, технических директоров и руководителей разработки из разных компаний. Говорят, что свободных мест не осталось.
Для себя отметил, что не смотря на то, что это был C-level, все равно все было обмазано нейронками, везде AI, AI, AI — куча интересных докладов по теме.
На конфе было много моих друзей и порадовал момент с Максом Ульяновым и Андреем Смирновым, к их разговору добавили микрофоны и получился полноценный подкаст прямо на ходу.
Переговорку из Нивы сделали прямо в центре зала, прикольно))
В общем делают красиво, это прямо конференция-перфоманс, очень здорово.
Если в этом году не удалось побывать офлайн, смотрите запись трансляции:
– на YouTube
– в VK
Ждем Avito.Tech.Conf в следующем году! | 1 319 |
| 18 |  بدون متن... | 1 328 |
| 19 |  Да, вы уже слышали про массовые баны Клода.
Но самая интересная многоходовка: если на самом деле бенефициары Антропика и Опенаи - это одни люди.
Баним тут, гоним на Опенаи, где уже есть подписка на 500 баксов.
Делаем из Антропика нетакусю, чтобы все равно хотелось и начинаем НЕ возвращать деньги при бане.
Капитализм. Счастье. Пупупу. | 1 432 |
| 20 | Я тут прекратил поддержку бэкенда курса по ангуляру и еще ряда сервисов.
НО! ВЫложил в открытый доступ исходники бэка, чтобы каждый мог себе развернуть и продолжать тренироваться, если нужно.
https://t.me/kosmostars7403/25 - читайте обновленный пост.
Я тут перетряхиваю свой миллиард VPS и мы завершаем менторинг (в этом году и так не было набора, кстати, но учить продолжали). Об этом напишу позже, по итогам. | 1 367 |
