Марков цепи пропил
Открыть в Telegram
Больше
Страна не указанаКатегория не указана
3 427
Подписчики
-224 часа
+37 дней
+16530 дней
Загружаем данные
Похожие каналы
Нет данных
Возникли проблемы? Пожалуйста, обновите страницу или обратитесь к нашему support-менеджеру .
Облако тегов
Нет данных
Возникли проблемы? Пожалуйста, обновите страницу или обратитесь к нашему support-менеджеру .
Входящие и исходящие упоминания
---
---
---
---
---
---
Привлечение подписчиков
октябрь '26окт. '26
октябрь '26
+133
в 5 каналах
сентябрь '26
+244
в 3 каналах
Get PRO
август '26
+248
в 15 каналах
Get PRO
июль '26
+200
в 13 каналах
Get PRO
июнь '26
+114
в 1 каналах
Get PRO
май '26
+644
в 5 каналах
Get PRO
апрель '26
+414
в 3 каналах
Get PRO
март '26
+1 582
в 12 каналах
| Дата | Привлечение подписчиков | Упоминания | Каналы | |
| 21 октября | +16 | |||
| 20 октября | +2 | |||
| 19 октября | 0 | |||
| 18 октября | +1 | |||
| 17 октября | +2 | |||
| 16 октября | +3 | |||
| 15 октября | 0 | |||
| 14 октября | +2 | |||
| 13 октября | +3 | |||
| 12 октября | +1 | |||
| 11 октября | +3 | |||
| 10 октября | +2 | |||
| 09 октября | +12 | |||
| 08 октября | +37 | |||
| 07 октября | +13 | |||
| 06 октября | +28 | |||
| 05 октября | +2 | |||
| 04 октября | 0 | |||
| 03 октября | +1 | |||
| 02 октября | +2 | |||
| 01 октября | +3 |
Посты канала
https://emudhra.we-have-a-problem.com/
Люди начинают подозревать, что Паджиты интерпретируют фразу "384-bit key", как "число от 1 до 384"
| 2 | Daily reminder: обратная совместимость - твоя головная боль ровно до определённого количества пользователей
https://github.com/apple-oss-distributions/libmalloc/blob/libmalloc-812.100.31/src/malloc.c#L4066 | 3 317 |
| 3 | > be корпорации
> заменяем людей на эйай агентов
> косты -50%, акционеры кайфуют 📈
> уволенные идут на завод и в доставку
> зарплаты там падают
> никто не покупает наши услуги т.к денег нет у людей
> выручка падает
> увольняем ещё!!
> покупают ещё меньше
> агенты пашут 24/7 и жрут бабос
> бабос уходит трём челам с дата-центрами
> эти челы не купят 10 млн наших сикс севен сервис подписок
> каждый из нас действовал рационально
> но оказалось что есть НЮАНС | 1 478 |
| 4 | Слоп-сабмишены наконец-то достигли ревью на iclr | 2 957 |
| 5 | У меня есть гипотеза, что можно использовать Цукерберга как анти-Крамера в рамках рынка технологий
Весной 21-го начинает делать свой Clubhouse - социальное аудио вскоре умирает как явление
В октябре 21-го делает ставку на метавселенные - к лету 22-го рынок виртуальной земли падает на 97%
В марте 22-го обещает nft в инстаграме - к осени объём торгов nft падает на 97% с начала года
В августе 22-го выкладывает vr селфи - в том же году продажи vr-шлемов падают на 21%
----МЫ ЗДЕСЬ----
Осенью 26-го выкатывает Muse - Character.AI подаёт на банкротство | 3 654 |
| 6 | Недавно для себя открыл, что приём из CUDA C Best Practices работает и на чипах Apple
Ядро GPU держит сразу несколько SIMD-групп, и когда одна группа ждёт данные из памяти, ядро выполняет инструкции другой. Можно подумать, что чем больше групп на ядре, тем лучше, однако все группы делят между собой регистры и shared memory ядра, поэтому если групп становится слишком много, регистры перестают помещаться на ядре, и данные уходят в кэш. Этот трафик мешает кернелу загружать собственные данные, из-за чего ядро замедляется. Собственно, [приём] для CUDA заключается в том, что можно выделить кернелу shared memory больше, чем ему нужно - это приведет к уменьшению числа групп, и, как следствие, данные перестанут вытесняться.
До M3 на чипах Apple число групп ограничивали регистры, каждая группа сразу получала их под самый тяжёлый участок кернела. С M3 регистры выделяются по ходу работы, групп на ядро влезает больше, и чтобы их данные не вытесняли друг друга из кэша, Apple добавила блок, который называет occupancy manager (далее планировщик). На M3 и M4 он снижает число групп, когда из L1, общего для регистров, shared memory и кэша буферов, начинают вытесняться данные.
Но этот планировщик работает криво, потому что не снижает число групп, когда через L1 идут данные регистров. На умножении матрицы сразу на несколько токенов он держит 26-27 SIMD-групп на ядро, хотя быстрее всего кернел работает при 8-14. Такое умножение нужно для MTP, где модель набрасывает несколько следующих токенов и проверяет их за один проход.
Metal не даёт задать число групп вручную, но приём для CUDA можно заставить работать и здесь. Shared memory в Metal (threadgroup memory) выделяется сразу на одну или несколько SIMD-групп, и новые группы ядро не запускает, пока для их памяти нет места, поэтому лишняя память уменьшает число групп. Чтобы компилятор её не выкинул, в кернел добавляется запись в эту память, которая никогда не выполняется.
Лучшее число групп у разных матриц разное, в той же Qwen3.8 на 4 токенах умножение 5120×17408 быстрее всего при 10 группах, 17408×5120 при 24, а от типа квантования лучшее число меняется от 6 до 24. Я пытался вывести формулу по числу регистров, байтам на вес, объёму вычислений на байт и прочим переменным, но не вышло. По лучшей составной формуле кернел в среднем на 5-7% медленнее, чем с оптимумом, найденным перебором. К тому же на той же матрице при 16 группах трафика регистров уже нет, а умножение всё равно по скорости такое же, как и без ограничения (413 мкс против 418), и лучшее время в 349 мкс получается только при 10 группах. Что тормозит кернел между 16 и 10 группами, я так и не понял. Возможно, размер регистрового файла и другие константы чипа помогли бы разобраться, но Apple их не публикует. Поэтому для тестов в llama.cpp число групп подбирает тюнер, который в первые проходы генерации пробует для каждой матрицы вариант без лишней shared memory и несколько её объёмов от 2 до 32 КБ и оставляет самый быстрый, на это уходит около 2 секунд работы GPU.
На первой картинке время прохода четырёх моделей в llama.cpp без тюнера и с ним. У Qwen3.8-27B в Q4_K_M проход на 4 токена сокращается со 133 до 113 мс, на 5 со 177 до 127 мс, а у той же модели в Q6_K выигрыш доходит до 38% (на 1-3 токенах llama.cpp работает другим кернелом, которому ограничение не помогает, а на 6 выигрыш почти пропадает, там кернел считает токены двумя частями по 3).
На второй картинке то же умножение матрицы 5120×17408 в MLX. В f32 ограничение числа групп ускоряет его на 4 токенах с 374 до 288 мкс, правда в bf16, в котором MLX считает модели, выигрыш сильно меньше. Видимо, в bf16 кернелу нужно меньше регистров | 13 015 |
| 7 | Господа, позвольте представить вам европейские датацентры | 13 067 |
| 8 | Нет текста... | 4 718 |
| 9 | https://www.educate.elsevier.com/book/details/9780443439001 | 4 077 |
| 10 | Ладно, пойду траву потрогаю | 4 243 |
| 11 | В общем, забавный факт. Как мы знаем, у кварцевых часов есть погрешность, которой обычно можно пренебречь, но у каждого кристалла она своя.
В операционной системе есть TCP-часы, по которым считают задержку до собеседника, и, в отличие от системных, они должны расти монотонно, иначе получатель начнёт выкидывать свежие пакеты как старые. В 2005-м вышла статья [Remote Physical Device Fingerprinting]. Её авторы показали, что по таймстемпам из TCP можно удалённо посчитать погрешность часов и использовать её как отпечаток машины.
Первым делом они проверили, зависит ли погрешность от того, откуда машина подключена. Для этого взяли ноутбук и подключали его к одному и тому же серверу из разных мест: из дома на обоих побережьях США, из университета, из публичной библиотеки, через wifi, провод и модем. Часы ноутбука отставали примерно на 58 микросекунд за каждую секунду, и во всех местах оценки разошлись меньше чем на микросекунду в секунду. Следующий вопрос был, зависит ли результат от того, кто измеряет. Тот же ноутбук измеряли одновременно с машин по всему миру, от Калифорнии до Кембриджа и Сингапура, и цифры снова сошлись. Выбилась только машина в Индии, до которой пакет шёл туда-обратно больше 300 мс. Оставалось понять, отличаются ли между собой одинаковые компьютеры. В университетском компьютерном классе 38 дней мерили 69 машин с одинаковым железом и одинаковой Windows. У каждой погрешность держалась на своём уровне, и у разных машин она лежала в диапазоне от −6 до +49 микросекунд в секунду. Само по себе это не даёт уникального идентификатора, но вместе с другими признаками, в теории, помогает отслеживать устройство.
В статье есть мысль, которую авторы не довели до конца. Если на погрешность влияет температура, то по ней можно узнать что-то об окружении машины. Проверили это только мимоходом: летом перенесли ноутбук из серверной с кондиционером в комнату без него и разницы почти не увидели.
Стивен Мёрдок из Кембриджа [обнаружил влияние температуры случайно]. Он пытался улучшить результаты той самой статьи 2005-го и вытаскивал время из начальных номеров TCP-соединений, куда Linux подмешивает системные часы с точностью до микросекунды. Точность выросла настолько, что в измерениях проявился странный пик. По времени он примерно совпал с моментом, когда cron раскручивал жёсткий диск на тестовой машине, и, как следствие, появилась новая статья.
В 2006-м Мёрдок опубликовал работу [Hot or Not: Revealing Hidden Services by their Clock Skew], в ней шла речь о скрытых сервисах Tor. Годом раньше уже была атака, где ноду Tor вычисляли по тому, как у неё растёт задержка под нагрузкой, и против неё предложили изоляцию: каждому соединению фиксированная доля ресурсов. Мёрдок заметил, что изоляция не спасает - когда соединение простаивает, процессор меньше работает и остывает, а от температуры меняется частота кварца.
Он проверил это на приватной сети Tor - скрытый сервер два часа нагружали, скачивая с него файл на 10 МБ по анонимному каналу, потом два часа не трогали, а отдельная машина всё это время напрямую собирала с сервера TCP-таймстемпы. Температура менялась всего на 1–1.5 °C, но погрешность часов менялась синхронно с нагрузкой. Изменение было в доли микросекунды в секунду, как раз в тех пределах, которые в 2005-м сочли незначительными. Разглядеть его удалось, потому что Мёрдок вычитал постоянную погрешность и знал, когда именно сервер грелся.
Чтобы убедиться, что дело именно в температуре, машину отдельно грели снаружи, и перепады в 3 °C тоже читались по таймстемпам. Так же читался и суточный ход температуры в комнате. Короче говоря, догадка из статьи 2005-го подтвердилась, и по погрешности стало видно, что происходит вокруг машины.
В 2016-м в Linux [к TCP-таймстемпам стали прибавлять случайное число] в рамках одного соединения, чтобы по ним нельзя было следить за машиной и считать компьютеры за NAT. Разные соединения одной машины так уже не связать, но внутри одного длинного соединения часы идут с той же скоростью, и погрешность [в принципе еще можно посчитать] | 4 971 |
| 12 | "Я устал от корпорейт мемфиса и минималистичного дизайна, скорее бы этот тренд закончился" | 4 087 |
| 13 | Некоторое время аутирую над фингерпринтами, через которые ТСПУ может блокировать кастомные клиенты
Эта мысль пошла от новостей о блокировках snowflake по dtls [тык], и я задался вопросом "как еще go либы могут накладывать явный отпечаток на соединение".
Смысл в том, что dpi смотрит на вещи, которые идут открытым текстом на этапе рукопожатия - tls и dtls ClientHello, quic initial (формально он зашифрован, но ключ там выводится из версии и connection id). То есть де-факто для блокировки достаточно взять ClientHello, посчитать ja3/ja4 и сравнить со списком.
В истории с баном snowflake ровно так и вышло. Он тащит трафик через webrtc, и задумка была спрятаться в общей массе сервисов видеоконференций, но webrtc у него построен на pion, а pion собирает dtls clienthello не как браузер. Браузерный (да и в целом плюсовый) webrtc живет на boringssl, который тасует порядок расширений на каждом соединении. Pion же всегда шлет один и тот же набор в одном и том же порядке, и за счет этого цензор матчил ровно pion-овский dtls.
В общем, я решил поднять тестовый стенд, на котором гонял go-клиент рядом с полноценным хромом, и обнаружил другие потенциальные места, через которые можно отлететь в дальнейшем. Там в целом было много находок вроде того, что у crypto/tls - есть свой clienthello, у quic-go свой initial с go-шным tls, net.Dialer вообще врубает tcp keepalive, и клиент сыпет пустыми ack по таймеру, чего хром не делает. На фоне этого накидал [headless-client] для того чтобы мимикрировать go под хром. Пока либа сыровата, но основные моменты должна покрыть.
На самом деле немного тревожно от других находок, но, думаю, их можно закрыть со временем при должном уровне внимания/ресерча. Однако, боюсь, что на ближайшее время я выпаду из этой сферы по личным причинам (нужно сконцентрировать силы на другие вещи)
Пока что обновил wbp и добавил еще несколько новых фич. Релиз, как водится, [здесь], а обсуждение [тут] | 4 292 |
| 14 | Нет текста... | 5 360 |
| 15 | Эй, просыпайся, ну и долго же ты спал. Какие LLM? Какие агенты? Сейчас 2017-й, нас ждет хакатон, где мы представим pose estimation для йоги через openCV, и срубим миллионы венчурных денег | 6 328 |
| 16 | Ну наконец-то, три года откладывал этот щитпост | 5 009 |
| 17 | Счастливого финала, видимо, не будет. Ни reg.ru, ни касперскому, ни другим компаниям, видимо, нет дела до подобных атак. Но хотя бы докинул немного деталей про то, как этот вирус работает
https://habr.com/ru/articles/1076024/ | 5 961 |
| 18 | Я думал, что go нужен все же на бэке, а не на фронте | 6 838 |
| 19 | Буквально лучший поиск, один из самых быстрых дешвле соседей и с тем же качеством
keenable.ai - юзать отсюда и всем по 100к бесплатных поисков на месяц релиза
поддерижите в твиттере запуск
techcrunch | 4 113 |
| 20 | Ну, кстати, неиронично хорошая индексация, учитывая лоботомию нынешнего гугла | 3 919 |
