Минималистик🧀
رفتن به کانال در Telegram
Ну типа типа боже чел типа 2к24
نمایش بیشترکشور مشخص نشده استدسته بندی مشخص نشده است
620
مشترکین
اطلاعاتی وجود ندارد24 ساعت
+17 روز
+130 روز
آرشیو پست ها
Марти Суприм! Марти Суприм! Это мой эдит Марти Суприм! Мне тоже все равно на театр и балет бро!
> ты миддл+ ру айтишник с зп 3-5кк в год
> самая важная вещь в твоей жизни это покупка компьютерного стула с поддержкой поясницы
> сходил на хакатон от Альфа-Банка, не вошёл в призёры, часть твоего решения спизиди в инфру, а тебе дали чашку и блокнот
> в 22 года получил первую анальную трещину от постоянного сидения
> к 25 годам не умеешь нормально готовить и чинить вещи дома
> пытаешься познакомиться с девушками из области: они такие умные и интересные, а за спиной срут тебя, потому что ты не мужик и не можешь закрывать их базовые потребности миллионом в месяц
> из за стресса дофаминмаксишься на всю котлету без сбережений
> на работе запускаешь скрипты кодов из интернета, друзьям говоришь про эйай, они кивают, ты гордишься
> пытаешь сделать увлечения и жизнь максимально нишевыми, чтобы разгрузиться от работы, но по итогу как и все слушаешь тёмного принца и ходишь в читтерс, а по ночам аккумулируешь стресс в будущий рак поджелудочной
> надеешься купить хоть какую нибудь недвижимость в Москве, но годовая прибавка меньше инфляции, и через несколько лет ты станешь либо бомжом либо в кабале
> мечтаешь однажды получать 7-10кк в год тим лидом в сбере, но там тим лиды проросли корнями в грунт под кутузой и на их места уже 100 человек, а если и будут искать, то возьмут не тебя, а чувака с дипломом скиллфактори по эйай агентам
——————————————-
> ты обычный здоровый сибиряк и сразу после школы записался на курсы по управлению дронами от государства
> попробовал себя на Dron-Cone, смог войти лишь в топ 50 команд, заработал 300к, этого хватило на комфортный переезд в Москву на первые 5 месяцев
> ушёл из шараги и пошел в сталинских соколов, за первый год заработал 8кк рублей с федеральными выплатами, половину отдал родителям, на вторую половину купил квартиру в ипотеку под 2% около ттк, ее решил сдавать, сам ушел на второй год
> за второй с помощью грантов и должности старшего авионика получил 10кк рублей, купил вторую квартиру в ипотеку около Давыдково
> сегодня выезжал на полевые, в одной из деревень встретился с девочкой, написал маме в максе: «я похоже того, влюбился. денег не надо, все сам», родители счастливы за тебя
> с оставшихся денег вложился во франшизу серф и стабильно получаешь на первых этапах 500к в месяц с квартиры и кафешки
> каждый день бегаешь, строишь дачу, не заходишь в интернет и не слушаешь музыку, не ебешь что такое айти и как это может сделать твою и так прекрасную жизнь лучше
> третий год, ты командир расчёта, стабильно можешь получать 15кк в год + кафе, ты закрыл обе ипотеки и достроил дачу, арендовал часть леса и свой заход в озеро, думаешь, что пора прекращать работать, 3 года это много, пора начинать жить для себя
> познакомился с парнями твоего возраста, пошли в клуб клуб, после получаса текилы они сказали, что ты неправильно живёшь, ты не понял о чем они, потом они начали плакать и просить занять денег на какой то компьют, потому что если они не смогут гонять свои локальные бенчмарки по новым моделям - то их жизнь кончена, ты дал денег просто так и пригласил к себе домой в баню, надеешься, что им будет лучше
Tier (Super Supreme Nigger):
Дензел Вашингтон - справедливый негр, негро-отец, собирательный образ лучшего негра на планете земля, снимается редко и все бенгер - два оскара, один из них за коп-муви, номинаций больше, чем у всех здесь вместе, крч это лучший негропак который можно залутать
Tier (Le Supero del Negro):
Уилл Смит - наглый негр из кассовых фильмов либо драматический негр отец, сейчас похоже больше на какую-то фигню у задней стенки холодильника, но в общем достаточно виральный, все его знают, молодец
Джейми Фокс - самый стильный негр на деревне и музыкант, а снимается для души, бля дайте ему сыграть трагичную судьбу (любую судьбу) черного музыканта и это инста оскар
Махершалла Али - ну блин ну неказистый негр какой-то, как будто его маской в тиктоке по частям собрали, вот такой вот негр новой школы, но тут как бы факт что чел играет в заслуженно крутых фильмах плюс реп как его после лунного света братки не загрызли
Tier (Afro-Americans):
Сэм Л Джексон - вы только посмотрите на этого самодовольного нигера, чел штапмпует по 5-6 фильмов в год, которые только на нем и держатся, диапазон любого крутого авторитетного негра - типа тренер по баскетболу
Лоуренс Фишборн - finnally негр-индус! ладно ладно ну вот он такой типа негр начальник негр вышибала, как батин подзатылник - жесткий но за дело, огромный потенциал залитый в джона уика, а вы знали что киану ривз однажды пожертвовал в фонд забытых дубайских котят свое сердце сел на свой байк проехал 100 метров и умер?
Джеффри Райт - абстрактный негр для нетакусь, в 90ых выглядел как асап роки а сейчас как николай василенко из питсбурга, подшарил за линча и постиронию
Майкл Кей и Джордан Пил - универсальные негры, которые очень хорошо разбираются в кино, то есть я не верю что они вытянут главную роль, но в суппорте они лучшие
Tier (Black):
Морган Фримен - ну чел всю жизнь играет старого доброго седого негра, и всем в целом ок? а ниче что он в кино начал играть типа в 100 с чем то, ну тут крч за выслугу лет
Эдди Мерфи - смешной негр из 80ых, может сыграть условно любого другого негра за что ща оскар дают, блиин меня угнетали и тд
Майкл Б Джордан - ну типа такой уличный негр, негр забияка со сложным детством, что в пантере что в криде, сейчас за такое оскар только посмертно. кст почему почти все негры играли в эпизодах сериала Обмани Меня, они что врут?
Джон Д Вашингтон - чзх негр пакистанец? крч сын справедливого негра, а вам не кажется что он русский ну по вайбу? такой типа модник продукт менеджер из Саранска? и за аб тесты подшарил и к барберу сходил
Уэсли Снайпс - зловещий негр
Форест Уитакер - негр с птср
Tier KF(C):
Майкл Дункан - здоровеенный негр, играл в лютейшем кале здоровеенного негра, но если бы не джекпот из зеленой мили то это тир D
Идрис Эльба - типа чеее таинственный негр? вы офигеете но это Хеймдаль, а там были вообще другие роли кроме отряда самоубийц где он играет стрелка и темной башни где он играет стрелка и ковбойского кино где он играет стрелка? почему я вообще должен его знать?
Джанкарло Эспозито - такой злодейский негр кукловод, я знаю, что он сериальный негр, но я просто не смотрю сериалы - знаю что многим нравится метаверс брейкинг бэд ну типа злой властный негр? а мотивация какая? бугугага?
Мартин Лоуренс - смешной негр из нулевых который играет копов с моральным выбором в конце
Tier (D):
Крис Такер - смешной негр из 90ых, ну это как давать оскар джеки чану за КИЯ
Чедвик Боузман - сериальный негр нулевых, далее самый первый негр на деревне, далее мертвый негр. Тут его слава выпала на повесточку, но ветер поменялся
Кевин Харт - маленький негр друг маои (Дуэйн Джонсон если че не негр а умпалумпа намамбил полный океан вкусов)
Энтони Андерсон - негр друг белого главного героя, вы не поверите, но ему 55, ставь класс если прослезился
Терри Крюс - сисястый негр для негейских разборок, где всем надо рвать на себе майки
Тайриз Гибсон - ну какой то проблемный подростковый негр, который винит всех кроме себя с моралью уровня ом эм меня в школе учитель по труду назвал сникерсом и тогда я угнал первый шевролет
Оказывается недавно был оскар, из интересного фильм Грешники выбил 16 номинаций, что больше, чем в Титанике ну типа в титанике символе кино, и Все о Еве, ну типа фильма 40ых где был всего один фильм в год со всеми лучшими актерами и ему просто либо давали оскар либо говорили ну блин ну давайте в сл вы просто ченибудь другое сыграете, так Грешники ещё и 4 Оскара взяли, втч за лучшую мужскую роль, фильм я не смотрел и не буду, так как мои вкусы и америкосов разошлись где-то перед ковидом, то есть единственный фильмом в этом году выше 8 это Формула 1 и оскар дали только за звук? ну это даже оскорбительно как то, это как Грэмми за танцы в клипе, а что Брэд Пит говорил про сво? Может на его фильм отобрали только слепых критиков?
Короче, про Грешников, я посмотрел каст и мне кажется что это самый слабый негро ориентированный фильм эвер, что такое негрофильм? Это когда один негр собирает других негров в фильме, потом костяк этого каста перекупается другой студией, например как фильм Прочь и Чёрный Мессия.
Я сделал тир лист негро актеров в погоне за Оскаром и мне кажется нет ни одного негро фильма, где оскар вытягивал всего лишь один негр категории B.
И еще одно, если вдруг канал Душный ЭнЭльПэ сделает какой-либо нейро-обзор на Dflash без моего участия, я лично сделаю таро расклад на их смм-щика, и где бы он не был Ереван/Дубай/Белград, его бейджик будет работать только в Чижике и только на молочку, я не шучу.
Крч это мой последний пост про Dflash, а то это как эти каналы, где постоянно обсасывают какие то темы типа бейджиков яндекса либо шад, либо а помните я тот самый мужик у которого приняли статью на Нипс 2014, а помните я Басота и выступал на версусе против Драго, но вы все меня уже забыли - поставь лайк и я куплю себе батон колбасы!
Всем спасибо за реакции!
Крч апдейт по ситуации, наплыв аж трех пиаров в сутки summoned мейнтейнера vllm. Он закрыл остальные реализации с сылкой на мою, меня типа похвалил, но решил в итоге написать сам, но сделал мне следующее предложение: либо я доказываю ему, что мой код лучше, чем его - и он вливает мою ветку, либо сам закрываю пиар (мразь какая) и я могу помочь ему решить проблемы, о которых я написал ниже в пункте "Проблемы?". Дэээмн ну я посмотрел его код - ну чел хорош, ну мейнтейнер, сколько их там таких 13? 20? Короче блин ну я хз, там типа чел за это бабки как бы получает, ок давайте голосовалку сделаю.
👍 - показать америкосу где раки зимуют
🍓- продать родину за жвачку
Ниже тех-обзор Dflash (можно скипать тк без шуток)
1. Поступает prefix длины N в таргет модель который выдает K hidden_states (в статье 3, в реале 5) для каждого токена.
2. [prefix|mask, mask, mask, ...]
Эта часть как бы становится условием (префиксом) для генерации драфт модели, там есть еще сжатие, ну тут в целом на это пофиг, к префиксу добавляются masked токены, которые мы и предсказываем
3. Архитектура Dflash это Qwen3, где все атеншн слои неказуальные (а есть нормальная для этого руссификация? двунаправленные? двуголовые? самодержавные? полные?) ну типа все видят всех. Ну и как обычно мы получаем логиты mask переводим в токены, подаем в таргет модель, она их проверяет - ВСЁ.
4. Пайп:
Prefill: (92, hidden) + (8, hidden) -> допустим приняли 3, 92 в кэш
Decode: (cache) + (3, hidden) + (8, hidden) -> допустим 5 приняли, 3 в кэш
Decode: (cache) + (5, hidden) + (8, hidden) -> 1 принял, 5 в кэш
5. Проблемы?
5.1. [prefix|q+mask], q_kv_layer_1 = h(q|mask)
Коцептуальная: В dflash для каждого токена будет 5 пар кэша. Добавляя в кэш принятые токены (Decode), они считаются с масками следующих токенов. А что если эти mask токены будут неприняты? Так как в КАЗУАЛЬНОМ атеншне все токены влияют на всех, на кэш принятых токенов будут влиять потенциально неприятые, и тогда, по факту, мы будем запоминать несуществующие продолжения текста. По-хорошему, решение тут зверское - каждый раз заново прогонять весь префикс, но это уронит все... ну крч работает и збс (но не на длинных предложениях)
5.2. _vllm_fa2_C no masks support
Техническая: В целом этот вопрос касается паддингов и оптимальности системы инференса. Условно для спекулятивного декодинга промпты в батче могут находиться в 4 состониях и разной стоимости операций: закончился (надо удалить) , только поступил (префилл) , драфт и верификация, в vllm есть планировщик, который может выстроить нормально этот процес. Ну и для этого делаются паддинги для промптов разной длины, чтобы для бекенда модели они были как бы независимы (грубо говоря). Пример для dflash: для 1 промпта приняли 1/2, для 2 промпта 2/2
[prefix|q1, mask1, mask2, PAD] <- нужно тут PAD
[prefix|q1, q2, mask1, mask2]
Почему это не работает для НЕКАЗУАЛЬНОГО (чзх) ВНИМАНИЯ! - ну вот не поддержано, вообще flash attention работает только в трех режимах - лесенка (casual) , фулл атеншн (non-casual) и виндоу - сишному бекенду не подаются маски, а подаются только q/k длины, через которые невозможно описать ситуацию паддингов, почему это работает с Eagle 1/2/3? Потому что PAD в конце и он никак не влияет на предыдущие состояния токенов, мы что миллионеры? ну да - для PAD токенов тоже посчитаем да и выкинем.
A Bert? Ну вот другой тип инференса Pooling/Embedding крч тут я хэзэ? ахах ну еще, потому что там реальные [PAD] токены))
Минусы такие, что если мы не можем задавать маску, сделовательно не можем использовать паддинги, следовательно должны хранить все шейпы длины в каком то едином ragged тензоре типа:
[q1 dradt1 draft2 | q2 draft1 | q3 | ... ],
где нельзя уже ассинхронно поддерживать все состояния, мы должны ждать конца каждой операции, каждый раз обновлять этот тензор из метадаты и только тогда запускать следующий шаг, что иногда очень дорого. Но для Dflash - норм. Ну и тк нет фиксированных размеров - без куда графов, либо каждый шаг это фолбэк до жадной реализации.
Так! Вот код Dflash vllm для гпу, но, возможно, у меня подрезали код (пруфов нет только конспирология, но тут есть и часть моей вины от безусловного хорошего отношения к людям). Те кто там чета ускоряют у себя на работах лллмки там основанные на квене - можно прям сразу же использовать, для других моделей чуть чуть поменять файлы моделей.
❗️Плиз поставьте там лайк коммент на пиар, чтобы мой влили, а то все идёт к противоположному…
🚀НА БАТЧЕ 64 СПИДАП х1.6 к AR и х1.25 к Иглу3 Qwen3-8B 🚀
https://github.com/vllm-project/vllm/pull/36767
то что там много коммитов - из за политик безопасности приходилось писать код с ТЕЛЕФОНА!!!!
Я кстати на это потратил 10 баксов… А есть какой нибудь вариант делать нейрослоп брейнрот контент типа эээ за бесплатно может быть? Я не понимаю, а вот айтишники эти вот за что деньги свои получают?
И вот про клавдбота, а вам всем это точно надо вообще? Проверка писем и гугление статей это прекрасная часть рутины, ради которой хочется жить, а нашим как обычно американцы продали это за жвачку: откажись Русский от чтения писем, откажись Русский от чтения вообще, смотри Русский рилзы, деградируй Русский!
Я вот делаю эдиты и иногда по 3-4 нейронки использую для сводок и переходов, ну вот сделайте такого агента, что реально полезно, где я напишу типа пукпук сделай мне брейнрот мем орущих овощей, но только в сеттинге моделей сбера типа «Я ГиГаАЭМ, я перевожу голос в текст! Ухахахах!», а не в ночи evenlabs на бесплатные токены обманывать и вотермарки чистить под тремя слоями впн
Блин я не понимаю, да когда меня уже заменят нейронкой?! Почему я должен жить в какой то неопределённости, оправдываясь образованием, каждый день вставая и дописывая код за челами из нвидии (скорее всего они неприятные в общении и мы бы никогда не стали друзьями), когда мог бы просто жить спокойную небогатую жизнь, сдавая квартиру, без надежд на айти?
Крч, пишу уже 2 недели один код, вышла гпт 5.4, ладно, думаю я, искусственный интеллект давай убей меня наконец то - эта дура перефигачила всё 5 раз - куда эррор, ладно, перестало работать даже то, что работало. И ради этого убрали алло 52?
Крч, код в итоге написал сам… делал поддержку DFlash в vllm, если на работе разрешат, то сделаю PR. Кст я все ещё не понимаю, почему никто ну вот никто из популярных статья-ллм-обзор блоггеров не упомянул вещи типа DFlash/PARD, ну вот это же скоро везде будет, или нужно ждать пока это до Яндекса дойдёт и все засуетятся? И ещё плиз, спекулятивный декодинг БЛИН работает на больших батчах БЛИН, я не понимаю, как можно доверять агрегированному мнению нлп чата, который сформировался на основе отзывов о пайтон библиотеке 1995 года
я понял, что не умею неиронично хамить людям, только кривляться и хохотать, сегодня в ав в очереди за кофе женщина стояла минут 5 выбирала то кофе то молоко то какао то дайте попробовать то покажите упаковки и тд, я ее поторопил, а меня жестко безшансово урыли
сначала меня прогнали по всей базе типа меня не воспитывали, ну а я сказал: «а ваши родители вас любят?», на это сказали, что я конечный мудак и что СЕЙЧАС вызовЕТ ПОЛИЦИЮ, ну и я реально испугался ну чуть чуть (потом это проработаю), хз мне кажется любого поцана можно внезапно шугануть ментами, я вот ток ща комичность осознал, это как Путину позвоню и тебя на сво заберут, и я такой пук пук ей «нууууу», а мне «ну в коровнике будешь говорить», а это уже просто какой то слой метамодерна учимся хамить красиво рот будешь открывать на острове эпштейна, и пока я это все переваривал, мне показали факи и сказали, что мне не дают - обидно знаете ли, далее я ее просто потролил за выбор кофе, даже не обидно, просто повеселил баристу, на том и разошлись
далее вижу оплату бейджиком, агааааа
крч, можно меня пожалуйста не конфликтовать, иначе я БЛИН пошучу блин смешно, ОКЭЙ?
+1
То есть никому не интересно, что Саша Симпл обучил модель лучше, чем чатгпт и никто об этом не в курсе целый месяц?!
Я нашёл платные консультации у Маргариты, го наскребём 11 111 рулей, я пойду от всех нас, спрошу насчёт архитектуры и данных, либо всем пофиг? Я не понимаю
+1
Ээээм типа че? А ниче тот факт, что в главном самом независимом, честном, проприетарном бенчмарке всея Руси - 1 уже месяц висит какая то модель выше в сотку раз тяжелого гигичата плюс ультра гелакси про макс турбо и чатагпт. Вот литералли никто об этом не написал кроме Маргариты Конык(who?) на сайте секта ру (да я читал именно таким окошком из за банеров и рекламы), где она описывает, что такое МоЕ «представьте что вместо одного специалиста в компании работает много УЗКИХ специалистов» ну лаааадно! а на страничке модели написано вот это «В работе используется языковая модель на основе архитектуры трансформера.» нет блин десептикона, я даже на вб тех подписался, 0 инфы
А я могу у меры купить рекламное место, чтобы ссылку на тгк с моим фейсом повесили на место 10-15 на месяц где-то?
Недавно вспоминал, как работал в 2020-2021 в одной крупной ру компании с пожилым бигтех скиллзом, работать студентом пми на галере, это как молодой Роналду у саудитов, ты им написал парсер - они тебе отдел, сделал бустинг - шеф своего водителя отдал на день, короче ща такое импоссибл даже представить, но для тех, кто не успел в хлебосольные айти годы, где первому человеку, который импортировал пандас, давали СТО (такого я тоже не застал) - поделюсь вайбом ваших жёстких дядь 5 лет назад
День 1. Я встаю на работу в 5 вечера, понимаю, что уже поздно и снова ложусь, понедельник фигли
День 2. К нам приходят какие то бабки из отдела пенсия через год, и говорят, что им нужна айти машина, которая будет понимать, есть ли картинки на пдфайле, цвет или чб, личная или рабочая информация и тд Я это написал и обернул в приложение для принтера за 2-3 дня, подходит ТЛ и говорит, скока? Я говорю не маааало… короче назвали цену бабкам в 3 мульта, они подофигели, но согласились, ну старость не в радость, как будто мы не знали, что они себе на пенсионный куршавель еще откусят
День 3. К нам пришли и литералли говорят продайте нам пайтасеракт, ну не так конечно а типа оооо бля вооо бля нам нужно текст с картинки находить, ну крч пайтасеракт, мы тут решили не жестить - людского в нас дофига ну и лям бахнули
День 4. Далее приходят мужички и говорят типа нужна модель, которая будет искать печати в договоре и ещё находить какой то текст типа связанный с условиями риска. А я тогда изучал нейронки и деплой, ну я и говорю продакту, что нам обязательно нужны НЕЙРОНКИ, он такой че? Я говорю ну нейронки! А инфры зеро, есть винда, эксель и питон, ну крч я заставил мне купить сервер и видюху, работал на линуксе вне сети компании, но при этом я прописал все доступы в корп сеть, такой вот угар - хз как бы челы всем этим пользовались, в теории я просто им бы подарил этот сервер, но когда я увольнялся и все уже было на потоке, по протоколу пришли дьдяки со склада и просто вынули розетку и все разобрали на склад, я звоню продакту, а он в бане пиво пьёт, я забил и ушёл
День 5. Приходят какие то тётки и один дед и говорят нам нужно метчить номенклатуры. Тогда мы реально не знали как это делать ну денёк посидели и выбили 80% на топ-10. Ну долго сидели думали, ну и назвали 7 мультов, думайте зажадничали? Тогда вообще все прифигели и очевидно не дали сток, это дошло аж до директора по ИТ в компании, и он рассказывал наш кейс на конфах типа НЕ ВЕСЬ ЭЙАЙ ВЫГОДЕН, а я сидел такой и думал бля релакс бро, мы просто жиданули прайс, самим теперь грустно, а все почему? хз почему
Хотите больше историй? Подписывайтесь на мой телеграмм канал @minimalistic_cheese, а то репостов нормально, а подписчиков мало… я всю неделю сидел и думал ща как кринжану и сделаю жёсткий разбор куда ядер для линейного атеншна, но сдержался!
А я один не понимаю зачем ру компании делают свои ллмки, если это не сбер и не Яндекс? Типа люди же уже обучили и выложили модели. Ну ладно тинек они там вроде как набрали сильных рисерчеров и че их увольнять? Они же умрут, как синички закажут Яндекс Ультиму и будут с полными брюхами на ленинградке лежать.
Типа всем же старшаки давали конспекты в вузе, я вот из за тщеславия говорил че мне эти скуфы старшаки, ща сам по молодожёном напишу все 40 листов конспектов за 2 дня КАК МНЕ НАДО бее, в итоге осиливал максимум половину.
Даже так, кто это продал бизнесу? Я просто литералли каждый день сижу и думаю как бы мамонтам втюхать какую нибудь айти затычку, ну и не верю я, что в 2к26 можно кому то что то реально продать, как волк стрит, ну максимум агента ну максимум за 300к край брат. Я вот хз будучи пузатым руком с миллионом денег вот как только вижу худак мфти, как только губы начинают складываться во фразу «дай» или «ллм» сразу нет сразу же, потому что люблю вкусно поесть, потому что в 90ых выбрал купить первую машину, чтобы возить в ней творог и колбасу по деревням, а не вложиться в цветные крышечки для пива, ну и потому что нейронка не сделает миньет. Вот что им говорят? Да мы то че Сергей Степаныч, загрузили этот хваленный Гигачат и на нашем суверенном бенче рекомендации вантузов rurecvantuz_bench мы не получили 80% денег, наш лучший синьор по эйай и так попромптил и сяк попромптил, и поэтому я считаю, что нам нужно потратить ещё 40 МИЛЛИОНОВ РУБЛЕЙ И 2 МЕСЯЦА, это так происходит?
Я типа неиронично и реально хз
