The ExtremeCode Times

Продолжая ИИшную аксиому Эскобара Есть 2 варианта, локальной "one-shot" генерации: 1) Модель выдает архитектурно слабое решение, но зато это полностью рабочий каркас, который без проблем запускается. На такую генерацию уходит ~5 минут 2) Модель выдает классный архитектурны анализ, но полностью факапится в написании кода, допустив тупорылые логические ошибки. На такую генерацию уходит ~15 минут На какой стул сядешь?

Погоняли тут тесты для ИИ. Выяснилось, что градацию тупости можно измерять следующим образом: > Не может решить вообще ничего > Может решить Python задачи > Может решить React задачи > Может решить Бекенд задачи на не python Кто-то объяснит это тем, что в датасетах больше данных по питону, чем по другим языкам, а кто-то тем, что чтобы писать код на питоне надо быть чуть умнее собаки. Мнение?

☁️☁️☁️☁️☁️☁️☁️ 24 сентября Yandex Cloud проведёт флагманскую технологическую конференцию — Yandex Scale 2026.

🎨🎨🎨🎨🎨🎨🎨🎨🎨🎨 🎨🎨🎨🎨🎨🎨🎨🎨🎨🎨 🎨🎨🎨🎨🎨🎨🎨🎨🎨 В программе четыре продуктовых трека — AI, Data, Security и Hybrid Infrastructure & DevOps, — и отдельный углублённый технологический трек DeepTech, который пройдёт только онлайн.

🎨🎨🎨🎨🎨🎨🎨🎨🎨🎨 🎨🎨🎨🎨🎨🎨🎨🎨🎨🎨 🎨🎨🎨🎨🎨🎨🎨🎨🎨 В треке DeepTech откроем программу докладом о том, как мы ускорили Lua в Valkey — добавили LuaJIT и Lua 5.5 без патчей интерпретатора и получили прирост скорости до 2–5 раз. Расскажем, как строим экономически эффективный инференс LLM для агентских сценариев в Yandex AI Studio — на примере DeepSeek-V3.2 и DeepSeek-V4-Flash. Разберём, что разваливается в поиске, когда он должен быть одновременно распределённым, транзакционным и линейно масштабируемым — на примере векторного, полнотекстового и гибридного поиска в YDB. Покажем, какая инфраструктура превращает недетерминированную модель в управляемый и наблюдаемый сервис, когда агент выходит из демо в продакшн. Расскажем, как мы первыми в РФ научились мониторить ИИ-агентов внутри «чёрного ящика» LLM. И заглянем под капот сети облака — Interconnect, Private Link, Inbound DNS и DNS Firewall, которые складываются в герметичный контур между Yandex Cloud, on-premises и другими облаками.

🎨🎨🎨🎨🎨🎨🎨🎨🎨🎨 🎨🎨🎨🎨🎨🎨🎨🎨🎨🎨 Плюс демозоны, питчинг решений, IT-квест и мерч для тех, кто в Москве. А кто смотрит онлайн, помимо трека DeepTech, есть ещё отдельная онлайн-студия: розыгрыш призов и секретный гость.

Полную программу можно посмотреть на сайте, там же — зарегистрироваться. Участие бесплатное!

Ну как бы ёпта всё, сбор циферок официально закончен 😄 Осталось дописать выводы, сделать финальную мощнейшую вычитку, и можно записываться-монтажироваться

Скоро чуваки, скоро все будет, я почти закончил с бенчмарками. Скинуть вам мини-спойлер или не надо?

Нынче айтишный рыночек просто “чистый кайф”. Все ругаются, что всё, время поиска увеличилось до полугода. На моей памяти айтишка помирает уже четвёртый раз. В 2012 году ныли, что в айти вкатываться уже поздно. Бывает такое, что тучи над рыночком сгущаются как в горах, это будет ещё не раз. Что делать в таких ситуациях? Практикум PRO и АльпИндустрия разобрались. Мастер спорта по альпинизму поделился опытом сумасшедших восхождений и советами, как не потерять голову даже на самом крутом склоне. А ИИ-архитектор из промышленного сектора и арт-директор из Яндекса рассказали о трендах на рынке IT и навыках, которые стоит прокачивать цифровым спецам, чтобы устоять на любой вершине. Подготовиться к переменам тут >>>

⚡️OpenAI остановила обучение новых моделей ИИ из-за киберрисков, сообщила компания

Эксперты из каментов, я с этими бенчмарками скоро с ума сойду. Почему так ёпта? PCI-E 4 / x4, на ЖПУ также только 4 линии распаяно. В теории должны упираться в шину, какого хрена iMatrix, и уж тем более 8-и битки быстрее, чем очереднярные Q4? Все в интернетах пишут типа, "АРРРЯЯ IQ медленные", какого хрена у меня они стабильно быстрее? Даже на нормальной жпу в pcie5 со всеми линиями (скрин в каменты к посту закину) Параметры бенча дефолтные [--fit-target 1024], контекст 512 на pp, и 128 на tg

Эксперты из каментов, чёт затык у меня случился лютый, есть тут кто шарит как неподписанные дрова на венду поставить? > Установить линукс не предлагать > CiTool.exe --remove-policy "{8F9CB695-5D48-48D6-A329-7202B44607E3}" / Не работает, выдает 0x80070005 > Memory Integrity, Local Security Authority protection, Vulnerable Driver Blocklist / Выключено > Заменяемый драйвер удалял в сейфмоде, ставил на чистую / похер > Сетевой кабель выдернут В мае втыкал патченные дрова на CMP 90HX и все вставало норм, щас же чето затык лютый, уже все перепробовал. Шинда просто блокирует драйвер в момент установки, а видюшки висят в системе с кодом ошибки 39. Давайте думать, подсказывайте, чё вы 😤

Короче, модели до 9B параметров зажатые в любой Q4_* лучше в принципе обходить стороной, они пздц как сильно тупеют. Q8 на их фоне смотрится как гигамозг. Скажем спасибо, моей G0VN0 методике оценок моделей. P.S. Тесты еще до сих пор гоняю 🫠

Типичный Qwen, как эту помойку вообще можно локально использовать? 😄

Мда ёпта, 12 с копейками часов на 4B модельку и 6 млн слитых токенов на судейку. В бенче ровно 100 вопросов. В ходе предварительных тестов понял, что вообще нет никакого смысла гонять по базовым алгоритмическим вопросам. С этими задачами даже 4B модель зажатая до одного бита прекрасно справится, а если миксовать сложные и простые вопросы, то результаты размытые будут. В общем, зафигачил пока датасет с хардкорными задачками уровня мидл-сеньор по стеку JS/Nodejs/Express/React/Mongodb/Postgresql/Redis. И что вы мне сделаете? Я вообще-то G0VNO изобрел, на какой стек мозгов хватило, тот и гоняю. Помимо саммари, еще складирую все решения судейки отдельно, что б можно было посмотреть че там происходит. Конкретно у Qwen3.5 4B жОские проблемы со следованием инструкций, ну и естественно ей не хватает параметров P.S. По шкале вайб скор, модель должна хотя бы 60% в среднем набрать, в таком случае она с большей частью задач справилась, хоть и с небольшими, но терпимыми, косяками

Навайбкодено 😄 Осталось подождать 5 тысяч лет и потратить миллиард денег на прогоны всех тестов.

Ёпта, кажется моя методика оценки "G0VNO" квантованных моделей реально работает (но это не точно, пока только предварительные результаты без массового прогона). Чувствую себя поехавшим датасаентистом. Мне бля даже интересно стало, а какого хрена раньше до этого никто не додумался. Обычно дилер модельки фигачит в ридми результаты модели, которых она набирает в FP16 на сраных публичных бенчмарках. А вот то, насколько она деграднула после сжатия — как будто бы и насрать всем, а на самом деле результаты могут ПИЗДЕЦ КАК СИЛЬНО отличаться. Замер перплексии сам по себе хорош только для предварительной оценки, но не показывает реальной раскладки на настоящих задачах. Ща сижу думаю, как не разориться на токенах, думаю после предварительного прогона перплексии брать только 3 самых лучших модели, а остальных отсекать из-за тупорылости.

👉 Новое видео на канале: https://www.youtube.com/watch?v=y3EgOOfkir8 P.S. Ну и если я какой-то текст дочитываю до конца, то никогда не поленюсь поставить лайк и в комменте написать что-то типа: "Братан, хорош, давай, давай, вперёд! Контент в кайф, можно ещё? Вообще красавчик! Можно вот этого вот почаще?"

Аррряяя, ИИ убыточен и вообще пузырь. @@@ Выручка мелкомягких с клауда, срет вверх, как никогда раньше, чисто на ИИ. P.S. Скажу страшное, но вот компании, аля Amazon, годами не показывали прибыли, но при этом имели шизанутейшие обьемы выручки. Около десяти лет им понадобилось, чтобы понюхать впервые чистую прибыль. Чет как то это не помешало им это все вести операционную деятельность, да и инвесторы не переставали инвестировать меньше. Короче, думайте.

Всё ребята, всё. Джуны больше никому нужны. Зачем нанимать естественный интеллект, когда искусственный идиот делает все то же самое, но еще при этом и не выгорает. Работодатели теперь охотятся за спецами-фундаменталистами, способными писать эффективные алгоритмы, чисто двигая магнитиком по жесткому диску, имея при этом минимум 100 лет опыта. Конкурировать в этой среде за теплое местечко не просто, особенно в карьерном росте. Поэтому тебе позарез нужные любые преимущества. Например, можно закончить магистратуру. А поступить онлайн можно в Томский государственный университет, у них как раз есть множество направлений, связанных с АйТи. Ты можешь получить полноценное университетское образование, вкатиться в сообщество экспертов и единомышленников, да и формат позволяет совмещать обучение с основной работой. Преподавать тебе будут действующие эксперты и сотрудники топовых айти компаний. Короче, переходи по ссылке в описании, чтобы ознакомиться детальнее: http://clck.ru/3UyxMX Реклама. ФГАОУВО НАЦИОНАЛЬНЫЙ ИССЛЕДОВАТЕЛЬСКИЙ ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ, ИНН 7018012970

Рабочее название методологии GPU & 0-vibe Validation of Next-token Omega-quants G — GPU-hardware (Тест декодинга и префилла на потребительском железе) 0 — 0-vibe (Насколько модель мертва изнутри и способна следовать инструкциям) V — Validation (Валидация через LLM as Judge) N — Next-token (Перплексия и угадывание токенов) O — Omega-quant (Сравнение омежек с альфачом)

Короче, рассказываю почему производство видоса про сраный локальный нейрослоп затянулось. Изначально была крайне тупорылая задумка — вот у меня есть пачка видеокарт, давайте запускать на нем ИИ, хихи-хаха. Какого-то практического опыта у меня естественно не было (да как походу блин и у 95% других ютуберов, которые снимают про это всякую шляпу и продолжают это делать бездарно, это не упрек, просто факт). Естественно, когда я начал разбираться с тем, как вообще это сделать, возникали вопросы. И чем глубже я погружался в тему, тем больше вопросиков возникало, некоторые из них даже могли показаться крайне тупорылыми. Но меня это реально волновало. Один из десятков таких вопросов — а как ваще оценивать модели относительно друг друга. Вот есть пачка файлов одной модели по разному квантованных, как вообще мне понять какая между ними разница? В итоге это все переросло в разработку собственной "гаражной" методологии оценки моделей по определенным ключевым параметрам. Да, конечно, она не сравнится с методами от навучных чуваков, которое это придумывают их сидя на зарплатке, но это на порядок лучше чем "гыыы, давайте посмотрим на то, как 4B модель не сможет сделать дашборд на HTML". Ну и это задел на будущее, т.к. уже будет простая и устоявшаяся метода для оценок новых моделей. В общем, терпим и ждем.

ахахаха, спасибо пайпалу, за невероятные усилия по обслуживанию моего замороженного счета