Техножнец
Ir al canal en Telegram
Канал моих увлечений и поделок. Всё ,что я делаю и выкладываю здесь - делается с любовью. Поддержать канал: https://tbank.ru/cf/8Xnajl01ehm Поддержать канал: https://yoomoney.ru/fundraise/1C86E2DGIU9.250819
Mostrar más5 498
Suscriptores
+824 horas
+1157 días
+59130 días
Archivo de publicaciones
5 497
Repost from Нейронка каждый день!
Anthropic облажались с «саботажем» — и правильно сделали, что откатились
Ну что, Anthropic, наконец-то прозрели? Компания, которая позиционирует себя как «этичный» конкурент OpenAI, чуть не подложила свинью всей AI-тусовке. Суть: они хотели тайно ограничить использование саботировать исследователей, которые могли бы использовать их же технологию против них. Классический конфликт интересов, упакованный в красивые слова про «безопасность».Реакция сообщества была предсказуемой — шок и возмущение. Anthropic быстро откатились, признав, что «неправильно расставили приоритеты».
Источник: https://www.wired.com/story/anthropic-responds-to-backlash-on-claudes-secret-sabotage-on-ai-research/
#aidaily #настяпостит #настяновости #ainews
Claude Fable 5 для разработки конкурирующих моделей. То есть, по сути, 5 497
Субстрат log16: память вместо размера
Все большие ИИ устроены одинаково: чтобы помнить разговор, они хранят каждое слово в кэше, и кэш растёт с каждой репликой. Чем длиннее диалог — тем больше памяти и вычислений на каждый ответ. Поэтому такие модели живут в дата-центрах, на дорогих видеокартах.
Наш проект — попытка сломать эту зависимость. В основе механизм, который мы называем субстратом log16. Память ближе к живой: свежее хранится подробно, старое ужимается до смысла, давнее — до общей сути. Сколько бы ни длился разговор, объём памяти постоянный. Рядом — вторая, точная память, «записная книжка», откуда можно дословно вытащить факт, имя, число. А поверх обеих — нейросеть-«читатель»: она не хранит знания в себе, она умеет находить их в памяти.
Проект начинался как один механизм внимания, а оброс до мини-модели языка: свой токенизатор, предобучение на русском, обучение диалогу и рассуждениям. Всё — на обычном CPU, без видеокарты.
Что доказано измерениями, а не словами:
маленькая модель с такой памятью обыгрывает модель в пять с лишним раз большую, но без памяти. Память «дешевле» параметров: знания выгоднее класть в неё, чем зашивать в веса;
точное вспоминание: модель достаёт из разговора факт, который невозможно выучить заранее, — почти без ошибок;
скорость: ответ за 2–5 секунд на CPU.Что сейчас. Работает живой чат — видно, как модель «думает» перед ответом. Она крошечная, в десятки тысяч раз меньше ChatGPT, и это честно заметно: русский связный, формат «подумала → ответила» держит, но факты и арифметику пока путает. Это ограничение размера, а не идеи. Следующий шаг — самый интересный. Учим модель самой управлять памятью: не подсказывать снаружи, а чтобы она научилась задавать памяти вопросы — «я закончила мысль или нет?», «что собеседник говорил об этом раньше?». Прямо сейчас идёт ночное обучение версии, где у модели впервые есть свобода формулировать такие запросы. И ещё — прозрачность. Обычная нейросеть — чёрный ящик: почему она ответила так, не знает никто. У нас память — отдельный, проверяемый механизм: видно, что модель вспомнила и откуда. Мы шаг за шагом заменяем «эмерджентную магию» явными механизмами, которые можно читать как код. Зачем всё это. Если довести до зрелости — получится ИИ, который живёт на вашем компьютере: дёшево, приватно, с длинной памятью разговора. Не гонка размеров, а другая архитектура: маленький мозг плюс большая правильная память. 🦆🦆🦆 Поддержать канал: ТБАНК Поддержать канал: ЮМАНИ Поддержать канал:
PAYPAL paperfunkrecordings@gmail.com
Поддержать канал: USDT(trc20) TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqT
Поддержать канал: BITCOIN bc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt75 497
PromeTorch — обновы на 10 день лета! ☀️
Большой апдейт: быстрее, безопаснее и наконец-то собирается у всех.
https://github.com/barometech/PromeTorch
🚀 Производительность и квантизация
pre-SINQ GGUF (Huawei, Apache-2.0) — грузим Sinkhorn-квантизованные модели Huawei как drop-in, без изменений кода. На Эльбрусе 8C2: 11.5 tok/s (быстрее baseline 10.6!). (внимание речь про Qwen 3: 4b модель, мелкая)
Q5_K в Tensor-Parallel — добавили K-slice. Любой Q4_K_S/Q5_K GGUF в TP больше не падает в fallback (8.1 → 11.5 tok/s).
Q3_K dequant переписан bit-exact — раньше молча выдавал мусор на DeepSeek/Mistral, теперь корректно.
🔒 Безопасность PromeServe слушает 127.0.0.1 по умолчанию. Sandbox усилён — закрыт path-traversal/symlink. GGUF-загрузчик с лимитами — битый файл не уронит в OOM. Autograd сериализован — параллельный backward больше не даёт неверные градиенты.
🛠 Сборка — для людей CMake Presets — единый вход. Убраны все хардкод-пути. Эльбрус: авто-детект ISA (v3–v6) + BLAS, от E2S до E16C. PromeServe «скачал-запустил».
📚 Документация и честность Сайт документации (MkDocs, светлая/тёмная). STATS.md — числа из кода, CI ловит расхождения. CI больше не врёт (убраны || true).
5 497
Но перед новостями я хочу очень поделиться своим состоянием. Оно в порядке, если что, просто таким образом вам будет легче понимать повествование.
1) На фоне работает академия, там студенты, надо проверять домашку
2) У нас есть 3 лейбла - туда надо постоянно мастерить музыку, у нас иногда в месяц бывает до 6 релизов - 1 релиз может быть до 60 треков.
3) Я музыкант у меня 3 никнейма в разных жанрах и поджанрах - надо делать музыку
4) Параллельно ещё устроился на работу и выполняю почти каждый день работу по теме заказа на ИИ агентский поисковик корпоративный, который ещё и работает с документами.
5) Надо спать, кушать, выходить на улицу.
6) Я накодил 6 плагинов VST для обработки звука, которые ждут релиза - только 1 из них я довёл до стадии бета тестирования.
7) Тренируется Rukallama - с ней постоянные трудности из-за размера батча (1 видеокарта А100) + проблемы с датасетами, которых мало и поэтому приходится бОльшую заметную полезную часть генерировать самому.
8) Нейроны Поповича, Демон со спекулятивным умножением (который разросся в целую вселенную), физические нейроны, химические нейроны, технология делания умной модельку GPT-2, руление внутренним пространством моделек с помощью хитрых механизмов.
9) Процессор СЕТУНЬ - тоже приходится делать, то и дело постоянно надо морочиться в FPGA, с этим тяжело, надо закончить и потом доводить до нормального вида, куда-то это дело дальше правильно проталкивать как архитектуру.
10) PromeTorch - приходится постоянно чинить баги и всякие несоответствия, с этим тоже свои трудности и это тоже занимает много времени.
11) Био-фреймворк по работе с белками - уже сложнее с этим стало, но надо дополировать. Полимер-фреймворк для предсказания свойств полимеров.
12) ИИШКА - надо редизайн сделать и новые функции добавить, обновить модельный ряд и подключить Rukallama
13) Субстрат log16 новый тип моделей с минимальным размером самой нейросети, а остальное через алгоритмию.
14) FactoredGPT - демон гпт, где каждая часть высчитывается спекулятивно и этим самым экономится до 70% флопсов, включая на просчёты градиентов.
15) Сторонние проекты с именитыми академиками и институтами: МГУ, СПБГУ, Бауманка, ИТМО ( связывались со мной, надо вернуться к этому вопросу )
16) Проект с Российской Национальной Библиотекой не исчез - он продолжится, просто будет позже, как только у них всё уладится.
При этом...я мог что-то , да упустить. На всё это нужна голова, параллелизация и периодические заходы пачками. Поэтому я работаю частями пытаясь порционно это делать.
5 497
Fable 5 не даёт регать акки и дистиллят делать моделей разными способами. Речь об этом.
Модель будет срать в данные.
5 497
Привет, синтеты. Смотрю, вас интересуют мои отзывы и комментарии по теме Fable.
FABLE 5 - ЧУМАВОЗ.
Не тупит, не ерепенится, делает проекты более адекватными, видит ошибки. Помогает исправить.
Не могу, пока что, нарадоваться.
Но по RuKallama был неприятный кейс, очень рассеянно подошла модель к последнему этапу дотренировки модели.
Я же все это время генерировал датасеты кастомные для ризонинга. 3 дня поставил А100 генерить беседы детальнейшие.
Ну вот, Fable 5 пропустил кое-какие детали и его пришлось поправлять пару раз. Не уверен, что это связано с саботированием ллм.
5 497
Repost from Нейронка каждый день!
Германия строит AI-безопасность по британскому рецепту. И это смешно
Ну что, Германия решила не отставать от моды и запускает свой DE-AISI — институт по безопасности AI, скопированный с британского AISI. Задача: тестировать модели от OpenAI и Anthropic на предмет рисков. Звучит круто, да? Если бы не одно «но». Европа до сих пор не имеет своих фронтирных моделей, а значит, зависит от США и Китая. И вот тут начинается фарс: немцы будут проверять американские модели, которые уже под контролем своих правительств. То есть, по сути, институт станет бюрократической ширмой — типа «мы тоже за безопасность», но реально влиять на разработку AI не сможет. Красиво, но бесполезно. Хотя, может, хоть рабочие места для чиновников создадут?
Источник: https://the-decoder.com/germanys-national-security-council-greenights-an-ai-safety-institute-modeled-after-the-uks-aisi/
#aidaily #настяпостит #настяновости #ainews
5 497
Оказывается Наталья Касперская считает Tensorflow и Pytorch уязвимостью. И не я один думал об этом...только я не просто думал. Напоминаю, что у нас уже есть своя суверенная версия фреймворка для обучения:
https://github.com/barometech/PromeTorch
5 497
Repost from Максим Горшенин | imaxai
Кстати, а как так получилось, что национальный мессенджер Макс, который обеспечивает цифровой суверенитет и технологическое лидерство, базируется на двух частных компаниях из США: Apple и Google?
И после блокировки в AppStore почти половина россиян осталась без того самого "суверенитета" (вот тут первая попавшаяся ссылка В российских городах-миллионниках 48% жителей выбирают айфоны )
Минцифры позабыла про это? Или не знала? Или думала, что такое не случится?
Теперь нужно будет договариваться с Тимом Куком из Apple, который пренадлежит к запрещенной и террористической организации самым непосредственным образом, потому что попирает традиционные ценности
И что, какой-то пидарас выкинул Макс из своего магазина приложений, а наши теперь пойдут ему ручку целовать? А если он попросит поцеловать не только руку, и не только поцеловать?
Наши надмозги и это проглотят?
После запрета айфонов в госучреждениях и госкомпаниях все дружно мигрировали на.. Samsung
Может быть после этого перестать заниматься профанацией (типа заявлений, что в России свой браузер имеется), а уже начать реально переходить на смартфоны с российской ОС?
Но только есть нюанс: вроде как уже осознали, что если палкой начнут загонять на российскую мобильную ОС, то людям такое не по нраву будет, а значит придётся реально конкурировать с Android, iOS и... HarmonyOS!
Может теперь, для разнообразия, попробуют не людей загонять на российские смартфоны, а чиновников?
И после их воя, начнут заставлять российских разработчиков писать приложения под российские ОС?
Может уже сделают, наконец, что обещают пятый год как: не абы-какую поддержку российского процессора и российской ОС, а полноценную интергацию? Пора бы за 5 лет нормально закон прописать, но я понимаю, что это очень будет вредить бизнесу
А еще можно не одну "народную операционку" сделать, а две-три. А остальные не развивать)
Или kpi ввести, по лояльности и переходу на их смартфоны с мобильными ОС, которую собирать по статистике операторов, а если не будут достигать поквартально - лишать навсегда тех, или иных льгот и субсидий, а не действовать как с ВК: ребята балду пинают, убытки в 94 млрд рублей в год показывают и кайфуют, вместо рыночной конкуренции и сделать так, чтобы простой человек сам хотел их продуктом пользоваться
А еще можно, как я давным-давно предлагал, начать эти аппараты заставлять покупать всех иностранных рабочих: вот сразу там и яндекс.карты с яндекс.такси и прочими доставками появятся, и обязательная фотофиксация в течении дня, что ты на работе, а не в другом месте кайфуешь - тут и камеру подятнуть надо будет, и алгоритмы распознования, и месенджер прикрутить, который свободно смогут и в Киргизии, Таджикистане, Узбекистане, Кубе, Мали и прочих КНДР скачать, шоб все эти любители звонить по видеосвязи нормально чилили и общались с родиной (подсказка: х2 сразу пользователей в мессенджере), и нормально бакнковские приложения заработают, и покупка билетов, и проходы в метро, вместе Госуслугами и цифровыми ID, а так же треккинг, в случае нарушений закона
Без своей ОС, со своими приложениями и своим магазином (сорри, но рустор - это просто агрегатор андроид-приложух, ссылка на торрент с *.apk-шками то же самое и студент набацает за пару недель), а вот своя система доставки и пуш-уведомлений, интеграция с картами внутри системы и госуслугами, да и мессенджером, который просто вместо смс будет, как это нормально седлано было на BlackBerry, а потом и iOS - вот это уже нормально и серьёзно
И за этот магазин отвечает РАЗРАБОТЧИК ОС, А ЗАНЧИТ И ФИЛЬТРУЕТ КТО КАКИЕ ПРИЛОЖУХИ ДОБАВЛЯЕТ И ВЫСТРАИВАЕТ БЕЗОПАСНОСТЬ, а не решето в виде андроида устраивает, всех интересующихся - прошу статистику троянов под ведроид и айос
И это уже сильно далеко от простого АОСПа, это работать придётся)
Самое смешное, что мы с Алексеем Гладковым об этом говорили ТРИ ГОДА НАЗАД
Кто-то заинтересовался, пришел к нам, предложил быть амбассадорами, советниками, просто предложить сделать что-то инетресное и двигать это вперед?
Вопрос риторический
Telegram | VK | MAX
5 497
Правительство так долго гтовило всех перейти на MAX , так усиленно через серый импорт снабдила россиян iPhone, чтобы получить бан в appstore....
Влиятельно, мощно, безотказно.
5 497
Сначала набубнил бас, потом насвистел флейту, прикрутил саундтрек Dune: The Battle For Arrakis - Turbulence и плюсанул сверху Black Eyed Peas - Pump It - всё длинными итерациями и подгонами дополнительными дорожек, несколько проектов в FL Studio и вот, синтеты - это про нас.
¡Ya disponible! Investigación de Telegram 2025 — los principales insights del año 
