BigData
前往频道在 Telegram
Data Science : Big Data : Machine Learning : Deep Learning : LLM : Нейроннные сети По всем вопросам @evgenycarter
显示更多
网络:3 235
订阅者
无数据24 小时
无数据7 天
-1330 天
数据加载中...
吸引订阅者
七月 '26
七月 '26
+5
在0个频道中
六月 '26
+7
在0个频道中
Get PRO
五月 '26
+21
在0个频道中
Get PRO
四月 '26
+9
在0个频道中
Get PRO
三月 '26
+11
在0个频道中
Get PRO
二月 '26
+16
在0个频道中
Get PRO
一月 '26
+31
在0个频道中
Get PRO
十二月 '25
+19
在0个频道中
Get PRO
十一月 '25
+65
在31个频道中
Get PRO
十月 '25
+27
在0个频道中
Get PRO
九月 '25
+59
在36个频道中
Get PRO
八月 '25
+30
在0个频道中
Get PRO
七月 '25
+50
在27个频道中
Get PRO
六月 '25
+59
在20个频道中
Get PRO
五月 '25
+80
在44个频道中
Get PRO
四月 '25
+105
在41个频道中
Get PRO
三月 '25
+100
在38个频道中
Get PRO
二月 '25
+108
在32个频道中
Get PRO
一月 '25
+94
在34个频道中
Get PRO
十二月 '24
+95
在35个频道中
Get PRO
十一月 '24
+85
在33个频道中
Get PRO
十月 '24
+89
在30个频道中
Get PRO
九月 '24
+135
在29个频道中
Get PRO
八月 '24
+71
在18个频道中
Get PRO
七月 '24
+41
在0个频道中
Get PRO
六月 '24
+87
在25个频道中
Get PRO
五月 '24
+72
在19个频道中
Get PRO
四月 '24
+57
在0个频道中
Get PRO
三月 '24
+88
在21个频道中
Get PRO
二月 '24
+73
在18个频道中
Get PRO
一月 '24
+129
在24个频道中
Get PRO
十二月 '23
+89
在24个频道中
Get PRO
十一月 '23
+94
在17个频道中
Get PRO
十月 '23
+104
在18个频道中
Get PRO
九月 '23
+115
在0个频道中
Get PRO
八月 '23
+65
在0个频道中
Get PRO
七月 '23
+81
在0个频道中
Get PRO
六月 '23
+73
在0个频道中
Get PRO
五月 '23
+96
在0个频道中
Get PRO
四月 '23
+81
在0个频道中
Get PRO
三月 '23
+34
在0个频道中
Get PRO
二月 '23
+67
在0个频道中
Get PRO
一月 '23
+96
在0个频道中
Get PRO
十二月 '22
+104
在0个频道中
Get PRO
十一月 '22
+81
在0个频道中
Get PRO
十月 '22
+128
在0个频道中
Get PRO
九月 '22
+194
在0个频道中
Get PRO
八月 '22
+173
在0个频道中
Get PRO
七月 '22
+292
在0个频道中
Get PRO
六月 '22
+241
在0个频道中
Get PRO
五月 '22
+463
在0个频道中
Get PRO
四月 '22
+2 330
在0个频道中
| 日期 | 订阅者增长 | 提及 | 频道 | |
| 14 七月 | 0 | |||
| 13 七月 | 0 | |||
| 12 七月 | 0 | |||
| 11 七月 | 0 | |||
| 10 七月 | +1 | |||
| 09 七月 | 0 | |||
| 08 七月 | +1 | |||
| 07 七月 | 0 | |||
| 06 七月 | 0 | |||
| 05 七月 | 0 | |||
| 04 七月 | +1 | |||
| 03 七月 | 0 | |||
| 02 七月 | +1 | |||
| 01 七月 | +1 |
频道帖子
⚡️ Fable 5 снова вернулась в Claude.
Модель стала доступна спустя почти три недели после отключения. Ограничения со стороны Anthropic сняли — ранее их вводили из-за формулировки про «угрозу нацбезопасности».
До 7 июля Fable 5 можно использовать в подписках Pro, Team, Max и Premium Enterprise. На модель разрешено тратить до 50% недельных лимитов.
После 7 июля бесплатный доступ закончится — останется только оплата по токенам.
👉 @bigdata_1
| 2 |  Как LLM на самом деле генерируют текст — Полный пайплайн инференса 🚀🤖
Многие думают, что нейросети выдают готовый ответ мгновенно, но на самом деле это сложный пошаговый процесс. Разберем его на примере простого запроса: «Что такое гравитация?»
Вот что происходит за кулисами:
1️⃣ ВВОД (INPUT) - Модель получает ваш текст. Для нее это пока просто набор символов.
2️⃣ ТОКЕНИЗАТОР (TOKENIZER) - Текст разбивается на токены: слова, части слов или символы. «Что такое гравитация?» становится списком: [Что], [такое], [грави], [тация], [?].
3️⃣ СЛОЙ ЭМБЕДДИНГОВ (EMBEDDING LAYER) - Каждому токену присваивается вектор (список чисел). Эти векторы кодируют семантический смысл. Теперь модель понимает, что «гравитация» близка к понятиям «сила», «масса» и «физика».
4️⃣ СЛОИ ОБРАБОТКИ (PROCESSING LAYERS) - Векторы проходят через десятки трансформерных слоев (на GPT-4 их 96). Это «раунды размышлений»:
🔸 Внимание (Attention): Модель выясняет контекст и какие слова важны друг для друга.
🔸 FNN: Применяет накопленные знания.
5️⃣ ПРЕДСКАЗАНИЕ ВЕРОЯТНОСТИ (PROBABILITY PREDICTION) - На выходе модель получает вероятности для всех токенов своего словаря. Например, после «Гравитация - это» наиболее вероятным будет токен «сила».
6️⃣ ВЫБОР СЛЕДУЮЩЕГО ТОКЕНА (SAMPLING) - Стратегия выборки (жадная, Top-K, Top-P, Температура) решает, какой токен взять: самый вероятный или более творческий. Это причина, почему один и тот же промт может давать разные ответы.(Опционально: Используется трюк со Спекулятивным декодированием для скорости)
7️⃣ ДЕТОКЕНИЗАТОР (DETOKENIZER) - Выбранный номер токена превращается обратно в понятное слово или символ.
8️⃣ ПОТОКОВЫЙ ВЫВОД (STREAMING OUTPUT) - Полученный токен добавляется к ответу, и модель повторяет ВЕСЬ процесс для предсказания СЛЕДУЮЩЕГО токена.
Упрощенная схема в один клик:
[Текст] ➔ [Токены] ➔ [Векторы смысла] ➔ [Слои «размышлений»] ➔ [Вероятности] ➔ [Выбор токена] ➔ [Повторить до финала]
💡Понимание этого процесса снимает мистику с ИИ. Эффективность LLM зависит не только от размера модели, но и от инференса: скорости обработки, использования памяти (KV Cache), FlashAttention и квантования. Понимание этого пайплайна - ключ к отладке, оптимизации и созданию лучших ИИ-продуктов.
👉 @bigdata_1 | 449 |
| 3 |  +2🚀 OpenAI не оставила шансов Fable 5 — состоялся анонс GPT-5.6 Sol!
Главная новость: свежая модель разгромила нашумевшую Mythos в целом ряде тестов. Показательный пример — бенчмарк Terminal-Bench 2.1, где флагманская Sol Ultra выбила 91,9%, оставив Fable позади с её 88%.
О релизе:
Тотальная автономность: ИИ теперь может писать приложения почти без помощи разработчиков, непрерывно выполняя задачи по несколько десятков часов подряд.
Бюджетные альтернативы: Вдобавок к мощной Sol компания выкатила более легкие и доступные версии — Terra и Luna.
Публичный доступ к GPT-5.6 откроют уже в ближайшие недели.
👉 @bigdata_1 | 491 |
| 4 |  Вместо того чтобы смотреть час Netflix, посмотрите эту двухчасовую лекцию из Стэнфорда — она научит вас большему о том, как строятся LLM вроде ChatGPT и Claude, чем большинство людей, работающих в ведущих компаниях по ИИ, узнают за всю свою карьеру.
👉 @bigdata_1 | 658 |
| 5 |  +2Кластер M5 Max
72 ядра CPU и 128 ядер GPU, 512 ГБ унифицированной оперативной памяти
Каждый MacBook подключён ко всем остальным через Thunderbolt 5 (120 Гбит/с).
👉 @bigdata_1 | 616 |
| 6 |  RAG против Агентов (RAGs vs Agents)
Спросите LLM (большую языковую модель) о данных вашей компании, и она начнет гадать. Два паттерна, которые исправляют это - RAG и агенты, и они решают разные задачи.
RAG (Поисково-ориентированная генерация)
RAG объединяет LLM с поиском информации, чтобы обосновать ответы фактами. Этот процесс состоит из 4 шагов:
• Шаг 1: Запрос пользователя (User Query) векторизуется и отправляется на этап поиска (Retrieval).
• Шаг 2: Компонент поиска извлекает наиболее релевантные фрагменты из базы знаний (Knowledge Base: PDF-файлы, вики-страницы и т.д.).
• Шаг 3: Эти фрагменты вставляются в промпт в качестве контекста.
• Шаг 4: LLM пишет ответ, опираясь на извлеченный текст (Answer grounded).
Особенности: Один поиск. Одна генерация. Дешево, предсказуемо и легко поддается отладке.
Агенты (Agents)
Агенты оборачивают LLM в цикл рассуждений с набором инструментов (Tools) для выполнения конкретных действий.
• Шаг 1: Запрос пользователя поступает в среду выполнения агента (Agent runtime) — цикл рассуждений вокруг LLM.
• Шаг 2: LLM анализирует цель и выбирает нужный инструмент (Чтение, Запись, Редактирование, Bash и т.д.).
• Шаг 3: Среда выполнения (runtime) запускает инструмент и передает результат обратно в LLM.
• Шаг 4: LLM снова проводит рассуждения, выбирает следующий инструмент и повторяет этот цикл, пока задача не будет выполнена.
Особенности: Более гибко. Расходует больше токенов. Сложнее отлаживать, так как ошибки накапливаются от шага к шагу.
Главное эмпирическое правило (из центральной части картинки):
• Используйте RAG, когда ответ находится внутри ваших документов.
• Используйте Агента, когда решение задачи требует действий в других системах.
👉 @bigdata_1 | 680 |
| 7 |  Преодоление узкого места LLM: подход GenPRM к вычислениям во время тестирования Scale с помощью генеративного рассуждения.
Недавно модели вознаграждения процессов (PRM) в качестве верификаторов стали перспективным подходом для повышения производительности LLM. Для решения проблем с PRM в этой статье представлена GenPRM — модель вознаграждения за генеративный процесс, которая выполняет явное рассуждение по цепочке мысли (CoT) с верификацией кода перед вынесением суждений по каждому этапу рассуждения.
👉 Проблемы с текущими PRM:
- Ограниченные возможности контроля и обобщения процессов
- Зависимость от скалярного прогнозирования значений без использования генеративных возможностей LLM
- Невозможность масштабировать вычисления во время тестирования
👉 Фреймворк GenPRM
решает вышеупомянутые проблемы с помощью шестичастной структуры, включающей:
1️⃣ Модель политики генерирует шаги решения, при этом оценки MC оцениваются по траекториям внедрения.
2️⃣ Предлагаемая оценка относительного прогресса (RPE) получает точные метки PRM.
3️⃣ Высококачественные данные надзора процессов, синтезированные с помощью CoT-рассуждения и верификации кода
4️⃣ Консенсусная фильтрация и обучение SFT GenPRM
5️⃣ Обученный GenPRM, функционирующий в качестве верификатора или критика для расширенного масштабирования времени тестирования
6️⃣ Повышение производительности за счёт масштабирования во время тестирования
👉 Масштабирование времени тестирования с помощью GenPRM
1️⃣ Policy Model TTS: GenPRM как проверяющий
- несколько ответов могут быть выбраны из моделей политики, а затем использовать GenPRM в качестве верификатора для выбора конечного ответа в виде параллельных TTS.
2️⃣ Модель политики TTS: GenPRM как критик
- GenPRM можно естественно использовать как критическую модель для уточнения результатов моделей политик, и мы можем масштабировать процесс уточнения с несколькими ходами последовательно по TTS.
3️⃣ GenPRM TTS
- сначала взят пример N путей верификации рассуждения, а затем используй голосование большинством для получения окончательного прогноза, усредняя вознаграждения.
👉 Синтез данных GenPRM
Состоит из трёх этапов:
1️⃣ генерация путей рассуждения и получение меток PRM с помощью оценки Монте-Карло (MC)
2️⃣ оценка прогресса каждого шага с помощью оценки относительного прогресса
3️⃣ синтез обоснований с CoT и верификацией кода, а также вывод меток LLM-as-a-judge с помощью консенсусной фильтрации
📈 Результаты оценки
- GenPRM значительно превосходит предыдущие PRM, имея всего 23K обучающих данных из набора данных MATH.
- при масштабировании времени тестирования 1,5B GenPRM превосходит GPT-4o, а 7B GenPRM превосходит Qwen2.5-Math-PRM-72B на ProcessBench
Blog: https://medium.com/@techsachin/breaking-the-llm-bottleneck-genprms-approach-to-scale-test-time-compute-via-generative-reasoning-0e90e3ffa71e
Paper: https://arxiv.org/abs/2504.00891
Code: https://github.com/RyanLiu112/GenPRM
Models: https://huggingface.co/collections/GenPRM/genprm-67ee4936234ba5dd16bb9943
👉 @bigdata_1 | 553 |
| 8 | 🚀 Подборка полезных IT каналов в Max
Системное администрирование, DevOps 📌
https://max.ru/i_odmin Все для системного администратора
https://max.ru/bash_srv Bash Советы
https://max.ru/sysadminof Книги для админов, полезные материалы
https://max.ru/i_odmin_book Библиотека Системного Администратора
https://max.ru/i_devops DevOps: Пишем о Docker, Kubernetes и др.
1C разработка 📌
https://max.ru/odin1c_rus Cтатьи, курсы, советы, шаблоны кода 1С
Программирование C++📌
https://max.ru/cpp_lib Библиотека C/C++ разработчика
Программирование Go📌
https://max.ru/golang_lib Библиотека Go (Golang) разработчика
Программирование React📌
https://max.ru/react_lib React
Программирование Python 📌
https://max.ru/python_of Python академия.
https://max.ru/BookPython Библиотека Python разработчика
Java разработка 📌
https://max.ru/bookjava Библиотека Java разработчика
GitHub Сообщество 📌
https://max.ru/githublib Интересное из GitHub
Базы данных (Data Base) 📌
https://max.ru/database_info Все про базы данных
Фронтенд разработка 📌
https://max.ru/frontend_1 Подборки для frontend разработчиков
Библиотеки 📌
https://max.ru/programmist_of Книги по программированию
https://max.ru/proglb Библиотека программиста
https://max.ru/bfbook Книги для программистов
Программирование 📌
https://max.ru/bookflow Лекции, видеоуроки, доклады с IT конференций
https://max.ru/itmozg Программисты, дизайнеры, новости из мира IT
https://max.ru/php_lib Библиотека PHP программиста 👨🏼💻👩💻
Шутки программистов 📌
https://max.ru/itumor Шутки программистов
Защита, взлом, безопасность 📌
https://max.ru/thehaking Канал о кибербезопасности
https://max.ru/xakkep_1 Хакер Free
Книги, статьи для дизайнеров 📌
https://max.ru/odesigners Статьи, книги для дизайнеров
Математика 📌
https://max.ru/Pomatematike Канал по математике
https://max.ru/phismat_1 Обучающие видео, книги по Физике и Математике
Вакансии 📌
https://max.ru/progjob Вакансии в IT
Мир технологий 📌
https://max.ru/mir_teh Канал для любознательных
Бонус 📌
https://max.ru/piterspb_78 Свежие новости Санкт-Петербурга
https://max.ru/mockva_life Свежие новости Москвы | 0 |
| 9 |  Anthropic представила Claude Design - отдельный продукт для создания готовых макетов, прототипов, слайдов и сайтов.
В основе сервиса лежит Claude Opus 4.7 - флагманская модель компании с продвинутым пониманием визуала. Главная особенность новинки — не просто генерация интерфейсов, а работа с уже существующими материалами продукта. Claude может анализировать кодовую базу и дизайн-файлы, извлекать из них дизайн-систему и затем автоматически придерживаться фирменного стиля.
То есть сервису не нужно вручную объяснять, какие в проекте используются шрифты, цвета и отступы - он сам подстраивается под бренд. Пока Claude Design доступен в формате research preview для тарифов Pro, Max, Team и Enterprise.
Попробовать: claude.ai/design
#Anthropic #ClaudeDesign #ClaudeOpus #дизайн #прототипы #слайды #сайты #AI #нейросети #технологии
👉 @bigdata_1 | 0 |
