ch
Feedback
Мы пилим сук, на котором сидим

Мы пилим сук, на котором сидим

前往频道在 Telegram

Инженеры учат нейронки работать за себя. Кейсы из жизни. https://ai.ovc.me/ https://youtube.com/@wearefired_ai Для связи @ovcme

显示更多
未指定国家未指定类别
390
订阅者
+124 小时
+27 天
+5030 天
帖子存档
Каждый раз, когда мне музыкальные сервисы подкидывают нейрослоп музыку я вижу это примерно так.
Каждый раз, когда мне музыкальные сервисы подкидывают нейрослоп музыку я вижу это примерно так.

Anthropic снова продлила доступ к Claude Fable 5. Теперь до 19 июля. Недельные лимиты тоже снова увеличены на 50%. Кажется, я
Anthropic снова продлила доступ к Claude Fable 5. Теперь до 19 июля. Недельные лимиты тоже снова увеличены на 50%. Кажется, я уже где-то видел эту бизнес-модель. Sunlight много лет закрывал последние магазины и проводил финальную ликвидацию. Anthropic теперь каждую неделю в последний раз даёт Fable 5 по обычной подписке. Осталось добавить баннер: «CLAUDE FABLE 5 УХОДИТ НАВСЕГДА. ПОСЛЕДНИЕ 7 ДНЕЙ. ЛИМИТЫ ДО 50%. УСПЕЙТЕ ПОРАБОТАТЬ».

Claude Fable 5 уже начинает напоминать Sunlight: «Только до 7 июля!» «Ладно, до 12-го!» «Последняя неделя, до 19-го!» «Лимиты
Claude Fable 5 уже начинает напоминать Sunlight: «Только до 7 июля!» «Ладно, до 12-го!» «Последняя неделя, до 19-го!» «Лимиты увеличены на 50%, больше такого не будет!» У Sunlight была бесконечная ликвидация, у Anthropic намечается бесконечная последняя неделя доступа. Механика та же: искусственный дефицит, дедлайн и регулярное торжественное продление акции. Можно сформулировать пост так: Anthropic снова продлила доступ к Claude Fable 5. Теперь до 19 июля. Недельные лимиты тоже снова увеличены на 50%. Кажется, я уже где-то видел эту бизнес-модель. Sunlight много лет закрывал последние магазины и проводил финальную ликвидацию. Anthropic теперь каждую неделю в последний раз даёт Fable 5 по обычной подписке. Осталось добавить баннер: «CLAUDE FABLE 5 УХОДИТ НАВСЕГДА. ПОСЛЕДНИЕ 7 ДНЕЙ. ЛИМИТЫ ДО 50%. УСПЕЙТЕ ПОРАБОТАТЬ».

Да. Claude Fable 5 уже начинает напоминать Sunlight: «Только до 7 июля!» «Ладно, до 12-го!» «Последняя неделя, до 19-го!» «Ли
Да. Claude Fable 5 уже начинает напоминать Sunlight: «Только до 7 июля!» «Ладно, до 12-го!» «Последняя неделя, до 19-го!» «Лимиты увеличены на 50%, больше такого не будет!» У Sunlight была бесконечная ликвидация, у Anthropic намечается бесконечная последняя неделя доступа. Механика та же: искусственный дефицит, дедлайн и регулярное торжественное продление акции. Можно сформулировать пост так: Anthropic снова продлила доступ к Claude Fable 5. Теперь до 19 июля. Недельные лимиты тоже снова увеличены на 50%. Кажется, я уже где-то видел эту бизнес-модель. Sunlight много лет закрывал последние магазины и проводил финальную ликвидацию. Anthropic теперь каждую неделю в последний раз даёт Fable 5 по обычной подписке. Осталось добавить баннер: «CLAUDE FABLE 5 УХОДИТ НАВСЕГДА. ПОСЛЕДНИЕ 7 ДНЕЙ. ЛИМИТЫ ДО 50%. УСПЕЙТЕ ПОРАБОТАТЬ».

В прошлом посте я писал, что проектную документацию не очень разумно сразу резать на случайные чанки и отправлять в векторную
В прошлом посте я писал, что проектную документацию не очень разумно сразу резать на случайные чанки и отправлять в векторную базу. Но одной структуры тоже мало. Даже если система уже понимает, где проект, стадия, том, раздел, документ и лист, ей все равно нужно как-то искать внутри этого хозяйства. И вот тут начинается современный RAG. Есть dense-поиск, он же векторный. Он ищет по смыслу. Если вы спросили про насосы, а в документе написано «насосная установка», он вполне может понять, что речь примерно об одном и том же. Есть sparse-поиск, то есть обычный поиск по словам. Он менее модный, зато отлично находит шифры, марки оборудования, номера листов, обозначения систем и прочие вещи, которые инженер почему-то не хочет заменять красивыми синонимами. Dense понимает смысл. Sparse понимает, что DN150, ИОС5 и лист 17 лучше искать буквально, а не философски. Есть еще структурный поиск. Он сначала ограничивает область: нужный проект, стадия, том, раздел, документ. И уже потом ищет внутри. Но выбирать один поиск не обязательно. Можно запустить сразу несколько, а потом объединить результаты через RRF, Reciprocal Rank Fusion. Название звучит так, будто сейчас понадобится отдельный сервер и человек с докторской степенью. На деле принцип довольно простой. Каждый поиск составляет свой рейтинг результатов. RRF смотрит, какие документы оказались высоко сразу в нескольких рейтингах, и поднимает их выше. Если один и тот же лист нашли dense, sparse и структурный поиск, скорее всего, это не случайность. Если его нашел только векторный поиск, потому что в соседнем проекте был похожий абзац, это уже повод не спешить. Для проектной документации такая схема выглядит довольно естественно. Лист может совпасть по смыслу вопроса, содержать нужный шифр, находиться в правильном томе и быть связан ссылкой со спецификацией. Каждый сигнал сам по себе может ошибаться. Вместе они уже дают нормальное основание открыть именно этот источник. Поэтому RAG постепенно перестает быть просто векторной базой с чанками. Dense, sparse, структура, ссылки между документами, версии файлов, заголовки таблиц и геометрия страницы могут работать как отдельные источники уверенности. А RRF собирает их в один рейтинг. То есть будущее RAG, возможно, не в том, чтобы сделать модель еще умнее. А в том, чтобы перестать заставлять ее угадывать, где лежит ответ.

А вы никогда не думали, что обычная проектная документация по сути очень машиночитаемая штука? Строгие требования к оформлени
А вы никогда не думали, что обычная проектная документация по сути очень машиночитаемая штука? Строгие требования к оформлению, сквозная маркировка, шифры, стадии, марки разделов, номера томов и листов. Есть содержание тома, ведомость листов, основная надпись, ссылки на другие документы, спецификации, экспликации, ведомости объемов работ. То есть проект уже сам по себе довольно неплохо размечен. Не специально для нейросети, конечно, но вся структура там есть. Человек, открывая проект, обычно не ищет ответ сразу по всем страницам. Он сначала понимает, какой это объект, какая стадия, какой раздел и том. Потом находит нужный лист, таблицу или схему. И только после этого начинает разбираться в содержании. А машину мы почему-то учим работать иначе. Берем комплект документации, режем его на случайные кусочки, складываем в векторную базу и просим найти несколько фрагментов, похожих на вопрос. После чего модель должна догадаться, относятся ли эти кусочки к одному проекту, не перепутана ли ПД с РД, не взята ли таблица из соседнего раздела и нет ли где-то продолжения на следующем листе. Иногда работает. Иногда модель уверенно отвечает по чужому тому. В общем, обычный RAG. Мне кажется, с проектной документацией правильнее начинать не с поиска похожего текста, а с восстановления ее собственной структуры: Документация → Проект → Стадия → Том → Раздел → Документ → Лист → Таблица. Причем не надо сразу заставлять нейросеть самой разбирать весь этот архив. Большая часть работы вполне детерминированная. Можно прочитать штампы, шифры и марки, найти состав тома, определить роли документов, собрать каталог таблиц и сохранить адреса исходных страниц. А уже потом давать модели не кучу похожих фрагментов, а нормальную карту проекта и возможность открыть конкретный источник. Возникла идея сделать для помощи РАГу механическую (без ИИ) читалку данных проектной инфомации. Она превращает папку проектной или рабочей документации в адресную read-only проекцию. Исходные файлы не меняет и не склеивает. Если не может однозначно собрать том, так и пишет, а не додумывает недостающее. Найденная таблица тоже не считается истиной только потому, что похожа на запрос. Каталог используется для навигации, а фактические данные повторно читаются из оригинального PDF с проверкой версии файла, страницы, геометрии и заголовка. Пока это не готовый электронный эксперт и не убийца всех RAG. Скорее попытка научить машину сначала понимать устройство проекта, а уже потом искать в нем ответы. https://github.com/proovcme/les-list/

А вы никогда не думали, что обычная проектная документация по сути очень машиночитаемая штука? Строгие требования к оформлению, сквозная маркировка, шифры, стадии, марки разделов, номера томов и листов. Есть содержание тома, ведомость листов, основная надпись, ссылки на другие документы, спецификации, экспликации, ведомости объемов работ. То есть проект уже сам по себе довольно неплохо размечен. Не специально для нейросети, конечно, но вся структура там есть. Человек, открывая проект, обычно не ищет ответ сразу по всем страницам. Он сначала понимает, какой это объект, какая стадия, какой раздел и том. Потом находит нужный лист, таблицу или схему. И только после этого начинает разбираться в содержании. А машину мы почему-то учим работать иначе. Берем комплект документации, режем его на случайные кусочки, складываем в векторную базу и просим найти несколько фрагментов, похожих на вопрос. После чего модель должна догадаться, относятся ли эти кусочки к одному проекту, не перепутана ли ПД с РД, не взята ли таблица из соседнего раздела и нет ли где-то продолжения на следующем листе. Иногда работает. Иногда модель уверенно отвечает по чужому тому. В общем, обычный RAG. Мне кажется, с проектной документацией правильнее начинать не с поиска похожего текста, а с восстановления ее собственной структуры: Документация → Проект → Стадия → Том → Раздел → Документ → Лист → Таблица. Причем не надо сразу заставлять нейросеть самой разбирать весь этот архив. Большая часть работы вполне детерминированная. Можно прочитать штампы, шифры и марки, найти состав тома, определить роли документов, собрать каталог таблиц и сохранить адреса исходных страниц. А уже потом давать модели не кучу похожих фрагментов, а нормальную карту проекта и возможность открыть конкретный источник. Возникла идея сделать для помощи РАГу механическую (без ИИ) читалку данных проектной инфомации. Она превращает папку проектной или рабочей документации в адресную read-only проекцию. Исходные файлы не меняет и не склеивает. Если не может однозначно собрать том, так и пишет, а не додумывает недостающее. Найденная таблица тоже не считается истиной только потому, что похожа на запрос. Каталог используется для навигации, а фактические данные повторно читаются из оригинального PDF с проверкой версии файла, страницы, геометрии и заголовка. Пока это не готовый электронный эксперт и не убийца всех RAG. Скорее попытка научить машину сначала понимать устройство проекта, а уже потом искать в нем ответы. https://github.com/proovcme/les-list/

Мы все радуемся, когда модель отвечает именно то, что нам хочется услышать, — а желаемое зачастую уже зашито в формулировке вопроса. Вот тут и прячется опасность, а как известно, люди и в обычной жизни очень часто становятся заложниками своих завышенных ожиданий. Итог эксперимента: прогонял прогнозы через модели с элементами взаимной критики и повторной проверкой фактов. Результат — точные прогнозы на 70% матчей Чемпионата мира по футболу, что в целом соответствует среднему бенчмарку возможностей современных моделей. Можно было лучше, но пару раз не послушал советов моделей — и всё же неплохо. После циклов Claude → Fable → Codex → Gemini и многократных перепроверок начинаешь гораздо лучше замечать, где именно каждая модель так или иначе «обманывает». Вывод: перепроверяйте выводы моделей по нескольку раз и не злоупотребляйте длинными чатами — долгая болтовня множит галлюцинации по экспоненте и в итоге уводит в заблуждение.

Не кейс, но всё же... Codex, безусловно, восхищает своей хладнокровностью и чёткостью работы. Но и он ошибается — как и любая
Не кейс, но всё же... Codex, безусловно, восхищает своей хладнокровностью и чёткостью работы. Но и он ошибается — как и любая другая модель. Модель — это «машина вероятных ответов», и у неё всегда есть своя степень точности и неточности. Держите в голове: 20–30% ответа может быть попросту придумано под вас — в зависимости от того, что именно вы попросили и каким тоном задали вопрос. Пример: попросите модель составить план реализации, а потом — раскритиковать и «уничтожить» его. Она с удовольствием сделает и то, и другое, хотя сам план не изменился ни на йоту. Вот тут и кроется суть — удобный интерфейс это полдела. Если один и тот же вопрос прогнать через несколько разных моделей, шанс получить релевантный ответ заметно растёт. Всем советую: перепроверяйте вывод LLM по нескольку раз, а не доверяйте первому ответу.

Мы все радуемся, когда модель отвечает именно то, что нам хочется услышать, — а желаемое зачастую уже зашито в формулировке вопроса. Вот тут и прячется опасность, а как известно, люди и в обычной жизни очень часто становятся заложниками своих завышенных ожиданий. Итог эксперимента: прогонял прогнозы через модели с элементами взаимной критики и повторной проверкой фактов. Результат — точные прогнозы на 70% матчей Чемпионата мира по футболу, что в целом соответствует среднему бенчмарку возможностей современных моделей. Можно было лучше, но пару раз не послушал советов моделей — и всё же неплохо. После циклов Claude → Fable → Codex → Gemini и многократных перепроверок начинаешь гораздо лучше замечать, где именно каждая модель так или иначе «обманывает». Вывод: перепроверяйте выводы моделей по нескольку раз и не злоупотребляйте длинными чатами — долгая болтовня множит галлюцинации по экспоненте и в итоге уводит в заблуждение.

Выяснение какая нейронка лучше часто напоминают мне разборки между любителями плейстейшон и пк. По мне так сейчас большие модели все более менее похожи, хоть и характеры разные. А вот удобство использования сильно отлчается, как и расход токенов. Некоторые машины просто любят поболтать и попытаться с тобой подружиться, что для инструмента вообще лишнее, как по мне. OpenAI уже обожглась на попытке заставить нейронку быть другом, теперь все ЧатГПТ по уровню "эмоций" и "сочувствия" на уровне МФЦ, а еще в настройках гордо красуется кнопка "добавить контакт на случай если машина решит что вы хотите сделать что-то плохое". А вот что реальо важно - удобство пользования машиной. Я сильно люблю Антропик, но их десктоп решение недалеко ушло от сделанного на коленке Кими Десктоп (кстати классная штука, но без денег - демка), только визуалайзер спасает. Это я все к чему? Апдейт ChatGTP c новыми моделями Sol/Terra/Luna - очень нравится. А режим удаленного управления и так был лучше всех а стал еще лучше. И убрали отдельное приложение Кодекса, теперь все в одном.

Работа с ЛЛМ полна магии. Сейчас модно стало не просто писать промты, а заключать с ЛЛМ контракты и заниматься с ней, простите, луп-инженерингом. Звучит, конечно, как беседа с продакт-менеджером после митапа. На самом деле все проще. Контракт это когда мы перестаём писать модели:
«ну ты там подумай, разберись и сделай нормально».
Потому что «нормально» в исполнении модели иногда означает: придумать недостающее, сгладить противоречия, назвать это анализом и сдать с лицом человека, который только что спас проект. Контракт говорит скучнее, зато полезнее:
вот входные данные; вот что надо найти; вот чего трогать нельзя; вот формат ответа; нет основания — не фантазируй; не знаешь — так и напиши.
То есть контракт это не магия. Это забор. Или шоры. А забор нужен не потому, что модель глупая. А потому что модель слишком услужливая. Ей скажешь «помоги», и она поможет так широко, что потом отдельно надо искать, где закончились данные и началась литература. Луп это следующий уровень недоверия. Модель сделала результат. Его проверили. Нашли косяки. Вернули обратно. Она поправила. Снова проверили. И так несколько раз, пока результат не стал похож на рабочий, или пока не стало ясно, что пациент бодр, разговорчив, но к труду не пригоден. Если результат проверяет другая модель, это уже луп с внешним ревьюером. Звучит почти как контроль качества. Почти. Потому что проверяющий тоже модель, такая же вероятностная машина, только с бейджиком «ревьюер». Она может найти реальную ошибку. Может пропустить главную. Может придумать замечание из воздуха. Может начать улучшать стиль вместо проверки смысла. Может посмотреть на красивую чушь и сказать: «в целом соответствует». То есть вместо одного стажёра у нас теперь два стажёра. Один пишет, второй ходит с красной ручкой. Иногда это резко повышает качество. Иногда они просто коллективно оформляют галлюцинацию в протокол. И да, ради справедливости: люди косячат не меньше моделей. Иногда даже талантливее. Человек тоже может не дочитать исходные данные, придумать недостающее по опыту, перепутать задачу, красиво оформить ерунду и потом защищать её с лицом «я двадцать лет так работаю». Так что проблема не в том, что ЛЛМ какая-то особенно ненадёжная. Проблема в том, что любой исполнитель без рамок и проверки начинает производить сюрпризы. Просто человек делает это медленно, дорого и с характером. А модель быстро, дёшево и без чувства вины. Поэтому контракты и лупы это не ритуал против искусственного интеллекта. Это обычная производственная гигиена. Дали задачу. Задали правила. Проверили результат. Вернули на исправление. Не поверили первому красивому ответу. С людьми, кстати, тоже работает. Контракт говорит модели: «гулять можно только здесь». Луп ходит следом и смотрит, не перелезла ли она через забор с табличкой «я так поняла». И нет, это не превращает ЛЛМ в надёжную машину истины. Это просто делает её менее опасным генератором уверенного текста. Что уже немало. Потому что главная проблема модели не в том, что она ошибается. Ошибаются все. Главная проблема в том, что она ошибается с интонацией человека, который сейчас будет учить вас жизни.

Вышла тут недавно очень достойная игра про Бонда, всем советую. И в сюжете там встречается навороченный квантовый компьютер, который делает всякое страшно умное. Что интересно, при этом никаких ИИ. И я решил глянуть, а что там вообще с квантовыми компьютерами, потому что несколько лет назад их обещали в режиме “вот-вот-щас-всё-будет”, а потом как будто тема куда-то пропала. Ну то есть ИИ приехал, врёт, тупит, рисует людей с шестью пальцами, но всё равно работает. А квантовые компьютеры где? Квантовый компьютер это не просто очень мощный компьютер, а отдельная странная машина на квантовой физике. Там не обычные биты, а кубиты, суперпозиция, запутанность, охлаждение почти до абсолютного нуля и прочая магия из лаборатории. Нужен он не для Экселя и мемов а для важного. Есть специальные задачи, где обычные компьютеры быстро упираются в стену: квантовая химия, новые материалы, криптография, моделирование сложных физических систем и прочая ракетная наука. То есть в теории это не “компьютер быстрее”, а “компьютер, который некоторые задачи решает вообще другим способом”. Обещали всё красиво. Есть три больших мифа будущего: ИИ, квантовые компьютеры и термояд. ИИ всё поймёт и заменит половину офиса. Квантовый компьютер всё посчитает, взломает, оптимизирует и найдёт новые материалы. Термояд даст на это бесконечную чистую энергию. Получается идеальная картинка: дата-центр будущего, внутри ИИ проектирует новый мир, рядом квантовая коробка считает невозможное, а за забором термоядерный реактор питает всё это хозяйство. Осталось только построить квантовый компьютер, построить термоядную электростанцию и научить ИИ не писать уверенную чушь. Что на самом деле. Квантовые компьютеры не исчезли и не остались чистой теорией. IBM, Google, Quantinuum, IonQ, Rigetti и другие реально делают квантовое железо, запускают алгоритмы и дают доступ к таким машинам через облака. Amazon развивает Braket как облачную витрину для разных квантовых устройств. Microsoft двигает Azure Quantum и собственную линию кубитов, хотя там вокруг подхода хватает научных споров. То есть кубиты есть, процессоры есть, эксперименты есть, облачный доступ есть. Проблема в другом. Всё это пока в основном эпоха NISQ, то есть шумные квантовые устройства промежуточного масштаба. По-человечески: машина уже есть, но она капризная, ошибается, требует сложной коррекции ошибок, охлаждения, лабораторной обвязки и не очень похожа на полезный промышленный инструмент. Это как если бы вам сказали, что автомобиль уже изобретён, но пока он ездит только по лаборатории, по вторникам, с командой инженеров вокруг и без гарантии, что доедет до ворот. С термоядом история похожая, только ещё старше. Там тоже всё время “почти получилось”. И это не совсем враньё: прорывы действительно есть, физика движется, установки строятся, плазму держат лучше. Но между “мы получили важный результат в эксперименте” и “у нас есть электростанция, которая стабильно отдаёт электричество в сеть” лежит огромная инженерная пропасть. В презентации это выглядит как энергетика будущего. В реальности это пока очень дорогой научный марафон. И поэтому из трёх мифов будущего нормально до людей доехал пока только ИИ. Да, кривой. Да, врёт. Да, иногда отвечает так, будто прочитал три статьи и сразу стал директором по всему. Но он уже работает здесь и сейчас. Делает мемы, картинки, тексты, код, ищет по документам, помогает с рутиной и реально экономит время. Его не надо ждать до 2039 года. Получается, что ИИ уже делает мемы про квантовый компьютер, который питается от термоядерного реактора. А сам квантовый компьютер и сам реактор пока находятся где-то в разделе “почти получилось, подождите ещё 15-30 лет”. Поэтому если коротко: будущее частично наступило, но очень неравномерно. ИИ уже таскает черновики и шутки. Квантовые компьютеры лежат в криостатах. Термояд греет надежды. А обычная инженерка, как всегда, тащит всё это на кабелях, охлаждении, электричестве и людях, которые потом разбираются, почему оно опять не работает.

Нашел случайно что-то похожее на решение. https://github.com/lumina-ai-inc/chunkr Хитрая чанковалка документов для РАГу. Вроде всем хороша, но требует докера и кучи ухищрений.

Мы ведь все очень любим PDF. И не любим adobe reader Читается везде, везде выглядит одинакого. Конечно же это не всегда так,
Мы ведь все очень любим PDF. И не любим adobe reader Читается везде, везде выглядит одинакого. Конечно же это не всегда так, но идея такая. Но есть большой минус - для машин pdf это мешанина из данных. PDF выглядит как документ. И в этом его главная подлость. Человек открывает файл и видит нормальную страницу: заголовок, таблицу, подпись, штамп, пару сносок, красивую колонку с цифрами. Кажется, что машина сейчас тоже все это прочитает, поймет и аккуратно разложит по полочкам. Но для машины PDF часто не документ, а куча букв, линий и картинок, прибитых гвоздями к координатам страницы. И вот сюда радостно запускают RAG. На словах все звучит отлично. Берем PDF, режем на куски, кладем в векторную базу, задаем вопрос, модель ищет нужное и отвечает по источникам. В презентации это выглядит почти неприлично красиво. На практике же выясняется, что таблица была не таблицей, заголовок оказался просто жирным текстом, порядок чтения поехал, OCR спутал ноль с буквой О, а нужная цифра уехала жить к соседней строке. Особенно весело начинается на сложных документах: проектной документации, книгах, каталогах, отчетах, инструкциях, банковских выписках, договорах с приложениями. Там, где человеку и так надо внимательно смотреть глазами, RAG внезапно превращается в уверенный генератор табличных грез. Проблема не в том, что RAG плохой. Проблема в том, что PDF нельзя скармливать ему как обычный текстовый файл. PDF сначала надо превратить в нормальный машинный документ: с порядком чтения, страницами, разделами, таблицами, координатами, картинками и понятными ссылками на источник.

Не знаю правда или нет, но очень смешно. Какие-то сверхмозги в строго научных целях попытались дообучить старую и слабую моде
+1
Не знаю правда или нет, но очень смешно. Какие-то сверхмозги в строго научных целях попытались дообучить старую и слабую модель Qwen3-4b на цепочках рассуждения Фейбла. Все прошло отлично, но модель теперь умеет отвечать на все одной фразой - Египет победил.

Какое лучшее решение для запоминания информации? Телефон, ERP, RAG? А вот и нет - обычный блокнот. Причем не только у людей,
Какое лучшее решение для запоминания информации? Телефон, ERP, RAG? А вот и нет - обычный блокнот. Причем не только у людей, но и у машин. Модель, как известно знает все и ничего и, самое главное, она вообще ничего не запоминает. Максимум что она делает - ведет свой маленький нейронный блокнотик куда пишет что ее оператор любит спрашивать и что о себе рассказывал. Бытует мнение, что подложить железному мозгу РАГу решает все проблемы. Модель тут же обретет истину, будет умной и не врать. Разумеется, это не так. Модели сейчас, очевидно, умные, если так можно говорить про кучу матриц, но они знают все и ничего. Что бы модель реально читала ваш огромный РАГ, набитый бесценной информацией - надо модели помочь. Чем лучше вы сварите рагу для модели - тем лучше ответы она будет давать. А начать стоит с блокнота. А точнее - с NotebookLM.

Вы посмотрели на все решения и подумали - а чего бы не сделать свое? Мысль звучит пугающе. Но ведь у нас эпоха нейрослопа! Могу сразу сказать - сделать свою систему можно. Если ничего вообще не понимать то будет сначала плохо, а потом еще хуже. Например умная нейронка воткнет вам как базу данных SQLlite,и все будет прекрасно ровно до того момента когда вы перестанете работать в системе один. Второй момент - не надо гнаться за модой и втыкать все фреймворки что нашли. Будет красиво. Но не будет стабильно. Это все, разумеется гипотезы. А вот тут по ссылке можно посмотреть как выглядит гипотеза.

Идеальное продолжение поста. Неприятно, но Клод я не сильно использую, больно прожорливый, при сомнительной выгоде и удобстве
Идеальное продолжение поста. Неприятно, но Клод я не сильно использую, больно прожорливый, при сомнительной выгоде и удобстве. А еще у них ужасающая нативка в Твиттере/Х.

Вернемся к теме нейронок. Мы все очень любим генерить нейронками наши гениальные и всем нужные продукты. Бывает рождается иде
Вернемся к теме нейронок. Мы все очень любим генерить нейронками наши гениальные и всем нужные продукты. Бывает рождается идеи и мы срочно кидаем ее агенту, чтобы он бросил все и начал делать. Он бросит и сделает, а вы будете помнить что он сделал и на какие части системы это повлияло? Через неделю вы про свою гениальную идею забудете, агент про нее уже забыл, а в коде остались подарки. Второй момент - у вас кончились токены. Или злой гугл забанил ваш купленный в Пятерочке аккаунт Антигравити. Третья ситуация - ваш чудо код мало того что не работает, так еще и сломал все вокруг себя. И что же делать? Очень просто - документировать.