Neural Networks | Нейронные сети

🧠 Почему агент ошибается, даже если модель умная Принято думать, что качество ИИ-агента зависит от модели: чем она мощнее, тем лучше результат. Чаще всего агент ломается не из-за модели, а из-за того, что её окружает. Это окружение называют харнесс (от англ. harness, «упряжь»). 🔧 Что такое харнесс Это всё, что превращает «голую» языковую модель в рабочего агента: • цикл, в котором модель думает, действует и проверяет себя; • инструменты: поиск, код, файлы; • память и управление контекстом; • обработка ошибок, ограничения и безопасность. 💻 Удобно сравнить с компьютером. Модель — это процессор, контекстное окно — оперативная память, внешние базы — диск, а харнесс — операционная система. 📊 Почему это важно: цифры • LangChain не трогал модель, а изменил только харнесс. В бенчмарке TerminalBench 2.0 его агент поднялся из-за пределов топ-30 на 5-е место. • Vercel убрал 80% инструментов из v0, и результаты стали лучше. • Manus за полгода пять раз переписывали харнесс и каждый раз упрощали. • По словам создателя Claude Code Бориса Черного, если дать модели проверять свою работу, качество вырастает в 2–3 раза. ⚠️ Где агенты спотыкаются • Ошибки накапливаются. Если каждый из 10 шагов удаётся в 99% случаев, вся задача удаётся только примерно в 90%. • Модель хуже замечает то, что лежит в середине контекста: качество может упасть больше чем на 30%. • Если контекст перегружен, агент «плывёт». Поэтому его сжимают, лишнее скрывают, а нужное подгружают по запросу. 🏗 Главная мысль Харнесс похож на строительные леса. Чем умнее становятся модели, тем тоньше он должен быть. Если харнесс только разрастается, это плохой знак. 💡 Что взять на заметку ✅ Если агент ошибается, сначала проверьте харнесс, а потом уже вините модель. ✅ Меньше инструментов часто означает лучший результат. ✅ Дайте агенту способ проверить себя: тесты, линтеры, скриншоты. ✅ Несколько агентов нужны только для действительно больших задач, например если у вас больше 10 пересекающихся инструментов. 📖 Полный разбор с примерами Claude Code, OpenAI и LangChain: https://habr.com/ru/articles/1023316/ #нейросети #ИИагенты #LLM