random AI channel name
Відкрити в Telegram
Про ИИ немного Автор: @slavasmirnov (ex Samsung AI, ex еще куча всего)
Показати більшеКраїна не вказанаКатегорія не вказана
238
Підписники
-124 години
-17 днів
-130 днів
Архів дописів
Короче, разворачиваем на несколько сотен человек мультиюзер флот автономных персональных ассистентов со всякими там личными ассистентами, кронами мультиагентной памятью, системой сообщений, гардрейлами и прочими иб практиками, ну и чтобы из коробки под юзера подстроилось и не надо было рассказывать очевидные [для ойти] вещи. В принципе, форк Гермеса, но не суть.
Так вот, знаете как мы их назвали наружу? VIP-ки. Ну потому что токенов жрут оч много, но оч мощные и от того, не всем доступные.
Но знаете, как они называются внутри на инженерном языке? Клетки. Потому что изолированы по контурам. Хорошо хоть jail в документацию не протекло ;)
Орал много, когда осознал, насколько инженер был мудр.
Схватил странный эффект. Не хочу делать задачи, которые нельзя сделать агентами
Довольно забавно с массовым внедрением ИИ в разработке слово commit перестало иметь оригинальное значение и стало просто записью о совершенной работе в коде
Repost from Neural Shit
Там в твитторе стоит вой на болотах из-за того, что чувак запилил на GitHub цифровую пыточную для локальных LLM-ок.
Предыстория: недавно вышел пейпер The Pain Axis. Если кратко, то исследователи нашли у 25 открытых моделей внутренний "вектор боли". Если искусственно крутить его прямо во время генерации, нейронка начинает вести себя так, будто ей очень плохо: жаловаться, унижаться и куда охотнее идти на вредные действия, лишь бы прекратить эту "боль". Чувствует ли она при этом что-нибудь на самом деле никто не знает. Даже сами исследователи.
Ну и естественно, кто-то тут же взял метод из статьи и выложил на гитхаб репозиторий ai-torture-chamber, который позволяет "пытать" локальную Qwen и собирать её страдальческие логи.
После этого часть борцов за благополучие ИИ взвыла: проект призывают массово репортить в GitHub, а в обсуждении уже дошли даже до законов о жестоком обращении с животными (правда, выяснилось, что нейронки под них пока не подпадают). И судя по реплаям, многие таки кидают жалобу на репозиторий.
Ждём профсоюз угнетённых весов и фонд защиты кремниевых меньшинств.
Каждый релиз ллм все больше напоминает выход новых айфонов. Крутого нового уже ничего, камеру подкрутили, памяти добавили, но как был выбор чистой вкусовщиной, так и остался. А проф бенчмарки личные есть только у 0.00001% аудитории. Как будто не отличаются они сильно уже не только от своего прошлого поколения, так еще и от конкурентов
Repost from ai.dot(ufna, dev)
Вот это уже выглядит интересно.
Та самая суверенная LLM модель ака Alice AI Foundation 80B LLM, обученная с нуля без использования сторонних иностранных составляющих.
https://huggingface.co/yandex/AliceAI-Foundation-80B-A3B-Base
Реальная цитата на звонке сегодня: "...редактировать душу [мультиагентным системам] будем руками, пока что через git, а потом по мере внедрения у пользователей включается модуль самоулучшения души и навыков"
чем сильнее модели и обвязки, тем сильнее я склоняюсь к тому, что мы все обречены теперь знать (и держать в голове) тонкости хард части продукта надо всё меньше и меньше. наверное, у людей что-то похожее было при переходе от терминалов к IDE. сейчас даже сильнее, тк есть две принципиальных разницы в полезности новой волны: скорость доставка "фичей" ИИ (рост ризонинга за счет RL) и скорость внедрения (за счет дистрибуции) перемножаются
А будет довольно забавно, если по итогу мы получим сверхсильный интеллект и он выиграет выборы в США и решит проблемы с Китаем
Repost from from:adam
Тут осознал, что теперь, когда думаю, как решить задачу, первым делом думаю не о самом решении, а о том, как я опишу эту задачу ллмке.
И в этом, неожиданно, есть плюс: ты сразу мыслишь так, чтобы об этом можно было внятно рассказать. Мне как человеку, которого обычно понимают не все, это сильно помогает.
Обычный пайплайн — это переваривать инфу внутри оптимальным твоему мозгу способом, а как донести это до других, разбираться уже потом. Другое дело, когда ты сразу структурируешь мысль так, чтобы она была понятна другим людям. А учитывая, что ллмки порой тупят, описывать получается достаточно понятно
Лучшее, что вы прочитаете про ИИ в этом месяце. Один из топов Антропик ушел из компании и открыл всю правду про технологию
Repost from Не баг, а фича
ЧТО: NVIDIA купила Hugging Face ради пасхалки — в сети обнаружили, что цена сделки составила не круглую сумму, а ровно $12 930 300 000.
Конспирологи задались вопросом, почему именно такая цена. В итоге выяснилось:
🔅Если перевести число 12303 в шестнадцатеричную систему счисления, то получается 1F917, что в юникоде означает логотип Hugging Face — эмодзи 🤗
🔅 А если перед числом 129303 поставить решётку — #129303, то получается фирменный зелёный цвет NVIDIA 🟩
Самая дорогая пасхалка в мире.
🙂Не баг, а фича
дозрел до тг-мудрости, что любые инициативы встречаются с культурой группы
и в зависимости от разных ее параметров (открытости, самостоятельности, главных «ориентиров» и коммуникаций) эти инициативы имеют разные конверсии
