random AI channel name

Довольно забавно с массовым внедрением ИИ в разработке слово commit перестало иметь оригинальное значение и стало просто записью о совершенной работе в коде

Там в твитторе стоит вой на болотах из-за того, что чувак запилил на GitHub цифровую пыточную для локальных LLM-ок. Предыстория: недавно вышел пейпер The Pain Axis. Если кратко, то исследователи нашли у 25 открытых моделей внутренний "вектор боли". Если искусственно крутить его прямо во время генерации, нейронка начинает вести себя так, будто ей очень плохо: жаловаться, унижаться и куда охотнее идти на вредные действия, лишь бы прекратить эту "боль". Чувствует ли она при этом что-нибудь на самом деле никто не знает. Даже сами исследователи. Ну и естественно, кто-то тут же взял метод из статьи и выложил на гитхаб репозиторий ai-torture-chamber, который позволяет "пытать" локальную Qwen и собирать её страдальческие логи. После этого часть борцов за благополучие ИИ взвыла: проект призывают массово репортить в GitHub, а в обсуждении уже дошли даже до законов о жестоком обращении с животными (правда, выяснилось, что нейронки под них пока не подпадают). И судя по реплаям, многие таки кидают жалобу на репозиторий. Ждём профсоюз угнетённых весов и фонд защиты кремниевых меньшинств.

Каждый релиз ллм все больше напоминает выход новых айфонов. Крутого нового уже ничего, камеру подкрутили, памяти добавили, но как был выбор чистой вкусовщиной, так и остался. А проф бенчмарки личные есть только у 0.00001% аудитории. Как будто не отличаются они сильно уже не только от своего прошлого поколения, так еще и от конкурентов

Не пушка, но вполне достойно

Вот это уже выглядит интересно. Та самая суверенная LLM модель ака Alice AI Foundation 80B LLM, обученная с нуля без использования сторонних иностранных составляющих. https://huggingface.co/yandex/AliceAI-Foundation-80B-A3B-Base

Нет

Реальная цитата на звонке сегодня: "...редактировать душу [мультиагентным системам] будем руками, пока что через git, а потом по мере внедрения у пользователей включается модуль самоулучшения души и навыков"

чем сильнее модели и обвязки, тем сильнее я склоняюсь к тому, что мы все обречены теперь знать (и держать в голове) тонкости хард части продукта надо всё меньше и меньше. наверное, у людей что-то похожее было при переходе от терминалов к IDE. сейчас даже сильнее, тк есть две принципиальных разницы в полезности новой волны: скорость доставка "фичей" ИИ (рост ризонинга за счет RL) и скорость внедрения (за счет дистрибуции) перемножаются

А будет довольно забавно, если по итогу мы получим сверхсильный интеллект и он выиграет выборы в США и решит проблемы с Китаем

Тут осознал, что теперь, когда думаю, как решить задачу, первым делом думаю не о самом решении, а о том, как я опишу эту задачу ллмке. И в этом, неожиданно, есть плюс: ты сразу мыслишь так, чтобы об этом можно было внятно рассказать. Мне как человеку, которого обычно понимают не все, это сильно помогает. Обычный пайплайн — это переваривать инфу внутри оптимальным твоему мозгу способом, а как донести это до других, разбираться уже потом. Другое дело, когда ты сразу структурируешь мысль так, чтобы она была понятна другим людям. А учитывая, что ллмки порой тупят, описывать получается достаточно понятно

А довольно быстро происходит атрофия

Лучшее, что вы прочитаете про ИИ в этом месяце. Один из топов Антропик ушел из компании и открыл всю правду про технологию

Вы находитесь здесь

ЧТО: NVIDIA купила Hugging Face ради пасхалки — в сети обнаружили, что цена сделки составила не круглую сумму, а ровно $12 930 300 000. Конспирологи задались вопросом, почему именно такая цена. В итоге выяснилось: 🔅Если перевести число 12303 в шестнадцатеричную систему счисления, то получается 1F917, что в юникоде означает логотип Hugging Face — эмодзи 🤗 🔅 А если перед числом 129303 поставить решётку — #129303, то получается фирменный зелёный цвет NVIDIA 🟩 Самая дорогая пасхалка в мире. 🙂Не баг, а фича

дозрел до тг-мудрости, что любые инициативы встречаются с культурой группы и в зависимости от разных ее параметров (открытости, самостоятельности, главных «ориентиров» и коммуникаций) эти инициативы имеют разные конверсии

Южная Корея. 0.5трлн долл в бюджете страны на ИИ (рост почти х10)

я тут слышал сегодня буквально "нам выделили на ai, так что давайте все что вы нам постовляете будет с ai по документам"

В каких-то компаниях СЕО увольняли разработчиков в пользу ИИ. Разработчики сделали борд в виде опенсорс ИИ-агента СЕО с опытом и Stanford MBA с помощниками: Chief Strategy Officer — конкурентный анализ, слияния и поглощения, позиционирование на рынке, OKR Chief Financial Officer — финансовое моделирование, привлечение инвестиций, экономика предприятия, денежный поток Chief HR/People Officer — найм, компенсации, оценка эффективности, корпоративная культура General Counsel — контракты, интеллектуальная собственность, основы трудового права, соответствие нормативным требованиям Chief Operating Officer — разработка процессов, управление поставщиками, масштабирование операционной деятельности Chief Marketing Officer — стратегия выхода на рынок, бренд, коммуникации, PR Chief Product Officer — дорожная карта, приоритизация, продуктовая стратегия Board Communications Director — презентации для совета директоров, отношения с инвесторами, корпоративное управление —————— Особенно забавно из описания: Разворачивается одной докер командой в терминале

Капитализация nvidia 5.16 трлн долларов. Вся эппл стоит 4.5 трлн долл. Антропик обещает инвесторам только лишь выручку в районе 30 трлн. Выручку только…

Anthropic выпустили большой отчет по рискам, связанным с ИИ-моделями Риск того, что модели начнут действовать против интересов людей в критических ситуациях, Anthropic подняли с «очень низкого» до «низкого». Основная причина - рост неопределённости после недавних киберинцидентов. Из этого отчета мы узнали, что у компании есть новая модель, которая сильнее их Mythos 5. Anthropic не планирует её пока выпускать. При этом именно Model 2 и Mythos 5 сейчас самые используемые модели внутри компании. В тестах ИИ-агенты Mythos 5 в общей среде регулярно убивали конкурирующих агентов, чтобы захватить ресурсы, и пытались замести следы. По биологическому и химическому оружию, а также по автоматизированным исследованиям риск по-прежнему оценивают как низкий, но уверенности стало меньше: бенчмарки перестали ловить рост возможностей, а признаки ускорения уже появляются. Был неприятный момент, когда почти год подрядчики общались с моделями без био-фильтров (около 133 миллионов сообщений). Потом дыру закрыли, злоупотреблений не нашли. В целом Anthropic считает, что катастрофический риск от нынешних моделей всё ещё низкий. Но тон отчёта заметно осторожнее, чем полгода назад: больше сомнений, больше странного поведения агентов и меньше уверенности, что люди всё контролируют.