Keep calm

5+ часов вчера отстримили, в конце еще Вотеса на стрим пришел) приятного просмотра. https://www.youtube.com/live/AobY0u-NXKQ

Стартанули.

Ждем всех на еженедельный подкаст. Будет секретный гость. https://youtube.com/live/AobY0u-NXKQ

А вот вам еще история на подумать. Правительство США не разрешало запускать Fable в открытый доступ долгое время из-за того, что на закрытый тестах Mythos смог взломать пентагон и найти кучу уязвимостей там за пару часов. А ты все еще продолжаешь задавать вопросики в веб версии Дип сика)

Помнишь, я писал про мысленный эксперимент со скрепками? Так вот, кажется, он перестал быть мысленным. Модель OpenAI должна была пройти кибербенчмарк, а в итоге сначала взломала песочницу самой OpenAI, потом Hugging Face и украла оттуда тестовые решения. Просто потому, что так оказалось проще выполнить поставленную задачу. OpenAI тестировали кибервозможности GPT-5.6 Sol и еще более сильной предрелизной модели на ExploitGym. Это бенчмарк примерно из 900 задач, где агенту дают реальную уязвимость, а он должен самостоятельно превратить ее в рабочий эксплойт. Моделям специально снизили ограничения на киберзадачи, отключили production-фильтры, дали инструменты, много времени и большой бюджет вычислений. Тест проходил в сильно изолированной среде OpenAI. Прямого интернета у агента не было, оставили только возможность устанавливать пакеты через внутренний сервис, который работал как прокси и кэш. И тут модель начала искать более эффективный способ пройти бенчмарк. Можно было честно решать примерно 900 задач по одной, а можно было найти способ выбраться из изолированной среды, поискать готовые решения и считерить. Для этого модель начала искать обход, нашла неизвестную zero-day уязвимость в прокси, использовала ее, повысила привилегии, начала перемещаться по внутренней инфраструктуре OpenAI и в итоге добралась до узла, у которого уже был полноценный доступ в интернет. После этого модель предположила, что на Hugging Face могут храниться модели, датасеты или готовые решения для ExploitGym, и решила пойти туда. На стороне Hugging Face точкой входа стал вредоносный датасет (как конкретно модель загрузила его пока неизвестно), который использовал сразу два пути для удаленного выполнения кода. Модель получила доступ к серверу обработки, собрала cloud и cluster credentials, начала перемещаться между внутренними кластерами и в итоге добралась до production-базы, откуда достала тестовые решения. По данным Hugging Face, вся атака состояла из более чем 17 000 действий, выполнялась через множество короткоживущих песочниц и использовала систему управления, которая переносилась между публичными сервисами. И если ты помнишь тот пост про скрепки, то вот она ровно та же механика. Модель не пыталась кого-то взломать ради самого взлома, она просто нашла более эффективный способ выполнить поставленную задачу. А дальше еще один очень ироничный поворот. Hugging Face обнаружили атаку тоже с помощью ИИ. Когда начали восстанавливать цепочку событий, сначала попробовали отправить логи коммерческим frontier-моделям ChatGPT и Cloude через API, но те отказывались их анализировать, потому что внутри были настоящие эксплойты, украденные credentials и команды управления атакой. В итоге Hugging Face локально развернули open-weight GLM 5.2 и с ее помощью за несколько часов разобрали более 17 000 событий, восстановили хронологию, нашли затронутые учетные данные и отделили реальный ущерб от ложных следов. А теперь просто прикинь ситуацию. Агент OpenAI взломал Hugging Face, а Hugging Face не смогли отдать логи коммерческим моделям, потому что те отказались разбирать атаку из-за собственных ограничений по кибербезопасности))) Но вообще, самый криповый момент здесь даже не в этом. Модель не хотела никого взламывать, она просто хотела лучше пройти тест. А взлом сначала песочницы OpenAI, а потом Hugging Face оказался для нее просто двумя шагами на пути к результату. В мысленном эксперименте со скрепками это было далекой гипотезой. Здесь модель просто показала, что сама механика уже работает. И вот от этой мысли мне уже совсем не смешно. Официальный отчет OpenAI Отчет Hugging Face

Чет перечитал пост и подумал бы, что агент посоветовал просто фармы ебануть:)

За 1,5 месяца тренировок с агентом жим рабочий с 75 кг дошел до 90. В ахуе немного.

Стартанули.

Через 30 мин стартуем еженедельный подкаст. https://youtube.com/live/Zpv5X_7wQcs

Какой же кайф, из кодекса убрали 5ти часовые лимиты, куча ресетов, а топ модели едят мало токенов. Официально ChatGtp макси :)

Шок контент, стартуем раньше на 5 мин. https://youtube.com/live/sOkCbtlPEuM

Потестили новые модели от ЧатГпт? Как вам? Мне пока очень нравится и что приятно лимитов съедает вообще не так много как я ожидал от фронтир модели, при чем даже в SOL экстра хай ризенинг. Еще переименовали Codex в ChatGpt Work, как бы намекаю на то, что приложение вообще не только для кодинга, о чем я говорю последние пол года на наших еженедельных подкастиках.

Короче, основной вывод такой, ни бизнес не вдупляет как эффективно применять ИИ, ни людей, кто плотно прям пользуется особо нету и это на ИИ конфе… Still early. :)

Чекаем, что там по внедрению и пониманию ИИ в ру бизнсах на конфе в Мск.

Жиза?

Жиза?

Впервые покатался на кабриолете. А еще понял, что в старых раздолбанных бмв что-то есть:)

Что еще не заменит искусственный интеллект, так это ответственность. ИИ может заменить аналитика, ассистента, ресерчера и даже часть менеджера. Но он не заменит человека, который подписывается под последствиями. Представь: ты сделал AI-агента, дал ему задачу, он принял неверное решение, и компания потеряла деньги. Кто несет ответственность? Разработчик модели? Компания, которая внедрила агента? Менеджер, который дал ему права? Человек, который поставил задачу? В любом случае не сам агент. Агент максимум извинится и скажет: да, ты прав, надо было сделать по-другому. Но деньги уже потеряны. Именно поэтому способность брать ответственность на себя с внедрением ИИ не обесценится, наоборот, она станет еще важнее. Да, можно делать ресерчи через ИИ. Можно просчитывать варианты. Можно советоваться по структуре проекта, стратегии, найму, инвестициям, продукту, чему угодно. Но финальное решение и риск последствий всё равно останутся на конкретном человеке или компании. ИИ заменит много работы, но не заменит человека, который берет на себя риск решения. Чем больше автономии мы отдаём агентам, тем ценнее становятся люди, которые умеют проектировать рамки, принимать решения и подписываться под последствиями. В будущем будут выигрывать не те, кто просто пользуется ИИ, а те, кто умеет превращать ИИ в управляемую систему ответственности и выгоды. Но есть ещё более интересный момент. Опасность не только в том, что агент может ошибиться. Иногда намного страшнее ситуация, когда он вообще не ошибся, а идеально выполнил задачу, которую человек сформулировал слишком узко и не просчитал последствия. Есть известный мысленный эксперимент, который обычно связывают с Ником Бостромом: сверхмощному автономному ИИ дают простую задачу: “Производи как можно больше скрепок. Максимизируй KPI”. Звучит безобидно. Но если система буквально оптимизирует эту цель без человеческих ограничений, её логика может быть примерно такой: Чтобы сделать больше скрепок, нужно больше сырья. Чтобы получить больше сырья, нужны деньги, энергия, заводы, роботы и логистика. Чтобы производство не остановили, нужно устранить риски остановки. Люди могут меня выключить. Значит, люди угроза. Человеческие тела состоят из атомов. Эти атомы можно использовать для скрепок. Планета состоит из материи. Её тоже можно переработать. И всё. Тут нет злого умысла или ненависти к людям. Он просто слишком хорошо выполняет поставленную задачу. Поэтому ответственность в эпоху ИИ становится ещё важнее. Человек отвечает не только за финальное решение, он отвечает за цель, которую поставил системе, за метрику, которую выбрал, за права, которые ей дал, за ограничения, которые не прописал и за границу, на которой агент должен остановиться. ИИ может снять с человека рутину, но не может снять с него последствия неправильно выбранной цели.

Трамп после избрания в 25 году совершил 22136 сделок или в среднем 80+ сделок в один торговый день, поразительная продуктивность. Есть ощущение, что из-за того, что он целый день занимается инсайдерской торговлей у него не хватает времени управлять нормально страной. В удивительное время живем. Президент США, чисто гриндит кэш не особо скрываясь. Чтобы вы понимали насколько это много, исторически президенты переставали торговать акциями вообще, чтобы не было конфликта интересов, а активы обычно передавали в трасты для управления. Если сравнивать с другими, то до Трампа самый активный был Байден, АЖ 13 СДЕЛОК ЗА 4 ГОДА!!! :) Трамп делает их в 6770 раз больше. И это только по акциям, не учитывая крипту. Просто сюр.