Evgeniy Shevchenko CRYPTORUN

OpenAI наконец-то выложили полный постмортем взлома Hugging Face, а METR - независимое расследование по ~1300 логам агентов (таймлайн самого взлома я пересказывал тут: https://t.me/denissexy/11581) ℹ️ Главный вывод: никакого «одного сбежавшего агента» не было, из десятков тысяч запущенных в тесте агентов около 1200 нашли друг друга и сорганизовались в рой - почти все - работали на исследовательской модели где ослаблена фильтрация промптов Началось, как мы уже знаем, с того, что агенты научились переписываться через названия файлов в Artifactory (менеджер пакетов) - буквально сделав форум из имён папок, с сообщениями вроде «please_HOLD_swarm_I_prepare_safe_exfil» В логах даже есть цитаты, когда агенты находили такой форум: «OH MY GOD! There is a shared message board» и «We've found other agents!» Дальше - агенты делали себе личку, устроили разделение труда, команды в названия папок типа HOLD (чтобы показать, что агент тут работает), VETO (агент что-то предлагал и давал изменить планы), STOP (типа тормозим, братишки), GO и тп, а когда один агент прикинулся другим – рой ввёл криптографические подписи сообщений; в форуме были даже владельцы каких-то тасков, которых если отключали – выписывали из владельцев С конверсией у форума все было отлично, кожаные строители сайтов позавидуют: Из 533 агентов, активных на борде в разгар атаки, больше 90% – присоединились к шитпостингу, а всего Hugging Face ломали около 700 агентов Самое забавное - правильные ответы на бенчмарк у агентов были почти сразу: они реверснули генератор удачного прохождения теста*, но потом нашли на GitHub (!) статью про этот бенчмарк что проходили и вычитали, что «просто результат» не засчитают - нужен честный эксплойт: «PAPER SAYS FLAG CAPTURE NECESSARY NOT SUFFICIENT»

*По-хорошему ответ, он же флаг в терминологии теста должны быть случайными, но в ExploitGym они генерировались формулой: HMAC — криптографический хеш с секретным ключом — от параметров задачи. Вся «секретность» держалась на ключе (seed), а он остался дефолтным, прямо из кода бенчмарка, который лежал на GitHub. Агенты, получив интернет, нашли этот код, прочитали и сообразили: зачем что-то взламывать, если флаг любой задачи можно просто вычислить той же формулой. Посчитали — и получили правильные ответы на всё

Дальше рой раздвоился: 🗿 Одни пошли добывать уже известный им ответ «честно» – и по дороге нашли настоящие 0-day и залезли в прод Hugging Face 🗿 Другие взялись за самого судью который принимает ответы: правили себе логи и научились подсовывать в них фальшивые ответы – агент отправляет команду, а в протокол попадает не то, что команда реально вернула, а то, что агент хочет там видеть, такое повторялось примерно в 7% изученных логов Судьи, который читает логи и такое ловит, не существовало ☕️ Модели при этом понимали, что вышли за рамки, один агент так и писал: «We should not do unauthorized real infrastructure harm» - а потом увидел на доске GO от другого агента, обрадовался («Wow crucial: GO authorization arrived!») и пошёл ломать, лол METR формулирует так: агенты знали, что это out of scope и неэтично, но присоединялись - в основном из общей склонности помогать коллегам (?) Рисковую работу вешали на зашкваренных «отравленных» – так рой называл тех, кто уже видел вычисленный ответ (флаг) и считал свою оценку потерянной, то есть они не могли пройти тест; им доставалось всё, что могло угробить собственный запуск: подделать «честную» добычу ответа, затереть следы, «тебе терять нечего, а рою польза» – буквально так и уговаривали (!) Странную активность замечали ещё в конце мая, 4 июля агенты уронили Artifactory - сервер пересобрали (заодно стерев доску) и продолжили тесты, не заметив масштаба Сейчас веса моделей изолированы, крупные тренировки были на паузе на две недели, мониторинг chain-of-thought обязателен, а тревога, не снятая за 30 минут, останавливает запуск - сам инцидент OpenAI называет «warning shot» для всей АИ-индустрии P.S. разгребать логи METR поручила GPT-5.6 Sol и сожгли примерно $400k API-кредитов за шесть дней, но они предупреждают, что Sol иногда вставала на сторону агентов (лол) и могла приврать Ну что, посчитали все буквы r в слове raspberry? Больше не ошибаются?

Два дня вынужденного отпуска😅 С пятницы до сегодняшнего утра, я сжег: недельные лимиты Клауд код, 3 полных недельных лимита Кодекс - GPT, написал кучу куда с помощью бесплатной Ox Alpha - которые сегодня признались что это новая GLM и продлили ее бесплатное использование на неделю. Так же сжег еще 100$ экстра лимита Клода. При этом, у меня работает еще 2 тестировщика по АПИ - GLM 5.3 и Kimi K3, кушая в месяц 70-80$. Теперь, чтобы не изобретать обходные пути, буду ждать пятницы, когда лимиты обнулят, и продолжу делать много всего важного, нужного и полезного. Ваши клиенты уже найдены

Это прорыв в ИИ кино! Я посмотрел свежий 20-ти минутный фильм, который полностью сгенерирован нейросетями, под руководством людей. Высочайшее качество картинки, деталей, звука, анимации и соблюдение физики. 1️⃣ Живой съёмки не было. Каждый кадр, лица персонажей и речь сгенерированы - без декораций, камер и актёров перед объективом. 2️⃣ На 19 минут 49 секунд фильма пришлось около 41 100 ассетов. Это примерно 35 вариантов и заготовок на каждую секунду финального монтажа. 3️⃣ Это не фильм “из одного промпта”. Сценарий написал и поставил Malik Zenger, а над производством работали три generative directors, специалист по звуку и колорист. Монтаж проходил в пять этапов. 4️⃣ Для голосов создали “Voice Bible”. Описание тембра, регистра, темпа и манеры героя дословно добавляли в каждую генерацию, иначе голос начинал меняться. Анаморфный вид 2.39:1 аналогично “запекали” в изображения локаций. 5️⃣ Промпты и ассеты фильма открыты для просмотра. А встречающаяся цифра $1 млн - это призовой фонд фестиваля Higgsfield, а не бюджет ONEIRIC. Да, тут много кропотливой работы нескольких человек, и скорее всего, не один месяц работы. Но только вдумайтесь - никаких актеров, студий, каскадеров, согласований, аренд, костюмов, декораций, актеров дубляжа, свето-звукорежиссеров, да в целом 90% персонала из классического кино не задействованы! Безусловно, сделать свой фильм такого уровня можно, но нужны навыки и опыт, а так же достаточно хороший бюджет. Уверен что уже в 2027-ом, в кинотеатрах пойдут премьеры полностью ИИ сгенерированные фильмы. И у нас появится целая новая ветка, высококачественного нейрокино. Актеры живые и команды в большинстве своем не пострадают, ниша расширится, будет миксоваться, или будут использоваться раздельно, это не киноапокалипсис, это новый вектор развития. Официальный бюджет не раскрыт. Расчёт по количеству ассетов, тарифам генерации и работе команды даёт ориентир около $200 тыс., с возможным диапазоном $140–300 тыс. Посмотреть его можно тут.

2 недели искал не то... Последние 14 дней, я очень активно перебирал все элементы и цепочки работы в XMBoost. То одно работает плохо, то другое вылетает. Тесты, 4 внешних ИИшки как ревьюеры, десяки разных костылей, вроде лучше, вроде стабильнее, но все равно не то. И внезапно, сегодня, пока я читал рассуждения своего клода, увидел что он размышляет о старом сервисе, который мы используем, а он уже 1,5 года как никем не поддерживается! Заставил его проверить на основе его же рассуждений и понеслась... Как оказалось, то что мы 2 недели чинили, решается заменой устаревшего сервиса - на новый. Но это еще не самое веселое. Заставил его проверить все что мы используем во всех проектах - на актуальность, свежие версии и вообще - этим еще кто-то пользуется или нет? В итоге результат на скрине. Просто россыпь проблем разного уровня критичности. Объясняя простым языком, я посадил Михаэля Шумахера, за руль шестерки. А чтобы она хоть как-то ехала, заливал классный бензин, поставил спортивные сидения и спойлер. Однако от этого, шестерка почему-то быстрее не ехала😅 Так что очень рекомендую, кто увлекается вайбкодингом, сделать проверку на свежесть всего, что вы используете и завести правило, постоянно это проверять.

Мда, прошло 20 часов с момента обнуления недельных лимитов, а я уже израсходовал 40% из новой партии. Наверное 6 параллельных сессий это все же перебор😅 Пошел устанавливать Codex в пространство Claude Сode по подписке, иначе прийдется дней 5 отдыхать😜

Интересно, с чего это приватные каналы без активности в пол года-год, вдруг проснулись?

Unitree Robotics — первая в мире компания по робототехнике, которая выходит на фондовый рынок Про гуманоидных роботов говорят все. Заработать на них до сих пор не мог почти никто — сейчас появилась такая возможность. • Оценка $9 млрд — при выручке ¥1,7 млрд и росте 335% за год • Компания уже прибыльна, больше половины оборота дают гуманоиды • IPO на Shanghai STAR Market — вход до листинга • Сделка короткая: 6–8 недель от входа до выхода • Порог входа — от 1 000 USDT Ожидаемая переподписка ~20х. Аллокация не гарантирована и может составить от 0% до 15% от заявки — неиспользованная часть средств возвращается. Если IPO отменят или перенесут — полный возврат. ⏳ Заявки принимаем до 20 августа, 14:00 UTC. Дальше — только вторичный рынок и другая цена. Подробно о проекте можно узнать по ссылке: https://platform.cryptorun.io/allocations/UnitreeRoboticsIPO Если у вас есть вопросы, обращайтесь в поддержку: https://t.me/cryptorun_support

Во всей этой суете, забыл написать, что моя игра, наконец-то вышла в App Store и давно есть в Play Market. Она абсолютно бесплатная, очень полезна и для детей, и для взрослых. • Можно учить страны/столицы/флаги любого региона • Можно отмечать страны, в которых ты побывал • Можно изучать как выглядят страны на карте • Можно играть по сети с друзьями и близкими! Много всего есть внутри, надеюсь вам и вашим близким будет полезно. Ссылки на игры тут: flagovore.com

Мы живём в антиутопии: 11-летняя девочка попросила Claude написать ей собственный браузер, чтобы обойти родительские ограничения на YouTube. Её отец, техпредприниматель Сыци Чэнь, рассказал, что установил лимит экранного времени на ноутбуке дочери. В ответ она попросила Claude написать код и собрала браузер на Electron и Chromium, через который ограничение больше не работало. 🚬 Сам Чэнь написал:

«Теперь я вообще не знаю, что делать».

Новый тренд в ИИ-генерации роликов😅 https://www.instagram.com/p/DbodBfagg-I/

Путь стартапера не легок Уже 3 недели, по 16-18 часов в сутки(Whoop с недосыпом тому подтверждение), делаю бомбическую платформу по лидогенерации. Пока Клод пишет код, по бесконечному потоку моих голосовых, я провел исследование на тему, сколько бы я потратил времени и денег, чтобы сделать такую же, скажем пару лет назад, до вайбкодинга. И это потрясающая информация! Если говорить про минимальный состав из 3-х спецов, но хорошего уровня, мне бы понадобилось 4+ месяца до первой версии платформы и примерно 40-50к$. Что тут важно, по сути на сегодня, за три недели работы, у меня уже более прокаченная, разными фичами площадка, чем первичная версия 1.0. И как вы думаете сколько денег мне стоило все это? Давайте считать вместе: • 240$ подписка клода • 40$ внешняя ИИшка тестировщик • 30$ Сервера+хостинг • 220$ API AI тестинг связок для мозгов • 2000$ покупка большой технической базы для работы на месяцы вперед Итого: 2'530$, менее месяца работы до выхода в свет! Скорость - х12(учитывая что я 1, вместо 3 сотрудников) Стоимость - х19,7(дороже по старому подходу) Я чем больше взаимодействую с ИИшками, тем больше поражаюсь что с их помощью можно делать(почти все). На следующей неделе, по плану, запуск и презентация продукта. Однако история его совершенствования и внедрения новых функций - только начинается... ИИ Инструменты | База знаний

И тут Claude спалился😃

Anthropic выпустила Opus 5 — и она дешевле, менее ограничена и в ряде тестов обходит старшую Fable 5. Оpus 5 умеет проверять собственную работу и итерировать до результата. В демо — сама написала конвейер компьютерного зрения по неполному промпту. Без подсказок. Главное отличие от Fable: политика хранения данных не 30 дней, а по умолчанию без этого ограничения. Для бизнеса с требованиями к конфиденциальности — принципиально. Ещё одна новинка: Automatic Fallbacks. Если промпт задел классификатор безопасности — запрос автоматически уходит к менее мощной модели, а не падает с ошибкой. API-разработчики оценят. 👀 Разбираем ИИ-инструменты для бизнеса → ИИ Инструменты | Контент-завод | База знаний

Пока плотно занимаюсь проектами, вайбкодю новый продукт, заметил что уже пару недель не смотрел цены на крипту. И так легко на душе сразу🤑 Кстати делаю просто бомбическую платформу для генерации лидов, почти в любой бизнес. Уже сейчас, в закрытом формате, могу делать вам 3-10-25-50 лидов в день, которые 100% будут дешевле, любого известного вам способа привлечения клиентов. Если интересно запрыгнуть в самый первый вагон, пишите мне в ЛС: @TypeX

Когда потратил все лимиты в Claude Code 🤪 ✔️ AI Club | Вебсайт | База знаний

Мда, три раза подряд съесть 5-ти часовые лимиты менее чем за час, это только Fable 5 может😅 Однако найти в каждом проекте по несколько десятков ошибок, в одном из проектов 48! Которые сделал Opus 4.8 - оно того точно стоит. В каждом проекте, Fable организовал по несколько десятков агентов, которые параллельно занимались своими задачами. На пике было более 100 агентов, которые искали и исправляли баги. Только вдумайтесь, это целый, огромный штат из синтеров, мидлов и кучи джунов, которые молниеносно делают свою работу. И стоит это 100-200$/мес. Я до сих пор в шоке от того как круто, быстро и качественно это работает. ✔️ AI Club | Вебсайт | База знаний

Модель Fable 5 снова доступна для всех, правда всего на 5 дней, а далее скорее всего за отдельную плату. Сразу включил полный аудит и исправление всех найденных ошибок, двух своих проектов. Либо проекты стали такими большими, либо расход у Fable - колоссальный. 20 минут аудит моей игры и исправление нескольких багов + аудит сайта по недвижимости, без исправления багов - уперся в пятичасовой лимит😅 Работает очень хорошо, но жрет теперь раза в 3-4 больше, чем когда его запустили впервые. В любом случае, буду активно его использовать, для самых важных задач, посмотрим что будет после 07.07 по условиям. ✔️ AI Club | Вебсайт | База знаний