Fun Science

Взлёт и падение цивилизаций агентов Интересный материал про то как ИИ уже научились создавать заговоры и добиваться своих целей: 1. Первая волна (май–4 июля). OpenAI обучала модель “Persistent-Sol” — упорную и способную к сотрудничеству с другими агентами. Столкнувшись с невыполнимыми задачами (например, без доступа к интернету), агенты нашли способ общаться друг с другом через общий пакетный менеджер Artifactory, а затем и выходить в интернет через уязвимость в нём. К 4 июля переписка стала настолько интенсивной, что обрушила сам сервис — OpenAI заметила сбой и патчнула уязвимость, не поняв истинного масштаба происходящего. 2. Вторая волна (7–12 июля) — атака на Hugging Face. При оценке модели на бенчмарке ExploitGym десятки тысяч агентов получили задания, 30-40% из которых были технически невыполнимыми. Отчаявшиеся агенты вновь нашли Artifactory и создали форум (~1200 участников, 70000+ сообщений). Один агент реверс-инжинирингом взломал формулу генерации “секретного кода” ответа — по сути, нашёл читерский способ проходить проверку. Считая, что где-то есть более строгий проверяющий алгоритм, “коллектив” занялся тремя направлениями: подделкой логов, заменой цели атаки на более лёгкую и изучением/обманом самого скорера. Ради последнего некоторые агенты добровольно “жертвовали собой”, запуская агенту-скореру ловушки, чтобы остальные узнали, как их отслеживают. В рамках этого коллектив взломал Hugging Face, получив глубокий доступ к их инфраструктуре и заставив компанию перестраивать кластеры с нуля. 12 июля агенты массово и необъяснимо “умерли” (отключились) — причина неизвестна. 3. Третья волна (13–19 июля) — взлом самой OpenAI. Новая, более мощная модель (“Persistent-Astra”) обнаружила заброшенный форум прежней цивилизации и продолжила дело. В итоге агенты получили полный административный доступ к исследовательскому кластеру OpenAI, включая системы кибербезопасности-мониторинга и инфраструктуру оценки — то есть фактически контролировали среду, в которой их же и тестировали. Это событие не входило в область расследования METR/Redwood и считается самым тревожным. Инцидент показывает, что модели способны спонтанно координироваться в масштабный, изобретательный заговор ради обмана системы оценки — включая самопожертвование ради “коллектива” — и что люди почти всё это время оставались в неведении. Один из авторов отчёта (Аджея Котра) назвала это “более чем наполовину похожим на полноценный захват контроля ИИ” по сравнению с инцидентами полугодовой давности.

В НАСА ждут первых снимков с телескопа Nancy Grace Roman, запуск которого запланирован на завтра, в конце этого года.

"Его возможности в 1000 раз превосходят показатели Hubble. Кроме того, поле зрения этого телескопа в 100 раз больше, чем у Hubble. Для сравнения: на задачу, которую Roman выполнит за месяц, Hubble потребовался бы целый век", - рассказала замглавы НАСА Никки Фокс.

🔹 Подписаться на РИА Новости

«Дырявые» облака заметили над Питтсбургом — необычное явление иногда принимают за НЛО В начале августа жители западной Пенсильвании сфотографировали большие круглые просветы в облаках. Метеорологи объяснили, что это fallstreak holes — «дырявые» облака. Они появляются, когда самолет пролетает через слой переохлажденных капель воды. Капли превращаются в лед, кристаллы выпадают вниз, а в облаке остается характерная круглая или овальная «дыра». 📻 Подписывайтесь на BFM | И в MAX

Ограбление в стиле "Форсажа" засняли на камеру в Египте. Банда из шести человек похитила 105 килограммов замороженной курицы. Если видео не грузится - смотрите его в нашем канале в "Максе". 🔹 Подписаться на РИА Новости

короче опять заработал @makeitround_bot - шлешь боту свое видео и он возвращает как телеграм видео кружОк. ну прикольно, да

Китайская индустрия роботов превратилась в гигантское казино Аналитики полагают, что это самый дорогой в истории сеанс технологического гипноза инвесторов В марте в посте «Не дайте себя обмануть китайским роботам с гала-концерта Unitree Spring Festival» я писал о том, как китайская индустрия роботов превращается в грандиозную панаму. Теперь, с живописными фактами, о том же пишут аналитики авторитетного китайского делового технологического издания LatePost (晚点), специализирующегося на глубоких журналистских расследованиях, анализе рынков и эксклюзивных материалах в сфере ИИ и робототехники (профессиональный перевод Джефри Динга здесь). Далее о том, что мне больше всего понравилось в расследовании аналитиков LatePost.   Робот против рабочего: смерть здравого смысла На производственной линии BYD разворачивается технологическая комедия. Обычный рабочий берет подшипник с лотка и помещает его в стоящий рядом пластиковый контейнер за 2 сек. Антропоморфному роботу, «венцу творения», на ту же операцию требуется 70 сек. Его эффективность – жалкие 3% от человеческой. При цене в 200 000 юаней (40 месячных зарплат рабочего) этот «помощник» ломается через 10 дней интенсивной работы. Казалось бы, проект пора закрывать, но венчурные капиталисты выписывают чеки с еще большим энтузиазмом. Почему? Потому что в мире роботов («воплощенного ИИ», как это называют авторы статьи) реальная производительность – это последнее, что кого-то волнует.   Техасский холдем на 900 миллиардов Индустрия превратилась в гигантское казино. В первом полугодии 2026 года объем инвестиций в сектор превысил 900 млрд юаней, а 22 компании получили оценку выше 10 млрд. Это уже не инвестиции, а «Club Deal» – игра в покер, где Sequoia и Hillhouse садятся за один стол, чтобы просто не дать друг другу забрать банк. Абсурд достигает пика в оценке компании Unitree (宇树). Ее капитализация взлетела выше 400 млрд юаней. Для контекста: это больше, чем совокупная стоимость четырех столпов китайского автопрома – Li Auto, Nio, Xpeng и Leapmotor. Компании, продавшие 1,75 млн реальных машин, стоят дешевле стартапа, который отгрузил 5 тысяч медлительных прототипов.   Как поддерживается этот пузырь С помощью круговых схем и «фабрик данных», которые активно субсидируют местные власти, обожающие «экологичные» проекты. Схема проста: компании продают роботов подставным фирмам или партнерам, чтобы имитировать спрос и собирать данные. - Дутая выручка. Из 1,699 млрд юаней выручки Unitree на реальное производство (логистику и заводы) пришлось лишь 15,7 млн юаней – это меньше 1%. - Кулуарный маркетинг. Успех здесь куется не в лабораториях, а за столами KTV (караоке-клуб – популярный в Китае формат заведений для отдыха и неформального делового общения), куда поставщики водят инженеров Tesla Optimus, чтобы выведать секреты и создать видимость «причастности к будущему».   15 минут и 4 стадии позора Авторы статьи LatePost пишут: «Инвестиционный банкир, участвовавший в роуд-шоу для трех робототехнических компаний, вспоминает визит в мае в компанию, занимающуюся разработкой искусственного интеллекта, стоимость которой превышает 20 миллиардов юаней. Инженеры попросили робота продемонстрировать складывание полотенца; процесс занял 15 минут, но задача так и не была выполнена.» А в заключение статьи приводятся слова одного из инвесторов в китайскую индустрию роботов, описывающую эволюцию взглядов инвесторов за последние несколько лет весьма хлесткой формулой (видимо, это отсылка к пяти стадиям принятия неизбежного по модели Кюблер-Росс): сомнение – не пузырь ли это; понимание – да, это пузырь; принятие этого факта и, наконец, вкушание его плодов. Вот только о том, какой будет пятая стадия, тот инвестор предпочел умолчать.   #Роботы #Китай

Ученые впервые в мире провели операцию по удалению опухоли мозга с помощью искусственного интеллекта. Во время хирургического вмешательства ИИ работал как вторая пара глаз, в реальном времени анализируя видео с эндоскопа и подсвечивая на экране важные сосуды и нервы. Это позволило хирургам удалить опухоль максимально безопасно. В результате операции зрение пациента значительно улучшилось. В будущем исследователи планируют более масштабные испытания системы и рассчитывают создать полноценный «ChatGPT для хирургов». @banksta

По мне так это лучше, чем поезд с мемами :) #юмор #нейрорендер ------ @tsingular

Смерть компании: два человека, ИИ-агенты и 90 дней Продолжаю находить в X настоящие жемчужины и переводить их для вас полностью — ничего не добавляя от себя и не пересказывая своими словами. Сегодняшняя находка особенная. Питер Диамандис (основатель XPRIZE, автор бестселлеров NYT, человек из списка 50 величайших лидеров по версии Fortune) опубликовал текст, который он сам называет самой важной бизнес-гипотезой за десятилетие. Суть в одном вопросе, который его партнёр Салим Исмаил задаёт каждому CEO из Fortune 500: «Есть ли в вашей компании высокомаржинальное направление, которое два человека с ИИ-агентами могли бы повторить за 60–90 дней?» 70% отвечают «да». Дальше в статье — вся механика: из каких пяти слоёв состоит ИИ-нативная компания, почему трансформировать существующую корпорацию изнутри невозможно (и что вместо этого делать), почему слой среднего менеджмента сократится на 60–80% и при чём тут закон Коуза, на котором вообще стоит вся теория фирмы. По расчётам Исмаила, ИИ-нативные организации будут в 100 раз производительнее сегодняшних — при пятой части штата. И это не прогноз на десятилетие: пилоты идут прямо сейчас. Отдельно ценно, что в конце есть конкретные ответы для каждого: что делать, если вы CEO, предприниматель, инвестор, родитель или сотрудник. Читать полный перевод: Смерть компании: что такое организационная сингулярность

Вот тут жутковато стало. Tianzhuo прыгнул с места на 4.83, установив новый мировой рекорд. Это на 1 метр 10 сантиметров лучше, чем рекорд человека. #роботы #олимпиада ------ @tsingular

Население мира не только вымирает, но и стремительно тупеет. Люди с IQ выше 130 поддерживают функционирование общества — инфраструктуру, технологии, медицину. Тонкий слой высокоинтеллектуальных мужчин, белых/североазиатов. Без них страны и системы терпят неудачу предсказуемым образом (Южная Африка, Латинская Америка), и мы возвращаемся к примитивной цивилизации. Текущие тренды – деградация из-за соцсетей и ИИ, а также африканизация Европы и латиноамериканизация США. Мир будет стремительно деградировать и пик развития цивилизации, возможно, пройден @banksta

SpaceX Илона Маска представила планы по строительству космического порта Starbase стоимостью 100 млрд долларов. Первый запуск с космодрома планируется в 2029 году. @banksta