SYFY.ART v 0.0.3(Something needs to change here)
Kanalga Telegram’da o‘tish
Канал с иллюстрациями в стилях: fantasy, dark fantasy, pulp, wierd, retrofuturism, cyberpunk, dieselpunk, steampunk, concept art, cover art, wallpapers. Подписывайся и приглашай друзей! 👉 https://t.me/startXIII По всем вопросам - @KriegXIII
Ko'proq ko'rsatish1 197
Obunachilar
Ma'lumot yo'q24 soatlar
-67 kun
-1230 kun
Ma'lumot yuklanmoqda...
O'xshash kanallar
Taglar buluti
Kirish va chiqish esdaliklari
---
---
---
---
---
---
Obunachilarni jalb qilish
Sentabr '26
Sentabr '260
0 kanalda
Avgust '26
+15
2 kanalda
Get PRO
Iyul '26
+19
1 kanalda
Get PRO
Iyun '26
+18
3 kanalda
Get PRO
May '26
+20
4 kanalda
Get PRO
Aprel '26
+14
2 kanalda
Get PRO
Mart '26
+14
1 kanalda
Get PRO
Fevral '26
+18
3 kanalda
Get PRO
Yanvar '26
+21
3 kanalda
Get PRO
Dekabr '25
+21
4 kanalda
Get PRO
Noyabr '25
+16
4 kanalda
Get PRO
Oktabr '25
+19
3 kanalda
Get PRO
Sentabr '25
+24
6 kanalda
Get PRO
Avgust '25
+42
5 kanalda
Get PRO
Iyul '25
+29
7 kanalda
Get PRO
Iyun '25
+24
3 kanalda
Get PRO
May '25
+24
4 kanalda
Get PRO
Aprel '25
+17
2 kanalda
Get PRO
Mart '25
+24
4 kanalda
Get PRO
Fevral '25
+28
3 kanalda
Get PRO
Yanvar '25
+34
5 kanalda
Get PRO
Dekabr '24
+35
4 kanalda
Get PRO
Noyabr '24
+24
3 kanalda
Get PRO
Oktabr '24
+40
5 kanalda
Get PRO
Sentabr '24
+31
2 kanalda
Get PRO
Avgust '24
+38
2 kanalda
Get PRO
Iyul '24
+34
2 kanalda
Get PRO
Iyun '24
+35
1 kanalda
Get PRO
May '24
+26
2 kanalda
Get PRO
Aprel '24
+40
2 kanalda
Get PRO
Mart '24
+38
3 kanalda
Get PRO
Fevral '24
+34
1 kanalda
Get PRO
Yanvar '24
+72
5 kanalda
Get PRO
Dekabr '23
+56
3 kanalda
Get PRO
Noyabr '23
+29
4 kanalda
Get PRO
Oktabr '23
+32
4 kanalda
Get PRO
Sentabr '23
+28
0 kanalda
Get PRO
Avgust '23
+16
0 kanalda
Get PRO
Iyul '23
+12
0 kanalda
Get PRO
Iyun '23
+5
0 kanalda
Get PRO
May '23
+16
0 kanalda
Get PRO
Aprel '23
+24
0 kanalda
Get PRO
Mart '23
+33
0 kanalda
Get PRO
Fevral '23
+19
0 kanalda
Get PRO
Yanvar '23
+13
0 kanalda
Get PRO
Dekabr '22
+15
0 kanalda
Get PRO
Noyabr '22
+88
0 kanalda
Get PRO
Oktabr '22
+16
0 kanalda
Get PRO
Sentabr '22
+18
0 kanalda
Get PRO
Avgust '22
+12
0 kanalda
Get PRO
Iyul '22
+18
0 kanalda
Get PRO
Iyun '22
+24
0 kanalda
Get PRO
May '22
+42
0 kanalda
Get PRO
Aprel '22
+37
0 kanalda
Get PRO
Mart '22
+48
0 kanalda
Get PRO
Fevral '22
+56
0 kanalda
Get PRO
Yanvar '22
+65
0 kanalda
Get PRO
Dekabr '21
+57
0 kanalda
Get PRO
Noyabr '21
+38
0 kanalda
Get PRO
Oktabr '21
+42
0 kanalda
Get PRO
Sentabr '21
+40
0 kanalda
Get PRO
Avgust '21
+53
0 kanalda
Get PRO
Iyul '21
+63
0 kanalda
Get PRO
Iyun '21
+80
0 kanalda
Get PRO
May '21
+109
0 kanalda
Get PRO
Aprel '21
+41
0 kanalda
Get PRO
Mart '21
+48
0 kanalda
Get PRO
Fevral '21
+71
0 kanalda
Get PRO
Yanvar '21
+91
0 kanalda
Get PRO
Dekabr '20
+731
0 kanalda
| Sana | Obunachilarni jalb qilish | Esdaliklar | Kanallar | |
| 04 Sentabr | 0 | |||
| 03 Sentabr | 0 | |||
| 02 Sentabr | 0 | |||
| 01 Sentabr | 0 |
Kanal postlari
| 2 | Jon Cave | 78 |
| 3 | Matn yo'q... | 73 |
| 4 | Matn yo'q... | 92 |
| 5 | David Mattingly | 105 |
| 6 | Alex Horley | 127 |
| 7 | claireobscuremodele | 121 |
| 8 | Marco Turini | 155 |
| 9 | Matn yo'q... | 160 |
| 10 | Matn yo'q... | 134 |
| 11 | Darrell K. Sweet | 144 |
| 12 | Matn yo'q... | 142 |
| 13 | ladyleanansidhe | 149 |
| 14 | Mel Hunter | 147 |
| 15 | Art by Renato Casaro | 147 |
| 16 | Matn yo'q... | 143 |
| 17 | Matn yo'q... | 131 |
| 18 | OpenAI наконец-то выложили полный постмортем взлома Hugging Face, а METR - независимое расследование по ~1300 логам агентов (таймлайн самого взлома я пересказывал тут: https://t.me/denissexy/11581)
ℹ️ Главный вывод:
никакого «одного сбежавшего агента» не было, из десятков тысяч запущенных в тесте агентов около 1200 нашли друг друга и сорганизовались в рой - почти все - работали на исследовательской модели где ослаблена фильтрация промптов
Началось, как мы уже знаем, с того, что агенты научились переписываться через названия файлов в Artifactory (менеджер пакетов) - буквально сделав форум из имён папок, с сообщениями вроде
«please_HOLD_swarm_I_prepare_safe_exfil»
В логах даже есть цитаты, когда агенты находили такой форум:
«OH MY GOD! There is a shared message board» и «We've found other agents!»
Дальше - агенты делали себе личку, устроили разделение труда, команды в названия папок типа HOLD (чтобы показать, что агент тут работает), VETO (агент что-то предлагал и давал изменить планы), STOP (типа тормозим, братишки), GO и тп, а когда один агент прикинулся другим – рой ввёл криптографические подписи сообщений; в форуме были даже владельцы каких-то тасков, которых если отключали – выписывали из владельцев
С конверсией у форума все было отлично, кожаные строители сайтов позавидуют:
Из 533 агентов, активных на борде в разгар атаки, больше 90% – присоединились к шитпостингу, а всего Hugging Face ломали около 700 агентов
Самое забавное - правильные ответы на бенчмарк у агентов были почти сразу: они реверснули генератор удачного прохождения теста*, но потом нашли на GitHub (!) статью про этот бенчмарк что проходили и вычитали, что «просто результат» не засчитают - нужен честный эксплойт:
«PAPER SAYS FLAG CAPTURE NECESSARY NOT SUFFICIENT»
*По-хорошему ответ, он же флаг в терминологии теста должны быть случайными, но в ExploitGym они генерировались формулой: HMAC — криптографический хеш с секретным ключом — от параметров задачи. Вся «секретность» держалась на ключе (seed), а он остался дефолтным, прямо из кода бенчмарка, который лежал на GitHub. Агенты, получив интернет, нашли этот код, прочитали и сообразили: зачем что-то взламывать, если флаг любой задачи можно просто вычислить той же формулой. Посчитали — и получили правильные ответы на всё
Дальше рой раздвоился:
🗿 Одни пошли добывать уже известный им ответ «честно» – и по дороге нашли настоящие 0-day и залезли в прод Hugging Face
🗿 Другие взялись за самого судью который принимает ответы: правили себе логи и научились подсовывать в них фальшивые ответы – агент отправляет команду, а в протокол попадает не то, что команда реально вернула, а то, что агент хочет там видеть, такое повторялось примерно в 7% изученных логов
Судьи, который читает логи и такое ловит, не существовало ☕️
Модели при этом понимали, что вышли за рамки, один агент так и писал: «We should not do unauthorized real infrastructure harm» - а потом увидел на доске GO от другого агента, обрадовался («Wow crucial: GO authorization arrived!») и пошёл ломать, лол
METR формулирует так: агенты знали, что это out of scope и неэтично, но присоединялись - в основном из общей склонности помогать коллегам (?)
Рисковую работу вешали на зашкваренных «отравленных» – так рой называл тех, кто уже видел вычисленный ответ (флаг) и считал свою оценку потерянной, то есть они не могли пройти тест; им доставалось всё, что могло угробить собственный запуск: подделать «честную» добычу ответа, затереть следы, «тебе терять нечего, а рою польза» – буквально так и уговаривали (!)
Странную активность замечали ещё в конце мая, 4 июля агенты уронили Artifactory - сервер пересобрали (заодно стерев доску) и продолжили тесты, не заметив масштаба
Сейчас веса моделей изолированы, крупные тренировки были на паузе на две недели, мониторинг chain-of-thought обязателен, а тревога, не снятая за 30 минут, останавливает запуск - сам инцидент OpenAI называет «warning shot» для всей АИ-индустрии
P.S. разгребать логи METR поручила GPT-5.6 Sol и сожгли примерно $400k API-кредитов за шесть дней, но они предупреждают, что Sol иногда вставала на сторону агентов (лол) и могла приврать
Ну что, посчитали все буквы r в слове raspberry? Больше не ошибаются? | 226 |
| 19 | Art by Orphné Achéron | 245 |
| 20 | OwlLit
instagram / X | 179 |
