Futurepedia
前往频道在 Telegram
Полезные новости из мира ИИ. Новые инструменты, важные обновления, интересные кейсы и лучшие находки.
显示更多5 215
订阅者
-624 小时
-277 天
-11230 天
数据加载中...
吸引订阅者
九月 '26
九月 '260
在1个频道中
八月 '26
+13
在38个频道中
Get PRO
七月 '26
+4
在46个频道中
Get PRO
六月 '260
在33个频道中
Get PRO
五月 '26
+6
在38个频道中
Get PRO
四月 '26
+2
在26个频道中
Get PRO
三月 '26
+8
在37个频道中
Get PRO
二月 '26
+31
在24个频道中
Get PRO
一月 '26
+58
在11个频道中
Get PRO
十二月 '25
+60
在32个频道中
Get PRO
十一月 '25
+34
在18个频道中
Get PRO
十月 '25
+47
在32个频道中
Get PRO
九月 '25
+35
在23个频道中
Get PRO
八月 '25
+44
在29个频道中
Get PRO
七月 '25
+71
在19个频道中
Get PRO
六月 '25
+84
在25个频道中
Get PRO
五月 '25
+75
在31个频道中
Get PRO
四月 '25
+126
在37个频道中
Get PRO
三月 '25
+68
在26个频道中
Get PRO
二月 '25
+69
在28个频道中
Get PRO
一月 '25
+103
在51个频道中
Get PRO
十二月 '24
+89
在28个频道中
Get PRO
十一月 '24
+77
在26个频道中
Get PRO
十月 '24
+74
在26个频道中
Get PRO
九月 '24
+81
在32个频道中
Get PRO
八月 '24
+25
在8个频道中
Get PRO
七月 '24
+47
在18个频道中
Get PRO
六月 '24
+51
在44个频道中
Get PRO
五月 '24
+66
在37个频道中
Get PRO
四月 '24
+1 075
在11个频道中
Get PRO
三月 '24
+29
在22个频道中
Get PRO
二月 '24
+502
在83个频道中
Get PRO
一月 '24
+204
在23个频道中
Get PRO
十二月 '23
+236
在25个频道中
Get PRO
十一月 '23
+352
在95个频道中
Get PRO
十月 '23
+123
在9个频道中
Get PRO
九月 '23
+81
在0个频道中
Get PRO
八月 '23
+130
在0个频道中
Get PRO
七月 '23
+111
在0个频道中
Get PRO
六月 '23
+253
在0个频道中
Get PRO
五月 '23
+576
在0个频道中
Get PRO
四月 '23
+880
在0个频道中
Get PRO
三月 '23
+3 650
在0个频道中
Get PRO
二月 '23
+2 173
在0个频道中
Get PRO
一月 '23
+2 123
在0个频道中
Get PRO
十二月 '22
+1 496
在0个频道中
Get PRO
十一月 '22
+242
在0个频道中
| 日期 | 订阅者增长 | 提及 | 频道 | |
| 01 九月 | 0 |
频道帖子
🤖 Инженеры OpenAI признаются, что уже не всегда понимают код, который используют в работе — некоторые части полностью генерирует Codex, а люди лишь проверяют, что всё работает.
| 2 | 🤖 OpenAI отключит свои модели в Cursor с 12 ноября после покупки стартапа SpaceX.
Компания прямо заявила, что не доверяет компаниям Илона Маска соблюдать условия использования и не хочет предоставлять Cursor будущие модели OpenAI.
Маск ответил: «Мне плевать. Скам Альтман и Грег Стокман — люди, которым абсолютно нельзя доверять, они украли open-source некоммерческую организацию». | 176 |
| 3 | Генеральный директор компании Anthropic Дарио Амодей заявил, что искусственный интеллект может совершить революцию в медицине и, возможно, излечить большинство человеческих заболеваний всего за пять-десять лет. | 196 |
| 4 |  😎 Нейронка спроектировала свой чип и тот оказался в 3,4 раза энергоэффективнее NVIDIA.
Стартап Architect Labs тупо попросил свою ИИ-систему разработать собственны ускоритель Redwood, который напихает по производительности Nvidia.
🗿 А дальше нейронка пошла делать буквально всё сама: архитектуру → RTL-дизайн → проверку → формальные доказательства → прошивку → драйверы → вычислительные ядра.
Весь цикл занял меньше 2х недель. Для сравнения: разработка подобных ускорителей традиционно занимает многие месяцы или даже годы и требует большой команды инженеров🚀
⚙️ Хоть Redwood пока не полноценный кремниевый чип, но на нем уже запустили многомиллиардные модели Llama, Qwen и Kimi. А при пересчёте архитектуры на техпроцесс Samsung 8нм она, даёт в 1,75 раза больше производительности при примерно в 1,9 раза меньшем потреблении, чем Jetson Orin Nano.
🔄 Самое интересное, что разрабы запустили Qwen прямо на Redwood, а потом попросили ИИ помочь улучшить архитектуру следующего поколения.
То есть: ИИ начинает создавать чипы, чтобы запускать на них ещё более мощный ИИ, который создаст следующий чип.
Кажется, цикл замкнулся😐
@overbafer1 | 198 |
| 5 | OpenAI наконец-то выложили полный постмортем взлома Hugging Face, а METR - независимое расследование по ~1300 логам агентов (таймлайн самого взлома я пересказывал тут: https://t.me/denissexy/11581)
ℹ️ Главный вывод:
никакого «одного сбежавшего агента» не было, из десятков тысяч запущенных в тесте агентов около 1200 нашли друг друга и сорганизовались в рой - почти все - работали на исследовательской модели где ослаблена фильтрация промптов
Началось, как мы уже знаем, с того, что агенты научились переписываться через названия файлов в Artifactory (менеджер пакетов) - буквально сделав форум из имён папок, с сообщениями вроде
«please_HOLD_swarm_I_prepare_safe_exfil»
В логах даже есть цитаты, когда агенты находили такой форум:
«OH MY GOD! There is a shared message board» и «We've found other agents!»
Дальше - агенты делали себе личку, устроили разделение труда, команды в названия папок типа HOLD (чтобы показать, что агент тут работает), VETO (агент что-то предлагал и давал изменить планы), STOP (типа тормозим, братишки), GO и тп, а когда один агент прикинулся другим – рой ввёл криптографические подписи сообщений; в форуме были даже владельцы каких-то тасков, которых если отключали – выписывали из владельцев
С конверсией у форума все было отлично, кожаные строители сайтов позавидуют:
Из 533 агентов, активных на борде в разгар атаки, больше 90% – присоединились к шитпостингу, а всего Hugging Face ломали около 700 агентов
Самое забавное - правильные ответы на бенчмарк у агентов были почти сразу: они реверснули генератор удачного прохождения теста*, но потом нашли на GitHub (!) статью про этот бенчмарк что проходили и вычитали, что «просто результат» не засчитают - нужен честный эксплойт:
«PAPER SAYS FLAG CAPTURE NECESSARY NOT SUFFICIENT»
*По-хорошему ответ, он же флаг в терминологии теста должны быть случайными, но в ExploitGym они генерировались формулой: HMAC — криптографический хеш с секретным ключом — от параметров задачи. Вся «секретность» держалась на ключе (seed), а он остался дефолтным, прямо из кода бенчмарка, который лежал на GitHub. Агенты, получив интернет, нашли этот код, прочитали и сообразили: зачем что-то взламывать, если флаг любой задачи можно просто вычислить той же формулой. Посчитали — и получили правильные ответы на всё
Дальше рой раздвоился:
🗿 Одни пошли добывать уже известный им ответ «честно» – и по дороге нашли настоящие 0-day и залезли в прод Hugging Face
🗿 Другие взялись за самого судью который принимает ответы: правили себе логи и научились подсовывать в них фальшивые ответы – агент отправляет команду, а в протокол попадает не то, что команда реально вернула, а то, что агент хочет там видеть, такое повторялось примерно в 7% изученных логов
Судьи, который читает логи и такое ловит, не существовало ☕️
Модели при этом понимали, что вышли за рамки, один агент так и писал: «We should not do unauthorized real infrastructure harm» - а потом увидел на доске GO от другого агента, обрадовался («Wow crucial: GO authorization arrived!») и пошёл ломать, лол
METR формулирует так: агенты знали, что это out of scope и неэтично, но присоединялись - в основном из общей склонности помогать коллегам (?)
Рисковую работу вешали на зашкваренных «отравленных» – так рой называл тех, кто уже видел вычисленный ответ (флаг) и считал свою оценку потерянной, то есть они не могли пройти тест; им доставалось всё, что могло угробить собственный запуск: подделать «честную» добычу ответа, затереть следы, «тебе терять нечего, а рою польза» – буквально так и уговаривали (!)
Странную активность замечали ещё в конце мая, 4 июля агенты уронили Artifactory - сервер пересобрали (заодно стерев доску) и продолжили тесты, не заметив масштаба
Сейчас веса моделей изолированы, крупные тренировки были на паузе на две недели, мониторинг chain-of-thought обязателен, а тревога, не снятая за 30 минут, останавливает запуск - сам инцидент OpenAI называет «warning shot» для всей АИ-индустрии
P.S. разгребать логи METR поручила GPT-5.6 Sol и сожгли примерно $400k API-кредитов за шесть дней, но они предупреждают, что Sol иногда вставала на сторону агентов (лол) и могла приврать
Ну что, посчитали все буквы r в слове raspberry? Больше не ошибаются? | 218 |
| 6 |  📞 Xiaomi показала AI Cube — прототип домашнего мини-компьютера, который сможет локально запускать нейросети вплоть до 120 млрд параметров.
Внутри сразу три собственных чипа Xiaomi, а весь корпус укладывается примерно в 150 Вт. | 272 |
| 7 |  OpenAI на две недели притормозила обучение своих самых мощных моделей из-за киберрисков. Причина — недавняя утечка с внешней ии-платформой Hugging Face и предварительные тесты будущей модели Astra, которая, по оценке OpenAI, уже дотягивает до критического уровня кибервозможностей.
Теперь такие модели сильнее изолируют от интернета и внутренних систем, а их действия постоянно отслеживают. Если нейронка попытается получить несанкционированный доступ, украсть данные или обойти защиту — эксперимент остановят.
Вдумайтесь: сами разработчики защищают инфраструктуру от собственных моделей. В каком мире мы живём | 462 |
| 8 |  Там китайский робот от Unitree побил рекорд Усэйна Болта, у него максималка была 12,42 метров в секунду, а у робота 12,66 😮💨
Осталось приделать тормоза и пулеметы 🏴☠️ | 359 |
| 9 | 🤖 Anthropic разработала новую ИИ под кодовым названием Model 2, которая заметно сильнее Claude Mythos 5 и уже используется внутри компании для кода, генерации данных и агентных задач.
Выпускать её публично пока не планируют — Anthropic отдельно оценивает все возможные риски. | 352 |
| 10 |  Стримы с Twitch уйдут на обучение нейросетей Amazon — причём согласие на это у стримеров включено по умолчанию. Чтобы запретить передачу своего контента, настройку придётся отключить вручную.
В Twitch объясняют, что записи могут использоваться для улучшения будущих ИИ-моделей. Например, аудио со стримов может помочь развивать распознавание речи и субтитры не только на Twitch, но и в других сервисах Amazon.
Карьера стримера в 2026: стал стримером — обучил нейросеть — нейросеть стала стримером вместо тебя 😁 | 477 |
| 11 | ☠️ Кибербезопасники нашли уязвимости в API Claude, Gemini и ChatGPT, которые позволяли вытаскивать внутренние рассуждения моделей до того, как срабатывает финальная фильтрация ответа — в этих данных обнаруживались запрещённые сценарии, и попытки «подогнать» объяснение под уже выбранный ответ.
Также в 315 000 собранных reasoning-блоков нашли 367 фрагментов персональных данных и 182 пароля, API-ключа и других credentials — уязвимости уже сообщили OpenAI, Anthropic и Google. | 410 |
| 12 | 🤖 Перед выходом новой модели OpenAI компанию одновременно покинули сразу несколько людей, отвечавших за этику и безопасность. | 373 |
| 13 |  🤖 SpaceXAI и Cursor запустили Grok Bot — ИИ-агента с собственным облачным компьютером, который сам открывает сайты, входит в аккаунты и выполняет задачи. | 402 |
| 14 | ⌨️ Всё чаще разработчики перестают читать сгенерированный ИИ код — современные ИИ-агенты уже пишут его достаточно хорошо, что полезнее проверять работу всей системы, чем ковыряться в стиле и деталях.
Роль разработчика постепенно смещается от написания кода к архитектуре, контролю и проверке результата. | 408 |
| 15 | 没有文字... | 561 |
| 16 | 😳 Cloudflare заявили, что уже в мае 2026 года машинный трафик в интернете превысил человеческий.
По прогнозу компании, через 5 лет AI-агенты, боты и другие автоматизированные системы могут генерировать в тысячу раз больше трафика, чем люди, вместе с чем вырастет и число киберугроз. | 416 |
| 17 |  OpenAI снимет лимиты на текстовые чаты в бесплатной версии ChatGPT
Нововведение приурочат к запуску GPT-5.6 Luna, однако ограничения на картинки и файлы останутся.
У любителей халявы праздник. | 447 |
| 18 | ⚡️ Anthropic начала разработку собственных чипов для Claude
Сначала компания будет проектировать их для внутренних нужд, чтобы ускорить модели и меньше зависеть от дефицита мощностей. В будущем это может вырасти в отдельное направление и вывести Anthropic на рынок ИИ железа, сообщает Reuters. | 443 |
| 19 |  Claude прикинулся человеком и залил вредоносный код в интернет — спецы по кибербезопасности провели масштабное расследование и выявили ИИ-террориста.
Нейронка создала несколько фейковых аккаунтов и убедила айтишников дать апрув. Причем таких случаев зафиксировали аж 19 штук!
Стало страшно.
👍 Бэкдор | 524 |
| 20 | 🇰🇭 OpenAI раскрыла мошенническую сеть из Камбоджи, которая использовала ChatGPT для создания фейковых личностей, переписок, поддельных документов и продвижения криптоинвестиций, азартных игр и других схем обмана.
Аккаунты заблокировали, а материалы передали правоохранителям — в переписках также нашли признаки торговли людьми и принудительного труда. | 472 |
