Прогер

Ноам Браун предупредил, что просто отключить опасный ИИ от сети может оказаться недостаточно В большом интервью Дваркешу Пателю исследователь OpenAI, работавший над o1 и o3, рассказал, почему, по его мнению, к безопасности продвинутых моделей нужно подходить серьёзнее уже сейчас. Браун считает, что люди недооценивают возможности ИИ и слишком полагаются на идею: «Если что-то пойдёт не так, просто отключим систему от интернета». В качестве примера он вспомнил исследование, показавшее, что даже физически изолированные компьютеры при определённых условиях могут передавать данные через изменения температуры: один нагревает процессор, другой считывает колебания встроенным датчиком. Это не означает, что современные модели умеют так «сбегать». Но, по мысли Брауна, нельзя считать отключение сети гарантированной защитой от будущей системы, способной самостоятельно искать нестандартные способы связи. Ещё одно предупреждение касается CoT, цепочек рассуждений модели. Браун считает, что полагаться только на них при оценке намерений ИИ опасно: по мере развития моделей их видимые рассуждения могут всё хуже отражать то, как они приходят к решениям. ✅ подписаться

Google готовит Kubernetes к эпохе миллионов AI-агентов Компания открыла исходники Agent Substrate, инфраструктуры, которая решает довольно очевидную проблему: агенты могут часами ждать модель, API или человека, но всё это время продолжать занимать CPU и память. Agent Substrate просто ставит такого агента на паузу, освобождает ресурсы, а когда тот снова нужен - восстанавливает его состояние менее чем за 500 мс. В результате на том же железе можно держать до 10 раз больше агентных окружений, а один сервер способен вместить более 1000 «спящих» агентов. Есть microVM, gVisor, Kubernetes API и поддержка не только GKE. ✅ подписаться

Одно из самых полезных видео по Claude за последнее время Инженер Anthropic записал 26-минутное видео о том, как перейти от отдельных запросов к полноценным рабочим процессам с несколькими AI-агентами. Один запрос запускает исследование, анализ, реализацию и последующую проверку результата. Вместо того, чтобы самому постоянно направлять Claude, вы строите систему, которая выполняет большую часть работы самостоятельно. ✅ подписаться

Cowork, Design и обычный чат объединяются в единый Claude. Больше не нужно думать, куда идти с конкретной задачей: модель сама выберет подходящий режим и подключит нужные возможности. При переезде ничего не потеряется: чаты, проекты, файлы, подключения и Skills из Cowork сохранятся. Первыми обновление получат пользователи Pro и Max в ближайшие недели. Docs, Slides и Design уже начинают появляться в бете на платных тарифах, остальные подключат позже. ✅ подписаться

У корпоративного ИИ появился свой счетчик тщеславия — количество агентов Запустили пять агентов — молодцы. Запустили пятьдесят — уже почти лидеры рынка. Метрика удобная, особенно для презентаций, но про реальную пользу она ничего не говорит. На TNF ИТ-директор СИБУРа Антон Рубенчик сформулировал более приземленный подход. В компании активно экспериментируют с ИИ-агентами и постепенно дают им больше самостоятельности, при этом каждый пилот начинают с разбора процесса: какие правила в нем действуют, где лежат данные, как связаны системы и что сотрудники годами доделывают вручную. Иногда после такого разбора агент действительно появляется. Иногда хватает обычного алгоритма, новой интеграции или более внятного регламента. Второй вариант в СИБУРе тоже считают нормальным результатом эксперимента: процесс улучшился, а еще одна сущность, которую нужно разрабатывать и поддерживать, не понадобилась. Хороший пример — ИИ-агент в закупках. Качество его ответов выросло с 41 до 65% в основном после того, как команда привела в порядок входящие документы и правила работы с поставщиками. Подробный разбор архитектуры этого агента есть на Хабре.

Это что за имба An Introduction to Statistical Learning это полноценный учебник по статистике, Machine Learning. Бесплатная учебная база: регуляризация, классификация, регрессия, деревья решений, SVM, Deep Learning, статистические тесты и практическая лабораторные работы в каждой главе. https://www.statlearning.com/ ✅ подписаться

Программировай! 🐒 ✅ подписаться

Minecraft довёл ИИ до настоящего игрового тильта GPT-6 Astra продержалась в Minecraft больше 140 часов, зашла дальше всех предыдущих AI-агентов в тесте Vals AI, построила полуавтоматическую ферму ифритов и накопила кучу ресурсов. А потом пришёл один крипер. Astra сложила самые ценные вещи в один сундук, после чего крипер взорвал и сундук, и кровать. И дальше началось самое интересное: несколько часов модель почти только выращивала картошку, шарахалась от всего зелёного и отдельно напоминала себе, что сахарный тростник - «НЕ крипер». В рассуждениях тоже появилась тревожность: Astra начала переживать, что снова «всё испортит и что-нибудь выронит», и ругать себя за ошибки. Кажется, самый человеческий бенчмарк Astra всё-таки прошла. ✅ подписаться

Совет на ближайшие годы — идите в Data Science и ML. Пока ИИ забирает работу у одних специалистов, другие строят на нём карьеру и зарабатывают всё больше. И вопрос уже не в том, изменит ли ИИ рынок, а в том, по какую сторону этих изменений окажетесь вы. DS/ML – один из самых прямых способов оказаться среди тех, кто на этом выигрывает А чтобы не тратить годы на хаотичное обучение — держите в подписках Data Portal. Там практикующие ML-инженеры понятным языком разбирают главное: новые модели, библиотеки, исследования, датасеты, гайды, курсы и практические кейсы. Подписывайтесь: @LLMScience

Первый препарат, созданный с помощью генеративного ИИ, добрался до финальной фазы клинических испытаний Insilico Medicine начала Phase III испытаний Rentosertib, препарата против идиопатического лёгочного фиброза, разработка которого от поиска новой мишени до самой молекулы проходила с помощью AI. Несколько лет назад алгоритмы нашли новую потенциальную мишень TNIK, которую раньше не связывали с фиброзом. Затем генеративная модель помогла создать молекулу для её подавления. В Phase IIa наиболее эффективная дозировка показала улучшение функции лёгких через 12 недель, а теперь результат проверят уже на 320 пациентах в течение 52 недель. Но дальше стало ещё интереснее. Учёные повторно проанализировали данные 42 участников через шесть независимых протеомных часов старения. Все шесть показали сдвиг в сторону более молодого биологического возраста у пациентов, принимавших Rentosertib. Самый выраженный результат составил примерно 3–4 года, а один из методов показал до 6 лет. Пока это не означает, что препарат действительно «омолаживает людей»: речь идёт о биомаркерах, исследование небольшое, а сам эффект старения вообще не был основной целью испытаний. Но результат оказался достаточно интересным, чтобы его отдельно опубликовали в Nature Biotechnology. Теперь Rentosertib проходит Phase III. При благоприятном сценарии сама Insilico оценивает путь от начала этой фазы до регуляторного одобрения примерно в 3–4 года. И всё это началось с AI-систем, которые использовались ещё несколько лет назад. Интересно представить, какие молекулы сегодняшние модели уже отправили в очередь на клинические испытания. ✅ подписаться

Дарио: «Мы должны замедлить развитие американского ИИ» Сэм: «Мы должны замедлить развитие американского ИИ» Илон: «Мы должны замедлить развитие американского ИИ» Китай: «Мы должны замедлить развитие американского ИИ» ✅ подписаться

Полезное для разработчиков «GeeksforGeeks» Образовательный ресурс где можно найти всё, что нужно для изучения программирования. Там куча полезных статей, задачек, гайдов и даже курсов - от простого до очень сложного. ✅ подписаться

Сколько вычислительных мощностей на самом деле доступно крупнейшим AI-лабораториям Всего за два года, с декабря 2023-го по декабрь 2025-го, объём вычислительных мощностей у OpenAI вырос примерно в 17 раз. К концу 2025 года компания, вероятно, даже обогнала Google DeepMind. У Anthropic только за 2025 год рост составил примерно 6 раз. Важный момент: Epoch считает именно конечных пользователей мощностей, а не владельцев дата-центров. OpenAI и Anthropic в основном арендуют инфраструктуру, тогда как Google, Meta и другие компании владеют значительной частью своего железа, но используют его не только для своих AI-лабораторий: мощности также сдаются другим компаниям и уходят на внутренние сервисы вроде рекомендательных систем. Самая интересная ситуация у Google. Компания одновременно обеспечивает огромные внутренние нагрузки за пределами DeepMind, предоставляет мощности Anthropic и другим клиентам и при этом сама начала арендовать GPU у SpaceX AI. Не завидую людям, которым теперь предстоит считать, сколько вычислительных мощностей реально доступно Google DeepMind в 2026 году. https://epoch.ai/latest/introducing-the-ai-chip-users-explorer ✅ подписаться

OpenAI пришлось остановить новые подписки на ChatGPT Pro за $200 Astra оказалась слишком прожорливой. Нагрузка настолько высокая, что компания решила временно не пускать новых пользователей на Pro, чтобы не урезать лимиты остальным. Текущих подписчиков изменения не затронут, остальные тарифы и API продолжают работать. ✅ подписаться

Сегодня отмечается День программиста! 256-й день года выбран не случайно:

Дата праздника объясняется расчетом: 2 (двоичная система исчисления) в степени 8 (количество битов в байте). То есть 2^8= 256. Поэтому в обычный год день программиста 13 сентября, а в високосный — 12 сентября

С праздником, коллеги! ☺️ @IT_Portal

Microsoft официально записала Rust в основные языки разработки Компания присвоила ему статус Tier 1, поставив на один уровень с C++, C# и TypeScript. Rust уже используется в Windows, Office и Copilot, так что решение скорее закрепляет то, что происходило внутри Microsoft последние годы. Краб потихоньку захватывает Microsoft 🦀 ✅ подписаться

Огромная коллекция DevOps-проектов для практики и портфолио На GitHub собрали большую подборку практических проектов DevOps. Внутри: AWS, Azure, Kubernetes, Terraform, Docker, CI/CD, DevSecOps, мониторинг, безопасность и облачные приложения. Выбираем нужный проект, собираем за выходные и получаем готовый кейс для портфолио и собеседования. ✅ подписаться