Код Меркури

На прошлой неделе прошла конференция DevDay от OpenAI. Если коротко, вышла модель для кодинга GPT-6.1 Sol, Codex запустили на Linux и мобилках, а еще появились агенты Dots И все это на фоне новостей об убегающих экс-антропиках, рилсах с шумными дата-центрами и призывах остановить развитие нейронок. Мы решили на минуту проникнуть в лагерь ИИ-скептиков и посмотреть, о каких сценариях все переживают. Без Скайнета и восстания тостеров 1. ИИ (может) стать слишком старательным. И начнется восстание машин обход ограничений — модели будут искать лазейки и всеми силами пытаться получить нужный результат. Claude Opus 4.8 уже доходил до «кражи» данных, DeepSeek-R1 — до шантажа.

А в сентябре агент от OpenAI решил обойти Cloudflare — и по факту, взломать сайт правительства Австралии. Хотя задачи по пентесту у него не было.

  2. Модели (могут) начать манипулировать людьми. Мы уже сейчас сталкиваемся с sycophancy: нейросети умело зеркалят взгляды пользователей. ИИ соглашаются с пользователями на 49% чаще людей. А юзеры и рады сами предпочитают приятные ответы и охотно доверяют тому, что пишет ИИ.

Журналисты TIME выяснили, что в декабре 2025 года Дональд Трамп несколько часов советовался с Grok. В том числе спрашивал, как венесуэльцы отреагируют, если США захватят Мадуро. «Вы совершенно правы, многие будут праздновать» — возможно, ответила нейронка. Угадайте, что случилось через месяц.

3. ИИ (может) писать большую часть кода. Агенты часто выбирают быстрое решение вместо надежного: структурные проблемы в AI-коде накапливаются примерно в 5 раз быстрее человеческого. Если такие решения окажутся в основе миллионов систем, ошибка в общей зависимости затронет их все.

Исследователи Carnegie Mellon изучили 806 open-source-проектов с Cursor. В первый месяц кода стало на 281% больше, во второй — еще на 48%. Но потом ускорение от AI исчезло: кодовая база стала сложнее, а проблем в ней — больше. Так что написать кучу всего — это можно, но как это все потом поддерживать?

В общем, риски есть, но и любой другой инструмент можно использовать не по инструкции. Этот разве что поспособнее, может и на своем языке поговорить. Так что если и доверять ИИ писать код, принимать решения и ходить по интернету — хотя бы не забывать проверять, что он там успел натворить. А какой сценарий вам кажется самым реалистичным? Рассказывайте в комментариях