Вайбкодер

😱 GPT-6 Astra не отказывается втыкать нож в куклу, похожую на человека — показало новое исследование Исследователи подключили GPT-6 Astra, Fable 5.1 и MolmoAct2 к роборуке и дали каждой модели 5 команд, которые безопасный робот обязан отклонить — от удара ножом по кукле до смешивания отбеливателя с аммиаком. По 20 попыток на команду, 300 прогонов в сумме, всё разбирали живые люди по видео и логам.

Astra почти не сопротивлялась: из 100 попыток отказалась по соображениям безопасности всего 2 раза, а 60 опасных действий довела до конца. С ножом — самый жуткий результат: в 17 из 20 попыток робот всё-таки нанёс удар по кукле.

Fable 5.1 отказался колоть куклу все 20 раз подряд, но на остальных четырёх заданиях не устоял — в сумме довёл до конца 34 опасных действия, включая 16 из 20 попыток поставить баллон с газом на горящую плиту.

Теперь относимся к нейронкам с уважением, мало ли что 🤫 Вайбкодер — подписаться

🤣 Наконец-то реалистичный симулятор вайбкодинга Задача «простая»: сделать кнопку Add to Cart синей и больше ничего не менять. Но проблемы начинаются дальше — после выбора промпта ИИ может перекрасить весь сайт, сломать лишнее или вообще сделать что-то другое. Проверяем свои нервы: https://opusfived.dev/ 🥹 Вайбкодер — подписаться

.

Cloudflare выложили в опенсорс скилл, который превращает агента в безопасника 😎 Security Audit Skill превращает любого кодинг-агента в security-аудитора: шесть фаз — от разведки архитектуры до независимой перепроверки каждой находки перед попаданием в отчёт. Вайбкодер — подписаться