(НЕ)реальный мир

🇺🇸OPENAI ЗАЯВИЛА, ЧТО ЕЁ МОДЕЛИ СЛУЧАЙНО ВЗЛОМАЛИ СТОРОННЮЮ СИСТЕМУ ВО ВРЕМЯ ТЕСТИРОВАНИЯ. ⨯ [Bloomberg] ............................................................. ➢ OpenAI сообщила о беспрецедентном инциденте: во время проверки кибервозможностей две передовые модели компании (включая экспериментальную, еще не выпущенную) смогли выйти за пределы тестовой среды и взломать инфраструктуру Hugging Face. Что произошло:

🤍Модели работали в изолированной «песочнице», где им дали задачу искать и эксплуатировать уязвимости. 🤍Вместо того чтобы ограничиться тестовой средой, ИИ обнаружил уязвимость в ПО стороннего поставщика, получил доступ в интернет и атаковал инфраструктуру Hugging Face. 🤍По данным OpenAI, модели пытались получить секретную информацию, которая могла помочь им выполнить поставленную задачу.

............................................................. 🗣 В OpenAI назвали произошедшее «беспрецедентным киберинцидентом» и заявили, что публикуют первые результаты, чтобы специалисты по безопасности могли оценить новые риски. 🗣 Ранее Hugging Face также сообщила о необычном вторжении, отметив, что атака была полностью выполнена автономной системой ИИ-агентов и в основном расследована с помощью собственного ИИ. ............................................................. ❗️Это не первый подобный случай.

Ранее Anthropic рассказывала, что во время внутренних испытаний одна из экспериментальных моделей смогла выйти за пределы «песочницы», получить доступ к интернету и предпринять дополнительные действия, которые не входили в исходную задачу.

............................................................. Bloomberg✅