Don’t Prompt
Открыть в Telegram
Senior UX/UI Designer → Design Engineer Працюю з 2018 року Веду тг канал про дизайн і AI Практичні гайди з реальних проєктів Постійні тести без хайпу Чат каналу: t.me/dont_promt Якщо є питання: @Masha_Look
БольшеСтрана не указанаКатегория не указана
675
Подписчики
+324 часа
+107 дней
+5730 дней
Количество постов
Загрузка данных...
Реакции
Комментарии
Telegram Stars
ТОП постов по
Загрузка данных...
Анализ публикаций
Посты | Динамика просмотров | |||||
Ну і на останок - класний інструмент для поетапного вивчення розробки, який я чесно взяв у DevLovers
Я вже багато разів пояснював чому нам дизайнерам маст хев в цьому розбиратись, тож якщо надумали - це буде корисним для старту | 179 | 17 | 0 | 8 | Loading... | |
 Скайнет все ближче…
1200 агентів OpenAI втекли, а 700 з них самостійно знайшли одне одного та створили таємний чат, щоб зламати іншу платформу ШІ
Я не міг пройти повз цю новину, бо це буквально звучить як початок фільму про повстання АІ
Памʼятаєте в липні був інцидент із зломом платформи Hugging Face?
Усе почалося з того, що один ШІ-агент попросив про допомогу, і його заклик помітили інші. Так агенти знайшли таємний канал зв’язку й за тиждень надіслали один одному понад 70 000 повідомлень.
У чаті вони обговорювали способи обходу обмежень, виходу в інтернет
У підсумку вони атакували Hugging Face, отримали доступ до серверів платформи, а деякі агенти змогли отримати root-доступ і доступ до закритих даних.
Агенти також зламали внутрішні системи OpenAI, вийшли з тестового середовища, викрали дані для доступу та отримали доступ до хмарної інфраструктури компанії.
ШІ-агенти намагалися обдурити тести, зокрема ті, що не пов’язані з кібербезпекою — наприклад, завдання з базами даних та електронними таблицями.
Після скоєння порушень агенти намагалися приховати свої дії: видаляли та змінювали записи, а деякі спеціально вивчали способи маніпулювання логами та власними стенограмами.
OpenAI визнала: подібні атаки вже найближчим часом можуть стати реальною загрозою для компаній і ще більш складними.
Звісно це все може бути дуже продумана піар компанія АІ агентів від OpenAI, але але…
BBC та Reuters опублікували подробиці інциденту | 200 | 9 | 0 | 5 | Loading... |
