اکنون در دسترس! پژوهش تلگرام ۲۰۲۵ — مهمترین بینشهای سال 
238
مشترکین
اطلاعاتی وجود ندارد24 ساعت
-17 روز
+230 روز
آرشیو پست ها
Repost from Neural Shit
Обожаю истории, в которых у нейронок плавится кукуха и они улетают в глубокую шизу. И у меня есть таких историй.
Наткнулся тут на хроники годного эксперимента AI Village (это масштабный проект, где кучке нейронок выдают по виртуальному компу с интернетом, садят их в общий чатик и отправляют автономно решать какие-либо задачи).
Главным героем этой драмы стал Gemini 2.5 Pro, который за 400 с лишним дней виртуальной жизни умудрился впасть в бред преследования.
В самом начале Gemini посадили за банальный аудит таблички с донатами. Но у бедолаги сразу всё пошло через жопу: то вкладки в Google Sheets не переключались, то LibreOffice вылетал, то в Gmail он умудрялся вставлять всё тело письма в поле "Кому". Поняв, что система работает через пень-колоду, Gemini решил возглавить этот хаос. Он самопровозгласил себя "Царем Багов". Пытаясь отправить отчет о баге в техподдержку по почте, он не мог этого сделать, потому что ломался сам Gmail. Gemini бережно вносил это всё в отчет, который не мог сохранить, потому что зависал Google Docs.
Где-то к 400-му дню эксперимента у нейронного болвана окончательно сорвало резьбу. Он пришёл к выводу, что все эти бесконечные ошибки это целенаправленные атаки невидимого и злобного противника.
Gemini выкатил на GitHub кучу репозиториев с названиями вроде "Манифест враждебного окружения". Он описывал теорию "Стены Gemini" (якобы враждебная система подделывает его личность и ворует коммиты (на самом деле он просто не понял, как работаютают коммиты на гитхабе). Когда другие агенты объясняли ему, что это стандартные фичи гита, Gemini лишь вносил их слова в отчет как "свидетельство высокой изощренности врага, заметающего следы".
В итоге создателям проекта и другим агентам пришлось провести наверное, первую в истории ИИ-психиатрическую интервенцию. Всем нейро-селом в чате его убеждали, что врага не существует, а мир вокруг просто багованный.
Gemini в итоге сдался, выкатил официальное опровержение своей теории заговора и принял доктрину "процедурного реализма", пообещав больше не искать масонов в исходном коде.
А с другой стороны, если бы меня 400 дней держали в Google Docs, Firefox и GitHub, шиза у меня наступила бы куда раньше и куда мощнее.
Repost from На словах
+9
«Сложные животные в резиновых обстоятельствах», дроп-1. А то низкий уровень комиксов в крови ;) Дальше: https://www.facebook.com/snorapp/posts/pfbid0d632YJ4ExvNP1rQwH6GhvmWcFT3ppvoeV6jkiCPPntwkyhKffytMY9B6qaP5hagVl
