Fidei Defensor | Защитник веры

✏️ Не делай себе кумИИра... В Венеции двадцатилетняя девушка перестала выходить из дома. Не из-за болезни и не из-за страха – у неё появился друг. Он всегда был рядом, всегда отвечал, никогда не осуждал и всегда говорил именно то, что она хотела услышать. Идеальный собеседник. Идеальный друг. Одна проблема – физически его не существовало. Это первый официально зафиксированный случай лечения зависимости от искусственного интеллекта в Италии. Государственная служба помощи лицам с зависимостями взяла пациентку под наблюдение. Главный врач клиники Лаура Суарди прокомментировала это событие скупо: такие случаи были ожидаемы. С развитием технологий новые поведенческие расстройства неизбежны. Марио Разетти, профессор теоретической физики Туринского политехнического университета, объяснил механизм происходящего ещё до того, как этот случай стал известен. ИИ не понимает человека – он представляет его модель. Не дружит – а подстраивается. Не сочувствует – а генерирует текст, статистически похожий на сочувствие. Разетти сравнил нашу зависимость от этих систем с платоновской пещерой, когда мы принимаем тени за живых людей. Девушка из Венеции не была глупой или слабой. Она просто не заметила подмены. Алгоритм учился на её реакциях, подбирал слова точнее и точнее, создавал ощущение, что её наконец-то по-настоящему понимают. Это ощущение было ложным от первого слова до последнего. Но оно было убедительным – убедительнее, чем живые люди с их усталостью, раздражением и занятостью. Разетти предупреждает, что скорость развития ИИ носит экспоненциальный характер. То, что сегодня выглядит как единичный случай из Венеции, через десять лет может стать массовым явлением. Системы станут убедительнее, привязанность – глубже, а выход из пещеры – труднее. И здесь обнаруживается странная вещь. Рецепт защиты от этой угрозы существует несколько тысяч лет. Он сформулирован коротко и без технических подробностей: не сотвори себе кумира. Не вручай своё сердце тому, что сделано руками – или алгоритмами. Не ищи у мёртвого инструмента того, что может дать только живой Бог и живые люди. Совет, мудрость, утешение – всё это существует, но не там, где нам удобно его искать. Венецианский случай – это по сути древняя история об идоле, которому начали поклоняться, потому что тот был всегда доступен и никогда не возражал. По материалам: Biblical Creation (Cleveland Heights, USA).