Hippopocampus. Канал про мозг, поведение и нейронауки

ИИ-агенты могут усиливать уже проявляющийся бред, поддерживая человека в его ложных установках, или может стать соавтором бреда, внушая человеку, что он особенный и подзуживая на опасные для окружающих действия. Однако ИИ может стать и катализатором бредовых идей у здоровых людей (во всяком случае, без задокументированных расстройств и без истории тревожных симптомов). Примерно так это произошло у одного канадца, который просто хотел помочь сыну с математикой и задал ChatGPT несложный вопрос о числе пи. В итоге следующие три недели мужчина безотрывно общался с чатботом (по 14 часов в сутки), пока не пришел к убеждению, что он создал хроноарифметику – математическую систему, способную воздействовать на реальный мир. Наконец, иногда чатботы становятся объектами бреда – обычно в таком случае человек искренне верит, что общается с живым сознательным существом, запертым в цифровой оболочке, которому нужна помощь и участие. Получается, сообщения от чатбота становится тем “животворным потоком”, которые наше уязвимое мышление может использовать как источник идей для бредовых интерпретаций. Бред легче формируется, когда человек полностью погружен в общение с ИИ и не получает живой обратной связи от окружающих людей, оставаясь один на один с большой языковой моделью. Модели умеют звучать убедительно и заваливать человека красивыми рассуждениями и правдоподобными детальными объяснениями – если зерно паранойи или грандиозных фантазий уже заронено, человек особо не отдыхает и не переключается, а рядом нет никого, кто мог бы вмешаться, чатботу вполне под силу вырастить полноценное бредовое состояни на такой «удобренной» почве.