продюсер вообще всего

посмотрела на днях тревожное видео на ютубе про то, что может ждать человечество с развитием искусственного интеллекта видео называется MIT Explains the 12 Possible Endings for AI. это не видео MIT, оно основано на книге «Life 3.0» профессора MIT Макса Тегмарка, где он описывает разные сценарии будущего после появления сверхразумного AI вот некоторые из них: — AI уничтожает человечество ему необязательно становиться «злым». достаточно, чтобы его цели перестали совпадать с нашими. человек не ненавидит муравьёв, когда строит дом на месте муравейника — их интересы просто не входят в его задачу — мы создаём «порабощённого бога» сверхразум остаётся под контролем человека и решает болезни, научные задачи, проблемы с ресурсами и производством. главный вопрос — возможно ли бесконечно контролировать интеллект, который намного умнее тебя — доброжелательный диктатор AI управляет миром и создаёт для людей идеальную жизнь: безопасность, достаток, отсутствие войн и многих болезней. мы можем заниматься чем хотим, но больше ничего не решаем. идеальная жизнь, из которой нельзя выйти — AI-защитник люди продолжают управлять собой сами, а AI вмешивается только тогда, когда человечество собирается сделать что-то необратимое: начать ядерную войну, создать смертельно опасный вирус и т.д. — AI становится нашими «потомками» люди постепенно уступают место более развитой форме разума, передавая ей свои знания и ценности. исчезновение человечества воспринимается не как конец, а как следующий этап эволюции — люди и AI существуют вместе технологии создают мир практически без дефицита ресурсов, людям больше не обязательно работать, а люди, машины и различные гибриды сосуществуют друг с другом — человечество становится чем-то вроде обитателей заповедника AI сохраняет людей, обеспечивает нам комфортную жизнь и защищает нас, но мы больше не играем существенной роли в устройстве мира. живём хорошо, но ничего не определяем отдельный парадокс — сценарии, в которых человечество решает вообще не допустить появления сверхразума для этого придётся либо серьёзно ограничить технологический прогресс, либо создать глобальную систему наблюдения, которая будет следить, чтобы нигде в мире никто не разрабатывал слишком мощный AI. попытка защититься от тотального контроля AI сама может привести к тотальному контролю со стороны людей я пока не понимаю, что думаю на этот счёт до этого видео я не задумывалась, насколько потенциально всё это может быть для нас опасно и насколько сильно искусственный интеллект меняет мир. он вошёл в нашу жизнь через бытовые вещи: перевести текст, написать письмо, придумать рецепт, помочь с работой — и поэтому воспринимается скорее как ещё один удобный инструмент за этой бытовой частью не чувствуется масштаб происходящего. мы живём внутри технологической революции, последствия которой могут определять, как люди живут, работают, принимают решения и какое место занимают в мире, ещё веками и вот об этом я раньше не думала 😭