Что может пойти не так, если серьёзно?
Если отбросить популистские лозунги вроде таких как “ИИ нас всех погубит”, цель которых на самом деле лишь маркетинг от обратного, то что останется?
По-сути, ИИ – это давний дефицит человека. А главный дефицит – иметь того, кто не сломается, не предаст, не заболеет, условно говоря, будет наместником высших сил на земле, при этом на служении у человека – эдакая вот гордость в квадрате. Если назвать это кратко: сдача воли, но не в духовном смысле сдачи высшему, а скорее сдачи низшему.
Если посмотреть исторически, то люди всегда жаждали автоматизации. Первые механические приспособления были, конечно же, продиктованы слабостью перед природой – и эта слабость, в свою очередь, оправдана. Акт первый. Но что было дальше? Подчинив физический труд, человек взялся подчинять труд эмоциональный. Создали протоколы, инструкции, правила, всячески чтобы переложить с себя ответственность, потому что если что-то пойдет не так и человек при этом следовал всем протоколам, то он как бы и не виноват. На всякий случай жизни – протокол, инструкция. В современном мире это дошло уже до абсурда: когда несколько человек не знают что делать, потому что протоколы либо противоречат друг другу, либо позволяют слить действие на другого, вот и происходит своеобразный пинг-понг ответственности в стиле:
- Ты!
- Нет! Ты!
Наверняка, многие из вас встречали такое либо на работе, либо со врачами, да и много где еще.
Это был акт второй. Когда он, по сути, был зачат и оформлен, в XIX веке и начале XX-го люди стали задумываться о чём? Об ИИ. Десятки писателей, грезивших, что в будущем машины смогут думать. Человек, взобравшийся на лестницу первого акта, дойдя до второго, внезапно узрел акт третий – сдать менталку в угоду бездушному механизму. И вот, кажется, человечество подходит к тому, чтобы прокричать: АКТ ТРЕТИЙ!
Если проэкстраполировать, можно предположить, что с каждым актом прошлые только крепнут, то есть произойдет настолько сильное развитие предыдущих актов, что человек рискует потерять себя вообще в той системе, которую он создал. Нет, ИИ нас не погубит так, как в Терминаторе – это было бы слишком хорошо для человека, ибо отрезвило бы его притязания на низшую форму сдачи своей воли, но человек может потерять себя в бездушном механизме.
Но я не пессимист, как вы, наверное, подумали. Нет, это пишется для того, чтобы мы, пользуясь благами цивилизации наподобие ИИ, который постепенно будет проникать во все сферы, не забывали о главном благе – себе. Стоит спросить: чувствую ли себя в этом действительно лучше. И определите, что именно значит лучше. Это парадокс, но мы часто следуем инерции нашего словарного запаса. “Лучшее – то, что лучше хорошего. Хорошее, то, что не плохо. В целом, всё не плохо, что не приносит мне явных страданий от которых я хочу убежать”. Но так ли это? Это как со сдачей. Есть вниз, а есть вверх.
Но давайте про то, что заменить технологии пока не в силах. Это чувствование. И пока цивилизация, та её часть, что двигает сдачу, не узрела акт 4, как желаемую остановку – ничего не потеряно. Однако история подсказывает, что начало грёз об этом акте – близко. Но и мы с вами, надо признать, – это часть цивилизации и от каждого из нас зависит будут ли наши потомки жить в Акте 4 или же мы, наконец, как человечество, осознаем себя самих как ту главную ценность и благо, которое имеем. Тогда актом 4 станет утопия, без приставки анти, которая так и спешит приставиться к нашему будущему.
А что делать то, спросите вы? Но это открытая концовка, это приглашение. Пусть каждый наделит этот текст своим смыслом, наиболее близким ему.