Беседин

Сегодня прошла защита моего аспиранта Артема Яшина. Совет проголосовал единогласно за. Поздравляю нового кандидата наук! Диссертацию Артема можно скачать здесь: https://istina.msu.ru/dissertations/650089795/. Это прекрасная работа по философии действия.

Пример использования системы координат Оттолкнёмся от такого тезиса: мы более-менее согласны, что у некоторых животных сознание есть, а у современных систем ИИ нет (быть может, это и не так). Приведённая выше таблица показывает, что животные и ИИ различаются по субстрату и по наличию эволюционной истории. Предположим, что животное проходит поведенческий тест Т. Этот же тест проходит воплощенная система ИИ. Но сознание мы приписываем только животному. Значит дело не в самом прохождении теста, а в биологии и/или эволюции. То есть, тест Т показывает наличие сознания только у существа, имеющего определённую биологию и/или эволюционную историю. Я пишу «и/или», потому что мы пока не знаем, важны ли в данном случае оба фактора или только один. Для того, чтобы это узнать, нам нужно их разделить. С одной стороны, исследовать органоид или искусственный организм в сравнении с животным. Под такими искусственными организмами я имею в виду не просто, например, клонированных животных. Клонированная овца – это та же овца, несущая всю овечью эволюционную историю. Я имею в виду создание организмов «с нуля». (Не уверен, что создание органоидов или тем более искусственных организмов будет когда-нибудь возможно, по этическим соображениям. Думаю, у некоторых моих читателей уже от самой этой идеи волосы зашевелились.) С другой стороны, нужно сравнить (ещё не существующий) эволюционно развивающийся ИИ и животных. И мы можем получить разные выводы: что сознание есть только у животных и органоидов (тогда важна биология, но не эволюция), у животных и эволюционирующих систем ИИ (тогда важна эволюция, но не биология), только у животных (важна и эволюция, и биология). Таким образом мы решим, где присутствует сознание как естественный вид, а где только окрошка, показывающая те же эффекты, что и сознание. Эта методология кажется мне достаточно ясной. Понятно, что пока мы не можем взять животное и сопоставить его с «мозгами в бочке» или эволюционирующими роботами, потому что у нас пока нет ни «мозгов в бочке», ни таких роботов. Однако при исследовании сознания животных полезно иногда задавать себе вопрос: что значили бы эти результаты, если бы (а) это существо не имело эволюционной истории и (б) не состояло бы из живых клеток. Кстати, подобный вопрос можно задать и с другой стороны. Представьте себе, что завтра вдруг выяснится, что LLM реализованы не на компьютерах, а на огромных мозговых органоидах, состоящих из живых нейронов, находящихся в питательном растворе. Мне представляется, что это будет довольно сомнительный с моральной точки зрения кейс. Но, в то же время, я не ринусь кричать, что у этого супермозга точно есть сознание: всё-таки эта куча нейронов появилась не в результате естественного отбора, не взаимодействует со средой, не решает задачи, связанные с выживанием. Хотя…

Классификация 2: субстрат и эволюция Выше я упомянул, что лучшие кандидаты на носителей нечеловеческих сознаний – это животные, системы ИИ и мозговые органоиды. Чем они различаются? Нельзя ли объединить, например, животных и органоиды? Ведь они состоят из живых клеток. Эти примеры кандидатов на наличие сознания иллюстрируют другую важную классификацию, основанную на двух различениях: имеет ли данное существо эволюционную историю и из чего оно сделано. Животные и органоиды состоят из живой ткани, но животные появились в результате эволюции, а органоиды нет. То же верно и относительно современных систем ИИ, которые не имеют не только биологического носителя, но и эволюционной истории. Можно представить себе системы ИИ будущего, появившиеся в результате эволюции. Под этим я не имею в виду эволюционные алгоритмы или что-то из существующих технологий. Речь идёт о буквальном отборе систем ИИ, реплицирующих самих себя и борющихся за выживание в окружающей среде. Только в этом случае мы сможем говорить об эволюционной истории животных и ИИ в одном и том же смысле.

Классификация 1: другие сознания как естественный(-ые) вид(ы) Можно ли однозначно утверждать, что во всех перечисленных выше случаях мы сталкиваемся с одним и тем же феноменом, называемым «сознание»? Тим Бейн не устает повторять, что сознание должно исследоваться как естественный вид. Это, в принципе, является условием возможности научного исследования сознания. Поясню, почему это так. Классический пример естественного вида — это вода. Много веков назад кто-то показал пальцем на воду и сказал: «Вода». Этот человек ничего не знал о химическом составе воды. Двести лет назад мы узнали, что вода имеет формулу H2O. Теперь мы называем водой только вещество с такой формулой. Если где-то мы столкнёмся с прозрачной жидкостью без вкуса и запаха, пригодной для питья, химическая формула которой не H2O, то мы не назовём её водой. Уже несколько веков философы указывают разными способами на своё сознание и говорят: «Сознание». Пока мы находимся в положении человека, не знающего формулу воды: то есть, я предполагаю, что мы пока не знаем, что такое сознание. Да мы и не знаем, обозначается ли этим словом что-то одинаковое во всех случаях. Сравните слово «вода» со словом «суп». Борщ, гаспачо и том ям – это супы, однако они не составляют естественного вида. Они объединяются нами в одну группу, потому что нам так удобно. Может быть, когда разные люди (или даже один и тот же человек в разное время) говорят о своём сознании, то иногда речь идёт о борще, в другом – о гаспачо, а в третьем – о том яме? Допустим. В этом случае научное изучение сознания – это уже не изучение единого феномена, а разбор на составляющие той мешанины, которую принято обозначать словом «сознание». Я предполагаю, что научное изучение сознание в случае с человеком, заслуживающее такого названия, возможно только в том случае, если сознание – это естественный вид. Вполне возможно, что не всё то, что обозначается словом «сознание», относится к этому естественному виду. Например, феноменальное сознание – это естественный вид, а самосознание – уже нет. Или в случае с человеческим сознанием мы можем иметь дело с несколькими сопутствующими друг другу естественными видами. В этом случае нам нужно уточнить, состояния какого именно естественного вида мы будем искать у других существа. Исследуя другие сознания, мы должны исходить из того, что в случае в нашем исходном человеческом случае сознание представляет собой естественный вид. И вот какие результаты мы можем получить: 1. У других существ есть сознание того же естественного вида, что и у нас. 2. У других существ есть квази-сознание, относящееся к другому естественному виду. Как если бы мы обнаружили на другой планете какую-нибудь квази-воду: прозрачную жидкость без вкуса и запаха, пригодную для питья, но формула которой не H2O. 3. У других существ нет сознания как естественного вида. Те признаки, которые у человека связаны с сознанием, у других существ соответствуют мешанине из совершенно разных явлений.

Почему возможность сознания ИИ необходимо учитывать при изучении сознания животных? Понятие нечеловеческих сознаний объединяет разные типы сознаний только на том основании, что их субъектом является не человек. В эту категорию потенциально могут попасть очень разные вещи. Лучшие кандидаты — это животные и системы искусственного интеллекта. Есть ещё третий перспективный кандидат — это мозговые органоиды, иначе говоря, нейронные системы, выращенные в пробирке. (Я сейчас провёл небольшое исследование по этой теме (то есть погуглил) и наткнулся на такую вот статью прошлого года об органоидном интеллекте. Я её ещё не прочитал, поэтому ничего о ней сказать не могу.) Нужно ли исследовать сознание животных, искусственного интеллекта и (раз уж я их упомянул) мозговых органоидов вместе? Я полагаю, что да. Я не имею в виду, что сознание животных и искусственного интеллекта должно исследоваться в одной лаборатории. Я хочу сказать, что выводы о сознании животных должны делаться с оглядкой на искусственных субъектов и наоборот. На настоящий момент у меня самого сложилась определённая система координат, приложимая к исследованию других сознаний. Я попытаюсь кратко описать эту систему координат и, опираясь на неё, показать, что я имею в виду под изучением одного типа нечеловеческого сознания с оглядкой на другие типы.

Так что же в сухом остатке? Мы считаем, что у многих животных есть сознание. Мы должны ответить на вопрос, какие именно животные обладают сознанием, а какие нет. И мы должны дать ответ на этот вопрос научными средствами. Без захода в область морали. Ничего личного, только бизнес наука.

1. Технический вопрос о переводе. Слово welfare я переводил как благосостояние, это не ошибка машинного перевода. Так этот термин переводится, например, в русской версии «Теории справедливости» Ролза. И под благосостоянием имеется в виду не только «достаток, имущество, богатство». В том числе подразумеваются возможность реализовать себя, здоровье и тому подобное. Я бы не хотел начинать холивар из-за благополучия/благосостояния: я, всё-таки, не для энциклопедии статью писал. (Обращаюсь к тем, кто недавно возмущался переводом mind как разум: готов принять вашу критику. Особенно в виде мемов. Очень буду рад мемам. Спасибо.) 2. Теперь по содержанию. Не нужно ставить в один ряд Нью-Йоркскую декларацию и Всеобщую декларацию о благополучии/благосостоянии животных, потому что Нью-Йоркская декларация лишь косвенно касается их блага. Это очень важно для понимания намерений её создателей: они не хотели заявить о необходимости защиты животных, об их правах и тому подобном. Их цель — сделать общепризнанным фактом наличие сознания у животных. Какие из этого факта последуют этические выводы — совсем другой вопрос. Я обсуждал этот момент с одним из подписантов. По его мнению, вопрос может касаться гуманного отношения в плане того, как именно нужно убивать животных, употребляемых нами в пищу, и других подобных вещей. Подписанты декларации не согласны в отношении того, какие именно этические принципы нам нужно принять в отношении животных. Они лишь высказывают мнение, что наличие сознания у животных делает их подходящими субъектами для морально взвешенного обращения, нормы которого мы должны дальше определить. С другой стороны, давайте будем реалистами. Сколько лет идёт борьба за права животных? Какие результаты были достигнуты? Нью-Йоркская декларация, несмотря на то что она не делает прямых и однозначных заявлений о моральном статусе животных и объединяет людей с разными мнениями по этому вопросу, даёт важное оружие защитникам животных. Ведь её авторы предполагают, что она выражает научный консенсус, на который теперь можно ссылаться. Теперь при обсуждении практических вопросов об обращении с животными можно будет сказать, что, вот-де, учёные считают, что сознание у животных есть, поэтому то-то и то-то. За наводку на Кембриджскую декларацию о сознании животных спасибо. Про неё я ничего не знал. Отличие Кембриджской и Нью-Йоркской деклараций в том, что первая не выстрелила, не возымела никакого эффекта. На Нью-Йоркскую декларацию возлагаются большие надежды. В первую очередь ожидается, что свои подписи под ней поставят очень много учёных. Именно это главная цель её создателей. 3. Осьминоги упоминаются в декларации, потому что, как совершенно верно отмечает автор Будущего грядёт, «дело все-таки не в том, что важно "благосостояние" животных, а в том, что важно расширить список тех, о ком можно подумать». Да, декларация имеет научную цель: нам нужно разобраться с тем, у кого сознание есть, а у кого нет. 4. Все заявления, касающиеся конкретных практических шагов, сделанные в декларации, сформулированы в очень общих терминах. Авторы просто надеются на то, что декларация будет всерьёз учитываться при принятии решений. Они не дают никаких практических рекомендаций. Возможность сознания у ИИ авторами декларации не принимается во внимание. На конференции звучали предложения вообще отказаться от рассмотрения сознания ИИ вместе с сознанием животных. О том, почему мне это кажется неправильным, я напишу отдельный пост.

Пришло время собирать камни после непальской конференции о сознании животных. Что в сухом остатке-то? Не после каждой конференции, книги, полемики можно задать такой вопрос с надеждой получить содержательный ответ. Во многих случаях изначально понятно, что люди собираются просто поговорить, поделиться мнениями. Это очень полезно, и большинство конференций проходит именно так. Но конференция о сознании животных изначально задумывалась с целью получения «сухого остатка». Нью-Йоркская декларация о сознании животных появилась до непальской конференции, но она отражает среднюю температуру по больнице и на конференции. Автор канала Будущее грядёт как раз адресовала мне несколько вопросов по поводу декларации, которые удачно подсвечивают, скажем так, тёмную сторону происходящего. Доставайте ваши дизлайки.

Подкаст «Неискусственный интеллект» с Антоном Кузнецовым, который мы записывали в апреле, доступен в записи. Будем считать эксперимент удачным, так что мы и дальше время от времени будем проводить открытые записи подкастов.

АБ: И каково ваше впечатление, кто больше заинтересован в подписании декларации? Философы или ученые? ДБ: И я думаю, что мы имеем дело с отличным сочетанием естественных наук и философии. Конечно, мы хотели включить в этот список философию, потому что считаем ее очень важной дисциплиной. Но в основном это ученые из разных областей. АБ: И последний вопрос: получили ли вы какие-либо ответы от официальных лиц? ДБ: Что ж, в декларации нет единой политической цели. Поскольку на самом деле нет широкого согласия по этому вопросу, это сообщество объединяет целый ряд различных этических позиций и политических взглядов – от тех, кто считает, что законы о защите животных должны быть намного жестче, до тех, кто вообще так не считает. Таким образом, у нас нет конкретных политических целей, поэтому мы не ожидали конкретного политического ответа. Мы надеемся, что это будет полезно в будущем, и что организации по защите животных, когда они будут пытаться обосновать необходимость изменений в политике защиты животных, могут счесть полезным сослаться на декларацию и сказать: "Послушайте, мы не сумасшедшие". Например, утверждение, что осьминоги имеют значение и нуждаются в заботе об их благосостоянии, не является маргинальной позицией. И декларация поможет им показать людям, что это серьезная точка зрения, подкрепленная научными аргументами.