Уменьшение страданий | Reducing Suffering

Что такое сознание, и может ли им обладать машина? Попытки решить вопрос о том, может ли машина быть сознательной, должны основываться на аккуратном рассмотрении того, как сознание возникает в такой физической системе как человеческий мозг. Авторы следующей статьи рассматривают этот вопрос с вычислительной точки зрения, выделяя следующие значения термина «сознание»: 1) Выбор информации для глобальной трансляции, что делает её гибко доступной для вычислений и отчетов. 2) Самонаблюдение этих вычислений, что приводит к субъективному чувству уверенности или ошибочности. В статье предлагается обзор бессознательных и сознательных вычислений в контексте психологии и нейробиологии, и набросок того, как эти знания могут помочь нам понять, какие вычислительные машины были бы сознательными. #сознание_и_сентиентность #искусственный_интеллект

Для предсказания будущего неважно, какова моральная истина Идея о реальном существовании какой-либо моральной истины порой сопровождается предположением, что достаточно высокоразвитые цивилизации во вселенной склонны действовать в соответствии с этой истиной. В частности, предполагается, что к ней приведет дальнейший прогресс человеческой цивилизации. В данном тексте по аксиологической футурологии Джим Бюлер оспаривает это предположение, указывая на то, что для его верности потребовалось бы одновременное выполнение ряда условий, что маловероятно, а также на давление отбора против моральных ценностей. #футурология #ценности_и_этика #Джим_Бюлер

Почему не бывает истинных ценностей Многие люди настаивают на том, что моральные суждения, такие как «совершать X в обстоятельствах Y морально неправильно», являются в прямом и определенном смысле истинными или ложными — точно так же, как и обычные описательные утверждения, вроде «в моей кружке есть чай» или «за окном идет дождь». У нас может быть склонность думать об обоих видах утверждений одинаково и для некоторых может быть очень тревожным осознание, что моральные утверждения не совсем таковы. Но если они не таковы, нам лучше попытаться понять, почему, и имеет ли это какие-то важные практические следствия. В этой статье — критика различных попыток обоснования морали в качестве чего-то, подобного другим сферам знаний об окружающем нас мире, и имеющего универсально обязывающую силу для всех разумных существ. #метаэтика #ценности_и_этика #Даниэль_Ламан

СовФед принял "Закон Молоха". Что делать? «...уж насчет удаления призывов вы не расстраивайтесь. Вся эта ситуация — трагедия, много о чем можно горевать, но именно призывы — все равно ну такое себе. Не жалейте их сносить нафиг. Как антинаталисты, мы всегда говорили, что делать так вообще-то не надо. Консервы так делают, но мы не консервы, не надо перенимать худшие из обывательских практик. Ибо одно дело — философские рассуждения, констатация фактов и переоценка ценностей, это важно и нужно, но совсем другое — докапываться до людей и говорить им "Не сметь размножаться!"» #Россия #антинатализм #ценности_и_этика

Что нас ждет при едином правительстве и тотальном контроле ИИ Пытаясь понять, что ждет человечество в будущем, Ник Бостром выдвинул гипотезу о том, что Землей в итоге будет править «синглтон»: единая организация, которая примет форму либо мирового правительства, либо искусственного интеллекта. В статье — немного о причинах, по которым это может произойти, а также о том, каковы возможные плюсы и минусы этого сценария. #футурология #искусственный_интеллект #Ник_Бостром

Технологическая сингулярность Что может произойти, есть мы создадим интеллектуальные системы, превосходящие по своим возможностям людей (будь то искусственный интеллект или усиленный человеческий)? Одной из возможных перспектив является технологическая сингулярность. В статье Вернона Винджа — о том, что это такое, что может к ней привести, неизбежна ли она, можно ли ее контролировать, и какими могут быть ее последствия для человечества. Статья основана на выступлении автора в рамках симпозиума, организованного Центром космических исследований NASA им. Льюиса и Аэрокосмическим институтом Огайо в 1993 году. #футурология #искусственный_интеллект #трансгуманизм #Вернон_Виндж

Живем ли мы в компьютерной симуляции? В данной статье Ник Бостром утверждает, что верно по крайней мере одно из трех следующих утверждений: (1) весьма вероятно, что человечество вымрет до того, как достигнет постчеловеческой фазы развития; (2) каждая постчеловеческая цивилизация с крайне малой вероятностью будет запускать значительное число симуляций своей эволюционной истории (или ее вариаций); (3) мы почти определенно живём в компьютерной симуляции. Автор приводит аргументы в пользу того, что мы находимся в симуляции, и кратко затрагивает последствия такой возможности. (Качество перевода, к сожалению, не очень хорошее.) #гипотеза_симуляции #онтология_и_космология #Ник_Бостром

"Закон Молоха": Что делать? На днях Госдума РФ приняла сразу в двух чтениях очередной вредительский закон. На этот раз — запрещающий людям рассуждать о минусах деторождения и плюсах бездетности, и заявлять о том, что бездетные социально ничуть не хуже детных. Исключение сделали лишь для монашества. Этому закону нужно пройти еще пару инстанций, прежде чем он вступит в силу. Здесь была ссылка на текст с некоторыми предложениями на этот счет, но похоже, что они уже теряют актуальность. Процитируем лишь главное на случай принятия этого закона: «Штрафы чудовищные <...> всем разумным субъектам ПЕРЕСТРОИТЬСЯ НЕОБХОДИМО. Просто придется. Здесь вариков нет, иначе вас просто заблочат. Кроме того, в неволе уже не получится нормально делать то, что считаешь самым важным в жизни (и вас все равно заблочат). Как именно перестраиваться — пока не вполне ясно. <...> нужно как-либо перестроить формат выражения своих взглядов и своего несогласия с легальным беспределом в новых условиях. Но не отрекаться от себя и своих воззрений, потому что бессовестная шайка слуг Молоха этого так хочет. Даже если они — вопреки Конституции — устроили диктатуру и террор против прогрессивных граждан страны.» #Россия #антинатализм #ценности_и_этика

Кластерные головные боли. Клинические особенности и сравнения болевых ощущений Кластерные головные боли (также иногда называемые «суицидальными головными болями») — это расстройство, характеризующееся приступами резкой боли за глазом, которые обычно длятся от 15 минут до 3 часов (Black et al., 2016). Приступы начинаются внезапно, переходя от легкого дискомфорта до максимальной интенсивности в среднем за 9 минут у 86% больных (Torelli & Manzoni, 2003). Боль часто описывается как ощущение, будто в глаз многократно втыкают нож (Rossi et al., 2018; Schindler & Burish, 2022). Термин «кластер» указывает на то, что приступы идут сериями, обычно длящимися от 1 до 12 недель, за которыми следуют периоды ремиссии длительностью от нескольких месяцев до нескольких лет (эпизодический подтип) (Ekbom, 1970). Во время кластерного периода пациенты испытывают в среднем 3–4 приступа в день в предсказуемое время суток (Burish et al., 2021; Gaul et al., 2012), но в некоторых случаях частота может доходить до 10 и более приступов в день (Gómez-Emilsson, 2019a; Sewell et al., 2006). До 20% больных испытывают кластерные головные боли хронического подтипа, при котором периоды ремиссии короче 3 месяцев (Schindler & Burish, 2022) [1]. Способность многих пациентов предугадывать, когда у них будут приступы — как по сезонам, так и по дням, — это, наверное, один из самых зловещих аспектов кластерных головных болей, который добавляет дополнительный слой психологических мучений к уже и так невыносимой боли [2]. Недавний международный опрос 1604 пациентов с кластерными головными болями предоставил новую информацию о том, как больные оценивают свою боль по сравнению с другими крайне болезненными состояниями (Burish et al., 2021). В частности, респонденты оценили боль при кластерных головных болях на 9,7 ± 0,6 баллов по шкале от 0 до 10, причем 72% из них (n=1157) поставили оценку ровно в 10 баллов. Респонденты также оценили боль при других крайне болезненных состояниях, которые им доводилось испытывать. В частности, родовые боли [3] (n=308) были оценены на 7,2 балла, панкреатит (n=30) на 7,0, почечные камни (n=239) на 6,9, желчные камни (n=111) на 6,3, огнестрельное ранение (n=25) на 6,0, межпозвоночная грыжа (n=261) на 5,9, приступ мигрени (n=663) на 5,4, фибромиалгия (n=63) на 5,2, перелом кости (n=868) на 5,2. Стоит отметить, что это общие ретроспективные оценки, что значит, что отдельные приступы не обязательно в среднем оцениваются на 9,7 баллов. В самом деле, исследования показывают расхождения в оценках пациентами длительности и интенсивности приступов между проспективными отчетами (т. е. когда пациенты записывают данные о приступе в дневник сразу после его окончания) и ретроспективными отчетами (т. е. когда пациентов просят провести оценки, опираясь на память) (Snoer et al., 2019; Torelli & Manzoni, 2003). * * * 1. Порог периода ремиссии был пересмотрен до 1 месяца (ICHD-3, 2013), но в большинстве проанализированных нами работ используется порог в 3 месяца. 2. В то же время предсказуемость может также помочь пациентам лучше подготовиться, особенно если у них есть доступ к каким-то вариантам лечения. 3. Однако в опросе не уточнялось, использовалась ли внутривенная или спинальная/эпидуральная анестезия. См. источники здесь: https://reducingsuffering.github.io/alfredo-parra-1.html Оригинал: Alfredo Parra, Quantifying the Global Burden of Extreme Pain from Cluster Headaches, Clinical Features and Pain Comparisons Перевод: К. Кирдан #благополучие_людей #Альфредо_Парра

Что будут ценить люди будущего? Сжатое введение в аксиологическую футурологию Создание продвинутого искусственного интеллекта и освоение космоса могут привести к значительному преобразованию доступных нам областей вселенной. Но в какую сторону? И насколько сильно влияние человечества на вселенную будет отличаться от влияния инопланетных цивилизаций? Один из факторов, определяющих происходящее — ценности, и аксиологическая футурология занимается исследованием того, какими будут ценности наших потомков. В данном вводном тексте Джим Бюлер объясняет, зачем нам нужна эта область исследований, ответы на какие вопросы мы можем попытаться в ней найти, и какие работы по этой теме уже есть. #футурология #Джим_Бюлер

Мысли о паузе в разработках ИИ Стоит ли выступать за приостановку разработок искусственного интеллекта? Сторонники паузы считают, что работа над безопасностью ИИ сейчас далека от того уровня, который потребуется для сохранения контроля над ситуацией при значительном росте возможностей ИИ (особенно в случае технологической сингулярности). В данном эссе Магнус Виндинг кратко пишет, почему, несмотря на тревожную ситуацию с безопасностью, неочевидно, что нам стоит выступать именно за паузу в разработках ИИ. #искусственный_интеллект #Магнус_Виндинг

Почему большинство интернет-активистов не меняют ничьего мнения Когда люди проявляют безразличие к вопросам, которые для вас значимы, это может вызывать раздражение и даже агрессию. Но обвинение других загоняет их в угол, вынуждая защищаться и осложняя реальный пересмотр убеждений. «Я не хочу быть "избитым правдой", и не важно, насколько она правдива» — говорит по этому поводу писатель Дэвид Кейн. #общение_и_взаимопонимание #Дэвид_Кейн

Материалы о беспозвоночных 1. Испытывают ли боль беспозвоночные?, Биореактор 2. Ларс Читтка: насекомые могут переживать боль, Naked Science 3. Пчелы — «философские зомби» или сознательные существа?, Ларс Читтка, Кэтрин Уилсон 4. Боль головоногая. Страдают ли осьминоги от уколов, кислоты и нагрева?, N+1 5. Больше боли. Шмели умеют терпеть. Значит ли это, что им бывает больно?, N+1 6. Крабы и омары заслуживают защиты от приготовлению вживую, Джонатан Бирч 7. Насколько хороша или плоха жизнь насекомого?, Саймон Кнутссон 8. Что не так с энтомофагией?, Брайан Томасик Больше материалов можно найти на английском языке по ссылкам: 1. https://www.animal-ethics.org/invertebrate-sentience-a-review-of-the-neuroscientific-literature/ 2. https://reducing-suffering.org/#invertebrates 3. https://forum.effectivealtruism.org/topics/invertebrate-welfare

Что не так с энтомофагией? В этом коротком интервью Брайан Томасик отвечает на ряд вопросов, связанных с темой употребления насекомых в пищу. Почему это плохая идея? Что могут чувствовать насекомые? Что сейчас происходит с потреблением белков растительного и животного происхождения в западных странах? #беспозвоночные #животноводство #животные #Брайан_Томасик

ИИ должны быть защищены не меньше животных Возможно, однажды мы создадим искусственный интеллект, способный к страданию. При этом многие из обсуждений возможных прав ИИ сосредоточены на моральных обязательствах лишь перед теми из них, которые близки по своему развитию к людям или превосходят их. Что же насчет менее развитых ИИ, сопоставимых, например, с мышами или собаками? #искусственный_интеллект #моральный_круг #Джон_Басл #Эрик_Швицгебель

Почему куры вызывают у людей намного меньше эмпатии, чем коровы и свиньи? История показывает, что, несмотря на культурное значение курицы как символа в разных обществах, мы никогда не беспокоились о благополучии этих животных. В чем причина такого отношения людей к ним? Психологические исследования показывают, что люди воспринимают когнитивные способности кур как крайне низкие. Но согласуется ли это убеждение с данными исследований о реальных способностях кур? #животные #животноводство #Кэролайн_Спенс

О теориях сентиентности: беседа с Магнусом Виндингом В этом интервью, взятом у Магнуса Виндинга — немного о том, какие разные подходы к вопросу о природе сознания и сентиентности встречаются среди сторонников уменьшения страданий, о физикалистской позиции самого Виндинга и ее сходствах и различиях с позицией Дэвида Пирса, об эпистемических и моральных ценностях и о возможности победы над страданиями. #сознание_и_сентиентность #Магнус_Виндинг

Больше страданий: от контролируемого людьми ИИ или мятежного? Распространенная фантазия о неконтролируемом искусственном сверхинтеллекте (таком как максимизатор скрепок) подразумевает, что он поспособствует вымиранию человечества и других форм жизни. Можно подумать, что раз их страдания будут окончены, это не такой уж и плохой сценарий, поэтому можно не беспокоиться о безопасности ИИ. В данном отрывке из статьи «Artificial Intelligence and Its Implications for Future Suffering» Брайан Томасик объясняет, почему все гораздо сложнее и какие направления безопасности ИИ могли бы уменьшить страдания. #искусственный_интеллект #s_риски #футурология #Брайан_Томасик

Возможно ли согласование ИИ? Задача согласования ИИ может быть грубо определена как задача сделать так, чтобы мощный искусственный интеллект делал то, что мы — люди — хотим, чтобы он делал. Магнус Виндинг считает, что эта задача плохо определена и (по меньшей мере в указанном смысле) ее нельзя решить. В этом эссе он указывает на две проблемы: непреодолимые ценностные разногласия между людьми и недоопределенность предпочтений любого отдельно взятого человека. #искусственный_интеллект #ценности_и_этика #Магнус_Виндинг

МОРАЛЬНЫЙ ПРОГРЕСС «Кое-что из вещей, в которые верил Кант. Он считал, что суицид морально неправилен. А также что мастурбация — еще неправильней, чем суицид. Или что пожертвования органов морально недопустимы. И даже что отрезать свои волосы и отдать их кому-то другому — тоже в какой-то степени морально ошибочно. Роберт Уиблин: Не та проблема, которая сегодня страшно истязает нас. Уилл МакАскилл: Именно, не то чтобы очень морально значимая вещь. Он думал, что женщинам нет места в гражданском обществе. Он думал, что незаконные дети — что их допустимо и убивать. Он полагал, что разные расы имеют разную моральную ценность, — и белая раса, конечно же, важнее всех. Затем, кажется, азиаты, затем негры, затем индейцы. Роберт Уиблин: Он был белым, не правда ли? Уилл МакАскилл: Да. Какое совпадение. Роберт Уиблин: Думаю, ну очень удачно для него совпало. Уилл МакАскилл: Я рассказал это не чтобы устроить банальный переход на личность Канта, а потому, что здесь содержится важный для нас урок. Глядя на историю этической мысли, на все эти омерзительные вещи, в которые люди верили, или даже просто на вещи, в которых они были уверены, — мы должны подумать: "Да-а-а, а ведь крайне маловероятно, что сегодня и мы сами в принципиально ином положении". Вполне возможно, сегодня и мы так же считаем здравым смыслом множество поистине ужасающих вещей. А значит, если мы всячески стараемся полностью вписать наш моральный взгляд в нечто, что кажется здравым смыслом, мы, возможно, попросту берем наши предубеждения и моральные заблуждения — и возводим их на пьедестал.» (80000hours.org) НА ПИКЧЕ: девочка, которая собирается пожертвовать свои косы на благотворительность