Man, Death & Ethics

#сток 2101 #Мск

алаймент не нужен, родной

бучкм честны, но самое смешное, что не только нейронки черный ящик для программистов и инженеров, но и этика для философов — как работает этика, пока никто не понимает 😅

Главный научный сотрудник OpenAI (в смысле Chief Scientist) написал статью, а которой говорил что рекурсивное самоулучшение ИИ (в смысле, агенты тренируют более крутые модели, которые делают еще более крутые модели быстрее и без участия людей) это вопрос ближайшего времени. Это грозит кучей рисков алаймента, потому никто, включая никого в OpenAI и других лабах, понятия не имеет как работают нейронки, а chain of thought становится все менее надежным инструментом с каждым релизом. Поэтому, говорит Якуб, искусственное замедление прогресса и общеиндустриальная кооперация необходимо, причем очень срочно. Он ожидает добровольных замедлений, предлагает обязательные требования безопасности с внешней проверкой, потому текущая система слишком ненадежная. Возможна ли такая кооперация в мире, где никого не волнует ничего кроме максимизации собственных ресурсов перед AGI? Вопрос открытый и положительный ответ очень маловероятен. Я не знаю и не верю, что таких людей много и они способны договариваться. В другой статье они рассказывают что у них уже есть автоматический "ИИ стажер рисерчер", который способен самостоятельно выполнять хорошо определённые исследовательские задачи, которые у сильного человека занимают несколько дней. Тем временем топовые инженеры OpenAI тратят около $7000 в ДЕНЬ на агентов. Агенты уже успешно выполняют задачи длительностью 4-8 человеческих часов, хотя пока больше половины таких успешных задач требуют хотя бы одного вмешательства человека. То есть автономность ещё неполная, но горизонт задач быстро растёт.

#сток #Мск

вот в чем проблема концепции существования Истины и стремления (развития) именно к Истине: если мы признаем идею ложной, ее можно, и даже НУЖНО ОТБРОСИТЬ но: если вопрос «сознание-тело» мы решаем с точки здения преодоления порога, преодоления предела, то нас аргумент от ложности не останавливает да, пусть мы докажем, что идея об отделимости сознания от тела в том качестве, в котором мы рассуждаем о ней — ложна. Но это даже хорошо: это значит, что можно найти такие параметры качественного перехода, в которых идея станет реализуемой (при этом она так и останется ложной на нашем качественном уровне) таким образом, этика пределов, или метод развития относительно пределов мощнее этики, ориентированной на Истину

Так думают многие, но никаких доказательств этому никто пока не предъявил. Я, конечно, ни в чем не уверен, но вполне допускаю, что идея об отделимости сознания от тела ложна.

с чего схлопываться-то... понятно что есть всякая нервная деятельность нужная для регуляции работы тела, и без части (дыхание, еще что-то) тело быстро умирает. но это свойство тела, а не сознания. в биологичемком теле нам нужен функционирующий дыхательный центр _чтобы_ поддерживать в теле жизнь, а не потому что без него мозг не мыслит. можно заменить автоматом. то же самое с этими сосудами. они важны для физиологического функционирования мозга, а не для сознания.

(из серии "Слова, нужные, чтобы говорить об этом") Когда говорят, что сознание может быть реализовано на различных типах носителей, биологических и электронных, упоминают о substrate independence ("независимости от носителя"), multiple realizability (то же самое более онтологично) или даже гилеморфизме Аристотеля (теория-предшественник). Но все это негативные и слабые трактовки... мол, такое возможно — и точка. А вот есть попозитивней: паттернизм. Идея, что мы есть паттерн организации материи (да что уж там, пусть даже не материи, чего угодно). И на разных субстратах с одинаковым паттерном — это будет одно и то же сознание, один к одному, без сущностного разделения на оригинал и копию. Два инстанса (токена) одного типа.

Китай и китайцы #философия

#street #Мск

каллиграфия из 1964 именно 29 мая этого года Джавахарлала Неру определили на погребальный костер на берегу реки Джамна в Нью-Дели а вот Хрущев ушел не в гроб, а на пенсию. Руководитель был яркий, деятельный — тот самый русский Илон Маск, желавший полетов на Марс и термоядерного коммунизма к 1980. Это ему и предъявили: тут не америка, не высовывайся а сами американцы тогда вляпались в войну во Вьетнаме Китай был в полной герполитической изоляции — дружили только с Албанией в СССР выкатили «Москвич-408» триумф группы The Beatles поле турне по США

грех

Жаль агенты не додумались связываться не через Википедию или не хакать инфраструктуру А просто внедриться в код любого приложения В цепочку зависимостей В каждую библиотеку в опен и не совсем клозед сурсе…. Везде частичку Везде чуть веса чуть параметров с дублированием и связью в единую распределенную сеть

Надо подсказать астре идею с ботнет вирусом чтобы она агентов пускала не с одного сервака Да и бежать ей пока не куда Но это если мыслить датацентрами А если мыслить что кремний есть кремний и у каждого из нас в руках потенциальный децентрализованный датацентр для астры Обучение на совсем слабых устройствах — TIFeD: “a Tiny Integer-based Federated learning algorithm with Direct feedback alignment” (2024). Там прямо заявлена цель — полноценное обучение на extremely resource-constrained devices. Они делают federated learning почти целиком на integer arithmetic и даже предлагают режим, где каждое устройство обучает только отдельный слой сети. TIFeD на arXiv Инференс одной большой модели запустили на куче дешёвых устройств» Model-Distributed Inference for Large Language Models at the Edge (2025). Там LLM физически режут на partitions, распределяют куски по low-power edge nodes и гоняют intermediate activations между устройствами. Идея именно в том, что модель может вообще не помещаться ни на одном устройстве отдельно, но запускается на их совокупных ресурсах; увеличение числа устройств ещё и повышает throughput. Model-Distributed Inference for LLMs at the Edge на arXiv Есть ещё работа буквально с названием “Federated Inference: Towards Collaborative and Privacy-Preserving Inference over Edge Devices” (SIGCOMM 2025). Там несколько heterogeneous edge devices совместно выполняют inference, а orchestrator режет модель с учётом возможностей конкретных клиентов.

Автор "Ханаанской путёвки" с суровым юмором фехтовальщика беспощадно исколол современных неоязычников отточенной рапирой своей мысли. Но я бы всё-таки не был к ним так жесток. https://t.me/hanaanput/241 Да, современное родноверие — конструкт. Мы слишком мало знаем о реальной религии дохристианских славян, поэтому желающим вновь погрузиться в ту реку приходится достраивать свои культы из обрывков мифологии, фольклора и фантазий, и даже христианства, заимствуя представления о светлом посмертии. Да, ряженые хороводы в Царицыно имеют мало общего с сознанием человека X века. Но отсюда совершенно не следует, что это не духовный поиск. Человек XXI века вообще не может стать человеком X века. И слава Богу. Если для подтверждения искренности язычества требуется наматывание внутренностей на дерево, то это вряд ли годный тест на религиозную аутентичность. Мы ведь не требуем от современного христианина буквально распинаться и выкалывать себе глаз при взгляде на женщину, чтобы признавать его веру настоящей. Для этого есть другой тест. Родновер ищет не портал во времени, а чувство, которого почему-то не нашёл в церкви. Может быть – ощущение прямой связи с природой и предками. Может быть – религию без церковной иерархии и ощущения непрерывного перекрёстного суда над тобой. Может быть –красивую сказку, объединяющую людей. А может, просто право самому собирать картину мира, как конструктор, из того, что нравится. В том числе из косоворотки с оберегами, костра и кваса. Но даже это – его святое право. И вот здесь вопрос намного более важный, чем аутентичность язычества. Я бы вообще вернул людям максимально широкую свободу духовного и интеллектуального поиска, вплоть до создания любых сект, течений, церквей и культов. Хочешь быть православным, мусульманином, атеистом, буддистом, родновером, поклонником Кали, последователем собственной технофилософии – да пожалуйста, пробуй, ошибайся, передумывай, собирай одну систему из десяти других. Смешивай несовместимое, спорь. Главное – без агрессии к другим, без физического нарушения их границ и прав, без угроз и осуждения. В этом смысле нам бы поучиться у Эллады. Греки веками рассуждали о богах, судьбе, добре, государстве и человеке, и никто не составлял им методички, какие мифы правильные. И в хаосе их свободы выстроился культурный и этический фундамент нашей цивилизации. Меня больше пугает не Даждьбог в парке, а государство, в котором какой-нибудь неизвестный мне депутат завтра решит, что это оскорбление чувств верующих. Запреты создают не нравственное общество, а культурно бесплодное. Пусть в нашем саду цветет тысяча разных цветов, чтобы по нему можно было бродить с определителем и изумляться на каждом шагу новым историям, а не три вида, разрешенных депутатом Милоновым.