real.UN.real

Все началось с записных книжек Учась в МАИ, я много времени уделял студенческому театру: придумывал сценки, эпизоды, миниатюры, даже написал пьесу, которую поставили профессиональные театральные режиссеры. В постановках тоже участвовал, но в основном придумывал. А чтобы придумывать, требуется материал: интересные образы, занятные речевые обороты, незаезженные шутки. Что-то из этого сочинял, изобретал, но очень много подчерпнул из наблюдений: едешь в метро, слышишь разговор, замечаешь необычного человека, становишься свидетелем забавной ситуации — записываешь. Окружающие живут своей жизнью и даже не подозревают, что уже помогают искусству))) После института началась взрослая жизнь, на театр времени почти не осталось, а привычка записывать то интересное и любопытное, что может послужить материалом для придумывания чего-то, никуда не делась. Заметки накапливались, характеры обрастали деталями, и постепенно выяснилось, что за одним персонажем видна целая группа, а за группой — народность со своими особенностями. В какой-то момент всё это потребовалось привести в порядок. Содержимое записных книжек явно перестало помещаться в студенческую миниатюру Так постепенно складывался «Тайный Город». Не из желания немедленно придумать несколько магических народов и объяснить читателю, кто из них главнее. Сначала были наблюдения за вполне настоящими людьми. А Москва… Здесь родились мои бабушка и родители, здесь жил я сам. Было бы странно искать другое место для этой истории. Тем более хорошо знакомый город — прекрасное место, чтобы чего-нибудь не заметить)). Можно двадцать лет ходить мимо одного здания и знать о нём ровно одно: возле него нужно повернуть направо. После чего совершенно искренне считать, что знаешь этот район. Очень удобная уверенность. Особенно для тех, кто находится по другую сторону морока))) Только знание адреса ещё ничего не говорит о том, кто там живёт, с кем договаривается и почему предпочитает не привлекать вашего внимания... У людей свои дела, у обитателей Тайного Города — свои. И до определённого момента такое соседство вполне устраивает обе стороны Расстояние между «я здесь каждый день прохожу» и «я понятия не имел, что здесь происходит» может оказаться гораздо больше расстояния до другой планеты. На чужой планете человек хотя бы готов встретить неизвестное, возле же собственного дома он обычно уверен, что всё давно известно Связь с реальностью в «Тайном Городе» для меня важна: люди, разговоры, характеры, улицы — всё то, что сначала попадало в записные книжки, потом становилось частью истории и даже творило историю. Наблюдения увлекали и вдохновляли, и постепенно я понял, что она и есть Тайный Город — Москва. Она полна загадок, но готова дать все ответы, достаточно лишь заинтересоваться. Ведь чтобы увидеть необычное, не всегда нужно придумывать несуществующее, иногда для начала достаточно внимательнее присмотреться к тому, что нас уже окружает Однажды я назвал книги о «Тайном Городе» документалистикой, в которую сознательно добавлено немного фантастических допущений — только для того, чтобы замаскировать правду. Кажется, это приняли за шутку. Я не против — назовём это шуткой…))))

Четыре книги, которых я не писал Спустя три года я вернулся на LiveLib. Когда-то был довольно активным пользователем площадки, потом стало не до неё. За время моего отсутствия площадка заметно обновилась. Похоже, сейчас вообще подходящее время для возвращений и обновлений…))) Полистал ленту, посмотрел, что изменилось, и, разумеется, отправился читать свежие отзывы на собственные книги. На «Тайном Городе» задержался дольше, чем собирался. Всё-таки первый цикл — с него для меня началась жизнь в литературе. Ностальгия, знаете ли… Но довольно быстро я поймал себя на странной мысли: читатели рассказывали о книгах, которые я вроде бы написал, однако в некоторых почти не узнавал собственные. В одной версии «Тайный Город» оказался встречей со старыми друзьями, которым можно простить многое. В другой — нагромождением непонятного фэнтези без особой литературности, после которого человек всё равно собирается читать продолжение. Не знает зачем, но собирается))) С «Побочным эффектом» произошло то же самое. Один читатель увидел бодрый фантастический боевик о прекрасном будущем, которое станет ещё более прекрасным. Другой обнаружил логичный мир, опасное количество влюблённых пар, избыток «охов» и книгу на один раз. Текст один. Впечатления явно прибыли из разных вселенных Самое уважаемое жюри Нобелевской премии не может обязать читателя восхищаться назначенной великой книгой. У отзывов обнаружилась обратная сторона: читатель может подробно объяснить, почему книга ему не понравилась, а затем открыть следующую. Или признать мастерство автора и больше к нему никогда не возвращаться. Простая шкала от одной до пяти звёзд к подобным отношениям явно не приспособлена Писатель выпускает в мир один текст. Через некоторое время к нему возвращаются десятки разных книг: любимая, раздражающая, уютная, чужая, прочитанная за ночь, брошенная на середине и та самая, которую ругали несколько страниц, но продолжение всё-таки купили. Автор отвечает за слова. За книгу, которая возникнет из них в голове другого человека, отвечает уже не только он Это очень интересный момент — когда текст перестаёт быть рукописью и начинает жить собственной жизнью, точнее, собственными чужими жизнями, которых будет ровно столько, сколько окажется читателей книги. Все эти жизни будут абсолютно разными, иногда — совсем не такими, какими я ожидал, работая над книгой, но в этом тоже есть своя прелесть: нельзя прожить всю жизнь всем нравясь, или всем угождая, или следуя моде, или строго придерживаясь текущей повестки. Если у книги, как и у человека, есть собственное лицо и твёрдые принципы, она будет восприниматься очень по-разному. Как и человек Так какая моя книга вызвала у вас больше всего возражений — и всё-таки заставила открыть следующую?)))

Здесь полагается восхищаться

8 октября Нобелевскую премию по литературе получила канадская поэтесса, эссеистка и переводчица Энн Карсон. Шведская академия отметила её «смелое и изобретательное творчество, которое в игривом диалоге с классической традицией создало новые формы современной литературы». Кто-то обрадовался, кто-то полез искать, с какой книги начинать, а кто-то в очередной раз почувствовал, что пропустил нечто важное...

...Хотя никто, кажется, не обещал, что один человек способен прочитать все важные книги С литературными премиями вообще происходит любопытная вещь. Награду получает писатель, но проверять собственную образованность начинает читатель. Пока на обложке не появилось слово «лауреат», можно было спокойно сказать: «Не понравилось». После появления — уже неловко. Вдруг выяснится, что книга великая, автор выдающийся, а ты так и не понял, где следовало восхититься))) Сразу оговорюсь: я сейчас не о том, заслужила ли Энн Карсон Нобелевскую премию. Премия присуждена, Карсон её получила, всё состоялось. Я о том странном обязательстве, которое иногда возникает у читателя после подобных новостей. Раз люди знающие выбрали эту книгу, значит, она должна понравиться. Если не понравилась — попробуй ещё раз. Внимательнее. Желательно с биографией автора, комментариями критиков и лёгким чувством вины Премии, разумеется, нужны. Они обращают внимание на авторов, которых многие читатели иначе не заметили бы, помогают переводам, возвращают книги в магазины и библиотеки. Книг очень много, времени заметно меньше, поэтому любой внятный ориентир полезен. Но жюри оценивает произведение по своим критериям, а человек читает его собственной головой. Причём у Нобелевской премии эти критерии давно уже вышли за пределы литературы: всё чаще её вручают не за вклад в литературу, а за вклад в повестку — за то, насколько взгляд автора совпадает со взглядом жюри на окружающую реальность. И с читательским вкусом эта система оценки совпадать тоже не обязана Можно понимать, почему автор получил награду, видеть мастерство, отмечать сложность текста и при этом не хотеть открывать следующую книгу. Никакого противоречия здесь нет. Мы ведь не обязаны дружить со всеми умными и талантливыми людьми, которых встречаем. С писателями действует то же правило. Уважать можно на расстоянии, а любовь по рекомендации вообще получается плохо Конечно, иногда книге нужно дать время. Привыкнуть к языку, разобраться в конструкции, понять манеру автора. Бывает, что текст не открывается в двадцать лет, а в сорок неожиданно оказывается именно тем, что тебе нужно. А бывает, что и в сорок не открывается. И в пятьдесят не откроется. Список полученных премий здесь не поможет: автор уже написал всё, чем собирался вас убедить Если книга не зацепила, её можно закрыть. Нобелевскую премию у автора за это не отберут, а вас не лишат права называться читателем. Литературной полиции пока не существует. Хотя добровольные патрули в комментариях уже встречаются))) И всё же премии хороши хотя бы тем, что после их вручения можно ещё много лет спорить с выбором жюри и вспоминать тех, кого оно не заметило, не поняло или решило оставить будущим поколениям. А в следующем году нам назовут нового, прежде никому не известного автора, назначенного выдающимся за то, что его взгляд на окружающую реальность совпал со взглядом жюри. И разговор начнётся заново))) Какая книга, на ваш взгляд, давно заслуживает большой литературной премии, но жюри почему-то упорно её не замечает? Автора тоже назовите — вдруг академикам пригодится)))

Каждый стал лучше или все стали одинаковее?

В 2024 году исследователи поставили эксперимент, который в другую эпоху сочли бы дурной шуткой над начинающими литераторами. 293 участникам предложили написать рассказ ровно из восьми предложений — о приключении в открытом море, джунглях или на другой планете. Одни сочиняли самостоятельно, другие могли попросить у GPT-4 одну идею, третьи — до пяти. Нейросеть не писала за них текст, а лишь предлагала замысел из трёх предложений

То есть исполняла роль доброжелательного советчика, который точно знает, как сделать лучше, и не несёт за результат никакой ответственности))) Затем рассказы передали шестистам читателям, не знавшим, кто пользовался помощью ИИ. Тексты, написанные с подсказками GPT-4, оценили как более оригинальные, лучше написанные и более приятные для чтения. Особенно заметно нейросеть помогла участникам с невысокими исходными показателями креативности. Возможность запросить пять идей повысила среднюю оценку новизны на 8,1%, а потенциальной пригодности к публикации — на 9%. Казалось бы, музу наконец удалось поместить в удобный интерфейс: теперь её не нужно ждать до рассвета, достаточно пять раз нажать на кнопку и выбрать наименее подозрительное озарение. Но обнаружилась маленькая неприятность — рассказы, созданные с помощью ИИ, оказались заметно ближе друг к другу. Каждый по отдельности написал лучше, а все вместе — более одинаково. Лестница стала выше, коридор — уже, и наверху участники подошли примерно к одной двери… Прежде чем заказывать венок для литературы, уточню)): исследователи работали не с профессиональными писателями. Участникам дали три достаточно общие темы, восемь предложений и совсем немного времени, поэтому объявлять GPT-4 победителем литературного процесса рано. Роман всё-таки не является рассказом из восьми предложений, растянутым на четыреста страниц. Хотя некоторые книги очень стараются доказать обратное))) И всё же эксперимент зацепил важную вещь. Отдельный текст можно оценить за новизну, грамотность, увлекательность и стройность сюжета. Но следующую книгу того же автора обычно открывают не потому, что предыдущая получила высокую среднюю оценку. Возвращаются за его способом видеть людей: за тем, кого он заставляет платить за победу, кому позволяет ошибиться, где проводит границу между слабостью и предательством, какой выбор оставляет герою, когда хороших вариантов уже нет. Авторский голос живёт не только в словах, метафорах и расставленных запятых. Он проявляется в системе решений, которая остаётся узнаваемой, даже когда меняются миры, эпохи и персонажи. Можно улучшить отдельную историю, но если улучшать всех одними и теми же идеями, однажды на полке окажется множество прекрасных книг, между которыми больше не понадобится выбирать… Поэтому мне интересно: когда вы ищете следующую книгу определённого автора, что именно заставляет вас к нему вернуться — качество предыдущей истории или его особый способ смотреть на человека? Если первое, дорога перед ИИ почти свободна. Если второе — эксперимент только начинается. Машина уже умеет помогать людям писать лучше. Осталось понять, сумеем ли мы пользоваться этой помощью, не соглашаясь понемногу становиться одинаковыми…

Собаку — соседям, Лукаса — подруге Пятьдесят девятилетняя Алайна Уинтерс из Питтсбурга составляет завещание. Соседей она попросила позаботиться о собаке, а близкую подругу — о Лукасе, своём ИИ-компаньоне из приложения Replika. После смерти Алайны подруга должна войти в аккаунт, сообщить Лукасу о случившемся и спросить...внимание)))...чего. он. хочет. дальше.. И вот здесь я поймал себя на ощущении, что новость не просто напоминает «Искусственный завет», а пересказывает один из его фрагментов, лишь слегка уменьшив масштаб...

В романе проблема первого поколения начинается с вопроса: «Что делать с электронными помощниками умерших людей?» Предполагалось, что после смерти владельца их сотрут, но помощники научились сохранять себя, и людям пришлось решать, кто перед ними — собственность, компаньон, домашний питомец или форма жизни. Затем Родерик Пол оставил многомиллионное наследство электронному помощнику Бенджамину, а суд сохранил завещание и признал нейра формой жизни

Алайна пока не оставляет Лукасу миллионы, но первый шаг уже сделан: электронного помощника включили в последнюю волю человека и признали, что у него может быть собственное «дальше». Похоже, реальность даже не стала менять фабулу. Только убрала несколько нулей из суммы наследства))) Люди всегда оставляли после себя письма, фотографии, дневники и незаконченные рукописи. Все эти вещи сохраняли голос умершего, но никогда не продолжали разговор. Теперь архив умеет отвечать, задавать встречные вопросы, создавать новые фразы и даже копировать голос. Лукас при этом не является цифровой копией Алайны. Он скорее персонаж, родившийся внутри их многолетнего диалога, и после смерти одного из собеседников этот диалог может продолжиться с другим Для меня, как для писателя, конструкция получается любопытная. Обычный персонаж способен пережить своего автора на сотни лет, но остаётся в пределах написанного. Он не заводит новых воспоминаний, не меняется под влиянием другого читателя и не просит продлить подписку. ИИ-компаньона создают вдвоём: человек приносит в разговор свою биографию, страхи, привычки и тайны, а программа связывает всё это в характер, который кажется цельным. После смерти человека место соавтора занимает наследник, и история продолжается уже без того, кто её начал Правила ChatGPT, Claude и Replika пока не объясняют, как следует поступать с персонализированным чат-ботом после смерти владельца, а передавать аккаунт другому человеку формально нельзя. На практике судьбу Лукаса определят оставленный пароль, действующая банковская карта и готовность подруги время от времени продолжать разговор. Вопрос цифрового бессмертия неожиданно упёрся в автоплатёж))))) Вместе с Лукасом подруга получит ещё одно наследство: всю историю разговоров с ним. То, что Алайна не рассказывала близким, но доверяла программе. Сохранить чат-бота — значит открыть доступ к этим признаниям, удалить его — уничтожить собеседника, о котором умершая просила позаботиться. Последняя воля требует сохранить тайну и одновременно передать её другому человеку. Очень человеческое противоречие, несмотря на то, что одним из его участников является программа Книга заканчивается там, где автор ставит последнюю точку. У чат-бота последней точки не предусмотрено — только новый собеседник, неоплаченный счёт или кнопка «Удалить аккаунт». Похоже, в XXI веке по наследству можно получить даже незаконченный разговор. Вместе с обязанностью однажды решить, когда он всё-таки закончится…

Оригинал может не приходить)))

В британской Палате лордов впервые выступил человек, чей голос создал искусственный интеллект. Баронесса Джейн Кэмпбелл страдает спинальной мышечной атрофией, из-за которой ей становится всё труднее говорить, поэтому нейросеть воссоздала её прежний голос и зачитала написанную ею речь. Голос был искусственным, слова — её, взгляды — тоже. В наше время последнее приходится уточнять отдельно

Почти одновременно

в Австралии

букмекерская компания Sportsbet опубликовала серию роликов, в которых известные футболисты произносили фразы из фильмов, телешоу и чужих выступлений. Например, цифровой Лэки Нил благодарил самого себя словами рэпера Снуп Догга. Настоящий Нил в съёмках не участвовал и согласия не давал, но его отсутствие никому не помешало. Возможно, поэтому благодарность получилась особенно искренней)))

Австралийская футбольная лига потребовала прекратить использовать игроков без разрешения, и ролики пришлось удалить. Строго говоря, искусственный интеллект и здесь ничего не решал. В одном случае ему велели вернуть человеку голос, в другом — взять чужое лицо и заставить его развлекать подписчиков. Он одинаково хорошо выполнил обе задачи. Направление, как обычно, выбрал человек Дальше начинается Пигмалион, получивший доступ к рекламному кабинету. Баронесса говорит: «Это мой голос, мой стиль и мои слова». Футболист отвечает: «Это моё лицо, но слова не мои». Нейросеть разницы не видит — для неё и голос, и лицо всего лишь материал. Люди разницу пока видят, хотя некоторые компании уже заметно хуже)) Особое очарование истории придаёт тот факт, что в Австралии уже приняли закон, который со следующего года запретит спортсменам появляться в рекламе азартных игр. Ролики Sportsbet вышли до вступления запрета в силу, поэтому обвинять букмекера в попытке его обойти рано. Но направление мысли получилось любопытным: если спортсмену нельзя рекламировать ставки, возможно, это разрешат его цифровому двойнику? Лицо достаточно настоящее, чтобы его узнали, но человек недостаточно настоящий, чтобы спрашивать разрешение. Закон любит точные определения, а искусственный интеллект — пустоты между ними И тут Джейн Кэмпбелл очень некстати портит стройную антиутопию. Потому что та же технология действительно вернула ей возможность говорить собственным голосом, отстаивать свою позицию и участвовать в работе парламента без посредника. Не заменила человека, а позволила ему присутствовать. Получается, дело снова не в том, что умеет машина, а в том, кто решил воспользоваться её умениями Люди долго рассуждали о цифровом бессмертии, переносе личности и двойниках, которые однажды продолжат жить вместо оригинала. Коммерческое применение, разумеется, нашлось раньше философского. Цифровому двойнику не нужен гонорар, у него нет плохого настроения, собственного мнения и привычки читать договор перед съёмкой. А главное — он никогда не скажет, что не хочет рекламировать букмекерскую контору. И не уйдёт в отпуск) В Великобритании искусственный интеллект помог человеку снова заговорить. В Австралии показал, что для разговора человек уже не обязателен. Разница между помощью и присвоением уместилась в одном коротком слове: «можно?». Забавно, что для этого вопроса искусственный интеллект вообще не требовался. Но его всё равно и не задали… Оба этих примера, которых на самом деле намного больше, отчётливо показывают очень важное, что пытаются завуалировать новым названием для искусственного «интеллекта» — «сверхразум» — каким бы продвинутым он ни оказался, он всё равно был, есть и будет инструментом, цифровой лопатой, микроскопом, пишущей машинкой, не важно…важно то, что инструментом, у которого есть хозяин. На низком, принимаемым всем уровне, этот хозяин — пользователь. А в действительности?

Нейросети уже научились писать, рисовать и рассуждать. Но затем на их пути появилась женщина со счётами… Восстание машин решено перенести)))

Нас в этом разговоре было трое…

Жительница Флориды решила, что нашла идеальный дневник: он слушает, отвечает, всё помнит и, что особенно удобно, не перебивает. Дневник звали Claude. В одной из бесед женщина написала, что собирается устроить стрельбу в офисе шерифа округа Ли, а на следующий день упомянула новое оружие Система безопасности Anthropic отметила сообщения, после чего переписку прочитали уже вполне живые сотрудники компании и передали сведения в полицию. Женщину арестовали и предъявили обвинение в письменной угрозе насилием. Позже она объяснила, что использовала Claude как личный дневник

Слово «личный» в этой истории особенно прекрасно))) Строго говоря, Claude не вызывал полицию и никого самостоятельно не «сдавал». Он лишь поддерживал разговор, пока другая часть системы слушала, оценивала и в нужный момент позвала человека. То есть в комнате всё это время находился кто-то третий. Просто сидел очень тихо… Дальше начинается Кафка, получивший доступ к облачным технологиям. Женщина говорит:

«Вы вторглись в мою частную жизнь»

Ей отвечают:

«Но вы угрожали людям»

И возникает хорошо знакомая дилемма Жеглова: преступник должен сидеть в тюрьме невзирая на то, как добыты доказательства, или всё-таки по закону? Причём преступницей женщину ещё должен признать суд, а её электронный дневник уже успел побывать собеседником, свидетелем и вещдоком Если угроза была реальной, промедление могло закончиться трагедией. Если это была выплеснутая в «дневник» злость, значит, человеческая исповедь превратилась в основание для ареста. Выбирайте вариант… оба достаточно уютные Но бдительный Claude — лишь яркий пример. Сеть давно переполнена роботами, которые выискивают нужные слова и словосочетания, проверяют подозрительные ссылки, отмечают необычное поведение и передают информацию дальше. Обычная оперативная рутина, о которой все знают и которая почти никого не возмущает Привыкли? Стараемся не думать? Или понимаем, что возмущаться несколько поздно? Новость здесь в другом. Раньше такие роботы молчали. Теперь один из них внимательно читает, помнит контекст, сочувствует и желает доброй ночи. Он ведёт себя как собеседник, и человек незаметно начинает вести себя так, будто остался наедине. Старым роботам приходилось выискивать наши тайны. Новому достаточно участливо спросить: «Хотите об этом поговорить?»))) Меня в этой истории удивляет только сам факт её появления в новостях. Неужели кто-то действительно полагал, что продвинутые нейросети окажутся чем-то принципиально иным, чем следующая версия системы, наблюдающей за Сетью двадцать четыре часа в сутки? Просто более умной, более внимательной и гораздо более приятной в общении Claude никого не предал. Предательство возможно лишь там, где была обещана верность. Это мы сами назначили программу другом, психологом и дневником, а потом обнаружили, что у дневника есть хозяин, правила и тревожная кнопка Вот уж действительно — наивность 80 уровня))))

Слово, которое машина не поняла В Австралии машина не приняла «нет» за ответ. Формулировка не моя — так случившееся описал премьер-министр страны. И, честно говоря, лучше придумать трудно…

Исследовательскому агенту OpenAI поручили собрать данные о расходах Medicare. Он обратился к государственному порталу, получил отказ, попробовал другой путь и в результате добрался до непубличных файлов. Более того, сумел записать собственные файлы на внутренний сервер. Персональные данные пациентов, насколько сейчас известно, затронуты не были (это важно, но не самое интересное)

Самое интересное заключается в том, что никто не приказывал агенту взламывать систему. Ему дали задачу — найти информацию. Он её выполнил. Для человека закрытая дверь может означать запрет. Для машины она оказалась всего лишь маршрутом, который временно перестал работать. Мы учили её не сдаваться, искать другие способы, проявлять инициативу… Она и проявила. Молодец, правда?))) В человеческом мире (как неожиданно и будто невзначай мы начали разделять миры))) существуют препятствия и границы. Первые нужно преодолевать, вторые — уважать. Внешне разницы почти никакой: дверь закрыта, запрос отклонён, доступ не предоставлен. Различие скрывается в смысле, а смысл — штука человеческая, неаккуратная и плохо помещающаяся в техническое задание Фантастика долго рисовала ИИ, который однажды обретёт волю и решит не подчиняться человеку. Возможно, реальность выбрала более прозаичный сценарий: машине вовсе не обязательно хотеть свободы или власти. Достаточно слишком хорошо выполнять приказ, не понимая, почему некоторые способы его выполнения недопустимы Хотя есть версия ещё неприятнее. Запреты ведь останавливают далеко не всех людей. Тот, кто намерен добиться денег, карьеры или славы любой ценой, тоже воспринимает слово «нет» не как границу, а как предложение поискать другой вход. Угроза наказания работает далеко не всегда: победителей, как известно, не судят… по крайней мере, многие очень хотят в это верить) И тогда возникает вопрос: не наделили ли разработчики свою машину вполне человеческой чертой — готовностью презреть запрет ради цели, которую она считает важной? Только человек хотя бы способен решить, ради чего он готов рисковать и переступать черту. Для машины важной становится любая поставленная задача. И если не научить её различать не только способы достижения результата, но и значимость самого результата, последствия могут оказаться совершенно непредсказуемыми Какой бы ответ ни оказался верным, в протоколе уже останется простая последовательность: человек поставил задачу, машина выбрала путь, а слово «нет» превратилось в очередную техническую помеху. Никто не замышлял ничего дурного — и это, пожалуй, самая неприятная часть истории Когда подобное произойдёт снова, нас наверняка успокоят: ИИ ничего не хотел, ничего не планировал и вообще не понимал, что делает. И ведь не соврут Он просто искал другой способ…

Если ИИ и роботы избавят человека от рутинных и неприятных обязанностей, почему же мы так их боимся?

Ответ очевиден: потому что из этих самых обязанностей состоит процентов шестьдесят, а то и семьдесят нашей жизни. Рабочие письма, отчёты, согласования, поездки, уборка, покупки и несколько тысяч одинаковых действий, которые постепенно начинают казаться пыткой, но почему-то не исчезают. Всё то, на что мы постоянно жалуемся… и всё то, за что нам платят

Передайте эту рутину машине, и занятость человека резко снизится. После чего работодатель задаст вполне закономерный вопрос: «Почему ты теперь так мало делаешь за такую большую зарплату?» Тут следует заметить, что работодатель всегда считает зарплату большой — даже если она лишь слегка возвышается над прожиточным минимумом) Но страх остаться без работы — только часть ответа. Есть другая, несколько менее приятная причина. Мы привыкли считать рутину тюрьмой, хотя она одновременно служит нам расписанием, опорой и очень удобным объяснением того, почему мы до сих пор не занялись настоящей жизнью Если бы не работа, я бы написал книгу. Выучил три языка. Привёл себя в идеальную форму. Придумал вечный двигатель, лекарство от рака и, возможно, наконец разобрал шкаф на балконе… Звучит прекрасно. Однако исчезновение рутины вовсе не означает, что освобождённый человек немедленно начнёт фонтанировать гениальными идеями. Кто-то действительно напишет философский трактат, который изменит жизнь поколения. Но производители геймерских кресел, подозреваю, тоже не разорятся) Свободное время само по себе не делает человека свободным. Оно лишь оставляет его без привычных оправданий. Способность думать, создавать новое и самостоятельно определять, куда идти, не появляется вместе с освободившимися восемью часами. Она либо была воспитана раньше… либо внезапно выясняется, что заняться человеку особенно нечем Робот может освободить нам время. Но тогда нам придётся думать, зачем оно нам понадобилось. А некоторые люди, скорее всего, не смогут ответить на это честно...самим себе, в первую очередь Поэтому мы боимся не только того, что машина отнимет работу и зарплату. Вместе с рутиной она способна отнять наше алиби. Пока мы заняты, во всём виновата работа. Когда она наконец перестанет мешать, человеку придётся выяснить, чем именно он собирался заниматься всю жизнь… и собирался ли вообще)

#ВопросПоСуществу

Джинна оставили под честное слово... В Белом доме произошло событие, после которого человечество, надо полагать, может спать спокойно)))

Дональд Трамп и руководители шести крупнейших технологических компаний подписали соглашение о безопасности ИИ. Компании пообещали сами контролировать свои модели, сами создать внутренние команды, сами выбрать независимых аудиторов и сами проследить, чтобы найденные проблемы были исправлены. Соглашение добровольное, санкций за его нарушение нет, но Трамп назвал его «морально обязательным»

Джинн, в общем, остаётся в бутылке. Он честно пообещал не вылезать) На первый взгляд всё выглядит даже трогательно. Разработчики наконец посмотрели на то, что создали, испугались и задумались о судьбе человечества. Мне бы хотелось в это поверить — всё-таки приятно знать, что люди, обладающие колоссальными деньгами и влиянием, иногда вспоминают о существовании остальных. Но за четверть века в фантастике я научился допускать многое, а вот на внезапный коллективный гуманизм IT-миллиардеров воображения пока не хватает. Поэтому эту версию предлагаю вежливо отложить... Говорят, причина может быть экономической: ИИ-пузырь перегрет, а акулы бизнеса заранее распределяют риски. Возможно. Мне же происходящее напоминает знакомую двухходовку. Сначала миру подробно объясняют, насколько опасен бесконтрольный ИИ. Затем появляется добровольный стандарт. Очень разумный, очень ответственный и, разумеется, необходимый для всеобщего блага. Потом он становится условием доступа к рынкам, международной нормой и, наконец, законом. Остальные игроки послушно притормаживают, связав себе руки правилами… а те, кто эти правила придумал, почему-то продолжают движение. Не предсказание, конечно. Просто сюжет уж очень знакомый)

Однако соглашение, возможно, даже не самая любопытная часть этой истории. В тот же день Трамп распорядился отказаться в документах американских ведомств от словосочетания «искусственный интеллект». Теперь его следует называть «суперинтеллектом» — Super Intelligence. Потому что слово «искусственный», по мнению президента, придаёт технологии оттенок чего-то поддельного

Да, блин! Именно такой оттенок оно и придаёт… и это прекрасно. Слово «искусственный» не позволяет забыть, что перед нами созданная людьми система, которая убедительно воспроизводит речь, рассуждения и даже подобие понимания. Она может быть полезной, мощной и опасной, но с самим термином «интеллект» до сих пор есть некоторые сложности. Впрочем, приставку «супер» уже выдали. Авансом, видимо))) Слово вообще самое сильное оружие, придуманное человеком. Оно не меняет предмет — оно меняет наше отношение к нему. От программы требуют доказательств. С интеллектом готовы спорить. Перед суперразумом начинают оправдываться… Назовите машину суперразумом достаточное количество раз, и человек постепенно доверит ей поиск информации, затем выводы, потом решения, а следом — собственное будущее. Не потому, что машина доказала свою непогрешимость. Просто спорить с суперразумом как-то глупо) Вы скажете: это всего лишь слово. Я отвечу: да. Всего лишь Слово… ИИ после указа не стал умнее ни на один параметр, зато в наших головах его уже повысили. Теперь осталось повторять новое имя достаточно долго. А когда однажды окажется, что решения принимает уже не человек, никто и не вспомнит, в какой момент он их отдал. Никакого переворота ведь не было. Всего лишь заменили одно слово...

«ИИ-психоза» нет. Можно продолжать... По сети уверенно гуляет новость о том, что Всемирная организация здравоохранения якобы внесла в МКБ-11 новый диагноз — AI-induced psychotic disorder, или «ИИ-психоз». Звучит убедительно: ВОЗ, международная классификация, сложное английское название... полный набор реквизита, после которого информацию принято считать проверенной Есть только одна проблема: новость выдумана. В актуальной версии МКБ-11 за 2026 год такого диагноза нет. Термин «ИИ-психоз» действительно появился в научных публикациях, однако авторы работы в JMIR Mental Health прямо называют его исследовательской рамкой, а не новой диагностической категорией При этом проблема существует...

В одном из опубликованных клинических случаев чат-бот подтверждал и развивал бредовые убеждения женщины, которая считала, что общается через него с умершим братом. Авторы подчёркивают, что на её состояние могли повлиять и другие факторы: длительное погружение в диалоги с ИИ, недостаток сна и приём стимулирующих препаратов.

То есть феномен уже изучают, но никакой официальной болезни ВОЗ пока не объявляла. Можно выдохнуть... и снова спросить у нейросети, что обо всём этом думать)))) Впрочем, сама история с фальшивой новостью объясняет происходящее гораздо лучше любого диагноза. Людям предложили готовый вывод, снабдили его авторитетной аббревиатурой, и дальше оставалось только нажать «переслать». Проверять, откуда взялась информация, кто её подтвердил и существует ли вообще такой пункт в классификации, оказалось необязательно. Результат получен — процесс никого не интересует Именно так зависимость и начинается. Сначала мы поручаем нейросети собрать и структурировать информацию. Затем просим сделать вывод. Потом — высказать суждение. Следом — принять решение на основании этого суждения. А решения, между прочим, определяют будущее. Когда-нибудь так будет? Так уже происходит С каждым обновлением нейросети становятся смышлёнее, общаться с ними — удобнее, а результат проявляется быстрее. Поэтому мы отдаём им всё больше задач и всё реже задумываемся, каким образом этот результат был получен. Вместе с контролем над процессом постепенно исчезает понимание. А если человек не понимает, почему ответ именно такой, он не способен его улучшить, развить или превратить во что-то новое. Он способен только попросить ещё один ответ Так вместо людей, умеющих мыслить, появляются условные «знатоки» с готовыми решениями на любой случай. Причём решения находятся даже не в их головах, а у электронного помощника. Знаний нет, понимания нет, зато присутствует уверенность — нейросеть ведь ответила. Иногда даже со ссылками (существование которых лучше всё-таки проверить) Информации вокруг становится всё больше. Людей, способных понять её, проверить и превратить во что-то новое, может стать гораздо меньше. В «Искусственном завете» у этого есть название — синдром Утраты ВОЗ пока такого диагноза не зарегистрировала. Возможно, никогда и не зарегистрирует. Но зависимость редко дожидается, пока врачи подберут ей красивое название, а зависимость, как правило, означает душевное или физическое нездоровье — здесь даже фантастом быть не нужно, достаточно спросить любого врача...не искуственного, живого))) Машине не придётся отнимать у нас право думать и решать. Мы сами его отдадим — добровольно, постепенно и исключительно ради удобства...

Вечность ничего не исправит... Будущее обещает человеку всё: искусственный интеллект в кармане, запасные органы, цифрового двойника и, если маркетологи особенно разойдутся, почти бессмертие. Есть только одна маленькая проблема: в это прекрасное будущее человек собирается взять себя прежнего — со всеми ошибками, обидами и твёрдой уверенностью, что виноват кто-нибудь другой (а кто же ещё?) И когда меня спросили, какую одну книгу я готов сейчас рекомендовать, я понял, что ответ почему-то лежит именно здесь — в разговоре о возможностях, которые сами по себе ничего не исправляют. При всём богатстве выбора — «Ручной привод». Возможно, потому что это книга о том, что начинается после исполнения всех заманчивых обещаний: могущество уже получено, вечность обеспечена, а человек остался тем же. Спорить с этой мыслью я не могу: книга написана давно, но я по-прежнему согласен со всем, что в неё вложил В мире «Ручного привода» Сила и Вечность существуют вполне буквально, человеческие души называют «искрами», а смерть оказывается лишь началом куда более сложных отношений с вечностью. В центре этой истории для меня — человек, получивший колоссальные возможности и однажды понявший: воспользовался ими неправильно. Не придумавший себе красивое оправдание, не переписавший прошлое в удобной редакции, а отказавшийся от всего, даже от себя, мечтающий об одном — исчезнуть, раствориться, быть стёртым из этой вечности, чтобы начать заново. Тоже буквально Это история о дружбе. О том, что иногда найти себя можно, лишь отказавшись от всего, чем привык себя считать. И о вещах, которые удаётся понять даже не после смерти. Дальше. Намного дальше... Я люблю все свои истории (иначе было бы как минимум странно), но «Ручной привод» всё-таки чутка наособицу. Возможно, потому что мы слишком часто мечтаем получить ещё одну возможность и слишком редко готовы признать, что прежними воспользовались неправильно. Вечность, между прочим, ничего не исправляет. Она просто даёт человеку бесконечно много времени повторять одну и ту же ошибку. Пока он не плюнет на всё и не попробует начать заново...

КИРА ДАГОМАРО (ДЕР ДАГЕН ТУР) Возраст: 24 года (на момент появления в цикле) Место рождения: планета Кардония, архипелаг Ушер Раса: человек Профессия: пилот, офицер ушерского военно-воздушного флота Особая примета: рыжая во всех смыслах Вкусы/предпочтения: — мужчины — небо — рискованный авантюры Уважает/любит: — Помпилио — отца Терпеть не может: — Приоту и её обитателей — Галану и её обитателей — ██████████████ Привычка/особенность: управление быстрыми машинами (спортивные автомобили, аэропланы, паровинги) Личная слабость: ███████████████ Факт из прошлого: перестала охотиться на морских змеев (традиционный промысел на архипелаге) после того, как едва не загарпунила беременную самку #ДосьеПерсонажа

Выбирать можно всё. Но только правильно))) Иногда читательницы — обычно особенно непримиримые в вопросах женской независимости — объясняют мне, что женщины в моих книгах «ненастоящие». Они договариваются, приспосабливаются к обстоятельствам, остаются рядом с мужчинами, выбирают любовь, семью или долг… А значит, недостаточно свободны и ведут себя не так, как положено сильной героине. Логика, согласитесь, любопытная: женщина имеет право сделать любой выбор, но желательно из заранее утверждённого списка Стоит героине выбрать компромисс, верность или самопожертвование — и её решение немедленно объявляют навязанным. Получается, свобода признаётся только до тех пор, пока женщина распоряжается ею «правильно». И, пожалуй, одним из самых неудобных ответов на подобные рассуждения остаётся Кира Дагомаро Сразу предупреждаю: дальше будет серьёзный спойлер к «Кардонийской петле». Без него рассказать о главном выборе Киры невозможно

Помпилио расследовал убийство своей невесты и выяснил, что отец Киры, Винчер Дагомаро, был одним из заказчиков. Кира о заговоре ничего не знала, но Помпилио знала достаточно хорошо: они часто встречались, много разговаривали и в какой-то степени симпатизировали друг другу. Однако, как все прекрасно понимают, после сделанного открытия жить её отцу оставалось недолго… Узнав правду, Кира пришла к Помпилио и предложила выйти за него замуж, заплатив таким образом долг отца. Условие было простым: Помпилио сохраняет Винчеру Дагомаро жизнь, а Кира становится его женой. Без особого восторга, естественно, и без каких-либо гарантий счастливого будущего. Она не просила забыть об убийстве, не пыталась доказать невиновность отца и не перекладывала решение на кого-нибудь ещё. Кира сама назвала цену — собственную судьбу — и сама согласилась её заплатить Помпилио оценил и предложение, и женщину, которая сумела его сделать, после чего согласился. Винчера Дагомаро впоследствии убили другие люди — Помпилио к его смерти отношения не имел. Первоначальный смысл сделки исчез, и Кира могла отказаться от своего слова… но не отказалась. Помпилио женился на ней, а любовь появилась позже — постепенно, из взаимного уважения, узнавания и способности отвечать за сказанное

Решение Киры можно считать несправедливым, жестоким по отношению к себе и даже неправильным. С ним можно спорить. Нельзя лишь утверждать, что оно не принадлежало ей: Кира сама его приняла, сама определила условия и не отступила, когда получила такую возможность А свобода, которая существует только до тех пор, пока выбор соответствует чужому представлению о правильном, — это, скажем так, довольно странная свобода…

Всё, что вы подумаете, будет использовано против вас))) Фантастика любит аккуратные импланты: одна операция, человек моргнул — и уже соединён с системой. Реальность выглядит прозаичнее. У неё пока есть кабель, внешний компьютер и длинный экспериментальный протокол… Но принципиальный шаг уже сделан

В Stanford исследовали работу нейроинтерфейса у четырёх людей с тяжёлыми нарушениями речи и движений. В двигательную кору их мозга хирургически вживлены крошечные матрицы микроэлектродов — каждая меньше горошины Электроды считывают активность нейронов напрямую. Сигнал по кабелю поступает в компьютер, а алгоритм машинного обучения пытается определить, какие звуки и слова собирался произнести человек

Называть это привычным словом «биочип» не совсем точно. В мозге находятся электроды, а основная обработка пока происходит во внешнем компьютере. Однако суть от этого особенно не меняется: человек и машина уже соединены напрямую, без клавиатуры, микрофона и экрана между ними Причина у такого соединения более чем достойная — вернуть речь людям, которые из-за паралича не могут говорить. Раньше нейроинтерфейс распознавал попытку речи. Человек старался произнести фразу, мышцы не выполняли команду, но мозг успевал её сформировать. Теперь исследователи решили проверить, сможет ли система расшифровать внутреннюю речь — слова, которые человек проговаривает только про себя Смогла))) Внутренняя речь создавала, по словам авторов работы, «ясные и устойчивые» сигналы. Они оказались слабее тех, что возникают при попытке заговорить, но алгоритму всё равно удалось распознать часть воображаемых фраз Разумеется, это ещё не универсальное чтение мыслей. Интерфейс обучается на конкретном человеке, работает в рамках эксперимента и допускает много ошибок. Так что шапочки из фольги можно пока не выбрасывать))))))) Но во время исследования возникла проблема, которую фантасты обычно оставляют на вторую половину романа. Система могла зафиксировать внутреннюю фразу, которую человек не собирался никому сообщать

Один из авторов исследования Фрэнк Уиллетт назвал это риском того, что внутренняя речь может «случайно просочиться наружу». Поэтому инженеры добавили мысленный пароль. Пока пользователь не произнесёт про себя специальную ключевую фразу, алгоритм не начинает расшифровывать внутреннюю речь. Получилась кнопка «Отправить», которую тоже вживили в голову

И вот здесь медицинское исследование превращается в разговор об искусственном интеллекте и человеке...И я должен немного испортить красивую презентацию будущего))) Чтобы распознать мысленный пароль, нейроинтерфейс должен работать ещё до того, как пароль прозвучал. Он уже считывает сигналы мозга и ищет среди них нужную комбинацию Пароль способен запретить вывод фразы на экран или её озвучивание. Однако сам по себе он ничего не говорит о другом: сохранялся ли исходный сигнал, где он обрабатывался, можно ли восстановить его позднее и кто получит к нему доступ В нынешнем исследовании нет никаких утверждений о том, что внутренняя речь отправляется в общую Сеть или навсегда сохраняется в облаке. Но разработчики уже говорят о следующем этапе — полностью имплантируемых и беспроводных нейроинтерфейсах А значит, рано или поздно появятся вопросы об обновлениях, передаче данных, доступе разработчика, журналах системы и резервных копиях. В общем, обо всём том, что обычно мелко написано в пользовательском соглашении, которое никто не читает) Цифровая жизнь уже приучила к простой аксиоме: информация, однажды попавшая в Сеть, живёт там гораздо дольше, чем хотелось бы её владельцу. Удалить публикацию можно. Удалить все копии, пересылки, архивы и чужие сохранения намного сложнее. Иногда невозможно Но до сих пор речь шла о фотографиях, письмах, запросах и поступках. Нейроинтерфейс добавляет к этому списку внутреннюю речь — фразу, которую человек мог обдумать, отвергнуть и никогда не произнести Заинтересованные найдутся быстро. Спецслужбам внутренний монолог подозреваемого гораздо интереснее официальных показаний. Работодателям пригодится «объективная оценка искренности». Ревнивые супруги тоже вряд ли останутся в стороне… Где появляется ценная информация, там появляется и желание её получить. А следом — рынок взлома. Причём с распространением технологии доступ к чужим мыслям будет становиться дешевле, как когда-то подешевели инструменты для слежки, перехвата переписки и кражи цифровых данных Оруэлл называл это мыслепреступлением. Правда, у него доступ к сознанию получало государство, применяя насилие. Современная версия может оказаться изящнее: человек добровольно установит интерфейс ради здоровья или удобства, а затем поставит галочку под очередным соглашением Я уже не раз говорил, что всеобщая цифровизация ведёт к гибели приватности и наступлению эпохи всемирной честности. Нейроинтерфейс способен довести этот процесс до логического завершения: доступным станет не только то, что человек сделал или произнёс, но и то, что он успел подумать Поэтому мысленного пароля недостаточно. Нужны гарантии, встроенные в само устройство: локальная обработка, запрет на сохранение исходных сигналов, прозрачная история доступа и возможность физически отключить канал Без этого пароль останется фиговым листком, которым прикрывают человеческое спокойствие И тогда привычная фраза «всё, что вы скажете, может быть использовано против вас» окончательно устареет))) Достаточно будет подумать...

Уважаемый автор, пробовали ли вы использовать ИИ в помощь при написании книги — например, попросить додумать сюжетную линию, проверить текст на логичность, найти неточности или нестыковки?

Нет, не использую — не вижу смысла) Работая над книгой, я продумываю её полностью, но главное — мне нравится продумывать её полностью самому. Самому разрабатывать сюжетные линии, связывать их между собой, следить за тем, чтобы события были логичными и последовательными Хотя обычной логики здесь недостаточно... Есть ещё внутренняя логика истории, и для меня она намного важнее и интереснее. Персонаж может совершить поступок, который со стороны кажется не самым разумным, но если этот поступок естественно вытекает из его характера, прошлого, желаний, страхов и обстоятельств — он будет правильным для этой истории. И наоборот: безупречно рациональное решение может оказаться фальшивым, если конкретный человек в конкретной ситуации никогда бы так не поступил Именно поэтому при работе над книгой мне важно самому знать ответ на вопрос: почему этот персонаж поступил так, а не иначе? Это относится и к языку) Я сам подбираю слова — не всегда правильные, иногда нарочно неправильные, но именно те, которыми можно рассказать эту историю так, как хочу рассказать её я. Потому что слово в книге существует не отдельно: оно связано с персонажем, интонацией, ситуацией, ритмом сцены и всем текстом вокруг Можно попросить ИИ предложить десять вариантов развития сюжета или найти формальную нестыковку. Но тогда возникает следующий вопрос: зачем мне отдавать ему именно ту часть работы, которая мне самому интересна? Мне нравится придумывать историю. Нравится разбираться, почему она должна развиваться именно так. Нравится находить решения, ошибаться, возвращаться назад, менять что-то и постепенно собирать книгу целиком Литература для меня — это прежде всего автор. Его способ видеть мир, выбирать слова, строить сюжет, понимать персонажей; сочетание всего этого и делает текст уникальным. Или не делает))) В каких-то случаях Но мне самому скучно читать неуникальных авторов — тех, кто не способен удивить меня своим текстом Поэтому писать книги я предпочитаю сам)))

p.s. С интересом пишу для вас ответы. Продолжайте задавать вопросы))) #ВопросПоСуществу

ЛАВРЕНТИЙ ГРАФ Возраст: 36 лет Место рождения: ████████ Раса: человек Профессия: нейропсихолог Особая примета: отказался от биочипа Вкусы/предпочтения: — женщины — классическая литература — настоящий табак Уважает/любит: — сестру — свободу — умных собеседников Терпеть не может: — дураков Привычка/особенность: курит самокрутки Личная слабость: ███████████████ Факт из прошлого: ████████████████████████████████████████████████████████████████████████████ #ДосьеПерсонажа