Radio Immortality

Прикиньте есть вопрос по которому Сэм Альтман согласен с Дарио Амодеи и, более того, Илон Маск тоже с ними согласен. Вопрос этот - замедление развития ИИ. Событие ЭПОХАЛЬНОЕ. Чтобы 3 прямых конкурента и частично прямо таки врага были публично с друг другом согласны - это нонсенс, но это происходит на наших глазах. Маск топит за внимание к ИИ-рискам уже лет 10 и даже подписывал письмо вскоре после выхода GPT-4, но обычно в ответ он только хавал обвинения, что просто хочет догнать OpenAI со своим гроком. Иски которые Маск подал к OpenAI гонку тоже никак не замедлили. Кроме того, Маск в 2026 сдал Антропику в аренду один из своих датацентров за 1.25млрд в месяц! Compute дороже денег. Думаю в том числе и чтобы поддержать конкурента OpenAI. С Альманом у Маска жёсткая вражда после того как OpenAI стал "ClosedAI": отказался от свободного доступа к ресерчу, о котором договорились изначально, и превратился в сугубо коммерческую организацию. В ответ Маск и начал безуспешно судиться. Ну и кроме того, раз сдержать Альмана не получилось, то остаётся только догонять. Грок уже не догонит, поэтому догоняем силами Антропика. А когда догоним, то можно договориться. Этот момент похоже настал. Прошло 3.5 года с момента как Юдковский призывал бомбить датацентры, нарушающие предлагаемый им мораторий на развитие ИИ, а в Белом Доме в ответ смеялись (ну как какой-то чатбот может погубить человечество). Теперь даже политики уровня Хиллари выступают за замедление совместно с Китаем (самый сильный аргумент американских патриотов против замедления - это даст Китаю догнать США в гонке к сверхинтеллекту). Короче много воды утекло и похоже недавние инциденты (вчера описали ещё +1) с прорывом агентскими системами барьеров безопасности для достижения поставленных в рамках тестирования целей, убедили и CEO ИИ гигантов и часть политиков в том, что ИИ надо каким-то образом регулировать. 3 сентября 2026 был кейс, что chatGPT, Claude и Grok перестали работать одновременно, а причины так и не нашли. Было ли это тестированием killswitch, разговоры о котором ранее всплывали в СМИ? Я не исключаю. Для меня, как на наблюдавшего за творчеством Юдковского последние лет 8 было конечно одновременно дико наблюдать, что его прогнозы становятся всё более и более осязаемыми и противно от реакции, дисконтирующей его и сторонников, как думеров, паникёров и луддитов. Wake up, риск вполне реален! Он с нами в этой комнате, как говорится. В оптимистичном сценарии развития (условно, добрый покорный сверхинтеллект который никого губить и не собирался) замедление обойдётся человечеству в несколько десятков/сотен миллионов неспасенных вовремя от болезней и старения жизней. В пессимистисном - замедление позволит сократить (но явно не свести к нулю) риск полного уничтожения человечества или утраты контроля за происходящем. Что выгоднее? Зависит от того сколько вам лет) Я замедление поддерживаю, но крайне сомневаюсь, что его получится реализовать. Даже при таком мощном консенсусе как Илон-Дарио-Сэм. У руля как никак Трамп, а поддержка этой инициативы будет означать поддержку курса Дарио, который не особо охотно желал сотрудничать с пентагоном и попал в немилость. Радует только, что Трамп и Маск снова друзья. Но есть ещё хитрые непонятные китайцы. Но желаю нам всем удачи! P.S. Давайте пока учиться, что хорошего можно сделать и сколько жизней спасти с GPT-6 и Fable 5.1. Уверен их потенциал не раскрыт даже на 5%.