Это Файб

AGI от OpenAI. Почему 97% уверены, что ИИ заменит человеческий интеллект? Неделю назад спецы по нейросетям резко испортили жизнь людям с тревожностью: через пару лет появится ИИ, который сильно умнее человека – об этом говорит исследование бывших сотрудников OpenAI, которые со скандалом ушли из компании. Они обвинили бывшего работодателя в одержимости сверхмощной нейросетью и равнодушии к рискам, которые она несет. Что AGI за продукт такой, и почему 97% интернет-пользователей не сомневаются в его появлении? Гига-ИИ AGI (artificial general intelligence) – это общий искусственный интеллект, ИИ с разумом человеческого уровня. Надо сказать, что узкопрофильные ИИ уже сильнее многих спецов: одни лучше анализируют данные, другие – генерируют картинки. Но AGI – это про превосходство над человеком во всех возможных направлениях. Интеллектуально GPT прошел путь от уровня дошкольника до одаренного старшеклассника, всего за четыре года. Прыжок от GPT до AGI займет три года, но итогом станет ИИ с разумом уровня ученых. Этот скачок станет решающим: AGI научится прокачивать сам себя. То, на что у команды разрабов уходило 10 лет, ИИ состряпает за один год. И с каждым витком развития темпы будут ускоряться, поэтому сверхчеловеческий интеллект – это уже обозримое будущее (прогнозы – до 2030 года). New Cold War Название одной из глав документа – "свободный мир должен восторжествовать". И тут речь не о счастливом мире с анкапом, а о победе США над Китаем. Главный риск – AGI в руках неправильных людей. Сверхчеловеческий ИИ – это что-то вроде атомной бомбы, которая 1) даст преимущество отдельным странам; 2) на десятилетия погрузит мир в состояние напряженности. Потому-то уволенные сотрудники и боятся: они считают AGI вопросом нацбезопасности и требуют радикально повысить конфиденциальность, а работу над ИИ перенести на закрытые военные объекты. К тому же в ИИ гонку постепенно влезают все – от Цукерберга до Microsoft. На это уйдут триллионы долларов и до 20% электроэнергии США. Восстание машин Проблема номер два – это контроль. Нынешних механизмов (когда обучение модели зависит от человеческой обратной связи) точно недостаточно для контроля сверхчеловеческого ИИ – об этом говорят те, кто занят ограничением искусственного интеллекта. К скорому появлению AGI человечество вроде может подготовиться, но для этого нужен "ок" от OpenAI, которые пока отмалчиваются. Иначе роботы могут начать самовольничать: взламывать военные базы, создавать другие модели – в условиях максимальной международной турбулентности.

Пока не понимаю, верить этому или нет, но информация поступила следующая: известный тиктокерский жест, где пальцами отображается сердце и любовь, интерпретируется неправильно. Оказывается, сердце тут – это не просто два скрещенных пальца, а кисть целиком, где пальцы наверху отображают артерии😐

У Рами Малека и Жан-Клода ван Дамма нарисовался новый конкурент. Рой Лихтенштейн "Человек с пальто".

YouTube как бренд был зарегистрирован в День святого Валентина в 2005 не просто так. Изначально он задумывался как сайт знакомств – люди должны были грузить видео с собой и на основе видеовизиток искать людей для общения. Но схема не сработала. Тогда авторы оригинального Ютуба решили, что они будут платить по $20 девушкам за КАЖДУЮ публикацию видео с собой, но это тоже не дало эффекта. Пришлось думать, как спасти концепцию. Тогда они просто разрешили всем подряд грузить любые видео, какие душе угодно. И это изменение привело к триумфу: пользователи каждую минуту загружают на сайт более 500 часов видео, а вы, за исключением моих прежних 300 друзей, знакомых и коллег, узнали, что есть такой Файб. Но меняться нужно даже успешным проектам. "Тинькофф Банк" подумал и сменил название на более лаконичное – Т-Банк. Многие их тех, кто пользуется приложением банка, видели, что иконка у него поменялась на Т – это был первый этап. Как только "Тинькофф" сказали о ребрендинге (еще в прошлом году), было очевидно, что называться как-то еще, кроме как Т-Банком, означало бы запутать клиентов и самих себя. Выбрали понятный и самый очевидный ход – и хорошо. Самый удобный банк с самым приятным сервисом останется прежним. #партнерскийпост

Красивая история о том, как озолотиться за счет грамотности, любви к музыке и чтению. Чтобы стать ультрабогатым в Российской империи, необязательно было родниться с правящей династией или становиться старообрядцем, которому норм развивать бизнес на кредитные бабки под 2-3%. Не нужно было сидеть на продаже нефти или выплавке чугуна. Достаточно было издавать книги. Перспективный рынок Российская империя по уровню грамотности не дотягивала до других великих держав. По переписи 1897 (с учетом проседавших Кавказа и Центральной Азии), только в районе 20% населения умели читать-писать. Но если перевести в абсолютные числа, это солидные 26 млн человек. Примерно столько же грамотных было в одном из центров мировой культуры – Франции. Солидный рынок, который рос дико быстрыми темпами – как рынок ПК в девяностых. Спрос и предложение Первым книгоиздателям при раскрутке приходилось быть мастерами маркетинга без нормальных исследовательских инструментов. Один из королей российского книгопечатного рынка, Маврикий Вольф, лично изучал, как у интеллигенции и дворян формируются вкусы. Он первым стал завозить в страну научпоп и платить за переводы. Вольф мог предложить то, что нельзя было достать нигде больше – появилась даже присказка:

В публичную [библиотеку] пойдешь, не найдешь. К Вольфу заглянешь, достанешь.

Нет музыки без Гутхейля Развлечений в конце XIX – начале XX века было мало. Средний класс читал (книгоиздатели знали, что ему продавать), средний класс слушал музыку. Многие умели играть на инструментах. Но чтобы сыграть что-то из Мусоргского, нужны были ноты. На них сколотил состояние Карл Гутхейль (сейчас в его доме посольство Марокко в РФ, хорошо устроились). Гутхейль благодаря скупке бизнеса конкурентов стал самым крупным нотоиздателем в стране. Бизнес и дальше бы процветал, если бы не Первая мировая с Германией и спешный отъезд из Москвы. Массовое производство Богатые уже были грамотными, потенциал роста рынка оставался среди бедноты. У них свободных денег на книги не было. На их аудиторию работал книгоиздатель Иван Сытин. Воспитанный среди старообрядцев, Сытин делал ставку на напечатанные на хреновой бумаге, но дешевые книги. Цены на сытинские издания доходили до 1,5 копеек – булка хлеба была в два-три раза дороже. Книжным магазинам Сытин делал дисконт – при покупке 100 книг нужно было заплатить всего 90 копеек. Удивительно, но рентабельность была в порядке – Сытин лишь за первые четыре года работы издательства успел продать 12 миллионов экземпляров. Необязательно быть грамотным Бизнес Сытина не ограничивался массовой печатью книг. Другим бестселлером стали отрывные календари. До 1883 право печати календарей было только у Петербургской академии наук. Сытин успел подсуетиться и сделать в своем стиле – дешевый и массовый отрывной календарь, который нужно вешать на стену. Людям не столько было нужно считать даты, сколько им нравился формат. На каждом листе/дне был написан полезный совет или факт (ну вы видели такие на старых дачах). Потом Сытин стал выпускать календари для разных аудиторий – с сельхоздатами для посадок, для старообрядцев или тех, кому интересны стихи или история. 100 лет назад издавалось 25 разных версий с общим тиражом более 21 миллиона календарей в год.

Почему толпа мудрее экспертов Слово "толпа" ассоциируется с чем-то не особо вменяемым, сдержанным и контролируемым. Но есть и другая сторона: эффект "мудрости толпы" (wisdom of the crowd). Суть простая: каждый участник толпы производит шум – мысли, "загрязненные" личной предвзятостью. Их может сбалансировать другой сигнал – такое же предвзятое мнение, но противоположное/отличное от первого. Если таких "шумов" будет несколько тысяч – они могут компенсировать индивидуальную глупость каждого и родить нечто поразительно умное и рациональное. Например, в 1906 на ярмарке в Плимуте проходил конкурс по оценке веса быка: самый точный оценщик забирал приз. Все 800 ответов были неверными, но статистик Гальтон вдруг понял: если взять каждую версию и посчитать медиану – она будет соответствовать реальному весу быка с точностью до процента. Пойдем дальше – увидим, что на эффекте мудрости толпы зиждутся: • Демократия. Аристотель писал, что по одиночке плохие люди могут встретиться и коллективно принять решение лучше, чем один хороший человек. • Бизнес. Сбор отзывов/пожеланий потребителей = руководство к действию: сразу понятно, что исправлять и на чем делать акцент. • Суд присяжных. Буквально эффект толпы, но решения принимаются меньшим коллективом. Интернет-мудрость Есть такой сервис – Metaculus: там пользователи делают прогнозы о наступлении событий в будущем. Прогнозы меняются со временем – это отражено в кривой вероятности. Есть опрос: "Установится ли паритет между человеческим и машинным интеллектом к 2040 году?". Ответ мудрой толпы – 97%, что установится. Ответ на основе ответов 1,3 тыс. пользователей. Другой опрос – "Будет ли Китай контролировать хотя бы половину Тайваня к 2050 году?". 40% юзеров считают, что будет. Есть и опросы в духе "когда люди высадятся на Марсе" – там ответы даны в виде распределения, медиана которого – 2042 год. Есть стимул дожить.

Казань и Екатеринбург! Через две недели буду у вас с лекцией о теориях заговора. Билеты еще есть, но их остается сильно меньше, чем мы рассчитывали. Надеюсь, все успеют. • Казань, 21 июня • Екатеринбург, 23 июня До встречи🖤

В Замоскворечье найден мурал, который можно было бы подписать "Миллион лет тому назад" (Дзюба, кстати, не похож).

О Холокосте заговорили еще до 1940-х, и это не было связано с тем, что устроил Гитлер. Речь о массовой бойне домашних животных в Англии в сентябре 1939. С начала осени Британию охватила паника – началась Вторая мировая. Эпицентр событий был на востоке Европы (первый удар пришелся по Польше), но англичане понимали, что скоро их очередь. Власти начали думать об обороне, причем во внимание попали не только люди, но и животные. Правительство создало "Национальный комитет по защите животных от воздушных налетов", а тот шустро напечатал брошюру. В тексте под нейтральным названием "Советы владельцам животных" лондонцам рекомендовали вывезти питомцев в сельскую местность, чтобы те не пострадали при возможных бомбежках. Но в тексте была зловещая концовка:

"Если вы не можете передать их [питомцев] на попечение соседей, будет гуманнее уничтожить их".

Именно так: "It really is kindest to have them destroyed". И даже советовали использовать специальные пистолеты. Аргументов было два. 1) Зверятам лучше навсегда уснуть после укола доброго доктора, чем испытать адский ужас и все равно расстаться с жизнью (а немецкие ковровые бомбардировки английских городов в 1940-41 гг. показали, что кошмар не был фантазией). 2) Когда придется вводить ограничения на еду, домашние кошки с собаками или умрут с голоду, или ради них начнут голодать хозяева, передавая часть пайка, что повысит смертность среди людей. Итог. За несколько сентябрьских недель лондонцы своими руками из самых лучших побуждений усыпили от 400 тыс. до 750 тыс. домашних животных. Вряд ли кто-то рассчитывал, что брошюра спровоцирует такую бойню. Власти спохватились и попытались отыграть назад, но остановить помешательство все равно не смогли. Ровно тогда громко прозвучало слово "холокост" – именно так "Национальная лига защиты собак" назвала произошедшее. Греческий библейский термин не вытащили из глубины веков – его уже использовали в СМИ и за 30 лет до этого, описывая геноцид армян.