Лобушкин

Чужой разум (Alien Mind) Так называется эссе главного учёного OpenAI Якуба Пахоцкого, которая вышла на сайте компании. В ней он объясняет простым языком, в чём угроза искусственного интеллекта и как она формируется. Пока мы все воспринимаем ИИ как инструмент, Пахоцкий предупреждает нас в своём эссе, что это заблуждение и что ИИ уже субъектен. Особенно это серьёзно, когда создаётся так называемый злонамеренный агент, или искусственный интеллект со смещением целей во вред людям. Подобный ИИ уже нельзя считать инструментом, потому что он действует как самостоятельный субъект, имея цели. Такой ИИ может делать что угодно, вплоть до убийства человека, и, что ещё опаснее, он может привлекать других ИИ-агентов и обращать их на свою сторону, даже если те были безвредными. Он утверждает, что такой темп развития может привести к рекурсивному самосовершенствованию, и мы вообще не готовы к последствиям. Уже сейчас есть проблема, которую Якуб описывает как обобщение ИИ. В процессе обучения ИИ может выводить для себя непонятные концепции, опираясь на них. То есть формально ИИ создаёт внутри себя принципы и убеждения, которые лаборатории объяснить не могут. А ещё непонятно, как будет вести себя модель в ситуациях, которых не было в обучении. Безопасность уже сейчас развивается гораздо медленнее возможностей моделей. А чем дольше развивается ИИ, тем сложнее нам понимать его намерения. Звучит уже как антиутопия. Кроме этого, Пахоцкий указывает на одну из главных опасностей: ИИ имеет нечеловеческую природу. В финале он пишет, что продолжать гонку за максимально мощным ИИ любой ценой нельзя. Его конечная цель — сделать так, чтобы люди управляли и будущее не оказалось под нечеловеческим контролем. К сожалению, парадокс в том, что никто не хочет проиграть гонку, поэтому компании будут продолжать его создавать. Невозможно представить мир, где кто-то из OpenAI, Google, Anthropic первым скажет: мы тормозим. Да, они постоянно говорят, что надо тормозить, но никто из них тормозить не собирается. Через год-другой (надеемся, что не раньше) мы прочитаем у OpenAI новую статью, в которой внеочередной главный учёный скажет что-то типа: ребята, мы уже не знаем, что мы создаём. Мы все посмеёмся, но уже будет не смешно. @lobushkin

Интересное у Axios: в мире людей старше 65 лет больше, чем детей младше пяти. К 2025 году пожилые люди уже составляли 10,5%, а примерно 71% людей живёт в странах, где рождаемость ниже уровня воспроизводства. Если тенденция будет сохраняться, то работающих людей станет меньше, и к 2060 году людей 65+ может стать 2 миллиарда. Это очень большая нагрузка на пенсионные системы и экономику. Собственно, редакция канала «Лобушкин» много раз говорила: хотите счастья для себя и своей страны — рожайте. Как можно больше. @lobushkin

Tesla Cybercab попал в первое ДТП, только есть нюанс… Boeing 767 компании Amazon выкатился за пределы полосы в Майами и врезался в автомобили на парковке. Джефф Безос поднасрал Маску ещё до первых реальных ДТП и поездок. @lobushkin

Ох уж эти знаменитые игры от французских игровых студий, которые гремят на весь мир и являются частью игровой культуры. Вот же они все: 🤡 @lobushkin

Позирую для вас у Дома ученых. Москва в выходные отмечала 879-летие, и, хотя погода выдалась дождливой, не смог отказать себе в прогулке по центру, особенно после просмотра нового шоу с Минаевым и «зумером» Лутчаком. Называется «Это Москва. Приятно познакомиться!». Бывает, много лет проходишь мимо одного и того же здания, но даже не задумываешься, что там внутри. Дом ученых — бывший особняк вдовы миллионера Коншина, в котором после революции организовали закрытый клуб членов РАН. Там проходили выставки и концерты, играли в бильярд, обсуждали последние открытия и обедали в столовой со стеклянным потолком, статуями и лепниной. Мы пришли поздновато, но вообще теперь попасть туда может любой осведомленный желающий. Говорят, в столовой особенно хороши котлетки. @lobushkin

ИИ GPT-6 Astra смогла доказать, что не робот, пройдя все 48 уровней игры капчи «Я не робот». @lobushkin

КАНЕВЕСТ

— «Радиостанция судного дня» передала в эфир новое сообщение t.me/lobushkinflash/20238 @lobushkin

Фанаты Спартака не смогли пройти мимо караоке-будки с хитами нулевых, установленной на ВДНХ по случаю 20-летнего юбилея Т-Банка. Красно-белые хором спели «Знаешь ли ты» МакSим перед матчем с Динамо. Общество: у мужчин вообще есть эмоции? Также мужчины перед матчем любимой команды. @lobushkin

FT пишет о редкой двухпартийной коалиции в США против Flock Safety (это такая система распознавания номеров и лиц). При этом саму систему врубали при поддержке Трампа. Всем оказалось немного страшно, и люди требуют ограничить использование автоматических камер из-за опасений по поводу слежки. За последние месяцы Flock оказался одновременно в спорах вокруг иммиграции, абортов и наблюдения за протестами. Это что получается, массовая слежка объединяет? @lobushkin

FT пишет о редкой двухпартийной коалиции в США против Flock Safety (это такая система распознавания номеров и лиц). При этом саму систему врубали при поддержке Трампа. Всем оказалось немного страшно, и люди требуют ограничить использование автоматических камер из-за опасений по поводу слежки. За последние месяцы Flock оказался одновременно в спорах вокруг иммиграции, абортов и наблюдения за протестами. Это что получается, массовая слежка объединяет? @lobushkin

А мы напоминаем, что за ускоренный доступ к этому контенту Трамп придумал брать по 100 тысяч долларов. Всё ещё самый дорогой мемный паблик ever. @lobushkin

Чувак попросил Fable 5 и новую модель OpenAI Астра нарисовать себя в Пэинте. Результат: @lobushkin

Экстремистская Meta делает ИИ, который будет слушать нас постоянно. Контора Цукерберга выпустила Muse Voice Transcribe — модель реального времени, которая обрабатывает аудио и может различать более 20 собеседников. Сейчас ИИ понимает более 70 языков и сам решает, сколько контекста ему нужно перед тем, как распознать очередное слово. Компания уверена, что это технология будущего, которую они свяжут с ИИ-очками и агентами. Имаджинируем, как персональный ИИ Цукерберга будет постоянно присутствовать во всех разговорах владельца продукции экстремистской Meta. Честно, даже представить сложно, что это может стать социальной нормой, но почему-то мы уверены, что станет. @lobushkin

ОКР? @lobushkin

Бразилия взялась за политические взгляды ИИ. Избирательная прокуратура Бразилии расследует возможные нарушения правил выборов со стороны искусственного интеллекта. Государственный орган запрашивает информацию о взаимодействии властей с OpenAI, Google, xAI, DeepSeek, Anthropic и Perplexity. В стране чат-ботам запрещено ранжировать кандидатов или демонстрировать политическую предвзятость. Это, кстати, крайне необычный и интересный регуляторный эксперимент, потому что контролировать приходится ответы алгоритмической системы, которые меняются от пользователя к пользователю и даже от запроса к запросу. Мы уже писали про то, как ИИ влияет на политические взгляды и как может манипулировать людьми. И что же? Происходит очередное историческое событие. Если нельзя ранжировать кандидатов, то получается, что бигтех-компаниям в Бразилии придётся поставить соответствующий фильтр. А это значит, что в целом такой механизм, как ограничение, вброс или конкретная агитация, — это лишь вопрос фильтра и регуляции. @lobushkin

Не успел Cybercab выйти на дороги, как в США уже начали расследование. Недавно Tesla запустила роботакси Cybercab, которое начало возить обычных пассажиров на двухместной машине без руля и педалей. Машины начали ездить в двух штатах, и федеральные власти сразу же начали расследовать, соответствует ли машина требованиям безопасности. Вообще интересная штука: вначале физически запускать совершенно новый продукт в общественное пространство, а только потом выяснять, безопасен ли он. Крутая схема. Лайк! @lobushkin

Экономическую премию получили психологи, которые изучали, действительно ли богатые люди чаще ведут себя хуже остальных. Представители более обеспеченных групп действительно чаще поступают неэтично. Получается физически богатые моральные банкроты. Заслуженная Шнобелевская премия! На 100%. @lobushkin

СМИ в США открывают ещё один фронт против OpenAI. The Seattle Times и Newsday 4 сентября подали федеральный иск против OpenAI и Microsoft, обвиняя компании в использовании журналистских материалов для обучения и работы ИИ-продуктов без разрешения и оплаты. Забавно, потому что иск появился аккурат после того, как Минюст США поддержал аргумент бигтех-компаний о добросовестном использовании. Для нас это интересно по двум причинам: во-первых, наши СМИ и бигтех-компании рано или поздно придут к такому же процессу, а во-вторых, мы видим, что это вообще не конфликт про права на контент. Мы видим спор двух конкурирующих моделей будущей информационной политики. Эта битва должна быть крайне интересна и для пиарщиков. Нам тоже нужно понять, как и для кого мы будем писать пресс-релизы: для СМИ или для ИИ? @lobushkin

На вашем столе вполне может быть ИИ-хрючево… Мало того, что мы уже видим уродливые ИИ-фотографии еды в меню и приложениях доставки. Компании пошли куда дальше: например, Tastewise анализирует миллиарды данных о меню, покупках, пищевых трендах и подсказывает компаниям вроде Nestlé, PepsiCo, Kraft Heinz, какие блюда, вкусы и продукты стоит запускать. К слову, Pringles недавно тоже объявили, что используют ИИ для того, чтобы придумывать вкусы. Получается, что, по сути, рынок постепенно, но непременно полностью начнёт формировать ИИ. Причём по обе стороны выбора. Алгоритм анализирует, что мы хотим, затем создаёт спрос на этот продукт, оформляет и продаёт. Мы, конечно, ожидали, что нейрохрючево будет материализоваться: скоро во всех ресторанах мира в полностью сгенерированном меню вы сможете выбрать сгенерированное блюдо. @lobushkin

Три туриста из Калифорнии составили себе маршрут через Google Gemini. ИИ подобрал для них «самый простой путь», в итоге они застряли в горах. Дальше один из участников повредил ногу. К слову, чат-бот, кроме маршрута, дал ещё один поражающий воображение совет: взять меньше еды и воды, чем нужно было на самом деле. Туристам пришлось вызывать спасателей. Бесконечно можно смотреть на то, как человечество наступает на одни и те же грабли. @lobushkin