Cyber Tree

Новые факты в продолжение разговора об "энергоэффективности" ИИ и предстоящем развороте от практики мерить "цивилизованность" выбросами СО2. Цитирую: 🗣️По оценкам EPRI, для запросов с использованием искусственного интеллекта на один запрос ChatGPT требуется 2,9 ватт-часа электроэнергии, что в 10 раз больше, чем для традиционных запросов Google 🗣️ В новом отчете TD Cowen прогнозируется, что "75-100% роста нагрузки на центры обработки данных в США в ближайшей и среднесрочной перспективе будет обеспечиваться за счет природного газа При этом прогнозируемая доля потребления электричества датацентрами в некоторых штатах США к 2030 году превысит 30%. Это вам не просто поделить хлеб на нож и человеческую жизнь на счета за электричество.

немного о том, почему российская наука встанет с колен еще нескоро

Власти Китая запустили чат-бот, обученный на философии Си Цзиньпина, пишет Financial Times. КНР пытается соблюдать баланс между контролем за свободой слова и стимулированием развития сферы искуственного интеллекта для конкуренции с мировыми лидерами, как Open AI ChatGPT. Как утверждает издание, Государственная канцелярия интернет-информации КНР (CAC) контролирует обучение языковых моделей, а также проверяет их на соответствие «социалистическому курсу». 🟢Главная проблема для разработчиков заключается в относительно скудных наборах данных для обучения на китайском языке: от имени Си было опубликовано около десятка книг. Поэтому в декабре CAC выпустила первую общедоступную базу данных, содержащую 100 млн записей «высококачественных и заслуживающих доверия данных» для использования в обучении ИИ. 🟢По данным источника издания, новая модель используется в исследовательском центре, но со временем она может быть выпущена для более широкого использования. 🔜 Как утверждает FT, Baidu и Alibaba строго контролируют создаваемый их чат-ботами контент. Если пользователь задевает «чувствительные» темы, ему предлагается перезагрузить чат. @vedomosti

Раз в чате возникла непростая тема алгократии (форме госуправления, построенной на алгоритмах), уместно напомнить весьма годное рассуждение на эту тему — аниме Психо-паспорт (тем более недавно вышла свежая полнометражка). Вдобавок, это недурной образец киберпанка. Кто не видел, но собирается, под спойлер не смотрит. Сериал снимался до бума развития генеративного ИИ. Однако центральный аппарат управления, система Сивилла, которая в режиме реального времени оценивает состояние каждого гражданина и на основе этого вершит мгновенное превентивное правосудие, блокируя-разблокируя оружие в руках полицейских, по существу хоть маленькая, но нейросеть, просто натуральная, органическая, работающая на "движке" квази-краудфандинга. И здорово, что создатели задаются вопросами о том, в чем у такой системы могут быть уязвимости. Японцы вообще молодцы, давно уже продумали и разложили по полочкам все сложные этические вопросики взаимоотношений людей и роботов.

Слегка парадоксально читать новости об открытии новых видов животных, которые уже миллионы лет как не существует.

В продолжение темы про важность этического образования, пройдите тест. Он поможет откалиброваться относительно общепринятых представлений о морали, порешав известные этические задачки (и такие есть). Не стесняемся показывать в комментах, у кого что получилось.

Весь день с грустью смотрю на эту новость и размышляю, насколько была права в предположении, что этот человек пытался (и, видимо, не смог) остановить скайнет?

Не знаю, зачем вам это, но обнаружен интернет-архив со сканами "практически всех" журналов для геймеров

Пока я коплю ману для нового лонгрида о критической важности гуманитарного образования для технических работников, почитайте перевод статьи на эту же тему. Усилю ее выводы: учить инженеров и программистов пониманию этических проблем в наши времена это ни много ни мало вопрос выживания человечества. Ибо именно айтишники сейчас в фаворе у венчурных капиталистов, получают в руки огромный объем ресурсов чуть ли не разу после института, и становятся потом руководителями глобальных корпораций, влияющих на жизнь множества людей. И сейчас в руках у этих баловней судьбы – оружие судного дня, опасность которого они не способны в полной мере осознавать из-за своей слепости на гуманитарный глаз. 🗣️ По мере того, как ИИ и инструменты машинного обучения становятся все более интегрированными в повседневную жизнь, возрастает значение этических проблем, начиная от вопросов конфиденциальности, расовых и гендерных предубеждений, заканчивая распространением дезинформации. Широкая общественность зависит от инженеров-программистов и специалистов в области компьютерных технологий, которые гарантируют, что эти технологии будут созданы безопасным и этичным образом. Как социологи, изучающие вопросы науки, технологий, инженерного дела и математического образования, сейчас мы исследуем, как инженеры в различных областях учатся и понимают свою ответственность перед обществом. Наши и других ученых недавние исследованиях указывают на тревожную реальность: новое поколение инженеров часто оказывается неготовым к осознанию социальных последствий своей работы. Более того, некоторые проявляют безразличие к моральным дилеммам, с которыми могут столкнуться в своей работе – и достижения в области искусственного интеллекта только усугубляют эти дилеммы. В рамках исследования мы опросили более 60 студентов, изучающих электротехнику и компьютерные науки в рамках одной из ведущих инженерных программ в США. Мы спросили студентов об их опыте решения этических проблем в инженерной сфере, их знаниях об этических дилеммах в данной области и о том, как они будут реагировать на сценарии в будущем. Хорошая новость: большинство студентов осознают потенциальную опасность искусственного интеллекта и обеспокоены вопросами неприкосновенности личности и возможных рисков. Один студент, например, выразил тревогу по поводу воздействия ИИ на окружающую среду, заявив, что компании, работающие с ИИ, используют “все больше и больше энергии, создающей парниковый эффект, [получая] минимальную выгоду”. Другие опрошенные рассуждали о способах использования ИИ, в том числе, в военных технологиях и для создания дипфейков. Однако, когда студентов спрашивали: “Чувствуете ли вы себя способными реагировать на вызывающие беспокойство или неэтичные ситуации?” - часто они отвечали отрицательно. Многих из них беспокоит этика в их сфере деятельности, но это не значит, что они ощущают готовность справиться с вызовами. Другие исследователи обнаружили, что многие студенты инженерных специальностей не удовлетворены качеством обучения этике. Обычно при обучении особое внимание уделяется профессиональным кодексам поведения, а не сложным социально-техническим факторам, лежащим в основе принятия этических решений. Исследования показывают, что даже при ознакомлении с конкретными сценариями или тематическими исследованиями студенты-инженеры часто с трудом распознают этические дилеммы. Аккредитованные инженерные программы обязаны “включать темы, связанные с профессиональной и этической ответственностью” в том или ином виде. Тем не менее, обучение этике редко включается в официальные учебные планы. Оценка учебных программ STEM для студентов в США показала, что освещение этических вопросов сильно различается по содержанию, объему и степени серьезности изложения от основных предметов. Кроме того, анализ научной литературы по инженерному образованию выявил, что этика часто считается несущественным элементом обучения.