Канал Кольца
Добро пожаловать в Сообщество "Кольцо" имени И. А. Ефремова! Чаты Кольца: t.me/koltso2084/3 Сайты: 2084.ru unipolis.su Соцсети: vk.com/project2084 vk.com/chasbykafilm youtube.com/kommunar2011 Полный архив ИАЕ: noogen.su Девиз: Через тернии к звёздам!
Больше235
Подписчики
Нет данных24 часа
+27 дней
+730 дней
Время активного постинга
Загрузка данных...
Find out who reads your channel
This graph will show you who besides your subscribers reads your channel and learn about other sources of traffic.
Анализ публикаций
| Посты | Просмотры | Поделились | Динамика просмотров |
01 Опубликованная вчера Anthropic работа «Картирование разума большой языковой модели» [1] скромно названа авторами «значительным прогрессом в понимании внутренней работы моделей ИИ»
Во-первых, это не значительный (количественный) прогресс, а революционный (качественный) прорыв в понимании работы разума.
Во-вторых, с большой вероятностью, это прорыв в понимании механизма не только машинного, но и человеческого разума.
В-третьих, последствия этого прорыва могут позволить ранее просто непредставимое и даже немыслимое – «тонкую настройку» не только предпочтений, но и самой матрицы личности человека, как это сейчас делается с большими языковыми моделями
В посте «Внутри маскирующегося под стохастического попугая ИИ таится куда боле мощный ИИ» я писал об открытии исследователями компании Anthropic, сделанном ими в рамках проекта «вскрытия черного ящика LLM» [2]
Осенью прошлого года было установлено, что:
• внутри нейронной сети генеративного ИИ на основе LLM симулируется физически не существующая нейронная сеть некоего абстрактного ИИ, и эта внутренняя нейросеть куда больше и сложнее нейронной сети, ее моделирующей
• «виртуальные (симулируемые) нейроны этой внутренней сети могут быть представлены, как независимые «функций» данных, каждая из которых реализует собственную линейную комбинацию нейронов
• механизмом работы такой внутренней нейросети является обработка паттернов (линейных комбинаций) активаций нейронов, порождающая моносемантические «субнейроны» (соответствующие конкретным понятиям)
Из этого следовало, что любое внутреннее состояние модели можно представить в виде нескольких активных функций вместо множества активных нейронов
Точно так же, как каждое английское слово в словаре создается путем объединения букв, а каждое предложение — путем объединения слов, каждая функция в модели ИИ создается путем объединения нейронов, а каждое внутреннее состояние создается путем объединения паттернов активации нейронов.
Та работа была 1м этапом проекта «вскрытия черного ящика LLM», проводившегося на очень маленькой «игрушечной» языковой модели
2й же этап, о результатах которого мой рассказ, «вскрыл черный ящик» самой большой и совершенной модели компании Claude 3.0 Sonnet
Результаты столь важны и интересны и их так много, что читайте сами
Тут [1] есть и популярное, и углубленное, и видео изложение
Например, авторы научились:
1. Находить внутри «черного ящика» модели не только конкретные моносемантические «субнейроны» (соответствующие конкретным понятиям, типа «Мост Золотые Ворота»), но и поиском «близких» друг другу функций обнаруживать в нейросети изображения (это мультимодальность!) острова Алькатрас, площади Гирарделли, команды «Голден Стэйт Уорриорз», губернатора Калифорнии Гэвина Ньюсома, землетрясения 1906 года и фильма Альфреда Хичкока «Головокружение», действие которого происходит в Сан-Франциско
Это очень похоже на эксперименты нейробиологов, обнаруживающих в нашем мозге мультимодальную связь нейронов, связанных с понятиями, словами и образами объектов
Но там, где гиперсетевые теории мозга (типа когнитома Анохина) упираются в огромные трудности экспериментальных практических манипуляций (измерений) на уровне нейронов, в «черных ящиках» LLM все можно легко «измерить»
2. Манипулировать функциями, искусственно усиливая или подавляя их. Что приводит (если стоите, лучше сядьте) к изменению матрицы «личности» модели
Например, усиление роли функции «Мост Золотые Ворота» вызвало у Клода кризис идентичности, который даже Хичкок не мог себе представить
Клод стал одержимым мостом, поминая его в ответ на любой вопрос — даже в ситуациях, когда он был совершенно неактуален
Если такое будут делать с людьми, то все примут Ислам
1 https://www.anthropic.com/news/mapping-mind-language-model
2 https://t.me/theworldisnoteasy/185 | 18 | 0 | Loading... |
02 Искусственный интеллект нуждается в законодательном регулировании, как и любое технологическое новшество. Об этом заявил глава комиссии Совфеда по взаимодействию со СМИ Алексей Пушков в своем Telegram-канале.
По его словам, на этой неделе комиссия проведет заседание с привлечением ведущих экспертов, посвященное ИИ. Они обсудят вопрос законодательного регулирования нейросетей. Сам Пушков уверен, что ИИ нужно регулировать так же, как и социальные сети, интернет-платформы.
Подписывайся на АиФ | 28 | 0 | Loading... |
03 ИИ от Google феерически облажался
На днях Google представила новую версию своего ИИ, которая совмещает функции классического помощника, как все чат-боты, и поисковой системы. На беду, в презентации говорилось что-то вроде «если вам нужно срочно разобраться, что с вашим авто, ИИ поможет».
Один пользователь решил проверить, и пожаловался боту, что клаксон не издает звука. В ответ ИИ посоветовал «заменить жидкость поворотников». Э? Даже я знаю, что такой жидкости не существует.
Стали копать, и выяснили, что когда-то, на каком-то лохматом форуме шутник дал такой совет «чайнику», ИИ это выхватил и выдал за откровение инженерной мысли.
За несколько дней таких и других ляпов накопилось много, а причина в том, что ИИ берет данные из Сети, не понимая, где шутка, где не шутка, где достоверный источник, а где нет. И эта проблема еще какое-то время с нами побудет. Обучение ИИ становится главной задачей, и именно по этой причине Microsoft на днях представил опцию, когда все ваши действия на ноуте используются для обучения ИИ. Другое дело, каким надо быть дураком, чтобы поставить себе такую опцию. Ну, Microsoft поставит сам, нас не спросит.
С вами был научный журналист Евгений Арсюхин.
Подписаться на КП Наука
Мой личный канал – там можно задать мне вопросы
Пишем о науке на KP.RU - серьёзно, просто и иногда весело!
@kpnauka | 30 | 0 | Loading... |
04 Красавец мужчина мальчишка: появился первый кадр с ПОХУДЕВШИМ Картманом из «Южного Парка». Преобразился Эрик благодаря «Оземпику» — лекарству, что сейчас хайпит на Западе. Спецвыпуск с ним покажут 24 мая.
Теперь мы видели всё.
🙂 Не баг, а фича | 28 | 0 | Loading... |
05 Очень приветствуем, когда такие таланты хотят возвращаться на родину.
Это комментарии Андрея Белевцева о возвращении Ильи Суцкевера в Россию! Понятнее ситуация от этого не стала.
🙂 Не баг, а фича | 27 | 0 | Loading... |
06 https://ir.aurora.tech/news-events/press-releases/detail/97/the-volvo-vnl-autonomous-proving-the-way-forward | 30 | 0 | Loading... |
07 https://youtu.be/FonW-h7jB6E | 29 | 1 | Loading... |
08 Today we report a significant advance in understanding the inner workings of AI models. We have identified how millions of concepts are represented inside Claude Sonnet, one of our deployed large language models
This is the first ever detailed look inside a modern, production-grade large language model
This interpretability discovery could, in future, help us make AI models safer
https://www.anthropic.com/news/mapping-mind-language-model | 32 | 0 | Loading... |
09 Дорогие друзья, приглашаем вас на большую встречу про Искусственный Интеллект и Искусственный Разум! Встреча пройдёт 4 июня в Санкт-Петербурге. Встречаемся в Точке кипения Политех с 16:30 до 20:30 по московскому времени. Ожидаются студенты Политеха, представители международного Клуба Космистов, сообщества "Кольцо" и другие интересные гости.
Регистрация, адрес и прочие подробности по ссылке: https://leader-id.ru/events/504553
#встречи
#Кольцо
#ИИ | 36 | 1 | Loading... |
10 https://youtu.be/hB58K5L7dIs | 36 | 1 | Loading... |
11 https://youtu.be/-wfbaPFjeHw | 34 | 0 | Loading... |
12 27 мая – 1 июня 2024 года в Москве и Рязанской области пройдут XXI Международные чтения, посвящённые 195-летию со дня рождения выдающегося российского мыслителя, родоначальника традиции отечественного космизма, теоретика библиотечного и музейного дела, педагога-новатора Николая Фёдоровича Фёдорова (1829–1903). Чтения организованы Институтом мировой литературы им. А.М. Горького РАН и Министерством культуры Рязанской области. Заявки принимаются до 1 мая 2024 года.
https://imli.ru/139-konferentsii/seminary-i-konferentsii-2024-goda/5948-xxi-mezhdunarodnye-nauchnye-chteniya-pamyati-n-f-fedorova | 32 | 0 | Loading... |
13 https://scientificrussia.ru/articles/ucenye-razvencali-teoriu-o-tom-kak-ludi-opredelaut-istocnik-zvuka?utm_source=yxnews&utm_medium=desktop | 30 | 0 | Loading... |
14 Север перестает быть томным: в Арктике появились грозы, и никто не знает, почему
Новое исследование израильских ученых показало: если раньше молнии на Крайнем Севере были крайней, простите за тавтологию, редкостью, то теперь они блистают там постоянно, вместе с громом и всем, чем полагается.
Этот потрясающий факт ученые трактовали в обычной для западной науки манере: виновато, конечно, глобальное потепление. Интересно, что молнии, в свою очередь, влияют на климат, и лед тает еще быстрее, показало исследование.
Верим, что от молний и лед уходит. Дело не в том, что он «плавится» - там включаются разные сложные ионные механизмы, и молекулы воды (которая была льдом) улетают вверх. Но вот сами молнии взялись не от пресловутого потепления, конечно же. А потому, что именно на Севере (Норвегия, Канада, Аляска) стоят установки, которые вмешиваются в электрический баланс атмосферы. Вроде как ради науки. Но подозревают, что ученые просто-напросто создают климатическое оружие.
Вопрос очень сложен и тонок, тут есть чем заняться! Интересно, а жители нашего Севера могут подтвердить, что молнии – зачастили? Если вы живете на Севере, и вам есть, что сказать – оставьте комментарий на моем личном канале (ссылка внизу).
С вами был научный журналист Евгений Арсюхин.
Подписаться на КП Наука
Мой личный канал – там можно задать мне вопросы
Пишем о науке на KP.RU - серьёзно, просто и иногда весело!
@kpnauka | 27 | 0 | Loading... |
15 https://www.techinsider.ru/news/news-1643701-uchenye-zamorozili-tkani-mozga-na-18-mesyacev-a-kogda-ih-ottayali-oni-prodoljili-normalno-razvivatsya/?utm_source=yxnews&utm_medium=desktop
#Психоновости | 30 | 0 | Loading... |
16 https://www.ferra.ru/news/health/sostoyanie-serdca-okazalos-vazhno-dlya-psikhicheskogo-zdorovya-20-05-2024.htm?utm_source=yxnews&utm_medium=desktop
#Психоновости | 30 | 1 | Loading... |
17 https://vk.com/wall-66846978_25005 | 31 | 0 | Loading... |
18 https://www.cnews.ru/news/line/2024-05-06_moskovskaya_biblioteka_datasetov | 41 | 0 | Loading... |
19 https://3dnews.ru/1104356/iimodeli-medgemini-ot-google-dlya-zdravoohraneniya-prevoshodyat-po-ryadu-pokazateley-konkurentov-vklyuchaya-gpt4 | 43 | 1 | Loading... |
20 К 2026г. мировой рынок нейробиологии достигнет $721.000.000.000
Несколько ключевых тенденций:
1. Немолекулярная диагностика
предоставляет уникальную возможность генерировать более релевантные данные из реального мира
Используя такие технологии, как ЭЭГ, и интегрируя их в VR/AR, мобильные игры и другие платформы, можно сделать диагностику более длительной и комплексной
Такой подход не только повышает точность диагностики, но способствует постоянному мониторингу и персонализированному уходу
2. Развитие немедикаментозных методов лечения
Разработка новых лекарств стала непомерно дорогой, что привело к росту немедикаментозных методов лечения
Цифровая терапия дает возможность оцифровать составы лекарств, персонализировать лечение и повысить комплаентность пациентов
Когнитивно-поведенческая терапия в сочетании с цифровой может быть значительно улучшена за счет непрерывной интеграции ЭЭГ, создавая иммерсивный и эффективный опыт лечения
3. Возможности за пределами клиник
Высокая стоимость разработки лекарств подчеркивает потребность в инновационных решениях в области психического здоровья и здоровья мозга за пределами традиционных клинических условий
С помощью ИИ можно создать новое поколение превентивных, персонализированных и иммерсивных приложений
Эти технологии помогут не только реабилитировать и сохранить здоровье, но и раздвинут границы для достижения сверхчеловеческого благополучия | 44 | 0 | Loading... |
21 Поиск невидимого следа
Не видно следов внеземной жизни. Однако страдающее от одиночества человечество упорно ищет это невидимое. Например, исследователи из Свободного университета Берлина думают, что удачу принесет тщательное изучение ледяных частиц на Европе и Энцеладе.
https://hij.ru/read/33208/
#химия_и_жизнь #химияижизнь #научпоп #наука #астрономия #Европа #Энцелад | 37 | 0 | Loading... |
22 Усталость нации
▪️ Лучшие умы США продолжают размышлять о том, как нации избежать явно наметившейся деградации системы и подобно Мюнхгаузену вытащить себя за усы из болота.
▪️ Вслед за Питером Турчиным, который проанализировал 100 крупнейших кризисов в истории цивилизаций, нечто похожее проделал институт RAND (нежелательная организация в России), изучивший траектории падения мировых и региональных гегемонов от китайской династии Сонг и габсбургской Испании до позднего СССР.
▪️ Более того, аналитики свели воедино все основные концепции роста и упадка цивилизаций - от Ибн Халдуна и Гиббона и до Валлерстайна и того же Турчина.
▪️ В итоге, сформулировано, что отличает развивающиеся и упадочные империи:
1️⃣ Высокая производительность и стремление к прогрессу / упадок национальной воли
2️⃣ Национальное единство / внутренние конфликты
3️⃣ Равные возможности для роста / социальная дискриминация
4️⃣ Активное / пассивное правительство
5️⃣ Эффективные институты / бюрократия
6️⃣ Гибкое мышление / ортодоксальный консерватизм
7️⃣ Плюрализм мнений / цензура и авторитарный стиль.
▪️ Звучит банально? Может быть. Но главное в исследовании - это попытка понять, можно ли остановить старение системы. Или хотя бы отсрочить его на достаточно длительный срок. Ответ - крайне сложно. Из всех исторических примеров это удалось лишь викторианской Англии в середине XIX века и США в начале XX века. В обоих случаях благодаря серии упреждающих социальных реформ.
▪️ Британии это дало еще около века на вершине, США и по сей день на коне, но социологи честно признают, что это стало возможным только благодаря краху СССР. Советская Перестройка была начата слишком поздно, чтобы иметь шансы на успех.
Мой комментарий: Проще говоря, мировой лидер должен соответствовать своему времени, т.е. в первую очередь демографии, технологиям, существующим ресурсам и культурным нормам.
Поэтому стратегически в XXI веке в выигрыше будет тот, кто лучше всех адаптируется к миграционному наплыву с Юга, энергетическому переходу и запросу на новую этику. Попытки законсервировать ламповый уютный мир былых свершений, даже если будут иметь локальные успехи, в конце концов приведут к коллапсу.
#теория #цивилизации #история #цайтгайст #США | 37 | 1 | Loading... |
23 https://www.globaltimes.cn/page/202405/1312456.shtml | 42 | 0 | Loading... |
24 https://ru.m.wikipedia.org/wiki/%D0%92%D0%B0%D1%81%D0%B8%D0%BB%D0%B8%D1%81%D0%BA_%D0%A0%D0%BE%D0%BA%D0%BE | 36 | 0 | Loading... |
25 В мире набирают популярность штрафы за жир на рабочем месте. Так, в Великобритании уже предлагают ввести денежное наказание за лишний вес сотрудников.
Причиной стало исследование, которое показало, что люди с избыточным весом чаще берут отпуск по болезни по сравнению со своими здоровыми коллегами. Решением проблемы видят закон, требующий измерять талию у всех работников в возрасте от 40 до 70 лет.
Ждем вопросов о талии на собеседовании. | 39 | 1 | Loading... |
26 https://health.mail.ru/news/3383413-v-rossii-sozdali-tehnologiyu-dlya-vechnogo/ | 28 | 0 | Loading... |
27 https://www.securitylab.ru/news/547995.php | 35 | 1 | Loading... |
28 США и КНР во вторник в Женеве намерены провести переговоры на высоком уровне об угрозах, связанных с использованием технологий искусственного интеллекта, сообщает газета The Washington Post.
Как отмечает издание, руководство двух стран стремится не допустить «катастрофических инцидентов и непреднамеренной войны» на фоне гонки вооружений в области передовых технологий. | 32 | 0 | Loading... |
29 https://stimul.online/articles/sreda/ii-ili-svoboda-voli/ | 34 | 0 | Loading... |
30 ⚖️💻Накажут ли за старый пост с символикой, которая стала экстремистской?
📍За пост, к которому прикреплено изображение, признанное через несколько лет после публикации экстремистским, пользователя могут привлечь к ответственности. К такому выводу пришел КС РФ.
🛑С чем связана позиция Конституционного Суда?
Суд разъяснил, что публичная демонстрация экстремистской символики относится к длящимся правонарушениям. Интернет помнит все: не важно, когда был опубликован пост — пока он не удален, запрещенная информация продолжает распространяться, то есть правонарушение продолжается в конкретный момент времени.
🛑Как накажут за публикацию экстремисткой символики?
В российском законодательстве за демонстрацию изображений или вещей с нацистской или экстремистской символикой в целях пропаганды, установлена административная ответственность.
▫️За пропаганду или публичную демонстрацию - ждет штраф от 1 до 2 тыс руб., либо арест на срок до 15 суток.
▫️За изготовление, сбыт либо приобретение в целях пропаганды наложат штраф в размере от 1 тыс до 2,5 тыс рублей. Пример: нанесение запрещенной символики на футболки и их продажа.
▫️Если человека привлекли к «административке», но он продолжает противозаконную деятельность, ему грозит уже уголовная ответственность: от штрафа в размере до миллиона рублей до лишения свободы на срок до 4 лет.
Подписывайся на АиФ | 30 | 0 | Loading... |
31 Бывало ли у вас такое, что вы шли на собеседование на позицию, куда вы подходили на 100% по всем требованиям, но вас отсекали уже на этапе собеседования с HR? Или вы претендовали на повышение, но дорогу уступали другому, более слабому кандидату? Или сталкивались с тем, что вам постоянно находят каких-то не тех кандидатов в подчинённые?
Эта проблема может быть вызвана эффектом идиосинкразического оценщика. Не путайте с эффектом оценщика, в нём мы красивым и симпатичным людям присваиваем больше доблестей и компетенций, чем стоило бы. Тут всё иначе.
Что же означает эта когнитивная ошибка? Что мы определяем продуктивность, потенциал и компетентность людей, основываясь на собственных интерпретациях, пониманиях критериев оценки и восприятии успеха. В жизни это выглядит так, словно я 🤔 буду оценивать коммерсанта как финансиста: оценю его исполнительность, дисциплину, логику, понимание цифр. А не мастерство в переговорах, продажах и его умение обхаживать клиентов. Или же я 🤔буду оценивать потенциального подчинённого не с точки зрения его соответствия вакансии, а с точки зрения моих мыслей о построении карьеры. И откажу спокойному и неамбициозному кандидату просто потому, что не увижу в нём потенциального директора. Или же если я 🤔 откажу фактическому лидеру рабочей группы в оформлении его как руководителя только потому, что я в качестве инструмента эффективного управления вижу диктатуру, а не координированное сотрудничество.
Статистика говорит о том, что в среднем в 60% случаев оценка сотрудника, его результатов, потенциала и возможностей в итоге оказывается искажена.
Эффект идиосинкразического оценщика подтверждён неоднократно и изучается вот уже 20 лет, например исследования "Understanding the Latent Structure of Job Performance Ratings" или "Rater source effects are alive and well after all", но многие о нём всё ещё не знают. | 31 | 1 | Loading... |
32 https://hij.ru/read/31290/ | 35 | 0 | Loading... |
33 https://technodzen.com/nauka/motivation-and-emotion-skuka-obladaet-krayne-trevozhnym-effektom | 38 | 0 | Loading... |
34 Из рубрики «Философские притчи»
Однажды Николас Хамфри дал интервью
— Как Вы пришли к выводу, что животные обладают сознанием и, следовательно, мы должны относиться к ним как равным?
— Я отрезал у обезьяны зрительную кору
После этого она перестала видеть, но делала вид, что не перестала — даже украла у меня коробку с ланчем и съела весь пудинг
— А отрезанная зрительная кора продолжала видеть?
— В ней осталось сознательное феноменальное сознание, но она уже не могла так быстро реагировать
Мои коллеги из Оксфорда оторвали ноги таракану, и он тоже замедлился после этого
Но потом они посмотрели на это с другой стороны: что, если не ноги отрезать от таракана, а таракана от ног?
— Значит, и у таракана есть сознание?
— Конечно. Даже у червя есть
Мои коллеги из Кембриджа резали червяка на мелкие части, и его сознание тоже распалось на куски
Как из кусков уже нельзя было собрать червя, так и отдельные сознания не собирались в единую личность
Это очень важный результат
— То есть, никого нельзя есть?
— Некоторые мои коллеги едят только тех животных, которые не проходят зеркальный тест
— У этих животных нет мозга?
— Мозг у них есть, но наша способность чувствовать — это результат эволюции
Сначала такой способности не было, но потом она появилась, потому что нужно было смотреть в зеркало, условно говоря
Не зеркало, конечно, но животные видели свое отражение в водоеме, и им нужно было не запутаться
— Как интересно
Сознание появилось в водоемах?
— Да, там, где было отражение
Но потом появилось упреждающее отражение — слон смотрел в море и ожидал там увидеть себя
— А чайке не мешает отражение в воде?
Ведь ей нужно ловить рыбу
— Мешает
Русский писатель Чехов написал об этом пьесу
Она сейчас идет в королевском театре
— Теперь многое становится ясно
— Мы подписали декларацию о сознании животных
Но еще много предстоит экспериментальной работы
Наши подопытные должны научиться считать и различать модальности
Пять звездочек, но только одна бутылка
Но только человек может пересчитать все молекулы коньяка, потому что у него есть абстрактное мышление
— Считать молекулы коньяка?
Красиво!
Огромное спасибо за интервью
— Я тоже получил огромное удовольствие | 34 | 0 | Loading... |
35 https://teletype.in/@anthropogenesisresearchinstitute/Z8huuJ3v444 | 36 | 0 | Loading... |
36 https://teletype.in/@anthropogenesisresearchinstitute/Z8huuJ3v444 | 32 | 0 | Loading... |
37 2 апреля 1985 года Колмогоров участвует в заседании ММО, посвящённом 50-летию московских математических олимпиад
В повестке было объявлено несколько сообщений, первым – его сообщение «I Московская школьная математическая олимпиада». Заседание 2 апреля началось в 18 часов 15 минут в аудитории 16-24 (имени И. Г. Петровского) Главного здания МГУ
Председательствовать Колмогоров поручил вице-президенту ММО В. И. Арнольду
Колмогоров говорил с трудом, недолго и медленно, и я смог записать его почти дословно:
Я – такой неполноценный участник этого собрания
Полноценный сначала участвует в олимпиаде, а потом делается руководителем
Я никогда не был участником ни олимпиад, ни других состязательных соревнований в области математики и в других областях
Но я принимал участие в составлении задач (смотрите мою брошюру «О профессии математика»), в классификации способностей
Так что я – участник олимпиадного движения
Павел Сергеевич Александров сказал: «Если бы в моей молодости были олимпиады, я никогда не был бы математиком»
Если олимпиадные способности есть, это хорошо, но если их нет, это не означает неспособности к математике
Тем не менее, накоплен материал, свидетельствующий, что большинство творческих математиков имеют отчасти и олимпиадные способности
Но всё же это два разных типа способностей, и поэтому победители олимпиад не должны зазнаваться, а неудачники не должны огорчаться
[прим. В.А. Успенского] При закрытии весной 1947 года X Общемосковской математической олимпиады учащихся средних учебных заведений (где я получил вторую премию) председатель её оргкомитета будущий ректор университета Иван Георгиевич Петровский заявил, что он хочет обратиться к тем участникам олимпиады, которые не получили на ней наград, и сказать им в утешение, что если собрать профессоров механико-математического факультета и предложить им олимпиадные задачи II тура, то многие профессора за отведённое время не решат ни одной задачи
Воспоминания В.А. Успенского ("Колмогоров, каким я его помню") | 31 | 0 | Loading... |
38 Статистика из статьи: главной ценностью для россиян весь период наблюдения с 2006 по 2021 гг. была и остаётся безопасность - и в 2021 её роль, кстати, заметно выросла (что, впрочем, неудивительно - это был разгар пандемии!)
До этого же тренд был стабильно убывающим
За эти 15 лет для россиян заметно важнее стали: благожелательность (может, мы однажды даже уйдём от совковых - в худшем смысле - стандартов сервиса и общения?), самостоятельность, гедонизм, риск и новизна
Снизилась важность традиции (скрепы!), достижения, конформности и власти-богатства
Не изменилась только (очень высокая, кстати!) ценность универсализма | 28 | 0 | Loading... |
39 Многим из нас знакомо ощущение внутреннего голоса, однако недавние исследования показывают
10 % населения его лишены
Авторы статьи в Psychological Science дали отсутствию внутреннего голоса название «анэндофазия» и показали, что этот феномен связан с худшей вербальной памятью
Люди, которым свойственна анэндофазия, мыслят невербально — вместо этого у них формируются картинки и образы
Люди с анэндофазией используют стратегии, не вовлекающие внутренний голос | 31 | 0 | Loading... |
40 https://mobile-review.com/all/articles/operator/doverennost-na-sim-kartu-udacha-dlya-moshennikov-ili-poleznaya-usluga/ | 30 | 0 | Loading... |
Repost from НИИ Антропогенеза
Опубликованная вчера Anthropic работа «Картирование разума большой языковой модели» [1] скромно названа авторами «значительным прогрессом в понимании внутренней работы моделей ИИ»
Во-первых, это не значительный (количественный) прогресс, а революционный (качественный) прорыв в понимании работы разума.
Во-вторых, с большой вероятностью, это прорыв в понимании механизма не только машинного, но и человеческого разума.
В-третьих, последствия этого прорыва могут позволить ранее просто непредставимое и даже немыслимое – «тонкую настройку» не только предпочтений, но и самой матрицы личности человека, как это сейчас делается с большими языковыми моделями
В посте «Внутри маскирующегося под стохастического попугая ИИ таится куда боле мощный ИИ» я писал об открытии исследователями компании Anthropic, сделанном ими в рамках проекта «вскрытия черного ящика LLM» [2]
Осенью прошлого года было установлено, что:
• внутри нейронной сети генеративного ИИ на основе LLM симулируется физически не существующая нейронная сеть некоего абстрактного ИИ, и эта внутренняя нейросеть куда больше и сложнее нейронной сети, ее моделирующей
• «виртуальные (симулируемые) нейроны этой внутренней сети могут быть представлены, как независимые «функций» данных, каждая из которых реализует собственную линейную комбинацию нейронов
• механизмом работы такой внутренней нейросети является обработка паттернов (линейных комбинаций) активаций нейронов, порождающая моносемантические «субнейроны» (соответствующие конкретным понятиям)
Из этого следовало, что любое внутреннее состояние модели можно представить в виде нескольких активных функций вместо множества активных нейронов
Точно так же, как каждое английское слово в словаре создается путем объединения букв, а каждое предложение — путем объединения слов, каждая функция в модели ИИ создается путем объединения нейронов, а каждое внутреннее состояние создается путем объединения паттернов активации нейронов.
Та работа была 1м этапом проекта «вскрытия черного ящика LLM», проводившегося на очень маленькой «игрушечной» языковой модели
2й же этап, о результатах которого мой рассказ, «вскрыл черный ящик» самой большой и совершенной модели компании Claude 3.0 Sonnet
Результаты столь важны и интересны и их так много, что читайте сами
Тут [1] есть и популярное, и углубленное, и видео изложение
Например, авторы научились:
1. Находить внутри «черного ящика» модели не только конкретные моносемантические «субнейроны» (соответствующие конкретным понятиям, типа «Мост Золотые Ворота»), но и поиском «близких» друг другу функций обнаруживать в нейросети изображения (это мультимодальность!) острова Алькатрас, площади Гирарделли, команды «Голден Стэйт Уорриорз», губернатора Калифорнии Гэвина Ньюсома, землетрясения 1906 года и фильма Альфреда Хичкока «Головокружение», действие которого происходит в Сан-Франциско
Это очень похоже на эксперименты нейробиологов, обнаруживающих в нашем мозге мультимодальную связь нейронов, связанных с понятиями, словами и образами объектов
Но там, где гиперсетевые теории мозга (типа когнитома Анохина) упираются в огромные трудности экспериментальных практических манипуляций (измерений) на уровне нейронов, в «черных ящиках» LLM все можно легко «измерить»
2. Манипулировать функциями, искусственно усиливая или подавляя их. Что приводит (если стоите, лучше сядьте) к изменению матрицы «личности» модели
Например, усиление роли функции «Мост Золотые Ворота» вызвало у Клода кризис идентичности, который даже Хичкок не мог себе представить
Клод стал одержимым мостом, поминая его в ответ на любой вопрос — даже в ситуациях, когда он был совершенно неактуален
Если такое будут делать с людьми, то все примут Ислам
1 https://www.anthropic.com/news/mapping-mind-language-model
2 https://t.me/theworldisnoteasy/185
Mapping the Mind of a Large Language Model \ Anthropic
We have identified how millions of concepts are represented inside Claude Sonnet, one of our deployed large language models. This is the first ever detailed look inside a modern, production-grade large language model.
Repost from Аргументы и Факты — АиФ.ru
Искусственный интеллект нуждается в законодательном регулировании, как и любое технологическое новшество. Об этом заявил глава комиссии Совфеда по взаимодействию со СМИ Алексей Пушков в своем Telegram-канале.
По его словам, на этой неделе комиссия проведет заседание с привлечением ведущих экспертов, посвященное ИИ. Они обсудят вопрос законодательного регулирования нейросетей. Сам Пушков уверен, что ИИ нужно регулировать так же, как и социальные сети, интернет-платформы.
Подписывайся на АиФ
Repost from КП Наука
Фото недоступноПоказать в Telegram
ИИ от Google феерически облажался
На днях Google представила новую версию своего ИИ, которая совмещает функции классического помощника, как все чат-боты, и поисковой системы. На беду, в презентации говорилось что-то вроде «если вам нужно срочно разобраться, что с вашим авто, ИИ поможет».
Один пользователь решил проверить, и пожаловался боту, что клаксон не издает звука. В ответ ИИ посоветовал «заменить жидкость поворотников». Э? Даже я знаю, что такой жидкости не существует.
Стали копать, и выяснили, что когда-то, на каком-то лохматом форуме шутник дал такой совет «чайнику», ИИ это выхватил и выдал за откровение инженерной мысли.
За несколько дней таких и других ляпов накопилось много, а причина в том, что ИИ берет данные из Сети, не понимая, где шутка, где не шутка, где достоверный источник, а где нет. И эта проблема еще какое-то время с нами побудет. Обучение ИИ становится главной задачей, и именно по этой причине Microsoft на днях представил опцию, когда все ваши действия на ноуте используются для обучения ИИ. Другое дело, каким надо быть дураком, чтобы поставить себе такую опцию. Ну, Microsoft поставит сам, нас не спросит.
С вами был научный журналист Евгений Арсюхин.
Подписаться на КП Наука
Мой личный канал – там можно задать мне вопросы
Пишем о науке на KP.RU - серьёзно, просто и иногда весело!
@kpnauka
Repost from Не баг, а фича
Фото недоступноПоказать в Telegram
Красавец мужчина мальчишка: появился первый кадр с ПОХУДЕВШИМ Картманом из «Южного Парка». Преобразился Эрик благодаря «Оземпику» — лекарству, что сейчас хайпит на Западе. Спецвыпуск с ним покажут 24 мая.
Теперь мы видели всё.
🙂 Не баг, а фича
Repost from Не баг, а фича
00:16
Видео недоступноПоказать в Telegram
Очень приветствуем, когда такие таланты хотят возвращаться на родину.Это комментарии Андрея Белевцева о возвращении Ильи Суцкевера в Россию! Понятнее ситуация от этого не стала. 🙂 Не баг, а фича
Показать все...
The Volvo VNL Autonomous – Proving the Way Forward
Purpose designed and built for autonomy; the fully redundant truck will enable autonomous transport. GREENSBORO, N.C.--(BUSINESS…...
Показать все...
Китай живёт в будущем. Беспилотный автобус в Гуанчжоу. Такого вы еще не видели. Обзор. Китай 2024
Спасибо за подписку!😍 ✅Мой Телеграм канал:
https://t.me/KitaiSotnikov✅По вопросам сотрудничества и рекламы пишите на Telegram и WhatsApp +7(989)105-66-88 ✅E-mail: [email protected] ✅Курсы про переезд в Китай:
https://boosty.to/masenshen✅ Поддержать канал:
https://boosty.to/masenshen/donateВсем привет. Спасибо, что зашли на мой канал. Снимаю интересные видео про жизнь в Китае, работу, выставки, новые технологии и т.д. Немного о себе: Меня зовут Сотников Максим. Живу в Китае с 2005 года Работаю в сфере услуг: ⁃ Гид по Китаю ⁃ Консультация по телефону ⁃ Услуги переводчика ⁃ Услуги представителя в Китае ⁃ Инспекция товаров и фабрик ⁃ Логистика в РФ ⁃ Регистрация компании ⁃ Сопровождение по выставкам И так далее… Мои контакты: Инстаграм: Masenshen Телеграм канал:
https://t.me/KitaiSotnikovПочта: [email protected] Вконтакте:
https://vk.com/masenshenМоя группа Вконтакте:
https://vk.com/shenzhen_perevodchikСайт: www.masenshen.ru ✅Обязательно подпишитесь, будет очень интересно. ✅Поставьте лайк и напишите комментарий, это очень поможет для продвижения моего канала. ✅Спасибо всем огромное! С уважением, Сотников Максим! Возможно вы искали: #Китай #Шэньчжэнь #ПереездвКитай #АвтоизКитая #квартиравкитае #КНР #Шеньчжень #ЖизньвКитае #товарыизкитая #АрендаквартирывКитае #РусскиевКитае #ТехнологииКитая #рынокХуачанбей #Хуачанбей #huaqiangbei #РынокГуанчжоу #guangzhou #СотниковМаксим #Masenshen #Гуанчжоу #Шанхай #Пекин #Чэнду #Хайнань #Сания #хайнань #Панда #КитайскаяСтена #Джухай #Чанша #Макао #Китайскоеморе #СотриковМаксим #Электрокарыкитая #ПроизводствовКитае #ЗаводвКитае #ПереводчикКитайскогоязыка #China #Shenzhen #Шэньчжэнь #Поднебесная #ПереводчиквКитае #ПереводчиквШэньчжэне #АвтоизКитая #ПредставительвКитае #карго #ЛогистикаизКитая #КарговКитае #КаргоГуанчжоу #КаргоШэньчжэнь #УслугипоКитаю #УслугивШеньчжене #Китайскийязык #УчебавКитае #РаботавКитае #Хуиджоу #huizhou #silverbeach #ПокупкаавтовКитае #АрендаавтовКитае #асики #майнеры #АсикиизКитая #Ухань #сотников #выставкивкитае #вКитае
Repost from НИИ Антропогенеза
Today we report a significant advance in understanding the inner workings of AI models. We have identified how millions of concepts are represented inside Claude Sonnet, one of our deployed large language models
This is the first ever detailed look inside a modern, production-grade large language model
This interpretability discovery could, in future, help us make AI models safer
https://www.anthropic.com/news/mapping-mind-language-model
Mapping the Mind of a Large Language Model \ Anthropic
We have identified how millions of concepts are represented inside Claude Sonnet, one of our deployed large language models. This is the first ever detailed look inside a modern, production-grade large language model.
Дорогие друзья, приглашаем вас на большую встречу про Искусственный Интеллект и Искусственный Разум! Встреча пройдёт 4 июня в Санкт-Петербурге. Встречаемся в Точке кипения Политех с 16:30 до 20:30 по московскому времени. Ожидаются студенты Политеха, представители международного Клуба Космистов, сообщества "Кольцо" и другие интересные гости.
Регистрация, адрес и прочие подробности по ссылке: https://leader-id.ru/events/504553
#встречи
#Кольцо
#ИИ
Искусственный Интеллект и Искусственный Разум
Бесплатные мероприятия и коворкинги в вашем городе. Leader-ID помогает работать, учиться и находить единомышленников.
Показать все...
У нас отберут айфоны? Импортозамещение в России // Максим Горшенин
Создание технологического суверенитета — одна из самых тяжёлых и важных задач, которые сейчас стоят перед Россией. Именно поэтому в сегодняшнем подкасте с Максимом Горшениным мы поговорим о том, насколько успешно проходит процесс импортозамещения в микроэлектронике и как нам дальше продвигать отечественные технологии. Максим был сотрудником российской компании МЦСТ, разрабатывающей процессоры «Эльбрус», а также стал основателем интернет-магазина российской электроники, поэтому не понаслышке знает, с какими трудностями здесь сталкивается Россия. Почему частный бизнес не может создать всё с нуля без помощи государства? Правда ли, что импортозамещение в России долгие годы было обманом? Как Китай смог добиться быстрого и качественного развития электроники? Какие прорывные технологии у нас есть уже сейчас и чего ждать в ближайшем будущем? 00:00 Тизер 00:44 Начало 01:13 Почему создание технологического суверенитета необходимо для России 03:34 Что у нас происходит с микроэлектроникой после 2022 года 05:19 Утечка кадров из России 07:27 Зачем нужно соглашение о разделе продукции 08:47 Частный бизнес не может построить микроэлектронику с нуля? 13:53 СССР был одним из мировых лидеров по кибернетике и электронике? Что случилось дальше 18:29 Импортозамещение провалилось? 20:00 Как американская компания IBM обманула Россию 21:06 Зачем инвестировать в отечественную микроэлектронику 26:18 Выгодно ли России участие в ВТО 27:01 Почему за границей выгоднее купить собранный компьютер, а не его детали 30:30 «Все самые современные технологии приходят к нам из военной промышленности» 32:06 Многие предприятия уходят из страны или закрываются? 35:07 Как Китай добился такого технологического прогресса 38:47 Как российская власть сейчас готовит специалистов по микроэлектронике 44:18 Почему государство должно обязательно участвовать в развитии технологий 48:14 Цифровой рубль не работает? 50:04 Как не позволить бизнесменам диктовать свои условия 52:50 Сколько денег надо для развития микроэлектроники 59:22 Зачем нужна конкуренция 01:03:00 Как производитель мониторов «Лайтком» решил засудить Максима Горшенина 01:16:55 Какие в России сейчас прорывные технологии: Госуслуги, Телеком, 5G Ссылки: Boosty:
https://boosty.to/kirbirevaВК:
https://vk.com/katerinakirbirevaTelegram:
https://t.me/KirbirevaKaterinaRuTube:
https://rutube.ru/channel/36026052/Дзен:
https://dzen.ru/id/63ea438323ae796bcf5897c4TikTok:
https://www.tiktok.com/@kirbireva