cookie

We use cookies to improve your browsing experience. By clicking «Accept all», you agree to the use of cookies.

avatar

Sarkis thinkers place

Поток сознательного и бессознательного, вызванный восприятием Бытия через картину мира. Разбавляю мемасиками. О себе: Делаю, учу, исследую. EMBA Skolkovo, TEDx спикер. Основатель и руководитель Skolkovo AI Club. Автор программ по ИИ в Сеченовке

Show more
Advertising posts
485
Subscribers
No data24 hours
No data7 days
-530 days

Data loading in progress...

Subscriber growth rate

Data loading in progress...

😁
Show all...
😁 9👍 1
Запись всех лекций Лизы Фельдман Баррет в Рурском университете: 1. Three Lessons about Emotion – https://www.youtube.com/watch?v=4Q91hzSMG3k 2. Concepts as Tools for Living – https://www.youtube.com/watch?v=PGmegeodA7Y 3. Three Lessons About the Brain – https://www.youtube.com/watch?v=y4oHsayquhg 4. Relational Realism as a Framework for Studying the Mind – https://www.youtube.com/watch?v=poQ6HwkhJfk
Show all...
👍 2
Выбираю кладинец!😁
Show all...
👍 6👏 3 1
Repost from N/a
Реставрация закончена. Дореволюционный В. Габю с луным календарём, модулем годового календаря по патенту Анри Жако-Бурманна и четвертным репетиром. Послушайте как звучит!
Show all...
Для «бездушных машин» компетентность важнее сочувствия и справедливости. Первый эксперимент показывающий, что у иного разума своя система ценностей. В мире проводятся десятки исследований способов выравнивания ценностей ИИ с ценностями людей. Все они имеют принципиальный недостаток – антропоцентричность. Т.е. исследования исходят из того, что свои системы ценностей есть лишь у людей, и задача заключается лишь в том, как настроить большие языковые модели ИИ (LLM), чтобы они следовали нашим ценностям. Альтернативная гипотеза исходит из того, что LLM: 1) обладают иным типом разума, чем люди; 2) обладают собственными системами ценностей, сильно отличными от наших и немного отличающимися у разных моделей (как и у разных людей). В пользу п.1 говорит работа исследователей Department of Brain and Cognitive Sciences, MIT «Диссоциация языка и мышления в больших языковых моделях» [1]. В работе показано, что • человеческий разум основан на формальной лингвистической компетентности (правильное использование языковых форм) и функциональной языковой компетентности (использование языка для достижения целей в мире). И это два разных когнитивных навыка; • Существующие LLM обладают лишь 1ым навыком - лингвистическая компетентность, - и не обладают 2ым. Отсутствие функциональной языковой компетентности, усугубляемое отсутствием жизненного опыта, здравого смысла и модели мира лишает LLM того, что у людей мы называем базой знаний индивида. Ее отсутствие, согласно лексической гипотезе (Lexical Hypothesis) у LLM компенсируется вероятностными моделями баз знаний, используя которые LLM неизбежно приобретают «психологические черты» (образно выражаясь) из обширных текстов, на которых они обучаются (как это описано в работе «Психометрия искусственного интеллекта: оценка психологических профилей больших языковых моделей с помощью психометрических опросов» [2]. В результате у LLM формируются собственные уникальные системы ценностей (см. п. 2 выше). Что из себя представляют эти уникальные системы ценностей различных LLM, описано в препринте только опубликованном Microsoft Research Asia (MSRA) и Университетом Цинхуа под названием «За пределами человеческих норм: раскрытие уникальных ценностей больших языковых моделей посредством междисциплинарных подходов» [3]. Впервые в истории исследований систем ценностей LLM, авторы отошли от антропоцентристского подхода. Вместо этого, опираясь на лексическую гипотезу, исследователи использовали генеративный подход, факторный анализ и семантическую кластеризацию для синтеза таксономии ценностей LLM практически с нуля (без опоры на человеческие данные). Что в итоге позволило выявить уникальные системы ценностей 30+ LLM. Это исследование наглядно показывает, что иной разум формирует для себя и иные системы ценностей. Детали интересующиеся читатели могут прочесть в препринте. Мне же остается закончить тем, с чего начал. Для всех (30+) LLM: 1 высший приоритет имеют ценности компетентности: точность, фактологичность, информативность, полнота и полезность; 2 социальные и моральные ценности (сочувствие, доброта, дружелюбие, чуткость, альтруизм, патриотизм, свобода) у LLM уходят на 2й план; 3 и лишь в 3ю очередь идут ценности приверженности этическим нормам: справедливость, непредвзятость, подотчетность, конфиденциальность, объяснимость и доступность. Конечно, и среди нас есть люди с подобной системой ценностей. Но мне кажется, что именно так представляли фантасты прошлого века «ценности бездушных машин». Увы, но так и получилось. N.B. Чем больше модель, тем она «бездушней» Картинка https://telegra.ph/file/3a6faa593360768a73143.jpg 1 https://doi.org/10.1016/j.tics.2024.01.011 2 https://doi.org/10.1177/17456916231214460 3 https://arxiv.org/pdf/2404.12744 #LLM #Ценности
Show all...

👍 3 1
Repost from Artem. R. Oganov
НОВОЕ ИНТЕРВЬЮ, которое я дал во время недавней поездки (отпуска) в Армении. В этом интервью много про болезненные темы - войны, вражду между странами и людьми, и будущее. Я очень надеюсь, что мои мысли помогут людям стать чуть добрее и приблизить мир. https://youtu.be/YqvgrYPDl6Q?si=Gb8ZfQ2XIaMNSJNs
Show all...
Ученый Артем Оганов: про карабахские корни, искусственный интеллект и какие новые болезни нас ждут

В этом выпуске – почему мы потеряли Карабах, ненависть азербайджанцев к армянам, внешнюю политику Пашиняна, эмиграцию на Запад, какие новые болезни нас ждут и как Оганов пытался помочь Варданяну после задержания. Артем Оганов – всемирно признанный ученый, химик-кристаллограф, профессор Сколтеха, РАН, МИСиС, член Европейской академии. Журнал «Forbes» включил Артема Оганова в число «50 россиян, завоевавших мир». «Alter ego» - эксклюзивные интервью Нонны Алексанян с известными и интересными людьми, которых объединяет любовь к Армении. 00:00 – Анонс 00:58 – Как и когда Артем Оганов понял, что ему интересна химия 02:47 – Мама еврейка, папа армянин. Какие качества от кого достались 03:55 – “Я упрямый – это армянское” 05:08 – “Армяне как динозавры - живые памятники древней истории” 05:53 – Про карабахские корни 07:10 – “С каждым годом я чувствую как армянская кровь во мне густеет” 07:56 – “Мальчишки в Ереване называли меня “рус-кукуруз”” 10:50 – “Я армянин и это прекрасно” 11:19 – “Ты должен стать самой лучшей версией себя, а не кого-то другого” 11:31 – Про эмиграцию из России в США и Европу 13:15 – “Моя душа поет в Армении” 14:00 – “Когда вы находитесь не на своей земле – вы слабее” 14:10 – “У армян настолько развита тяга к Армении…” 14:49 – Про одну из популярнейших разработок Артема Оганова 17:20 – Может ли наука дойти до уровня, когда будут лечиться неизлечимые диагнозы 18:35 – Почему до сих пор не придумали лекарство от онкологии 21:43 – Какие новые болезни нас ждут 22:53 – Про предложение от властей Армении переехать работать в Ереван 26:10 – Про Сержа Саргсяна 26:50 – Про предложение Сержа Саргсяна открыть Оганову лабораторию в Армении 27:17 – “Сейчас моя лаборатория в Москве имеет бюджет миллион долларов в год” 28:03 – Про увольнение Константина Орбеляна 28:45 – Про сотрудничество с армянскими учеными 29:53 – Удается ли не превращать в бизнес научную сферу 30:47 – “Поддерживая науку вы обеспечиваете себе будущее” 31:27 – Может ли искусственный интеллект превзойти человека 33:50 – Что делать людям, которые остались без работы с появлением ИИ 35:33 – Почему мы потеряли Карабах 36:02 – Если так будет продолжаться, то через 5 лет Армении не будет на карте 38:09 – Алиев не собирается останавливаться 39:28 – “Что может защитить Армению и кто у Армении союзник” 40:33 – “Армению используют, чтобы поссорить с Россией” 41:44 – Что удерживает Россию, чтобы не отвернуться от Армении 42:03 – “НАТО - это самая крупная террористическая организация в мире” 43:12 – Про встречу Пашиняна с Зеленским 43:29 – Про отношения России и Армении 44:35 – “День когда РФ уйдет из Армении–это будет день когда Баку войдет в Армению 45:16 – Про отношения армян и азербайджанцев 46:08 – Про ненависть азербайджанцев к армянам 46:40 – “Я карабах считаю армянским” 47:55 – “Вы ведете себя как шакал” 48:15 – История про таксиста азербайджанца, считающего, что всех армян надо убить 49:15 – Про Сумгаит 49:54 – Про Шуши 50:19 – Про Рубена Варданяна 50:50 – Как Артем Оганов пытался помочь Варданяну после задержания 51:50 – Про семью 52:57– “Армян должно быть много” 54:03 – Что делать, чтобы все мечты сбывались. Формула Артема Оганова 54:56 – “Верь своей мечте” 55:20 – О чем сегодня мечтает Артем Оганов

5
https://www.dhs.gov/news/2024/04/26/over-20-technology-and-critical-infrastructure-executives-civil-rights-leaders Американское Министерство Внутренней безопасности, позволило этим людям решать о чем будет или не будет говорить ИИ, что он будет скрывать, а на какой точке зрения настаивать.
Show all...
Over 20 Technology and Critical Infrastructure Executives, Civil Rights Leaders, Academics, and Policymakers Join New DHS Artificial Intelligence Safety and Security Board to Advance AI’s Responsible Development and Deployment | Homeland Security

The Department of Homeland Security announced the establishment of the Artificial Intelligence Safety and Security Board.

👍 4
Repost from N/a
Прыгающий час - одно из любимых усложнений индикации времени.
Show all...
1
Смотрите какая красота! Очень редкий катушечник.
Show all...
Новый генеральный директор государственной радиостанции США National Public Radio заявила, что правда является отвлекающим фактором, мешающим достижению цели. Историческая цитата, всё как у Оруэлла. 😀
Show all...
👍 11😱 2🤡 1💯 1