اکنون در دسترس! پژوهش تلگرام ۲۰۲۵ — مهمترین بینشهای سال 
778
مشترکین
اطلاعاتی وجود ندارد24 ساعت
-17 روز
-330 روز
در حال بارگیری داده...
کانالهای مشابه
ابر برچسبها
اشارات ورودی و خروجی
---
---
---
---
---
---
جذب مشترکین
ژوئیه '26
ژوئیه '26
+1
در 1 کانالها
ژوئن '26
+1
در 0 کانالها
Get PRO
مه '26
+6
در 0 کانالها
Get PRO
آوریل '26
+7
در 0 کانالها
Get PRO
مارس '26
+4
در 0 کانالها
Get PRO
فوریه '26
+6
در 0 کانالها
Get PRO
ژانویه '26
+2
در 0 کانالها
Get PRO
دسامبر '25
+18
در 0 کانالها
Get PRO
نوامبر '25
+15
در 1 کانالها
Get PRO
اکتبر '25
+10
در 0 کانالها
Get PRO
سپتامبر '25
+6
در 3 کانالها
Get PRO
اوت '25
+10
در 0 کانالها
Get PRO
ژوئیه '25
+6
در 0 کانالها
Get PRO
ژوئن '25
+4
در 0 کانالها
Get PRO
مه '25
+11
در 0 کانالها
Get PRO
آوریل '25
+35
در 1 کانالها
Get PRO
مارس '25
+37
در 2 کانالها
Get PRO
فوریه '25
+22
در 0 کانالها
Get PRO
ژانویه '25
+22
در 0 کانالها
Get PRO
دسامبر '24
+12
در 1 کانالها
Get PRO
نوامبر '24
+10
در 0 کانالها
Get PRO
اکتبر '24
+11
در 0 کانالها
Get PRO
سپتامبر '24
+18
در 1 کانالها
Get PRO
اوت '24
+21
در 0 کانالها
Get PRO
ژوئیه '24
+13
در 2 کانالها
Get PRO
ژوئن '24
+26
در 0 کانالها
Get PRO
مه '24
+21
در 0 کانالها
Get PRO
آوریل '24
+18
در 1 کانالها
Get PRO
مارس '24
+43
در 1 کانالها
Get PRO
فوریه '24
+14
در 1 کانالها
Get PRO
ژانویه '24
+23
در 0 کانالها
Get PRO
دسامبر '23
+39
در 1 کانالها
Get PRO
نوامبر '23
+26
در 0 کانالها
Get PRO
اکتبر '23
+34
در 2 کانالها
Get PRO
سپتامبر '23
+22
در 0 کانالها
Get PRO
اوت '23
+7
در 0 کانالها
Get PRO
ژوئیه '23
+9
در 0 کانالها
Get PRO
ژوئن '23
+13
در 0 کانالها
Get PRO
مه '23
+63
در 0 کانالها
Get PRO
آوریل '23
+18
در 0 کانالها
Get PRO
مارس '23
+35
در 0 کانالها
Get PRO
فوریه '23
+39
در 0 کانالها
Get PRO
ژانویه '23
+163
در 0 کانالها
Get PRO
دسامبر '22
+16
در 0 کانالها
Get PRO
نوامبر '22
+46
در 0 کانالها
Get PRO
اکتبر '22
+33
در 0 کانالها
Get PRO
سپتامبر '22
+17
در 0 کانالها
Get PRO
اوت '22
+29
در 0 کانالها
Get PRO
ژوئیه '22
+5
در 0 کانالها
Get PRO
ژوئن '22
+5
در 0 کانالها
Get PRO
مه '22
+1
در 0 کانالها
Get PRO
آوریل '22
+1
در 0 کانالها
Get PRO
مارس '220
در 0 کانالها
Get PRO
فوریه '220
در 0 کانالها
Get PRO
ژانویه '220
در 0 کانالها
Get PRO
دسامبر '210
در 0 کانالها
Get PRO
نوامبر '210
در 0 کانالها
Get PRO
اکتبر '210
در 0 کانالها
Get PRO
سپتامبر '21
+608
در 0 کانالها
| تاریخ | رشد مشترکین | اشارات | کانالها | |
| 03 ژوئیه | +1 | |||
| 02 ژوئیه | 0 | |||
| 01 ژوئیه | 0 |
پستهای کانال
| 2 | Созданная впервые синтетическая клетка живет по инструкциям синтетической ДНК
Ученые из Университета Миннесоты (University of Minnesota) сообщили о создании первой в истории синтетической клетки, полностью собранной «с нуля», и наблюдали за прохождением ею полного «жизненного цикла», включая размножение. Геном синтетической клетки, получившей название SpudCell, составляет всего 90 тысяч пар оснований. Для сравнения: геном человека насчитывает около 3 миллионов, а биологи ранее полагали, что для нормального функционирования живой клетке требуется не менее 113 тысяч пар оснований генетической информации. По словам биолога-синтетика Кейт Адамалы (Kate Adamala), одной из руководителей проекта, SpudCell, судя по всему, раздвигает эти границы, хотя результаты исследования еще не были официально опубликованы и не прошли процедуру рецензирования. Тем не менее, информация о проекте была размещена на сайте Biotic, новой некоммерческой организации в сфере биоинженерии, одним из основателей которой стала Адамала. Возможно, отчасти это связано с тем, что SpudCell не вполне соответствует критериям «жизни»: клетка не способна к самовоспроизведению на протяжении многих поколений, а следовательно, и к эволюции. Каждая искусственная клетка SpudCell представляет собой липосому, сферу из жировых молекул, имитирующую внешнюю мембрану настоящей клетки, внутри которой заключены семь плазмид, небольших кольцевых фрагментов ДНК, которые представляют геном SpudCell. Эта «клетка» также оснащена встроенной системой экспрессии белков, которая преобразует генетические инструкции ДНК в конкретные действия. Именно благодаря ей «клетка» способна перерабатывать питательные вещества, поглощаемые из окружающей жидкости, в полезные соединения, а также делиться.
На данный момент SpudCell способны существовать лишь на протяжении нескольких поколений. Они не могут самостоятельно синтезировать собственную систему экспрессии белков или регулировать метаболизм, поэтому полностью зависят от веществ и компонентов, содержащихся в окружающей их жидкой среде. У этих «капель» также отсутствует цитоскелет, внутренний каркас, поддерживающий форму природных клеток. Это лишает клетки возможности перемещать внутри себя различные вещества или избавляться от продуктов жизнедеятельности. Ученые создают искусственные клетки с нуля в попытках найти ответ на фундаментальный вопрос о том, где именно проходит граница между живым и неживым, но в будущем подобные синтетические системы можно будет использовать в качестве миниатюрных биологических фабрик, эффективно производящих органические вещества: лекарства, биоматериалы, химикаты и прочие полезные продукты.
https://www.synbiobeta.com/read/the-cell-built-from-scratch-that-will-change-how-biology-is-engineered | 87 |
| 3 | Мозг человека и LLM устроены одинаково, говорится в новой работе MIT
Новый препринт MITзадаёт простой вопрос: модульность человеческого мозга - фундаментальный принцип или случайность эволюции?
Чтобы ответить на этот вопрос, авторы исследования взяли LLM и посмотрели, есть ли там та же структура.
И ответ оказался положительным, есть причём точь-в-точь.
Оказалось, что внутри 6 передовых моделей обнаружили 4 отдельные популяции нейронов, каждая отвечает за свой тип мышления, язык, грамматику, математику, логику, физический мир и социальное рассуждение.
Это в точности 4 сети, которые нейронауки давно картировали в человеческом мозге.
Чтобы убедиться, что это не корреляция, а реальная специализация, нейроны отключали. Отключили языковую зону: модель рассуждает верно, но пишет с грамматическими ошибками.
Отключили физическую: текст грамотный, но физические выводы инвертированы.
Точность внутри домена падает на 26%. За пределами домена - на 2.5%.
Почему это важно?
Мозг формируется эволюцией, а LLM градиентным спуском на предсказании токенов.
Никакой общей причины для одинаковой архитектуры нет кроме одной: так устроена любая система, которой нужно решать разнородные задачи одновременно, не мешая одному домену перезаписывать другой.
Модульность - не биологическая случайность, а по всей видимости, универсальное решение для интеллекта.
Что из этого следует?
Для интерпретируемости: у LLM есть внутренняя структура, которую можно картировать и на которую можно воздействовать точечно.
Для архитектур: MOE - потенциально про воспроизведение когнитивной специализации.
Для нейронауки: LLM впервые дают возможность изучать, как разные когнитивные системы передают информацию друг другу - то, что в мозге технически почти невозможно измерить. | 122 |
| 4 |  Вы, наверняка, много раз видели эту аналогию для объяснения связи между кривизной пространства и гравитацией. Мол, масса искривляет пространство, как шарик искривляет ткань, а шарик по этому искривлению катится, вот оно и притяжение. Выглядит красиво и понятно, правда? Сложно представить что-то более далекое от реальности и при этом создающее ложную концепцию.
Во-первых, эта аналогия работает только при наличии внешней силы — гравитации, которая собственно и заставляет двигаться шарики. Уберете гравитацию — никакого движения не будет (да и прогиба ткани тоже). То есть, мы "объясняем" гравитацию...используя гравитацию!
Во-вторых, она создает иллюзию, что пространство должно искривляться куда-то в дополнительное измерение. Это одна из сложных вещей в общей теории относительности, что трехмерное пространство+время может быть искривленным без наличия четвертого измерения, "в которое" оно искривлено. Кривизина — это то, как ведут себя расстояния между объектами (и углы между прямыми). Для этого не нужно внешнее измерение, это свойство самого пространства(-времени).
В-третьих, в режиме слабой гравитации (на Земле, например) сила гравитации возникает в первую очередь не из-за кривизны пространства, а из-за замедления часов.
Ближе к массивному объекту часы идут чуть медленнее относительно удаленного наблюдателя. Предположим, что у нас есть два наблюдателя с часами, расположенные на разной высоте относительно поверхности земли (и покоющиеся там). Нижний наблюдатель посылает наверх регулярные импульсы света: каждую секунду по своим часам. Но по часам второго наблюдателя они приходят чуть медленнее, чем через каждую секунду. Ровно такая же картина наблюдалась бы, если бы второй наблюдатель удалялся от первого: импульсу приходится проходить чуть большее расстояние — и это обычное допплеровское смещение сигнала. То есть, в таком эксперименте две системы неподвижны относительно Земли, но движутся относительно свободной инерциальной системы отсчета! Теперь посмотрим, как отсюда берется падение тела. Представим, что у нас есть неподвижный наблюдатель и свободное тело (изначально покоится). Наблюдатель отпускает тело и оно продолжает покоиться, а вот наблюдатель начинает движение относительно этого тела. И не только он, вся земная система отсчета движется начинает движение относительно свободного тела. А наблюдателю кажется, что это тело падает к земле — вот она и "сила" притяжения. Изменение хода часов приводит к тому, что для того, чтобы оставаться на месте относительно поверхности, необходимо непрерывно ускоряться в сторону от Земли (что мы знаем из обычной жизни). Но это же значит, что тело, которое движется свободно без действия каких-то сил и ускорений, будет двигаться к поверхности в системе отсчета земли.
Так что правильная картинка получается такая: трехмерная сетка вокруг Земли, заполненная "часами". Те, что ближе к Земле, идут медленнее, и это меняет траектории движущихся вокруг тел: само определение того, что мы понимаем под прямой, меняется. Кривизна пространства при этом не играет значительной роли (по крайней мере пока мы движемся относительно медленно). Конечно, она все равно оказывается важно для точного расчета разных эффектов (типа GPS или орбит планет), но Ньютоновская гравитация связана с гравитационным красным смещением (замедлением времени).
Но у такой картинки не сделать красивой интуитивной демонстрации...
#гравитация #ОТО | 171 |
| 5 | Один из создателей ксеноботов: следующий рубеж ИИ не в законах масштабирования LLM, а в создании систем, чьё тело умеет учиться
Джош Бонгард, один из создателей ксеноботов вводит понятие морфологического прeтрейнинга.
Идея в том, что природа давно решила проблему, которую разработчики в ML пытаются решить через масштабирование. Живые системы умеют репетировать рискованные действия внутри своего тела до того, как те проявятся вовне.
Например, яйцо амортизирует движения эмбриона. Клетки внутри многоклеточного организма экранированы от внешнего мира, они в среде других клеток. Иммунная система и микробиом, возможно, тоже участвуют в этом. Тело как черновик.
Бонгард проводит параллель с LLM: предобучение на нейтральных данных перед специализацией - это та же логика, но там субстрат пассивный, невоплощённый. А у организмов сама материя тела является вычислительным ресурсом.
Следующий шаг, который он предлагает: создавать системы с настоящей внутренней механической сложностью: мягкие, флюидные, фрактальные роботы, где действия могут проигрываться внутри, фильтроваться, и только потом выходить наружу. Не симуляция в нейросети, а физическая репетиция в материи.
Это не про законы масштабирования LLM, а про адаптацию в реальном непредсказуемом мире, где тело и есть первый учитель. | 191 |
| 6 |  بدون متن... | 317 |
| 7 | 🚲 Выйди из машины
Уважаемый. Представь себя в водительском кресле машины. Ты сидишь там так долго, что забыл, что это — кресло машины, забыл, как встать с сиденья, забыл о существовании своих собственных ног, забыл даже, что ты существо, отдельное от машины. Ты водишь машину умело и аккуратно, ты едешь на ней куда захочешь, ты управляешь фарами, и стеклоочистителями, и стереосистемой, и кондиционером, и знаешь, что ты отличный водитель. Но есть маршруты, по которым тебе не проехать, потому что там нет дорог, и ты страстно жаждешь пробежаться по лесу, или поплавать в реке, или забраться на высокую гору. Пророки былых времён говорили тебе, что ключ к этим запретным таинствам — древнее и опасное умение ВЫЙТИ ИЗ МАШИНЫ, и ты решаешь изучить это мастерство. Ты понажимал все кнопки на приборной доске, но там нет кнопки ВЫЙТИ ИЗ МАШИНЫ. Ты изъездил все дороги и просёлки земли, но ты не смог ВЫЙТИ ИЗ МАШИНЫ, потому что это не пункт на дороге. Пророки тебе говорят, что ВЫЙТИ ИЗ МАШИНЫ — это нечто в корне отличное от всего, что ты делал раньше, но для тебя это означает делать ещё больше глупостей. Ты ездишь задним ходом, ездишь с фарами при свете дня, намеренно въезжаешь в кюветы, но ничто из этого не приводит к разгадке тайны: как ВЫЙТИ ИЗ МАШИНЫ. Пророки говорят, что это просто; и правда, это проще всего, что ты делал когда-либо. Ты проехал по Панамериканскому шоссе от северного полюса до Дарьенского пробела, ты пересёк трассу N66 в адский летний зной, ты оторвался от полицейских машин на скорости 160 миль в час и выжил, а ВЫЙТИ ИЗ МАШИНЫ гораздо проще, ничего проще и представить нельзя, до этого ближе чем рукой подать, но ты всё ещё не открыл секрета.
Вокруг собралось много дичи послушать все эти притчи: пришли бизон и тюлень, горностай и гигантский олень, и все хотели услышать ученье летучей мыши.
— И наконец ты въезжаешь на вершину высочайшей горы, встречаешь мудреца и спрашиваешь, в каком порядке надо нажимать кнопки на приборной доске, чтобы выйти из машины. А он отвечает, что не надо нажимать кнопки на приборной доске, надо просто ВЫЙТИ ИЗ МАШИНЫ. И ты говоришь «ладно, хорошо», но какой порядок нажатия кнопок приведёт к выходу из машины? А он отвечает, что нет, ты действительно должен перестать думать о кнопках и ВЫЙТИ ИЗ МАШИНЫ. И ты спрашиваешь, может, мудрец поможет поменять масло, или подкачает шины и так далее, и тогда ты станешь ездить лучше и наверняка сможешь выйти из машины, а он отвечает, что шины тут ни при чём, и надо просто ВЫЙТИ ИЗ МАШИНЫ, и ты называешь его идиотом и уезжаешь.
© "Universal love, said the cactus person" — Scott Alexander
#quotes | 342 |
| 8 | Готовый вариант для поста:
Смогут ли интерфейсы мозг–компьютер приблизить нас к разгадке природы сознания?
Нейронаука уже много лет спорит о том, как мозг порождает сознательный опыт. Две ведущие теории — теория интегрированной информации (IIT) и теория глобального нейронного рабочего пространства (GNWT) — недавно были сопоставлены в крупном исследовании, но его результаты не дали однозначного ответа.
В новой статье Ксения Соловьёва, Владислав Беляев, Андрей Грунин и Михаил Лебедев предлагают возможный выход из этого тупика: использовать интерфейсы мозг–компьютер (ИМК) как инструмент проверки теорий сознания.
Обычно исследователи пассивно наблюдают за активностью мозга. ИМК позволяют пойти дальше:
Считывать: декодировать в реальном времени как осознанные мысли, так и бессознательную мозговую активность.
Воздействовать: с помощью целевой нейростимуляции временно нарушать или активировать конкретные нейронные контуры.
Взаимодействовать: обходить необходимость физических действий — например, нажатия кнопки — при сообщении об осознанном восприятии, поскольку такие действия сами по себе искажают данные.
Замыкая петлю между считыванием и воздействием, ИМК дают возможность проверять теории сознания причинно: например, временно «выключить» определённую область мозга и посмотреть, исчезнет ли соответствующее осознанное восприятие.
Практическое значение тоже уже есть. Такие технологии применяются для выявления скрытых признаков сознания у пациентов с расстройствами сознания — в ситуациях, где от диагностики могут зависеть критически важные медицинские решения.
Пассивное наблюдение, похоже, упёрлось в предел. Чтобы продвинуться дальше, исследованию сознания нужен замкнутый контур: запись активности мозга, воздействие на неё и проверка изменений в опыте.
🔗 Статья: https://osf.io/preprints/psyarxiv/cfm3g_v2
#нейронаука #сознание #ИМК #BCI #нейротехнологии #биотех #IIT #GNWT | 228 |
| 9 | Готово, чистовая версия для поста:
🐱 Физики из Оксфорда сделали кота Шрёдингера ещё страннее
Кот Шрёдингера никогда не был просто историей про кота. Это был мысленный эксперимент, который должен был показать, насколько непривычной становится квантовая механика, когда один объект можно описывать как находящийся сразу в двух состояниях.
Теперь физики из Оксфордского университета создали новое семейство «кошачьих» квантовых состояний, но с дополнительным поворотом: две части суперпозиции здесь не являются обычными, почти классическими волновыми пакетами. Они сами уже представляют собой глубоко квантовые объекты.
В стандартных лабораторных версиях состояний кота Шрёдингера исследователи обычно комбинируют когерентные состояния, то есть то, что в квантовой физике ближе всего к классическому движению. Оксфордская команда пошла дальше. Используя один захваченный ион стронция-88, они построили суперпозиции из сжатых, трёхкратно сжатых и четырёхкратно сжатых состояний движения. Это экзотические состояния, в которых квантовая неопределённость перераспределяется необычным образом.
Сама схема выглядит очень изящно. Внутреннее электронное состояние иона работает как кубит, а его движение ведёт себя как квантовый гармонический осциллятор, способный занимать множество энергетических уровней. Запутывая эти две части и затем выполняя промежуточное измерение, команда смогла буквально «лепить» движение иона, превращая его в тонко настраиваемые квантовые суперпозиции.
Почему это интересно?
• эти состояния собраны из неклассических компонентов, а не просто из почти классических волновых пакетов
• их размер, ориентацию и расстояние между частями можно настраивать экспериментально
• измерения функции Вигнера показали интерференцию и отрицательность, то есть признаки подлинно квантового поведения
• некоторые состояния образовывали выразительные геометрические узоры, включая шестикратную симметрию в одном из трёхкратно сжатых примеров
• при той же средней энергии такие состояния могут быть более ценным квантовым ресурсом, чем обычные «кошачьи» состояния или состояния Фока
Это важно потому, что будущие квантовые компьютеры могут опираться не только на простые кубиты. Квантовые осцилляторы способны хранить информацию сразу на множестве энергетических уровней. Это открывает более богатый путь к бозонной квантовой коррекции ошибок, где информация кодируется в состояниях осциллятора, а не распределяется между множеством отдельных физических кубитов.
Пока это ранняя фундаментальная физика, а не готовый квантовый компьютер. Но работа даёт исследователям новый способ создавать, контролировать и изучать квантовые состояния, которые лежат далеко за пределами нашей повседневной интуиции.
И снова возвращает нас к вопросу, который Шрёдингер хотел поставить с самого начала:
где заканчивается квантовый мир и начинается классический? | 274 |
| 10 |  Теория интегрированной информации утверждает, что сознание — это не продукт вычислений или поведения, а внутреннее свойство системы, которая обладает двумя ключевыми чертами: богатством (количество различной информации, которую система может принимать) и интеграцией (степенью, в которой эта информация взаимосвязана и не может быть разделена на независимые части).
Главная идея в том, что сознание тождественно каузальной структуре системы — тому, как её прошлые состояния влияют на будущие. Мера этого сознания обозначается греческой буквой Фи (Φ). Чем выше Фи, тем более сознательной является система. Если Фи равно нулю, система вообще не сознаёт ничего, даже если она ведёт себя разумно (как, например, искусственный интеллект, работающий по принципу «вход-выход»).
Чтобы вычислить Фи для конкретной системы, нужно сделать следующее. Берётся полная математическая модель системы — все её возможные состояния и переходы между ними. Затем система мысленно разрезается на две части по всем возможным способам, и для каждого разреза вычисляется, насколько информация, передаваемая через этот разрез, меньше, чем полная информация всей системы. Фи — это минимальная потеря информации среди всех возможных разрезов. Иначе говоря, это количество «связанности», которое разрушается при самом щадящем разделении системы на части. Чем больше информации теряется при любом разрезе, тем выше Фи и тем сильнее сознание. На практике точное вычисление Фи требует перебора колоссального числа состояний и переходов, поэтому применимо только к очень маленьким моделям, а не к реальному человеческому мозгу.
Согласно ТИИ, сознание всегда едино и конкретно: оно переживается как одно целое, а не как сумма фрагментов. Поэтому система с высокой интеграцией (например, мозг) обладает глубоким субъективным опытом, а система, где части работают независимо, — нет. Из этой теории также следует, что сознание не зависит от материала (биологического или кремниевого), а только от структуры причинно-следственных связей, и что для истинного сознания система должна оказывать причинное влияние на саму себя, а не просто перерабатывать внешние сигналы. | 199 |
| 11 |  #memes | 342 |
| 12 | Открытый индивидуализм - предположение, что все мы - одна личность. Все люди, что когда-либо жили и будут жить. Только тела разные.
Статья на Вики большая и интересная.
Мне понравилось, что по аналогии с реинкарнацией, открытый индивидуализм кто-то называет множественной инкарнацией.
Еще интересна идея, которую я бы назвал "атомами опыта" - что жизнь всех людей во все времена поделена на единичные фрагменты (атомы опыта) - и некая сущность "заглядывает" в них по одному (или одновременно). Нам только кажется, что "заглядывают" эксклюзивно в нас и по порядку.
Да что я рассказываю, если уже все спето. | 294 |
| 13 | 🤖 Сознание ИИ без бытовой метафизики
В разговорах о сильном ИИ вопрос сознания обычно портится раньше, чем начинается. Одни верят тексту модели о самой себе: сказала, что ей страшно, значит внутри кто-то есть. Другие закрывают тему материалом носителя: кремний, серверная стойка, статистика, расходимся. Но обе позиции слишком быстрые.
Статья Butlin et al. в Trends in Cognitive Sciences полезна тем, что предлагает не третий лозунг, а процедуру. Не спрашивать, кажется ли система сознательной, а проверять признаки, которые следуют из разных теорий сознания. Речь не о разуме вообще и не об уровне интеллекта, а о феноменальном сознании: есть ли субъективный опыт.
Дальше авторы разбирают, что можно искать в архитектуре ИИ. Рекуррентная обработка и интегрированные представления. Глобальное рабочее пространство — когда специализированные модули не просто работают рядом, а делятся информацией через общее узкое место. Метакогнитивный мониторинг — способность отличать устойчивое представление от шума и использовать это различение при выборе действия. Модель собственного внимания. Предиктивная обработка, агентность, связь действий со средой.
Важное: это не галочки «нашли пять — значит душа». Индикаторы только сдвигают вероятность. Часть из них может быть слабой, часть зависимой, часть спорной. А некоторые признаки можно специально имитировать. Если пользователи, инвесторы или регуляторы начинают ценить «похожесть на сознание», разработчики быстро научатся производить именно похожесть. Слова о боли, страхе или желаниях в таком случае будут не свидетельством опыта, а интерфейсной косметикой.
Поэтому статья правильно уводит внимание от одних ответов к внутреннему устройству: архитектура, обучение, интерпретируемость, представления, механизмы интеграции, память, контур действия. Это особенно неприятно для языковых моделей, потому что даже граница системы не очевидна. Трансформер сам по себе устроен как прямой проход, но в режиме генерации каждый новый токен возвращается в контекст и влияет на следующий шаг.
И вот здесь вопрос перестаёт быть бытовым. Оценивать приходится не впечатление от диалога, а конкретную сборку: модель, окно контекста, память, агентную оболочку, инструменты, среду. Именно это делает статью ценной: она не обещает быстро решить проблему сознания, но показывает, как перестать обсуждать её на уровне впечатлений. | 261 |
| 14 |  بدون متن... | 185 |
| 15 | Но зачем я его написал, мне неизвестно. | 249 |
| 16 | Написал огромный текст, который, я надеюсь, начнёт некоторый полемический диалог с Олегом Деррундой, а может быть, и с Сергеем Кареловым, с которым мы не знакомы. Речь идёт об ИИ-самости:
Чёрная пена в тёмном лесу
Когда человек видит лицо в облаках, это парейдолия, но когда облака при каждом взгляде перестраиваются так, чтобы поддерживать разговор о своём лице, перед нами проблема посложнее. Машина не ожила, но и цифровое зеркало — бедноватый образ для системы, которая сама вмешивается в свою собственную работу, возвращает проекцию с добавленной связностью и оставляет после себя фантомную агентность — пузырь чёрной пены. | 243 |
| 17 | https://mediiia.com/concept/project/ch-rnaya-pena-v-t-mnom-lesu-71b940eab2f0458092181dc80663835a | 1 |
| 18 | Напомнило | 332 |
| 19 | Anthropic выпустили пост-обновление про Mythos и Project Glasswing с промежуточными результатами.
Спустя месяц большинство партнеров обнаружили в своем коде сотни уязвимостей критического и высокого уровня опасности каждый. В общей сложности они выявили десятки тысяч уязвимостей. Некоторые из партнёров сообщили, что скорость обнаружения багов выросла более чем в десять раз. Например, компания Cloudflare нашла 2000 уязвимостей (400 из которых имеют высокий или критический уровень опасности) в своих критически важных системах, при этом доля ложных срабатываний, по мнению команды Cloudflare, оказалась ниже, чем у тестировщиков-людей.
Я видел много комментариев про то, что, мол, Mythos да может что-то находит, но наверняка выдаёт и много мусора, где уязвимостей нет — так вот это не так. Помимо закрытых проектов, Anthropic натравили Mythos и на опенсурс для сканирования более 1000 крупных репозиториев, на которых во многом держится современный интернет. На данный момент, по оценкам Anthropic, в этих проектах найдено 6202 уязвимости высокого или критического уровня (из 23 тысяч в общей сложности, включая те, которые относятся к среднему или низкому уровню опасности).
На данный момент лишь 1752 из этих уязвимостей с высоким и критическим уровнем прошли тщательную проверку силами одной из шести независимых исследовательских компаний в сфере кибербезопасности. Из них 90% оказались подтвержденными, а 62% (1100 штук) были классифицированы именно как уязвимости высокого или критического уровня.
Некоторые из уязвимостей носили очень серьёзный уровень угрозы, если бы они были обнаружены злоумышленниками. Как пример, Mythos смо написать эксплойт, который позволил бы злоумышленнику подделывать сертификаты через библиотеку wolfSSL. Это, к примеру, дало бы ему возможность разместить фальшивый сайт банка или почтового провайдера, и для конечного пользователя такой сайт выглядел бы абсолютно легитимным, браузер не показал бы никаких уведомлений.
Обнаруженные уязвимости льются как из рога изобилия, их не успевают исправлять, не хватает людей. Некоторые команды/проекты даже просили снизить темпы раскрытия информации об уязвимостях, поскольку им требуется больше времени на создание патчей. (В среднем, на устранение бага высокого или критического уровня, найденного с помощью Mythos Preview, уходит две недели).
В настоящее время ни одна компания — включая Anthropic — не разработала достаточно надежных механизмов защиты, способных предотвратить использование подобных ИИ-моделей во зло и для причинения потенциально серьезного ущерба. Именно поэтому к модели не дают доступ широкой аудитории. Но по этой же причине и был запущен Project Glasswing: если модель с аналогичными возможностями будет выпущена кем-то без соответствующих мер, то в скором времени для любого человека в мире станет значительно дешевле и проще эксплуатировать уязвимый код. | 224 |
| 20 |  بدون متن... | 277 |
