qtasep 💛💙

Архив теперь дает выкладывать не больше двух статей а календарный месяц. Запретили Эйлера, получается

Интересно как теперь заявки на гранты писать. Если прям что-то интересное хочешь сделать, рецензент закидывает заявку в ИИ. Если получилось — публикует. Если нет — пишет рецензию, что заявка нереалистичная. Выход такой видится — давать гранты только тем, кто их уже получал, пока не прояснится, как жить дальше. Или вообще, например, не давать. Или давать только условным академикам, а они уж там потом пусть раздают своим падаванам. То есть как будто гранты для аспирантов/молодых учёных в математике более невозможны в старом понимании. То есть молодым математикам надо уже сейчас искать олигархов, которые будут лично их спонсировать?

Еще немного онолитеги

Это какая-то жопа, конечно

За что заплачено, кто угадает?

Наткнулся на прикольдую демку, где можно посмотреть, как выглядел бы мир, если бы скорость света была 5 км/ч максимум: https://rivendell.dmitrybrant.com/relativity/ Смотреть лучше с компьютера

мечта inbox 0 превратилась в inbox<=10 - от такого количества оставшихся входящих мне все еще не страшно :)

На недельных конференциях часто в среду и в пятницу после обеда свободное время. Если посчитать рабочие часы, получается, что середина наступает вечером во вторник. Это согласуется с моим ощущением, что вся неделя (неважно, конференционная или нет) заканчивается примерно во вторник часа в 3 пополудни - если чего-то не успел до этого времени, то "давайте уже после выходных". А как у вас с рабочей этикой?

Пока я собирался разбираться с этим слопом, меня сегодня переслопили и запостили доказательство этой гипотезы. Ну чтош, все равно что-то по этому поводу напишу, когда human understanding дойдет. Вот как, видите, пытался я в этичное использование AI в авторежиме для доказательства того, что мне в какой-то степени важно, да не вышло. И так будет с каждым, кто не пойдет на поводу у хайпа.

Ну привет, крылья Родины

Теренс Тао и еще 24 филдсовских медалиста опубликовали открытое письмо в защиту математики в эпоху ИИ Авторы утверждают, что цели AI-компаний и цели математического сообщества серьезно разошлись, и гонка за решениями открытых задач может не только не развивать науку, но и вредить ей. Проблема, – говорят математики, – в том, что задачи решаются как бенчмарк, но получение конечного ответа – не главное в математике. Раньше, когда люди решали крупные открытые задачи, это означало зарождение новых идей, методов и ориентиров. Математическое сообщество годами доводило эти идеи до интеграции в канон, чтобы передать их новым поколениям ученых. Решения ИИ же объявляются даже без нормального оформления, без выделения новых методов, без ссылок на предыдущие работы и тд. Так что сами по себе они практически ничего не значат и без людей математиков никогда не станут по-настоящему живыми и полезными сообществу. Математики призывают решить эту проблему безотлагательно, потому что обществу предстоит столкнуться с похожими проблемами во многих других формах интеллектуального труда. https://mathandai.org/

Поддерживаю. Я тоже сделал себе бенчмарковскую гипотезу, недавно роботы ее доказали, но слоп читать нет сил. Удовлетворения тоже не получил, конечно

Пока буду тут немного постить, если кому интересно https://www.instagram.com/stories/qtasep/3984416984307720560

Твит-ветка Джейкоба Коксона о том, почему он уволился из ИИ-компании Антропик. За пару дней главный твит в ней получил 160 миллионов просмотров, на него отреагировали в положительном смысле около 10 сенаторов и 20 конгрессменов в США, самого Коксона позвали на бесчисленное число ТВ-передач, итд. итп. Вот вся ветка в переводе на русский, а за ней - реакция Эвана Хьюбингера, который продолжает работать в Антропик и отвечает в ней за усилия по элайнменту (alignment, "согласование") моделей. Пост Хьюбингера тоже получил немало просмотров, более 40 миллионов. Коксон: "Сегодня я уволился из Anthropic. Последние три года я занимался исследованиями претрейнинга — сначала в OpenAI, потом в Anthropic. Ни одна из этих компаний не ведёт себя ответственно. Они несутся прямиком к самоулучшающемуся сверхинтеллекту и ставят на кон наши жизни. Не стоит недооценивать мощь этой технологии. Совсем скоро это будут сверхчеловеческие системы, способные взломать что угодно, перевернуть любую область за одну ночь и заполучить реальную власть и ресурсы. Мы все видели прогресс по каждому из этих направлений, и он не замедляется. Люди, которые создают ИИ, искренне верят, что к концу десятилетия он может убить нас всех. Это не маркетинговый ход. Скорее наоборот: многие руководители и ведущие исследователи в прессе смягчают формулировки, чтобы звучать благоразумно, — но в частных разговорах те же самые люди говорят о страхе. Ни один другой вид человеческой деятельности не несёт такого уровня опасности. Обычное возражение: «Если они правда в это верят, зачем продолжают строить?» В OpenAI многие так и не прочувствовали по-настоящему цивилизационный масштаб ставок. В Anthropic ставки понимают хорошо, но компания заперта в гонке за первенство: там считают, что никто другой не будет действовать ответственно, а значит, придётся делать это самим — несмотря на риск. Принять эту гонку и войти в «эндшпиль» — самонадеянная авантюра, которую нельзя запускать из корпоративного Slack'а частной компании. Чтобы пытаться пробежать элайнмент спидраном, нужна исключительная уверенность в том, что лучших траекторий не существует. Я с оптимизмом смотрю на возможность координации. Предупредительные выстрелы вроде атаки на Hugging Face сделали соглашения о темпах между американскими лабораториями более реалистичными. Но я не чувствую, что мы на пути к предотвращению глобальной гонки — а для этого могут понадобиться дорогостоящие меры, вплоть до временного запрета на наращивание возможностей моделей. Если вы исследователь в одной из лабораторий, я призываю вас задуматься о том, какими на самом деле будут ближайшие несколько лет. Хотите ли вы запустить RL-прогон сверхинтеллекта без строгого понимания его разума? Стоит ли молча работать дальше, потому что «это всё равно произойдёт», — или воспользоваться моментом и потребовать других условий?" Хьюбингер: "Джейкоб здесь прав — мы действительно искренне верим, что ИИ может убить всех людей! Лично я оцениваю вероятность этого в ближайшее десятилетие выше 10%. Я считаю, что Anthropic старается изо всех сил, но у нас пока нет плана, как решить проблему элайнмента для сверхинтеллекта, и мы явно не на пути к его решению. Уточню: как мы пишем в нашем последнем отчёте о рисках, риск от нынешних моделей я считаю низким. Меня беспокоит сверхинтеллект, возникающий в результате рекурсивного самоулучшения, — которое, как мы уже говорили, происходит быстрее, чем мы ожидали."

БСД походу тоже решена уже. Ну, в целом, в график начала мат.сингулярности укладываемся

Нахрен бросаю мат рисерч

Правильный ответ на вопрос от HR «Где вы себя видите через 5 лет?»:

Проблема тут ближе, чем вы думаете. У меня тоже есть некоторые гипотезы, доказанные роботами, но нет сил разгрести и понять этот слоп…

Что-то мне так пофиг на какие-то там дифференциальные уравнения, даже не знаю