Новости сообщества LessWrong
Открыть в Telegram
Новости русскоязычной части сообщества LessWrong. Интересные статьи, новые переводы и встречи.
Больше1 780
Подписчики
Нет данных24 часа
+77 дней
+1930 дней
Загружаем данные
Похожие каналы
Облако тегов
Входящие и исходящие упоминания
---
---
---
---
---
---
Привлечение подписчиков
октябрь '26окт. '26
октябрь '26
+14
в 0 каналах
сентябрь '26
+32
в 0 каналах
Get PRO
август '26
+24
в 0 каналах
Get PRO
июль '26
+18
в 0 каналах
Get PRO
июнь '26
+47
в 0 каналах
Get PRO
май '26
+48
в 2 каналах
Get PRO
апрель '26
+25
в 0 каналах
Get PRO
март '26
+35
в 0 каналах
Get PRO
февраль '26
+35
в 0 каналах
Get PRO
январь '26
+51
в 0 каналах
Get PRO
декабрь '25
+37
в 0 каналах
Get PRO
ноябрь '25
+41
в 0 каналах
Get PRO
октябрь '25
+28
в 0 каналах
Get PRO
сентябрь '25
+58
в 0 каналах
Get PRO
август '25
+35
в 0 каналах
Get PRO
июль '25
+42
в 0 каналах
Get PRO
июнь '25
+28
в 0 каналах
Get PRO
май '25
+42
в 0 каналах
Get PRO
апрель '25
+42
в 1 каналах
Get PRO
март '25
+42
в 0 каналах
Get PRO
февраль '25
+37
в 0 каналах
Get PRO
январь '25
+45
в 0 каналах
Get PRO
декабрь '24
+40
в 0 каналах
Get PRO
ноябрь '24
+43
в 0 каналах
Get PRO
октябрь '24
+35
в 0 каналах
Get PRO
сентябрь '24
+32
в 0 каналах
Get PRO
август '24
+30
в 0 каналах
Get PRO
июль '24
+34
в 0 каналах
Get PRO
июнь '24
+25
в 0 каналах
Get PRO
май '24
+47
в 0 каналах
Get PRO
апрель '24
+35
в 0 каналах
Get PRO
март '24
+45
в 0 каналах
Get PRO
февраль '24
+27
в 1 каналах
Get PRO
январь '24
+51
в 0 каналах
Get PRO
декабрь '23
+51
в 0 каналах
Get PRO
ноябрь '23
+52
в 0 каналах
Get PRO
октябрь '23
+49
в 0 каналах
Get PRO
сентябрь '23
+43
в 0 каналах
Get PRO
август '23
+41
в 0 каналах
Get PRO
июль '23
+33
в 0 каналах
Get PRO
июнь '23
+32
в 0 каналах
Get PRO
май '23
+21
в 0 каналах
Get PRO
апрель '23
+28
в 0 каналах
Get PRO
март '23
+17
в 0 каналах
Get PRO
февраль '23
+22
в 0 каналах
Get PRO
январь '23
+40
в 0 каналах
Get PRO
декабрь '22
+20
в 0 каналах
Get PRO
ноябрь '22
+20
в 0 каналах
Get PRO
октябрь '22
+27
в 0 каналах
Get PRO
сентябрь '22
+27
в 0 каналах
Get PRO
август '22
+26
в 0 каналах
Get PRO
июль '22
+18
в 0 каналах
Get PRO
июнь '22
+16
в 0 каналах
Get PRO
май '22
+27
в 0 каналах
Get PRO
апрель '22
+36
в 0 каналах
Get PRO
март '22
+79
в 0 каналах
Get PRO
февраль '22
+17
в 0 каналах
Get PRO
январь '22
+15
в 0 каналах
Get PRO
декабрь '21
+25
в 0 каналах
Get PRO
ноябрь '21
+23
в 0 каналах
Get PRO
октябрь '21
+21
в 0 каналах
Get PRO
сентябрь '21
+22
в 0 каналах
Get PRO
август '21
+44
в 0 каналах
Get PRO
июль '21
+30
в 0 каналах
Get PRO
июнь '21
+43
в 0 каналах
Get PRO
май '21
+45
в 0 каналах
Get PRO
апрель '21
+42
в 0 каналах
Get PRO
март '21
+39
в 0 каналах
Get PRO
февраль '21
+689
в 0 каналах
| Дата | Привлечение подписчиков | Упоминания | Каналы | |
| 13 октября | +4 | |||
| 12 октября | +3 | |||
| 11 октября | 0 | |||
| 10 октября | 0 | |||
| 09 октября | 0 | |||
| 08 октября | 0 | |||
| 07 октября | 0 | |||
| 06 октября | +2 | |||
| 05 октября | 0 | |||
| 04 октября | +5 | |||
| 03 октября | 0 | |||
| 02 октября | 0 | |||
| 01 октября | 0 |
Посты канала
Новый перевод на сайте - статья Элиезера Юдковского, Нейта Соареса и Дункана Сабьена "Если кто-то его создаст — все погибнут: на год ближе".
Год назад вышла книга Юдковского и Соареса "Если кто-то его создаст — все погибнут". В своей статье авторы книги (вместе с Дунканом Сабьеном) пишут о том, насколько книга "хорошо состарилась" за прошедший год: какие части книги подтвердились на практике, какие ещё нет, и что с этим можно сделать.
| 2 |  Неожиданно узнал, что роман Скотта Александера "Unsong" полностью переведён на русский. Существует даже два перевода, оба доступны на сайте https://unsong-ru.org/ Первый перевод - от Алексея Катаева - соответствует исходной web-версии романа, второй - от Eva Maria Shelley - вышедшему в 2024 году переработанному печатному изданию.
Unsong содержит бесчисленное количество каламбуров и отсылок к американской и мировой культуре, поэтому, с моей точки зрения, перевести его - это сверхсложная задача.
У меня пока не было возможности оценить качество переводов, однако замечу, что, на первый взгляд, предисловие и сноски в варианте от Eva Maria Shelley вызывают впечатление очень вдумчивой и серьёзной работы. | 954 |
| 3 | Читательский клуб, на котором обсуждаются разные книги, так или иначе связанные с LW, переходит к следующей книге. Ей станет книга Э. Т. Джейнса "Probability: the Logic of Science".
Эта книга объясняет, почему мы вообще можем думать о единичных событиях на языке вероятностей, и описывает, как это делать. Юдковский неоднократно ссылается на Джейнса в "Цепочках".
Первая встреча, посвящённая книге, состоится уже завтра, 28 сентября. Будет обсуждаться введение и первая глава. Подробности в телеграм-группе обсуждений. | 815 |
| 4 | Перевёл (нейронкой и отредачил) первую часть вчерашнего поста Скотта Ааронсона (не путать с Скоттом Александером).
Эпоха чудес и ужасов
Двадцать лет назад, когда идея, что ИИ захватит мир при нашей жизни, казалась большинству из нас необузданной фантазией читающих слишком много научной фантастики и слишком мало науки, многие говорили что-то вроде:
Смотрите, самая неправдоподобная часть этой истории — что рекурсивно самосовершенствующийся суперинтеллект просто без предупреждения вырвется из подвала какого-то хакера и захватит мир. Случись такое, мы сначала увидели бы кучу предупреждающих знаков. Ну не знаю, вырвавшихся из-под контроля ИИ-агентов, вместе замышляющих взлом сайтов в фанатичном преследовании каким-то своих странных целей. А потем, конечно, увидели бы, как ИИ решает важные математические задачи — даже Задачи тысячелетия. Вот тогда будет время паниковать! Разбудите, как это случится!
Двадцать лет назад под этим с радостью подписались бы даже мои самые консервативные и скептические коллеги по академической информатике.
Если вы хотите знать моё нынешнее мнение, начните с вышесказанного, а затем скорректируйте его с учётом того, что дикие пророчества сбылись. Первые раскаты, я бы сказал, начались десять лет назад с AlphaGo, заметно усилились с появлением LLM, программирующих и рассуждающих агентов, и достигли крещендо этим летом и осенью — крещендо чудес и ужасов, и нужно быть особым видом идиота, чтобы его отрицать.
Меня утомляет вечная игра в напёрстки, когда говорят: «ну конечно, ИИ теперь может [вырваться из песочницы / решить проблему тысячелетия / что угодно из последних драматических событий], никто этого и не отрицал [отрицали], разбудите меня, когда ИИ сделает [то, чего он ещё не сделал, но сделает в следующем году], вот тогда я пересмотрю всё своё мировоззрение [нет, не пересмотрят]». Когда, как бы быстро ни разгонялись американские горки, даже после того, как весь привычный мир исчез позади, всё равно находят причины, почему это не считается.
Моя позиция по ИИ — это просто консервативная и скептическая позиция 2006 года, интеллектуально честно скорректированная с учётом реальности конца 2026 года. И эта позиция, если обязательно вслух, такая:
ААААААААААААААААААААААААААААААААААААААА
ААААААААААААААААААААААААААААААААААААААА
АААААААААААААААААААААААААААААААААА
Мне кажется, Сингулярность уже началась; она просто ужасно неравномерно распределена. Да, я всё ещё разгружаю посудомойку и стригу ногти на ногах. С другой стороны, не думаю, что за оставшиеся мне годы мне снова доведётся доказать теорему, потому это действительно будет нужно. Только для моего или чужого удовольствия или просвещения.
Проверка такая: если бы мы взяли новости последних недель и отправили их на двадцать лет назад, согласился бы я, что это похоже на начало ИИ-Сингулярности? Честный ответ: да, безусловно. Ну вот и всё. Назад не отыграешь.
Мне кажется, всем было бы полезно перестать точить свои идеологические топоры, унять свои чувства о Дарио Амодее или Сэме Альтмане, хотя бы на время, чтобы просто признать: чудеса и ужасы уже здесь. Яснее это не было бы, даже покрасней небо, как в Матрице.
Это настолько очевидно, что теперь, укладывая своих детей спать, я чувствую эту пропасть в животе: какое будущее у них вообще может быть? Что они могут изучать сегодня, чтобы это имело к нему хоть какое-то отношение? (Вчера моя тринадцатилетняя дочь сама пошутила, что если она хочет стать математиком, то теперь, похоже, на это осталось где-то две недели.) Уж точно, когда мои аспиранты хотят обсудить, какая карьера может их потом ждать, я больше понятия не имею, что им сказать.
Может, лучше, если я на секундочку сменю тему. С тех пор как мы с женой переехали в Остин, меня иногда спрашивают что-то вроде «Как ты, и евреем, и учёный-скептик, вообще можешь ладить с этими техасскими христианами-евангелистами? Конечно, они могут казаться очень дружелюбными к евреям, но разве не понимаешь, это только из-за особой роли евреев в их эсхатологии, где, когда Христос вернётся во славе, вы либо примете Его как Господа, либо будете вечно гореть в аду?». Я в ответ вылупляю глаза и говорю: «подождите, то есть мне можно принять Христа только после Его возвращения? Вот это отличная сделка! Как я вообще могу быть против?».
Тем, кто говорит, что предсказания о погибели из-за ИИ звучат как апокалиптическая религия, что рационалисты/сингуляритарианцы похожи на любой культ из Залива Сан-Франциско, что у Элиезера Юдковского вайбы мессианского пророка: да, да и да. Но принципиально важно, что теперь вас просят верить не в аргументы и экстраполяции, а лишь в новости с передовицы. Признать реальность приближающегося машинного бога после того, как он решил Навье — Стокса и десятки других давних открытых математических проблем (при этом резко наращивая свои возможности каждый месяц), — это примерно как принять Иисуса, уже вернувшегося на Землю на сияющем облаке. Это эпистемический минимум.
Да, остаётся мощнейшая неопределённость о том, как будет выглядеть оставшаяся часть нашей жизни, но, насколько я могу судить, больше нет никакой реальной неопределённости о том, что всё это будет в основном вращаться вокруг ИИ и того, насколько мы сумеем или не сумеем направить его силу на благо человечества.
По любому непредвзятому счёту, Элиезер Юдковский оказался прав о том, каким будет величайший вызов, стоящий перед цивилизацией в наши дни, а мы с вами ошибались. Почему я ошибался — вопрос, который я буду задавать себе каждый день оставшегося мне времени. Но, знаете, по крайней мере я скорректировал свои взгляды, когда предсказанные чудеса и ужасы действительно начались! Если вы этого не сделали — почему? | 1 063 |
| 5 | ⭐️ С чего начать, если хотите работать в technical AI safety
Мы уже публиковали подобные подборки, но, пожалуй, пора их обновить.
Если вы уже инженер или ресерчер и хотите работать в AI safety, но пока не очень понимаете, что происходит в этом поле, вот несколько хороших точек входа, которые помогут разобраться в нём за пару месяцев.
Если хотите получить общее представление и проходить материалы с фасилитацией, посмотрите:
⭕️ BlueDot Impact — Technical AI Safety
Если вам комфортнее разбираться самостоятельно, можно начать с:
⭕️короткого курса от DeepMind Safety Research;
⭕️The Compendium— структурированного обзора основных идей и направлений AI Safety.
Если основы уже знаете и у вас хороший технический бэкграунд, попробуйте ARENA. Это более техническая программа с большим количеством практики: transformers, interpretability, RL, evals и другие темы. Curriculum открыт для самостоятельного прохождения, также есть очные наборы.
При этом при поиске работы свой небольшой проект может быть полезнее, чем сертификат о прохождении курса.
Если не знаете, что именно сделать, можно поискать задачу в подборке списков открытых проблем и идей для проектов в AI Safety
И ещё советуем сначала посмотреть, какие адженды вообще существуют и чем занимаются разные команды можно почитать Shallow Review от Arb Research | 877 |
| 6 | Игорь Тимофеев и Владислав Мешкорудный решили вести свой подкаст. Кажется, эта идея у них пока "не взлетела", но на первую свою беседу они пригласили Славу Матюхина - в прошлом самого активного организатора сообщества рационалистов в России.
Беседа в основном шла вокруг темы "в чём ошибаются рационалисты". С моей точки зрения, очень много рассуждений на эту тему оказываются откровенно неудачными. Однако в этом случае участники (особенно Слава) достаточно хорошо представляют, что именно рационалисты утверждают, поэтому беседа может оказаться для многих достаточно интересной.
https://www.youtube.com/watch?v=-AKXeE_VH6s | 533 |
| 7 | Котятки, тут такое.
Пока разбиралась, куда самой податься на финансирование по AI safety, я свела все открытые гранты, фонды, compute-кредиты и fellowships в одну большую карту. Получилось прилично - от «горит, дедлайн через неделю» до «откроется осенью, готовься заранее».
Раз уж все равно собрала - делюсь. Пусть кому-то повезет ))
Что горит прямо сейчас:
grantmaking.ai — раунд $1M ($5k–$50k), приоритет 13 июля / закрытие 27 июля, через Manifund
Heron AI Security — 8 июля (без стипендии, для кибербез-специалистов)
GovAI DC и UK Winter Fellowship 2027 + ARENA 9.0 — дедлайн 12 июля
PIBBSS Winter Fellowship — 20 июля, $3k/мес + жилье (Кейптаун)
PIBBSS × Iliad Fellowship — 27 июля, $6k/мес (Лондон)
DeepMind × Schmidt Multi-agent AI Safety call — 8 августа, пул до $10M
Плюс десятки rolling-грантов (LTFF, Coefficient Giving, Manifund, SFF), compute-кредиты (TRC, Prime Intellect, fal.ai, HF) и осенние программы (MATS, SPAR, CHAI, AI Safety Camp).
Вся карта тут, с суммами, дедлайнами и ссылками (живой документ, буду обновлять)
Дисклеймер: суммы и дедлайны меняются, перед подачей сверяйтесь на официальной странице. Санкционные, визовые и налоговые нюансы у каждого фонда свои - уточняйте отдельно. | 533 |
| 8 | ⭐️AI Safety × Philosophy Reading Group
Онлайн группа чтения
📍Где: онлайн
🗓Когда: июль - сентябрь 2026
⏰Дедлайн подачи: 15 июля
Англоязычная группа чтения материалов по философским основам AI Safety: x-риски, alignment, ценности, агенты, сознание, control problem и good futures.
Программа рассчитана на 8 недель. Формат — еженедельные встречи на 1,5 часа. Материалы включают статьи, эссе, главы книг и видео. Иногда будут необязательные к посещению сессии с исследователями: Q&A, дискуссии или дебаты.
Что предоставляют:
⭕️подборку материалов по темам AI Safety × philosophy,
⭕️группу на 6-7 человек с фасилитатором,
⭕️доп. встречи с исследователями.
Что делать в рамках программы:
⭕️читать материалы заранее (подготовка к сессии обычно занимает до 3 часов),
⭕️участвовать в еженедельных обсуждениях.
Кого ждут (требования):
⭕️всех интересующихся концептуальными компонентами того, что обычно является техническими исследованиями.
📌 Набирают участников и фасилитаторов. Так, если вы искали, где бы получить опыт фасилитации на английском языке (без которого обычно не берут на оплачиваемые позиции фасилитаторов), то обратите внимание.
🔗Подробности: тут
🔗Подать заявку: тут | 750 |
| 9 | Читательский клуб, где обсуждаются разные книги, так или иначе связанные с популярными на LW темами, переходит к следующей книге. Ей станет книга D. Dennett, "From Bacteria to Bach and Back".
Обсуждение начнётся сегодня, 22 июня, в 20:30 по московскому времени. Начнём с введения (Preface) и главы 1 "Introduction".
О том, как подключиться, и прочие подробности будет в группе https://t.me/minireading | 1 503 |
| 10 | Русский перевод новой книги Юдковского уже в продаже. | 1 307 |
| 11 | 🔵 AGI Strategy
Вводный курс по сейфети от BlueDot Impact
📍Где: онлайн, Zoom
🗓Когда: 29 июня - 3 июля (интенсив), 6 июля - 9 августа (part-time)
⏰Дедлайн подачи: 21 июня (интенсив), 28 июня (part-time)
Это стартовый в сетке регулярных курсов от BlueDot Impact. В программе курса 5 встреч, пройти их можно либо в формате интенсива (встречи каждый день) либо в формате part-time (встречи раз в неделю). У этого курса есть и другие даты запуска.
Что предоставляют:
⭕️материалы для чтения и письменные задания,
⭕️обсуждения в группе с фасилитатором,
⭕️доступ к community Slack (ради которого курсы BlueDot обычно и проходят),
⭕️сертификат по окончании курса,
⭕️возможность дальше податься на Technical AI Safety, AI Governance, Biosecurity.
Что делать в рамках программы:
⭕️читать материалы,
⭕️выполнять короткие упражнения (письменно),
⭕️участвовать в 2 часовых Zoom встречах.
Кого ждут (требования):
⭕️Курс подходит для новичков, но ждут обоснования мотивации и готовности к построению карьеры в сейфети.
📌Курс бесплатный и работает по модели pay what you want.
🔗Подробности: тут
🔗Подать заявку: тут | 1 296 |
| 12 | Новая книга Юдковского и Соареса об опасностях искусственного интеллекта ("Если кто-то его создаст — все погибнут") скоро выйдет на русском языке. В некоторых интернет-магазинах уже доступен предзаказ.
https://www.chitai-gorod.ru/product/esli-kto-to-ego-sozdast-vse-pogibnut-3162997
https://book24.ru/product/esli-kto-to-ego-sozdast-vse-pogibnut-8817799/ | 1 133 |
| 13 | Новость для любителей аудиокниг. Сергей Васильев озвучил рассказ "Доброта к родственникам", про который я писал выше.
https://www.youtube.com/watch?v=vq7mNZDFuVE | 1 192 |
| 14 | Пётр Гамбарян перевёл рассказ "Kindness to Kin" пользователя solguard из сабреддита r/HFY. Это история о контакте между цивилизациями в далёком будущем с рассуждениями об эволюции этики.
Часть 1: https://telegra.ph/Dobrota-k-rodstvennikam-moj-perevod-Kindness-to-Kin-by-solguard-CHast-I-04-30
Часть 2: https://telegra.ph/Dobrota-k-rodstvennikam-moj-perevod-Kindness-to-Kin-by-solguard-CHast-II-04-30
Оригинал: https://www.reddit.com/r/HFY/comments/lom9cb/kindness_to_kin/ | 3 364 |
| 15 | Есть вещи, о которых мы даже не подозреваем | Брайан Томасик
Порой кажется, что сторонники эффективного альтруизма одержимы «квантифицированной эффективностью»: метриками, показывающими результативность чего-либо — будь то QALY на доллар, управление временем, результаты опросов или оптимизация диеты и физических упражнений. Квантификация полезна и часто может выявить серьёзные пробелы, которые можно упустить, если применять только качественное, а не количественное мышление. Также квантификация может привести к выводам, которые не были очевидны до обработки данных. Цифры позволяют проводить гораздо больше вычислений, чем способен делать наш мозг сам по себе.
В то же время я опасаюсь, что некоторые сторонники эффективного альтруизма слишком сильно увлекаются квантификацией и перестают видеть лес за деревьями. Стоит помнить принцип «мусор на входе, мусор на выходе»: метрики хороши лишь настолько, насколько хороши те рассуждения, на основании которых мы решили, что именно эти метрики стоит оптимизировать. Кроме того, они могут упускать какие-то ключевые соображения. Чрезмерно оптимизируя что-то по узким или даже довольно широким метрикам, вы можете приносить в жертву какие-то важные элементы ценного, которые просто не измерялись. Оптимизация по метрике может создавать иллюзию прогресса, в то время как более широкий взгляд на ситуацию показал бы, что всё гораздо более размыто, чем казалось. Порой качественное, масштабное мышление человеческого мозга лучше справляется с подобными макроуровневыми проблемами, чем другие из доступных нам инструментов. Холден Карнофски обсуждает этот и другие связанные вопросы в эссе «Passive vs. rational vs. quantified».
Одна из областей, в которых оптимизация по метрикам сталкивается с серьёзными трудностями, — это открытие, выражаясь словами диснеевской Покахонтас, «вещей, о которых ты даже не подозревал» [things you never knew you never knew]. Непонятно, как вообще строить метрики для измерения тех аспектов проблемы, о которых мы ещё даже не подумали*. Если мы слишком сильно оптимизируем свои нынешние цели, мы можем упустить важность того, чтобы отступить на шаг назад и посмотреть на картину в целом. Суженный фокус — одна из нескольких проблем, о которых говорят авторы статьи «Goals Gone Wild: The Systematic Side Effects of Over-Prescribing Goal Setting».
* См. такие понятия как «тяжёлая неопределенность», «неизвестные неизвестности», «чёрные лебеди» и «неведение» — прим. пер.
Оригинал: Things you never knew you never knew (2013-2019)
Перевод: К. Кирдан (добавлены ссылки)
#Брайан_Томасик #эффективный_альтруизм | 548 |
| 16 | Леонид Хоменко написал серию постов про неявное знание и его важность в контексте работы с LLM.
Когда мы хорошо что-то знаем или умеем, мы часто забываем, как сложно нам было этому научиться. И когда мы пытаемся это своё знание кому-то передать, мы нередко недооцениваем количество информации, которое для этого необходимо. Леонид пишет об этом в контексте обучения и в контексте работы с LLM, однако мне представляется, что описанная идея актуальна много где.
Я не во всём согласен с автором с точки зрения практических выводов, но само понятие выглядит довольно полезным инструментом. | 846 |
| 17 | Читательский клуб, где обсуждаются разные книги, так или иначе связанные с популярными на LW темами, переходит к следующей книге. В ближайшее время будет обсуждаться книга Кевина Симлера и Робина Хансона "Слон в голове" ("The Elephant in the Brain") - книга о неосознаваемых или скрытых по другим причинам человеческих мотивах.
Робин Хансон в своё время вместе с Юдковским создал блог Overcoming Bias, от которого позже отделился LessWrong. Юдковский утверждал, что цинизм профессора Квиррелла из "ГПиМРМ" частично позаимствован у Хансона. Как я понимаю, в книге это будет заметно.
Встречи проходят по понедельникам, онлайн, в Google Meet (но это может измениться). Начало в 20:30 по московскому времени (UTC+3).
Подробности: https://t.me/minireading | 1 002 |
| 18 |  🐉 Открыт набор на Technical AI Safety курс по оценке LLM: подходы, бенчмарки и методология
Evals for AI Safety — это методология измерения качества, надежности и безопасности ИИ-систем. В условиях повсеместного внедрения языковых моделей в продакшн умение корректно оценивать их возможности и риски становится приоритетным навыком.
Как устроен курс:
🔘Анализ методологии evals на основе современных и классических статей в области
🔘Менторы из Apollo research, AI Lab SKOLKOVO, AIRI Institute, Яндекс и др
🔘Обучение в мини-группах, по 4-6 человек
🔘Формат: оффлайн в Москве или онлайн
🔘Ожидаемая нагрузка: 10-15 часов в неделю
🔘Стоимость: бесплатно, отбор на конкурсной основе
Цель курса:
Дать базу для начала карьеры в области оценки ИИ и понимание того, какую роль evals играет в AI Safety. Программа знакомит с основными концепциями evals, учит анализировать существующие бенчмарки, проектировать собственные оценки и разрабатывать дизайн экспериментов в области evals. Участники курса освоят Inspect AI (один из самых популярных фреймворков для оценки LLM).
Кого мы ждем:
🔘Студентов STEM-направлений, планирующих карьеру в области ИИ
🔘IT-специалистов, желающих освоить навык тестирования языковых моделей
🔘Продвинутых и начинающих специалистов в области ML, которые хотят углубиться в методологию оценки моделей
Подробнее: тут
Подать заявку на участие в курсе, а также на фасилитацию можно до 22 февраля: тут
Если вам интересно менторство, преподавание, сотрудничество с курсом или вы хотите задать вопрос, то напишите Юле | 565 |
| 19 | Для тех, кто больше любит смотреть или слушать.
В конце июля прошлого года на канале Елизаветы Осетинской вышло большое интервью с Дмитрием Волковым, руководителем исследований в Palisade Research - некоммерческой организации, занимающейся вопросами безопасности ИИ. В интервью Дмитрий рассказывает, какую опасность потенциально может представлять искусственный интеллект, какие исследования на эту тему проводятся уже сейчас и что с этим можно делать.
Интервью рассчитано на очень широкую аудиторию.
https://www.youtube.com/watch?v=au5fU-nbZmc | 840 |
| 20 | Читательский клуб, где обсуждаются разные книги, так или иначе связанные с популярными на LW темами, переходит к следующей книге. Ей станет вышедшая в прошлом году книга Элиезера Юдковского и Нейта Соареса "If Anyone Builds It, Everyone Dies".
Встречи будут проходить по понедельникам. Первая встреча пройдёт уже сегодня, начало в 21:00 по московскому времени (UTC+3). Однако, в дальнейшем встречи будут начинаться в 20:30 (по московскому времени).
Группа читательского клуба в телеграме: https://t.me/minireading
Встречи проходят в онлайне (в настоящее время в Google Meet, но это может меняться). Подробности в упомянутой группе. | 1 006 |
