Канал Сергея Маркова: машинное обучение, искусство и шитпостинг

Your Transformer is Secretly Linear Спешу познакомить вас с новой публикацией лаборатории FusionBrain про линейность большинства слоёв языковых моделей декодеров (принята на конференцию ACL 2024 - Main Track, Core A*). Наше исследование позволяет проанализировать внутренние представления языковых моделей, а также без потери качества избавиться от 10-15% слоёв. Еще мы придумали новый механизм регуляризации, чтобы снизить пресловутую линейность и, тем самым, получить небольшой буст в качестве. Ниже ссылочки на статью на архиве и код на гитхабе нашей прошлой статьи про анизотропию и внутреннюю размерность эмбеддингов (представляли на EACL 2024). Статья уже на Hugging Face Daily Papers и уверенно занимает первое место, но мы будем очень рады вашим upvote голосам ⬆️ https://huggingface.co/papers/2405.12250 📕arXiv 👨‍💻GitHub 📖Хабр @complete_ai

Всем привет! Мы сейчас готовим статью по персонализированной генерации на международную конференцию NeurIPS 2024, и нам нужно провести human evaluation нашего метода. Так как дедлайн завтра, мы решили не заморачиваться и постараться быстро собрать нужный фидбэк в гуглдоке🤗 🙏Хочу попросить вас принять участие в исследовании и пройти небольшой опрос (до 14.00 мск 22.05). Он достаточно простой, нужно будет смотреть на картинки и выбирать у какого метода лучше получилось. В статье обязательно укажем, что помощь комьюнити бесценна🔥 Сам опрос большой, в нём 100 вопросов, но можно отвечать на часть вопросов. Если ответите хотя бы 10-20 вопросов, уже будет отлично🔥🔥🔥 Заранее благодарим за вклад в научный прогресс🙏 Ссылка на сам опрос прилагается: https://forms.gle/9geNyi45U1YeUpyMA С большой верой в вас, априорной благодарностью и безмерным уважением🤗 За репост отдельные кармические плюсы🤝

Открыл для себя Ylvis — комедийный норвежский дуэт из Бергена, состоящий из братьев Борда (Bård) и Вегарда Илвисокера (Vegard Ylvisåker). Они дебютировали как профессиональные артисты в 2000 году, выступая во многих шоу, юмористических концертах, музыкальных клипах, но всемирно известными стали с момента выхода осенью 2013 года клипа «Что говорит Лиса» («The Fox (What Does the Fox Say?)»), который стал чрезвычайно популярен на YouTube (миллиард просмотров)

Открыл для себя Ylvis — комедийный норвежский дуэт из Бергена, состоящий из братьев Борда (Bård) и Вегарда Илвисокера (Vegard Ylvisåker). Они дебютировали как профессиональные артисты в 2000 году, выступая во многих шоу, юмористических концертах, музыкальных клипах, но всемирно известными стали с момента выхода осенью 2013 года клипа «Что говорит Лиса» («The Fox (What Does the Fox Say?)»), который стал чрезвычайно популярен на YouTube (миллиард просмотров)

🎉Пришла радостная новость! Статья на Хабре про Kandinsky 2.1 (линк) вошла в шортлист лучших статей 2023 года в номинации AI&ML. Среди 1022 заявок было выбрано около 300 работ. К 27 мая определятся сильнейшие! С другими отобранными статьями можно ознакомиться тут

Кубический миллиметр головного мозга содержит грандиозное количество информации https://22century.ru/computer-it/118880