MadML 🚀
Open in Telegram
MadML Talks — это инициатива ML-сообщества Mad Devs, где каждые две недели по четвергам (18:00 по Бишкеку) эксперты из сферы машинного обучения и ИИ делятся своими знаниями и опытом. Ссылка на встречу: meet.google.com/ryk-irww-moz
Show moreThe country is not specifiedThe category is not specified
281
Subscribers
No data24 hours
+17 days
+230 days
Posts Archive
281
🎙 В мире моделей с огромным контекстным окном появляются свежие исследования, которые меняют наше представление о возможностях трансформеров. Сегодня на MadML Talks Саша Брыль (ML-инженер в Mad Devs) сделает доклад на тему: “Трансформеры: Как увеличить контекстное окно и ничего не забыть”
🔍 В рамках доклада:
- Разберем Memory Layers, технологию, благодаря которой Hailuo AI удалось обучить модель с контекстным окном в 4 млн токенов. Узнаем, как сохранять важную информацию, не теряя производительности.
- Погрузимся в архитектуру Titans от Microsoft, где предложены инновационные техники эффективного использования длинного контекста.
Время: 30 января, в 18:00 по Бишкеку
Ссылка на встречу: meet.google.com/ryk-irww-moz
#NLP #DeepLearning
