Aspiring Data Science
Open in Telegram
Заметки экономиста о программировании, прогнозировании и принятии решений, научном методе познания. Контакт: @fingoldo I call myself a data scientist because I know just enough math, economics & programming to be dangerous.
Show more388
Subscribers
No data24 hours
No data7 days
+130 days
Posts Archive
#ai #llms
Крутые визуализации черных дыр, посмотрите.
https://youtu.be/Vr3llajehZ4?t=1185
#hardware
"По данным TechNews, оборудование автопилота Tesla четвёртого поколения подразумевало использование 32 Гбайт памяти GDDR6/LPDDR, но выходящая в этом году версия 4+ уже удваивает этот объём до 64 Гбайт. Популярная среди автопроизводителей платформа Nvidia Orin также использует 32 или 64 Гбайт оперативной памяти. Казалось бы, это не так много, но только лишь DRAM потребности бортовой электроники автомобилей не ограничиваются.
Если в начальных конфигурациях бортовые системы машины, включая развлекательную и отвечающие за помощь водителю в управлении, требуют до 40 Гбайт оперативной памяти, то в старших конфигурациях её объём может превышать 100 Гбайт. В случае с твердотельной памятью NAND, используемой для долговременного хранения информации, разбег требований ещё больше. Обновления ПО, которые поступают «по воздуху», для своего временного хранения требуют до 10 Гбайт дискового пространства в минимальном случае, а с учётом резерва можно говорить о всех 50 Гбайт.
Для хранения большого количества изображений, используемых в работе систем автопилота, требуется от 100 до 300 Гбайт памяти. Попутно прогрессируют и мультимедийные системы автомобилей, некоторые из них берут на вооружение ИИ-ассистентов, что также поднимает требования к доступному дисковому пространству. Твердотельный накопитель современного автомобиля в этом случае должен обладать объёмом от 500 Гбайт до 1,5 Тбайт, и в будущем требования будут расти практически ежегодно."
https://3dnews.ru/1145295/avtomobili-stanovyatsya-novimi-pogiratelyami-pamyati-do100-gbayt-dram-i-do-15-tbayt-ssd
#calibration #probabilistic #segments #groups
Одна из самых полезных лекций по ML за последние годы. Каждый DS в определённый момент начинает над этими вещами задумываться, правда?
Какова структура моих ML-метрик в сегментах данных, а не просто общая метрика?
Калибрация очень наглядна в данном случае, т.к. в мэйнстриме обучения ML её считают неким приятным побочным эффектом, который можно получить наряду с "настоящими" метриками резкости классификатора (PR\ROC AUCs, Precision\Recall etc).
Авторы MCGrad проделали классную работу, от визуализации мискалибраций по сегментам до, собственно, борьбы с ней.
В примере сразу показывают на реальных данных, как изотоник примененный к логрегу улучшает глобальную калибрацию, но при этом на самом деле ухудшает MCE, вводя мискалибрацию по признаку "пол".
Но если чуть включить голову, сразу возникает вопрос, а почему ограничиваться только задачей классификации и только метрикой ECE? А что, в задаче регрессии нас не колышет что MAE по "студентам из Италии использующим Андроид" взлетает?
Вообще к методологии MCGrad есть вопросы, постараюсь их сформулировать. Но вообще сама идея классная.
Необходимость ВРУЧНУЮ определять важные подгруппы\сегменты в своих данных, замедление тренировок, непредсказуемое влияние на другие ML метрики - это все и правда (было) серьёзными блокерами.
И у меня были свои наработки, как с этим бороться, досматриваю лекцию, уже чувствую что благодаря их идеям смогу сильно улучшить свой подход.
https://www.youtube.com/watch?v=iAR0NmyS68k
#hardware
"Выкрути свой Кодекс на максимум" )
https://3dnews.ru/1145187/openai-predstavila-perviy-gadget-klaviaturu-dlya-upravleniya-iiagentami-codex
#pymc #bart
В pymc есть вот такой аналог бустинга. Интересно его сравнить с "классическими" и проверить декореллированность.
https://www.youtube.com/watch?v=uS-dfZ4xYHk
#investing
Это пока не для меня ) А потом уже будет поздно...
https://www.youtube.com/watch?v=Lfk2BBhZUks
#biology #lifeorigin
Ну вот, есть прогресс.
https://www.youtube.com/watch?v=-RqK6MAZ_pw
#trading #insiders
Интересная классификация следов инсайдерских сделок
https://www.youtube.com/watch?v=UHNEm4HQjJM
