Data Science News

@data_science_news

Данные, инструменты для них и немного математики. Чат: @data_science_chat Для контактов: @telejamm

Ko'proq ko'rsatish

Rossiya160 509Rus291 609Texnologiyalar & Aralashmalar19 539

Reklama postlari

405

Obunachilar

Ma'lumot yo'q24 soatlar

Ma'lumot yo'q7 kunlar

-130 kunlar

160

Post ko'rishlar

Ma'lumot yo'q24 soatlar

Ma'lumot yo'q48 soatlar

39.51%

Muloqot nisbati

Ma'lumot yo'q24 soatlar

Ma'lumot yo'q48 soatlar

Izohlarni

Ma'lumot yo'q7 kunlar

Ma'lumot yo'q30 kunlar

Ma'lumot yo'q

Kuniga postlar

~ 1

Reaksiyalar

Ma'lumot yo'q

Izohlari

~ 3

Qaytarishlar

Kanalning o'sishi
Post qamrovi
ER - jalb qilish nisbati

Ma'lumot yuklanmoqda...

Если вы начинаете интересоваться такой сферой как Quant, стоит обратить внимание на блог-пост с обзором фундаментальных научных статей из этой области

Hammasini ko'rsatish...

[Исследование stackoverflow](https://stackoverflow.co/labs/developer-sentiment-ai-ml/) по AI/ML. Что интересного: - Профессиональные разработчики это неоднородная группа за счёт большого спектра технологий и областей применения. - AI/ML активно применяется практически во всех сферах разработки от дизайна и системного администрирования до научных исследований. - Восприятие AI технологий исключительно положительное. - Начинающие разработчики больше доверяют точности моделей чем профессионалы (оно и понятно).

Hammasini ko'rsatish...

Developer sentiment around AI/ML - Stack Overflow

This year we used our Developer Survey to ask 90,000 developers & technologists how they feel about AI/ML. We go deep into the data to understand the nuances in sentiment and use.

👍 1

А у нас тут новый плейлист по ML от MIT с названием “Введение в DL”. Всего то 63 видео. https://www.youtube.com/playlist?list=PLtBw6njQRU-rwp5__7C0oIVt26ZgjG9NI

Hammasini ko'rsatish...

RecSys относительно редкий экземпляр в ML задачах. Информацию о реально работающих системах в продакшне приходится собирать по крупицам. Но есть добрые люди, которые делают обзор того, что есть. Со ссылками на оригинальные работы естественно. https://aman.ai/recsys/papers/

Hammasini ko'rsatish...

Aman's AI Journal • Recommendation Systems • Research Papers

Aman's AI Journal | Course notes and learning material for Artificial Intelligence and Deep Learning Stanford classes.

Интересное исследование на тему влияния сгенерированного контента современных моделей, в частности LLM, на качество обучающей выборки. Проблема возникает натурально: генеративные модели оставляют большой след в Интернете. И если с картинками можно развивать инициативы по маркировке экземпляров которые были сгенерированы моделями, то с текстом такое не работает. Возникает вопрос: насколько сгенерированный контент влияет на качество моделей если он используется при обучении. Ответ авторов не утешительный – качество необратимо страдает. Для доказательства этого факта исследователи проводят статистический эксперимент с нормальными распределениями, последовательно сэмплируя выходные данные предыдущей модели для формирования обучающей выборки следующей модели. На простых примерах это приводит к существенному искажению исходного распределения. При этом, после большого количества итераций, итоговое распределение сходится чуть ли не к константным значениям с минимальной дисперсией. Авторы не ограничиваются игрушечными математическими примерами, проверяют гипотезу на более сложных генеративных моделях и приходят к аналогичным выводам. Может быть, поэтому OpenAI использует для обучения выборки, собранные до 2021 года? Вопрос открытый, но проблема очевидна. https://arxiv.org/abs/2305.17493

Hammasini ko'rsatish...

Майский доклад Андрея Карпатого по LLM. Какие то подробности реализации GPT4 вы не увидите, но посмотреть на индустрию сверху точно можно https://www.youtube.com/watch?v=bZQun8Y4L2A&list=PLAqhIrjkxbuWI23v9cThsA9GvCAUhRvKZ&index=8

Hammasini ko'rsatish...

State of GPT | BRK216HFS

Learn about the training pipeline of GPT assistants like ChatGPT, from tokenization to pretraining, supervised finetuning, and Reinforcement Learning from Human Feedback (RLHF). Dive deeper into practical techniques and mental models for the effective use of these models, including prompting strategies, finetuning, the rapidly growing ecosystem of tools, and their future extensions. *Speakers:* * Andrej Karpathy *Session Information:* This video is one of many sessions delivered for the Microsoft Build 2023 event. View the full session schedule and learn more about Microsoft Build at

https://build.microsoft.com

BRK216HFS | English (US) | AI #MSBuild

Уже не новая, но не теряющая актуальность заметка Андрея Карпатого о том, что изменилось в DNN за 33 года. Кратко: принципиально ничего. А вот инженерные штуки шагнули значительно https://karpathy.github.io/2022/03/14/lecun1989/

Hammasini ko'rsatish...

Deep Neural Nets: 33 years ago and 33 years from now

Musings of a Computer Scientist.

https://youtu.be/0P8HjTimrpA

Hammasini ko'rsatish...

Распределения без памяти / memorylessness property

Экспоненциальное и геометрическое распределения обладают уникальным свойством "отсутствия памяти". Смотрим что это значит на деле и как можно интерпретировать на практике. к.ф.-м.н. Андрей Степнов

OpenAI становится скучной продуктовой компнаией. Вот вам новая модель, вот API, вот технчиеский отчёт, но то что там у модели внутри мы вам не скажем. https://www.youtube.com/watch?v=2zW33LfffPc

Hammasini ko'rsatish...

GPT-4 is here! What we know so far (Full Analysis)

#gpt4 #chatgpt #openai References:

https://openai.com/product/gpt-4

https://openai.com/research/gpt-4

https://cdn.openai.com/papers/gpt-4.pdf

Links: Homepage:

https://ykilcher.com

Merch:

https://ykilcher.com/merch

YouTube:

https://www.youtube.com/c/yannickilcher

Twitter:

https://twitter.com/ykilcher

Discord:

https://ykilcher.com/discord

LinkedIn:

https://www.linkedin.com/in/ykilcher

If you want to support me, the best thing to do is to share out the content :) If you want to support me financially (completely optional and voluntary, but a lot of people have asked for this): SubscribeStar:

https://www.subscribestar.com/yannickilcher

Patreon:

https://www.patreon.com/yannickilcher

Bitcoin (BTC): bc1q49lsw3q325tr58ygf8sudx2dqfguclvngvy2cq Ethereum (ETH): 0x7ad3513E3B8f66799f507Aa7874b1B0eBC7F85e2 Litecoin (LTC): LQW2TRyKYetVC8WjFkhpPhtpbDM4Vw7r9m Monero (XMR): 4ACL8AGrEo5hAir8A9CeVrW8pEauWvnp1WnSDZxW7tziCDLhZAGsgzhRQABDnFy8yuM9fWJDviJPHKRjV4FWt19CJZN9D4n

Вдруг вы задумались что посмотреть на выходных? Вот вам шесть последовательных видосов про асинхронн в python. Надо сказать, что видео достаточно глубокие, несмотря на то, что это позиционируется как начальный уровень. Хорошо подана история развития async и не только в python. Становится понятно как это всё завязано на возможности ОС. В общем, восполнить пробелы может каждый https://www.youtube.com/playlist?list=PLhNSoGM2ik6SIkVGXWBwerucXjgP1rHmB

Hammasini ko'rsatish...

import asyncio: Learn Python's AsyncIO - YouTube