Continuous Learning_Startup & Investment
Kanalga Telegramโda oโtish
We journey together through the captivating realms of entrepreneurship, investment, life, and technology. This is my chronicle of exploration, where I capture and share the lessons that shape our world. Join us and let's never stop learning!
Ko'proq ko'rsatish2 291
Obunachilar
-324 soatlar
-167 kunlar
-4530 kunlar
Postlar arxiv
ElevenLabs now had over 2M registered users and is growing fast. It took half the time to to get the second million of users than the first. Users cumulatively uploaded over 10 years of audio content. Initially geared towards creators and publishers, ElevenLabs is now adapting to a large range of use-cases from AI agents, companion, entertainment, and gaming.
Uizard, a product design company powered by AI tools, said it recorded $3.2M ARR up to July โ23, which is 13x YoY. The company had crossed $1M ARR in April, and went from $1M to $3M in 3 months.
(Hiring - MosaicML/Databricks GenAI Inference)
1/ Foundational Models (FMs) will change the way Human-Software, Software-Software, Human-Human interactions work.
2/ Open Source Software (OSS) (models and tools) is going to be critical component for truly democratizing adoption of FMs in the Enterprises.
3/ OSS models and tools are useful in Enterprises, only when there are enterprise grade software (secure, reliable, scalable, performant and well integrated with ecosystem) suite offerings that enable adoption of OSS.
We at MosaicML (DataBricks) are working towards building the enterprise ready software ecosystem (FMs, model training, fine-tuning, serving products, and more).
My team (MosaicML/DataBricks foundational model serving) is hiring. If you are passionate about innovating model serving (inference) software stack - hardware optimization, model optimization, model server, scaling serving infrastructure with Kubernetes, this would be a fantastic opportunity to join our ambitious, innovative, fast moving team at MosaicML (DataBricks).
Why I think you will be excited to join us?
1/ We believe in the power of OSS. We believe enterprise grade software ecosystem is critical for the success of OSS in GenAI. We are looking forward you joining our hands in this mission.
2/ We donโt just build infrastructure. We are neck deep in the core fundamentals - our teams at MosaicML builds MPT model (Mosaic Pre-Trained Models). Our MPT model, Composer Library are all open source too!
3/ DataBricks Datal Lake (overall data infrastructure) will enable us to deliver the power and value of GenAI to Enterprises, where Enterprises are today with their data.
4/ Broadly, model training (pre-training, fine-tuning) and model serving are two pillars of GenAI. As GenAI will continue to have massive adoption across products, you will be developing state-of-the-art (SOTA) technology and expertise for model serving, making you as a critical person in the field.
5/ You will be working with researchers and engineers at Mosaic, as well as collaborate with OSS community, building SOTA techniques in the space;
6/ As one of the founding engineer in the team, you will experience and play critical role in idea to scale growth of team/culture/product/strategy/technology.
Some of the problems we are working are:
1/ Which accelerator to use for a given model? Can we abstract away this from the user?
2/ How to efficiently serve multiple models?
3/ How to efficiently serve Mixture of Experts(MoE) models, Adapter based fine-tuned models - fast, cheap and easy.
4/ Improve hardware utilization - continuous batching, optimized kernels etc.
Server - vLLM, TRT-LLM optimizations
5/ How to serve vision foundational models (ex: stable diffusion) efficiently?
6/ Scaling K8s infrastructure - security, scalability and cost efficiency
And many moreโฆ
NAVER CLOUD Hyperscale AI Efficiency ํ (๊ตฌ Efficient AI) ํ์ ๋ค์ด๋ฒ์ AI ์๋น์ค์ ๋น์ฉ ์ต์ ํ ๋ฏธ์
์ ๋ด๋นํ๊ณ ์์ต๋๋ค. ์ด๋ AI ๋ชจ๋ธ๊ณผ Computing System์ ๋ํ ์ข
ํฉ์ ์ธ ์ดํด๋ฅผ ๋ฐํ์ผ๋ก ์ด๋ค์ง๋๋ค. AI ๋ชจ๋ธ์ ์ ๊ทน ๊ฒฝ๋ํํ์ฌ ํ์ฌ CPU/GPU์ ๋ง๊ฒ ์ต์ ํํ๊ธฐ๋ ํ๊ณ , ์ด๋ฅผ ์ํ ์๋ก์ด ์์คํ
์ด๋ ํ๋์จ์ด๋ฅผ ์ ์ํ๊ธฐ๋ ํฉ๋๋ค. ์ฐ๊ตฌ์ ์ผ๋ก๋ CVPR/EMNLP/ICLR/ICML/Neurips/SC/DAC/MLSys/MICRO ๋ฑ AI๋ถํฐ ํ๋์จ์ด์ ์ด๋ฅด๊ธฐ๊น์ง ๋ค์ํ ํํ์ ๋
ผ๋ฌธ ์ค์ ์ ๋ด๊ณ ์์ผ๋ฉฐ, ๋์์ CLOVA Note, HyperCLOVA, CLOVA-X ๋ฑ์ ๋ค์ด๋ฒ ์๋น์ค์ ๊ฒฝ๋ํ/์ต์ ํ์๋ ๊ธฐ์ฌํ๊ณ ์์ต๋๋ค.
์ต๊ทผ์๋ ์ผ์ฑ์ ์์ ํจ๊ป Large Langauge Model (LLM) Inference๋ฅผ ์ํ ์๋ก์ด ๋ฐ๋์ฒด ์๋ฃจ์
์ ๊ฐ๋ฐํ๊ธฐ ์ํด ํ์
ํ๊ณ ์์ต๋๋ค. ์ด ๊ณผ์ ์์๋ ๋จ์ํ Workload๋ ์์ถ ์๊ณ ๋ฆฌ์ฆ์ ์ ๊ณตํ๊ณ ํ๋์จ์ด ๊ตฌํ ๊ฒฐ๊ณผ๋ฅผ ๋ฐ์์ค๋ ๊ฒ์ด ์๋๋ผ ๋ชจ๋ธ๊ณผ ํ๋์จ์ด์ ๋ํ ๊น์ ์ดํด๋ฅผ ๋ฐํ์ผ๋ก ์ ๊ทน์ ์ผ๋ก ํ๋์จ์ด ์ค๊ณ์ ๊ฐ์
ํ์ฌ AI ์๋น์ค ์๋ฃจ์
์ ์๋ก์ด ์ฅ์ ์ด๊ธฐ ์ํด ๋
ธ๋ ฅํ๊ณ ์์ต๋๋ค. ์ฝ 1๋
๊ฐ์ ํ์
์ ๊ฒฐ๊ณผ๋ก FPGA๋ก LLM end-to-end ๊ฒฐ๊ณผ ๊ฒ์ฆ์ ๋ง์ณค์ผ๋ฉฐ, ๊ธฐ์กด์ GPU ์์คํ
๊ณผ ๋์ผํ ์ฑ๋ฅ์ ๊ฐ์ง๋ฉด์๋ 8๋ฐฐ ์ด์ ์ ๋ ฅํจ์จ์ ๋ฌ์ฑํ ์๋ฃจ์
์ ๊ณง ์์ฐํ ๊ณํ์
๋๋ค. ์ด๋ฅผ ์ํ AI ๋ชจ๋ธ๋ถํฐ S/W, H/W๊น์ง ๋ค์ํ ๋ถ์ผ์ ์ธ์ฌ๊ฐ ํ์ํ๋ฉฐ, ์ ์
๋ถํฐ ๋ฆฌ๋๊ธ์ ์ด๋ฅด๊ธฐ๊น์ง ๋ค์ํ ํฌ์ง์
์ ์ธ์ฌ๋ฅผ ์ฐพ๊ณ ์์ต๋๋ค (๋ด๋
2์ ์กธ์
์์ ์ด์ ๋ถ๋ค์ ๋ง์ ๊ด์ฌ ๋ถํ๋๋ฆฝ๋๋ค.)
<๋ชจ์ง ๋ถ์ผ>
1) AI ๋ชจ๋ธ ๊ฒฝ๋ํ ๊ธฐ๋ฒ ์ฐ๊ตฌ/๊ฐ๋ฐ
ex. FlexRound (ICML 2023, https://arxiv.org/abs/2306.00317), PEQA (Neurips 2023, https://arxiv.org/abs/2305.14152)
2) Training/Inference Framework S/W ์ฐ๊ตฌ/๊ฐ๋ฐ/์ต์ ํ
ex. LUT-GEMM (https://arxiv.org/abs/2206.09557)
3) ์๋ก์ด AI ๋ฐ๋์ฒด๋ฅผ ์ํ ํ๋์จ์ด ์ฐ๊ตฌ/๊ฐ๋ฐ
ex. Unstructured Pruning (ICLR 2022, https://openreview.net/forum?id=Vs5NK44aP9P), Weight-only Quant. (ICLR 2023, https://openreview.net/forum?id=z92lBy1ehjI)
1. ResNet๊ฐ์ ํ์ค ๋ชจ๋ธ, ImageNet๊ฐ์ ํ์ค ๋ฐ์ดํฐ์
์ด ๋ฐ๋ก ์์ต๋๋ค.
LLM ์ด์ ์๋ ResNet ๊ฐ์ ์ฌ์ค์์ ํ์ค ๋ชจ๋ธ๋ค์ด ๋ค์ ์์๊ธฐ ๋๋ฌธ์ ๊ธฐ์ ๊ฐ๋ฐ์ ๋ํ ๋ชฉํ๊ฐ ์๋์ ์ผ๋ก ๋ช
ํํ ์ ์์๊ณ , ๊ธฐ์กด AI ๋ฐ๋์ฒด ๊ธฐ์ ๋ค๊ณผ์ ๋น๊ต๋ ์ฉ์ดํ ํธ์ด์๋ค๊ณ ํ ์ ์์ต๋๋ค. ๊ทธ๋ฌ๋ LLM์๋๊ฐ ์ค๋ฉด LLM ๋ชจ๋ธ ๊ณต๊ฐ๋ถํฐ ์งํ์ด ๋๋ถ๋ถ ์๋์ง๋ง dataset์ ๋๋์ฑ ๊ณต๊ฐ๋ฅผ ํ์ง ์์ต๋๋ค. ๋คํ์ค๋ฝ๊ฒ๋ ๋ผ๋ง์ ๊ฐ์ ๊ต์ฅํ ๊ณ ํ์ง์ ์คํ์์ค ๋ชจ๋ธ์ด ์๊ธฐ๋ ํ์ง๋ง ์ด ๋ํ tuning์ ์ด๋ป๊ฒ ํด์ผํ ์ง, ํ๊ฐ๋ ์ด๋ค ์์ผ๋ก ์งํํด์ผํ๋ ์ง, ์ค์ ์๋น์ค์์ ์ ์ํด์ผํ๋ LLM ์๋น์ค ๊ด๋ จ configuration์ ๋ฌด์์ผ๋ก ํ๋ฉด ์ข์์ง ๋ฑ๋ฑ์ ๋ํด ๋ฑํ ์ฃผ์ด์ง ๋ต์ด ์๊ณ ํ์ฌ ํน์ ํ๊ต๋ง๋ค ์ ๊ฐ๊ฐ์ธ ๊ฒฝ์ฐ๊ฐ ๋ง์ต๋๋ค. ์ฃผ์ด์ง โ๋ตโ์ด ์๊ธฐ ๋๋ฌธ์ ๋ฌธ์ ์ ์๋ถํฐ ์ค์ค๋ก ํด๋๊ฐ์ผํ๋ ๊ฒฝ์ฐ๊ฐ ๋ง์์ก๊ณ ์ด์ ๋ฐ๋ผ ์ด๋ค ๊ฐ๋ฐ ๋ชฉํ๋ฅผ ๊ฐ์ ธ์ผํ ์ง์ ๋ํ ์ด๋ ค์๋ถํฐ AI ๋ฐ๋์ฒด ํ์ฌ๋ค์ด ๊ฐ์ง๊ณ ์์ต๋๋ค.
์ต๊ทผ AI ๋ฐ๋์ฒด ํ์ฌ๋ค์ด ๋ณด์ฌ์ฃผ๋ LLM ๋ฐ๋ชจ ์๋๋ฆฌ์ค๋ค์ ๋ณด๋ฉด, ์ค์ ์ฌ์ฉ ์๋๋ฆฌ์ค์ ๋๋ฌด๋ ๊ฑฐ๋ฆฌ๊ฐ ๋จผ ๊ฒฝ์ฐ๋ฅผ โ๋งค์ฐ ์์ฃผโ ๋ณด๊ธฐ๋ ํฉ๋๋ค. Sequence length๋ ์ผ๋ง๋ก ํ๋๊ฒ์ด ์ข์์ง, batch size๋ latency ๊ธฐ์ค์ ๋ฌด์์ผ๋ก ํด์ผํ๋์ง, ์๋น์ค framework์ ๋ฌด์์ baseline์ผ๋ก ๊ฐ์ ธ๊ฐ ์ง ๋ฑ๋ฑ์ ๋ํด ์์ง ๋ชปํ๋ฉด AI ๋ฐ๋์ฒด๋ฅผ ์ ๋ง๋ค๋๋ผ๋ ํ๊ฐ ์์ฒด์์ ๋ถ์ด์ต์ ๋ฐ๋ ๊ฒฝ์ฐ๊ฐ ๋ง์ต๋๋ค. ๋ฐ๋ผ์ AI ๋ฐ๋์ฒด ํ์ฌ๋ค์ ์ด์ โ๋ฐ๋์โ LLM ์๋น์ค ํ์ฌ๋ค์ ๊ฐ์ด๋๋ฅผ ๋ฐ์์ ์ฐ๊ตฌ/๊ฐ๋ฐ์ ์งํํด์ผํ๋ ์ํฉ์ด๋ผ๊ณ ๋ณผ ์ ์์ต๋๋ค.
โ> MLPerf๊ฐ์ ํ์คํ๋ ํ
์คํธ๋ ์ด์ ์ ๋ง ๋ฒ๋ ค์ผํ ์ ๋ฌผ์ด ๋์์ต๋๋ค. ์์ฑ AI ์๋์ ์ ํฉํ์ง ์์ ๋ถ๋ถ๋ค๋ ๋ง์ ๋ฟ๋๋ฌ MLPerf์์ ์ ์ํ๋ configuration๊ณผ ๋ฐ์ดํฐ์
์ ์ ์ ๋ ์ค์ ์์ฅ์ํฉ๊ณผ ๋ง์ง ์์ ๋ฟ๋๋ฌ, LLM ์๋น์ค ํ์ฌ๋ค์ด ๋ชจ๋ธ๋ ๊ณต๊ฐํ์ง ์๋ ์์ ์ MLPerf์ ์๊ตฌ์ฌํญ์ ์ ๋ฌํ ๋ฆฌ๋ ๋๋์ฑ ์๋ค๊ณ ๋ด์ผํ์ง ์์๊น ์ถ๋ค์..
2. ์๋น์ค๊ด๋ จ SW๊ฐ ๋๋จํ ๋ณต์กํด์ก์ต๋๋ค.
nvidia์ TensorRT-LLM (TRT-LLM)์ ๋ก๋๋งต์ ๋ณด๋ฉด ํ๋ฌ์๋ ์ ๋ง ์ด๋ง์ด๋งํ ์
๋ฐ์ดํธ๋ฅผ ์งํํ๊ฑฐ๋ ์งํํ ์์ ์ด๋ผ๋ ๊ฒ์ ๋ณผ ์ ์์ต๋๋ค. LLM์ ์๋น์ค ํํ๊ฐ ๋งค์ฐ ๋ค์ํ๊ธฐ๋ ํ๊ณ ๋ณต์กํ๋ฉด์ ์ต์ ํ/๊ฒฝ๋ํ ๋ฑ๋ฑ์์ ๊ธ๊ฒฉํ ๋ณํ๋ฅผ ๊ฒช๊ณ ์๊ธฐ ๋๋ฌธ์ธ๋ฐ์, ์ด ํ๋ฆ์ ๋ชจ๋ ๋ฐ๋ผ์ก์ง ์์ผ๋ฉด AI ๋ฐ๋์ฒด๊ฐ ์๋ฌด๋ฆฌ ์ข๋๋ผ๋ ์ฑ๋ฅ ์์ฒด์์ ๋๋ฌด๋ ํฐ ๊ฒฉ์ฐจ๊ฐ ๋ฐ์ํ ์ ๋ฐ์ ์๋ ํ๊ฒฝ์
๋๋ค. ๋ฐ๋์ฒด ํ๋์จ์ด์์ 30% ์ฑ๋ฅ ํฅ์์ ์ด๋ง์ด๋งํ ์ผ์ด์ง๋ง LLM ์๋น์ค ์ต์ ํ๋ 2๋ฐฐ 3๋ฐฐ ์ฑ๋ฅํฅ์์ด ์์ฃผ ์ผ์ด๋ ์ ์๋ ํ๊ฒฝ์ด๊ธฐ ๋๋ฌธ์
๋๋ค. ๊ทธ๋ฐ๋ฐ LLM ์ต์ ํ๋ trade-off๋ฅผ ๊ธฐ๋ณธ์ผ๋ก ํด์ผํ๋ ๊ฒฝ์ฐ๊ฐ ๋ง์๋ฐ, ์ด๋ค ๋ถ๋ถ์ ์ค์์ฑ์ ํฌ์ํ๋๋ผ๋ ์ด๋ค ๋ถ๋ถ๋งํผ์ ๊ฐ์ด์น๋ ์ค์์ฑ์ ์ฌ๋ ค์ผํ๋ ์ง์ ๋ํด ์๊ธฐ๊ฐ ๋งค์ฐ ์ด๋ ต์ต๋๋ค. ์ด ๋ถ๋ถ๋ค ๋๋ฌธ์ LLM ์๋น์ค ํ์ฌ๋ค๊ณผ ๊ต์ฅํ ๋ง์ ์์ฌ์ํต์ ํ๋ nvidia์ ์ฐจ๋ณ์ฑ์ LLM ์๋์ ์์ด์ ๋๋์ฑ ๋ถ๊ฐ๋๊ณ ์๋ ๊ฒ ๊ฐ์ต๋๋ค. AI ๋ฐ๋์ฒด ํ์ฌ๋ค์ ํ๊ฐํ ๋, ๋ฐ๋์ฒด ๊ธฐ์ ๋ณด๋ค๋ LLM ํ์ฌ๋ค๊ณผ ์ผ๋ง๋ ๋ง์ interaction์ ํ๋ ์ง์ ๋ํ ํ๊ฐ๋ฅผ ๋ ๋์ด ์ค ์ ๋ฐ์ ์๋ ์๋๋ผ๊ณ ํ ์ ์์ต๋๋ค.
3. ํฐ ๊ฒ์ด ์๋ฆ๋ค์ด LLM ์๋
์์ง๊น์ง๋ ๊ฐ๋ ๋
ผ๋ฌธ ์ฌ์ฌ๋ฅผ ํ๋ค๋ณด๋ฉด ResNet ๊ณ์ด์ด๋ ์ฌ์ง์ด CIFAR-10๊ฐ์ ๋ชจ๋ธ๋ ์ฌ์ฌ๋ฅผ ํ๋๋ฐ, nvidia๊ฐ ์์ด๋ฆฌ ์์ฅ์ ํญ๋ฑํ๊ณ ํนํ H100์ด๋ ๋ด๋
๋ B100์ ๊ด์ฌ์ด ๋ง์๊น์? ์์ฅ์ด ํ์๋ก ํ๋ ๋ชจ๋ธ ์ฌ์ด์ฆ๊ฐ ์ ์ ๋ ์ด๋ง์ด๋งํ๊ธฐ ๋๋ฌธ์
๋๋ค. ๋ฌผ๋ก ์๋น์ค ๋น์ฉ์ธก๋ฉด๋๋ฌธ์ ๋ชจ๋ธ์ด ๊ผญ ํฐ ๊ฒ์ด ์ข๋ค๊ณ ํ ์๋ ์๊ฒ ์ผ๋ ๋ชจ๋ธ์ด ์ปค์ง์๋ก ๋ฐ์ํ๋ ๋ฌธ์ ์ ๋ค์ ๋ํ insight๊ฐ ์๋ค๋ฉด ๊ณค๋ํฉ๋๋ค. ์๋ฅผ ๋ค์ด precision์ด๋ ๊ฒฝ๋ํ/์ต์ ํ ์๊ณ ๋ฆฌ์ฆ์ ์ ํํจ์ ์์ด์, ๊ทธ ์๊ณ ๋ฆฌ์ฆ์ด ์์ ๋ชจ๋ธ์ผ ๋๋ง ๊ฐ๋ฅํ ๊ฒ์ธ์ง ํน์ ๋ชจ๋ธ์ด ์ปค์ง์๋ก ์คํ๋ ค ๊ทธ ๊ฐ์ด์น๊ฐ ๋ ์ปค์ง๋ ๊ฒ์ธ์ง (์ฅ์ ์ด ๋ ๋ถ๊ฐ๋๋ ๊ฒ์ธ์ง) ๋ฐ๋์ ํ์ธํ๊ณ ๋์ด๊ฐ์ผํฉ๋๋ค. ์ฆ, ์ต์ ํ/๊ฒฝ๋ํ์ ์์ด์๋ scaling law๊ฐ ์ ์ฉ๋๋์ง์ ๋ํ insight๋ ๋๋์ฑ ํ์ํฉ๋๋ค. ์์ ์ ๋งค์ฐ ๊ฐ๊ด์ ๋ฐ์๋ ๊ธฐ์ ๋ค์ด ์ด๊ฑฐ๋ AI ์๋๋ก ์ค๋ฉด์ ๋ณ๋ก ์์ฉ์ด ์๊ฑฐ๋ ์์ ํ ๋ง๊ฐ์ง๋ ๊ฒ๋ค์ด ๋น์ผ๋น์ฌ ํฉ๋๋ค. ์ด์ ๋ํ ์ด์ ๋ insight๋ ๋ง์ ํฐ ๋ชจ๋ธ์ ๊ตฌ๋ํ ๋๋ง ์์๋ผ ์ ์๋ค๋ ์ ์ด ๋ ํฐ ์ด๋ ค์์ผ ๊ฒ ๊ฐ๋ค๋ ์๊ฐ์ ํฉ๋๋ค (์๋ฅผ ๋ค๋ฉด ์์ INT8๊ฐ์ ๊ฒฝ๋ํ ๊ธฐ์ ์ด๋ FP8์ ๊ธฐ๋ฐํ ํ์ต์โฆ ๋ชจ๋ธ์ด ์ปค์ง๋ฉดโฆ..) LLM๋ฟ ์๋๋ผ vision๋ vision Transformer์ ํฌ๊ธฐ๊ฐ ๊ฒฐ์ฝ ์์ง ์์ ๋ฟ๋๋ฌ multi-modality์์๋ ๊ฐ์ข
foundation model์ ๋ํ needs๊ฐ ์ปค์ง๋ฉด์ ๋ชจ๋ ๋ถ์ผ์ ์์ด์ ๋ชจ๋ธ์ ํฌ๊ธฐ๋ ์์ผ๋ก ์๋์ ์ผ๋ก ๋ ํค์ฐ๊ณ ์ถ์ดํ๋ ์๊ตฌ๊ฐ ํฐ์ ธ๋์ค๋ ์ํฉ์
๋๋ค.
4. ๋ฐ๋์ฒด ์ ๋/ํํ vs AI ์๊ณ ๋ฆฌ์ฆ ํํ
์ ๊ฐ ๋ฐ๋์ฒด ์
์ข
์ ์ค๋ ๊ทผ๋ฌดํ๋ฉด์ ๊ฐ์ข
IEEE ์ ๋์ด๋ ํํ๋, ์ ๋ง ๊ต๊ณผ์์ฒ๋ผ ์ฝ๊ณ ๋ฐ๋ฅด๊ณ ํ๋ ๊ธฐ์ต์ด ์์ต๋๋ค. ๊ทธ๋ฐ๋ฐโฆ ์ต๊ทผ ํ 6,7๋
๊ฐ IEEE ๋
ผ๋ฌธ์ ๋ณธ์ ์ด ์๋ ์ถ์ ์ ๋๋ก ๋ณผ์ผ์ด ์์๋ค๋ ์๊ฐ์ด ๋ญ๋๋ค. ์ต๊ทผ๋ค์ด์ ๋ฐ๋์ฒด ๊ฐ๋ฐ/์ฐ๊ตฌ๋ฅผ ์์ํ๋ฉด์ ์ผ๋ถ๋ฌ๋ผ๋ ๊ด๋ จ ๋
ผ๋ฌธ์ ๋ณด๊ธดํ์ง๋ง.. ์ฌ์ง์ด ISCA, HPCA ๊ฐ์ ๋
ผ๋ฌธ๋ค์์ AI ๊ด๋ จ ์ฐ๊ตฌ๋ฅผ ๋ณด๋๋ผ๋โฆ ์ ์ด๋ฐ ๊ฐ์ ์ ํ์ง? ์์ฆ AI ์๊ณ ๋ฆฌ์ฆ์ ์ด๋ฐ ์ ๊ทผ ์ํ๋๋ฐ? ์ต๊ทผ ICLR,ICML์์ ๋์จ ํ์ ์ ๋ํด ๋ชจ๋ฅด๋? ๋ฑ๋ฑ์ ๋๋ผ์๊ณผ ์ํ๊น์์ ๋์์ ๊ฐ์ง๊ฒ ๋ฉ๋๋ค. ์ด ๋ถ๋ถ์ด ์ฌ์ค ์ด์ฉ ์ ์๋ค๊ณ ์๊ฐํ๋ ๋ถ๋ถ๋ค๋ ์๋๊ฒ, AI ํนํ LLM ๋ณํ๊ฐ ์๋ ๋น ๋ฅด๋ค๋ณด๋ ์๋์ ์ผ๋ก IEEE์์๋ ์ฝ 2,3๋
์ด์์ ๊ฒฉ์ฐจ๊ฐ ์๋ค๋ ์๊ฐ์ด ์ ์ ๋งค์ฐ ์ฃผ๊ด์ ์ธ ๊ฒฌํด์
๋๋ค. ์ ๋ ๊ทธ๋์ ๊ตณ์ด ๋ฐ์ ธ๋ณด์๋ฉด AI ํ๊ธ์ ๋ช๊ฐ ํํ ๋
ผ๋ฌธ๋ง ๋ณด๋๋ผ๋ ๋๋ค๋ ์๊ฐ์ ์ต๊ทผ ๊ฐ์ง๊ณ ์์ต๋๋ค (์ฌ์ค LLM๋ง ๋ฐ์ง๋ฉด ICML, ICLR, NeurIPS, ๊ทธ๋ฆฌ๊ณ ์ ๋ช
arxiv ๋
ผ๋ฌธ๋ง ๋ด๋ ๋๋ฌด ๋ฐ์๊ธฐ๋ ํ๊ณ ๊ฑฐ๊ธฐ๊น์ง๊ฐ ์ ๊ฐ ๋ฌผ๋ฆฌ์ ์ผ๋ก ์๊ฐ๋ด์ด์ ๋ณผ ์ ์๋ ๋
ผ๋ฌธ ๋ฒ์์ ํ๊ณ๋ผ๊ณ ๋ณด์
๋๋ค. ๋ค์ ๋งํ๋ฉด ์ ๊ฐ ๊ฒ์๋ฌ์ IEEE ๋
ผ๋ฌธ๋ค์ ์๋ณธ๊ฒ์ผ์๋ ^^) ๋ฌผ๋ก HPCA, ISCA, ISSCC ๊ฐ์ ํํ๋ค์ ์ ๋ ํ๊ฐ ์ ํํ๋ ๊ฒ์ ์๋๊ณ , ๋ค๋ง ๊ทธ ํํ๋ค๊น์ง ๊ด์ฌ์ด ๊ฐ์ง ์๊ฒ ๋๋๋ผ ํ๋๊ฒ ์ ๊ฐ ๋ด๋ ์ ๊ธฐํ ์ ์ ์์ฆ ๊ฒฝํ์
๋๋ค (์ฌ์ค ์ผ๋ถ๋ฌ ์ฝ์ด๋ ๋์๋๋ ๋
ผ๋ฌธ์.. ๋ณธ์ ์ด ์์ต๋๋ค.. nvidia๊ฐ ์ด๋ ํํ์ ๋
ผ๋ฌธ์ ๋ด๋์ง๋ฅผ ๋ณด๋ฉด ์์ ์๋ ๋ถ๋ถ๋ค๋ ์๊ณ ์) ์ต๊ทผ์ ์ ํฌ๋ ๋ฐ๋์ฒด ๊ด๋ จ ๋
ผ๋ฌธ๋ ICLR์ ์ ์ถํด์ ์ฑํ๋๊ธฐ๋ ํ๋๋ฐ review ํ์ง์ด ํจ์ฌ ์ข์ ๋ฟ๋๋ฌ, AI ์ฌ๋๋ค์๊ฒ ์ง์ ์ ์ธ ํ๋ณด๋ ๋๊ธฐ ๋๋ฌธ์ ์์ผ๋ก๋ ๊ฐ๋ฅํ๋ค๋ฉด ๋ฅ๋ฌ๋ ํํ๋ค์ ๋ฐ๋์ฒด ์์ด๋์ด๋ค์ ์ถํ ๊ณ์ ํ ๊ฒ ๊ฐ์ต๋๋ค (๋ฌผ๋ก ๋น์ฐํ๊ฒ๋ ISSCC, ISCA ๊ฐ์ ํํ๋ค์๋ ๋
ผ๋ฌธ ๋ผ ์๊ฐ์
๋๋ค)
์ฌ๋ฌ๊ฐ์ง ๊ธธ๊ณ ์ก์ค๋ฌ์ด ์ด์ผ๊ธฐ๋ฅผ ์ผ์ต๋๋ค๋ง, ์ ํน์ AI ๋ฐ๋์ฒด ํ์ฌ๋ค์ด ๋
์ ์ ํ๊ณ ์๊ณ ์๋ง์ ๊ธฐ์กด ๋ฐ๋์ฒด ํ์ฌ๋ค์ด ๊ณ ์ ์ ํ๊ณ ์๋์ง, ๋น
ํ
ํฌ ํ์ฌ๋ค์ด ์ ์ค์ค๋ก LLM ์๋น์ค๋ฅผ ํ๋ฉด์ ์นฉ๊น์ง ๋ง๋ค๋ ค๊ณ ํ๋์ง์ ๋ํ ์ดํด์ ๋์์ด ์กฐ๊ธ์ด๋ผ๋ ๋์์ผ๋ฉด ํฉ๋๋ค.
Named Andromeda Cluster, this system comprises 2,512 H100 GPUs and can train a 65 billion parameter AI model in approximately 10 days, as stated by the venture capitalists. While it may not be the largest model available, it is undoubtedly a significant achievement.
"Individual investors are doing more to support compute-intensive startups than most governments. (Very cool project!)," tweeted Jack Clark, a co-founder of AI startup Anthropic.
Friedman and Gross's actions demonstrate their commitment to assisting AI startups facing GPU shortages and resource limitations. By providing GPU resources through the Andromeda Cluster, they offer a lifeline to startups striving to compete in the AI landscape. This collaborative approach underscores the collective efforts being made to address the challenges encountered by AI startups in acquiring critical hardware resources.
So far this year, 17 nonprofits have announced theyโve received unrestricted donations from Scott through her Yield Giving fund, according to a Chronicle of Philanthropy tally. The gifts total $97 million and range from $1 million to $15 million. Nearly half went to charities focused on early-childhood education and early-childhood development. Scott has now given more than $14.1 billion to at least 1,621 charities since 2020.
https://fortune.com/2023/08/21/mackenzie-scott-one-of-worlds-richest-women-has-given-away-14-billion-nearly-half-her-fortune-in-just-3-years/?utm_source=facebook.com&utm_campaign=fortunemagazine&xid=soc_socialflow_facebook_FORTUNE&utm_medium=social&fbclid=IwAR1ebMqXrcbIwyWMYbBmFStnfcM8XI328ZHI2oIodXLsOAsCXkBsQuMx4s4_aem_AcAftcn02cTeMTX2jjSjoWv1HrWtysmYLclCxigALSksHWQM_kKhQx0tw485CAG6ZCY
์ธ๊ณต์ง๋ฅ ์ ๋ฌธ๊ฐ Simon Prince ๊ต์๋์ด MIT ์ถํ๋ถ์์ 12์ ์ถ๊ฐ ์์ ์ธ โ๋ฅ๋ฌ๋ ์ดํดํ๊ธฐโ ์ฑ
์ ๋ฌธ์ ์จ๋ผ์ธ์ ๊ณต๊ฐํ์
จ์ด์.
๋ฅ๋ฌ๋์ ์๊ณ ์ถ์ ๋ถ์ ์ผ๋ฅธ ๋ฐ์๊ฐ์ธ์!
udlbook.github.io/udlbook/
โUnderstanding Deep Learningโ
by Simon Prince
To be published by MIT Press (5 Dec 2023)
ํ๊ตญ ์๊ฐ์ผ๋ก ํ์์ผ ์๋ฒฝ 2์ OpenAI ์ปจํผ๋ฐ์ค์์, GPT Magic Creator๋ผ๋ ๊ฒ์ ๋ฐํํ๋ค๊ณ ํฉ๋๋ค.
ํน์ ํ ํ๋ฅด์๋๋ก ํน์ ํ ํ์คํฌ๋ฅผ ์ํํ๋ ์์ด์ ํธ๋ฅผ ๋ค์ํ ํ๋ฌ๊ทธ์ธ์ ์์ด์ ์ฝ๊ฒ ๋ง๋ค ์ ์๋๋ก ํ๊ณ , ๊ทธ๊ฒ์ ๋ค๋ฅธ ์ฌ๋์ด ์ฐ๊ฑฐ๋ ํ๋งค ํ ์ ์๋๋ก ํ๋ ํ๋ซํผ์ผ ๊ฒ์ด๋ผ๊ณ ํฉ๋๋ค.
๋น์ฐํ ์๊ฒฌ๋์๋ ๊ฒ์ด๊ธด ํฉ๋๋ค๋ง, ์ญ์๋ ์๋นํ ๋น ๋ฅด๊ฒ ๋์จ๋ค๋ ๊ฒ์ด ๋๋์ต๋๋ค. ์ด ๋ฃจ๋จธ๊ฐ ๋ง๋ค๋ฉด ๋ค์ ํ ๋ฒ ์ง๊ฐ๋ณ๋์ด ์์ง ์์๊น ์ถ๋ค์.
๋๋ถ์ด ๊ตฌ๊ธ ๋๋ผ์ด๋ธ๋ MS 365 ๋ฑ์ ๋ฐ์ดํฐ ์ปค๋ฅํฐ๋ ์ง์ํ๋ค๊ณ ํ๋๋ฐ์. ์ด ์ญ์ ๊ต์ฅํ ํฐ ์ํฉํธ๋ฅผ ๋ง๋ค ๊ฒ์ผ๋ก ์๊ฐ๋ฉ๋๋ค.
๊ทธ๋ฆฌ๊ณ ๋ถ๋ช
์ด๋ณด๋ค ๋ ์ฌ๋ฏธ๋ ๋ฐํ๋ ์์ง ์์๊น ์ถ์๋ฐ์. ๊ฐ๋ฐ์ ํ์ฌ๊ฐ ๊ธฐ๋๋๋ ๊ฑด ์ ๋ง ์ค๋๋ง์ธ ๊ฒ ๊ฐ๋ค์. ๐๐ฟ๐ฅค
์ฐฐ๋ฆฌ ๋ฉ๊ฑฐ๊ฐ ํ์บ์คํธ์ ํ ์ธํฐ๋ทฐ๊ฐ ์ฌ๋ผ์์ต๋๋ค. ํ์บ์คํธ์ ์ธํฐ๋ทฐํ ๊ฑด ์ฒ์์ด๋ผ๊ณ ํ๋๋ฐ์. BYD ์ด์ผ๊ธฐ, ์ผ๋ณธ์์ฌ ํฌ์ ์ด์ , ์ง๊ธ ๋ค์ ์์ํ๋ฉด ๋ฒํฌ์
๊ฐ์ ๊ธฐ์
์ ๋ค์ ๋ง๋ค ์ ์์๊น ๋ฑ ์ฌ๋ฐ๋ ๋ด์ฉ๋ค์ด ๋ง์ต๋๋ค.
๊ด์ฌ์์ผ์ ๋ถ๋ค์ ํ๋ฒ ๋ค์ด๋ณด์๊ธธ ๊ถํฉ๋๋ค(์ฃผ์๋ ๋๊ธ์, ์คํฌ๋ฆฝํธ๋ ์์ต๋๋ค)
_____________________
์ฐฐ๋ฆฌ ๋ฉ๊ฑฐ์ ๊ณ ๋ฐฑ... "์ 2์ ๋ฒํฌ์
? ์ด๋ ต๋ค"[๊น์ฌํ์ ํฌ์๋๊ฐ ์ฝ๊ธฐ]
[ํธ์ง์์ฃผ] ๋๊ฐ๋ค์ ํฌ์๋ฅผ ํตํด ์ฌ๋ฐ๋ฅธ ํฌ์๋ฐฉ๋ฒ์ ํ์ํด ๋ด
๋๋ค.
์ต๋ง์ฅ์ ํฌ์์์ด์ '๋ฒํ์ ์ค๋ฅธํ'๋ก ๋ถ๋ฆฌ๋ ์ฐฐ๋ฆฌ ๋ฉ๊ฑฐ(99) ๋ฒํฌ์
ํด์์จ์ด ๋ถํ์ฅ์ ์ ์ธ๊ณ ํฌ์์๋ค์ด ์ฃผ๋ชฉํ๋ ์ธ๋ฌผ์
๋๋ค. ๋ด๋
1์ 1์ผ์ด๋ฉด ๋ง 100์ธ๊ฐ ๋๋ ๋ฉ๊ฑฐ์ ์ธ์ ์งํ์ ๊ด์ฌ์ ๊ธฐ์ธ์ด๋ ๋ฏธ๊ตญ์ธ๋ ๋ง์ต๋๋ค.
์ฌ์ฐ์ด 25์ต๋ฌ๋ฌ(3์กฐ3500์ต์)์ ๋ฌํ๋ ์ฐฐ๋ฆฌ ๋ฉ๊ฑฐ๋ ๋ง์ ์์์ด๋ ๋๋ํฉ๋๋ค. ์ง๋ 10์ ์ด์๋ ์บ๋ฆฌํฌ๋์์ฃผ ์ฐ ๋ง๋ฆฌ๋
ธ์ ์๋ ํํ
ํด ๋ฏธ์ ๊ด์ ๋ฒํฌ์
ํด์์จ์ด Aํด๋์ค 77์ฃผ๋ฅผ ๊ธฐ๋ถํ์ต๋๋ค. ์ฃผ์ ์๋ ๋ช ์ฃผ ์๋์ง๋ง, ๊ธ์ก์ 4000๋ง๋ฌ๋ฌ(536์ต์)๊ฐ ๋์ต๋๋ค.
์ง๋ 10์ 29์ผ ๋ฏธ๊ตญ ํ์บ์คํธ ์ด์ฝฐ์ด์ด๋(Acquired)๊ฐ ๋ฉ๊ฑฐ์ ๋ก์ค์ค์ ค๋ ์ค ์ํ์์ ์งํํ 1์๊ฐ ๋ถ๋์ ์ธํฐ๋ทฐ๋ฅผ ๊ณต๊ฐํ์ต๋๋ค. ๋ฉ๊ฑฐ๋ ์์ดจํธ BYD ์ค๋ฆฝ์์ ์ผ๋ก ๋จธ์คํฌ ํ
์ฌ๋ผ ์ค๋ฆฝ์๋ฅผ ๋น๊ตํ๊ณ , ๋ฒํ์ ์ผ๋ณธ ์์ฌ ํฌ์ ์ด์ ๋ฅผ ์ค๋ช
ํ๋ ๋ฑ ๋ฒํฌ์
ํด์์จ์ด ํฌ์์ ๋นํ์ธ๋ ์คํ ๋ฆฌ๋ ๊ณต๊ฐํ์ต๋๋ค.
๋ง์ผ ์ง๊ธ ๋ฒํ๊ณผ ๋ค์ ์์ํ๊ณ ๋ ๋ค 30์ธ๋ผ๋ฉด ์ค๋๋ ์ ๋ฒํฌ์
ํด์์จ์ด ๊ฐ์ ๊ธฐ์
์ ๋ค์ ๋ง๋ค ์ ์๋๋๋ ์ง๋ฌธ์๋ "์ด๋ ค์ธ ๊ฒ ๊ฐ๋ค"๋ ์์งํ ๋๋ต์ ๋ด๋๊ธฐ๋ ํ์ต๋๋ค. ๋ฉ๊ฑฐ์ ์ด์ผ๊ธฐ๋ฅผ ์ดํด๋ณด๊ฒ ์ต๋๋ค.
1. ์ค๊ตญ ์ ๊ธฐ์ฐจ ์
์ฒด BYD๋ ๊ธฐ์
์ด๋ ์์ฃผ ์ธ๊ธ๋ ๊ธฐ์
์ BYD, ์ฝ์คํธ์ฝ, ์๋ฅด๋ฉ์ค์
๋๋ค. ์ค๊ตญ ์ ๊ธฐ์ฐจ 1์์
์ฒด BYD๋ ํ
์ฌ๋ผ๋ฅผ ์ ์น๊ณ ์ธ๊ณ ์ ๊ธฐ์ฐจ ํ๋งค 1์๋ฅผ ์ฐจ์งํ๊ณ ์ฝ์คํธ์ฝ๋ ์ฐฝ๊ณ ํ ํ ์ธ๋งค์ฅ์ผ๋ก ์น์น์ฅ๊ตฌํ๊ณ ์์ต๋๋ค. ์๋ฅด๋ฉ์ค(Hermes)๋ ๊ฐ๋ ฅํ ๋ญ์
๋ฆฌ ๋ธ๋๋๋ฅผ ๊ตฌ์ถํ์ฃ . ๊ธฐ์
์ ๋์ด ํ๊ฐํ๋ค๊ณ ํด์ ๊ทธ ์ฃผ์์ ์ฌ๋ผ๊ณ ์ถ์ฒํ ๊ฑด ์๋๋๋ค. ๋ฉ๊ฑฐ๋ '๊ฐ๊ฒฉ์ด ์ธ์ผ ํ๋ค'๊ณ ๊ฑฐ๋ญ ๊ฐ์กฐํ์ต๋๋ค.
๊ฐ์ฅ ๋ง์ด ์ธ๊ธ๋ BYD๋ถํฐ ๋ณผ๊น์. ๋ฉ๊ฑฐ๋ "BYD๋ ๊ธฐ์ !"์ด๋ผ๊ณ ๋งํ ์ ๋๋ก BYD๋ฅผ ๊ฒฉ์ฐฌํ๋ฉด์ ์์ดจํธ BYD ํ์ฅ์ ์ง๋ฅ์ง์(IQ)๊ฐ ๋์ ๋ฐ๋ค ์ฃผ๋น 70์๊ฐ ์ผํ ์ ๋๋ก ์ผ์ ๋ฏธ์ณค๋ค๊ณ ๋งํ์ต๋๋ค. ๊ทธ๋ฆฌ๊ณ ์์ง๋์ด๋ง ๋ฐ์ฌ์ธ ์ ํ์ฅ์ด ํ์ฌ ์๋์ฐจ ๋ถํ์ ๋ณด๊ณ ๊ทธ๋๋ก ๋ง๋ค์ด ๋ผ ์ ์์ ์ ๋๋ก ๋ฅ๋ ฅ์ด ๋ฐ์ด๋๋ค๊ณ ๋ง๋ถ์์ต๋๋ค. ํ ๋ง๋๋ก ์ ํ์ฅ์ ํ๊ณ ๋ ์์ง๋์ด์ด์ ์ผ์ ๋งก์ผ๋ฉด ๋๊น์ง ์๋ฃํ๋ ํ์
์ ๊ฒฝ์์์ธ๋ฐ, ์ด ๋ ๊ฐ์ง๋ฅผ ๋์์ ๊ฐ์ถ๋ ๊ฑด ๋๋จํ ์ด๋ ต๋ค๋ ์๊ธฐ์
๋๋ค.
'์ผ๋ก ๋จธ์คํฌ์ ํ
์ฌ๋ผ vs ์์ดจํธ์ BYD'๋ฅผ ๋น๊ตํด๋ฌ๋ผ๋ ์ง๋ฌธ์ ๋ํด, ๋ฉ๊ฑฐ๋ "๊ทธ(๋จธ์คํฌ)๋ ํ์ํ๋ค๋ฉด ์ค์ ๋ก ๋ฌด์ธ๊ฐ๋ฅผ ๋ง๋ค์ด ๋ผ ์ ์๋ ๋ฐฉ๋ฒ์ ์๋ ๊ด์ ์ธ ์ฌ๋"์ด๋ผ๋ฉฐ "๋จธ์คํฌ๊ฐ ์ถ๋ฐ์ (๊ทธ๋ผ์ด๋ ์ ๋กยทground zero)์ ๋ ๊ฐ๊น๋ค๋ฉด BYD์ ๊ทธ(์์ดจํธ)๋ ์ผ๋ก ๋ณด๋ค ์ค์ ๋ฌผ๊ฑด์ ๋ง๋๋ ๋ฐ ๋ ๋ฅ์ํ๋ค"๊ณ ๋ตํ์ต๋๋ค. ๊ทธ๋ฌ๋ ๋ฉ๊ฑฐ๋ "BYD์ ๋น
ํฌ์ด์ง๋ง, BYD๊ฐ ๋๋ฌด ๊ณต๊ฒฉ์ ์ด๋ผ ๋๋ฅผ ๋ถ์ํ๊ฒ ๋ง๋ค์๋ค"๊ณ ๋ง๋ถ์์ต๋๋ค.
๋ฒํฌ์
ํด์์จ์ด๋ 2008๋
BYD H์ฃผ 2์ต2500๋ง์ฃผ๋ฅผ 8ํ์ฝฉ๋ฌ๋ฌ์ ๋งค์ํ์ผ๋ฉฐ ์ง๋ํด ์ฝ 30๋ฐฐ ์ค๋ฅธ 250~270ํ์ฝฉ๋ฌ๋ฌ์์ BYD ์ฃผ์์ ๋งค๋ํ๊ธฐ ์์ํด ๋ณด์ ์๋์ 60% ์ ๋ ์ค์์ต๋๋ค. ์ง๋ 2์ผ ํ์ฝฉ์ ์์ฅ๋ BYD H์ฃผ๋ 232ํ์ฝฉ๋ฌ๋ฌ์ ๊ฑฐ๋๋์ต๋๋ค.
2. ๆฅ์ข
ํฉ์์ฌ ํฌ์, "100๋
์ 2~3๋ฒ ๋์ฌ๊น ๋ง๊น ํ ์์ด๋์ด"
๋ฉ๊ฑฐ๋ ์ผ๋ณธ ์ข
ํฉ์์ฌ ํฌ์๋ ํฌ์์๊ฐ ๋ฒํ์ฒ๋ผ ์๋ฆฌํ๋๋ผ๋ 100๋
์ ๋ง์์ผ 2~3๋ฒ ์๊ฐํ ์ ์์ ๋ฒํ ์ข์ ์์ด๋์ด๋ผ๊ณ ํ๊ฐํ์ต๋๋ค. ์ผ๋ณธ์ 10๋
๋ง๊ธฐ ์ฑ๊ถ ๊ธ๋ฆฌ๊ฐ 0.5%์ ๋ถ๊ณผํ ๋ฐ๋ค ์ผ๋ณธ์ ์ข
ํฉ์์ฌ๋ค์ ๊ฒฝ์ ์ ํด์๋ฅผ ๊ฐ์ถ ์ค๋๋ ๊ธฐ์
์ผ๋ก์, ๊ฐ์ผ ๊ตฌ๋ฆฌ ๊ด์ฐ๊ณผ ๊ณ ๋ฌด๋์ฅ๋ ๊ฐ์ง๊ณ ์์๊ธฐ ๋๋ฌธ์
๋๋ค. ๋ฉ๊ฑฐ๋ ์ผ๋ณธ์์ 0.5%์ ๊ธ๋ฆฌ๋ก ๋์ ๋น๋ ค์ 5% ๋ฐฐ๋น์ ์ฃผ๋ ์ด๋ค ํ์ฌ์ ํฌ์ํ๊ธฐ ๋๋ฌธ์ ์๊ฐํ ํ์๋ ์๋ ์ฌ์ด ํฌ์๋ผ๊ณ ์ค๋ช
ํ์ต๋๋ค.
๋ฒํฌ์
ํด์์จ์ด๋ 2020๋
8์ ๋ฏธ์ฐ๋น์ยท์ดํ ์ถยท๋ง๋ฃจ๋ฒ ๋ยท๋ฏธ์ฐ์ดยท์ค๋ฏธํ ๋ชจ ๋ฑ ์ผ๋ณธ 5๋ ์ข
ํฉ์์ฌ ์ง๋ถ์ ๊ฐ 5% ์ด์ ์ทจ๋ํ๋ค๊ณ ๊ณต์ํ ๋ฐ ์์ต๋๋ค. ์ง๋ 4์ ๋ฒํ์ด ์ผ๋ณธ์ ๋ฐฉ๋ฌธํ์ ๋ 5๋ ์ข
ํฉ์์ฌ ์ง๋ถ์ ๋๋ ธ์ผ๋ฉฐ ์ผ๋ณธ ์ฃผ์์ ์ถ๊ฐ ํฌ์ํ ์ํฅ์ด ์๋ค๊ณ ๋ฐํ์ ์ผ๋ณธ ์ฆ์๊ฐ ๋ค์ฉ์์ต๋๋ค. ๋ฒํ์ ์ผ๋ณธ ๋ฐฉ๋ฌธ ์ดํ ์ผ๋ณธ ์ฆ์๋ ๊ธ๋ก๋ฒ ํฌ์์๊ธ์ด ๋ชฐ๋ฆฌ๋ฉฐ ๋์ผ์ด225์ง์๊ฐ 32๋
๋ง์ ์ต๊ณ ์น๋ฅผ ๊ฒฝ์ ํ๋ ๋ฑ ํจ๋ฐ์์์ ์ง์์ต๋๋ค.
๋์ดํค(Nike)์ ๋ํ ์ง๋ฌธ๋ ์ด์ด์ก์ต๋๋ค. ๋ฉ๊ฑฐ๋ ๋์ดํค๋ฅผ ์ดํด๋ณธ ์ ์ด ์์ง๋ง, ๋์ดํค๋ ํจ์
ํ์ฌ(style company)๋ผ๋ฉฐ ํจ์
ํ์ฌ๋ ์ข์ํ์ง ์๋๋ค๊ณ ๋ตํ์ต๋๋ค. ์ด์ด "์๋ฅด๋ฉ์ค๋ฅผ ์ถฉ๋ถํ ์ผ ๊ฐ๊ฒฉ์ ์ฌ๋ผ๊ณ ์ ์ํ๋ค๋ฉด ์ฌ๊ฒ ์ง๋ง, ๊ทธ๊ฒ ์๋๋ผ๋ฉด ํจ์
ํ์ฌ๋ ์ ์ด ๊ฒ"์ด๋ผ๊ณ ๋ง๋ถ์์ต๋๋ค.
๋ฉ๊ฑฐ๋ ์ธํ์ธ์ ํ์ด๋(Tide), ์ฝ์คํธ์ฝ์ ์์ฒด๋ธ๋๋(PB) ์ปคํด๋๋(Kirkland)๋ ๋ธ๋๋์ด์ง๋ง, ์๋ฅด๋ฉ์ค๋ '์์ ํ ๋ค๋ฅธ' ์ข
๋ฅ์ ๋ธ๋๋๋ผ๋ฉฐ ์๋ฅด๋ฉ์ค๋ฅผ ๋์ด ํ๊ฐํ์ต๋๋ค.
3. ๋ค์ ์์ํ๋ค๋ฉดโฆ ์ 2์ ๋ฒํฌ์
ํด์์จ์ด ๊ฐ๋ฅํ ๊น
์๋ฐ ๋ฒํ์ด 1964๋
์ธ์ํ ๋ฐฉ์ง์
์ฒด ๋ฒํฌ์
ํด์์จ์ด๋ ์๊ฐ์ด์ก 7500์ต๋ฌ๋ฌ๊ฐ ๋๋ ์ด๋ํ ๊ธฐ์
์ผ๋ก ์ฑ์ฅํ์ต๋๋ค. ์ด ๊ฐ์ ๋์ฑ๊ณต์ ์ด์ผ๊น์? ๋ฅ๋ ฅ์ผ๊น์? ํ์บ์คํธ ์งํ์๋ ๋ฉ๊ฑฐ์๊ฒ "๋ง์ฝ ์ค๋ ๋ฒํ๊ณผ ๋ค์ ์์ํ๊ณ , ๋ ๋ค 30์ธ๋ผ๋ฉด ์ค๋๋ ์ ๋ฒํฌ์
์ ๊ฐ๊น์ด ๊ธฐ์
์ ๋ง๋ค ์ ์๊ฒ ๋๋"๊ณ ์ง๋ฌธ์ ๋์ก์ต๋๋ค.
๋ฉ๊ฑฐ๋ ๋จํธํ๊ฒ "๋
ธ!"(No)๋ผ๊ณ ๋ตํ๋ฉฐ ๋๊ฐ ์ฌ๋๋ค์ด ์ฑ๊ณตํ๊ธฐ ์ํด 3๊ฐ์ง๊ฐ ํ์ํ๋ค๊ณ ๋งํ์ต๋๋ค. ๋งค์ฐ ์๋ฆฌํด์ผ ํ๊ณ ์ด์ฌํ ์ผํด์ผ ํ๋ฉฐ ํ์ด์ด ๋ฐ๋ผ์ผ ํ๋ค๋ ๊ฑด๋ฐ์. ์์ฒญ๋ ์ฑ๊ณต(Super successful)์ ์ํด์๋ 3๊ฐ์ง ๋ชจ๋ ๊ฐ์ถฐ์ ธ์ผ ํ์ง๋ง, ๊ทธ๋ฌ๊ธฐ๋ ์ ๋ง ์ด๋ ต๋ค๊ณ ์ง์ ํ์ต๋๋ค. ๋ฉ๊ฑฐ๋ ์ ๋ต์ "์ผ์ฐ ์์ํด์ ์ค๋ซ๋์ ๊ณ์ ๋
ธ๋ ฅํ๋ ๊ฒ"์ด๋ผ๋ฉฐ ๊ทธ๋ฌ๋ฉด "ํ๋ ๊ฐ์ง๋ ๊ฐ์ถ ์ ์์ ๊ฒ"์ด๋ผ๊ณ ๋งํ์ต๋๋ค.
๋ฉ๊ฑฐ๋ ๋ ๊ฐ์ง ์ข
๋ฅ์ ๊ธฐ์
๋ง ๋ถ์ํฉ๋๋ค. '๊ฐ์นํฌ์์ ์๋ฒ์ง' ๋ฒค์ ๋ฏผ ๊ทธ๋ ์ด์์ ์ถ์ข
์์ธ ๋งํผ ์ด๋ค ์ข
๋ชฉ์ด ์ ๋ง ์ธ๋ค๋ฉด ์๋ฌด๋ฆฌ ํํธ์๋ ๊ธฐ์
์ด๋ผ๋ ๋งค์๋ฅผ ๊ณ ๋ คํ ์ ์์ต๋๋ค. ์ด๋ฅธ๋ฐ ๋ณ ๋ณผ์ผ ์๋ ํ์ฌ๋ฅผ ์ผ๊ฐ์ ์ฌ๋ '๋ด๋ฐฐ๊ฝ์ด ํฌ์'(Cigar Butt Investing)์
๋๋ค.
๋ค๋ฅธ ํ ๊ฐ์ง๋ ํ๋ฅญํ ๋ธ๋๋๋ฅผ ๋ณด์ ํ ํ์ฌ์
๋๋ค. ๋ฉ๊ฑฐ๋ ์ด๋ฒ์๋ ๊ฐ๊ฒฉ์ ๊ฐ์กฐํ๋ฉด์ "์ ๋ง ์ฃผ๊ฐ๊ฐ ์ ๋ ดํด์ง, ๋๋ฌธ ๊ฒฝ์ฐ์ ๋งค์ํ๋ ๊ฒ ์ค์ํ ๋น๊ฒฐ"์ด๋ผ๊ณ ์ค๋ช
ํ์ต๋๋ค. ๋ "์ฝ์คํธ์ฝ๋ฅผ ํ ์ฃผ๊ฐ์ ๋งค์ํ๋ ๊ฒ์ ๊ด์ฐฎ์ ์๋ ์์ผ๋ (์ข์ ๊ฒฐ๊ณผ๊ฐ ์ ๋์ฌ ๊ฐ๋ฅ์ฑ๋ ์๋ค)"๊ณ ๋งํ์ต๋๋ค.
์ด์ ํฌ์ ์๊ธฐ๋ ๋ค๋ก ํ๊ณ ๊ฐ์กฑ์ ์๊ธฐํด๋ณผ๊น์. ๋ฉ๊ฑฐ๊ฐ ๋ณด๋ ์ข์ ๊ฐ์กฑ์ ๋ง๋๋ ๋น๋ฒ์ ๋ญ๊น์. ๋๋ต์ ์๋ฏธ์ฌ์ฅํฉ๋๋ค. ๊ทธ๋ "๋น์ฐํ ๋ชจ๋ ๊ฐ์กฑ๊ณผ ์ ์ง๋ด์ผ ํ๋ค. ๋ฏธ๊ตญ์ ๊ฒฐํผ ์ปคํ ์ค ์ ๋ฐ์ ๊ฝค ์ ์ง๋ธ๋ค"๋ฉฐ "๊ทธ๋ฐ๋ฐ ์ด๋ค ์ปคํ์ ๋ ๋ค ๋ค๋ฅธ ์ฌ๋๊ณผ ๊ฒฐํผํ๋๋ผ๋ ๋๊ฐ์ด ์ ์ง๋์ ๊ฒ"์ด๋ผ๊ณ ๋งํ์ต๋๋ค.
์ด๋ ค์ด ๋ฉ๊ฑฐ์ ์ ๋จธ์ธ๋ฐ์. ๋ฉ๊ฑฐ๋ "์ข์ ๋ฐฐ์ฐ์๋ฅผ ์ป๋ ์ต๊ณ ์ ๋ฐฉ๋ฒ์ ์ข์ ๋ฐฐ์ฐ์๋ฅผ ๊ฐ์ง ์๊ฒฉ์ ๊ฐ์ถ๋ ๊ฒ"์ด๋ผ๋ฉฐ "์๋ํ๋ฉด ์ข์ ๋ฐฐ์ฐ์๋ ๋น์ฐํ ์ ์ ์ ์ด๊ธฐ ๋๋ฌธ"์ด๋ผ๊ณ ๋งํ ๋ฐ ์์ต๋๋ค. ์ข์ ๋ฐฐ์ฐ์๋ฅผ ๊ฐ์ง๊ธฐ ์ํด์๋ ๊ฒฐ๊ตญ ์ค์ค๋ก ์ข์ ๋ฐฐ์ฐ์๊ฐ ๋ผ์ผ ํ๋ค๋ ๊ฑธ ์์ชฝ์ด ๊นจ๋ฌ์์ผ ํ๋ค๋ ๋ป์
๋๋ค.
https://youtu.be/w6qRb171cog?si=a5_y1tGjBKaGnghD
Endi mavjud! Telegram Tadqiqoti 2025 โ yilning asosiy insaytlari 
