es
Feedback
์ฃผ๋ฆฐ์ด ๊ฐœ์†Œ๋ฆฌํ•˜๋Š” ์ฑ„๋„

์ฃผ๋ฆฐ์ด ๊ฐœ์†Œ๋ฆฌํ•˜๋Š” ์ฑ„๋„

Ir al canal en Telegram

์—ฌ์˜๋„์—์„œ ๊ฐœ ์ง–๋Š” ์†Œ๋ฆฌ๊ฐ€ ๋‚œ๋‹ค๋ฉด ์ฃผ๊ฐœ์ฑˆ์„ ๋Œ์•„๋ณด๋ผ

Mostrar mรกs
4 952
Suscriptores
Sin datos24 horas
-27 dรญas
-5130 dรญas
Archivo de publicaciones
์˜ค๋Š˜ ๋งค๋งค์— ์ฐธ๊ณ ํ•˜์„ธ์šฉ!!
์˜ค๋Š˜ ๋งค๋งค์— ์ฐธ๊ณ ํ•˜์„ธ์šฉ!!

โœ…๏ธ ์ด๋ž€ 1์ฐจํ•ฉ์˜ ์„ธ๋ถ€์‚ฌํ•ญ(MEHR) ํ˜ธ๋ฅด๋ฌด์ฆˆ ํ†ตํ–‰๋ฃŒ ์ง€๋ถˆ์€ ์ด๋ž€๊ณผ ์˜ค๋งŒ์˜ ๊ด€๋ฆฌ ํ•˜์— ์ง€์†๋  ๊ฒƒ์ž„ ๋‹จ ๋ฐฉํ•ด๋Š” ์—†์„ ๊ฒƒ์ด๊ณ  ํ†ตํ–‰ ์ˆ˜์ค€์€ 30์ผ ์ด๋‚ด๋กœ ํšŒ๋ณต๋˜๋Š” ๊ฒƒ์„ ๋ชฉํ‘œ๋กœ ํ•จ ๋ฏธ๊ตฐ์€ 30์ผ ์ด๋‚ด ์ด๋ž€ ๊ตญ๊ฒฝ ์ฃผ๋ณ€์—์„œ ์ฒ ์ˆ˜ ์ด๋ž€์˜ ํ•ต๋ฌด๊ธฐ ๊ฐœ๋ฐœ ํฌ๊ธฐ ์•ฝ์†์„ ์ „์ œ๋กœ ๊ณ ๋†์ถ• ์šฐ๋ผ๋Š„ ๊ด€๋ จ ์ถ”๊ฐ€ ํ•ฉ์˜ ์˜ˆ์ •, ์ €๋†๋„ ์šฐ๋ผ๋Š„์— ๋Œ€ํ•ด์„œ๋Š” ์–‘์ธก ๋™์˜์‹œ์—๋งŒ ์ถ”๊ฐ€ ํ•ฉ์˜ ๊ฐ€๋Šฅ ์ „๋ฉด์ ์ธ ์ œ์žฌ ์ข…์‹์€ ์„ธ๋ถ€์ ์ธ 2์ฐจ ํ•ฉ์˜ ํ›„ ์ด๋ค„์งˆ ์˜ˆ์ • 3์ฒœ์–ต ๋‹ฌ๋Ÿฌ ๊ทœ๋ชจ์˜ ๋ณด์ƒ ๋ฐ ์žฌ๊ฑด(ํ”ผํ•ด ๋ณต๊ตฌ) ๊ธฐ๊ธˆ ํ”„๋กœ๊ทธ๋žจ์˜ ๊ฐ€๋™ ์ด๋ž€๊ณผ ๋ ˆ๋ฐ”๋…ผ์—์„œ์˜ ์ฆ‰์‹œ์ ์ธ ์ „์Ÿ ์ค‘๋‹จ๊ณผ ์ถ”๊ฐ€ ์ž‘์ „์€ ๊ธˆ์ง€๋˜๋ฉฐ ์ด๋Š” ์ด์Šค๋ผ์—˜๋„ ํฌํ•จ https://en.mehrnews.com/news/245332/Final-decision-on-MoU-btw-Iran-US-under-discussion-in-Iran

์ด๊ฑฐ ใ„นใ…‡ ใ…‹ใ…‹ใ…‹

๐Ÿ–ฅ "์ผํ•˜๋Š” ์ฒ™์ผ ๋ฟ"โ€ฆ ํŒฐ๋Ÿฐํ‹ฐ์–ด CEO, AI ๊ณผ์†Œ๋น„ ํ’์กฐ์— ๋Œ์ง๊ตฌ ๋น…๋ฐ์ดํ„ฐ ๋ถ„์„ ๊ธฐ์—… ํŒฐ๋Ÿฐํ‹ฐ์–ด ํ…Œํฌ๋†€๋กœ์ง€์Šค(Palantir)์˜ ์ตœ๊ณ ๊ฒฝ์˜์ž(CEO) ์•Œ๋ ‰์Šค ์นดํ”„๊ฐ€ ์ตœ๊ทผ ์‹ค๋ฆฌ์ฝ˜๋ฐธ๋ฆฌ์™€ ๊ธฐ์—…๋“ค ์‚ฌ์ด์—์„œ ์œ ํ–‰ํ•˜๋Š” 'ํ† ํฐ๋งฅ์‹ฑ(Tokenmaxxing)' ๋ฌธํ™”์— ๋Œ€ํ•ด ๊ฐ•ํ•œ ์šฐ๋ ค๋ฅผ ํ‘œ๋ช…ํ–ˆ๋‹ค. ํ† ํฐ๋งฅ์‹ฑ์ด๋ž€ AI ์–ธ์–ด ๋ชจ๋ธ์ด ์ฒ˜๋ฆฌํ•˜๋Š” ๊ธฐ๋ณธ ํ…์ŠคํŠธ ๋‹จ์œ„์ธ 'ํ† ํฐ'์„ ๋ฌด๋ถ„๋ณ„ํ•˜๊ฒŒ ๋Œ€๋Ÿ‰์œผ๋กœ ์†Œ๋น„ํ•˜๋Š” ํ–‰์œ„๋ฅผ ๋œปํ•œ๋‹ค. ์นดํ”„ CEO๋Š” ๊ธฐ์—…๋“ค์ด AI๋ฅผ ํ†ตํ•ด ์‹ค์งˆ์ ์ธ ๋น„์ฆˆ๋‹ˆ์Šค ๊ฐ€์น˜๋ฅผ ์ฐฝ์ถœํ•˜๊ธฐ๋ณด๋‹ค, ๋‹จ์ˆœํžˆ AI ์‚ฌ์šฉ๋Ÿ‰๋งŒ ๋Š˜๋ฆฌ๋Š” ์ค‘๋… ํ˜„์ƒ์— ๋น ์ ธ์žˆ๋‹ค๊ณ  ๋‚ ์นด๋กญ๊ฒŒ ์ง€์ ํ–ˆ๋‹ค. โš ๏ธ ์„ฑ์ธ ์ฝ˜ํ…์ธ  ์ค‘๋…๊ณผ ๊ฐ™์€ ๊ธฐ์—… AI์˜ ์‹ค์ƒ ๊ทธ๋Š” ํ•œ ํŒŸ์บ์ŠคํŠธ ์ธํ„ฐ๋ทฐ์—์„œ ํ˜„์žฌ ๋งŽ์€ ๊ธฐ์—…๋“ค์˜ AI ๋„์ž… ์‹คํƒœ๋ฅผ ์„ฑ์ธ ์ฝ˜ํ…์ธ  ์ค‘๋…์— ๋น„์œ ํ•˜๋Š” ํŒŒ๊ฒฉ์ ์ธ ๋ฐœ์–ธ์„ ๋‚จ๊ฒผ๋‹ค. ์ˆ˜๋งŽ์€ ์ง์›๋“ค์ด ํ•˜๋ฃจ ์ข…์ผ AI ํ”Œ๋žซํผ์— ์•‰์•„ ๋ฌด์˜๋ฏธํ•œ ์งˆ๋ฌธ์„ ๋˜์ง€๊ฑฐ๋‚˜ ๊ฐœ์ธ์ ์ธ ์—…๋ฌด ํ™˜๊ฒฝ์„ ์žฌ๋ฐฐ์น˜ํ•˜๋Š” ๋“ฑ, ๊ฒ‰๋ณด๊ธฐ์—๋Š” ์ƒ์‚ฐ์ ์ธ ๊ฒƒ์ฒ˜๋Ÿผ ๋ณด์ด์ง€๋งŒ ์‹ค์ œ๋กœ๋Š” ์•„๋ฌด๋Ÿฐ ์„ฑ๊ณผ๋„ ๋‚ด์ง€ ๋ชปํ•˜๋Š” ์ค‘๋…์  ์„ฑํ–ฅ์„ ๋ณด์ด๊ณ  ์žˆ๋‹ค๋Š” ์„ค๋ช…์ด๋‹ค. ์ด๋Š” ๊ธฐ์—… ์˜ˆ์‚ฐ์„ ๋‚ญ๋น„ํ•  ๋ฟ๋งŒ ์•„๋‹ˆ๋ผ ๋น„์ฆˆ๋‹ˆ์Šค์˜ ๋ณธ์งˆ์ ์ธ ๋ฌธ์ œ ํ•ด๊ฒฐ์„ ๋ฐฉํ•ดํ•˜๋Š” ์š”์†Œ๊ฐ€ ๋˜๊ณ  ์žˆ๋‹ค. ๐Ÿšซ "AI ์“ฐ๋ ˆ๊ธฐ๋ฅผ ์ค„์—ฌ๋ผ"โ€ฆ ํŒฐ๋Ÿฐํ‹ฐ์–ด์˜ '๋…ธ ์Šฌ๋กญ' ์„ ์–ธ ํŒฐ๋Ÿฐํ‹ฐ์–ด๋Š” ์ด๋Ÿฌํ•œ ๋ฌด๋ถ„๋ณ„ํ•œ ํ† ํฐ ์†Œ๋น„๋ฅผ ์–ต์ œํ•˜๊ธฐ ์œ„ํ•ด ๋‚ด๋ถ€์ ์œผ๋กœ ๊ด€๋ฆฌ ์†”๋ฃจ์…˜์„ ๊ฐœ๋ฐœํ•ด ์šด์˜ ์ค‘์ด๋ผ๊ณ  ๋ฐํ˜”๋‹ค. ์•ž์„œ ํŒฐ๋Ÿฐํ‹ฐ์–ด์˜ ์ตœ๊ณ ๊ธฐ์ˆ ์ฑ…์ž„์ž(CTO) ์—ญ์‹œ ์‹ค์  ๋ฐœํ‘œ์—์„œ "๋” ๋งŽ์€ ํ† ํฐ์„ ์“ฐ๋Š” ๊ฒƒ์€ ๋” ๋งŽ์€ ๋ฐ์ดํ„ฐ ์“ฐ๋ ˆ๊ธฐ(Slop)๋ฅผ ์–‘์‚ฐํ•˜๋Š” ๊ฒƒ๊ณผ ๊ฐ™๋‹ค"๋ฉฐ ์ €๊ฐ€ ๋ชจ๋ธ ํ˜ธ์ถœ์„ ๋‚จ๋ฐœํ•˜๋Š” ํ–‰์œ„๋ฅผ ๊ฒฝ๊ณ„ํ•œ ๋ฐ” ์žˆ๋‹ค. ์นดํ”„ CEO๋Š” ๊ฑฐ๋Œ€ ์–ธ์–ด ๋ชจ๋ธ(LLM)์„ ๊ฐœ๋ฐœํ•˜๋Š” ๊ธฐ์ˆ  ๊ธฐ์—…๋“ค์ด ํˆฌ์ž์ž๋“ค์—๊ฒŒ๋Š” ๋งค๋ ฅ์ ์ผ์ง€ ๋ชฐ๋ผ๋„, ๊ฑฐํ’ˆ ๋‚€ ๋งˆ์ผ€ํŒ…์— ์ง€์นœ ์‹ค์ œ ๋„์ž… ๊ธฐ์—…๋“ค์—๋Š” ์ ์ฐจ ์‹ ๋ขฐ๋ฅผ ์žƒ์–ด๊ฐ€๊ณ  ์žˆ๋‹ค๊ณ  ๊ฐ•์กฐํ–ˆ๋‹ค. ์ถœ์ฒ˜: https://finance.yahoo.com/sectors/technology/articles/palantir-ceo-companies-token-maxing-003112985.html

๋ฐ˜๋Œ€๋งค๋งค ๊ฑฐ๋ถ€ ใ…‹ใ…‹ใ…‹ใ…‹ใ…‹

ํ•œ๋Œ€ ๋งž์œผ๋‹ˆ๊นŒ ์ˆจ์•ˆ์‰ฌ์–ด์ง€๋„ค์š”.

์กด1๋‚˜ ํž˜๋“ค๋‹ค ์ฃผ์‹ ์™œ ์ด๋ ‡๊ฒŒ ๊ณ ๋‹ฌํ”„๋ƒ

๊ณ ์ ์‹ ํ˜ธ๋ฅผ ๋ณด๋ƒˆ๋‹ค๊ณ  ์š•์„ ๋จน๊ณ  ์žˆใ……ใ…‚๋‹ˆ๋‹ค ์•„์ง๋„ 8000 ์œ„์ธ๋ฐ ๋ญ˜ ๊ทธ๋ฆฌ ์ž˜๋ชปํ–‡ใ……ใ…‚๋‹ˆ๊นŒ??

๊ฐ•์›๋žœ๋“œ ๋งค๋„์˜๊ฒฌ ๋ฐ”์•ผํ๋กœ ์˜จ ๊ตญ๋ฏผ์ด ์ง‘์•ˆ์—์„œ ํ•ฉ๋ฒ•์ ์ธ ๊ฐœ๋ณ„์ฃผ ๋ ˆ๋ฒ„๋ฆฌ์ง€์˜ ๋„ํŒŒ๋ฏผ๊ณผ ์ฐธ๋ง›์„ ๋А๋ผ๋ฉฐ ๋ˆ๊นŒ์ง€ ๋ฒ„๋Š” ์‹œ๋Œ€๊ฐ€ ๋„๋ž˜ํ•œ ๋ฐ”, ๋„๊ณ„๊นŒ์ง€ ํƒ์‹œ๋น„ 50 ์ฃผ๊ณ  ๋‹ฌ๋ฆฌ๋Š” ์ •์‹  ๋‚˜๊ฐ„ ์ž๋Š” ์—†์–ด์ง€๊ฒŒ ๋จ. ๋ฐ˜๋ฐ•์‹œ ๋„๋ฐ•ํ•˜๊ณ  ์žƒ์–ด๋„ ํ–‰๋ณตํ•œ ๋ฏธ์นœ์‚ฌ๋žŒ

260513_Wafer-scale Computing: Advancements, Challenges, and Future Perspectives https://ar5iv.labs.arxiv.org/html/2310.09568
+3
260513_Wafer-scale Computing: Advancements, Challenges, and Future Perspectives https://ar5iv.labs.arxiv.org/html/2310.09568 https://www.sec.gov/Archives/edgar/data/2021728/000162828026025762/cerebras-sx1april2026.htm (1) ์ผ๋ฐ˜์ ์œผ๋กœ H/W ์ปดํ“จํŒ… ์„ฑ๋Šฅ์˜ ์ฆ๊ฐ€๋Š” 1) ํŠธ๋žœ์ง€์Šคํ„ฐ ๋ฐ€๋„ ์ฆ๊ฐ€, 2) ์นฉ ๋ฉด์  ํ™•๋Œ€์— ์˜ํ•ด ์ถ”์ง„๋จ (2) ๊ทธ๋Ÿฌ๋‚˜ 1) ํŠธ๋žœ์ง€์Šคํ„ฐ ๋ฐ€๋„ ์ฆ๊ฐ€๋Š” ๋ฌด์–ด์˜ ๋ฒ•์น™/๋ฐ๋‚˜๋“œ ์Šค์ผ€์ผ๋ง ํ•œ๊ณ„์— ๋‹ค๋‹ค๋ฅด๊ณ  ์žˆ์œผ๋ฉฐ, 2) ๋ฉด์  ํ™•๋Œ€๋Š” ๊ธฐ์กด ๋ฐ˜๋„์ฒด ์ œ์กฐ ์žฅ๋น„ ๋ฐ ๊ณต์ •์„ ํฌ๊ฒŒ ๋ฐ”๊พธ๊ธฐ ์–ด๋ ต๊ธฐ ๋•Œ๋ฌธ์— ์ œ์•ฝ์„ ๋ฐ›๊ณ  ์žˆ์Œ (3) ํŠนํ™” ์•„ํ‚คํ…์ฒ˜ ์„ค๊ณ„๋กœ ์–ป์„ ์ˆ˜ ์žˆ๋Š” ์„ฑ๋Šฅ ํ–ฅ์ƒ๋„ ์ ์ฐจ ์ค„์–ด๋“ค๊ณ , ๊ฒฐ๊ตญ ์ƒํ•œ์— ๋ถ€๋”ชํžˆ๊ฒŒ ๋˜๋Š”๋ฐ ์ด๋ฅผ Accelerator Wall์ด๋ผ๊ณ  ํ•จ (4) ์ฆ‰, AI ์ปดํ“จํŒ… ์ˆ˜์š”๋Š” ๊ณ„์† ์ปค์ง€๋Š”๋ฐ ๊ฐ€์†๊ธฐ ์„ฑ๋Šฅ ํ–ฅ์ƒ์€ ๋‘”ํ™”๋˜๊ณ  ์žˆ์œผ๋ฉฐ ์ด ๊ฒฉ์ฐจ๋ฅผ ํ•ด๊ฒฐํ•˜๋Š” ๊ฐ€์žฅ ์ง์ ‘์ ์ธ ๋ฐฉ๋ฒ•์€ "์—ฌ๋Ÿฌ ๊ฐœ์˜ ๊ฐœ๋ณ„ ๊ฐ€์†๊ธฐ๋ฅผ "ํ•˜๋‚˜์˜ ํด๋Ÿฌ์Šคํ„ฐ"๋กœ ๋ฌถ๋Š” ๊ฒƒ (5) ๊ฐ€์†๊ธฐ ํด๋Ÿฌ์Šคํ„ฐ์—์„œ AI ์ž‘์—…์„ ์‹คํ–‰ ํ•  ๋•Œ๋Š” ๋ณดํ†ต ์œ„์˜ ๊ทธ๋ฆผ์ฒ˜๋Ÿผ 1) Data Parallel(๋ฐ์ดํ„ฐ ๋ณ‘๋ ฌ), ๋˜๋Š” 2) Model Parallel(๋ชจ๋ธ ๋ณ‘๋ ฌ)์„ ์‚ฌ์šฉ (6) ๊ทธ๋ฆผ์—์„œ Worker๋Š” ๊ฐ๊ฐ ํ•˜๋‚˜์˜ GPU, ASIC ๋˜๋Š” ํด๋Ÿฌ์Šคํ„ฐ ๋…ธ๋“œ๋ผ๊ณ  ์ดํ•ดํ•˜๋ฉด ๋จ (7) DP์˜ ๊ฒฝ์šฐ ๋ฐ์ดํ„ฐ๋ฅผ Worker 0/1/2๊ฐ€ ๋‚˜๋ˆ ์„œ ๊ฐ์ž ๋ฐ์ดํ„ฐ ์ผ๋ถ€๋ฅผ ์ฒ˜๋ฆฌํ•จ. ์ฆ‰, ํ•™์ƒ 3๋ช…์ด ๋ชจ๋‘ ๊ฐ™์€ ํ’€์ด๋ฒ•์„ ์•Œ๊ณ  ์žˆ๊ณ , ๊ฐ์ž ๋‹ค๋ฅธ ๋ฌธ์ œ๋ฅผ ํ‘ธ๋Š” ํ˜•์‹ โ–  ๊ฐ GPU๊ฐ€ ๋”ฐ๋กœ ๊ณต๋ถ€ โ†’ ๊ฐ์ž ๊ณ„์‚ฐํ•œ ๋‹ต์•ˆ์„ ๋ชจ์Œ โ†’ ํ‰๊ท ์„ ๋‚ด์„œ ๋ชจ๋ธ์„ ์—…๋ฐ์ดํŠธํ•จ ์ด ๊ณผ์ •์—์„œ GPU ๊ฐ„ ๋„คํŠธ์›Œํฌ ๋Œ€์—ญํญ์ด ์ค‘์š” (8) ๋ฐ์ดํ„ฐ๊ฐ€ ๋งŽ์„์ˆ˜๋ก ํšจ๊ณผ๊ฐ€ ์ข‹์œผ๋ฉฐ, GPU ์—ฌ๋Ÿฌ ์žฅ์„ ๋ถ™์—ฌ ํ•™์Šตํ•  ๋•Œ ๊ฐ€์žฅ ๊ธฐ๋ณธ์ ์œผ๋กœ ์‚ฌ์šฉ๋˜๋Š” ๋ฐฉ์‹์ž„ (9) ๋‹ค๋งŒ, ๋ชจ๋ธ์ด ๋„ˆ๋ฌด ์ปค์ง€๋ฉด ๋ฌธ์ œ๊ฐ€ ์ƒ๊น€. ๋ชจ๋ธ ํ•˜๋‚˜๊ฐ€ GPU ๋ฉ”๋ชจ๋ฆฌ๋ณด๋‹ค ํฌ๋ฉด, ๋ฐ์ดํ„ฐ ๋ณ‘๋ ฌ๋งŒ์œผ๋กœ๋Š” ์‹คํ–‰์ด ์–ด๋ ต๊ธฐ ๋•Œ๋ฌธ (10) Tensor Model Parallel(TMP)์˜ ๊ฒฝ์šฐ์—๋Š” ๋ฐ์ดํ„ฐ๋Š” ๋ชจ๋“  Worker๊ฐ€ ํ•จ๊ป˜ ๋ณด๊ณ , ๋ชจ๋ธ ๋‚ด๋ถ€์˜ ํ…์„œ๋ฅผ ์ชผ๊ฐœ๋Š” ํ˜•์‹์ž„ (11) Tensor๋ž€, AI ๋ชจ๋ธ ์•ˆ์˜ ๊ฑฐ๋Œ€ํ•œ ํ–‰๋ ฌ, ์ฆ‰ Weight Matrix๋ฅผ ๋œปํ•จ (12) ์˜ˆ๋ฅผ ๋“ค์–ด ์–ด๋–ค ๋ ˆ์ด์–ด์˜ ๊ฐ€์ค‘์น˜ ํ–‰๋ ฌ์ด ๋„ˆ๋ฌด ํฌ๋ฉด, ์ด ํ–‰๋ ฌ์„ Worker 0, Worker 1, Worker 2๊ฐ€ ๋‚˜๋ˆ ์„œ ๊ฐ€์ง€๊ณ  ๊ณ„์‚ฐ (13) ์ฆ‰, ํ•˜๋‚˜์˜ ํฐ ๊ณ„์‚ฐ ๋ฌธ์ œ๋ฅผ ์—ฌ๋Ÿฌ ๋ช…์ด ๋ถ€๋ถ„ ๊ณ„์‚ฐ์œผ๋กœ ๋‚˜๋ˆ  ํ‘ธ๋Š” ๋ฐฉ์‹ (14) TMP๋Š” ๋ชจ๋ธ ํ•˜๋‚˜๊ฐ€ ๋„ˆ๋ฌด ์ปค์„œ ๋‹จ์ผ GPU๋‚˜ ๋‹จ์ผ ๊ฐ€์†๊ธฐ์— ์•ˆ ๋“ค์–ด๊ฐˆ ๋•Œ ์œ ์šฉํ•จ. ํŠนํžˆ ๋Œ€ํ˜• Transformer ๋ชจ๋ธ์—์„œ ํฐ ํ–‰๋ ฌ ์—ฐ์‚ฐ์„ ๋‚˜๋ˆ„๋Š” ๋ฐ ๋งŽ์ด ์‚ฌ์šฉ (15) ๋‹ค๋งŒ, ๋ ˆ์ด์–ด ๊ณ„์‚ฐ๋งˆ๋‹ค Worker๊ฐ„ ํ†ต์‹ ์ด ์—„์ฒญ๋‚˜๊ฒŒ ๋ฐœ์ƒ. ๊ณ„์‚ฐ ์ž์ฒด๋Š” ๋‚˜๋ˆŒ ์ˆ˜ ์žˆ์ง€๋งŒ, ์ค‘๊ฐ„ ๊ฒฐ๊ณผ๋ฅผ ๊ณ„์† ์ฃผ๊ณ ๋ฐ›์•„์•ผ ํ•˜๊ธฐ์— "๋Œ€์—ญํญ๊ณผ ์ง€์—ฐ์‹œ๊ฐ„"์ด ๋งค์šฐ ์ค‘์š” โ–  NVLink, NVSwitch, HBM ๋Œ€์—ญํญ, ํŒจํ‚ค์ง• ๋‚ด๋ถ€ ์—ฐ๊ฒฐ์ด ์ค‘์š”ํ•œ ์ด์œ  (16) Pipeline Model Parallel(PMP)์˜ ๊ฒฝ์šฐ, ๋ชจ๋ธ์˜ ๋ ˆ์ด์–ด๋ฅผ ์ˆœ์„œ๋Œ€๋กœ ๋‚˜๋ˆ ์„œ ์—ฌ๋Ÿฌ GPU์— ๋ฐฐ์น˜ํ•˜๋Š” ๋ฐฉ์‹ (17) ๊ณต์žฅ ์ƒ์‚ฐ๋ผ์ธ๊ณผ ๋น„์Šทํ•จ. Worker 0์ด ์•ž๊ณต์ • ์ฒ˜๋ฆฌ โ†’ Worker 1์ด ์ค‘๊ฐ„๊ณต์ • ์ฒ˜๋ฆฌ โ†’ Worker 3์ด ํ›„๊ณต์ • ์ฒ˜๋ฆฌ (18) ์žฅ์ ์€ ๋ชจ๋ธ ์ „์ฒด๋ฅผ ์—ฌ๋Ÿฌ GPU์— ๋‚˜๋ˆ  ๋‹ด์„ ์ˆ˜ ์žˆ๋‹ค๋Š” ์ . ๊ทธ๋ž˜์„œ ๋ชจ๋ธ์ด ๋„ˆ๋ฌด ์ปค์„œ GPU ํ•˜๋‚˜์— ์•ˆ ๋“ค์–ด๊ฐˆ ๋•Œ ํšจ๊ณผ์  (19) ๊ทธ๋Ÿฌ๋‚˜, ์•ž ๋‹จ๊ณ„๊ฐ€ ๋๋‚˜์•ผ ๋‹ค์Œ ๋‹จ๊ณ„๊ฐ€ ์‹œ์ž‘๋˜๋Š” ๋‹จ์ ์ด ์žˆ์Œ. ๊ทธ๋ž˜์„œ ์ค‘๊ฐ„์— ๋†€๊ณ  ์žˆ๋Š” GPU๊ฐ€ ์ƒ๊ธธ์ˆ˜๋„ ์žˆ๊ณ , ๋ ˆ์ด์–ด๋ณ„ ์—ฐ์‚ฐ๋Ÿ‰์ด ๋‹ค๋ฅด๋ฉด GPU๋งˆ๋‹ค ๋ถ€ํ•˜ ๋ถˆ๊ท ํ˜•์ด ๋ฐœ์ƒํ•ด H/W ๊ด€๋ฆฌ๊ฐ€ ์–ด๋ ค์›€ (20) AI ๋ชจ๋ธ์ด ์ปค์งˆ์ˆ˜๋ก ์—ฌ๋Ÿฌ ๊ฐ€์†๊ธฐ๋ฅผ ๋ฌถ๋Š” ํด๋Ÿฌ์Šคํ„ฐ๊ฐ€ ํ•„์š”ํ•˜๊ณ , ๊ทธ ์•ˆ์—์„œ DP/TMP/PMP ๊ฐ™์€ ๋ณ‘๋ ฌํ™”๊ฐ€ ํ•„์ˆ˜์  (21) ๊ทธ๋Ÿฐ๋ฐ ์ด ๋ฐฉ์‹๋“ค์€ ๋ชจ๋‘ GPU ๊ฐ„ ํ†ต์‹ ์„ ๋งŽ์ด ์š”๊ตฌ. ๋Œ€์—ญํญ์ด ๋ณ‘๋ชฉ์ธ ์ด์œ  (22) ๊ธฐ์กด GPU ํด๋Ÿฌ์Šคํ„ฐ๋Š” ์—ฌ๋Ÿฌ GPU/์„œ๋ฒ„/๋ž™์ด ๋–จ์–ด์ ธ ์žˆ์Œ (23) ๊ทธ๋Ÿฌ๋‹ค ๋ณด๋‹ˆ GPU๋ผ๋ฆฌ ๋ฐ์ดํ„ฐ๋ฅผ ์ฃผ๊ณ ๋ฐ›์„ ๋•Œ ๊ฑฐ๋ฆฌ๋„ ๋ฉ€๊ณ , ์ง€์—ฐ๋„ ํฌ๊ณ , ์ „๋ ฅ๋„ ๋งŽ์ด ํ•„์š” (24) ๊ทธ๋Ÿฌ๋‚˜ Wafer Scale Chip์€ ์—ฌ๋Ÿฌ ์—ฐ์‚ฐ ์œ ๋‹›์„ ํ•˜๋‚˜์˜ ๊ฑฐ๋Œ€ํ•œ ์›จ์ดํผ ์œ„์— ํ›จ์”ฌ ๊ฐ€๊น๊ฒŒ ๋ถ™์ž„ (25) ์›จ์ดํผ ์Šค์ผ€์ผ์˜ ๋Œ€ํ‘œ์ฃผ์ž๋กœ๋Š” ๋ฏธ๊ตญ AI ๋ฐ˜๋„์ฒด ์Šคํƒ€ํŠธ์—… Cerebras๊ฐ€ ์žˆ์Œ. ๊ณง IPO (26) Cerebras์˜ ๋Œ€ํ‘œ ์ œํ’ˆ์€ WSE ์‹œ๋ฆฌ์ฆˆ (27) WSE๋Š” Wafer Scale Engine์˜ ์•ฝ์ž. ์›จ์ดํผ ์Šค์ผ€์ผ ๋‹จ์œ„์˜ ์ดˆ๋Œ€ํ˜• AI ๊ฐ€์†๊ธฐ๋ฅผ ์˜๋ฏธ (28) ํ˜„์žฌ NVIDIA์˜ GPU์ฒ˜๋Ÿผ ์ž‘์€ ์นฉ์„ ์—ฌ๋Ÿฌ ๊ฐœ ๋ฌถ๋Š” ๋ฐฉ์‹์ด ์•„๋‹ˆ๋ผ, 8์ธ์น˜๊ธ‰ ์‹ค๋ฆฌ์ฝ˜ ์›จ์ดํผ ์ „์ฒด๋ฅผ ํ•˜๋‚˜์˜ ๊ฑฐ๋Œ€ํ•œ AI ํ”„๋กœ์„ธ์„œ์ฒ˜๋Ÿผ ์“ฐ๋Š” "์›จ์ดํผ ์Šค์ผ€์ผ"์˜ AI ๋ฐ˜๋„์ฒด (29) ์ฆ‰, GPU ํด๋Ÿฌ์Šคํ„ฐ๋ฅผ ์นฉ ํ•˜๋‚˜ ์•ˆ์— ์ตœ๋Œ€ํ•œ ์ง‘์–ด ๋„ฃ์–ด์„œ ํ†ต์‹  ๋ณ‘๋ชฉ์„ ์ค„์ด๋ ค๋Š” ์•„ํ‚คํ…์ฒ˜ ์‹œ๋„๋ฅผ ์ง€ํ–ฅํ•˜๊ณ  ์žˆ์Œ (30) Cerebras๋Š” ์›จ์ดํผ ์Šค์ผ€์ผ ํ†ตํ•ฉ์„ ํ†ตํ•ด 1) ํ›จ์”ฌ ๋” ๋น ๋ฅธ ๋ฉ”๋ชจ๋ฆฌ๋ฅผ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๊ณ , 2) ์ˆ˜์ฒœ ๊ฐœ์˜ GPU๋ฅผ ์—ฐ๊ฒฐํ•˜๊ธฐ ์œ„ํ•ด ํ•„์š”ํ•œ ์Šค์œ„์น˜/๋ผ์šฐํ„ฐ ๋ฐ ๊ทธ์— ์ˆ˜๋ฐ˜ํ•˜๋Š” ์—„์ฒญ๋‚œ ๋ณต์žก์„ฑ์„ ํ”ผํ•  ์ˆ˜ ์žˆ๋‹ค๊ณ  ๊ฐ•์กฐํ•˜๊ณ  ์žˆ์Œ (31) ๋˜ํ•œ ํ˜„์žฌ๊นŒ์ง€ ๊ฐ€์žฅ ๋น ๋ฅธ ๋ฉ”๋ชจ๋ฆฌ์ธ 3) SRAM์„ ์ถฉ๋ถ„ํžˆ ๋งŽ์ด ๋„ฃ์„ ์ˆ˜ ์žˆ๋Š” ๊ฑฐ๋Œ€ํ•œ ๊ณต๊ฐ„์„ ํ™•๋ณดํ•˜๋Š” ์•„ํ‚คํ…์ฒ˜๋กœ ์นฉ์„ ์„ค๊ณ„ (32) B200 ์นฉ๋ณด๋‹ค 58๋ฐฐ ๋” ํฐ ์นฉ์„ ๋งŒ๋“ค์–ด, B200 ๋Œ€๋น„ 1) 2,625๋ฐฐ ๋” ๋†’์€ ๋ฉ”๋ชจ๋ฆฌ ๋Œ€์—ญํญ์„ ์ œ๊ณต, 2) SRAM์ด ์ œ๊ณตํ•˜๋Š” ๋ง‰๋Œ€ํ•œ ๋Œ€์—ญํญ์˜ ์ด์ ์„ ๋ˆ„๋ฆด ์ˆ˜ ์žˆ์Œ (33) ์ด๋ฅผ ํ†ตํ•ด ๋น„์‹ธ๊ณ , ์ „๋ ฅ์†Œ๋ชจ๊ฐ€ ํฐ ์Šค์œ„์น˜์™€ ๋ณต์žกํ•œ ์ผ€์ด๋ธ” ๋“ฑ GPU ์†”๋ฃจ์…˜์„ ๊ตฌ์ถ•ํ•˜๋Š” ๋ฐ ํ•„์š”ํ•œ ๋„คํŠธ์›Œํ‚น ์Šคํƒ ์ƒ๋‹น ๋ถ€๋ถ„์˜ ํ•„์š”์„ฑ, ๋น„์šฉ, ๊ด€๋ฆฌ ๋ณต์žก์„ฑ, ์ „๋ ฅ ์†Œ๋ชจ๋ฅผ ์ค„์ผ ์ˆ˜ ์žˆ๋Š” ์žฅ์ ์„ ์–ดํ•„ํ•˜๊ณ  ์žˆ์Œ (34) ์ฆ‰, Cerebras๋Š” AI๊ณ„์˜ "์›จ์ดํผ ์Šค์ผ€์ผ ์†”๋ฃจ์…˜"์˜ ๋Œ€ํ‘œ ์ฃผ์ž (35) Cerebras๋Š” ๋ฐ˜๋„์ฒด ์ œ์กฐ ๊ณต์žฅ์—์„œ ์›จ์ดํผ ๋ ˆ๋ฒจ์—์„œ ์„œ๋กœ ๋…๋ฆฝ์ ์ด๋˜ ๋‹ค์ด๋“ค์„ ์—ฐ๊ฒฐํ•˜๋Š” ๊ธฐ์ˆ ์„ ๋ฐœ๋ช… โ–  ํŒŒ์šด๋“œ๋ฆฌ์˜ ๊ฒฝ์šฐ TSMC ํŒŒ์šด๋“œ๋ฆฌ๋ฅผ ์‚ฌ์šฉ(WSE-2: 7nm, WSE-3: 5nm) (36) ์ด ๋‹ค์ด ๊ฐ„ ์—ฐ๊ฒฐ์€ ๋‹น์‚ฌ์˜ ์ „์ฒด ์ œ์กฐ ๊ณต์ •์— ํ†ตํ•ฉ๋œ ๋…์ž์ ์ธ "Cross-Reticle Connection[ํฌ๋กœ์Šค ๋ ˆํ‹ฐํด ์—ฐ๊ฒฐ]"์„ ์‚ฌ์šฉ โ–  ๋ฐ˜๋„์ฒด ๋ฆฌ์˜ ์žฅ๋น„๋Š” ํ•œ ๋ฒˆ์— ์ฐ์„ ์ˆ˜ ์žˆ๋Š” ๋ฉด์ , ์ฆ‰ ๋ ˆํ‹ฐํด ํ•œ๊ณ„๊ฐ€ ์žˆ์Œ. Cerebras๋Š” ์—ฌ๋Ÿฌ ๋…ธ๊ด‘ ๊ตฌ์—ญ์„ ์ด์–ด ๋ถ™์—ฌ, ์›๋ž˜ ๋…๋ฆฝ์ ์ด์–ด์•ผ ํ•  ๋‹ค์ด๋“ค์„ ์›จ์ดํผ ์ˆ˜์ค€์—์„œ ์ „๊ธฐ์ ์œผ๋กœ ์—ฐ๊ฒฐ โ–  ์›จ์ดํผ ์ „์ฒด๋ฅผ ํ•˜๋‚˜์˜ ์นฉ์ฒ˜๋Ÿผ ์“ฐ๋ฉด ๊ฒฐํ•จ ๊ฐ€๋Šฅ์„ฑ์ด ์ปค์ง. Cerebras๋Š” ๊ฒฐํ•จ์„ ์™„์ „ํžˆ ํ”ผํ•˜๊ธฐ๋ณด๋‹ค, ๊ฒฐํ•จ ์˜์—ญ์„ ์šฐํšŒํ•˜๊ณ  ์ •์ƒ ์˜์—ญ์œผ๋กœ ๋Œ€์ฒดํ•ด ๊ณ„์† ๋™์ž‘ํ•˜๋Š” ๊ตฌ์กฐ๋ฅผ ์ง€ํ–ฅ(๊ฒฐํ•จ์„ ํ”ผํ•˜๊ธฐ๋ณด๋‹ค๋Š” ๊ฒฌ๋””๋„๋ก ์„ค๊ณ„ํ–ˆ๋‹ค๋Š”๋ฐ, ์ •ํ™•ํžˆ ๋ฌด์Šจ ๋ง์ธ์ง€๋Š” ์ž˜ ๋ชจ๋ฅด๊ฒ ์Œ) (37) Cerebras๋Š” ๋‹จ์ˆœํžˆ AI ์นฉ์„ ๋””์ž์ธํ•˜๋Š” ํšŒ์‚ฌ๊ฐ€ ์•„๋‹ˆ๋ผ, ๊ถ๊ทน์ ์œผ๋กœ๋Š” 1) ์›จ์ดํผ ์Šค์ผ€์ผ ์นฉ ๋””์ž์ธ โ†’ 2) CS-3 ์‹œ์Šคํ…œ ์ œ์ž‘ โ†’ AI ์ถ”๋ก  ์ตœ์ ํ™” ์ปดํ“จํŒ… โ†’ ์†Œํ”„ํŠธ์›จ์–ด ์Šคํƒ๊นŒ์ง€ ํ†ต์งธ๋กœ ํŒŒ๋Š” ์ „๋žต โ–  CS-3 ์‹œ์Šคํ…œ: ์—ดํŒฝ์ฐฝ ๋Œ€์‘ ํŒจํ‚ค์ง•, ๊ท ์ผํ•œ ์ „๋ ฅ ๊ณต๊ธ‰, ์ „์ฒด ํ‘œ๋ฉด ๋ƒ‰๊ฐ ๊ธฐ์ˆ ์„ ํ†ตํ•ด ์›จ์ดํผ ์Šค์ผ€์ผ ์นฉ์„ ์•ˆ์ •์ ์œผ๋กœ ๊ตฌ๋™ โ–  AI ์ปดํ“จํŒ…: ์—ฌ๋Ÿฌ ๋Œ€์˜ CS-3์™€ ํด๋Ÿฌ์Šคํ„ฐ ์†Œํ”„ํŠธ์›จ์–ด, AI ์‹คํ–‰ ํ™˜๊ฒฝ์„ ํ•จ๊ป˜ ์ œ๊ณตํ•ด ๊ณ ๊ฐ์˜ GPU ํด๋Ÿฌ์Šคํ„ฐ ์„ค๊ณ„ยทํŠœ๋‹ ๋ถ€๋‹ด์„ ์ถ•์†Œ โ–  S/W ์Šคํƒ: CSoft ์ปดํŒŒ์ผ๋Ÿฌ๋Š” PyTorch ๋ชจ๋ธ์„ WSE์— ์ž๋™ ๋งคํ•‘ํ•ด CUDA ๊ฐ™์€ ์ €์ˆ˜์ค€ ํ•˜๋“œ์›จ์–ด ์–ธ์–ด ๋ถ€๋‹ด์„ ์ค„์ž„ - [Implication] (1) NVIDIA๊ฐ€ GPU+HBM +NVLink+์„œ๋ฒ„ +CUDA ์ƒํƒœ๊ณ„๋กœ ์‹œ์žฅ์„ ์žฅ์•…ํ–ˆ๋‹ค๋ฉด, Cerebras๋Š” ๊ทธ ๋ฐ˜๋Œ€ํŽธ์—์„œ ์ดˆ๋Œ€ํ˜• ๋‹จ์ผ ์นฉ+์˜จ์นฉ ๋ฉ”๋ชจ๋ฆฌ+์ดˆ๊ณ ๋Œ€์—ญํญ+๋‹จ์ˆœํ•œ ํ”„๋กœ๊ทธ๋ž˜๋ฐ ๋ชจ๋ธ๋กœ ์ฐจ๋ณ„ํ™” ์ „๋žต์„ ๊ตฌ์ƒํ•˜๊ณ  ์žˆ์Œ (2) ํŠนํžˆ ์•ž์œผ๋กœ AI ์‚ฌ์šฉ๋Ÿ‰์ด ํ•™์Šต๋ณด๋‹ค ์ถ”๋ก  ์ค‘์‹ฌ์œผ๋กœ ์ปค์งˆ ๊ฒฝ์šฐ, ์ค‘์š”ํ•œ ์ง€ํ‘œ๋Š” ๋‹จ์ˆœ FLOPS๊ฐ€ ์•„๋‹Œ 1)์‘๋‹ต ์†๋„, 2)Tokens๋‹น ๋น„์šฉ, 3)๊ธด ์ปจํ…์ŠคํŠธ ์ฒ˜๋ฆฌ ์„ฑ๋Šฅ, 4)๋™์‹œ ์‚ฌ์šฉ์ž ์ฒ˜๋ฆฌ ๋Šฅ๋ ฅ, 5)์ „๋ ฅ ๋Œ€๋น„ ์ฒ˜๋ฆฌ๋Ÿ‰ ๋“ฑ์˜ ์š”์†Œ๋กœ ๋‹ค๋ณ€ํ™” ๋จ (3) ์ด๋Ÿฐ ์˜์—ญ์—์„œ Cerebras๊ฐ€ ์‹ค์ œ๋กœ ์šฐ์œ„๋ฅผ ์ž…์ฆํ•˜๋ฉด, GPU ์ค‘์‹ฌ AI ์ธํ”„๋ผ ์‹œ์žฅ์—์„œ ํŠน์ • ์ถ”๋ก  ์›Œํฌ๋กœ๋“œ์— ๋Œ€ํ•œ ๋Œ€์ฒด์žฌ๊ฐ€ ๋  ์ˆ˜ ์žˆ์Œ

๋ฐ›) KTX ์š”๊ธˆ ์ธํ•˜๋ฅผ ์œ„ํ•ด ์ •๋ถ€๋Š” ์ˆ˜์ฐจ๋ก€ ์›๊ฐ€ํ‘œ๋ฅผ ์ œ์‹œํ•˜๋„๋ก ์ฝ”๋ ˆ์ผ์— ์š”๊ตฌ๋ฅผ ํ•ด์™”๋Š”๋ฐ ๊ทธ๋Ÿฐ์ผ์ด ์žˆ์„๋•Œ๋งˆ๋‹ค ์ฝ”๋ ˆ์ผ ๋…ธ์กฐ๋Š” ์—ฌ์•ผ ์ „๋ฐฉ์œ„๋กœ ๋กœ๋น„ํ•˜๋ฉด์„œ ๊ฑฐ๋ถ€ํ•ด์™”์Œ. ๋นก์นœ ์ •๋ถ€๊ฐ€ SRT๋ฅผ ๋งŒ๋“ค์–ด์„œ 3๋…„๊ฐ„ ์šด์˜์„ ํ•ด๋ณด๊ณ  ๊ฑฐ๊ธฐ์„œ ๋‚˜์˜จ ์›๊ฐ€๋ฅผ ํ™œ์šฉํ•ด์„œ KTX์š”๊ธˆ์„ ์žฌ์กฐ์ •ํ•˜๊ธฐ๋กœ ํ–ˆ๋Š”๋ฐ ๋งˆ์นจ ์ฝ”๋กœ๋‚˜๊ฐ€ ํ„ฐ์ง€๋Š” ๋ฐ”๋žŒ์— ํ‰๊ท ์ ์ธ ์ˆ˜์น˜๋ฐ์ดํ„ฐ๋ฅผ ํ™•๋ณดํ•  ์ˆ˜๊ฐ€ ์—†์—ˆ์Œ. ์ฝ”๋กœ๋‚˜ ์ข…๋ฃŒ์ดํ›„ ๋‹ค์‹œ ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘์„ ์ง„ํ–‰์ค‘์ธ๋ฐ ์ด๊ฒŒ ์™„์„ฑ๋  ๊ฒฝ์šฐ ํ˜„์žฌ ํญ๋ฆฌ์— ๊ฐ€๊นŒ์šด KTX์š”๊ธˆ์€ ํฐ ํญ์œผ๋กœ ์‚ญ๊ฐ์ด ๊ฐ€๋Šฅํ•  ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒ๋˜๊ณ  ์ฝ”๋ ˆ์ผ ์—ญ์‹œ ๊ตฌ์กฐ์กฐ์ •(์ธ๋ ฅ๊ฐ์ถ•)์ด ๋ถˆ๊ฐ€ํ”ผํ•œ ์ƒํ™ฉ.

์ตœ๊ทผ 4๋ถ„๊ธฐ ๊ธฐ์ค€ PER 22.4 ์ด์ œ ์–˜๋ณด๋‹ค ๋น„์‹ผ ํ…Œํฌ๊ฐ€ ์‹œ์žฅ๋ฐ”๋‹ฅ์— ๋„๋ฆฌ๊ณ  ๋„๋ ธ์Œ

๊ฒฝ์Ÿํ•˜๋Š” ๊ฑด ์–ด๋А ์„นํ„ฐ๋‚˜ ๋งˆ์ฐฌ๊ฐ€์ง€์ธ๋ฐ ์œ ๋… ๋ฐ”์ด์˜ค๊ฐ€ ๊ฐ™์€ ์„นํ„ฐ ๋‚ด์—์„œ ๋‚จ ์ž˜ ๋˜๋Š” ๊ผด์„ ๋ชป ๋ณด๋Š” ๊ฒฝํ–ฅ์ด ์žˆ์Œ...

๋ฐ”์ด์˜ค ์ฃผ์ฃผ ๊ฐ„ ์ƒํ˜ธํ˜์˜ค๋Š” ๋””ํดํŠธ๊ฐ’

์ฃผ๋ฆฐ์ด ๊ฐœ์†Œ๋ฆฌํ•˜๋Š” ์ฑ„๋„ - Estadรญsticas y analรญtica del canal de Telegram @dogrini