Continuous Learning_Startup & Investment

저는 스타트업, 특히나 사람들의 습관과 문화를 바꿔낼 수 있는 임팩트 스타트업의 여정은 자기 자신, 그리고 같이 일하는 동료들, 투자자들, 이용자들, 소비자들 그리고 광고주들을 포함한 생태계 혹은 우리 사회 전체를 설득해 나가는 여정이라고 생각합니다. 그냥 우연히 멋진 서비스를 만들거나 기술을 만들어서 투자를 유치했다고 성공하는 것이 아니라, 그것을 바탕으로 그 서비스의 가치, 참여하는 생태계 사람들에게 주는 가치, 사회에 주는 가치를 꾸준히 설명하고 설득할 수 있어야 비로소 의미있는 고객이 생기고 의미있는 투자자가 생기고, 사회가 응원하는 진정한 임팩트 스타트업으로 갈 수 있고, 그런 기업이야말로 사람들의 습관과 문화를 바꿀 수 있습니다. 사람들이 습관과 문화를 바꾸는 것이 정말 어려우ㅗ니까요, Reddit과 헤어지면서 돌아보니, 제가 미디어 기업을 직접 했을때도 그렇고, 투자를 했을때도 그렇고 조금 더 오래걸리더라도 정말 끈기를 가지고 설득을 해봤으면 그 결과가 어떻게 달라졌을까 하는 생각이 많이 들었습니다. 그리고 우리 사회도 도전을 하는 사람들이 지치지 않고 가치있는 서비스를 만들어내고 가치있는 생태계를 만들어낼 수 있도록 좀 끈기를 가지고 지켜보면서 그 도전하는 사람들에게 충분한 시간과 기회를 주고, 조금 더 마음을 열면 좀 다른 생태계가 생길 수 있지 않을까 하는 생각이 들었습니다. 아주 어려운 일입니다만, 쉬운 문제보다는 어려운 문제를 풀어야 보상이 크기도 하고, 미디어가 워낙 우리 일상에 끼치는 영향이 큰지라 누군가는 풀어 내야만 하는 문제입니다. 몇몇 회사가 실패했다고 해서 풀 수 없는 문제가 아니라, 조금 더 해답에 가까와지는 것이 아닐까 하는 생각을 합니다. 풀려고 도전했다 실패한 혁신기업가, 그리고 그 동료들에게 경의를 표하는 한편, 새롭게 도전하는, 그리고 지금도 도전하고 있는 많은 혁신기업가들과 그 동료들을 응원합니다.

이재웅님. 저는 우리 미디어 생태계가 잘 작동한다고 생각하지 않습니다. 물론, 인터넷 이전의 1990년대에 비해서는 미디어 혁명이라고 할 만큼 큰 변화가 만들어졌지만, 변화된 환경에서도 여전히 생태계 참여자들마다 가져가는 가치는 충분하지 않다고 생각합니다. 조금 더 구체적으로 이야기하자면, 긍정적인 부분은 지금까지 통제된 시스템에서 벗어나 누구나 미디어 생산자가 되고 자신이 원하는 미디어를 언제 어디서나 잘 소비할 수 있게 되었다는 점이 혁명적이겠지만, 부정적인 부분은 생태계 전체가 과연 잘 작동해서 가치있는 컨텐츠를 생산하는 사람들이 적절하게 보상받고, 그 컨텐츠를 소비하기 위해 지불 (자신의 관심이나 돈을 교환해서 얻는)한 사람들이 그 가치에 만족하느냐 하는 부분이 아닐까 싶습니다. 저는 잘 작동하지 않는 현재의 미디어 생태계를 다시 고쳐내는 가장 쉬운 방법은 기존의 미디어의 개선을 통해서가 아니라, 미디어 소비자의 습관뿐만 아니라 미디어 생산까지 포함한 새로운 생태계로 진화해서, 새로운 문화가 될 수 있는 시스템의 등장으로만 풀 수 있다고 생각합니다. 그런데, 이러한 시스템이나 서비스는 하루 아침에 신데렐라처럼 등장해서 모든 사람들의 습관과 문화를 바꾸는 생태계 진화를 이루어내지는 못합니다. 우리에게 이미 식상한 서비스라고 느껴지는 페이스북, 유튜브, 트위터도 20년의 세월동안 부침을 겪으면서 여러 문제를 만들어내기도 하고 해결하기도 하면서 생태계로 진화해왔습니다. 물론 한국의 네이버나 카카오, 다음같은 미디어 서비스도 마찬가지였죠. 혁신 기업가와 투자자, 그리고 그 생태계에 참여하는 사람들의 노력과 견제가 가치있는 서비스로 진화시키기도 하고, 시대를 못 따라가는 미디어로 가치를 잃어가도록 되기도 합니다. 퍼블리에 이어 두번째, 올해 헤어진 미디어 회사 리뷰는 창업한지 19년된 Reddit입니다. 투자한지 10여년만에 뉴욕증시에 기업공개 하고 6개월 뒤에 공모가의 두배에 가까운 가격으로 헤어졌으니, 결과적으로 성공적인 투자라고 할 수 있겠습니다만 더 기쁜 것은 그냥 고양이 사진 많이 올라오던 게시판에 불과했던 서비스가 성공적인 새로운 미디어로 (트래픽이나 매출등 여러 가치에서) 발돋움 해서 많은 사람들의 습관과 문화를 바꿔냈고, 저도 거기에 동참할 수 있었다는 것입니다. 하지만, 그 과정에서는 우여곡절이 많았습니다. 미디어 비즈니스가 이렇게 어렵다는 이야기를 하는 것이 아니라 꿈과 희망을 주어서 실패를 걱정하지 말고 도전하게 만들고자 하는 게 제 속마음입니다만, 실제로는 어려운 환경에서 악전고투하는 스타트업들이 더 많을 거라서 그들이 절망하지 않고 기운 내 조금 더 도전을 하게 하고자 하려면 여러 어려움 속에서도 성공한 Reddit의 성공케이스를 좀 더 들여다보면 좋지 않을까 싶어서 이야기를 해 봅니다. Reddit은 지금은 일주일에 3억명이 넘는 사람들이 방문하고, 매출은 올해 1조원을 돌파할 것으로 예상되고 카카오의 기업가치와 엇비슷한 16조원 내외로 시장에서 평가받으면서도 여전히 연간 50%넘는 트래픽이나 매출 성장을 하고 있는 미디어 회사입니다. 게시판이 중심인 이 회사가 왜 미디어 회사냐고 생각하실 분들이 계시겠지만, 컨텐츠로 사람들과의 접점을 만들어 내는 회사들을 광의의 미디어 회사로 분류하고, 페이스북이나 유튜브, 네이버와 마찬가지로 제 관점에서는 미디어 회사입니다. 제가 다음에서 카페라는 서비스를 99년에 처음 만들었을때 사실 꿈꾸던 서비스는 Reddit같은 서비스였습니다. 제가 파리에서 공부하던 시절의 신선한 충격중 하나는 골목마다 있는 카페 문화였거든요. 그 카페들은 누구에게나 열려있고, 사람들은 모여서 동네소식도 나누고, 같이 스포츠경기도 보고, 정치,경제 이야기같은 특정 주제로 이야기도 하고, 체스도 두고, 시간을 보내는 오프라인 미디어였습니다. 그걸 온라인으로 바꿔내 보려고 했던게 다음카페였는데요, 제 꿈과는 다르게 한국의 문화에 잘 적응하려다보니 가입형, 커뮤니티형, 준폐쇄형 클럽처럼 되어서 그게 다음카페가 성공한 요인이 되었지만, 정보의 소통의 장으로서의 미디어로서의 가치는 갖기 힘든 Social Media가 아닌 Social Networking Service가 되어 버렸죠. 저는 Reddit처럼 사람들이 주제에 따라서 들어가서 대화에 끼기도 하고, 나중에 누구나 필요한 정보는 살펴볼 수도 있는 미디어 서비스가 목표였고, 그 당시 기세였다면 길게 보고 그런 습관과 문화를 만들어 나갈 수도 있었을텐데, 상장된 기업을 운영하는 기업가로서 그렇게 길게 보고 가는 결정을 하지 못했었죠. 그런 아쉬움에 Reddit은 초기부터 지켜보고 있었고, 투자할 기회가 생기자마자 투자를 하고 응원했던 그런 미디어 서비스였습니다. 이런 화려해보이는 Reddit은 지금으로부터 20여년 전에 대학생 두명이 창업해서 너무 빠르게 성장하는 서비스를 감당못하고 1년여 뒤에 Conde Nast, Vogue등으로 유명한 전통 미디어 재벌그룹 Conde Nast/Advanced에 100억 조금 넘는 돈에 매각하게 됩니다. 그래서 전통 미디어 회사의 완전 자회사로 6년여를 보냈는데요, 보통은 이런 조합이 성공하지 못하지만, 수많은 지역신문과 여러 종류의 잡지사, 방송사등을 가지고 있는 Conde Nast 그룹은 조금 다르게 접근합니다. 전통 미디어 자산이나 인력과의 결합으로 시너지를 나게 하는 것이 아니라 완전히 독립적으로, 하지만 가치있는 정보 유통이라는 미디어의 기본 자산은 지키면서 테크 플랫폼회사로 6년여를 키워 갑니다. 이게 다른 게시판들이 혐오와 편향으로 얼룩지고, 고양이 사진이나 별 가치 없는 정보의 유통으로 사람들의 피로도를 가중시키며 미디어로서의 역할을 잘 못할 때, 오히려 중심을 잡고 조금 느리지만 가치있는 미디어로의 진화를 하게 됩니다. 아마도 다양한 수많은 전통 미디어 회사들을 독립적으로 경영하는 미디어그룹이어서 가능했던 진화가 아닐까 합니다. Reddit은 언론/표현의 자유의 성지를 추구하는 것이 아니라 모든 사용자들이 열려 있고 솔직한 대화를 할 수 있는 장을 추구한다는 Mission Statement도 그 때 자리잡혔고, 일부 모더레이터들과 사용자들의 저항에도 불구하고 혐오나 편향 발언이나 발언자는 퇴출시키고 심지어는 일부 sub 게시판은 폐쇄까지도 하면서, 다른 게시판들과는 차별되는 소셜 미디어로서의 자리를 잡아가게 됩니다. 그러다가 2014년 즈음 이 서비스의 빠른 성장을 확신한 Conde Nast에서 대규모 투자를 하되, 스타트업 공식으로 해야 이 성장을 만들 수 있겠다는 생각에 벤처캐피탈 투자유치를 하게 되면서 그 전까지의 하위문화 게시판에서 본격적인 미디어로 진화하게 됩니다. 그 뒤에 수천억원의 투자를 받고 다시 10여년이 지나 올해 뉴욕증시에 기업공개까지 하게 되었는데요, 그 사이 우여곡절은 아주 많았습니다. 경영진도 세차례나 바뀌었고, 모더레이터, 사용자들과 혐오와 편향에 대한 기준과 표현의 자유, 프라이버시등에 대한 엄청난 저항과 다툼도 있었고, 전통미디어회사들과의 갈등도 있었고, 수익모델이 제대로 만들어지지 않아서 광고와 프리미엄구독, AI 학습용으로 판매등으로 여러번 실험하고 진화하는 과정에서도 이용자들의 불만과 저항, 보이콧 등에 맞닥뜨리기도 했습니다. 그런데 이러한 서비스나 회사가 문닫을 뻔한 어려움 속에서도 거버넌스는 돋보였습니다. 스타트업식의 문제해결과 전통미디어그룹의 미디어에 대한 가치지향과 뚝심이 잘 조화를 이룬데다가, 투자자를 설득해서 대규모 투자를 끌어내어 문제를 해결할 시간을 벌고, 이용자들 그리고 사회와는 바람직한 방향에 대한 꾸준한 설득과 타협, 그리고 모더레이터들과는 수익분배, 주식배분등 여러가지 모델을 실험하면서 설득하고, 끝내 답을 찾아서 지금은 AI가 학습해야할 세상의 모든 살아있는 정보와 지식이 있는 곳이 되어서 그 가치를 입증하고 있습니다. 많은 게시판이나 커뮤니티가 폐쇄성이나 편향성, 혹은 표현의 자유라는 명목하게 쓰레기장처럼 되어버리는 와중에 거의 유일무이한 사용자들이 직접 만들어내는 가치있는 정보와 컨텐츠로 사용자들과의 접점을 확대해 나가는 미디어 서비스로서의 자리를 잡아간 것입니다. 모더레이터를 포함한 이용자들과의 꾸준한 커뮤니케이션으로 사람들의 습관과 문화를 바꿔내서 1조원이 넘는 매출을 만들어내면서 사회적 책임감도 가져가는 진정한 미디어 기업이 된 것이죠.

https://x.com/StockMKTNewz/status/1838998703727620578 No language barrier anymore

https://ia.samaltman.com/ • 앞으로 몇 십 년 안에, 우리 조부모들에게 마법처럼 보였을 일들을 할 수 있게 될 것임. • 이 현상은 새로운 것이 아니나, 새롭게 가속화될 것임. • 사람들은 시간이 지남에 따라 극적으로 더 유능해짐. • 우리는 이미 선조들이 불가능하다고 믿었을 일들을 지금 해낼 수 있음. • 우리가 더 유능해진 것은 유전적 변화 때문이 아님. • 사회의 인프라가 우리 개개인보다 훨씬 더 스마트하고 유능해졌기 때문임. • 중요한 의미에서, 사회 자체가 일종의 고급 지능 형태임. • 우리의 조부모들과 그 이전 세대들은 위대한 것들을 만들고 이루어냄. • 그들은 우리 모두가 혜택을 받는 인류 진보의 발판을 만드는 데 기여함. • AI는 사람들에게 어려운 문제를 해결할 도구를 제공할 것임. • 우리 스스로는 알아내지 못했을 새로운 지지대를 그 발판에 추가하는 데 도움을 줄 것임. • 진보의 이야기는 계속될 것이며, 우리 아이들은 우리가 할 수 없는 일들을 할 수 있게 될 것임. • 한 번에 모든 일이 일어나지는 않을 것임. • 곧 AI의 도움으로 우리 혼자서는 할 수 없었던 일들을 훨씬 더 많이 해낼 수 있게 될 것임. • 결국 우리 각자가 상상할 수 있는 거의 모든 것을 만들어낼 수 있는 가상의 전문가들로 구성된 개인 AI 팀을 갖게 될 것임. • 우리 아이들은 어떤 주제든, 어떤 언어로든, 필요한 속도로 개인화된 지도를 제공할 수 있는 가상 튜터를 갖게 될 것임. • 더 나은 의료, 누구나 상상할 수 있는 모든 종류의 소프트웨어 제작 능력 등에 대해 비슷한 아이디어를 상상할 수 있음. • 이러한 새로운 능력으로, 오늘날 상상할 수 없는 정도의 공동 번영을 누릴 수 있을 것임. • 미래에는 모든 사람의 삶이 현재 누구의 삶보다도 나아질 수 있음. • 번영만으로 반드시 사람들을 행복하게 만들지는 않음. • 그러나 전 세계 사람들의 삶을 의미 있게 개선할 것임. • 인류 역사를 좁은 시각으로 보면, 수천 년간의 과학적 발견과 기술 진보가 축적되어 왔음. • 우리는 모래를 녹이고, 불순물을 추가하고, 놀라운 정밀도로 극도로 작은 규모로 배열하여 컴퓨터 칩을 만들어냄. • 이를 통해 점점 더 유능한 인공지능을 만들어내는 시스템을 갖게 됨. • 이것이 지금까지의 모든 역사에서 가장 중대한 사실로 판명될 수 있음. • 몇 천 일 안에 초지능을 갖게 될 가능성이 있음. • 더 오래 걸릴 수도 있지만, 그곳에 도달할 것이라고 확신함. • 번영의 다음 단계로 나아가는 문턱에 서 있는 이유는 딥러닝이 작동했기 때문임. • 딥러닝이 작동했고, 규모에 따라 예측 가능하게 개선되었으며, 우리가 이에 더 많은 자원을 투입했기 때문임. • 인류는 모든 데이터 분포(또는 모든 데이터 분포를 생성하는 근본적인 "규칙")를 정말로, 진정으로 학습할 수 있는 알고리즘을 발견함. • 놀라운 정도의 정밀도로, 더 많은 컴퓨팅 능력과 데이터가 사용 가능할수록 사람들이 어려운 문제를 해결하는 데 더 도움이 됨. • 이에 대해 아무리 많은 시간을 생각해도, 이것이 얼마나 중요한지 완전히 내면화할 수 없음. • 아직 해결해야 할 세부사항이 많지만, 특정 과제에 주의를 빼앗기는 것은 실수임. • 딥러닝은 작동하며, 우리는 남은 문제들을 해결할 것임. • 앞으로 일어날 일들에 대해 많은 것을 말할 수 있지만, 주요한 점은 AI가 규모와 함께 개선될 것이라는 점임. • 이는 전 세계 사람들의 삶에 의미 있는 개선을 가져올 것임. • AI 모델은 곧 의료 조정과 같은 특정 작업을 우리를 대신해 수행하는 자율적인 개인 비서 역할을 하게 될 것임. • 나중에는 AI 시스템이 너무 좋아져서 더 나은 차세대 시스템을 만들고 전반적인 과학적 진보를 돕게 될 것임. • 기술은 우리를 석기 시대에서 농업 시대로, 그리고 산업 시대로 이끌어옴. • 여기서 지능 시대로 가는 길은 컴퓨팅 능력, 에너지, 인간의 의지로 포장되어 있음. • AI를 가능한 한 많은 사람들의 손에 넣으려면 컴퓨팅 비용을 낮추고 풍부하게 만들어야 함. • 이를 위해서는 많은 에너지와 칩이 필요함. • 충분한 인프라를 구축하지 않으면 AI는 매우 제한된 자원이 될 것임. • 그렇게 되면 전쟁의 원인이 되거나 주로 부자들의 도구가 될 수 있음. • 우리는 지혜롭게 행동해야 하지만 확신을 가지고 행동해야 함. • 지능 시대의 여명은 매우 복잡하고 극도로 중요한 도전과제를 가진 중대한 발전임. • 완전히 긍정적인 이야기가 되지는 않겠지만, 그 잠재적 이익이 너무나 크기 때문에 우리 앞에 놓인 위험을 헤쳐 나가는 방법을 알아내야 함. • 미래가 너무나 밝아서 지금 그것에 대해 글을 쓰는 것으로는 정의를 내릴 수 없다고 믿음. • 지능 시대의 정의적 특징은 엄청난 번영이 될 것임. • 점진적으로 일어나겠지만, 결국 기후 문제 해결, 우주 식민지 건설, 모든 물리학의 발견과 같은 놀라운 승리가 일상적인 일이 될 것임. • 거의 무한한 지능과 풍부한 에너지, 즉 위대한 아이디어를 생성하고 그것을 실현할 수 있는 능력을 가지면 상당히 많은 일을 할 수 있음. • 다른 기술들과 마찬가지로 단점도 있을 것이며, 우리는 지금부터 AI의 이점을 극대화하고 해악을 최소화하기 위해 노력해야 함. • 이 기술이 향후 몇 년 내에 노동 시장에 상당한 변화를 일으킬 것으로 예상함. • 그러나 대부분의 직업은 사람들이 생각하는 것보다 천천히 변할 것임. • 우리가 할 일이 없어질 것이라는 두려움은 없음. • 사람들에게는 창조하고 서로에게 유용하고자 하는 타고난 욕구가 있음. • AI는 우리가 자신의 능력을 전례 없이 증폭시킬 수 있게 해줄 것임. • 사회로서, 우리는 다시 확장하는 세계에 있게 될 것이며, 다시 한 번 포지티브섬 게임에 집중할 수 있을 것임. • 오늘날 우리가 하는 많은 일들이 수백 년 전 사람들에게는 하찮은 시간 낭비로 보였을 것임. • 그러나 아무도 과거를 돌아보며 가로등 점화원이 되기를 바라지 않음. • 만약 가로등 점화원이 오늘날의 세계를 볼 수 있다면, 주변의 번영이 상상할 수 없을 정도라고 생각할 것임. • 그리고 만약 우리가 오늘로부터 100년 후로 빨리 감기를 할 수 있다면, 우리 주변의 번영이 똑같이 상상할 수 없을 정도로 느껴질 것임.

그래서 이 부분에 대해, 몇 주 전에 우리가 이야기했던 것 중 하나는, 그리고 당신이 온라인에 이와 관련해 올렸던 것 같아요, 학습과 오락은 다르다는 점이에요. 학습은 원래 어려워야 하는 거죠. 그리고 이건 사회적 지위에 대한 문제와도 관련이 있다고 생각해요. 사회적 지위는 굉장한 동기부여가 되죠. 누가 우상인지를 말이에요. 이런 시스템을 통해 동기부여를 바꿀 수 있다고 생각하나요? 그게 만약 큰 걸림돌이라면, 당신은 사람들이 자신이 할 수 있는 능력 내에서 가능한 한 멀리 나아갈 수 있도록 자원을 제공하는 데 집중하고 있나요? 역사상 어느 때보다 더 영감을 주는 방향으로요? 아니면 사람들의 학습 의지를 바꾸고 싶나요, 혹은 최소한 그들이 스스로 학습의 길을 걷도록요? "원한다"는 단어는 굉장히 무거운 단어죠. Speaker C 저는 학습을 훨씬 더 쉽게 만들고 싶습니다. 그리고 사람들이 학습을 원하지 않을 가능성도 있을 겁니다. 예를 들어, 오늘날 사람들은 실용적인 이유로 학습을 원하죠. 예를 들어, 취업을 하고 싶어 한다든지, 그런 것이죠. 그래서 AGI 이전 사회에서는 교육이 유용하다고 생각합니다. 그리고 사람들은 경제적으로 성장하고 있기 때문에, 그 동기부여가 된다고 생각합니다. Speaker A 하지만 AGI 이후 사회에서는, 우리는. Speaker C 모두가 사회로 나아가는 겁니다. 저는 교육이 오락의 일부가 될 거라고 생각합니다. Speaker A 훨씬 더 큰 범위에서, 성공적인 결과까지 포함해서 말이죠. 단순히 콘텐츠가 스쳐 지나가는 것이 아니라요. Speaker C 네, 그렇게 생각합니다. Speaker A 결과라는 것은 이해, 학습, 새로운 지식을 기여할 수 있는 능력, 또는 어떻게 정의하든 그런 것들이죠. Speaker B 200년, 300년 전으로 돌아가 보면 과학을 하고 있던 사람들이 귀족이나 부유한 사람들이었다는 것은 우연이 아니라고 생각합니다. Speaker A 우리는 모두 귀족이 될 겁니다. Andrej와 함께 배우는 거죠. Speaker C 네, 저는 당신이 말한 것과 매우 유사하다고 생각합니다. 무언가를 배우는 것은 일종의 뇌를 위한 체육관에 가는 것과 같다고 느낍니다. 체육관에 가는 것처럼 느껴지죠. 체육관에 가는 것은 재미있어요. 사람들은 무게를 들어올리는 걸 좋아하죠. 물론 어떤 사람들은 체육관에 가지 않기도 하지만요. Speaker A 아니요, 아니요, 몇몇 사람들은 가지만, 그건 노력도 필요하죠. Speaker C 맞아요, 맞아요, 노력은 필요하지만 그 과정에서 즐거움도 있습니다. 그리고 그 대가로 여러 가지 방식으로 자기 자신에 대해 만족감을 느낄 수 있죠. 교육도 그와 비슷하다고 생각합니다. 그래서 교육이 재미있을 필요는 없다고 말한 거예요. 물론 어느 정도는 재미있지만, 그건 특정한 종류의 재미라고 해야 할까요. 저는 미래에는 사람들이 실제로 체육관에 많이 가기를 바랍니다. 신체적으로뿐만 아니라 정신적으로도요. 그리고 높은 교육 수준을 가진 사람들을 존경하게 되는 것이죠. 그게 제가 바라는 겁니다. Speaker A Eureka에 대해 마지막 질문을 하나 드려도 될까요? 첫 번째 코스의 대상이 누구일지 궁금해서요. Speaker C 첫 번째 코스의 대상은 주로 학부 수준의 과정으로 생각하고 있습니다. 기술 분야의 학부 과정을 하고 있는 사람들이 이상적인 대상일 것 같아요. 현재 우리가 목격하고 있는 것은 교육에 대한 낡은 개념입니다. 학교를 다니고 졸업한 후에는 일을 한다는 개념이죠. 하지만 기술이 매우 빠르게 변화하는 사회에서는 사람들이 학교로 자주 돌아오게 될 것입니다. 그래서 학부 수준의 과정이지만, 사실 나이에 관계없이 그 수준의 사람들이 모두 대상이 될 수 있습니다. 예시로 들면, 연령대가 매우 다양할 것으로 예상합니다. 하지만 주로 기술적인 분야에 관심이 있고 이를 제대로 이해하고 싶어 하는 사람들이 주요 대상이 될 것입니다. Speaker A 언제 그 코스를 수강할 수 있나요? Speaker C 올해 말쯤에는 개설할 수 있기를 바랐습니다. 그런데 지금 해야 할 일들이 쌓여서, 아마도 내년 초쯤이 될 것 같습니다. 정말 좋은 코스를 만들려고 노력 중이에요. 그만큼 시간이 좀 걸리네요. Speaker B 사실 그와 관련된 마지막 질문이 하나 있는데요. 만약 지금 어린아이들이 있다면, 그들이 유용한 미래를 위해 무엇을 공부해야 한다고 생각하시나요? Speaker C 제 생각에는 정답이 있고, 그 정답은 수학, 물리, 컴퓨터 공학 같은 학문이라고 봅니다. 제가 이렇게 말하는 이유는 그것들이 사고력을 기르는 데 도움을 주기 때문입니다. 사고력을 기르는 데 가장 좋은 핵심이 바로 이런 과목들이라고 생각해요. 물론 제 배경이 그렇기 때문에 이런 생각을 할 수도 있겠지만, 물리학 수업이나 다른 수업들이 제 사고 방식을 형성했다고 믿습니다. 일반적인 문제 해결 능력에도 아주 유용하고요. AGI 이전 세상에서도 유용하고, AGI 이후에도 다양한 역할을 수행할 수 있는 능력을 갖춘 인간이 필요하니까요. 그래서 이것이야말로 사람들이 공부해야 할 올바른 답이라고 생각합니다. 그 밖의 것들은 나중에 추가로 배울 수 있지만, 사람들이 집중력과 시간을 가장 많이 쏟을 수 있는 중요한 시기에는 이런 단순 조작이 많이 필요한 작업에 시간을 써야 한다고 봅니다. 기억력에 의존하는 작업보다는 말이죠. Speaker B 저도 수학 전공을 했는데, 뇌에 새로운 고랑이 파여지는 느낌이 들었어요. Speaker A 그렇죠. 나중에 그 고랑을 다시 파는 건 더 어렵죠. Speaker C 물론 다른 것들도 많이 추가하고 싶습니다. 다른 학문들에 반대하는 것은 아니에요. 다양한 학문이 있다는 것은 정말 아름다운 일이라고 생각합니다. 하지만 저는 그중 80%는 이런 과목들로 구성되어야 한다고 생각해요.

그것도 하나의 방법입니다. ITA 같은 거죠. 저는 주로 그것을 학생에게 다가가는 프런트엔드로 생각하고 있습니다. 그 AI가 실제로 학생과 상호작용하며 그들을 강좌로 이끌어가는 것입니다. 현재로서는 이것이 가능하지만 아직 실현된 건 없고, 정말 잘 만들 수 있다고 생각합니다. 시간이 지나면서 능력이 향상되면 여러 가지 방식으로 셋업을 리팩토링할 수 있을 것입니다. 저는 오늘날 AI 능력에 맞는 모델을 찾는 것을 좋아합니다. 그리고 많은 회사들이 현재 AI의 능력에 대한 직관적인 이해를 잘 못하고 있는 것 같아요. 그 결과, 그들은 때로는 너무 앞서 나가거나, 또는 충분히 야심 차지 않은 것들을 만들게 되죠. 그래서 저는 이게 오늘날 가능한 것들 중에서도 상당히 흥미롭고, 기대할 만한 부분이라고 생각합니다. Speaker A 제가 돌아가서 다시 이야기하고 싶은 부분이 있는데, 특히 당신의 배경과 우리가 현재 연구에서 어디쯤 있는지를 이해하는 측면에서 매우 영감을 주는 내용이라고 생각합니다. 우리는 학습 도구가 훨씬 더 좋아졌을 때, 인간의 학습 성과 한계가 어디까지인지 정확히 모릅니다. 최근 올림픽이 있었잖아요? 예를 들어, 지금의 육상 선수들이나 다른 스포츠에서 오늘날의 기록들은 10년 전보다 훨씬 나아졌습니다. 물론 약물 같은 걸 제외하고 말이죠. 왜냐하면 요즘에는 더 일찍 훈련을 시작하고, 프로그램도 다르고, 과학적 이해도 훨씬 나아졌으며, 기술도 발전했고, 장비도 좋아졌기 때문이죠. 당신이 말한 것처럼, 도구와 커리큘럼이 발전하면 인간은 훨씬 더 나아질 수 있다는 믿음은 정말 놀랍습니다. Speaker C 네. 저는 우리가 할 수 있는 것의 가능성조차 아직 제대로 탐구하지 못했다고 생각해요. 기본적으로 두 가지 차원이 있다고 보는데요. 첫 번째는 전 세계적으로 모든 사람이 정말 좋은 교육을 받게 하자는 글로벌화 차원이고, 두 번째는 개인이 얼마나 멀리 갈 수 있을까 하는 것이죠. 이 두 가지 모두 매우 흥미롭고 기대되는 부분입니다. Speaker B 보통 사람들이 1대1 학습에 대해 이야기할 때는 그 적응적 측면을 강조하는데, 이는 학습자의 수준에 맞춰 도전할 수 있는 환경을 의미하죠. 오늘날 AI로 그런 것을 할 수 있다고 생각하나요, 아니면 미래의 일일까요? 오늘날에는 주로 다중 언어와 도달 범위에 초점이 맞춰져 있는 것 같아요. Speaker C 그리고 전 세계적으로는 다른 언어 같은 것이 쉽게 접근할 수 있는 과제라고 생각합니다. 현재 모델들은 번역 기능이 상당히 뛰어나서 자료를 즉석에서 번역할 수 있을 정도로 좋습니다. 그래서 이런 점들이 아주 낮은 열매(low-hanging fruit)라고 할 수 있죠. 하지만 개인의 배경에 맞춘 적응성은 쉽게 해결할 수 있는 과제가 아니라고 생각합니다. 그렇지만 너무 멀리 있는 것도 아니죠. 이것은 분명 필요한 부분입니다. 왜냐하면 모든 사람이 같은 배경을 가지고 있지는 않기 때문이죠. 그리고 과거에 다른 분야에 익숙하다면, 이미 알고 있는 것들과 유사점을 만들어내는 것이 매우 교육적으로 강력합니다. 이것이 바로 우리가 활용해야 할 미션입니다. 하지만 이 지점은 분명 명확하지 않고 어느 정도 시간이 필요한 부분입니다. 쉬운 버전으로는 모델에 "나는 물리학을 알아"라고 프롬프트를 주는 것이 가까운 미래일 수 있습니다. 하지만 제가 말하는 것은 정말로 작동하는 것이지, 가끔 작동하는 데모가 아닙니다. 저는 진짜로 사람처럼 작동하는 것을 의미합니다. Speaker B 맞아요. 그래서 제가 적응성에 대해 물어본 거예요. 사람들은 각자 다른 속도로 배우고, 어떤 사람들은 어려워하는 부분이 다른 사람들에게는 그렇지 않기도 하잖아요. 반대의 경우도 마찬가지고요. 그런 맥락에서 어떻게 조정할 수 있을까가 중요한 문제라고 봅니다. 시간이 지나면서 그 사람의 강점이나 약점을 모델에 재도입하는 방식이 있을 수 있다고 생각합니다. Speaker C 그게 바로 AI 학습 시스템의 문제죠. 많은 기능들이 단지 프롬프트를 입력하면 나오는 수준입니다. 그래서 늘 데모는 나오지만, 실제로 제품으로 이어지느냐는 또 다른 문제입니다. 그래서 이 점에서 저는 데모는 가까이 있지만, 제품은 아직 멀리 있다고 말하고 싶어요. Speaker B 우리가 아까 이야기했던 것 중에 흥미롭다고 생각한 부분은 연구 커뮤니티에서의 '계보' 같은 것입니다. 특정 연구실에서 왔고 서로가 서로의 연구실 출신이라고 말하는 게 흔한 일이죠. 실제로 상당히 많은 노벨상 수상자들이 이전 노벨상 수상자의 연구실에서 일했던 경험이 있었습니다. 그래서 문화든 지식이든 아니면 브랜드든 어떤 것이 전파되고 있다는 느낌이 있죠. AI 교육 중심의 세계에서 이런 계보를 어떻게 유지할까요? 아니면 중요하지 않은 걸까요? 네트워크와 지식의 전파에 대해 어떻게 생각하나요? Speaker C 저는 사실 계보가 너무 중요시되는 세상에서 살고 싶지 않아요. 맞아요. 그래서 AI가 그 구조를 조금은 파괴할 수 있기를 바랍니다. 제한된 자원으로 문을 걸어 잠그는 것 같은 느낌이 있죠. "계보를 가진 사람은 제한적이다"라는 식으로요. 그런 면이 좀 있는 것 같아서 AI가 그걸 없애주길 바랍니다. Speaker A 그건 분명 일부분이죠. 실제 학습의 한 부분이면서도, 일종의 가문이기도 하니까요, 맞죠? Speaker C 맞아요. Speaker B 또한 이것은 집합의 문제이기도 하죠. 일종의 클러스터 효과입니다. 왜 대부분의 AI 커뮤니티가 베이 에어리어에 모여 있는지, 또는 왜 대부분의 핀테크 커뮤니티가 뉴욕에 있는지 같은 거죠. 저는 이게 정말 똑똑한 사람들이 공통의 관심사와 신념을 가지고 모이기 때문에 발생하는 현상이라고 생각합니다. 그들은 그 공통된 중심에서부터 확산되기 시작하고, 흥미로운 방식으로 지식을 공유하죠. 특히 젊은 층에서는 이러한 행동의 상당 부분이 온라인으로 전환된 것 같아요. Speaker C 그것의 한 측면은 교육적 측면이라고 생각해요. 오늘날 어느 커뮤니티의 일원이 된다면, 엄청난 양의 교육과 견습을 받게 되는데, 이는 매우 도움이 되고 그 분야에서 강력한 상태에 이를 수 있게 해줍니다. 다른 한 측면은 무엇에 동기 부여를 받는지, 무엇을 하고 싶은지에 대한 문화적 측면이라고 생각해요. 그 문화가 무엇을 중요시하고, 무엇을 숭배하는지, 말 그대로 어떤 것을 예찬하는지 말이죠. 예를 들어, 학계에서는 h-인덱스가 중요하죠. 모든 사람이 h-인덱스, 즉 논문을 얼마나 많이 발표했는지를 중요하게 생각해요. 저도 그 커뮤니티의 일원이었고, 그런 것을 봤어요. 그리고 이제 다른 곳에 와보니, 각 커뮤니티마다 다른 우상들이 있더군요. 이런 것이 사람들에게 동기를 부여하고, 그들이 어디에서 사회적 지위를 얻고, 실제로 무엇이 중요한지에 큰 영향을 준다고 생각합니다. 저는 슬로바키아에서 자라왔고, 거긴 또 아주 다른 환경이었어요. 캐나다에 있었을 때도 역시 아주 다른 환경이었죠. Speaker A 그곳에서는 뭐가 중요했나요? Speaker C 하키요. 죄송해요. Speaker A 고맙습니다. Speaker B 하키죠. Speaker C 예를 들어, 캐나다에서 저는 토론토 대학교에 다녔는데, 토론토는 창업하기 좋은 환경이 아니라고 생각합니다. 창업을 해야 한다는 생각조차 들지 않아요. 사람들이 그런 일을 하고 있지 않으니까요. 창업을 하는 친구들도 없고, 창업을 본받아야 한다는 생각조차 들지 않아요. 사람들은 창업자들에 대한 책을 읽고 그들을 이야기하지도 않아요. 단지 목표나 관심사가 아닌 거죠. 대신 모든 사람들이 어디에서 인턴십을 하고 있는지, 나중에 어디서 일할 것인지에 대해 이야기하고 있어요. 그리고 몇몇 고정된 회사들이 있고, 그중 하나를 선택해 자신을 맞춰 가는 것이 당연하게 받아들여져요. 그게 마치 본받아야 할 무언가인 것처럼요. 그래서 이런 문화적인 측면이 매우 강력하고, 사실상 지배적인 변수라고 생각해요. 왜냐하면 저는 오늘날 교육적인 측면은 훨씬 더 쉬운 부분이라고 느끼기 때문이에요. 이미 많은 자료들이 쉽게 접근 가능하니까요. 그래서 결국은 당신이 속한 문화적 측면이 대부분이라고 생각합니다. Speaker A

Speaker B 제가 조금 궁금했던 부분 중 하나는 어느 정도 성능을 유지하면서도 가장 작은 모델이 어느 정도일까 하는 것입니다. 파라미터 크기든 다른 방식으로 생각하든지 간에요. 작은 모델에 대한 생각은 해보셨나요? Speaker C 저는 모델이 놀라울 만큼 작을 수 있다고 생각합니다. 현재의 모델들이 중요하지 않은 것들을 기억하는 데 많은 용량을 낭비하고 있다고 봐요. 예를 들어, sha 해시나 오래된 것들을 기억하죠, 왜냐하면 데이터셋이 그러니까요. Speaker A 데이터셋이 잘 정리되지 않아서 그렇죠. Speaker C 맞아요, 정확해요. 이런 문제는 사라질 겁니다. 우리는 인지적인 핵심에 도달해야 하고, 그 인지 핵심은 매우 작을 수 있다고 생각합니다. 그냥 생각하는 장치가 될 것이고, 필요한 정보를 찾아볼 때는 다양한 도구를 사용할 줄 알게 되겠죠. Speaker A 그게 30억 파라미터인가요? 200억 파라미터 정도인가요? Speaker C 저는 심지어 10억 파라미터도 충분하다고 생각합니다. 우리는 아마 그 지점에 도달할 겁니다. 모델은 매우 작아질 수 있어요. 그 이유는 기본적으로 증류 방식이 잘 작동하기 때문이라고 생각합니다. 증류는 큰 모델이나 엄청난 컴퓨팅 자원이 작은 모델을 감독하는 방식인데, 이를 통해 작은 모델에 많은 능력을 집어넣을 수 있습니다. Speaker B 그것에 대한 어떤 수학적 표현이나 정보 이론적인 공식이 있나요? 그런 것이 있을 것 같은데요. Speaker C 네, 한 가지 생각해볼 수 있는 방법은 우리가 다루고 있는 인터넷 데이터셋으로 돌아가는 것입니다. 인터넷은 0.001% 정도가 인지이고, 나머지 99.99%는 정보, 그 중 대부분은 쓰레기죠. Speaker A 맞아요. Speaker C 그리고 그 대부분은 생각하는 부분에 도움이 되지 않는다고 생각해요. Speaker B 그러니까, 또 다른 질문 방식은 모델 크기에 따른 인지 능력의 수학적 표현이 있냐는 것입니다. 또는 인지를 어떻게 포착하냐는 거죠. 최소한 또는 최대한의 목표와 관련된 것에 대해 표현할 방법이 없을 수도 있겠죠. 저는 10억 파라미터 정도가 괜찮은 인지 핵심을 만들 수 있다고 생각합니다. Speaker C 아마 맞을 거예요. 저는 10억도 너무 많다고 생각합니다. 잘 모르겠지만, 두고 보죠. Speaker A 흥미롭네요, 엣지 디바이스에서 사용될지 클라우드에서 사용할지의 문제를 생각해보면 말이죠. Speaker B 그리고 모델 사용에 따른 비용 문제도 있죠. 정말 흥미로운 주제입니다. Speaker A 맞아요. 하지만 10억 파라미터 이하의 모델이라면 제 외부 피질이 로컬 장치에 있을 수도 있죠. Speaker C 맞아요. 아마도 단일 모델은 아닐 겁니다. 이게 어떻게 펼쳐질지 생각하는 것도 흥미롭습니다. 병렬 처리를 활용할 수 있어야 한다고 생각하니까요. 순차적인 프로세스가 아닌 병렬 프로세스가 필요합니다. 기업들도 어느 정도는 병렬적으로 작업을 하고 있지만, 기업 내에는 계층 구조가 있죠. 이는 정보를 처리하고 조직 내에서 필요한 축소를 위해 필요한 방식입니다. 그래서 결국 LLM을 위한 회사들이 생길 것이라고 봅니다. 서로 다른 능력을 가진 모델들이 특정한 도메인에 특화되는 것도 그리 놀랍지 않을 겁니다. 프로그래머나 그런 역할을 맡는 LLM들이 평행하게 작업을 하고, 함께 계산 작업을 조율하게 될 겁니다. 그러니 이를 단순하게 생각하기보다는, 일종의 집단(swarm)으로 보는 게 맞을 겁니다. Speaker B 생태계처럼 느껴진다고 말했어요. 마치 생물학적 생태계처럼요. 우리는 전문화된 역할과 틈새를 가지고 있고, 그리고. Speaker C 우리는 점점 그것과 닮아갈 것 같아요. Speaker A 문제의 난이도에 따라 자동으로 무리의 다른 부분으로 단계가 올라가는 시스템이 있죠. Speaker C 그래서 CEO는 아주 뛰어난 클라우드 모델처럼 보일 수 있지만, 일하는 사람들은 훨씬 저렴하게, 어쩌면 오픈 소스 모델이나 그런 것이 될 수 있겠죠. Speaker A 그리고 내 비용 함수는 당신의 비용 함수와 다르죠. Speaker C 네, 그거 재미있을 수 있겠네요. Speaker A 당신은 OpenAI를 떠나 교육에 집중하고 있죠. 당신은 항상 교육자였어요. 왜 이런 일을 하나요? Speaker C 저는 항상 교육자였고, 배움과 가르침을 사랑해 왔습니다. 그래서 교육은 제가 오랫동안 열정을 가지고 있던 분야였어요. 그리고 저를 움직이는 큰 그림 중 하나는, AI에서 많은 활동이 일어나고 있는데, 그 대부분이 사람들을 대체하거나 밀어내는 방향으로 가고 있다는 것입니다. 저는 그것을 사람들을 뒤로 밀어내는 테마라고 표현할 수 있을 것 같아요. 하지만 저는 항상 사람들에게 힘을 실어줄 수 있는 무언가에 더 관심이 있었습니다. 저는 고등급의 '인간 팀'에 속해 있다고 느끼고, AI가 사람들에게 힘을 실어줄 수 있는 방법에 관심이 있습니다. 저는 사람들이 자동화에 밀려나는 미래를 원하지 않습니다. 오히려 사람들이 힘을 얻고, 지금보다 훨씬 더 놀라운 존재가 되기를 원합니다. 그리고 또 하나 흥미로운 점은, 만약 모든 과목에서 완벽한 튜터가 있다면 사람은 어디까지 갈 수 있을까 하는 것입니다. 저는 사람들이 완벽한 커리큘럼을 가진다면 굉장히 멀리 갈 수 있을 것이라고 생각합니다. 우리는 실제로 어떤 부유한 사람들은 튜터를 고용해서 아주 멀리 나아가는 경우를 보기도 하잖아요. 그래서 저는 AI를 통해 그런 것을 구현하거나, 심지어는 그 이상을 달성할 수 있다고 생각합니다. Speaker B 사실, 80년대부터 나온 명확한 문헌들이 있죠. 일대일 과외가 사람들이 블룸보다 한 표준편차 정도 더 나아지도록 도와준다는 내용이 있습니다. 두 표준편차인가요? 네, 블룸에 대한 이야기 맞습니다. 정확히 그렇습니다. 이와 관련해 흥미로운 선례들이 많이 있습니다. AI의 관점에서 이걸 어떻게 증명해 낼 수 있을까요? 또는 이를 실현하는 첫 번째 제품들은 무엇이 될까요? ‘The Diamond Age’ 같은 책을 보면, 젊은 여성을 위한 일러스트 학습서를 다루기도 하고요, 그런 것들 말이죠. * 교육 심리학자 벤저민 블룸(Benjamin Bloom)이 제안한 '학습에 대한 2 시그마(Two Sigma) 문제'를 말하는 중: https://en.wikipedia.org/wiki/Bloom%27s_2_sigma_problem Speaker C 저는 분명히 그런 측면에서 영감을 받았습니다. 그래서 실제로 제가 하고 있는 일은 현재 단일 강좌를 만드는 것이고, 그것이 AI를 배우고 싶을 때 찾을 수 있는 강좌와 같았으면 좋겠다고 생각합니다. 기본적으로 문제는 제가 이미 강좌들을 가르쳤다는 점입니다. 저는 스탠퍼드에서 231N을 가르쳤고, 그것은 첫 번째 딥러닝 수업이었고 꽤 성공적이었습니다. 하지만 질문은, 이런 수업들을 어떻게 진짜로 확장할 수 있을까요? 지구상에 80억 명의 사람들이 있고 그들은 모두 다른 언어를 사용하고, 다양한 능력 수준을 가지고 있는데, 하나의 교사가 그 모든 학생을 가르치는 것은 불가능합니다. 정말 훌륭한 교사를 어떻게 AI로 확장할 수 있을까요? 제가 생각하는 방식은, 교사는 여전히 많은 강의 제작과 커리큘럼을 맡고 있고, 현재 AI의 능력으로는 좋은 강좌를 만들기엔 부족하지만, AI는 학생들에게 그 강좌를 해석하고 안내하는 프런트엔드 역할을 충분히 할 수 있다고 봅니다. 그래서 교사가 사람들에게 직접 가는 것이 아니라, 이제 교사는 프런트엔드 역할을 하지 않고, 백엔드에서 교재와 강좌를 디자인하고, AI가 프런트엔드가 되어 모든 언어로 말하며 학생들을 안내해 나가는 것입니다. Speaker A 그걸 TA(조교)와 같은 경험으로 생각해도 될까요, 아니면 그 비유는 적절하지 않나요? Speaker C

Speaker C 아, 물론이죠. 하지만 어떤 의미에서 말인가요? 일반적으로는, 당연히 가능하다고 생각해요. Speaker B 왜냐하면, 내 말은 그걸 도구로 사용하고 있는 추상적인 버전이 있다는 겁니다. 그게 외장(external) 버전이에요. 많은 사람들이 결국 이야기하게 되는 융합 시나리오가 있습니다. Speaker C 우리는 이미 어느 정도 융합되고 있다고 생각해요. 문제는 입출력(I/O)의 병목 현상인데, 대부분은 손끝에서 해결되죠. 만약 이러한 모델을 가지고 있다면요. Speaker B 네, 하지만 그건 조금 다른 이야기예요. 왜냐하면, 40~50년 동안 사람들이 기술적 도구는 인간 능력의 확장일 뿐이라고 주장해 왔거든요. 그렇죠? Speaker C 맞아요. 컴퓨터는 인간의 정신을 위한 자전거 같은 거죠, 등등. Speaker B 정확히요. 하지만 AI 커뮤니티 내 일부는 우리가 미래의 AI와의 잠재적 갈등을 해결하는 방식이 어떤 형태의 융합을 통해 이루어질 것이라고 생각하죠. Speaker C 맞아요. Neuralink 같은 것들요. Speaker B 맞아요. Speaker C 네. 이 융합이 어떤 모습일지 아직 모르겠지만, 도구 사용에 있어서 입출력을 줄이고 싶다는 건 분명해요. 저는 이걸 신피질 위에 추가되는 외피질 같은 개념으로 봐요. 그렇죠? 그건 그냥 다음 단계일 뿐이고, 클라우드 같은 곳에 위치하게 될 겁니다. 하지만 그건 뇌의 다음 층이라고 할 수 있죠. Speaker B 맞아요. 2000년대 초반에 나온 ‘Accelerando’라는 책에는 이와 유사한 내용이 나와요. 기본적으로 모든 것이 뇌와 계산적으로 연결된 고글에 실체화되어 있고, 그걸 착용하죠. 그리고 그걸 잃어버리면 자신의 인격이나 기억의 일부를 잃어버리는 느낌을 받는 거예요. Speaker C 그럴 가능성이 아주 크다고 생각해요. 그리고 지금도 이미 휴대전화는 거의 그런 상태죠. 더 심해질 거라고 생각해요. 기술 장비들을 멀리 두면, 그냥 자연 속에 벌거벗은 인간처럼 되는 거죠. Speaker A 맞아요, 지능의 일부를 잃게 되는 거죠. 정말 불안감을 유발해요. Speaker B 그에 대한 아주 간단한 예가 지도죠. 요즘 많은 사람들이 도시에서 방향을 찾는 데 어려움을 겪는 걸 봤어요. 항상 턴바이턴 내비게이션을 사용하니까요. Speaker C 그리고 예를 들어, 이런 보편적인 번역기가 있다면, 그게 그렇게 멀지 않았다고 생각하는데, 영어를 하지 않는 사람들과 소통하는 능력을 잃게 될 거예요, 그걸 그냥 치워버린다면요. Speaker A 저는 제 뇌의 그 부분을 다시 활용해서 추가적인 연구를 하는 데 매우 편안함을 느껴요. Speaker C 잡지를 가지고 있는 아이가 그 잡지를 스와이프하려고 하는 영상을 본 적 있는지 모르겠네요. Speaker A 예. Speaker C 제가 흥미롭게 생각하는 점은, 이 아이가 자연에서 오는 것과 그 위에 더해진 기술을 구분하지 못한다는 거예요. 그걸 너무 투명하게 만들어버린 거죠. 그리고 이 상황이 비슷하게 보일 것 같아요. 사람들이 도구들을 당연하게 여기다가 그것들을 없애면, 사람들은 뭐가 기술이고 뭐가 아닌지 모르게 될 거예요. 만약 당신이 항상 사람들을 번역해주는 걸 착용하고 있거나, 그런 일을 대신해주는 걸 사용하고 있다면, 사람들은 아마도... Speaker B 기본적인 인지 능력을 잃게 될 수 있어요, 자연적으로 존재하지 않을 수도 있죠. Speaker A 우리는 특화될 거예요. Speaker C 당신이 스페인어를 하는 사람들을 이해할 수 없게 된다면요. 그럼 어떻게 되겠어요? 또는 디즈니에 가면 모든 물체들이 살아있는 것처럼요. 그리고 저는 우리가 왜 물건과 말할 수 없냐는 세상에 도달할 수 있다고 생각해요. 이미 오늘날에도 Alexa에게 말을 걸 수 있고, 그에게 여러 가지를 요청할 수 있잖아요. 맞아요, 맞아요. Speaker B 그런 장난감 회사들을 봤어요. 그들은 기본적으로 아이와 상호작용할 수 있는 대형 언어 모델(LLM)을 장난감에 내장하려고 하더군요. Speaker C 맞아요. 문에 다가갔을 때 "열려라"라고 말할 수 없다는 게 이상하지 않나요? 도대체 왜? 그에 대한 또 다른 예가 있어요. ‘데몰리션 맨’이나 ‘아이, 로봇’을 봤는지 모르겠지만, 사람들은 물건에게 말을 걸 수 없다는 생각을 비웃죠. 도대체 왜 그럴까요? Speaker A 우리는 엑소코텍스에 대해 이야기하고 있습니다. 이건 접근을 민주화하는 것이 매우 중요한 주제라고 생각됩니다. 현재 LLM 연구에서 벌어지고 있는 시장 구조, 즉 차세대 훈련에서 진전을 이룰 가능성이 있는 소수의 대형 연구소들이 존재하는 상황에서, 이것이 미래에 사람들이 무엇에 접근할 수 있는지와 어떻게 연관될까요? Speaker C 당신이 암시하고 있는 것은 아마도 생태계의 상태일 겁니다. 맞습니다. 몇몇 폐쇄형 플랫폼들의 과점 상태가 있고, 그 뒤에 다소 뒤처진 개방형 플랫폼들이 있습니다. 예를 들어 메타의 라마 같은 것들이죠. 이것은 오픈소스 생태계를 반영하는 모습과 유사합니다. 우리가 이것을 엑소코텍스처럼 생각하기 시작할 때 이런 점이 중요해집니다. 암호화폐 분야에서 “당신의 키가 아니면 당신의 것이 아니다”라는 말이 있죠. Speaker A 네. Speaker C 만약 그것이 당신의 가중치가 아니라면, 그런 느낌일까요? Speaker B 뇌 말이죠. 흥미롭네요. 왜냐하면 기업이 사실상 당신의 엑소코텍스를 통제하고 있다는 의미니까요. Speaker C 그렇죠, 그러면 그것이 내 엑소코텍스라고 할 때 뭔가 침범당하는 느낌이 들기 시작할 겁니다. 내 엑소코텍스라면 말이죠. Speaker A 사람들은 소유권에 대해 훨씬 더 신경 쓸 겁니다. 맞습니다. Speaker C 맞아요. 당신이 뇌를 임대하고 있다는 걸 깨닫는 거죠. 뇌를 임대한다는 건 좀 이상하죠. Speaker A 이 사고 실험은, 더 나은 뇌를 임대하기 위해 소유권과 통제권을 포기할 용의가 있는지에 대한 질문이었어요. 저는 그렇습니다. 네. Speaker C 그래서 이것이 바로 우리가 마주하게 되는 선택이라고 생각해요. 우리가 어떻게 될지 지켜봐야겠지만, 아마도 기본적으로는 폐쇄형 버전을 사용하는 것이 가능할 겁니다. 왜냐하면 그것들이 놀랍기 때문이죠. 하지만 다양한 상황에서 대안을 마련할 수도 있겠죠. 오늘날 이런 방식으로 형성되고 있다고 생각합니다. 일부 폐쇄형 소스 제공업체의 API가 중단되면, 사람들은 자신들이 완전히 통제할 수 있는 오픈 에코시스템으로 대체하기 시작하고, 그렇게 함으로써 힘을 얻습니다. 아마도 이것이 뇌에 대한 비유일 수도 있을 겁니다. 만약 무슨 일이 생기면, 오픈 소스 기반으로 돌아가게 될 거예요. 하지만 대부분의 시간 동안은 실제로... Speaker A 그래서 오픈 소스가 계속 발전하는 것이 매우 중요합니다. Speaker C 저도 그렇게 생각합니다, 100% 동의해요. 이건 명백한 포인트가 아니거나 지금 당장은 모두가 동의하는 것은 아니겠지만, 저는 100% 확신합니다.

그게 핵심입니다. 저는 이제 더 이상 신경망 아키텍처가 근본적인 장애물은 아니라고 생각합니다. 이제는 병목현상이 아니에요. 이전에는, 트랜스포머가 나오기 전에는 병목이었지만, 지금은 그렇지 않죠. 이제는 손실 함수가 무엇인지, 데이터셋이 어디 있는지에 대해 훨씬 더 많이 이야기합니다. 이들이 거의 병목이 되어가고 있죠. 신경망이 무엇이든 원하는 대로 재구성하는 일반적인 구조는 더 이상 문제가 아닙니다. 그래서 많은 활동이 이쪽으로 옮겨간 것이고, 이 기술을 적용하는 많은 회사들도 더 이상 트랜스포머의 발전에 대해 생각하지 않고 아키텍처에 대해서도 생각하지 않아요. 라마(LLAMA) 릴리스 같은 경우도, 트랜스포머 자체는 크게 변하지 않았습니다. 우리가 추가한 것은 rope positional과 rope route, 즉 위치 인코딩뿐이에요. 그게 주요 변화입니다. 나머지는 큰 차이가 없죠. 몇 가지 작은 것에서 3% 정도 향상된 것일 뿐이고, 실제로는 rope만 추가된 것입니다. 트랜스포머는 지난 5년 동안 그 정도로만 변했어요. 그래서 그다지 큰 혁신이 없었죠. 모두가 그냥 그걸 당연히 여기고, 훈련을 시킵니다. 그러면 모두가 주로 데이터셋과 손실 함수의 세부 사항에서 혁신을 일으키고 있습니다. 그래서 그쪽으로 모든 활동이 집중된 것입니다. Speaker A 맞아요. 그런데 인터넷 데이터를 사용할 때는 더 쉬웠다는 주장이 있죠. 이제는 인터넷 데이터가 부족해졌고, 그래서 질문은 인공 데이터나 더 비싼 데이터 수집에 관한 것으로 바뀌고 있습니다. 이에 대해서는 어떻게 생각하시나요? Speaker C 좋은 지적입니다. 그래서 지금 LLM(대형 언어 모델)에서 많은 활동이 그 부분에 집중되고 있죠. 인터넷 데이터는 사실 당신이 트랜스포머를 위해 원하는 데이터는 아닙니다. 놀랍게도 가까운 유사체일 뿐이지만 그걸로도 멀리 갈 수 있죠. 그러나 인터넷 데이터는 단순히 웹 페이지들의 집합입니다. 당신이 정말로 원하는 것은 당신의 뇌 속에서 일어나는 내면의 독백 같은 것입니다. 그게 핵심 아이디어죠. Speaker A 당신 뇌 속의 사고 과정들이요. Speaker C 문제 해결을 할 때 당신 뇌 속에서 일어나는 사고 과정들입니다. 만약 그 과정들을 담은 데이터를 수십억 개나 가지고 있었다면, AGI(인공지능 일반)는 이미 도달했을 것입니다, 상당 부분 말이죠. 그런데 우리는 그런 데이터를 가지고 있지 않아요. 그래서 현재 많은 활동이 이루어지는 곳은, 인터넷 데이터가 실제로 우리를 꽤나 가까이 데려다주긴 하지만, 인터넷 자체에 충분한 추론의 흔적과 지식이 존재하고, 트랜스포머가 그것들을 잘 작동하게 만들기 때문입니다. 그래서 현재 많은 활동이 이 내면 독백 형식으로 데이터를 재구성하는 데 집중되고 있다고 생각합니다. 또한, 그를 위해 많은 인공 데이터 생성이 도움이 되고 있다고 봅니다. 흥미로운 점은 현재의 모델들이 다음 세대 모델들을 만드는 데 어떻게 도움을 주는가입니다. 그래서 이게 일종의 계단과도 같죠. Speaker B 합성 데이터가 얼마나 중요한가요? 또는 그것이 우리를 얼마나 멀리 데려갈 수 있다고 생각하시나요? 왜냐하면 말씀하신 것처럼, 각 데이터와 각 모델이 다음 모델을 더 잘 훈련시키는 데 도움을 주거나, 적어도 그 모델을 위한 도구를 만드는 데 기여할 수 있잖아요. 데이터 라벨링이나 그 외 어떤 요소든 합성 데이터의 일부일 수 있는데, 이 합성 데이터 부분이 얼마나 중요한지 궁금합니다. Speaker C 제가 말할 때, 우리가 진전을 이루기 위한 유일한 방법은 이것을 작동시키는 것이라고 생각합니다. 합성 데이터를 사용할 때, 특히 주의해야 한다고 생각하는 이유는, 모델이 조용히 붕괴되는 현상이 주요 문제 중 하나이기 때문입니다. 예를 들어, chatGPT에게 농담을 해달라고 하면, 그 모델이 아는 농담이 거의 세 가지밖에 없다는 걸 알 수 있을 겁니다. 보통 하나의 농담을 제공하고, 가끔 세 가지 농담을 제공하는데, 이는 모델이 붕괴되었고 그것이 조용히 일어났기 때문입니다. 단일 출력만 본다면 하나의 예시만 보게 되지만, 실제로 그 분포를 보면 다양성이 부족하다는 걸 알 수 있습니다. 이것은 조용히 붕괴된 것입니다. 합성 데이터를 생성할 때, 이 문제가 발생하는데, 우리는 실제로 데이터 세트의 다양성과 풍부함을 원합니다. 그렇지 않으면 붕괴된 데이터 세트를 얻게 되고, 개별 데이터를 볼 때는 알아차리지 못하지만 분포에서 엄청난 다양성과 풍부함이 사라져 버립니다. 그래서 이것이 조용히 악화되는 거죠. 따라서 매우 신중하게 접근해야 하며, 데이터 세트의 다양성을 유지해야 합니다. 이를 위한 다양한 기술이 있습니다. 예를 들어, Persona 데이터 세트가 있습니다. Persona 데이터 세트는 10억 개의 인격을 포함한 데이터 세트입니다. 인간처럼, 다양한 배경을 가진 인물들로 구성되어 있습니다. Speaker A 아, 네, 저도 봤습니다. Speaker C 네, 예를 들어 "나는 교사다", "나는 예술가다", "여기 살고 있다", "이 일을 한다"와 같은 허구의 인간 배경을 담은 작은 단락들로 이루어져 있습니다. 합성 데이터 생성 시, 단순히 이 작업을 완료하는 것뿐만 아니라, 이 정보를 이 사람에게 설명하고 있다고 상상하면서 데이터를 입력하면, 더 많은 공간을 탐구하도록 유도하게 되고, 그 결과 다양성을 얻게 됩니다. 그래서 매우 신중하게 다양성을 주입하고, 분포를 유지해야 한다고 생각합니다. 사람들이 충분히 인식하지 못하는 어려운 부분이 바로 이것이라고 생각합니다. 기본적으로 합성 데이터는 분명히 미래의 핵심이며, 우리는 데이터가 부족해지지 않을 것이라고 생각합니다. 다만 주의가 필요합니다. Speaker A 이 연구를 통해 인간 인지에 대해 우리는 무엇을 배우고 있다고 생각하십니까? Speaker C 우리가 배우고 있는지 잘 모르겠네요. Speaker A 예를 들어, 우리가 원하는 추론의 형태를 파악하는 것이 실제로 뇌가 어떻게 작동하는지 이해하는 데 유익하다고 주장할 수 있겠죠. Speaker C 그런 유사성을 사용할 때는 조심해야 한다고 생각하지만, 일반적으로 아주 다른 종류의 것이라고 생각해요. 그렇지만 몇 가지 유사점은 있다고 생각해요. 예를 들면, 저는 트랜스포머가 여러 면에서 인간의 뇌보다 실제로 더 나은 점이 있다고 생각합니다. 사실 트랜스포머는 훨씬 더 효율적인 시스템이에요. 그리고 트랜스포머가 인간의 뇌처럼 잘 작동하지 않는 이유는 주로 데이터 문제 때문이라고 생각합니다. 대략적으로 말하자면 말이죠. 예를 들면, 트랜스포머가 시퀀스를 암기하는 것은 인간보다 훨씬 뛰어납니다. 시퀀스를 주고 한 번의 순방향 및 역방향 패스를 실행하면, 처음 몇 가지 요소만 주어도 나머지 시퀀스를 완성할 수 있어요. 그 시퀀스를 암기했으니까요. 정말 잘합니다. 인간에게 시퀀스를 한 번만 보여줘도 기억할 수 없을 겁니다. 그래서 트랜스포머는, 저는 실제로 그라디언트 기반 최적화, 우리가 신경망을 훈련할 때 항상 사용하는 순방향 및 역방향 업데이트가 일부 측면에서 뇌보다 더 효율적일 수 있다고 생각합니다. 이 모델들은 더 나아요. 단지 아직 빛을 발할 준비가 안 됐을 뿐이죠. 하지만 여러 인지적 측면에서, 저는 그들이 성장할 가능성이 있다고 생각해요. Speaker A 적절한 입력이 주어지면 더 나아질 겁니다. Speaker B 그건 모든 종류의 응용 프로그램에서 컴퓨터에도 일반적으로 적용되는 얘기죠. 메모리를 사용하는 점에서요. Speaker C 네, 맞아요. 인간의 뇌는 많은 제약이 있다고 생각합니다. 예를 들어, 작업 기억은 매우 작죠. 트랜스포머는 훨씬 더 큰 작업 기억을 가지고 있으며, 앞으로도 그럴 겁니다. 그들은 훨씬 더 효율적인 학습자입니다. 인간의 뇌는 여러 제약 아래에서 기능하죠. 인간의 뇌가 역전파를 사용한다는 건 명확하지 않습니다. 그게 어떻게 작동하는지도 분명하지 않죠. 매우 확률적이고 동적인 시스템입니다. 제약도 많고, 주변 환경에 맞춰 작동해야 하죠. 그래서 우리가 가진 것이 뇌보다 잠재적으로 더 나을 수도 있다고 생각합니다. 다만 아직 그 단계에 도달하지 않았을 뿐입니다. Speaker B AI 시스템을 통한 인간의 증강에 대해 어떻게 생각하시나요? 그게 가능성 있는 방향이라고 보세요? 가능성이 낮다고 보세요? AI 모델과 함께하는 인간의 증강 말입니다.

사람들이 아마도 각 플랫폼에 드는 고정 비용의 복잡성을 과소평가하고 있는 것 같습니다. 어떤 단일 플랫폼을 사용하는 데는 큰 고정 비용이 따릅니다. 그래서 저는 이를 중앙 집중화하고, 모든 작업을 수행할 수 있는 하나의 플랫폼을 가지는 것이 매우 합리적이라고 생각합니다. 저는 인간형 측면도 매우 매력적이라고 생각하는데, 사람들이 이를 매우 쉽게 원격 조작할 수 있기 때문입니다. 그리고 이는 매우 유용한 데이터 수집 도구가 될 수 있습니다. 왜냐하면 사람들이 이를 쉽게 조작할 수 있을 테니까요. 이 점이 종종 간과된다고 생각합니다. 물론 말씀하신 것처럼, 인간을 위해 설계된 세상 같은 측면도 있죠. 그래서 그것도 중요하다고 생각합니다. 제 생각에는 인간형 플랫폼에 몇 가지 변형이 있을 수 있겠지만, 큰 고정 비용이 드는 훈련 플랫폼이 존재한다고 생각합니다. 그리고 마지막으로 말하고 싶은 것은 다양한 작업 간의 전이 학습에서 얻는 이점입니다. AI에서는 하나의 신경망이 멀티태스킹을 하며 다양한 작업을 수행하는 것이 매우 중요합니다. 그곳에서 모든 지능과 능력이 나오기 때문입니다. 그리고 이것이 언어 모델이 흥미로운 이유이기도 합니다. 하나의 텍스트 도메인에서 여러 가지 문제를 멀티태스킹하면서 서로 지식을 공유하고, 이 모든 것이 하나의 신경망으로 결합되어 있습니다. 저는 이런 플랫폼이 필요하다고 생각하고, 잎을 따는 데 사용된 데이터를 다른 모든 작업에 활용할 수 있기를 바랍니다. 특정 목적을 위한 특별한 도구를 만들면 다른 작업 간의 전이에서 얻는 이점을 누릴 수 없을 것입니다. 이해되시나요? Speaker A 네, G 모델에 대한 의견이 있죠. 하나에 3만 달러 정도 들지만, 특정 부품으로 매우 유능한 인간형 로봇을 만드는 것은 어려워 보입니다. 팔을 바퀴에 장착해서 무언가를 할 수 있게 하려면, 처음에는 더 저렴한 방식으로 일반적인 플랫폼을 접근하는 것이 가능할지 모릅니다. 이 말이 이해가 되시나요? Speaker C 하드웨어 측면에서 더 저렴한 방식으로 일반적인 플랫폼을 접근하는 것? 네, 그게 말이 되는 것 같아요. 네, 발 대신에 바퀴를 장착하는 거죠. 하지만 저는 그게 어느 정도 지역적 최소점을 찾아내는 것인지 궁금해요. 저는 그냥 하나의 플랫폼을 선택하고, 그것을 완벽하게 만드는 것이 장기적으로 좋은 선택이라고 생각합니다. 그리고 또 하나는 사람들에게 익숙할 것이라고 생각하는 점입니다. 아마도 사람들이 그것과 대화를 하고 싶어할 수도 있다고 생각하거든요. 저는 이 심리적 측면도 인간형 플랫폼을 선호하게 만드는 요소일 것이라고 생각합니다. 물론 사람들이 그것을 무서워해서 더 추상적인 형태의 플랫폼을 선호할 수도 있지만요. 그런데 그게 정말 괴물처럼 무언가를 하는 거라면, 그게 더 나은 것인지 모르겠네요. Speaker B 흥미로운 점은, Unitree의 다른 형태는 개라는 거죠. 맞아요. 그건 더 친숙하고, 더 친근한 느낌을 주죠. Speaker C 맞아요. 그런데 사람들이 '블랙 미러' 같은 걸 보면, 갑자기 그 개가 무서운 존재로 변하죠. 그래서 생각하기 어려운 부분이에요. 하지만 심리적으로 사람들이 일어나는 일을 쉽게 이해할 수 있을 거라고 생각해요. Speaker B 로봇공학의 미래를 구체화하는 데 있어서, 기술적 이정표로서 무엇이 부족하다고 생각하나요? 로봇공학에서요, 그렇죠. 인간형 로봇이나 다른 인간 형태의 것들에서요. Speaker C 음, 잘 모르겠지만, 제가 이 분야에 대해 깊이 알고 있는 건 아닌 것 같아요. 예를 들어, 인간형 로봇 형태에서 하체 부분에 대해서는 모방 학습이나 시연을 통한 학습이 필요하지 않을 수도 있다고 생각해요. 하체는 대부분 역진자 제어 같은 것이 주요 이슈이기 때문이죠. 상체는 원격 조작과 데이터 수집이 많이 필요하지만, 그런 점에서 모든 것이 하이브리드 형태로 흘러가는 것 같아요. 그 시스템들이 어떻게 상호작용하는지는 확실히 모르겠네요. Speaker B 제가 일하는 사람들과 대화를 나누다 보면, 그들이 집중하는 대부분은 작동과 조작에 관한 것이라고 느껴요. 디지털 조작이나 그런 것들에 대해서 말이죠. Speaker C 네, 초기에는 원격 조작이 많이 사용될 것 같아요. 뭔가를 지면에서 들어올리고 이를 모방해서, 95%의 성공률로 작동하는 무언가를 만들어내는 거죠. 그 후에는 사람 대 로봇의 비율에 대해 논의하게 될 것이고, 시간이 지나면서 점점 사람들이 직접 작업을 수행하기보다는 로봇을 감독하는 역할을 하게 될 겁니다. 이런 모든 변화는 시간이 지나면서 서서히 이루어질 거예요. 딱히 제가 알고 있는 특정 장애물이 있는 건 아닌 것 같습니다. 그저 많은 수작업이 필요한 일이라고 생각해요. 도구들은 이미 많이 갖춰져 있습니다. 트랜스포머는 아름다운 조직과도 같은 존재죠. 다양한 임의의 작업을 수행할 수 있고, 필요한 데이터를 적절한 형식으로 입력해야 합니다. 그리고 그것을 학습시키고, 실험하고, 배포하고, 반복해서 개선하는 과정이 필요하죠. 그저 많은 기초 작업이 필요한 겁니다. 기술적으로 우리를 막고 있는 특정한 장애물은 없다고 생각해요. Speaker A 지금 우리는 어디에 와 있을까요? 대규모 블롭 연구의 상태에 대해서요. Speaker C 대규모 블롭 연구라... 맞아요, 지금 매우 좋은 상태에 있습니다. 제 생각에 이게 충분히 인식되고 있는지는 잘 모르겠어요. 하지만 트랜스포머는 단순한 또 다른 신경망이 아니라 정말 놀라운 신경망입니다. 굉장히 범용적인 성격을 지니고 있어요. 예를 들어, 사람들이 신경망의 스케일링 손실에 대해 이야기할 때, 그 손실은 실제로 대부분 트랜스포머의 특성이에요. 트랜스포머 이전에는 사람들이 LSTM을 가지고 여러 층을 쌓고 있었는데, 그걸로는 깨끗한 스케일링 손실을 얻지 못했어요. 그 방식으로는 학습도 제대로 안 되고, 실제로 작동하지도 않았죠. 트랜스포머가 처음으로 제대로 스케일이 가능해지고, 스케일링 손실이 발생하고 모든 것이 말이 되는 첫 번째 모델이었어요. 저는 그것을 범용 훈련 컴퓨터라고 생각해요. 마치 하나의 컴퓨터처럼, 차이점은 그것이 미분 가능한 컴퓨터라는 점이죠. 수많은 입력과 출력을 주면, 역전파로 훈련할 수 있고, 그 과정에서 그 자체로 작업을 수행하는 무언가로 변형되죠. 우리는 알고리즘 공간에서 마법 같은 무언가를 발견한 것 같아요. 이 트랜스포머에는 몇 가지 중요한 혁신이 들어갔어요. 이미 존재했던 잔차 연결, 층 정규화, 주의 메커니즘 블록, 그리고 그래디언트 신호를 죽이는 비선형 함수인 tanh 같은 요소들이 없는 것이 그 예죠. 이미 존재하던 네다섯 가지의 혁신들이 모두 결합되어 트랜스포머가 완성된 것이고, 그것이 구글이 그들의 논문에서 한 일이죠. 그래서 이 트랜스포머가 실제로 학습되기 시작했고, 갑자기 스케일링 손실을 얻고, 이 조직처럼 생긴 무언가가 아주 높은 정도로 훈련되기 시작한 겁니다. 이건 정말로 큰 돌파구였죠. Speaker A 당신은 우리가 아직 그 잠재력을 다 발휘하지 않았다고 느끼는 거죠, 맞나요? 물론, 데이터 한계와 다음 세대의 확장이 얼마나 비쌀지에 대한 논의가 있습니다. 이 점에 대해 어떻게 생각하시나요? Speaker C

네, 처음부터 그게 계획이었던 것 같습니다. 제가 테슬라에 있었을 때 신경망이 어떻게 스택을 점점 먹어 들어가는지에 대해 얘기했었는데요. 제가 입사했을 때는 C 코드가 엄청나게 많았고, 이제는 테스트 타임 패키지에서 실행되는 C 코드가 훨씬 적어졌습니다. 우리가 이야기하지 않는 백엔드에는 여전히 많은 부분이 남아 있지만, 신경망이 시스템을 통해 처리합니다. 먼저 이미지 수준에서 감지를 하고, 그다음 여러 이미지를 통해 예측을 제공하고, 시간이 지나면서 여러 이미지를 통해 예측을 제공하며 C 코드를 점점 버리고, 결국에는 조향 명령을 내리게 됩니다. 그래서 테슬라가 스택을 점점 먹어 들어가고 있다고 생각합니다. 제가 이해한 바에 따르면 현재의 Waymo는 그 방향으로 가지 않았던 것 같습니다. 그들도 시도는 했지만 결국 그렇게 되지 않았다는 것이 제 생각입니다. 하지만 확실하지는 않습니다. 그들이 이에 대해 공개적으로 말하지 않기 때문이죠. 그러나 저는 이 접근 방식을 근본적으로 믿고 있으며, 이것이 마지막 남은 퍼즐 조각이라고 생각합니다. 테슬라의 끝에서 끝까지의 시스템이 10년 후쯤에는 신경망 하나로 완성될 것이라고 의심하고 있습니다. 동영상이 신경망으로 들어가고 명령이 나오죠. 이를 단계적으로 쌓아가며 한 번에 한 조각씩 해결해야 합니다. 우리가 해왔던 중간 예측과 모든 것이 실제로는 개발을 잘못 이끌었다고 생각하지 않습니다. 이 모든 것이 하나의 과정이라고 생각합니다. 끝에서 끝까지의 주행을 구현할 때 인간을 모방하면, 신경망을 훈련할 감독 정보가 거의 없습니다. 너무 적은 신호로 수십억 개의 매개변수를 훈련할 수는 없습니다. 그래서 이런 중간 표현들이 기능과 감지기를 개발하는 데 도움이 되고, 이로 인해 끝에서 끝으로 연결하는 과정이 훨씬 쉬워집니다. 그래서 저는, 팀에 속해 있지는 않지만, 끝에서 끝으로 조정할 수 있도록 많은 사전 훈련이 이루어지고 있다고 의심하고 있습니다. 그리고 결국 그것을 점진적으로 먹어들어가는 것이 필요했다고 생각합니다. 테슬라는 그렇게 해왔고, 그 방법이 옳다고 생각하며, 그게 잘 작동하는 것 같습니다. 정말 기대됩니다. Speaker A 끝에서 끝까지의 방식으로 시작했더라면 어차피 데이터를 얻지 못했을 것입니다. 그건 말이 되네요. 네, 떠나기 전에 테슬라 휴머노이드 로봇 작업을 하셨죠. 묻고 싶은 게 많은데, 그중 하나는 여기서 시작하는 겁니다. 어떤 것이 전이됩니까? Speaker C 기본적으로 모든 것이 전이됩니다. 사람들이 그걸 잘 모르고 있는 것 같습니다. Speaker A 그건 대단한 주장인데요. Speaker C 이건 아주 다른 문제라고 생각합니다. 기본적으로 로봇이죠. 실제로 보면, 자동차도 로봇입니다. 그리고 테슬라는 자동차 회사가 아니라고 생각합니다. 이건 오해를 불러일으키는 표현입니다. 테슬라는 로봇 회사입니다. 그것도 대규모로 로봇을 만드는 회사죠. 대규모로 라는 부분도 전혀 다른 변수라고 할 수 있습니다. 그들은 단일 제품을 만드는 게 아니라 그 제품을 만드는 기계를 만들고 있습니다. 완전히 다른 이야기죠. 그래서 테슬라는 대규모 로봇 회사라고 생각합니다. 자동차에서 휴머노이드로의 전이에 대해 말하자면, 거의 일이 없었습니다. 실제로 Optimus 초기 버전의 로봇은 자기가 자동차라고 생각했어요. 왜냐하면 같은 컴퓨터와 같은 카메라를 사용하고 있었기 때문입니다. 정말 웃겼던 게, 우리는 로봇에서 자동차 네트워크를 실행하고 있었는데, 로봇이 사무실을 걸어 다니고 있었거든요. Speaker A 오, 좋네요. Speaker C 이 시스템은 주행 가능한 공간을 인식하려고 하지만, 지금은 모두 보행 공간인 것 같아요. 그래도 어느 정도 일반화를 했고, 약간의 파인 튜닝이 필요해요. 이 시스템은 주행 중이라고 생각했지만, 사실은 환경을 이동하는 중인 거죠. Speaker A 이걸 로봇이라고 생각하는 게 맞나요? 많은 것이 전이되지만, 예를 들어, 구동 및 행동 데이터가 부족한 것처럼 보이네요. Speaker C 맞아요, 몇 가지 구성 요소가 빠져 있긴 하죠. 하지만 Optimus 프로젝트가 시작된 속도는 정말 놀라웠어요. Elon이 "이거 하자"고 말하자마자 사람들이 필요한 도구들을 다 들고 나타났고, CAD 모델부터 공급망 관련 자료까지 아주 빠르게 준비되었어요. Tesla는 로봇 공학을 만드는 데 엄청난 전문 지식을 가지고 있다는 게 느껴졌어요. 사용된 도구들도 다 동일하고, 단지 자동차에서 로봇으로 재구성하는 느낌이었어요. 마치 영화 "트랜스포머"처럼요. 기본적으로 같은 구성 요소들을 사용하며, 하드웨어뿐만 아니라 두뇌 부분에서도 많은 것이 전이됐어요. 네트워크만이 아니라 접근 방식, 라벨링 팀의 협업 방식 등도 전부 전이되었죠. 정말 많은 부분이 전이됐다고 생각해요. Speaker B 휴머노이드 로봇이나 인간 형태 로봇의 첫 응용 분야에 대해 어떻게 생각하세요? Speaker C 많은 사람들이 로봇이 빨래를 해주는 상상을 하곤 하는데, 그건 나중에나 가능할 것 같아요. 저는 B2C(기업-소비자 거래)가 시작점이 되어서는 안 된다고 생각해요. 왜냐하면, 제가 자주 말하는 것처럼, 할머니를 깔아뭉개는 로봇을 만들 수는 없으니까요. 법적 책임이 너무 크죠. 이 로봇들은 아직 완벽하지 않고, 많은 개선이 필요해요. 그래서 저는 첫 번째 고객은 자기 자신이어야 한다고 생각해요. 아마 Tesla가 그렇게 할 것 같아요. 저는 Tesla에 대해 매우 낙관적이에요. 첫 고객이 자기 자신이면, 공장에서 로봇을 인큐베이팅하고, 많은 물류 작업을 처리할 수 있을 거예요. 이렇게 하면 제3자와 계약을 맺을 필요가 없고, 법적 문제나 계약 체결, 울타리 설치 등 복잡한 절차도 피할 수 있죠. 여러 회사에서 인큐베이팅을 마친 후에는 B2B(기업 간 거래)로 확장해 물류 처리와 같은 작업을 할 수 있을 거예요. 그다음에야 B2C 로봇 시장에 진입할 수 있을 것 같아요. Unitree 같은 회사도 이미 매력적인 로봇을 만들고 있어요. Speaker A 저 하나 샀어요. Speaker C 진짜요? Speaker A 네. Speaker B 알겠어요. Speaker C 네. Speaker A G 모델이요. Speaker C 네. 그래서 저도 아마 그거 하나 살 것 같아요. 그리고 그 플랫폼을 기반으로 뭔가를 만드는 사람들로 구성된 생태계가 생기겠죠. 하지만 규모를 확장하는 데 있어서 승리하는 건 아마 그런 접근 방식이 될 거라고 봐요. 처음에는 주로 재료를 다루는 작업이 많다가 점점 더 구체적인 HKC 같은 작업들로 나아가겠죠. 제가 정말 기대하는 건 Nat Freedman의 낙엽 청소기 도전이에요. Optimus가 거리를 살금살금 걸어가면서 개별 나뭇잎을 줍는 모습을 상상해보세요. 그래서 더 이상 낙엽 청소기가 필요 없게 되는 거죠. 저는 이게 성공할 거라고 생각해요, 정말 놀라운 일이죠. 그래서 제가 가장 기대하는 첫 번째 응용 프로그램 중 하나가 바로 그거예요. Speaker B 심지어 갈퀴로 긁는 것도요. 그것도 잘 될 것 같아요. Speaker C 정말 조용하게요. Speaker B 네, 조용하게 갈퀴질하는 거죠. Speaker A 귀엽네요. 그러니까, 사실 이미 작동하는 기계가 있어요. 그저 인간형 로봇은 아닐 뿐이죠. 잠시 인간형 로봇에 대한 논리에 대해 이야기해 볼 수 있을까요? 가장 단순한 버전으로는, 세상이 인간을 위해 만들어졌고, 하나의 하드웨어 세트를 만드는 겁니다. 그리고 그 하드웨어 내에서 점점 더 많은 작업을 수행할 수 있는 모델을 만드는 게 맞는 방법이죠. 또 다른 관점은, 인간이 어떤 작업에도 최적화되어 있지는 않으니 더 강하거나 크거나 작게 만들 수 있다면, 왜 우리가 초인적인 일을 하지 말아야 하느냐는 거죠. 이 부분에 대해 어떻게 생각하세요? Speaker C

No Priors Ep. 80 | Andrej Karpathy (1/2) Speaker A 안녕하세요, 청취자 여러분. No Priors에 다시 오신 것을 환영합니다. 오늘은 소개가 필요 없는 Andrej Karpathy와 함께합니다. Andrej는 저명한 연구자이자 사랑받는 AI 교육자, 루빅스 큐브 고수이며 OpenAI의 초기 팀원, Tesla에서 Autopilot의 리더였고 현재는 교육을 위한 AI를 연구하고 있습니다. 우리는 그와 함께 연구 현황, 그의 새로운 회사, 그리고 AI에서 기대할 수 있는 것들에 대해 이야기할 것입니다. Speaker B 오늘 함께해 주셔서 감사합니다. 당신과 함께할 수 있어 정말 기쁩니다. Speaker C 감사합니다. 여기 오게 되어 기쁩니다. Speaker A 당신은 Tesla에서 Autopilot을 이끌었고, 이제는 실제로 완전 자율주행차, 즉 승용차가 도로 위에 있습니다. 현재의 기술 수준을 어떻게 평가하고 있으며, 자율주행차의 능력이 얼마나 빨리 향상될 것으로 보십니까? 또는 이러한 승용차가 얼마나 빠르게 널리 보급될 것이라고 생각하십니까? Speaker C 네, 저는 자율주행 분야에서 약 5년간 일했습니다. 이 분야는 정말 매력적입니다. 현재 이 분야에서 일어나고 있는 일은, 글쎄요, 저는 자율주행과 AGI(인공지능 일반)의 많은 유사점을 끌어내는 편인데, 아마도 제가 자율주행에 익숙해서 그런 것일지도 모르지만, 저는 자율주행에서 어느 정도 AGI에 도달했다고 생각합니다. 왜냐하면 오늘날 우리가 실제로 사용할 수 있는 시스템들이 존재하기 때문이죠. 여기 샌프란시스코에서는 Waymo가 아주 흔합니다. 아마도 여러분도 Waymo를 이용해 보셨을 겁니다. 저도 여러 번 이용했는데 정말 놀랍습니다. Waymo는 도시 어디든 운전해 줄 수 있고, 우리는 그것을 제품으로 구매하고 있는 겁니다. Waymo와 관련해서 흥미로운 점은 제가 처음 Waymo를 탔던 것이 거의 10년 전, 정확히 2014년경이었다는 겁니다. 그때 제 친구가 Waymo에서 일하고 있었고, 그가 저에게 데모를 보여주면서 저를 블록 한 바퀴 돌려줬는데, 그때도 이미 거의 완벽한 주행이었습니다. 그리고 데모에서 제품으로 발전하는 데 10년이 걸렸고, 이제는 도시 규모로 확장되고 있습니다. Speaker B 그 과정에서 규제와 기술적인 문제 중 어느 것이 더 큰 영향을 미쳤다고 생각하시나요? 기술적으로는 언제쯤 준비가 되었을까요? Speaker C 저는 이게 기술이라고 생각합니다. 30분짜리 단일 데모 주행에서는 모든 걸 다 볼 수 없어요. 그들이 10년 동안 다뤄야 했던 모든 문제를 겪지 않기 때문이죠. 그래서 데모와 실제 제품 사이에는 큰 차이가 있고, 많은 부분이 규제와 관련되어 있다고 생각해요. 하지만 자율주행 분야에서는 어느 정도 AGI(일반 인공지능)를 달성했다고 생각합니다. 흥미로운 점은 그 과정에서 세계화가 전혀 이루어지지 않았다는 겁니다. 데모는 있고 시연은 할 수 있지만, 세상은 아직 바뀌지 않았습니다. 이 변화를 이루기까지는 오랜 시간이 걸릴 거예요. 데모에서 실제 세계화로 넘어가는 데는 큰 차이가 있다고 봅니다. AGI와도 비슷하다고 생각합니다. AGI를 어느 정도 달성한 후에도, 자율주행 분야에서 잠시 멈춰서 보면 사람들이 Waymo가 Tesla보다 앞서 있다고 생각할 수 있습니다. 저는 개인적으로 Tesla가 Waymo보다 앞서 있다고 생각합니다. 그렇게 보이지 않을 수도 있지만, 저는 여전히 Tesla와 그 자율주행 프로그램에 대해 낙관적입니다. Tesla는 소프트웨어 문제를 가지고 있고, Waymo는 하드웨어 문제를 가지고 있다고 생각합니다. 그리고 소프트웨어 문제는 훨씬 더 해결하기 쉽다고 봅니다. Tesla는 전 세계적으로 이 많은 차량을 배치하고 있습니다. Waymo는 그 단계에 도달해야 해요. Tesla가 실제로 이 문제를 해결하고, 자율주행이 실제로 작동하게 되는 순간, 정말 놀라운 일이 벌어질 거라고 생각합니다. 어제 최신 버전으로 운전해봤는데, 정말 많은 개선이 이루어졌습니다. 매우 최근에요. Speaker B 저도 최근에 많이 사용해봤는데, 실제로 꽤 잘 작동하더라고요. Speaker C 어제 저에게는 정말 기적 같은 주행을 해줬습니다. 그래서 그 팀이 하고 있는 일에 정말 감명받았어요. 여전히 Tesla는 주로 소프트웨어 문제를 가지고 있고, Waymo는 주로 하드웨어 문제를 가지고 있다고 생각해요. 그래서 지금은 Waymo가 이기고 있는 것처럼 보이지만, 10년 후에 누가 실제로 규모를 확장하고, 수익이 어디서 나오는지를 보면 Tesla가 그 면에서 앞서 있다고 생각합니다. Speaker B 소프트웨어 문제를 해결해서 어느 정도 동등한 수준에 도달하는 데 얼마나 남았다고 생각하나요? 분명히 말씀하신 대로, Waymo 차량을 보면 매우 비싼 라이다와 다른 센서들이 내장되어 있어서, 그것들이 차량의 주행을 돕고 있죠. 소프트웨어 시스템을 지원하는 역할을 합니다. 반면 Tesla처럼 카메라만 사용한다면, 엄청난 비용과 복잡성을 제거할 수 있고, 다양한 차종에서도 구현할 수 있잖아요. 그 전환이 언제쯤 일어날 것 같나요? Speaker C 몇 년 내에는 가능하지 않을까요? 저는 그렇게 기대하고 있습니다. 하지만 실제로 흥미로운 점은 사람들이 이를 잘 인식하지 못하고 있다는 겁니다. Tesla도 사실은 많은 비싼 센서를 사용합니다. 다만, 그걸 훈련 단계에서만 사용하는 거죠. 많은 차량들이 라이다와 함께 주행하면서 여러 작업을 하지만, 그건 규모를 확장할 수 없는 것들이에요. 추가적인 센서와 매핑 작업 등도 훈련 단계에서 수행되고, 그걸 테스트 단계에서는 비전 기반 패키지로 압축해서 차량에 배포합니다. 이것은 센서와 비용을 절감하는 전략이라고 볼 수 있죠. 이 전략이 충분히 평가받지 못하고 있다고 생각합니다. 하지만 저는 이 방식이 잘 작동할 것이라고 봅니다. 픽셀에 정보가 담겨 있고, 네트워크가 그걸 처리할 수 있을 거라고 생각하니까요. 훈련 단계에서는 이 센서들이 매우 유용하지만, 테스트 단계에서는 그렇게 유용하지 않다고 생각합니다. Speaker B 다른 한 가지 변화는 사실 많은 에지 케이스 기반의 설계적 휴리스틱에서 끝에서 끝까지 딥러닝으로 전환되었다는 점입니다. 이것이 최근 일어난 또 다른 변화인데, 그에 대해 조금 더 이야기해줄 수 있나요? Speaker C

«한마디로 요약하자면, 너무 싼 중국산 태양광 패널이 전 세계 옥상을 빠르게 뒤덮고 있습니다.» «결국 태양광 발전이 이렇게 기하급수적으로 커진다는 건 그만큼 전기를 저장하거나 운반하는 일이 중요해진다는 뜻» → 중요한 내용입니다. 일독을 권합니다. https://n.news.naver.com/mnews/article/020/0003588254 https://t.me/guroguru/13951