Continuous Learning_Startup & Investment

Lux Capital Josh 모든 사람들은 5년 전에 투자했어야 할 곳에 오늘 투자하고 싶어 한다. 지금 핫한 분야(예: 2025년의 LLM, 생성형 AI)는 사실 **5년 전(2020년)**에 베팅했어야 큰 수익을 낼 수 있었던 분야입니다. 지금 들어가는 것은 이미 가격이 오를 대로 오르고(High Valuation), 경쟁이 치열해진 '레드오션'에 뒤늦게 뛰어드는 것입니다. 인간은 본능적으로 **군중 심리(Herding)**를 따릅니다. 남들이 다 좋다고 할 때 투자하면 심리적으로 안전함을 느끼기 때문입니다. 하지만 벤처 투자의 본질은 역발상(Contrarian)에 있습니다. 사람들이 지금 열광하는 텍스트(Text), 음성(Voice), 비디오(Video), 코드(Code) 생성 AI는 '5년 심리적 편향'의 전형적인 예입니다. 진짜 기회는 **물리적 세계(Atoms)**와 결합된 AI입니다. 분야: - 로보틱스 (Embodied AI): 공장에서 물건을 집거나, 가정에서 빨래를 개는 등 물리적 작업을 수행하는 AI. - 생물학 (Biology/TechBio): 신약을 개발하거나 단백질 구조를 설계하는 AI. - 방산 (Defense): 자율 무기 체계 (Anduril 등). 이유: 이 분야는 **'학습 데이터가 희소(Scarce)'**합니다. 인터넷 텍스트는 누구나 긁어갈 수 있지만, 로봇이 현실에서 넘어지며 배운 데이터나, 실험실의 생물학 데이터는 쉽게 복제할 수 없습니다. 남들이 아직 주목하지 않거나 어렵다고 생각하는 지금이 투자 적기입니다. 반도체: 모두가 엔비디아(GPU)와 데이터센터만 바라볼 때(현재의 정답), Lux는 **추론(Inference)의 엣지화(On-device)**와 이를 뒷받침할 메모리(Memory) 시장을 다음 기회로 봅니다. 데이터센터 구축 비용이 너무 비싸기 때문에, 결국 AI 구동은 스마트폰이나 로봇 같은 기기 자체에서 일어나야 한다고 예측합니다. 배경: 지난 10년이 '성장과 구축(Build)'의 시대였다면, 고금리 시대인 앞으로는 '유지보수(Maintain)'의 시대가 될 것입니다. 전략: 낡은 인프라, 공장, 무기 체계를 새로 짓는 대신 **AI와 로봇을 이용해 고쳐 쓰고 수명을 연장하는 기술(Fixware)**에 주목합니다. 이건 지금 사람들이 섹시하다고 생각하지 않지만, 5년 뒤엔 필수적인 기술이 될 것이기 때문입니다. Q 럭스를 시작할 당시 벤처 투자는 SaaS(Software as a Service)에 집중되어 있었습니다. 럭스는 물리 과학, 생명 과학 등 매우 다른 분야에 집중했는데, 그 배경은 무엇인가요? 닷컴 버블 이후였습니다. 벤처 캐피털 역사를 보면 10~15년마다 기술의 파동이 바뀝니다. 70년대 PC, 80년대 바이오테크, 90년대 닷컴이 있었고, 우리는 2000년대 초반에 물리/재료 과학과 컴퓨터 과학의 융합이 다음 파동이 될 것이라 예측했습니다. 실리콘밸리가 아닌 곳(오스틴, 조지아 등)에서 일어나는 혁신에 주목해 지리적 차익거래(Arbitrage)를 노렸습니다. Q 초기 투자는 위험이 큰데, 어떻게 투자 대상을 결정하나요? "무엇이 엉망인가?(What sucks?)" 사람들이 당연하게 여기거나 아직 문제인지조차 모르는 불편함을 찾는 것입니다. 예를 들어, 우버(Uber)가 나오기 전 뉴욕의 택시 시스템은 엉망이었습니다. 헬스케어, 국방 등 모든 분야에 엉망인 것들이 있습니다. Q: 단순히 있으면 좋은 것(Nice to have)과 진짜 고통스러운 문제(Painful problem)를 어떻게 구별하나요? 거시적인 문제(Macro problem)를 봅니다. 예를 들어 국방 분야에서 미국의 적성국 위협은 커지는데 기존 방산 업체들은 관료적이고 느리다면, 여기에 거대한 기회가 있습니다. 팔머 럭키(Palmer Luckey) 같은 창업자가 앤두릴(Anduril)을 만들어 이를 해결하겠다고 나서는 식이죠. 기술적 장벽이 높아 경쟁자가 1~2개뿐인 분야를 선호합니다. 투자 스타일 1. 테마 주도(Thesis-driven): 남들이 안 보는 분야(예: 원자력 폐기물 처리)를 연구해서 직접 회사를 만듭니다. 큐리온(Kurion)이라는 회사를 직접 설립해 후쿠시마 원전 사고 정화 작업에 참여했고, 큰 수익을 냈습니다. 2. 사람 주도(People-driven): 훌륭한 창업자를 계속 지원합니다. 3. 특수 상황(Special situations): 구글이나 애플 같은 대기업에서 팀을 스핀아웃(분사)시켜 투자합니다. Q 직접 회사를 창업하는 것(De Novo)은 독특한데, 어떻게 가능한가요? 래리 벅(Larry Bock)이라는 전설적인 벤처 창업가에게 배웠습니다. 대학 연구소의 기술(IP)을 라이선스해서 회사를 만드는 방식입니다. 베이-돌 법(Bayh-Dole Act) 덕분에 대학의 연구 성과를 사업화할 수 있게 되었습니다. 펀드 투자의 약 10%는 우리가 직접 만든 회사이며, 초기 지분율이 높아 수익률이 좋습니다. Q 창업자는 고집이 센데, 투자자의 조언을 어떻게 받아들이게 하나요? 투자자가 초기에 깊이 관여하면 창업자와 강한 유대감과 충성심이 생깁니다. 하지만 아이러니하게도 최고의 성과는 고집 센 창업자가 냅니다. 그들은 우리 도움이 거의 필요 없고, 우리는 그저 옆에 있으면서 공을 차지할 뿐입니다. 반대로 최악의 회사는 우리 시간이 가장 많이 듭니다. 최고의 창업자는 스토리텔링 능력이 뛰어나면서도 실행력이 있어 신뢰를 줍니다. 이런 사람은 매우 드뭅니다 카너먼에게 배운 세 가지가 있습니다. 1. 편향은 피할 수 없다: 광학적 착시처럼, 편향이 있다는 걸 알면서도 빠지게 됩니다. 2. 주변인의 영향: 우리의 믿음은 논리적 추론보다 주변 사람들의 영향으로 형성됩니다. 3. 누락의 오류(Errors of Omission) vs 실행의 오류(Errors of Commission): 이게 럭스에 가장 큰 영향을 주었습니다. 은색 총알(Silver Bullet) 규칙: 어떤 파트너가 특정 투자 건에 대해 확신을 가지지만 나머지 파트너들이 반대할 때, 펀드당 한 번씩 거부권을 무시하고 투자할 수 있는 권한('은색 총알')을 줍니다. 배경: 과거 '크루즈 오토메이션(Cruise Automation)' 투자 건에서 가격 때문에 투자를 포기했는데, 나중에 GM에 인수되며 11배 수익 기회를 놓쳤습니다. 담당 파트너는 엄청난 후회를 느꼈죠(누락의 오류). 해결: 이를 방지하기 위해 한 번의 기회를 줍니다. 투자를 해서 실패하면 돈을 잃지만(실행의 오류), 투자를 안 해서 대박을 놓치는 것보다 낫기 때문입니다. 단, 후속 투자(Later stage)에서는 데이터가 많으므로 이 규칙을 적용하지 않고 파트너십의 합의를 따릅니다. 다음 세대에게 전하고 싶은 의사결정 도구는 무엇인가요? 확률적으로 생각하고, 최악의 시나리오를 대비하는 것(Hedging)입니다. "필요할 때 없는 것보다, 있는데 필요 없는 게 낫다"는 말을 아이들에게 가르칩니다. 항상 최악의 상황을 상상하고 대비하세요.

누가 살아남고 창업가로서 엑싯을 생각해야하는 이유 1900년대 초 디트로이트로 돌아가 보면 수백 개의 공급업체와 수십 개의 자동차 회사가 있었지만, 결국 다 통합되고 정리되었죠. 지속되지 못한 것들에 엄청난 돈이 쓰였습니다. 인간은 무언가에 열광하면 에너지를 쏟아붓고 또 쏟아붓는 경향이 있으니까요. 인터넷 붐이 일었던 90년대의 과거 데이터를 좀 봤는데요. 99년에 약 450개 기업이 상장했고, 2000년 초 몇 달 동안 또 450개가 상장했습니다. 그전에도 1,000개 정도가 상장했고요. 그러니까 5년 동안 약 2,000개 기업이 상장한 셈이죠. 그중 진짜 의미 있게 살아남은 건 아마 20여 개 정도일 겁니다. 대부분은 인수되거나 망했죠. 그리고 지금 거대 기업이 된 건 두세 개 정도입니다. 이번 사이클도 마찬가지일 겁니다. 거대해질 기업 수십 개, 그리고 정말 세대를 아우르는 압도적인 기업 한 줌이 나올 것이고, 나머지는 어떤 형태로든 사라지겠죠. 정말 흥미로운 질문인데, 모든 창업자와 투자자는 자신이 그 지속 가능한 거대 기업에 관여하고 있다고 생각합니다. 적어도 투자자한테는 그렇게 말해야죠. 네, 저도 회사를 여러 번 창업해봤지만, 믿지 않으면 할 수 없는 일이죠. 저는 그 점을 깊이 존중합니다. 자신의 모든 것을 걸고 무언가를 추진하는 사람들이니까요. 하지만 시간이 지나면서 어떻게 생각해야 할지가 중요한데, 창업자로서 큰 교훈 중 하나는 '대부분의 회사는 엑시트(매각)를 해야 한다'는 겁니다. 언젠가는 팔아야 하고, 가장 좋은 조건을 받을 수 있는 시장의 최적기가 존재합니다. 그리고 절대, 절대 팔지 말아야 할 극소수의 회사가 있죠. OpenAI 같은 곳은 절대 팔면 안 되겠죠. 어려운 점은 '내가 어느 쪽인가'를 아는 것입니다. 어디에 투자하고 있는가? 2035년이 되어서 2025년을 되돌아보면 생각해보면 컴퓨팅 확장기라고 평가하려나 아주 잘 성장하고 있는 파운데이션 모델 기업들이 몇 군데 있습니다. 아까 일리야(Ilya)가 말했듯이 질문은 '최종적으로 얼마나 커질 것인가'인데, 만약 지금보다 5배, 10배 더 커질 수 있다고 본다면 지금이라도 투자해야죠. 그리고 언어 모델 외에도 물리, 재료, 생물학 등 다른 종류의 파운데이션 모델들이 있고 아직 할 일이 많습니다. 인프라 레이어에서도 흥미로운 일들이 많습니다. 예를 들어 제가 초기에 관여하거나 인큐베이팅한 '브레인트러스트(BrainTrust)'라는 회사는 평가(eval) 쪽에서 아주 흥미로운 작업을 하고 있습니다. 그 위 단계인 애플리케이션에서는 B2C와 B2B가 있는데, 비즈니스 쪽에서는 '하비(Harvey)'나 '브리지(Bridge)' 같은 버티컬(특화) 애플리케이션에서 할 일이 정말 많습니다. 바이아웃(Buyout)이나 롤업(Roll-up, 동종 기업 인수 합병)도 진행되고 있고, 저희도 관여하고 있습니다. 인큐베이팅도 있고요. 전 분야에 걸쳐 할 수 있는 게 너무 많아서, 저는 "거품이다"라는 말이 무슨 뜻인지 잘 모르겠습니다. 투자하고 싶은 게 너무 많거든요. 우리는 20년짜리 거대한 변화의 주기를 겪고 있는 것이고, 수많은 비즈니스에 근본적인 영향을 미칠 겁니다. 그래서 저는 일어날 일들에 비해 AI는 아직 저평가(underhyped)되어 있다고 믿습니다. 밸류에이션은 일시적이지만 가치(Value)는 영원하거나 적어도 더 오래갑니다. 워런 버핏의 말이었나요? "단기적으로 시장은 투표계(voting machine)지만, 장기적으로는 체중계(weighing machine)다." 밸류에이션은 단기적으로는 항상 인기 투표 같은 겁니다. 그래서 저도 그게 집중해야 할 가장 중요한 요소라고 생각하지 않습니다. https://youtu.be/RAO94m79ma4?si=-dA69h5Zp7eQNYsP

UX/UI는 어떻게 바뀌는가? 지난 수십 년간, UI/UX는 하나의 확고한 기본 전제 위에 구축되었습니다. 바로 '인간만이 이 시스템(루프) 내에 존재하는 유일한 범용 지능'이라는 전제입니다. 소프트웨어는 절차적입니다. 따라서 UI의 역할은 그 절차를 쉽게 발견하고 효율적으로 수행할 수 있도록 만드는 것이었습니다. - 시스템의 현재 상태를 보여준다. - 수행 가능한 작업(기능)을 노출한다. - 사용자가 작업들을 조합하여 워크플로우를 구성하도록 돕는다. 그렇기에 지금까지의 핵심 질문은 다음과 같았습니다. "어떻게 인지 부하(cognitive load)를 줄일 것인가?" "어떻게 탐색 과정과 행동 유도성(affordances)을 명확하게 만들 것인가?" "고정된 상호작용 문법 안에서, 어떻게 초보자를 전문가 수준으로 끌어올릴 것인가?" 하지만 AI가 언어를 해석하고, 목표를 추론하고, 계획을 제안하며, 여러 작업에 걸쳐 적응할 수 있게 되는 순간, 이 전제는 무너집니다. 오늘날의 수많은 UI 패턴들은, 마치 지금의 10살짜리 아이가 커맨드 라인(명령어 입력창)을 볼 때 느끼는 것만큼이나 낯설고 이상한 것으로 느껴지게 될 것입니다.

정규분포 vs 멱법칙: 기본 개념 정규분포 (Normal Distribution): 특징: 데이터가 평균값(Average) 주변에 모여 있습니다. (종 모양 곡선, Bell Curve) 예시: 사람의 키, IQ, 사과 크기 등. 원리: 여러 가지 무작위 요인이 합쳐질 때(Additive) 발생합니다. (유전, 영양 등이 합산되어 키 결정) 성질: 평균에서 5배, 10배 벗어난 극단적인 값(Outlier)은 물리적으로 불가능하거나 거의 발생하지 않습니다. 멱법칙 (Power Law): 특징: 대부분은 작은 값을 가지지만, 극소수의 사건이 상상을 초월할 정도로 거대한 값을 가집니다. (평균의 의미가 없음) 예시: 전쟁 사망자 수, 지진의 에너지, 개인 소득, 도시 인구 등. 원리: 요인들이 서로 증폭(Multiplicative)되거나 상호작용할 때 발생합니다. 평균에서 수백 배, 수천 배 벗어난 사건이 생각보다 자주 발생하며, 이 극소수가 전체 평균을 지배합니다. 2. 파레토의 발견과 로그 그래프 빌프레도 파레토 (1800년대 후반): 소득 분포를 연구하다가 부의 분배가 정규분포가 아님을 발견했습니다. 소수의 사람들이 대부분의 부를 차지하고 있었습니다. 로그-로그 그래프: 소득 데이터를 로그 스케일로 변환하니 직선(기울기 약 -1.5)이 되었습니다. 이는 소득이 두 배 늘어날 때마다 그 소득을 버는 사람의 수는 일정 비율로 줄어든다는 규칙성을 보여줍니다. 이 패턴은 시대와 국가를 초월해 나타났습니다. 3. 자연계의 멱법칙: 임계 상태 (Criticality) 자석과 퀴리 온도: 자석을 가열하다가 특정 온도(퀴리 온도)에 도달하면 자성이 사라집니다. 이 **임계점(Critical Point)**에서 자석 내부의 원자들은 아주 독특한 패턴(프랙탈)을 보이며, 정렬된 구역(도메인)의 크기가 멱법칙을 따릅니다. 자기 조직화 임계성 (Self-Organized Criticality): 자석은 온도를 조절해야 하지만, 자연계의 어떤 시스템들은 스스로 임계 상태로 진화합니다. 산더미 실험: 모래알을 하나씩 떨어뜨리면, 처음엔 아무 일 없다가 어느 순간 거대한 산사태가 일어납니다. 이 산사태의 크기 분포는 멱법칙을 따릅니다. 산불: 옐로스톤 국립공원의 대형 산불(1988)처럼, 작은 불들이 합쳐져 거대한 산불이 됩니다. 이는 특별한 원인이 있어서가 아니라, 시스템 자체가 임계 상태에 있었기 때문에 필연적으로 발생하는 것입니다. 지진: 지각판의 스트레스가 임계점에 다다르면, 작은 균열 하나가 연쇄 반응을 일으켜 대지진을 만듭니다. 4. 보편성 (Universality) 겉보기엔 전혀 다른 시스템(자석, 산불, 지진, 주식 시장, 전염병 확산 등)들이 임계점 근처에서는 **모두 똑같은 수학적 행동(멱법칙)**을 보입니다. 이를 **보편성 클래스(Universality Class)**라고 하며, 시스템의 세부 사항(나무인지 모래인지)은 중요하지 않고 오직 상호작용의 구조만이 중요합니다. 5. 비즈니스와 인생에 주는 교훈 어떤 게임을 하고 있는가? 정규분포의 세계: 식당 운영, 항공사 등. 매일의 꾸준함(Consistency)이 중요하며, 평균적인 성과가 누적됩니다. 멱법칙의 세계: 벤처 투자, 영화/음반 산업, 유튜브, 스타트업 등. 대부분은 실패하지만, **단 하나의 대성공(Home run)**이 모든 실패를 만회하고 남습니다. 전략의 차이: 멱법칙 세계에서는 위험 회피(Risk Aversion)보다 **똑똑한 베팅을 반복하는 것(Repeated Intelligent Bets)**이 중요합니다. 어떤 시도가 대박이 터질지 미리 알 수 없으므로(예측 불가능성), 끈기 있게(Persistence) 시도해야 합니다. 선점 효과(Preferential Attachment): 바라바시의 인터넷 연구처럼, 이미 연결이 많은 노드가 더 많은 연결을 가져갑니다(부익부 빈익빈). 따라서 가능한 한 일찍 시작해서 스노볼 효과를 누리는 것이 유리할 수 있습니다. 세상은 생각보다 정규분포를 따르지 않습니다. 많은 현상들이 극단적인 사건이 지배하는 멱법칙을 따릅니다. 평범한(Average) 결과를 원한다면: 정규분포를 따르는 분야를 선택하세요. 비범한 성공을 원한다면: 멱법칙이 지배하는 분야를 선택하고, 위험을 감수하며 여러 번 시도하세요. 단 한 번의 성공이 인생을 바꿀 수 있습니다. https://youtu.be/HBluLfX2F_k

Q 3G 창업자들에게서 배운 가장 중요한 교훈은 무엇입니까? A: 그들은 '훌륭한 작살 낚시꾼(Spear Fisherman)'들입니다. 작은 물고기를 쫓아다니지 않고, 숨을 참고 기다리다가 결정적인 순간에 큰 물고기를 잡습니다. 예를 들어, 그들은 브라질 맥주 회사 'Brahma'를 인수하기 위해 5년을 기다렸습니다. 그러다 선거 2주 전, 스위스 소유주들이 사회주의 정권이 들어설까 두려워 매각을 서두를 때, 단 일주일 만에 딜을 성사시켰습니다. 이후 'Antarctica', 'Interbrew', 'Anheuser-Busch'와의 합병을 거치며 8천만 달러 투자를 600억 달러 가치로 불렸습니다. 4~5년마다 오는 '한 세대에 한 번 있을까 말까 한 기회'를 위해 기다리고, 기회가 오면 과감하게 움직여야 한다는 것을 배웠습니다. Q: 당신의 경력에서 '작살 낚시'와 같았던 순간은 언제였나요? A: 두 번 있습니다. 1. 닷컴 버블 시절: 친구가 "거품 안에 있는 것이 밖에 있는 것보다 낫다"고 한 말에 깨달음을 얻고 펀드를 나와 'Submarino.com'(브라질의 아마존+알리바바)을 창업했습니다. 3개월 만에 8천만 달러를 모금하고 1년 만에 6개국에 진출했습니다. 2. 글로벌 금융위기(GFC) 시절: 모두가 시장에서 도망칠 때, 브라질의 독점적인 채권 거래소 플랫폼을 6배수(EBITDA)에 인수했습니다. 위기 상황에서 지배적인 플랫폼을 헐값에 살 수 있는 기회였습니다. Q: 10년치 계획을 1년 만에 해치우는 속도는 어떻게 가능한가요? A: 닷컴 시절, 우리는 '선점 효과(First Mover Advantage)'가 얼마나 중요한지 알았습니다. 모든 것이 스테로이드를 맞은 것처럼 빨랐습니다. 불가능해 보이는 속도지만, 기회가 왔을 때 모든 자원을 집중해 빠르게 움직이면 가능합니다. Q: 지금의 AI 붐을 어떻게 보십니까? 과거의 버블들과 비교했을 때 어떤가요? A: 이번이 제게는 4~5번째 버블입니다. 모든 버블은 혁신적인 기술에서 시작되며, 단기적으로는 실망스럽지만 장기적으로는 기대 이상의 가치를 전달합니다. 제너럴 애틀랜틱(GA)은 이번 사이클에서 포트폴리오 전반에 AI를 매우 공격적으로 도입하고 있습니다. 특히 '코드 생성(Code Generation)'과 '마케팅 최적화' 분야에서 이미 실질적인 ROI와 수익이 발생하고 있습니다. 앤스로픽(Anthropic) 같은 회사의 B2B 매출이 1년 만에 2억 달러에서 40억 달러로 성장한 것은 전례 없는 일입니다. Q: 지금이 AI 투자의 정점(고점)이라고 생각하시나요? A: 아직 아닙니다. 과거 철도나 닷컴 버블 때와 비교해 보면, 매출 대비 설비투자(Capex) 비율이 미친 수준이 아닙니다. 무엇보다 이번 투자는 빚을 내서 하는 것이 아니라, 막대한 현금을 보유한 빅테크 기업들이 주도하고 있습니다. 아직 더 갈 길이 멉니다. Q: AI 시대에 젊은이들에게 주는 커리어 조언은 무엇입니까? A: 무조건 AI 관련 일을 하십시오. 20대든, 정신적으로 젊은 50대든 상관없습니다. 지금 1년은 '개의 시간(Dog years)'처럼 7년의 가치가 있습니다. 회사가 성공하든 실패하든, 이 압축된 배움의 기회는 20년에 한 번 올까 말까 합니다. Q: 멘토링은 어떻게 하십니까? A: 저는 시간이 없어서 짧고 강렬하게 합니다. 상대방이 놓치고 있는 명백한 기회나 문제점을 아주 직접적이고 아플 정도로 지적합니다. "이 좋은 기회를 왜 안 잡고 있어? 바보야?"라는 식이죠(물론 웃으면서요). 일종의 충격 요법인데, 효과가 좋습니다. Q: 은퇴 후 계획이나 미완의 과제는 무엇입니까? A: GA에서 앞으로 10년은 AI 혁명과 함께 성장하는 최고의 시기가 될 것입니다. 그 이후에는 미국의 고등교육 문제를 해결하는 데 기여하고 싶습니다. https://youtu.be/a34VyGpf8s4

비즈니스와 기회 포착 (Going Big & Opportunity) Q: 데이터에 기반했든 직감에 기반했든, 존경하는 사람들이 동의하지 않더라도 당신이 굳게 믿는 아이디어는 무엇입니까? "무언가를 하려면 결과가 중대하고 아주 큰 규모의 일을 하라(Go Big)"는 것입니다. 큰 공간에서 성공하면 그 임팩트는 거대합니다. 성공 가능성이 높으면 그 비전에 동참하고 싶어 하는 인재들을 모집하기도 쉽습니다. 반면 작은 일은 개인적인 만족을 줄 순 있어도, 실패했을 때 대안이 별로 없습니다. 큰 기회는 사람과 자본을 집중시키고 선순환을 만듭니다. Q: '큰 일'을 추구하는 것의 장단점은 무엇입니까? 미국에서는 보통 '큰 것'이 좋다고 생각하는데요. 사람마다 삶의 목표가 다르기에 무엇이 더 낫다고 단정할 수는 없습니다. 하지만 비즈니스적으로 볼 때, 큰 일을 하는 것이 오히려 성공하기 더 쉽습니다. 거대한 순환적 기회(Cyclical opportunity)를 잡으면, 그 안에 내가 성공할 수 있는 여지가 많습니다. 반면 작은 일을 하다가 틀리면 갈 곳이 없습니다. 큰일은 재정적 자원을 많이 창출하므로 인재들에게 보상을 주기도 쉽습니다. Q: 기회를 어떻게 알아봅니까? 직감인가요, 과학인가요? A: '패턴 인식'입니다. 세상의 변화를 읽는 것인데, 저는 이것을 "검은 드레스에 묻은 하얀 보풀"을 보는 것에 비유합니다. 대부분은 드레스만 보지만, 저는 그 보풀(이질적인 것)이 왜 거기에 있는지 봅니다. 설명되지 않는 불협화음(Discordant note) 두 개를 발견하고 연결하면, 그것은 새로운 변화의 방향을 가리키는 직선이 됩니다. 사람들은 데이터나 변화를 설명해줘도 자신의 현실에 안주하려 하지만, 이 변화를 먼저 읽고 행동해야 합니다. Q: 가정환경 덕분에 목소리를 높이지 않고 경청하는 법을 배웠다고 하셨습니다. 잘 들으면 무엇을 알게 됩니까? A: 사람의 의도까지 파악할 수 있습니다. 사람들은 아무리 숨기려 해도 눈, 표정, 자세, 목소리 톤 등을 통해 자신의 생각을 거의 다 드러냅니다. 적대적이지 않은 태도로 상대가 계속 말하게 두면, 그들은 자신이 숨기고 싶어 했던 것까지 포함해 거의 모든 것을 말해줍니다. Q: 타인의 가장 큰 문제를 찾아 해결해주는 당신만의 방식에 대해 설명해 주세요. A: 누군가를 만나기 전, 내가 그 사람이라면 어떤 고민을 하고 있을지 상상합니다. 예를 들어 대통령을 만난다면, 언론에 보도된 그의 가장 큰 골칫거리가 무엇인지 이미 알고 있습니다. 그 문제를 해결할 독창적인 방안을 몇 가지 준비해 가서 이야기하면, 그들은 즉시 관심을 보입니다. 실제로 1990년대 초 백악관 행사에 초대받았을 때, 대통령과 구석에서 10분간 심각한 이야기를 나눴습니다. 제가 그의 어려운 상황을 해결하려 진심으로 돕고 있다는 것을 알게 되면 신뢰가 쌓입니다. 이는 스포츠 팀 구단주를 만날 때도 마찬가지입니다. 팀이 지는 이유는 쿼터백, 코치, 단장 셋 중 하나이므로 그 문제를 짚어주면 됩니다. Q: 똑똑한 사람들은 자신의 자아(Ego) 때문에 타인의 문제에 공감하기 어려워하는데, 당신은 어떻게 합니까? 저는 제가 그렇게 똑똑하거나 대단하다고 생각하지 않는 '겸손함'이라는 경쟁 우위를 가지고 있습니다. 저는 10대 시절 가졌던 중산층의 가치관을 그대로 유지하고 있으며, 저 자신을 다른 누군가로 포장하려 하지 않습니다. 이것이 심리적으로 매우 편안하며, 다양한 배경의 사람들과 소통할 수 있게 해줍니다. Q: 처음 창업하는 사람들에게 해줄 조언은 무엇입니까? 창업은 매우 거친 여정(Rough ride)입니다. 끊임없이 문제가 발생하고, 한 번도 해본 적 없는 일(예: 임대 계약 등)을 처리해야 합니다. 절대로 혼자 하지 마십시오. '고독한 천재'는 신화입니다. 구글, 애플, 마이크로소프트 모두 팀으로 시작했습니다. 자신의 부족함을 채워줄 사람들과 함께해야 하며, 심리적 부담을 나눌 파트너가 필요합니다. Q: 인생의 큰 그림에서 사랑과 가족의 가치는 어디에 둡니까? 모든 여정은 본질적으로 고독하기 때문에, 이를 이해해 주는 지원군(가족, 배우자)이 필수적입니다. 하지만 배우자에게 모든 업무적 고민을 털어놓아 지치게 해선 안 됩니다. 적어도 두 달에 한 번은 배우자와 단둘이 여행을 떠나, 문제에서 벗어나 즐거움을 찾고 관계를 재확인해야 합니다. 이것이 장기적으로 버틸 수 있는 힘입니다. https://youtu.be/aYwDs9LTN50

'내면의 탁월함(Inner Excellence)'을 개발하는 방법: 정신적 강인함(Mental Toughness)과 압박 속에서의 성과에 관한 최고의 매뉴얼 삶의 질은 내면의 생각과 감정, 세상을 바라보는 관점, 그리고 관계라는 세 가지 요소에 달려 있다. 인간 최적화를 위해서는 단순히 정신(mind)뿐만 아니라 마음(heart), 잠재의식, 영혼까지 다루는 전체론적 접근이 필요하다는 것을 깨달았습니다. 상담가든 코치든 누군가를 도우려면 그들의 가장 깊은 두려움과 꿈, 즉 잠재의식 수준까지 들어가야 합니다. 단순히 압박 속에서 성과를 내는 것뿐만 아니라, 더 의미 있는 삶을 사는 방법을 포함합니다. 많은 재능 있는 사람들이 "다음, 다음, 다음" 목표만을 쫓는 함정에 빠지곤 합니다. 내면의 탁월함은 가능하다고 믿는 것의 범위를 확장하는 것이며, 모든 경험이 나에게 가르침을 주고 나를 위해 작용한다는 믿음을 갖는 것입니다. Q: 최고의 성과를 내는 것과 최고의 삶을 사는 것이 같은 길이라는 깨달음은 어떻게 얻게 되었나요? 저는 모든 소유물의 절반 이상을 기부하고 고독한 삶을 살며 인생의 방향을 고민하던 시기가 있었습니다. 그때 프로 야구 선수들의 코치로 일하기로 결심했는데, 단순히 그들을 성공시키는 것만으로는 의미가 없다는 것을 깨달았습니다. 진정한 평정심과 성과는 마음을 다해 사랑으로 행하고, 두려움이 아닌 사랑 안에서 걸을 때 나온다는 것을 알게 되었습니다. 즉, 자신을 발전시키고 진정한 자아를 찾는 과정이 곧 최고의 성과를 내는 길이자 최고의 삶을 사는 길입니다. Q: '깨끗한 연료(Clean Fuel)'와 '더러운 연료(Dirty Fuel)'에 대한 당신의 생각은 무엇인가요? 많은 사람들이 부정적인 감정(열등감 등)을 동기로 사용하는데요. 맞습니다. 두려움이나 분노 같은 '더러운 연료'도 단기적으로는 매우 효과적일 수 있습니다. 하지만 장기적으로는 내면의 평화와 기쁨을 앗아갑니다. 사람들은 성공하면 사랑과 인정을 받을 거라 생각하지만(에고의 속삭임), 실제로는 성취 후에도 공허함을 느끼는 경우가 많습니다. 저는 사람들이 더 힘을 주는, 즉 마음의 중심을 긍정적으로 채우는 '깨끗한 연료'로 움직이기를 바랍니다. Q: 사람들이 일이나 바쁨으로 도피하는 경향이 있다. 휴가도 마찬가지고. 당신이 쓴 "휴가를 보내는 법"에 대해 말해달라. 대부분의 사람들은 자신의 삶에서 도망치기 위해 휴가를 갑니다. "왜 탈출하고 싶은 삶을 살고 있는가?"를 자문해야 합니다. 최고의 휴가는 삶을 탈출하는 게 아니라 삶을 향상(Enhance)시키는 것입니다. 바쁨을 멈추고, 깊이 생각하고, 내 삶의 목적이 무엇인지 재설정하는 시간을 가져야 합니다. Q: 당신은 어떻게 이런 영적인 깨달음을 얻었나? A: 2010년, 책을 쓰느라 5년을 보내고 전 재산을 다 써서 9만 달러 빚을 진 채 멘탈이 붕괴되기 직전이었습니다. 친구의 조언으로 "노숙자를 찾아 도우라"는 말을 듣고, 덴버 거리에서 하프를 연주하는 노숙자에게 지갑에 있던 마지막 100달러를 줬습니다. 나중에 스타벅스에서 절망에 빠져 있는데 그 노숙자가 저를 찾아왔습니다. 그가 준 카드에 적힌 이름은 "Zoe(조이)"였습니다. 저는 전율했습니다. 'Zoe'는 그리스어로 "충만한 삶(Fullness of Life)"을 뜻하며, 제가 책을 쓰며 5년간 연구한 핵심 단어였기 때문입니다. 그날 밤 저는 신에게 완전히 항복(Surrender)했습니다. "제 뜻대로 하지 않고 당신의 뜻대로 하겠습니다"라고요. 그 순간 세상의 무게가 어깨에서 사라졌습니다. Q: 자아(Ego)와 자신감, 그리고 성과의 관계는 어떻게 되나요? 자신감도 중요하지만, 그보다 더 강력한 것은 '완전히 현재에 존재하는 것(Being fully present)'입니다. 자신감이 넘치면 부주의해질 수 있지만, 완전히 몰입하여 자아를 잊어버린 상태(Self-forgetful)가 되면 두려움이 사라지고 최고의 성과가 나옵니다. 두려움은 본질적으로 자아 중심적인 미래에 대한 걱정이기 때문입니다. Q: 실패와 비판에 대한 두려움 때문에 도전을 피하는 사람들에게 해주고 싶은 말은 무엇인가요? A: 용기가 가장 중요한 자원입니다. 최고의 성과를 내는 사람들은 기꺼이 바보처럼 보일 용기, 실패할 용기, 비판받을 용기를 가지고 있습니다. 높은 목표를 가질수록 더 많은 비판에 노출될 수밖에 없습니다. 그 불편한 순간을 피하지 않고 "이것은 나를 가르치러 온 것이다"라고 받아들이며 마주하는 것이 성장의 열쇠입니다. Q: 불편한 순간을 마주할 때 팁은? 제 멘토는 "신은 우리에게 두 치수 큰 재킷을 준다"고 했습니다. 부모가 아이에게 큰 옷을 사 입히듯, 우리가 성장할 수 있도록 불편한 상황을 주는 것입니다. 불편함이 느껴질 때 "이건 잘못된 게 아니라 나를 성장시키기 위한 것"이라고 받아들여야 합니다. Q: 현대 사회의 끊임없는 비교 문화가 우리에게 미치는 영향은 무엇인가요? A: 기술의 발달로 인해 24시간 내내 전 세계 사람들과 자신을 비교하게 되면서 엄청난 불안과 불필요한 생각들이 생겨납니다. 물론 기술은 생산성을 높이고 사회를 발전시키는 긍정적인 측면도 있지만, 개인의 정신 건강에는 큰 비용을 초래하고 있습니다. 우리는 너무 많은 생각과 소음 속에서 살고 있습니다. Q: 자녀들에게 정신적 강인함을 어떻게 가르쳐야 할까요? 아이들은 거래적 성공(팔로워 수, 돈)만 중시하는 문화에 살고 있습니다. 그들에게 희생과 사랑, 관계의 중요성을 가르치는 것이 진정한 성공과 정신적 강인함을 기르는 길입니다. 부모가 먼저 의미 있는 삶, 배우고 성장하는 삶을 사는 모범을 보여주는 것이 가장 강력한 교육입니다. 단순히 편안하고 행복한 삶을 제공하는 것보다, 지혜와 용기를 가르치는 것이 중요합니다. Q: 목표를 달성하는 과정에서 집중력을 유지하는 방법은 무엇인가요? A: 마라톤 선수가 결승선만 생각하면 지치지만, 눈앞의 표지판이나 짧은 거리의 목표물에 집중하면 완주할 수 있듯이, 초점을 좁혀야 합니다. 너무 먼 미래의 결과나 전체 목표를 생각하면 두려움이 생기지만, 지금 당장 할 수 있는 작은 단계에 집중하면 고통이나 어려움을 이겨내고 계속 나아갈 수 있습니다. Q: "가진 것의 100%를 주라"는 당신의 만트라는 어떤 의미인가요? A: 매일 컨디션이 100%일 수는 없습니다. 어떤 날은 40%밖에 안 될 수도 있죠. 중요한 것은 그 40% 안에서 내가 할 수 있는 최선(100%)을 다하는 것입니다. 이는 핑계가 아니라, 현재 상태를 인정하면서도 포기하지 않고 최선을 다하게 만드는 힘이 됩니다. Q: 당신에게 성공이란 무엇입니까? A: 저에게 성공은 두 가지입니다. 첫째는 제가 창조된 목적대로 신의 사랑, 지혜, 용기를 세상과 나누는 사람이 되는 것입니다. 둘째는 그 과정에서 굶주리고, 갇히고, 소외된 사람들에게 실질적인 도움을 주는 것입니다. 저는 사회가 "범죄자들과 격리된 차"를 타는 것처럼 나쁜 사람들을 피하려 하지만, 내면의 탁월함은 오히려 그들에게 다가가는 것이라 믿습니다. https://youtu.be/WvJg4SMzzQ8

소프트웨어를 만든다는 행위는 결국 코드를 수정하는 것입니다. PM의 기획서나 디자이너의 시안도 결국은 코드를 변경하기 위한 간접적인 수단일 뿐이죠. Cursor는 이 모든 과정의 중심에 있는 '코드'라는 진실(Truth)을 공유함으로써 불필요한 번역 과정과 오해를 줄여줍니다. 디자인을 단순히 버튼을 예쁘게 만들거나 픽셀을 조정하는 미학적인 행위로 보지 않습니다. 디자인이란 가장 단순하고 강력한 개념(Concept)을 설계하는 것입니다. 예를 들어, Notion은 겉보기엔 메모 앱 같지만, 실제로는 '블록', '페이지', '데이터베이스'라는 몇 가지 핵심 개념으로 이루어진 시스템입니다. 이 개념들만 잘 설계되어 있으면 사용자는 이를 조합해 웹사이트도 만들고, 프로젝트 관리 도구도 만들 수 있습니다. AI는 스스로 의견을 가지지 못하기 때문에, 인간의 개입 없이는 그저 평균적인 결과물만 내놓게 됩니다. 만약 당신이 의견을 투입하지 않으면, AI는 그저 'AI 찌꺼기(AI slop)'만 생산해낼 뿐입니다. 그 위에 얹어야 할 것은 당신의 취향, 즉 무엇이 좋고 무엇이 옳은지에 대해 스스로 경계를 긋는 당신의 선택입니다. 취향이란 수많은 옵션 중에서 '선택(Selection)'하는 능력입니다. 이는 과거의 경험, 자연, 다른 창작물 등을 통해 축적된 데이터를 바탕으로 자신만의 기준(Boundary)을 설정하는 것입니다. Q: 리오 님은 평소에 어디서 디자인 영감을 얻나요? 억지로 짜내지 않고 여백을 두며, 소프트웨어 밖의 세상(인쇄물, 영화, 음악, 자연, 과거의 유산)에서 영감을 얻습니다. Q: 디자이너, PM, 엔지니어라는 직군 구분은 앞으로 어떻게 될까요? 다시 과거의 '소프트웨어 메이커(Builder)'로 통합될 것입니다. 초기 컴퓨팅 시대에는 한두 사람이 아키텍처부터 UI까지 모두 만들었습니다. 경제적 효율성 때문에 역할이 쪼개졌지만, 이제 AI 도구 덕분에 다시 통합될 수 있습니다. 디자이너가 직접 코딩을 통해 제품을 만들고, 엔지니어가 디자인 영역까지 다룰 수 있게 됩니다. 각자의 강점은 살리되 약점은 AI 에이전트가 보완해주는 형태가 됩니다. Q: 모든 소프트웨어가 챗봇 형태가 되어야 할까요? A: 단순히 빈 입력창만 있는 챗봇은 막막하고 나쁜 경험을 줍니다. AI는 보편적인 인터페이스지만, 그 위에 사용자의 워크플로우에 맞는 레이어(패키징)를 입혀야 합니다. 어떤 사람에게는 채팅창, 어떤 사람에게는 클릭형 UI, 어떤 사람에게는 사이드바 형태가 맞을 수 있습니다. 디자이너는 AI라는 강력한 엔진 위에, 사용자가 압도되지 않도록 적절한 추상화와 제약(Constraint)을 설계하여 제공해야 합니다. Cursor는 이를 통해 단순한 도구가 아니라 사용자가 자신의 작업 방식에 맞춰 설정할 수 있는 '도구 상자(Toolbox)'가 되고자 합니다. --- 팀을 확장하는 기존의 방식은 끝났습니다. 예전에는 디자이너, 엔지니어, PM 등 전문가를 각자의 영역에 배치하고, 인원을 늘려 확장했습니다. 하지만 Cursor가 아이디어를 코드화하는 데 몇 분밖에 걸리지 않게 되면서, 실행 능력은 더 이상 병목이 아닙니다. 이제 중요한 건 안목과 판단력입니다. 지금 필요한 인재는 전체 스택을 볼 줄 알고, 여러 계층을 넘나들면서도, AI가 아직 대체할 수 없는 무언가에 깊은 전문성을 가진 사람입니다. 기존의 T자형 인재보다 훨씬 더 넓은 영역을 아우르면서 한 가지에 정통한 사람 말이죠. AI는 단순히 속도만 높여주는 게 아닙니다. 팀의 연결 방식을 바꿉니다. 더 이상 폭포수 방식은 없습니다. 디자이너가 프로토타입을 코딩하고, 엔지니어가 이를 확장하며, 둘 다 같은 도구 안에서 작업합니다. 직군 간의 경계가 사라지는 겁니다. 이는 개인의 한계를 끌어올립니다. 저만 해도 디자이너지만 Cursor만으로 ryOS 전체를 구축했습니다. 예전엔 불가능했던 일이죠. 그렇다고 엔지니어를 대체하려는 건 아닙니다. 실행의 장벽을 없애면서 제 디자인 안목과 시스템적 사고를 유지하는 겁니다. 이제 직무별로 채용하지 않습니다. 넓은 시야와 깊이, 안목, 시스템적 사고, 빠른 학습 속도를 보고 뽑습니다. 코드, 디자인, 제품을 넘나들며 일할 수 있는 5명이 전문가 20명이 서로 조율하며 일하는 것보다 낫습니다. 새로운 병목은 지극히 인간적인 영역에 있습니다. 바로 안목, 비전, 판단력, 맥락입니다. AI는 선택지를 보여줄 순 있어도, 무엇이 옳은지는 말해줄 수 없습니다. 이제 전문성이 빛을 발하는 곳은 실행이 아니라 판단입니다. 작은 팀, 유연한 경계, 모두가 같은 도구로 일하는 환경. 역할은 여전히 중요하지만, 분리된 사일로가 아니라 서로 겹치면서 깊이만 다른 영역이 됩니다. 도구가 실행을 맡고, 당신은 비전을 맡습니다. 이것이 우리가 Cursor에서 만들고 있는 것입니다. 아이디어와 현실 사이의 간극을 줄이는 것. 그래서 당신의 안목이 가장 중요해지고, 팀은 더 자유롭게 기발한 아이디어를 탐험할 수 있도록 말입니다.

"내 평생 아무도 나보고 겸손하다고 한 적이 없어," 1987년 멍거는 인정했습니다. "겸손은 내가 존경하는 덕목이지만, 나는 내 몫을 다 챙기지 못한 것 같아." 대학 학위 없이 하버드 로스쿨을 우등으로 졸업한 멍거는 자신이 얼마나 똑똑한지 잘 알고 있었습니다. 그리고 그가 어리석은 사람들을 참지 못했다는 말은 과소평가입니다. 2019년 월스트리트 저널과의 인터뷰에서 그는 다른 사람들이나 심지어 특정 직업 전체를 묘사할 때 "엄청나게 멍청하다(massively stupid)"라는 표현을 적어도 일곱 번이나 사용했습니다. 아닙니다. 멍거가 알고 있는 단 한 가지가 있다면, 그것은 바로 자신이었습니다. 2014년 그가 제게 말했듯이, "공자께서 말씀하시길 진정한 앎이란 자신의 무지의 정도를 아는 것이라고 했네... 자신이 모르는 것을 아는 것이 명석한 것보다 더 유용하지." 멍거(와 버핏)는 이것을 "능력 범위(circle of competence)"라고 불렀으며, 원의 지름 크기는 중요하지 않다고 자주 지적했습니다. 중요한 것은 지름이 실제보다 더 넓다고 스스로를 속이지 않는 것입니다. 그래서 두 사람은 이해할 수 없다고 느끼는 모든 투자 아이디어를 던져 넣는 "너무 어려운 더미(too-hard pile)"라는 정신적 쓰레기통을 가지고 있었습니다. 그래서 멍거는 투자자들이 훌륭한 아이디어가 훌륭한 가격에 나올 때까지 몇 년, 혹은 수십 년을 기다려야 하며, 나머지 시간에는 아무것도 하지 말아야 한다고 말했습니다. "내가 다른 사람들보다 조금 더 성공한 이유 중 하나는 내가 가장 아끼는 아이디어를 스스로 파괴하는 데 능숙하기 때문이야," 멍거는 2019년 저널에 말했습니다. "나는 일찍이 그것이 유용한 기술이 될 것이라는 것을 알았고, 수년 동안 갈고닦았어. 그래서 나는 오랜 시간 동안 열심히 연구한 아이디어를 파괴할 수 있을 때 기뻐해. 대부분의 사람들은 그렇지 않지." --- "그는 단순히 조언만 주는 게 아니라 몇 주 동안 일주일에 몇 시간씩 그 문제에 대해 생각하고 계속 다듬고 반복해서 고민해 줍니다," 투자 은행 로버트슨 스티븐스의 전 CEO이자 현재 자산 관리자로서 멍거의 모임에 정기적으로 참석하는 존 콘린의 말입니다. "누군가 당신을 위해 그렇게 해주는 것보다 기분 좋은 일은 별로 없죠." 코스트코 이사회에서 CEO 크레이그 젤리넥은 멍거가 "우리 사업의 평판과 진실성을 해칠 수 있는 어떠한 일도 일어나지 않도록 확실히 했다"고 말했습니다. 멍거는 또한 수년 동안 고위 경영진에게 그가 가장 좋아하는 글로벌 시장 중 하나인 중국으로 진출하라고 인내심 있게 독려했습니다. 회사는 2019년 중국에 진출했고 곧 그곳에 7개 지점을 갖게 될 것입니다. 과대평가된 기술 주식을 조롱하기로 악명 높은 99세 노인에게서 첨단 기술 기업가들은 무엇을 배울 수 있다고 생각했을까요? "지속성(Duration)입니다," 디지털 결제 회사 스트라이프(Stripe)의 공동 창립자이자 멍거 모임의 단골 방문객인 패트릭 콜리슨은 말했습니다. "지속성은 복리 효과를 가능하게 합니다. 우리가 미래에 성공하려면 장기적인 관점에서 생각하고 투자하는 데 정말 능숙해져야 합니다." 한 가지 교훈은 멍거가 "마땅한 신뢰의 끊김 없는 그물망(seamless web of deserved trust)"이라고 부른 것의 중요성입니다. 이는 회사가 직원, 고객, 경쟁자 및 기타 이해관계자를 공정하게 대하는 것을 의미합니다. "생태계에서 인접한 사람들과 구조적으로 적대적이라면 5년은 번영할 수 있을지 몰라도 75년은 불가능합니다!"라고 콜리슨은 말했습니다. "건전한 판단력을 가지고 주변의 거대한 감정에 휘둘리지 않는 사람은 매우 드뭅니다. 수년간의 자기 수양을 통해서만 그렇게 할 수 있죠," 시애틀에 있는 글로벌 투자 회사 히말라야 캐피털을 운영하며 중국 주식을 많이 보유하고 있는 리 루의 말입니다. "중국 사람들은 정말로 찰리를 현대 유교의 귀감으로 여깁니다." ---- 그리고 저는 10단어 이내로 묘비명에 무엇을 쓰고 싶은지 물었습니다. 그의 대답은 즉각적이었고 인식적 겸손으로 가득 차 있었습니다. "나는 유용하려고 노력했다(I tried to be useful)."

멍거는 인생의 말년에 또 다른 특이한 베팅을 했습니다. 2005년, 당시 81세였던 멍거의 로스앤젤레스 핸콕 파크 자택 문을 17세 이웃 소년 아비 메이어가 두드리면서 시작되었습니다. 메이어는 모세오경이 담긴 히브리어 책을 멍거에게 선물했습니다. "그분에 대해 읽어보고 유대인이라고 생각했어요," 메이어가 말했습니다. 당시 메이어는 최근 할아버지를 여의고 상실감에 빠져 있었습니다. (멍거는 유대인이 아니었습니다.) 메이어는 학교생활에 어려움을 겪고 있었습니다. ADHD와 싸우며 미래에 대해 낙담하고 있었습니다. "저는 불안했어요," 그가 말했습니다. "친구들은 대학에 가는데 저는 아니었으니까요." 메이어는 멍거와 시간을 보내기 시작했습니다. "그분은 제 고민을 들어주셨고 삶의 원칙과 개인적인 가치관에 대해 이야기해 주셨어요," 메이어가 말했습니다. 멍거는 다른 사람들에게 메이어의 지능과 야망을 높이 산다고 말했습니다. 이 유명한 투자자는 대학 진학을 포기하려는 메이어를 지지하며, 대신 "멍거 대학교"에 다닐 수 있다고 말했습니다. 그래서 메이어는 그렇게 했습니다. "저는 그분이 일하는 모습을 지켜보며 배웠고, 가끔 그분이 제게 책을 건네주셨어요," 메이어가 말했습니다. 두 사람은 가까워졌고, 멍거는 함께 식사할 수 있도록 코셔 음식을 집으로 배달시켰습니다. 메이어가 어린 시절 친구인 루벤 그라돈과 협력하여 부동산 투자를 시작했을 때, 멍거는 그들의 초기 행보를 연구했습니다. 몇 년 후, 그는 두 청년과 그들의 회사인 애프턴 프로퍼티스를 후원하겠다고 제안했습니다. "자네를 졸업시키네," 그가 말했습니다. 2017년경부터 세 사람은 남부 캘리포니아에서 약 10,000채의 "가든" 아파트를 매입하여 주 내 최대 규모의 저층 아파트 소유주 중 하나가 되었습니다. 세상을 떠나기 몇 년 전부터 멍거는 동네 선정, 건설 평가, 심지어 페인트 색상 선택에 이르기까지 사업의 거의 모든 측면에 관여했습니다. 현재 37세인 메이어에 따르면, 그는 조경 디테일에 특별한 관심을 보였으며, 저밀도 건물 단지를 고집하고 회사 차원에서 수십만 달러를 들여 새로운 나무를 심어야 한다고 결정하기도 했습니다. 다른 부동산 투자자들이 빠르게 재융자할 수 있는 단기 부채를 선호하는 상황에서도, 멍거는 메이어와 그라돈에게 장기 대출을 받을 것을 권장했습니다. 그는 유리한 이자율을 확보하고 자산을 수년간 보유하는 것이 수익을 내는 방법이라고 주장했습니다. 이러한 움직임은 성공적이었습니다. 관련 소식통에 따르면 애프턴의 보유 자산 가치는 현재 약 30억 달러에 달합니다. 멍거는 마지막까지 관여하여 캘리포니아 산타마리아에 있는 건물 매입 협상을 도왔으며, 이 거래는 그가 사망한 지 며칠 후에 완료되었습니다. 그 건물은 새로운 코스트코 슈퍼센터 맞은편에 있어 멍거에게 더욱 특별했습니다. -- 멍거는 많은 사람에게 알리지 않았지만, 생의 마지막 10년 동안 건강상의 어려움에 직면하기 시작했습니다. 1978년, 한 외과 의사가 백내장 수술을 망쳐 왼쪽 눈이 실명되는 일이 있었습니다. 그는 집안 곳곳에 밝은 조명을 설치하는 등 보완하는 법을 배웠습니다. 하지만 2014년경 멍거는 오른쪽 눈의 시신경에 문제를 겪었습니다. 그는 실명 가능성에 직면했지만, 멍거를 정기적으로 방문했던 리 루에 따르면, 그는 이 시련을 담담하게 받아들였습니다. 멍거는 다른 사람들에게 책을 읽어달라고 부탁하고 다른 조치들을 생각하며 삶을 조정하기로 결심했습니다. 그는 한 친구에게 "점자를 배워야겠어"라고 말했습니다. 백내장 수술 실패 후 점자를 공부한 적이 있었지만 완전히 익히지는 못했습니다. 그는 다시 시도할 준비가 되어 있었습니다. 하지만 그럴 필요는 없었습니다. 오른쪽 눈은 서서히 좋아졌지만 멍거의 움직임은 제한되었습니다. 2016년경, 오랫동안 즐겼던 골프를 더 이상 칠 수 없게 되어 지팡이에 의지하게 되었습니다. 다른 사람들과 브리지 게임을 하는 것도 어려워졌습니다. 2010년 아내를 잃은 멍거는 외로움과 세상에서 잊히는 것을 두려워했습니다. 그는 친구들과 더 많은 시간을 보내며 기운을 북돋우기로 했습니다. 매주 화요일, 그는 로스앤젤레스 컨트리클럽에서 대여섯 명의 사업 동료 및 지인들과 조찬 모임을 가졌습니다. 모임은 보통 오전 7시 30분에 시작하여 몇 시간씩 이어지곤 했습니다. 그들은 투자에 대해 논의하고, 서로 가시 돋친 말을 주고받으며 농담을 나누었습니다. 단골 멤버로는 투자자 존 호킨스와 존 콘린, 우버 회장 론 슈거, 나중에 합류한 전 액티비전 CEO 바비 코틱 등이 있었습니다. 암젠의 CEO 로버트 브래드웨이도 가끔 방문했습니다. 테이블 상석에 앉은 멍거는 이야기를 들려주고 철학을 공유했습니다. "그는 항상 '버크셔의 상위 5개 투자를 빼면 수익률은 꽤 평범하다'고 말하곤 했습니다."라고 몽고메리는 말합니다. 이는 성공은 단 몇 번의 승리에서 올 수 있다는 교훈을 모임 멤버들에게 주었습니다. "우리는 모두 찰리에게 배웠고, 찰리는 우리에게 배우는 것을 좋아했습니다."라고 또 다른 단골 멤버이자 지역 사업가인 폴 메이저는 말합니다. 음식은 특별한 즐거움이 되었습니다. 매주 금요일, 친구들은 각자 음식을 준비해 멍거의 집으로 점심을 먹으러 갔습니다. 부드러운 흰 빵에 버터를 바른 치킨 샌드위치를 가져갔는데, 때로는 빵 껍질을 제거하기도 했습니다. 그들은 체리 파이와 바닐라 아이스크림과 함께 과일이나 샐러드를 가져왔습니다. "가끔은 특별한 간식으로 씨즈 캔디(See's Candy)를 먹기도 했습니다."라고 몽고메리는 말합니다. 수년 동안 멍거의 가족은 그에게 건강한 식단을 유지하도록 노력했습니다. 그는 그러한 노력에 저항했습니다. 손자 며느리인 잭슨은 "그는 물을 마치 독약처럼 조금씩 마셨어요."라고 말합니다. 결국 가족들의 결심은 무너졌습니다. 그들은 그에게 배달 음식을 시켜주기 시작했습니다. "그의 마지막 배달 음식은 한국식 프라이드치킨이었습니다. 통닭 한 마리, 김치볶음밥, 와플 프라이였죠."라고 잭슨은 말합니다. 멍거와 잭슨은 그가 좋아하는 음식 목록을 만들었고, 그녀는 그것들을 요술처럼 만들어냈습니다. 예를 들어, 군 복무 시절 스팸을 먹었던 좋은 추억이 있었기에 그녀는 스팸 볶음밥 요리를 만들었습니다. --- 1931년 오마하의 북 41번가, 일곱 살 정도의 소년과 소녀가 그네를 타고 놀고 있었습니다. 갑자기 떠돌이 개 한 마리가 나타나 예고도 없이 달려들었습니다. 아이들은 개를 쫓아내려 애썼습니다. 소년은 어떻게 된 일인지 다치지 않았지만, 개는 소녀를 물었습니다. 소녀는 광견병에 걸려 얼마 지나지 않아 세상을 떠났습니다. 소년은 살아남았습니다. 그의 이름은? 찰스 토마스 멍거입니다. 100세 생일을 34일 앞둔 지난 화요일 캘리포니아의 한 병원에서 별세한 훌륭한 억만장자 투자자 찰리 멍거는 지난달 제가 인터뷰했을 때 그 이야기를 들려주었습니다. 저는 워런 버핏의 버크셔 해서웨이 부회장에게 물었습니다. 자신의 성공을 오로지 자신의 명석함과 노력 덕분이라고 생각하는 사람들에 대해 어떻게 생각하느냐고요. "말도 안 되는 소리라고 생각하네," 멍거는 딱 잘라 말한 뒤, 제가 기억하기로 공개석상에서 한 번도 이야기한 적 없는 그 이야기를 들려주었습니다. "그 빌어먹을 개는 나한테서 3인치도 떨어져 있지 않았어," 그가 말했습니다. "평생 동안 궁금했어. 왜 나 대신 그 애를 물었을까? 내가 살고 그 애가 죽은 건 순전히 운이었어." 그는 덧붙였습니다. "비범한 성과를 낸 사람들과 기업들의 기록은 항상 합리적인 양의 지능, 노력, 그리고 많은 운의 조합이야." 그에 대해 조금만 아는 사람들은 멍거를 주식 선정의 귀감으로 생각합니다. 실제로 그랬습니다. 하지만 그를 잘 아는 사람들은 그를 도덕적 모범으로 여깁니다. 명확하게 생각하고, 공정하게 거래하며, 충만하게 사는 법을 보여준 사람이기 때문입니다. 그는 아무것도 당연하게 여기지 않았습니다. 멍거는 제가 아는 거의 모든 사람보다 더 철학자들이 말하는 '인식적 겸손(epistemic humility)'을 가지고 있었습니다. 누구나 알 수 있는 것이 얼마나 적은지, 그리고 마음을 열고 바꾸는 것이 얼마나 중요한지에 대한 깊은 통찰력 말입니다.

부는 지능이 아니라 '기질(Temperament)'과 '지루함을 견디는 능력'에서 온다 첫 100만 달러가 가장 힘든 이유는 수학이 어려워서가 아니다. 그것은 **당신이 누구인지 드러내는 필터**이기 때문이다. 10년간의 지루함을 견딜 수 있는지, 친구들이 돈을 쓸 때 저축할 수 있는지, 보이지 않는 성장을 믿고 버틸 수 있는지를 테스트하는 과정이다. --- 1. 복리(Compounding): 수학이 아닌 행동 테스트 - 진정한 의미: 복리는 투자 기술이 아니라, 수학으로 위장한 **행동 테스트**다. 72의 법칙은 누구나 이해하지만, 초기 10년 동안 성과가 보이지 않는 '빙하기'를 견디는 건 99%가 실패한다. - 인간 본성과의 싸움: 인간은 진화적으로 '행동하고, 반응하고, 움직이도록' 설계되었다. 가만히 있으면 잡아먹혔던 조상들의 유전자가 현대 시장에서는 독이 된다. - 아무것도 안 하는 것의 어려움: 부는 움직임을 처벌한다. 불필요한 거래는 수수료와 세금뿐만 아니라, **미래에 거대해질 부의 유령(Ghost of future wealth)**까지 사라지게 만든다. - 버크셔 해서웨이의 전략: "좋은 기업을 사라. 그리고 손 깔고 앉아 있어라(Sit on our hands)." 큰돈은 사고파는 매매가 아니라 '기다림' 속에 있다. --- 2. 복리를 파괴하는 5가지 요소 이 5가지는 시장 붕괴보다 더 많은 부를 파괴한다. 1. 조급함 (Impatience): 20년이 아니라 지금 당장 부자가 되고 싶어 투자를 도박(투기)으로 바꾼다. 복리의 시간은 압축될 수 없다. 2. 부채 (Debt): 부채는 당신에게 불리하게 작용하는 '역(Reverse) 복리'다. 10% 수익을 내면서 20% 카드 이자를 내는 건 엑셀을 켜놓고 익사하는 것과 같다. 3. 질투 (Envy): 가장 파괴적인 감정이다. 남이 코인으로 돈 버는 것을 보고, 자신이 잘 아는 안전한 전략을 버리고 모르는 분야(능력 범위 밖)로 뛰어들게 만든다. 이는 금융 자살행위다. 4. 과도한 분산투자 (Over-diversification): 50개의 평범한 회사를 가진 것은 분산이 아니라 '혼란'이다. 모르는 것에 대한 '무지 보험(Ignorance insurance)'일 뿐이다. 진정한 부는 확신을 가진 소수의 우량 기업(코카콜라, 아메리칸 익스프레스 등)을 오래 보유하는 '집중'에서 온다. 5. 생활 수준 인플레이션 (Lifestyle Inflation): 소득이 늘면 지출도 늘린다. 나무를 심어놓고 가구를 만든답시고 5년마다 베어버리는 꼴이다. 이를 '반(Anti) 복리'라 부른다. --- 3. 첫 100만 달러 이후: 중력이 반대로 작용한다 - 매직 포인트: 첫 100만 달러를 넘어서면 수학이 당신을 돕기 시작한다. - 100만 달러의 10% 수익 = 10만 달러 (연봉 수준의 불로소득). - 7년 뒤 200만 달러 = 연 20만 달러 수익. - 또 7년 뒤 400만 달러 = 연 40만 달러 수익. - 노력의 차이: 더 똑똑해지거나 4배 더 열심히 일한 게 아니다. 단지 **방해하지 않았을 뿐**이다. --- 4. 부자가 되는 기술 vs 부자로 남는 기술 이 둘은 정반대의 기술을 요구한다. - 부자가 되는 법 (Getting Rich): 공격성, 집중, 단기적 희생, 맹렬한 저축. - 부자로 남는 법 (Staying Rich): 절제, 겸손, 건드리지 않는 지혜. - 대부분의 사람은 목표를 달성하면 자꾸만 포트폴리오를 건드리고(tinkering), 수정하고, 개선하려다 망친다. - 탐욕의 정점과 공포의 바닥에서 인간의 판단은 최악이다. --- 5. 지루함(Boredom): 당신의 경쟁 우위 - 지루함은 해자(Moat)다: 아무 일도 일어나지 않는 것처럼 보이는 지루한 시간을 견디는 것이 성공 투자의 핵심이다. - 무행동의 미학: 시장이 폭락할 때나 폭등할 때나 정답은 보통 **"아무것도 하지 않는 것(Nothing)"**이다. 이것은 게으름이 아니라, 게으름으로 위장한 **천재성**이다. - 도파민 중독 탈피: 흥미진진함, 뉴스, 소음을 차단하고 단순한 산수(Arithmetic)를 믿어라. --- 6. 부와 인격(Character)은 분리할 수 없다 돈은 바보의 손에 들어가면 어리석음을 증폭시킬 뿐이다. 복리는 돈뿐만 아니라 인격, 평판, 지혜에도 적용된다. - 필요한 4가지 인격: 1. 겸손 (Humility): 내가 모른다는 것을 인정해야 섣불리 건드리지 않는다. 2. 정직 (Integrity): 스스로에게 거짓말하지 마라. 자기기만은 투자에서 치명적이다. 3. 규율 (Discipline): 남들이 뭐라 하든, 지루하고 반복적인 원칙을 지키는 능력. 4. 감사 (Gratitude): 감사할 줄 모르면 더 많은 것을 쫓다 가진 것마저 날린다. --- 7. 결론: 시간을 적으로 만들지 말고 파트너로 삼아라 - 역발상 (Inversion): "어떻게 부자가 될까?"가 아니라 "어떻게 가난해지지 않을까?"**를 물어라. 똑똑해지려 하지 말고, **멍청한 짓을 피하라. - 세 가지 게임: - 부자가 되는 것 = 산수(Arithmetic)와 시간의 게임. - 부자로 남는 것 = 기질(Temperament)과 태도의 게임. - 잘 사는 것 = 인격(Character)과 가치의 게임. - 최종 조언: 흥미를 쫓지 마라. 매일 시세를 확인하지 마라. 그냥 멍청한 짓을 멈추고, 시간을 믿고 기다려라. "돈은 수십 년간 복리로 불어난다. 지혜도 수십 년간 복리로 쌓인다. 하지만 멍청함 또한 수십 년간 복리로 커진다. 당신이 매일 무엇에 먹이를 줄지 신중히 선택하라."

1. “그는 돌아가시기 불과 한두 주 전에도, ‘AI 시대에도 무어의 법칙이 적용되느냐?’와 같은 질문을 했습니다.” 2. 멍거는 석탄 회사들에 관심을 가졌습니다. (만 99세) 석탄 사용은 장기적으로 감소 추세였고, 투자자들은 이 산업의 미래를 암울하게 보았습니다. 하지만 많은 생산자들은 여전히 수익성이 있었고, 저렴한 수준에서 거래되고 있었습니다. 멍거는 친구들과 다른 사람들에게 전 세계 에너지 수요가 증가함에 따라 석탄은 계속 필요할 것이라고 주장했습니다. 3. 인생의 끝이 가까워지자, 멍거는 힘을 얻기 위해 유머에 의지했습니다. 그는 다이어트 콜라가 자신의 장수에 책임이 있다고 가족들에게 말하며 분위기를 밝게 했습니다. 그리고 그는 방문객에게 소원을 공유했습니다. "아, 다시 86세가 되었으면 좋겠어"라고 그는 말했습니다. WSJ에 공유된 <The Untold Story of Charlie Munger’s Final Years> 라는 아티클. 말년까지 정말로 맑은 정신을 보유하고 살아갔다는 것 자체가 인간으로서 존경스러운 부분. https://www.wsj.com/finance/investing/charlie-munger-life-final-years-berkshire-7c20c18e?mod=hp_lead_pos9

https://youtu.be/aR20FWCCjAs 스케일링 다음 세상이 어떤 모습일지 가장 앞서있는 사람의 생각을 살펴볼 수 있는 인터뷰. LLM 스케일링을 가장 먼저 발견하고 그 세상을 만들고 같이 일했던 친구들이 LLM Scaling에서 치열하게 경쟁할 때 사이드로 와서 AI가 어떠해야하는가 고민하고 자신만의 길을 가는 일리야. https://matthewcontinuouslearning.notion.site/Ilya-Sutskever-Dwarkesh-Interview-27th-Nov-2025-2b72857ddb1680c1b3addaf8b45c5fb7?source=copy_link

연구적 취향 (Research taste) Q: 마지막 질문입니다. 연구적 취향이란 무엇인가요? 당신은 알렉스넷(AlexNet)부터 GPT-3에 이르기까지 딥러닝 역사상 가장 중요한 성과들을 낸 공동 저자로서, 세계 최고의 연구 취향을 가진 것으로 평가받습니다. 어떻게 그런 아이디어들을 떠올리시나요? A: 저 개인적으로는 'AI가 어떠해야 하는가'에 대한 미적 감각(aesthetic)이 저를 이끕니다. 이는 사람들이 어떠한지(how people are) 생각하되, 올바르게 생각하는 데서 옵니다. 사람들이 어떠한지 '틀리게' 생각하기는 매우 쉽습니다. 하지만 사람들에 대해 '올바르게' 생각한다는 건 무엇을 의미할까요? 몇 가지 예를 들어보죠. '인공 뉴런'이라는 아이디어는 뇌에서 직접 영감을 받은 것이며, 훌륭한 아이디어입니다. 왜냐구요? 뇌를 보면 여러 다른 기관들이 있고 주름(fold)들이 있지만, 주름은 아마 중요하지 않을 겁니다. 왜 뉴런이 중요하다고 생각할까요? 뉴런이 아주 많기 때문입니다. 그게 맞아 보이죠(feels right). 그래서 뉴런을 원하게 됩니다. 뉴런 사이의 연결을 변화시키는 어떤 국소적인 학습 규칙(local learning rule)을 원하게 됩니다. 뇌가 그렇게 할 것 같으니까요. '분산 표현(distributed representation)'이라는 아이디어도 그렇습니다. 뇌가 경험에 반응한다는 아이디어, 따라서 우리 신경망도 경험으로부터 배워야 한다는 아이디어. 뇌는 경험에서 배우니 신경망도 경험에서 배워야 하죠. 스스로에게 묻게 됩니다. 무엇이 근본적인가, 근본적이지 않은가? 어떻게 되어야만 하는가(How things should be). 저는 여러 각도에서 생각하고 거의 아름다움(beauty)을 찾는 것, 아름다움과 단순함(simplicity)을 찾는 것이 저를 꽤 많이 인도해 왔다고 생각합니다. 추함(ugliness)이 설 자리는 없습니다. 아름다움, 단순함, 우아함, 뇌로부터의 올바른 영감. 이 모든 것이 동시에 존재해야 합니다. 그것들이 더 많이 존재할수록, '하향식 믿음(top-down belief)'에 대해 더 자신감을 가질 수 있습니다. 하향식 믿음은 실험이 당신을 반박할 때 당신을 지탱해 주는 것입니다. 왜냐하면 항상 데이터만 믿는다면... 때로는 올바른 일을 하고 있는데도 버그가 있어서 그럴 수 있거든요. 하지만 버그가 있다는 걸 모릅니다. 버그가 있다는 걸 어떻게 알까요? 디버깅을 계속해야 할지, 아니면 틀린 방향이라고 결론 내려야 할지 어떻게 알까요? 바로 하향식 믿음입니다. "상황은 이래야만 해. 이런 건 작동해야만 해. 그러니 계속해야 해."라고 말할 수 있는 거죠. 그게 하향식 믿음이고, 뇌에서 영감을 받은 다면적인 아름다움에 기초합니다.

A: 타당한 주장입니다. 제 강한 직관은 그렇게 흘러가지 않을 거라는 겁니다. 논리는 그렇게 될 거라고 말하지만, 제 강한 직관은 그렇지 않을 거라고 합니다. 이론적으로는 이론과 실제 사이에 차이가 없습니다. 실제로는 차이가 있죠. 저는 이게 그런 경우 중 하나가 될 것이라고 생각합니다. Q: 많은 사람들의 자기 개선(self-improvement) 모델은 문자 그대로 서버 안에 백만 명의 일리야(Ilya)가 있어서 서로 다른 아이디어를 내놓고, 이것이 매우 빠른 초지능의 출현으로 이어질 것이라고 명시적으로 말합니다. 당신이 하고 있는 일이 얼마나 병렬화 가능한지에 대한 직관이 있습니까? 일리야의 복제본을 만들어서 얻는 이득은 무엇입니까? A: 모르겠습니다. 확실히 수확 체감(diminishing returns)이 있을 겁니다. 똑같은 사람보다는 다르게 생각하는 사람들을 원하니까요. 문자 그대로 저의 복제본들이 있다면, 얼마나 더 많은 증분 가치를 얻을 수 있을지 모르겠습니다. 다르게 생각하는 사람들, 그게 원하는 거죠. ### 셀프 플레이와 멀티 에이전트 (Self-play and multi-agent) Q: 완전히 다른 회사가 출시하고 잠재적으로 겹치지 않는 데이터셋으로 훈련했는데도, 서로 다른 모델들이, LLM들이 서로 얼마나 비슷한지 보면 미친 것 같습니다. 데이터셋이 보이는 것만큼 안 겹치는 게 아닐 수도 있겠지만요. 하지만 개별 인간이 미래의 AI보다 덜 생산적일지라도, 인간 팀이 AI 팀보다 더 많은 다양성을 가지고 있다는 사실에는 뭔가 있는 것 같습니다. AI들 사이에서 의미 있는 다양성을 어떻게 끌어낼 수 있을까요? 그냥 온도(temperature)를 높이는 건 헛소리(gibberish)만 나오게 하잖아요. 다른 과학자들이 다른 편견이나 아이디어를 갖는 것 같은 걸 원합니다. AI 에이전트들 사이에서 그런 종류의 다양성을 어떻게 얻습니까? A: 다양성이 없었던 이유는 **사전 학습 때문**이라고 봅니다. 모든 사전 학습 모델은 거의 똑같습니다. 같은 데이터로 사전 학습을 하니까요. 이제 RL과 사후 학습(post-training)에서 차별화가 나타나기 시작합니다. 사람들이 서로 다른 RL 훈련을 고안해 내니까요. Q: 과거에 당신은 데이터를 얻거나, 학습을 시작하기 위해 에이전트를 동등한 지능의 다른 에이전트와 매칭하는 방법으로 셀프 플레이(self-play)를 힌트하신 적이 있습니다. LLM에서 이런 종류의 작업에 대한 공개적인 제안이 없는 이유를 어떻게 생각해야 할까요? A: 두 가지를 말씀드리겠습니다. 제가 셀프 플레이가 흥미롭다고 생각했던 이유는 데이터 없이 컴퓨팅만 사용하여 모델을 만들 수 있는 방법을 제공했기 때문입니다. 데이터가 궁극적인 병목이라고 생각한다면, 컴퓨팅만 사용하는 건 매우 흥미롭죠. 그게 흥미로운 점입니다. 문제는 셀프 플레이가, 적어도 과거에 수행된 방식—에이전트들이 어떻게든 서로 경쟁하는 방식—으로는 특정 기술 세트를 개발하는 데만 좋다는 것입니다. 너무 좁습니다. 협상, 갈등, 특정 사회적 기술, 전략 수립 같은 것들에만 좋습니다. 그런 기술에 관심이 있다면 셀프 플레이가 유용할 것입니다. 사실 저는 셀프 플레이가 제 자리를 찾았다고 생각합니다. 단지 다른 형태로요. 토론(debate), 증명자-검증자(prover-verifier) 같은 것들, 당신 작업에서 실수를 찾도록 인센티브를 받는 LLM-as-a-Judge 같은 것들 말입니다. 이것이 정확히 셀프 플레이는 아니지만, 사람들이 하고 있는 관련된 적대적 설정(adversarial setup)이라고 봅니다. 사실 셀프 플레이는 에이전트 간의 더 일반적인 경쟁의 특수 사례입니다. 경쟁에 대한 자연스러운 반응은 달라지려고 노력하는 것입니다. 그러니 여러 에이전트를 모아놓고 "너희 모두 어떤 문제에 대해 작업해야 하고, 넌 에이전트고 다른 애들이 뭐 하는지 검사하고 있어"라고 하면, 그들은 "음, 쟤들이 이미 이 접근법을 쓰고 있다면 난 그걸 추구하면 안 되겠네. 난 차별화된 걸 추구해야지."라고 할 겁니다. 그래서 저는 **이런 것이 접근 방식의 다양성에 대한 인센티브를 창출**할 수 있다고 생각합니다.

“우리는 확실히 연구의 시대에 있는 회사입니다" Q: SSI는 무엇을 다르게 할 계획인가요? 당연히 당신의 계획은 이 시기가 도래했을 때 프런티어 기업 중 하나가 되는 것이겠죠. "나는 다른 회사들은 모르는, 안전하게 하는 접근법을 알고 있어"라고 생각해서 SSI를 시작했을 텐데요. 그 차이점은 무엇입니까? A: 제가 설명하는 방식은 이렇습니다. 유망하다고 생각하는 아이디어들이 있고, 그것이 정말 유망한지 아닌지 조사해 보고 싶습니다. 정말 그렇게 간단합니다. 시도(attempt)입니다. 만약 그 아이디어들이 옳다고 판명된다면—우리가 논의했던 일반화를 이해하는 것과 관련된 아이디어들 말이죠—우리는 가치 있는 무언가를 갖게 될 것입니다. 옳다고 판명될까요? 우리는 연구를 하고 있습니다. 우리는 확실히 "연구의 시대"에 있는 회사입니다. 우리는 진전을 이루고 있습니다. 사실 지난 1년 동안 꽤 좋은 진전을 이뤘지만, 더 많은 진전, 더 많은 연구를 계속해야 합니다. 저는 그렇게 봅니다. 하나의 목소리이자 참여자가 되려는 시도로 봅니다. Q: 당신의 공동 창업자이자 전 CEO가 최근 메타(Meta)로 떠났는데, 사람들은 "많은 돌파구가 만들어지고 있었다면 일어나기 힘든 일 아니냐"고 묻습니다. 어떻게 답변하시겠습니까? A: 이에 대해서는 잊혔을 수도 있는 몇 가지 사실을 상기시켜 드리는 것으로 대신하겠습니다. 상황을 설명해 주는 맥락이죠. 맥락은 우리가 320억 달러 가치로 자금을 조달하고 있었는데, 그때 메타가 들어와서 인수를 제안했고, 저는 거절했다는 겁니다. 하지만 제 전 공동 창업자는 어떤 면에서 '예스'라고 했습니다. 그 결과 그는 많은 단기 유동성을 누릴 수 있게 되었고, SSI에서 메타로 간 유일한 사람이 되었습니다. Q: SSI의 계획은 초인적 지능이 등장하는 인류 역사의 매우 중요한 시기에 프런티어에 있는 회사가 되는 것 같군요. 당신은 초인적 지능이 잘 작동하게 하는 방법에 대한 아이디어를 가지고 있고요. 하지만 다른 회사들도 각자의 아이디어를 시도할 겁니다. 초지능을 잘 만드는 데 있어 SSI의 접근 방식은 무엇이 다릅니까? A: SSI를 차별화하는 주된 것은 기술적 접근 방식입니다. 저는 가치 있다고 생각하는 다른 기술적 접근 방식을 가지고 있고 그것을 추구하고 있습니다. 저는 **결국 전략의 수렴(convergence)이 있을 것**이라고 주장합니다. 언젠가 AI가 더 강력해짐에 따라 전략이 무엇이어야 하는지 모두에게 어느 정도 명확해지는 수렴이 있을 것입니다. 서로 대화할 방법을 찾아야 하고, 첫 번째 실제 초지능 AI가 정렬되고 어떻게든 지각 있는 생명체를 아끼고, 사람을 아끼고, 민주적이고, 이런 것들의 조합이어야 한다는 조건 말입니다. 저는 이것이 모두가 노력해야 할 조건이라고 생각합니다. 그게 SSI가 노력하는 것입니다. 이번에는, 이미 그렇지 않다면, 다른 모든 회사들도 자신들이 같은 것을 향해 노력하고 있다는 것을 깨닫게 될 것입니다. 두고 보죠. AI가 더 강력해지면 세상이 진정으로 변할 것이라고 생각합니다. 상황은 정말 다를 것이고 사람들은 정말 다르게 행동할 것입니다. Q: 예측에 대해 말하자면, 당신이 묘사한 시스템, 즉 인간만큼 잘 배우고 결과적으로 초인적이 되는 시스템에 대한 예측은 언제입니까? A: 5년에서 20년 사이라고 생각합니다. Q: 5년에서 20년이요? 세상이 어떻게 다가올지 펼쳐보고 싶습니다. 앞으로 몇 년간 다른 회사들은 현재의 접근 방식을 계속하고 그것이 정체(stall out)됩니다. 여기서 "정체"란 매출이 수천억 달러를 넘지 못한다는 뜻인가요? 정체된다는 게 어떤 의미라고 생각하십니까? A: 정체는... 모든 회사에서 매우 비슷하게 보일 것 같습니다. 이럴 수도 있죠. 확신할 순 없습니다. 정체되더라도 이 회사들은 엄청난 매출을 올릴 수 있다고 생각하거든요. 이익은 아닐 수도 있습니다. 서로 차별화하기 위해 열심히 노력해야 할 테니까요. 하지만 매출은 확실히요. Q: 하지만 당신 모델의 무언가는 올바른 해결책이 나타나면 모든 회사 간에 수렴이 있을 것이라고 암시합니다. 왜 그렇다고 생각하시나요? A: 저는 정렬 전략에 대한 수렴을 더 이야기한 겁니다. 기술적 접근 방식에 대한 수렴도 결국 일어날 것이라고 생각하지만, 저는 정렬 전략에 대한 수렴을 암시했습니다. 정확히 무엇을 해야 할까요? Q: 미래가 어떻게 펼쳐질지 더 잘 이해하고 싶습니다. 현재 여러 회사들이 있고, 당신은 그들의 접근 방식이 매출은 계속 내겠지만 인간 같은 학습자에는 도달하지 못할 것이라고 예상합니다. 이제 여러 갈래의 회사들이 있습니다. 당신도 있고, 씽킹 머신(Thinking Machines)도 있고, 다른 연구소들도 있죠. 아마 그중 하나가 올바른 접근법을 알아낼 겁니다. 하지만 그들의 제품 출시가 다른 사람들에게 이걸 어떻게 하는지 명확하게 해주지 않을까요? A: 어떻게 하는지 명확하진 않겠지만, 다른 무언가가 가능하다는 것은 명확해질 것이고, 그것은 정보입니다. 사람들은 그게 어떻게 작동하는지 알아내려고 노력하겠죠. 하지만 여기서 다루지 않은, 논의되지 않은 것 중 하나는 AI의 능력이 증가할 때마다 일하는 방식에 어떤 변화가 있을 것이라는 점**입니다. **정확히 어떤 것인지는 모르겠지만요. 저는 그게 중요할 것이라고 생각하지만 정확히 무엇인지는 설명할 수 없습니다. Q: 기본적으로 그 모델을 가진 회사가 모든 이득을 얻을 것이라고 예상하게 됩니다. 그 모델은 세상에서 기술과 지식을 쌓아가는 모델이니까요. 그 혜택이 널리 분산되고, 지속적 학습 루프를 가장 먼저 시작한 모델 회사에만 머물지 않을 것이라고 생각하는 이유는 무엇입니까? A: 제가 생각하는 시나리오는 이렇습니다. 첫째, 과거의 AI들이 어떻게 진행되었는지 봅시다. 한 회사가 발전을 만들어내면 다른 회사가 허둥지둥하다가 얼마 뒤 비슷한 것들을 만들어내고, 시장에서 경쟁하기 시작하며 가격을 낮춥니다. 시장 관점에서는 거기서도 비슷한 일이 일어날 것이라고 생각합니다. 참고로 우리는 좋은 세상(good world)에 대해 이야기하고 있습니다. 좋은 세상이란 무엇입니까? 강력한 인간 같은 학습자들이 있는 곳이죠. 참고로 초지능 AI의 스펙에 대해 논의하지 않은 게 있는데 고려해 볼 가치가 있습니다. 좁게(narrow) 만들 수 있다는 겁니다. 유용하면서 동시에 좁을 수 있습니다. 좁은 초지능 AI를 많이 가질 수 있습니다. 하지만 그런 AI가 많고 어떤 회사가 그것으로 많은 이익을 내고 있다고 칩시다. 그러면 다른 회사가 들어와 경쟁을 시작합니다. 경쟁이 작동하는 방식은 전문화(specialization)를 통해서입니다. 경쟁은 전문화를 좋아합니다. 시장에서도 보고 진화에서도 봅니다. 우리는 많은 다른 틈새(niche)를 갖게 될 것이고, 다른 틈새를 점유하는 많은 다른 회사들을 갖게 될 것입니다. 이 세상에서 우리는 어떤 AI 회사는 정말 복잡한 경제 활동의 어떤 영역에서 꽤 더 낫고, 다른 회사는 다른 영역에서 더 낫다고 말할 수 있습니다. 세 번째 회사는 소송을 정말 잘한다든지요. Q: 이건 인간 같은 학습이 암시하는 것과 모순되지 않나요? 배울 수 있다는 건... A: 배울 수는 있지만, 축적된 학습이 있습니다. 큰 투자가 있죠. 어떤 분야에서 정말, 정말 뛰어나고 경이로울 정도로 잘하기 위해 많은 컴퓨팅을 썼습니다. 다른 누군가는 다른 분야에서 정말 잘하기 위해 엄청난 양의 컴퓨팅과 경험을 썼고요. 거기에 도달하기 위해 많은 인간 학습을 적용했지만, 이제 당신은 다른 누군가가 "봐, 네가 배운 걸 배우기 시작하고 싶지 않아"라고 말할 높은 지점에 있는 겁니다. Q: 그러려면 여러 회사가 인간 같은 지속적 학습 에이전트를 동시에 시작해서 서로 다른 가지에서 트리 탐색(tree search)을 시작해야겠군요. 하지**만 한 회사가 그 에이전트나 학습자를 먼저 얻으면... 경제의 모든 직업을 생각해보면, 한 회사가 각 직업을 배우는 인스턴스를 갖는 게 처리 가능해 보이는데요.**

이 논의를 어렵게 만드는 또 다른 점은 우리가 존재하지 않는, 만드는 법도 모르는 시스템에 대해 이야기하고 있다는 것입니다. 그게 제 믿음입니다. 사람들이 지금 하고 있는 것은 어느 정도 가다가 힘이 빠질(peter out) 것입니다. 계속 개선되겠지만 "그것(it)"은 아닐 겁니다. "그것"을 우리는 만드는 법을 모르고, 많은 것이 '신뢰할 수 있는 일반화'를 이해하는 데 달려 있습니다. 하나 더 말씀드리자면, 정렬을 어렵게 만드는 원인 중 하나는 인간 가치를 배우는 능력이 취약하다는 것입니다. 그리고 그것을 최적화하는 능력도 취약합니다. 실제로 최적화하는 법을 배우니까요. "이 모든 게 신뢰할 수 없는 일반화의 사례 아닌가요?"라고 말할 수 있지 않을까요? 왜 인간은 훨씬 더 잘 일반화하는 것처럼 보일까요? 일반화가 훨씬 더 좋다면 어떻게 될까요? 어떤 효과가 있을까요? 하지만 그런 질문들은 지금으로선 여전히 대답할 수 없습니다. Q: AI가 잘 진행되는 모습은 어떻게 생각해야 할까요? AI가 어떻게 진화할지 범위를 잡으셨습니다. 지속적 학습 에이전트가 있을 것이고, AI는 매우 강력할 것이며, 아마도 많은 다른 AI들이 있을 것입니다. 대륙 크기의 컴퓨팅 지능들이 돌아다니는 상황을 어떻게 생각하십니까? 얼마나 위험한가요? 어떻게 덜 위험하게 만들까요? 그리고 정렬되지 않은 AI나 나쁜 행위자가 있을 수 있는 균형(equilibrium)을 어떻게 보호할까요? A: 제가 "지각 있는 생명체를 아끼는 AI"를 좋아했던 이유 중 하나가 이겁니다. 그게 좋은지 나쁜지는 논쟁할 수 있습니다. 하지만 만약 이 극적인 시스템들 중 처음 N개가 인류를 아끼고 사랑한다면, 혹은 지각 있는 생명체를 아낀다면(물론 이것도 달성되어야 합니다. 달성되어야 해요), 그렇다면 저는 꽤 오랫동안 상황이 잘 풀릴 수 있다고 봅니다. 그러면 장기적으로 무슨 일이 일어날까 하는 질문이 남습니다. 장기적 균형을 어떻게 달성할까요? 거기에도 답이 있다고 생각합니다. 저는 이 답을 좋아하지 않지만, 고려해 봐야 합니다. 장기적으로 "강력한 AI들이 존재하는 세상이라면 단기적으로는 보편적 고소득(universal high income)을 얻고 다들 잘 살 거야"라고 말할 수 있습니다. 하지만 불교 신자들은 뭐라고 합니까? "변화만이 유일한 상수다." 상황은 변합니다. 정부나 정치 구조 같은 게 있고 기능하다가 유효기간이 지나면 멈춥니다. 우리는 그런 일이 일어나는 걸 늘 봅니다. **장기적 균형을 위한 한 가지 접근법은 모든 사람이 자신의 명령을 수행하는 AI를 갖는 것**입니다. 그게 영구적으로 유지될 수 있다면 좋겠죠. 하지만 단점은 AI가 나가서 돈을 벌어오고 정치 영역에서 그 사람의 필요를 대변하고, "제가 이런 걸 했고 상황은 이렇습니다"라고 보고서를 쓰면 사람은 "좋아, 계속해"라고 하는 식이라는 겁니다. 사람은 더 이상 참여자가 아닙니다. 그건 위태로운 위치라고 할 수 있습니다. 먼저 말해두지만 저는 이 해결책을 좋아하지 않습니다. 하지만 해결책이긴 합니다. **해결책은 사람들이 어떤 종류의 뉴럴링크++(Neuralink++) 같은 것으로 '부분적 AI(part-AI)'가 되는 것**입니다. 그 결과 무슨 일이 일어나냐면, 이제 AI가 무언가를 이해하면 우리도 이해하게 됩니다. 이해가 통째로 전달되니까요. 그래서 AI가 어떤 상황에 처하면 당신도 그 상황에 완전히 참여하게 됩니다. 저는 이것이 균형에 대한 답이라고 생각합니다. Q: 수백만 년, 혹은 수십억 년 전 전혀 다른 환경에서 발달한 감정이 여전히 우리의 행동을 강력하게 인도하고 있다는 사실이 정렬 성공의 예시인지 궁금합니다. 무슨 뜻이냐면, 가치 함수인지 보상 함수인지 모르겠지만, 뇌간(brainstem)에는 "더 성공적인 누군가와 짝짓기하라"는 지시가 있습니다. 대뇌피질은 현대적 맥락에서 성공이 무엇인지 이해하는 부분이죠. 하지만 뇌간은 대뇌피질을 정렬시켜 "네가 성공을 무엇으로 인식하든—난 그게 뭔지 이해할 만큼 똑똑하지 않지만—넌 여전히 이 지시를 따를 거야"라고 말할 수 있습니다. A: 더 일반적인 요점이 있다고 생각합니다. 저는 진화가 어떻게 고차원적인 욕구를 인코딩하는지 정말 미스터리라고 생각합니다. 진화가 냄새 좋은 음식을 갈망하게 하는 건 이해하기 쉽습니다. 냄새는 화학물질이니 그 화학물질을 쫓으면 되니까요. 진화가 그런 걸 하는 건 상상하기 쉽습니다. 하지만 진화는 우리에게 온갖 사회적 욕구도 부여**했습니다. 우리는 **사회적으로 긍정적으로 보이는 것에 정말 신경 씁니다. 좋은 평판을 유지하는 것에 신경 쓰죠. 우리가 가진 이 모든 사회적 직관들이 우리 안에 구워져(baked in) 있다고 강하게 느낍니다. 진화가 어떻게 그걸 했는지 모르겠습니다. 그건 **뇌에 표현된 고차원적인 개념**이니까요. 어떤 사회적인 것에 신경 쓴다고 칩시다. 냄새 같은 저차원 신호가 아닙니다. 센서가 있는 것도 아니죠. 뇌는 사회적으로 무슨 일이 일어나고 있는지 이해하기 위해 수많은 정보 조각을 맞추는 많은 계산을 해야 합니다. 그런데 어떻게든 진화는 "그게 네가 신경 써야 할 거야"라고 했습니다. 어떻게 했을까요? 심지어 빨리 해냈습니다. 우리가 신경 쓰는 이 모든 정교한 사회적 것들은 꽤 최근에 진화했으니까요. 진화는 이 고차원적 욕구를 하드코딩하는 데 어려움이 없었습니다. 어떻게 했는지에 대한 좋은 가설을 저는 모릅니다. 몇 가지 아이디어를 굴려봤지만 만족스러운 건 없었습니다. Q: 특히 인상적인 건 당신이 살면서 배운 욕구라는 점입니다. 당신의 뇌가 지능적이기 때문에 지능적인 욕구를 배울 수 있다는 건 말이 됩니다. 제 요점은 욕구가 게놈(genome)에 내장되어 있는데 게놈은 지능적이지 않다는 겁니다. 하지만 당신은 이 특징을 설명할 수 있습니다. 그 특징을 어떻게 정의하는지조차 명확하지 않은데 유전자에 넣을 수 있죠. A: 기본적으로, 혹은 다르게 표현해 보겠습니다. 게놈이 사용할 수 있는 도구를 생각해 보면, "자, 여기 뇌를 만드는 레시피가 있어"라고 합니다. "도파민 뉴런을 후각 센서에 연결해"라고 할 수 있습니다. 어떤 종류의 좋은 냄새가 나면 먹고 싶어지겠죠. 게놈이 그런 일을 하는 건 상상할 수 있습니다. 제가 주장하는 건 상상하기 더 어렵다는 겁니다. 게놈이 "너는 뇌 전체, 혹은 뇌의 큰 부분이 수행하는 어떤 복잡한 계산에 대해 신경 써야 해"라고 말하는 걸 상상하기가요. 그게 제가 주장하는 전부입니다. 어떻게 했을지에 대한 추측은 해볼 수 있습니다. 추측을 하나 제시하고, 왜 그 추측이 아마 틀렸는지 설명해 드리죠. 뇌에는 영역들이 있습니다. 대뇌피질이 있죠. 피질은 균일하지만 뇌 영역들과 피질의 뉴런들은 대개 이웃들과 대화합니다. 그게 뇌 영역이 생기는 이유입니다. 음성 처리를 하려면 음성을 다루는 모든 뉴런이 서로 대화해야 하니까요. 뉴런은 대개 가까운 이웃하고만 대화할 수 있어서 영역이 되어야 합니다. 모든 영역은 사람마다 대개 같은 위치에 있습니다. 그러니 어쩌면 진화가 말 그대로 뇌의 위치를 하드코딩했을 수도 있습니다. "오, 뇌의 GPS 좌표 몇 콤마 몇이 활성화되면, 그게 네가 신경 써야 할 거야."라고요. 진화의 도구 상자 안에 있는 방법이니까 그렇게 했을 수도 있죠. Q: 네, 하지만 선천적 시각장애인의 경우 그 피질 영역이 다른 감각에 의해 채택되는 예들이 있습니다. 시각이 없어도 사람들이 나를 좋아해 줬으면 하는 느낌(보통 시각적 단서가 있는)을 여전히 느낄 수 있는지 모르겠네요. A: 전적으로 동의합니다. 이 이론에 대한 훨씬 더 강력한 반론이 있습니다. 어린 시절에 뇌의 절반을 제거하는 수술을 받고도 여전히 모든 뇌 영역을 가진 사람들이 있습니다. 그 영역들이 어떻게든 하나의 반구로 이동하죠. 이는 뇌 영역의 위치가 고정되어 있지 않다는 것을 시사하며, 따라서 그 이론은 사실이 아닙니다. 사실이었다면 멋졌겠지만 아닙니다. 그래서 미스터리입니다. 하지만 흥미로운 미스터리죠. 진화가 어떻게든 우리가 사회적 문제에 매우, 매우 신뢰성 있게 신경 쓰도록 부여할 수 있었다는 사실 말입니다. 온갖 이상한 정신 상태나 결핍, 정서적 문제를 가진 사람들도 이런 것에는 신경 쓰는 경향이 있습니다.

정렬 (Alignment) Q: 이건 매우 불안정한(precarious) 상황인 것 같습니다. 극한으로 가면, 이것이 가능해야 한다는 걸 우린 압니다. 학습에 있어서 인간만큼 뛰어나지만, 인간은 할 수 없는 방식으로 뇌(인스턴스)를 합칠 수 있는 무언가가 있다면, 이건 물리적으로 가능해야 합니다. 인간도 가능하고 디지털 컴퓨터도 가능하니까요. 이 둘을 결합하면 됩니다. 이런 종류의 것은 극도로 강력해 보입니다. 경제 성장은 한 가지 표현일 뿐이죠. 다이슨 스피어도 많은 경제 성장이니까요. 하지만 다르게 표현하면, 잠재적으로 아주 짧은 기간 안에... SSI에 사람을 채용하면 6개월 뒤에 순생산성을 내겠죠. 인간은 정말 빨리 배우고, 이 존재는 정말 빨리 똑똑해집니다. 이 과정이 잘 진행되게 하려면 어떻게 생각해야 할까요? SSI는 왜 그걸 잘할 수 있는 위치에 있나요? SSI의 계획은 무엇입니까? A: 제 생각이 바뀌고 있는 부분 중 하나는, 이제 **AI가 점진적으로, 그리고 미리 배포되는 것에 더 많은 중요성을 둔다**는 점입니다. **AI의 아주 어려운 점 중 하나는 아직 존재하지 않는 시스템에 대해 이야기하고 있고 상상하기 어렵다**는 것입니다. 실제로 AGI를 느끼기는 매우 어렵습니다. 우리가 늙고 쇠약해졌을 때 늙음이 어떤 것인지 대화하는 것과 같습니다. 대화하고 상상해 볼 순 있지만 그냥 어렵습니다. 그리고 현실로 돌아오면 그렇지 않죠. AGI와 미래의 힘에 관한 많은 이슈는 상상하기 어렵다는 사실에서 기인한다고 봅니다. 미래의 AI는 다를 겁니다. 강력할 겁니다. 사실 AI와 AGI의 문제는 무엇입니까? 문제는 힘(power)입니다. 힘이 정말 커지면 무슨 일이 일어날까요? 지난 1년 동안 제가 생각을 바꾼 방식 중 하나는(그리고 그 생각의 변화는 우리 회사 계획으로 역전파될 수도 있습니다), 상**상하기 어렵다면 어떻게 해야 할까요? 그 물건을 보여줘야 합니다. 보여줘야 해요. 저는 AI 분야에서 일하는 대부분의 사람들도 미래의 AI를 상상하지 못한다고 봅니다. 사람들이 매일 보는 것과 너무 다르기 때문이죠.** 제가 일어날 것이라고 예측하는 게 있습니다. AI가 더 강력해질수록 사람들은 행동을 바꿀 것입니다. 지금은 일어나지 않는 온갖 전례 없는 일들을 보게 될 것입니다. 예를 들어, 좋든 나쁘든 프런티어 기업들은 일어날 일에 매우 중요한 역할을 할 것이고, 정부도 그럴 것입니다. 우리가 보게 될 일들, 그 시작을 보고 있는 일들은 치열한 경쟁 관계인 기업들이 AI 안전에 대해 협력하기 시작하는 것입니다. OpenAI와 Anthropic이 첫 번째 작은 발걸음을 떼는 걸 보셨을 수도 있지만, 그전엔 없던 일입니다. 이건 제가 3년 전 강연에서 일어날 것이라고 예측했던 일입니다. 또 AI가 계속 더 강력해지고 눈에 띄게 강력해짐에 따라, 정부와 대중으로부터 무언가를 해야 한다는 욕구도 생길 것입니다. AI를 보여주는 것은 매우 중요한 힘입니다. 그게 첫 번째고요. 두 번째, AI가 만들어지고 있습니다. 무엇을 해야 할까요? 지금 AI가 강력하게 느껴지지 않는 이유는 실수 때문이라고 봅니다. 언젠가 AI가 정말 강력하게 느껴지기 시작할 때가 올 겁니다. 그때가 되면 모든 AI 기업이 안전에 접근하는 방식에 큰 변화가 생길 것입니다. 훨씬 더 편집증적(paranoid)으로 변할 겁니다. 저는 이걸 일어날 일이라고 예측합니다. 제가 맞는지 두고 보죠. 그들이 AI가 더 강력해지는 걸 볼 것이기 때문에 일어날 일이라고 생각합니다. 지금 일어나는 모든 일은 사람들이 오늘의 AI만 보고 미래의 AI를 상상하기 어렵기 때문입니다. 세 번째로 일어나야 할 일이 있습니다. SSI 관점뿐만 아니라 더 넓은 관점에서, 기업들은 무엇을 만들기를 열망해야 할까요? 모두가 갇혀 있는 하나의 큰 아이디어가 있습니다. 바로 '자기 개선 AI(self-improving AI)'입니다. 왜 그럴까요? 회사보다 아이디어가 적기 때문입니다. 하지만 저는 더 만들기 좋은 것이 있고 모두가 그걸 원하게 될 것이라고 봅니다. 바로 '지각 있는 생명체(sentient life)를 구체적으로 아끼도록 견고하게 정렬된 AI'**입니다. 특히 인간의 생명만 아끼는 AI보다 지각 있는 생명체를 아끼는 AI를 만드는 게 더 쉬울 것이라는 주장이 가능합니다. AI 자체가 지각이 있을(sentient) 것이기 때문입니다. 거울 뉴런이나 인간의 동물에 대한 공감 등을 생각해보면, (충분하지 않다고 주장할 수도 있겠지만) 존재하긴 합니다. **우리는 우리 자신을 모델링하는 것과 같은 회로를 사용해 타인을 모델링합니다. 그게 가장 효율적이니까요. Q: 설령 AI가 지각 있는 존재를 아끼게 만든다 해도(정렬을 해결했다면 그게 시도해야 할 목표인지조차 불확실하지만), 대부분의 지각 있는 존재는 AI가 될 것입니다. 수조, 결국엔 수천조의 AI가 있겠죠. 인간은 지각 있는 존재 중 아주 작은 부분이 될 것입니다. 그래서 목표가 미래 문명에 대한 인간의 통제라면 이것이 최선의 기준인지는 명확하지 않습니다. 맞습니다. 최선의 기준이 아닐 수도 있습니다. 두 가지를 말씀드리겠습니다. 첫째, 지각 있는 생명체에 대한 배려, 여기엔 장점이 있습니다. 고려해 봐야 합니다. 기업들이 이런 상황에 처했을 때 사용할 수 있는 짧은 아이디어 목록이 있다면 도움이 될 것입니다. 둘째, 가장 강력한 초지능의 힘이 어떻게든 제한된다면(capped), 그것이 이런 우려들을 해소하는 데 실질적으로 도움이 될 것입니다. 어떻게 할지는 확실치 않지만, 정말 강력한 시스템에 대해 이야기할 때 실질적인 도움이 될 것입니다. Q: 정렬 논의를 계속하기 전에 그 부분을 더 파고들고 싶습니다. 정상에 공간이 얼마나 있나요? 초지능을 어떻게 생각하십니까? 학습 효율성 아이디어를 사용하면, 그냥 새로운 기술이나 지식을 배우는 속도가 엄청나게 빠른 건가요? 전략의 풀이 더 큰 건가요? 중심에 더 강력하거나 큰 하나의 응집력 있는 "그것"이 있나요? 만약 그렇다면, 이것이 나머지 인류 문명에 비해 신과 같은 존재가 될까요, 아니면 그냥 또 다른 에이전트, 혹은 에이전트들의 무리처럼 느껴질까요? A: 이 부분은 사람마다 직관이 다릅니다. 확실히 매우 강력할 것입니다. 가장 일어날 가능성이 높은 일은, 그런 AI가 여러 개, 대략 같은 시기에 만들어지는 것입니다. 만약 클러스터가 충분히 크다면—문자 그대로 대륙 크기의 클러스터라면—그건 정말, 정말 강력할 수 있습니다. 문자 그대로 대륙 크기의 클러스터를 가진다면 그 AI들은 매우 강력할 수 있습니다. 제가 말할 수 있는 건 극도로 강력한, 정말 극적으로 강력한 AI에 대해 이야기한다면, 그것들이 어떤 방식으로든 제한되거나 어떤 종류의 합의 같은 것이 있다면 좋을 것이라는 점입니다. Q: 초지능에 대한 우려가 무엇입니까? A: 우려를 설명하는 한 가지 방법은 이렇습니다. 충분히 강력한 시스템, 정말 충분히 강력한 시스템을 상상해 보세요. 그리고 '지각 있는 생명체를 아낀다' 같이 합리적인 일을 매우 외골수적인(single-minded) 방식으로 수행한다고 해도, 우리는 그 결과를 좋아하지 않을 수도 있습니다. 그게 진짜 문제입니다. 어쩌면 답은 일반적인 의미의 RL 에이전트를 만들지 않는 것일 수도 있습니다. 몇 가지 지적하고 싶습니다. 인간은 반(semi)-RL 에이전트라고 생각합니다. 우리는 보상을 추구하다가, 감정 같은 것 때문에 그 보상에 지쳐서 다른 보상을 추구합니다. 시장(market)은 매우 근시안적인 종류의 에이전트입니다. 진화도 마찬가지입니다. 어떤 면에서는 매우 지능적이지만 다른 면에서는 매우 멍청하죠. 정부는 세 부분 사이의 끝없는 싸움이 되도록 설계되었고, 이는 어떤 효과를 냅니다. 저는 이런 것들을 생각합니다.

모든 지능을 갖춘 것이 AI가 아니라 지속적 학습을 통해 우리의 일상에 배포되고 지속적 학습을 통해서 더 나은 지능을 갖출 수 있는 것이 AGI다. 일을 빨리 배울 수 있는 AI가 나오면 규제가 덜한 국가/산업 현장에 먼저 배포되고 엄청나게 빠른 경제 성장을 이룰 수 있다. 지난 몇십년간 제조업을 집어 삼킨 중국이 AI로 재무장하면서 재도약한다면 어떤 세상이 오는걸까? 어쩌면 미국은 그게 가장 두렵지 않을까? ### SSI의 모델은 배포를 통해 학습할 것이다 (SSI’s model will learn from deployment) Q: 저는 최종 결과물을 안전하게 만드는 방법이 단순히 '어떻게 안전하게 만들까'를 생각하는 것만으로 이루어진 인간 공학이나 연구 분야를 떠올릴 수 없기 때문입니다. 비행기 사고율이 수십 년 전보다 훨씬 낮은 이유, 리눅스에서 버그를 찾는 게 훨씬 어려운 이유는 대부분 이 시스템들이 세상에 배포되었기 때문입니다. 실패를 목격하고, 수정되고, 시스템이 더 견고해졌죠. AGI나 초인적 지능이라고 왜 다르겠습니까? 특히 초지능의 해악이 단순히 사악한 클립 생산자가 돌아다니는 게 아니라면요. 이건 정말 강력한 것이고 우리는 사람들이 이것과 어떻게 상호작용할지, 무엇을 할지 개념화조차 못 하고 있습니다. 점진적인 접근(access)이 충격을 분산시키고 사람들이 대비하게 돕는 더 나은 방법 아닐까요? A: 음, 그 점에 대해서는 직행 시나리오에서도 여전히 점진적인 출시(gradual release)를 할 겁니다. 그렇게 상상합니다. 점진주의(Gradualism)는 어떤 계획이든 내재된 구성 요소가 될 것입니다. 단지 문밖으로 내보내는 '첫 번째 것'이 무엇이냐의 문제입니다. 그게 첫 번째고요. 두 번째, 당신은 다른 사람들보다 **'지속적 학습(continual learning)'**을 더 옹호해 왔고, 저는 이것이 중요하고 올바른 것이라고 생각합니다. 이유는 이렇습니다. 언어가 사고에 영향을 미치는 또 다른 예를 들어보죠. 이번에는 모든 사람의 사고를 형성한 두 단어가 있다고 봅니다. 첫 번째 단어: AGI. 두 번째 단어: 사전 학습(Pre-training). 설명해 드리죠. AGI라는 용어, 왜 존재할까요? 아주 특정한 용어잖아요. 제 생각에 AGI라는 용어가 존재하는 이유는 지능의 최종 상태를 설명하는 아주 중요하고 본질적인 서술어라서가 아니라, 다른 용어에 대한 반작용(reaction) 때문입니다. 그 용어는 바로 '좁은 AI(Narrow AI)'입니다. 게임 플레이와 AI의 고대사로 돌아가 보면, 체커 AI, 체스 AI, 컴퓨터 게임 AI를 보고 모두가 "이 좁은 지능 좀 봐. 체스 AI가 카스파로프를 이길 순 있어도 다른 건 못 하잖아. 너무 좁아. 인공 좁은 지능(ANI)이야."라고 했습니다. 그래서 이에 대한 반작용으로 어떤 사람들은 "이건 안 좋아. 너무 좁아. 우리에게 필요한 건 일반 AI(General AI), 모든 걸 다 할 수 있는 AI야."라고 했습니다. 그 용어가 탄력을 받았죠. 탄력을 받은 두 번째는 사전 학습, 구체적으로는 사전 학습의 레시피입니다. 사람들이 지금 RL을 하는 방식은 어쩌면 사전 학습의 개념적 각인(imprint)을 지우고 있는 것일지도 모릅니다. 하지만 사전 학습은 이런 속성을 가졌습니다. 사전 학습을 더 많이 하면 모델이 모든 면에서 거의 균일하게 더 좋아집니다. 일반 AI죠. 사전 학습이 AGI를 줍니다. 하지만 AGI와 사전 학습에 일어난 일은, 어떤 의미에서 목표를 지나쳐 버렸다는(overshot) 것**입니다. **"AGI"라는 용어를, 특히 사전 학습의 맥락에서 생각해보면, 인간은 AGI가 아니라는 걸 깨닫게 됩니다. 네, 기술의 토대는 분명히 있지만 인간은 엄청난 양의 지식이 부족합니다. 대신 우리는 지속적 학습에 의존합니다. 그러니 "성공해서 안전한 초지능을 만들었다"고 가정해 봅시다. 문제는 그걸 어떻게 정의하느냐입니다. 지속적 학습 곡선의 어디쯤에 있을까요? 저는 아주 의욕 넘치는 초지능 15세를 만듭니다. 아는 건 별로 없지만 훌륭한 학생이고 아주 열정적이죠. "가서 프로그래머가 돼, 가서 의사가 돼, 가서 배워."라고 합니다. 그러니까 배포 자체가 일종의 학습 시행착오 기간을 포함할 것이라고 상상할 수 있습니다. 완성된 물건을 툭 던져놓는 게 아니라 과정(process)인 거죠. Q: 알겠습니다. 당신은 초지능이 경제의 모든 직업을 수행할 수 있는 '완성된 정신'이 아니라**고 시사하는 거군요. 원래 OpenAI 헌장 같은 곳에서 정의하는 AGI는 인간이 할 수 있는 모든 경제적 작업을 할 수 있는 것이잖아요. **당신은 대신 모든 직업을 '배울 수 있는' 정신을 제안하는 것이고, 그게 초지능이라는 거군요. A: 네. 하지만 학습 알고리즘을 갖추면, 인간 노동자가 조직에 합류하는 것과 같은 방식으로 세상에 배포됩니다. Q: 정확합니다. 두 가지 일 중 하나가 일어날 것 같습니다. 하나는 이 초효율적인 학습 알고리즘이 초인적이 되어, ML 연구 작업에서 당신만큼, 혹은 잠재적으로 더 잘하게 되는 것입니다. 그 결과 알고리즘 자체가 점점 더 초인적으로 변하겠죠. 다른 하나는, 설령 그런 일이 안 일어나더라도, 만약 당신에게 단일 모델이 있다면—이건 명시적으로 당신의 비전인데—**경제 전반에 배포되어 다른 일을 하고, 그 일을 배우고, 직무상 지속적으로 학습하며 인간이 익힐 수 있는 모든 기술을 익히는 모델의 인스턴스(instance)들이 있고, 그들의 학습 내용을 하나로 합친다면(amalgamating), 기본적으로 소프트웨어적인 자기 개선(recursive self-improvement) 없이도 기능적으로 초지능이 되는 모델을 갖게 됩니다.** 왜냐하면 이제 경제의 모든 직업을 수행할 수 있는 하나의 모델이 생겼고, 인간은 우리 마음을 그런 식으로 합칠 수 없으니까요. **그렇다면 광범위한 배포로 인한 지능 폭발(intelligence explosion)**을 예상하십니까? A: 저는 빠른 경제 성장이 있을 가능성이 높다고 생각합니다. 광범위한 배포와 관련해서는 상충되는 두 가지 주장을 할 수 있습니다. 하나는, 일을 빨리 배우는 AI가 생기고 그게 많아지면, 이를 경제에 배포하려는 강력한 힘이 생길 것이라는 점**입니다. 규제로 막지 않는다면요(막을 수도 있겠지만). **한동안 매우 빠른 경제 성장이 일어날 가능성이 매우 높습니다. 얼마나 빠를지는 알기 어렵습니다. 한편으론 매우 효율적인 일꾼이 있지만, 다른 한편으론 세상이 정말 크고 많은 물건들이 있으며 그 물건들은 다른 속도로 움직이니까요. 하지만 AI가... 그래서 매우 빠른 경제 성장이 가능하다고 봅니다. 우리는 규칙이 다른 여러 나라를 보게 될 것이고, 더 친화적인 규칙을 가진 나라들의 경제 성장이 더 빠를 것입니다. 예측하기 어렵네요.

초지능으로 직행하기 (Straight-shotting superintelligence) Q: 다시 연구의 시대로 돌아간다면, 이제 분위기는 어떨까요? 예를 들어 알렉스넷(AlexNet) 이후에도 실험을 실행하는 데 드는 컴퓨팅 양은 계속 늘어났고 프런티어 시스템의 크기도 커졌습니다. 이번 연구의 시대에도 엄청난 양의 컴퓨팅이 필요할까요? 아니면 기록보관소로 돌아가 옛날 논문을 읽어야 할까요? 구글, OpenAI, 스탠포드에 계실 때 연구 분위기가 더 났던 시절엔 어땠나요? 커뮤니티에서 어떤 것들을 기대해야 할까요? 확장의 시대가 가져온 결과 중 하나는, 확장이 '방 안의 산소를 다 빨아들였다'는 것입니다. 확장이 공기를 다 빨아들이니 모두가 똑같은 일을 하기 시작했습니다. 아이디어보다 회사가 더 많은 세상이 되었죠. 실리콘밸리 격언 중에 **"아이디어는 저렴하고 실행이 전부다"**라는 말이 있습니다. 사람들이 많이들 그렇게 말하고 일리가 있습니다. 하지만 누군가 트위터에서 **"아이디어가 그렇게 저렴하면 왜 아무도 아이디어를 내지 않는 거지?"**라고 한 걸 봤는데, 그것도 사실입니다. 병목 현상 관점에서 연구 진행을 생각해보면 몇 가지 병목**이 있습니다. **하나는 아이디어고, 하나는 그걸 실현할 능력(컴퓨팅이나 엔지니어링)입니다. 90년대로 돌아가 보면 꽤 좋은 아이디어를 가진 사람들이 있었습니다. 훨씬 더 큰 컴퓨터가 있었다면 아이디어가 유효함을 증명했을지도 모르죠. 하지만 그럴 수 없었기에 아무도 설득하지 못하는 아주 작은 데모만 가질 수 있었습니다. 그때의 병목은 컴퓨팅이었죠. 그러다 확장의 시대에 컴퓨팅이 많이 늘어났습니다. 물론 얼마나 필요한지는 의문이지만 컴퓨팅은 큽니다. 어떤 아이디어를 증명하는 데 더 많은 컴퓨팅이 필요한지 명확하지 않을 만큼 큽니다. 비유를 들자면, 알렉스넷은 GPU 2개로 만들었습니다. 그게 사용된 컴퓨팅의 전부였죠. 트랜스포머는 8개에서 64개 GPU로 만들었습니다. 2017년의 어떤 단일 트랜스포머 논문 실험도 64개 이상의 GPU를 쓰지 않았는데, 오늘날로 치면 GPU 2개 정도일까요? 레즈넷(ResNet)도 그렇죠. o1 추론도 세상에서 가장 컴퓨팅을 많이 쓰는 건 아니라고 주장할 수 있습니다. 그래서 연구를 위해서는 확실히 어느 정도의 컴퓨팅이 필요하지만, 연구를 위해 '역대 최대 규모'의 컴퓨팅이 필요한지는 전혀 명확하지 않습니다. 물론 절대적으로 최고의 시스템을 구축하려면 훨씬 더 많은 컴퓨팅이 도움이 된다고 주장할 수 있고 그건 사실입니다. 특히 모두가 같은 패러다임 안에 있다면 컴퓨팅이 큰 차별화 요소가 되니까요. Q: 역사에 대해 여쭤보는 건 당신이 실제로 거기에 있었기 때문입니다. 실제로 무슨 일이 있었는지 확신이 안 서서요. 최소한의 컴퓨팅으로 아이디어를 개발하는 게 가능했다는 것처럼 들리는데, 트랜스포머가 즉시 유명해지진 않았잖아요. 더 높은 수준의 컴퓨팅에서 검증되면서 모두가 사용하고 그 위에 쌓아 올리는 무언가가 되었죠. A: 맞습니다. Q: 만약 SSI(Safe Superintelligence)에 50가지 다른 아이디어가 있다면, 다른 프런티어 랩들이 가진 종류의 컴퓨팅 없이 어떤 게 차기 트랜스포머고 어떤 게 깨지기 쉬운지 어떻게 알 수 있나요? A: 거기에 대해 코멘트할 수 있습니다. 짧게 말해 SSI를 언급하셨는데, 구체적으로 우리 SSI가 연구를 위해 가진 컴퓨팅 양은 그렇게 적지 않습니다. 왜 그런지 간단한 산수로 설명할 수 있습니다. SSI는 30억 달러(약 4조 원)를 모금했는데 절대적으로 큰 금액입니다. 물론 "다른 회사들은 훨씬 더 많이 모으잖아"라고 할 수 있습니다. 하지만 **그들의 컴퓨팅 대부분은 추론(inference)으로 나갑니다. 이 큰 숫자들, 큰 대출금들은 추론용으로 배정**된 겁니다. 그게 첫 번째고요. 두 번째, 추론을 하는 제품을 가지려면 엔지니어, 영업 사원 등 대규모 인력이 필요합니다. 많은 연구가 온갖 제품 관련 기능을 만드는 데 할애되어야 하죠. 그래서 실제로 '연구'에 남는 것을 보면 차이는 훨씬 작아집니다. 또 다른 점은, 만약 당신이 다른 무언가를 하고 있다면 그걸 증명하기 위해 절대적인 최대 규모가 정말 필요한가 하는 겁니다. 저는 전혀 그렇지 않다고 생각합니다. 우리 경우엔, 우리가 하는 일이 옳다는 걸 우리 자신과 다른 사람들에게 확신시켜 주기에 충분한 컴퓨팅을 가지고 있습니다. Q: OpenAI 같은 회사들이 실험에만 연간 50~60억 달러를 쓴다는 공개 추정치가 있습니다. 이건 추론 등에 쓰는 돈과는 별개로요. 즉, 그들은 당신들이 가진 전체 자금보다 더 많은 돈을 매년 연구 실험에 쓰고 있는 것 같은데요. A: 그건 그 돈으로 무엇을 하느냐의 문제입니다. 그들의 경우, 다른 회사들의 경우, 훈련 컴퓨팅에 대한 수요가 훨씬 더 많습니다. 훨씬 더 많은 작업 흐름(work stream)이 있고, 다른 모달리티(modality)가 있고, 그냥 할 게 더 많습니다. 그래서 파편화되죠. Q: SSI는 돈을 어떻게 벌 건가요? A: 그 질문에 대한 제 대답은 이렇습니다. 지금은 연구에만 집중하고, 그 질문에 대한 답은 나중에 저절로 드러날 겁니다. 가능한 답은 아주 많을 거라고 생각합니다. Q: SSI의 계획은 여전히 초지능으로 직행(straight shot)하는 것인가요? A: 아마도요. 저는 거기에 장점이 있다고 생각합니다. 일상적인 시장 경쟁에 영향을 받지 않는다는 건 아주 좋은 일이니까요. 하지만 계획을 변경하게 만들 수 있는 두 가지 이유가 있다고 봅니다. 하**나는 실용적인 이유인데, 타임라인이 길어질 경우입니다. 그럴 수 있죠.** 둘째, 최고로 강력한 AI가 세상에 나와 영향을 미치는 것에 큰 가치가 있다고 생각합니다. 저는 이것이 의미 있게 가치 있는 일이라고 봅니다. Q: 그렇다면 왜 기본 계획이 초지능으로 직행하는 것인가요? OpenAI나 Anthropic 같은 다른 회사들의 명시적인 생각은 "대중이 적응하고 대비할 수 있도록 점점 더 약한 지능을 내놓겠다"는 것인데요. 왜 초지능을 직접 만드는 게 잠재적으로 더 낫나요? A: 찬성 논리와 반대 논리를 말씀드리겠습니다. **찬성 논리는, 시장에 있으면 '쥐 경주(rat race)'에 참여해야 한다는 어려움에 직면한다는 것입니다. 쥐 경주는 어려운 트레이드오프를 강요하기 때문에 꽤 힘듭니다. "우리는 이 모든 것에서 우리 자신을 격리하고 연구에만 집중해서, 준비되었을 때만 나오겠다"**라고 말하는 건 좋습니다. 하지만 반대 논리도 타당하며, 이들은 서로 대립하는 힘입니다. 반대 논리는 "세상이 강력한 AI를 보는 것이 유용하다"는 것입니다. 강력한 AI를 보는 것이 유용합니다. 그게 AI를 소통할 수 있는 유일한 방법이기 때문입니다. Q: 아이디어를 소통하는 게 아니라요? A: 아이디어가 아니라 AI를 소통하는 겁니다. Q: "AI를 소통한다"는 게 무슨 뜻인가요? A: AI에 대한 에세이를 쓴다고 가정해 봅시다. "AI는 이렇게 될 거고, 저렇게 될 거고..."라고 씁니다. 읽는 사람은 "오, 흥미로운 에세이네"라고 하겠죠. 이제 AI가 이걸 하고 저걸 하는 걸 본다고 가정해 봅시다. 비교가 안 됩니다. 기본적으로 저는 AI가 대중에게 공개되는 것에는 큰 이점이 있다고 생각하며, 그것이 우리가 완전히 직행하지 않을 이유가 될 수 있습니다.