Continuous Learning_Startup & Investment

Hariharan이 YC 재직 중에 작성한 글들 보면서 많이 배웠는데(특히 핀둬둬랑 Faire 글이 너무 좋았음), 비즈니스 모델을 탁월하게 파악해내는 능력을 살려서 새로운 엑셀러레이터겸 투자 하우스를 만들어버렸네. 자기만의 YC를 만들어낸 것인데, 범상치 않아보인다. 열심히 관찰해야겠어. https://thegeneralist.substack.com/p/avra

-반도체 엔지니어가 초등학생 수준으로 내부 보고서를 쓴다고? “기술용어를 최대한 쓰지 않아야 한다. 그게 도저히 안 돼서 기술용어를 써야 하면, 그걸 쉽게 풀어서 밑에다 써준다.” https://n.news.naver.com/article/020/0003593188?sid=101 #경영

현장의 치열한 토론 문화 초반, 2010년 즈음엔 있었다. 예컨대 문제점이 있을 땐 그걸 놓고 같이 가설을 세워서 ‘이런 테스트 결과들이 그 가설과 어긋나지 않냐’면서 다른 가설로 얘기하고, 이렇게 서로서로 의견을 나눴다. 또 새로운 걸 해야 할 땐 이 방식이 좋을지 저 방식이 좋을지, 장단점을 토론했다.” 그런 기술적 토론은 당연히 지금도 해야 하지 않나? “잘 안된다. 효율성, 즉 변화를 주지 않고 더 쉽게 할 수 있는 것만 하려고 한다. 예전엔 실무자가 의견을 내면 그래도 검토해 보고 위로 올라가는 게 있었는데, 지금은 답이 정해져 있다. 실패를 절대 할 수 없기 때문이다. 그래서 기술적으로 어려운 새로운 건 아예 안 하거나, 아니면 반대로 실패하지 않기 위해서 선택과 집중 없이 세상이 얘기하는 기술 트렌드는 일단 다 하기도 한다. 괜히 어느 걸 빼놨는데, 경쟁사가 그걸로 뜨면 안 되기 때문이다. ” 그렇게 된 계기가 있나? “권오현 전 DS부문장(2011~2017년)은 선택과 집중을 하는 편이었다. 건강에 신경 써야 한다면서 ‘스마트 워크(Smart Work)’를 강조했고. 그런데 후임 김기남 전 부문장(2017~2022년)은 마이크로 매니지먼트 스타일이었다. 이재용 회장이 참석하는 ‘토요 주간회의’가 생기더니 일주일 내내 보고용 회의를 하는 문화가 생겼다. 요즘 얘기되는 HBM(고대역폭메모리) 철수 결정도 그때 이뤄졌다.” 원래 잘하던 걸 계속 더 잘하려고만 하다 보니, 다른 걸 놓친 듯하다. “실패를 하더라도 미래를 준비했어야 했다.” 문제는 다들 어느 정도 아는 것 같다. 해법은 뭘까. “바꾸기 쉽지 않다. 경계현 전 사장이 시스템을 바꾸려고 했지만, 그 아래 임원과 부서장은 지난 10년 동안 보신주의 문화에서 발굴된 사람들이었다. 그들은 ‘뭘 알지도 못하면서 바꾸려고 하냐. 힘들다’고 하고, 아래 직원들은 ‘바꾸겠다고 얘기했는데 실망했다’고 하고. 층층이 나뉘어 딴소리했다. 정말 바뀌려면 중간관리자를 대거 바꿔야 한다. 지금은 아예 결정을 안 하고 보고만 올린 뒤 저 꼭대기만 쳐다보고 있다. 원래 팀장이 ‘내가 책임질 테니 이거 해보자’ 해야 하는데, 팀장 본인이 ‘난 아무것도 아니고 아무것도 몰라요’라고 한다. 그럼 팀원들이 어떻게 힘이 나겠나. 지금 경영진이 보기엔 ‘난 잘하는데 왜 밑에 애들은 치열한 토론을 안 하지?’라고 할 거다. 알고 보면 그동안 자기들이 보고 받고 리젝트시키길 반복하면서 나타난 결과다. 직원들은 ‘토론해봤자 어차피 안 들어준다’고 하는 것.”

• 매년 페이스북/구글과 스탠포드 CS 졸업생을 놓고 경쟁한다면 패배할 수밖에 없음 • (a) 다른 회사보다 특별히 당신 회사에 관심이 있고 (b) 대규모로 그들에게 다가갈 방법이 있는 인재 집단이 필요함 • 팔란티어에는 몇 가지 차별화된 인재 유치 전략이 있었음 • 첫째, 국방/정보 분야 일이 인기 없을 때 이 분야에 우호적이었던 사람들이 있었음. 평소보다 미국 중서부나 공화당 지역 출신의 엔지니어가 많았고, 실리콘밸리 회사에 매력을 느끼면서도 미국에 봉사하고 싶어하는 전직 군인, CIA/NSA 출신이 많았음 • 팔란티어 첫 출근 날, 내부 온보딩에서 만난 한 남자가 자신이 CIA에서 15년간 일했다고 했음. 내 첫 리더는 오하이오 출신의 전직 특공대 경찰이자 육군 베테랑이었음 • 이런 사람들이 많았고 대부분 굉장한 인재였지만 구글에는 가지 않았음 • 팔란티어는 이런 부류에게 유일한 '등대' 역할을 했고, 군대 지원과 애국심을 강조하는 것이 매우 비주류적일 때 이를 당당히 내세웠음 • 이는 매우 효과적이고 독특한 배트시그널을 만들었음 (이제는 Anduril과 수많은 국방 및 제조업 스타트업이 있음) • 둘째, 초기 열풍이 가라앉은 뒤, 특히 트럼프 시대 팔란티어가 지탄 받을 때 회사에 합류하려면 좀 이상해야 했음 • 이는 '미션 중심'이라는 당시로서는 이례적인 브랜딩에서 비롯되었지만, 장시간 근무, 시장 이하 급여, 잦은 출장이 요구된다는 점도 회사가 떠들썩하게 알렸음 • 한편으로는 정부와 일한다는 이유로 실리콘밸리 채용 박람회에서 쫓겨나기도 했음 • 이 모든 것이 나쁜 소식에 흔들리지 않고 스스로 생각할 줄 아는 특정 부류의 사람을 선별해냄 6. 도덕성 • 팔란티어는 서방을 지지하는 입장인데, 나도 대체로 동의함 • 중국이나 러시아 중심의 세계는 나쁜 것 같고, 그게 우리 앞에 놓인 선택지임 • 자유 국가에 살면 비판하기 쉽지만, 그 반대를 경험해보면 어려움 (억압적인 국가에서 어린 시절을 보냄) • 군대가 하는 일에 동의하지 않을 때도 있었지만 회사가 군을 돕는 것 자체에는 문제가 없었음 • 물론 군대도 나쁜 짓을 하기도 함. 나는 이라크 전쟁에 반대했음 • 이게 핵심인데, 회사에서 일하는 것이 100% 도덕적으로 선하지도, 100% 나쁘지도 않음 • 때론 내가 반대하는 목표를 가진 기관을 돕기도 했지만, 정부는 많은 좋은 일도 하고 더 효율적으로 하도록 소프트웨어를 제공하는 것은 고귀한 일임 • 회사 일을 세 범주로 나눠보면 도덕성 문제를 명확히 할 수 있음 (완벽한 분류는 아니지만): 1 도덕적으로 중립적인 일: FedEx, CVS, 금융사, 기술 기업 등 일반 기업 관련 업무. 문제 삼는 사람도 있겠지만 대체로 괜찮다고 느낌 2 명백히 선한 일: CDC와의 팬데믹 대응, NCMEC와의 아동 포르노 대응 등 대부분 사람들이 좋은 일이라 동의함 3 회색 지대: 도덕적으로 어렵고 까다로운 결정이 필요한 영역. 건강보험, 이민 단속, 석유회사, 군대, 정보기관, 경찰/범죄 등 • 모든 엔지니어는 선택의 기로에 섬. 구글 검색이나 페이스북 뉴스피드 같이 약간 좋아 보이는 1번 범주나, GiveDirectly 같은 2번 범주를 고를 수 있음 • 팔란티어에 대한 주된 비판은 "3번 범주에선 일하면 안 된다. 때론 도덕적으로 나쁜 결정을 내려야 하니까"였음. 트럼프 시대 이민 단속이 한 예시임 • 그러나 3번을 완전히 무시하고 관여를 끊는 것도 책임 방기라고 봄. 3번 범주 기관은 존재해야 함 • 미국은 총을 든 사람들에 의해 지켜짐. 경찰은 범죄와 싸워야 하고, 일부 경찰 활동이 불편해도 집이 털리면 경찰에 신고함. 석유회사는 에너지를 공급해야 함. 건강보험사는 어려운 결정을 계속 내려야 함 • 그런 것들에 불쾌한 면이 있긴 하지만, 그 기관들을 내버려둬야 할까? • 3번 고객과 일해야 하는지 명확한 답은 없고 사례별로 접근해야 한다고 봄 • 팔란티어의 입장은 "명백히 나쁘지 않은 한 대부분 3번 기관과 일하되, 민주적 절차를 믿고 시간이 지나면 좋은 방향으로 갈 것"이었음 ◦ ICE 문제에선 트럼프 시대에 ERO(단속·추방 업무)와는 관계를 끊고 HSI(국토안보수사국)와는 계속 일함 ◦ 대부분 3번 기관과 일했는데, 나쁜 일도 하지만 대체로 세상에 이롭다는 논리였음 • 자세한 내용은 말할 순 없지만 팔란티어 소프트웨어 덕에 여러 테러 공격이 저지되었고, 이 사실만으로 이런 입장이 정당화된다고 봄 • 항상 100% 선한 일만 한다는 보장이 없어 많은 이에게 불편한 입장임. 어떻게 보면 역사의 흐름에 身을 맡기는 셈이고 (a) 악보다 선이 더 많이 행해지고 (b) 현장에 있는 게 없는 것보다 낫다는 걸 믿어야 함 • 이 정도면 나한테 충분했음. 다른 이들은 다른 선택을 했음 • 물론 이런 입장의 위험은 기존 권력 구조가 하자는 대로 하는 보편적 변명이 될 수 있다는 것. 그냥 기존 체제를 강화하는 꼴임 • 그래서 사례별로 접근해야 함. 일반론은 없고 구체적으로 봐야 함 • 나 역시 의료, 바이오 분야에 시간을 많이 투자했고 기여한 바에 대해 만족함. 테러를 막은 사람들도, 팬데믹 때 의약품을 유통한 사람들도 마찬가지일 거임 • 이런 '까다로운' 영역에서 일하는 게 이젠 유행이 되었지만, 기술자에겐 여전히 중요한 질문임 • AI가 좋은 예시임. AI 도입의 일부 결과가 걱정되는 사람이 많음. 해킹에 쓰일 수도, 딥페이크가 세상을 나쁘게 만들 수도, 일자리를 없앨 수도 있음. 그러나 AI에는 큰 장점도 있음 (다리오 아모데이가 최근 에세이에서 잘 설명함) • 팔란티어처럼 AI에 대해 일하는 것도 100% 선하진 않겠지만 100% 악하지도 않음. 관여를 멈추고 중단을 요구하는 건 비현실적이고 최선은 아닐 듯 • 오픈AI나 앤트로픽에서 일하진 않더라도 AI 관련 이슈에 관여할 만한 사람이라면 어떤 식으로든 참여하길 바람 • 쉬운 경우도 있음: 평가 구축, 정렬 연구, 사회적 회복탄력성 제고 등. 하지만 회색 지대에 참여할 가치도 있다고 봄. 정부 AI 정책에 관여하고, 의료 같은 분야에 AI를 도입하는 일 등. 물론 어려울 것임. 그래도 뛰어들자 • 요즘 AI 분야에서 가장 영향력 있는 사람들은 대부분 현장에 있음. AI 연구소든 정부든 영향력 있는 싱크탱크든. 그들 중 하나가 되고 싶음. 설교하는 사람이 되긴 싫음 • 어려운 결정이 뒤따르겠지만, 일이 일어날 때 그 자리에 있는 게 낫다고 봄. 나중에 그만두고 경종을 울려야 한다 해도 말임 7. 앞으로의 전망 • 팔란티어에 대해 계속 긍정적인가? 그렇다. • 이번 AI 사이클의 큰 생산성 향상은 AI가 제조, 국방, 물류, 의료 등 대기업들에게 레버리지를 제공할 때 일어날 것임 • 팔란티어는 10년간 이런 기업들과 함께 일해왔음 • AI 에이전트가 결국 핵심 업무 절차를 주도하게 될 것이고, 이들은 중요 비즈니스 데이터에 대한 읽기/쓰기 권한에 의존할 것임 • 10년간 기업 데이터를 통합해온 것이 기업에 AI를 도입하기 위한 핵심 기반임. 엄청난 기회가 있음 • 나 역시 오래 기다려온 마스터플랜을 실행에 옮겨 다음엔 창업할 계획임 • 정부 관련 사업도 포함될 것임. 팀도 훌륭하고 채용 중임. 가끔 비트겐슈타인 얘기도 나눔

• 팔란티어의 현재 상황: 최근 S&P 500에 가입하고 주가가 급등하며, 기업 가치가 1000억 달러에 근접하고 있음. 과거에는 스파이 기술이나 NSA 감시로 인식되었으나, 현재는 긍정적인 평가를 받고 있음. 1. 내가 팔란티어에 합류한 이유 • 의료, 항공우주, 제조, 사이버보안 등 어려운 산업의 실제 문제 해결에 관심이 있었음 • 이 분야에서 실리콘밸리 업무 문화를 가진 회사는 팔란티어가 유일했음 • 창업을 목표로 했기에 한 산업을 깊이 파고들고 미국 영주권을 얻을 수 있는 팔란티어가 좋은 선택이었음 • 초기 직원들의 높은 역량과 열정, 경쟁력이 매력적이었음 • 철학을 좋아하고 이상한 취향을 가진 진지하고 경쟁적인 사람들이 많았는데, 이는 페이팔 마피아의 유산이었음 • CEO 알렉스 카프를 포함한 경영진과의 면접에서 철학적 담화를 나누는 등 지적 웅대함과 경쟁력의 조합이 마음에 들었음 2. 현장 배치 엔지니어(Forward deployed, FDE) • 팔란티어에는 고객사와 일하는 FDE와 제품 개발(PD)에 집중하는 엔지니어가 있었음 • FDE는 일주일에 3-4일을 고객사에 상주하며 많은 출장을 다녀야 했는데, 이는 실리콘밸리 회사로는 매우 이례적임 • FDE는 제조, 의료, 정보, 항공우주 등 어려운 산업의 비즈니스 프로세스에 대해 깊이 이해하고 이를 바탕으로 문제 해결 소프트웨어를 설계함 • PD 엔지니어는 FDE가 구축한 것을 제품화하고 FDE의 업무를 개선하고 가속화하는 소프트웨어를 만듦 • 파운드리 제품의 초기 모습은 FDE가 고객사에서 수작업으로 처리하던 것을 PD 엔지니어가 자동화 도구를 만들면서 갖춰짐 • 당시에는 고객에게 이 도구에 대한 접근 권한을 주는 것이 과감한 발걸음이었지만 지금은 회사 매출의 50% 이상을 차지함 • 팔란티어는 서비스 회사에서 제품 회사로의 성공적인 피봇을 이뤄냈고, 2023년 80%의 소프트웨어 수준 매출 총이익률을 기록함 • 고객사에 상주하며 그들이 일하는 방식에 대한 암묵지를 습득하는 것이 핵심이었음 • 무작위로 다음날 아침 비행기를 예약하고 출장 가는 것이 일상이었지만, 10년에 걸친 집중적 학습의 결과 성과를 거둠 • 에어버스와의 첫 FDE 경험으로 1년간 툴루즈에 머물며 A350 제조 확대 소프트웨어를 함께 구축함 • 작업 지시서, 부품 부족, 품질 문제 등 다양한 데이터를 한 곳에 모아 팀 간 협업과 문제 해결을 지원하는 인터페이스를 제공함 • 범용성보다는 특정 문제에 대한 종단간 해결책을 제공하는 것이 목표였고, PD의 역할은 이를 일반화하여 다른 곳에 판매하는 것이었음 • FDE는 빠른 문제 해결을 위해 기술 부채를 감수하고, PD는 확장성 있고 견고한 소프트웨어를 작성하는 역할 분담이 효과적이었음 • 고객사 내에 깊숙이 파고들어 신뢰를 얻고 빠르게 핵심 가치를 전달하는 FDE의 역량이 돋보였음 • 작은 고객 팀이 자율적이고 민첩하게 움직이고, 제품팀이 이를 바탕으로 플랫폼을 개발하는 모델이 강력했음 • 스페이스X나 팔란티어처럼 정치적 게임이 아닌 실제 성과로 차별화하는 기업이 더 필요함 3. 팔란티어의 비밀 • FDE의 또 다른 핵심 업무는 데이터 통합이었음 • 데이터 통합은 오랫동안 팔란티어가 하는 일의 핵심이었지만 그 중요성이 과소평가되어 왔음 • 최근 AI의 등장으로 기업의 깨끗하고 잘 정리된 데이터의 중요성이 부각되고 있음 • 데이터 통합이란 (a) 기업 데이터에 대한 접근권을 확보하고 (b) 데이터를 정제 및 변환한 뒤 (c) 모두가 접근할 수 있는 곳에 저장하는 것을 의미함 • 파운드리의 기반 소프트웨어 상당 부분이 이 작업을 쉽고 빠르게 해주는 도구임 • 데이터가 PDF, 노트, 엑셀 등 다양한 형식으로 존재해 통합이 어려움 • 조직 내 정치도 걸림돌인데, 특정 팀이 핵심 데이터에 대한 접근을 통제하며 존재 이유를 삼는 경우가 많음 • 데이터 접근권을 확보하는 데만 파일럿 프로젝트 기간을 모두 소진하고 데모를 서둘러 준비해야 했던 경우도 있음 • 데이터 접근 문제의 상당 부분이 보안 우려에서 비롯된다는 점을 파악하고 플랫폼 전반에 걸쳐 보안 통제 기능을 구축함 • 역할 기반 접근 제어, 행 수준 정책, 보안 마킹, 감사 추적 등 다양한 데이터 보안 기능을 도입함 • 이러한 기능 덕분에 팔란티어 도입이 오히려 기업 데이터 보안을 강화하는 결과를 가져옴 4. 문화에 대한 참고사항 • 팔란티어의 분위기는 정상적인 소프트웨어 회사라기보다는 메시아닉 컬트에 가까웠음 • 그러나 비판이 허용되고 장려되었는데, 신입 엔지니어가 전체 메일로 임원과 논쟁하기도 함 • 합리주의적 사고를 가진 철학과 졸업생인 나에게 이 점이 중요했음. 맹목적 추종이 아닌 세상에 대해 깊이 고민하고 토론하는 회사에 관심이 있었음 • 입사 시 Impro, The Looming Tower, Interviewing Users, Getting Things Done 등의 책을 줌 • The Looming Tower는 회사가 9/11에 대한 대응으로 설립되었다는 배경 지식을 줌 • Impro는 사회적 맥락에 대한 민감성, 즉 정치적 게임을 하는 능력이 FDE 성공에 중요함을 일깨워 줌 • Impro는 사회적 행동을 기계적으로 분석하는데, 'casting' 등 관련 용어가 사내에 널리 쓰임 • 고개를 가만히 하고 서서 손을 보이는 것은 높은 지위를, 고개를 좌우로 움직이고 손을 주머니에 넣는 것은 낮은 지위를 나타냄 • 이런 원리를 모른다면 고객사 환경에서 성공하기 어려웠을 것임 • 전직 FDE들이 훌륭한 창업자가 되는 이유 중 하나임. 구글 출신보다 팔란티어 출신 창업자가 YC에 더 많음 • 훌륭한 창업자는 회의 분위기, 집단 역학, 권력 관계를 읽어내는 감각이 있음. 이는 팔란티어가 FDE에게 가르치지만 다른 밸리 회사에서는 배우기 힘든 것임 • FDE는 빠르게 고객사의 언어를 배우고 비즈니스를 깊이 이해하는 능력이 필요함 • 병원, 신약개발, 의료보험, 정보학, 면역항암요법 등 각 분야마다 전문 용어가 있고 이를 빨리 습득하는 사람이 성공함 • 재능있는 사람은 자신만의 어휘와 밈을 만들어내는데, 이는 그 사람만의 지적 세계로 들어가는 입구 역할을 함 • 회사도 마찬가지인데 팔란티어에는 'ontology', 'impl', 'artist's colony', 'compounding', 'the 36 chambers', 'dots', 'metabolizing pain', 'gamma radiation' 등 방대한 용어가 있음 • 피터 틸이 팔란티어하면 가장 먼저 떠오르지만 많은 용어가 초기 직원, 특히 현 사장인 샴 산카르로부터 나옴 • 피터 틸은 내가 근무할 당시 회사 운영에는 관여하지 않았지만 문화에 큰 영향을 미쳤음 • 직함을 두지 않는 것도 피터 틸의 아이디어로 보임. FDE와 소수의 임원을 제외하고는 모두 같은 직함을 가졌음 • 직함을 만들면 사람들이 그것을 탐내게 되고 내부 정치와 경쟁을 유발한다는 지라르의 사상에 기반한 것으로 보임 • 계층이 없는 조직에 대한 비판도 많고 요즘 스타트업에서는 유행이 지났지만, 팔란티어에서는 잘 작동했음 • 영향력은 인상적인 성과에 기반했고, 누구도 다른 사람에게 무엇을 하라고 지시할 수 없었음 • 영향력 있는 사람이 내 아이디어를 말도 안 된다고 해도 무시하고 옳다고 생각하면 만들 수 있었음 • 임원의 반대를 무릅쓰고 중요한 인프라를 만든 엔지니어의 일화가 미담으로 회자되며 이런 행동이 장려됨 • 단점은 회사에 명확한 전략이나 방향이 없어 보이고 똑똑한 사람들이 제각각 자기 영지를 구축하는 느낌이었음 • 그러나 이는 놀라울 정도로 창의적인 결과를 낳았음. Hex, Retool, Airflow 등 팔란티어에서 먼저 개발된 개념이 적잖음 • 회사는 지금도 대기업에 LLM을 배포하기 위한 강력한 도구를 만들고 있음 • 직함이 없어서 사람들의 인기가 들쭉날쭉했음. 누군가 영향력이 있다가도 몇 달 뒤 보면 눈에 띄는 일을 하지 않고 있었음 5. Bat-Signal(인재 유치 전략) • 피터 틸로부터 비롯된 또 다른 아이디어는 인재 배트시그널(talent bat-signals)임 • 이제 내 회사를 차렸기에 그 중요성을 더 실감함. 훌륭한 사람을 모집하기란 어려운 일이고 차별화된 인재 풀이 필요함

컴퓨터가 사람보다 훨씬 더 뛰어날 수 있는 이유 중 하나는 수백만 대의 자동차가 운전 훈련을 하고 있기 때문입니다. 이는 마치 수백만 개의 삶을 동시에 살면서 사람이 평생 볼 수 없는 매우 특이한 상황을 보는 것과 같습니다. 그 정도의 훈련 데이터라면 사람이 백만 번의 삶을 살 수는 없으니 분명 사람보다 훨씬 더 나은 결과를 얻을 수 있을 것입니다. 또한 모든 방향을 동시에 볼 수 있고, 피곤하거나 문자를 보내거나 그런 것들도 없으니 당연히 인간보다 10배, 20배, 30배 더 안전할 것입니다. 제가 강조하고 싶은 것은 우리가 가진 솔루션은 AI와 비전이라는 점입니다. 고가의 장비가 필요하지 않습니다. 현재 우리가 만드는 모델 3와 모델 Y, S, X는 감독 없이 완전 자율주행을 할 수 있습니다. 이는 곧 차량 생산 비용이 낮다는 것을 의미합니다. 사람들은 웨이모가 테슬라보다 앞서 있다고 생각하지만, 저는 개인적으로 테슬라가 웨이모보다 앞서 있다고 생각하며, 그렇게 보이지 않는다는 것을 알고 있지만 저는 여전히 테슬라와 자율 주행 프로그램에 대해 매우 낙관적입니다. 테슬라에는 소프트웨어 문제가 있고 웨이모에는 하드웨어 문제가 있다고 생각하는데, 제 생각에는 소프트웨어 문제가 훨씬 쉽다고 생각합니다. 테슬라는 이 모든 자동차를 지구상에 대규모로 배치하고 있고, 웨이모는 거기에 도달해야 한다고 생각합니다. 테슬라가 실제로 배포할 수 있는 지점에 도달하고 실제로 작동하는 순간은 정말 놀라울 것이라고 생각합니다. 사람들이 테슬라가 실제로 값비싼 센서를 많이 사용한다는 사실을 잘 모르고 있는 것 같아요. 그래서 라이더를 장착하고 주행하는 수많은 자동차가 있고, 스케일을 조정하지 않고 추가 센서 등을 장착하고 매핑과 이런 모든 작업을 수행합니다. 훈련 시간에는 이 작업을 수행한 다음 이를 테스트 시간 패키지로 추출하여 차량에 배포하고 시각 전용으로 사용합니다. 센서와 비용에 대한 차익 거래와 같습니다. 픽셀에 정보가 있고 네트워크가 이를 수행할 수 있기 때문에 훈련 시에는 이러한 센서가 정말 유용하다고 생각하지만 테스트 시에는 그다지 유용하지 않다고 생각하기 때문에 저는 이것이 실제로 완전히 평가되지 않은 일종의 훌륭한 전략이라고 생각합니다.

70년간의 AI 연구에서 얻을 수 있는 가장 큰 교훈은 계산을 활용하는 일반적인 방법이 궁극적으로 가장 효과적이며 큰 차이로 가장 효과적이라는 것입니다. 그 궁극적인 이유는 무어의 법칙, 즉 계산 단위당 비용이 기하급수적으로 계속 하락한다는 법칙이 일반화되었기 때문입니다. 대부분의 AI 연구는 에이전트가 사용할 수 있는 연산이 일정한 것처럼 수행되어 왔지만(이 경우 인간의 지식을 활용하는 것이 성능을 개선하는 유일한 방법 중 하나), 일반적인 연구 프로젝트보다 약간 더 오랜 시간이 지나면 필연적으로 더 많은 연산을 사용할 수 있게 됩니다. 연구자들은 단기간에 변화를 가져올 수 있는 개선을 추구하기 위해 해당 분야에 대한 인간의 지식을 활용하려고 하지만, 장기적으로 중요한 것은 계산의 활용뿐입니다. 이 두 가지가 서로 상충할 필요는 없지만 실제로는 상충하는 경향이 있습니다. 한 쪽에 투자한 시간은 다른 쪽에 투자하지 않은 시간입니다. 한 가지 접근 방식 또는 다른 접근 방식에 투자하는 데에는 심리적인 부담이 있습니다. 그리고 인간 지식 접근 방식은 계산을 활용하는 일반적인 방법을 활용하는 데 적합하지 않은 방식으로 방법을 복잡하게 만드는 경향이 있습니다.AI 연구자들이 이 쓰라린 교훈을 뒤늦게 깨달은 사례는 많으며, 가장 눈에 띄는 몇 가지 사례를 살펴보는 것은 유익합니다. 이것은 큰 교훈입니다. 현장에서는 여전히 같은 종류의 실수를 계속 저지르고 있기 때문에 우리는 아직 완전히 배우지 못했습니다. 이를 파악하고 효과적으로 저항하기 위해서는 이러한 실수의 매력을 이해해야 합니다. 우리가 생각하는 방식으로 구축하는 것은 장기적으로 효과가 없다는 씁쓸한 교훈을 배워야 합니다. 이 쓰라린 교훈은 1) 인공지능 연구자들이 종종 에이전트에 지식을 구축하려고 시도해왔고, 2) 이는 단기적으로는 항상 도움이 되고 연구자에게 개인적으로 만족감을 주지만 3) 장기적으로는 정체되고 심지어 더 이상의 발전을 억제하며, 4) 결국 검색 및 학습에 의한 확장 계산에 기반한 반대 접근 방식을 통해 획기적인 발전이 이루어졌다는 역사적 관찰에 근거하고 있습니다. 최종적인 성공은 인간 중심의 선호된 접근 방식에 대한 성공이기 때문에 씁쓸함이 묻어나고 종종 불완전하게 소화되기도 합니다. 이 쓰라린 교훈에서 배워야 할 한 가지는 범용 방법, 즉 사용 가능한 계산이 매우 커져도 계산이 증가함에 따라 계속 확장되는 방법의 막강한 힘입니다. 이렇게 자의적으로 확장되는 것처럼 보이는 두 가지 방법은 검색과 학습입니다. 쓰라린 교훈에서 배워야 할 두 번째 일반적인 점은 마음의 실제 내용은 엄청나게, 헤아릴 수 없을 정도로 복잡하다는 것입니다. 공간, 사물, 다중 에이전트 또는 대칭에 대해 생각하는 간단한 방법과 같이 마음의 내용을 생각하는 간단한 방법을 찾으려는 시도를 중단해야 한다는 것입니다. 이 모든 것은 임의적이고 본질적으로 복잡한 외부 세계의 일부입니다. 이러한 복잡성은 끝이 없기 때문에 내장되어야 하는 것이 아니라 이러한 임의의 복잡성을 찾아서 포착할 수 있는 메타 메서드만 내장해야 합니다. 이러한 방법의 핵심은 좋은 근사치를 찾을 수 있다는 것이지만, 근사치 검색은 우리가 아닌 다른 방법으로 해야 한다는 것입니다. 우리는 우리가 발견한 것을 포함하는 것이 아니라 우리가 발견한 것처럼 발견할 수 있는 AI 에이전트를 원합니다. 발견한 내용을 담으면 발견 프로세스가 어떻게 이루어질 수 있는지 파악하기가 더 어려워질 뿐입니다. http://www.incompleteideas.net/IncIdeas/BitterLesson.html

왜 SpaceX는 Rocket을 Reusable하게 만들 수 있었는가? 상식적이고 합리적인 방식으로 10배 좋은 것을 만들기 어렵다. 기존 Player들의 사고 방식 뵈르너의 발언은 세상을 정적으로 바라본다는 점에서 보울스와 비슷합니다. 보울스는 이번 주말에 우리가 본 훨씬 더 큰 로켓을 잡는 버전 2의 예는커녕 SpaceX가 실제로 로켓을 드론 우주선에 착륙시켜 재사용하는 방법을 알아낸 세상을 앞을 내다보지 못했습니다. 한편 뵈르너는 거꾸로 볼 수 없습니다. SpaceX가 외부 고객과 자체(스타링크) 모두에서 훨씬 더 많은 물량을 확보할 수 있는 이유는 저렴하기 때문입니다. 저렴하다는 것은 규모를 만들어내고, 규모를 통해 더 저렴한 제품을 만들 수 있으며, 궁극적으로는 완전히 새로운 시장을 창출할 수 있습니다. SpaceX는 꿈입니다. 화성으로, 그리고 그 너머로 인류의 영역을 지구 너머로 확장하려는 꿈이지만, 아리안스페이스는 그저 사업일 뿐입니다. 하지만 이것이 그들의 운명이었습니다. 기업은 옵션을 신중하게 평가하고, 반드시 가장 상승 가능성이 높은 옵션을 선택하는 것이 아니라 성공 가능성을 고려하여 예상 가치가 가장 큰 옵션을 선택하며, 그 경우에도 대부분 헤지 또는 옵션 가치를 구축하는 것이 현명하다고 생각합니다. 하지만 몽상가는 성공에서 시작하여 거꾸로 생각합니다. 이 사례에서 머스크는 X의 출시 비용을 낮추려는 동기를 설명했습니다:

일론 머스크 진영의 회사들은 다른 회사들이 조금씩 성장하고 있을 때, 혼자서 퀀텀 점프식 진보를 해버리니... 완전히 다른 게임을 하고 있는 것이다. 아이러니한건 (경영학과에서 배우는 오리지널한 경영학 관점이 아니라) 꿈의 차원에서 접근하는 것이 비즈니스적으로도 훨씬 더 큰 파급력을 가져오고 있다는 부분. "The Tesla bet, though, is that Waymo’s approach ultimately doesn’t scale and isn’t generalizable to true Level 5, while starting with the dream — true autonomy — leads Tesla down a better path of relying on nothing but AI, fueled by data and fine-tuning that you can only do if you already have millions of cars on the road." "That is the connection to SpaceX and what happened this weekend: if you start with the dream, then understand the cost structure necessary to achieve that dream, you force yourself down the only path possible, forgoing easier solutions that don’t scale for fantastical ones that do." https://stratechery.com/2024/elon-dreams-and-bitter-lessons

Li Lu "Part of the game is to come into your own. You must find some way that perfectly fits your personality. It is a competitive game, so you’re going to run into a lot of hardworking fellows. The only way to gain an edge is through long and hard work. Do what you love to do, so you just naturally do it or think about it all the time, even if you’re relaxing. Over time, you can accumulate a huge advantage if it comes naturally to you. The ones who really figure out their own style and stick to it and let their natural temperament take over will have a big advantage. The game is a process of discovering: who you are, what you’re interested in, what you’re good at, what you love to do, then magnifying that until you gain a sizable edge over all the other people."

인류 역사에 남을 한 장면인 것 같아서 아카이브. 이로써 내가 살아있는 동안 우주로 나아갈 확률이 조금 더 올라갔다. https://twitter.com/elonmusk/status/1845446365717156265

앤트로픽 CEO가 바라보는 낙관적인 AI 세상. 나 또한 이런 세상이 너무나도 기대된다. https://darioamodei.com/machines-of-loving-grace https://www.facebook.com/syp.sypark/posts/pfbid0C44uZGVkuUAAWavGigg9weYBJcyZ54iyhcpYfgwC4qwJysCTpaYYqpp3tR2gWwMnl (한국어 요약)

최근 나에게 가장 큰 영감을 준건 다름아닌 흑백요리사 안성재 셰프의 심사평. “뭐든지 제일 잘하는 사람이 가르쳐준 걸 정확히 따라 하려고 최선을 다했어요. 전 잘 모르니까요. 똑같이 따라 하게 됐을 땐, 이 사람보다 더 잘할 방법을 고민했죠. 그러다 보니 나중에는 뭐든 제가 제일 잘 만들었어요.” "돌이켜 보니, 전 항상 제일 어려운 길을 선택했어요. 제일 어려운 길을 선택하면, 그게 제일 좋은 결정이었죠.” "최고의 경지에 오른 사람의 노하우나 디테일은 말로 설명하기가 어려워요. 어깨너머로만 배울 수 있어요. 그리고 그 작은 차이가 완성도를 판가름하죠." "흑백요리사는 음식의 스펙트럼이 넓었어요. 급식부터 파인 다이닝까지, 모든 걸 한 기준으로 평가할 순 없었죠. 무엇을 의도했는지, 어떻게 만들었는지를 들어야만 제 판단의 기준을 잡을 수 있었어요." "제가 채소의 익힘 정도를 중요하게 생각하는 이유는, 디시dish에서 가장 소홀히 하기 쉬운 부분 중 하나이기 때문이에요. 고기가 맛있고 소스가 맛있으면, 맛있는 요리겠죠. 하지만 그건 가장 기본이에요. 대충 해서 넣을 수 있는 채소의 간과 익힘까지 하나하나 다 맛보고 최선을 다할 때, 요리에 진정성이 있는 거죠.” “어떤 사람들은 웃으면서 일하는 게 행복인 줄 아는데, 저는 아니라고 생각해요. 정말 내 모든 걸 집중해서 치열하게 노력한 끝에 좋은 결과를 얻을 때, 그 행복이 훨씬 크고 보람차요. 안 해본 사람은 몰라요. 근데 전 그게 얼마나 행복한지 알거든요.” https://www.longblack.co/note/1224?ticket=NT244263625a5a4423dd7cd8eab2dc1b94734c

“뭐든지 제일 잘하는 사람이 가르쳐준 걸 정확히 따라 하려고 최선을 다했어요. 전 잘 모르니까요. 똑같이 따라 하게 됐을 땐, 이 사람보다 더 잘할 방법을 고민했죠. 그러다 보니 나중에는 뭐든 제가 제일 잘 만들었어요.” ‘쉬운 길로 가지 않는다. 잘하기 위해선 어떤 어려움도 감수하겠다.’ “어깨너머로 배우는 게 제일 좋은 방법이에요.” “최고의 경지에 오른 사람의 노하우나 디테일은 말로 설명하기가 어려워요. 어깨너머로만 배울 수 있어요. 그리고 그 작은 차이가 완성도를 판가름하죠. 그런데 어깨너머에서 배우려는 친구들이 정말 없어요. 그건 본인이 원해야 하는 거거든요. 대부분은 가르쳐주길 기다리고 있어요. 꼰대라고 할지도 모르겠지만, 저는 그렇게 배운 사람들이 잘하는 걸 본 적이 없어요.” “요리를 만들 때 하는 고민은 하나예요. ‘이걸 어떻게 더 맛있게 만들 수 있을까.’ 생각의 흐름대로 다 시도해 보죠. 많은 실패를 해요. 아이디어를 완성도 있는 음식으로 만드는 과정은 지옥 같아요.” “‘도토리를 어떻게 하면 가장 맛있게 먹을 수 있을까’에서 출발했어요. 정말 향이 좋은 도토리도 묵으로 만들면 밍밍하더라고요. 전 도토리 향이 좋았어요. 그렇다면 다른 사람도 좋아할 것 같았죠. 그래서 도토리 향을 가장 맛있고 진하게 끌어낼 방법을 찾았어요.” 먼저 도토리를 공부했습니다. 도토리나무 아래에 트러플truffle이 자란단 걸 알게 됐어요. 트러플과 도토리를 함께 먹으니 더 맛있더래요. 육수는 닭의 살로만 냈어요. 뼈를 우리면 진한 육수가 나오거든요. 도토리 맛을 덮지 않게 은은한 육수, ‘치킨 티chicken tea’를 만든 거예요. 그럼, 잉걸불에 태운 이유는 뭘까요? 도토리의 쌉싸름하고 고소한 향이 강해져서예요. 그렇게 태운 도토리를 빻아 면을 만들고, 치킨 티와 잘게 썬 참나물을 넣어 끓이고, 블랙트러플을 올려 요리가 탄생했죠. 그가 말하는 진정성은 ‘가장 소홀하기 쉬운 것조차 소홀히 하지 않는 태도’입니다. “제가 채소의 익힘 정도를 중요하게 생각하는 이유는, 디시dish에서 가장 소홀히 하기 쉬운 부분 중 하나이기 때문이에요. 고기가 맛있고 소스가 맛있으면, 맛있는 요리겠죠. 하지만 그건 가장 기본이에요. 대충 해서 넣을 수 있는 채소의 간과 익힘까지 하나하나 다 맛보고 최선을 다할 때, 요리에 진정성이 있는 거죠.” “어떤 사람들은 웃으면서 일하는 게 행복인 줄 아는데, 저는 아니라고 생각해요. 정말 내 모든 걸 집중해서 치열하게 노력한 끝에 좋은 결과를 얻을 때, 그 행복이 훨씬 크고 보람차요. 안 해본 사람은 몰라요. 근데 전 그게 얼마나 행복한지 알거든요.” “제 인생 요리는 제가 만드는 다음 요리에요. 예전 건 다 지나간 거고, 레퍼런스일 뿐이죠. 가장 중요한 건 이다음에 나가는 음식밖에 없어요.”