Continuous Learning_Startup & Investment

처음 Instinct를 보면서 눈에 들어온 건 편한 온보딩과 빠른 ‘wow moment’였다. 그런데 창업자 인터뷰를 보고 나니, 가입한 뒤에 벌어지는 일이 더 궁금해졌다. 사람들은 언제부터 이 제품을 믿고 자기 일을 맡기기 시작할까. 공개된 인터뷰에서 창업자는 당시 하루 10~11% 성장하고 있고, 사용자의 40%가 3주 안에 신용카드 정보를 공유한다고 말했다. 민감정보를 하나 이상 연결한 사용자의 유지율은 약 80%, 거래액은 연환산 약 10억 달러 수준이며 절반가량이 여행 관련이라고 한다. 1. 가입보다 중요한 건 그다음의 위임 에이전트를 쓰는 과정은 사람에게 일을 맡기는 과정과 닮았다. 작은 일을 잘하면 조금 더 중요한 일을 맡긴다. 그러다 이메일과 캘린더를 연결하고, 필요하면 결제 권한도 준다. 맡길 수 있는 일이 늘어나니 다시 찾게 된다. 이렇게 보면 연결한 계정 수가 반복 사용을 예측하는 지표일 수 있다. 다만 계정을 많이 연결해서 오래 쓰는 건지, 원래 만족한 사람이 더 많이 연결하는 건지는 구분해야 한다. 결국 보고 싶은 건 연결 숫자보다 그 연결로 매주 어떤 일을 끝내고 있느냐다. Instinct가 잘한 것도 처음 맡겨볼 만한 일을 제시하고, 그 일을 잘 끝내 다음 위임으로 이어지게 만든 데 있지 않을까. 더 좋은 모델이 나와도 이런 관계가 바로 사라지지는 않을 것 같다. 내 취향뿐 아니라 어떤 일은 알아서 해도 되고 어떤 일은 꼭 물어봐야 하는지까지 익힌 비서라면, 옮길 때 다시 맞춰가야 할 게 많다. Instinct가 가까운 사람들의 에이전트를 연결하려는 것도 흥미롭다. 배우자와 주말 일정을 맞추고 공동창업자와 미팅을 잡는 일을 양쪽 비서가 처리한다면, 함께 쓸 이유가 생긴다. 다만 모두가 같은 제품을 써야만 할까. 다른 회사의 에이전트와도 잘 연결된다면, 사용자를 가두기보다 어디서든 잘 일하는 비서가 더 유리할 수도 있다. 2. 돈은 누가, 무엇에 대해 낼까 Instinct는 지금 무료이고, Muse는 무료 사용량 외에 월 20달러와 100달러 요금제를 제공한다. 구독은 이미 시작됐다. Meta는 Muse의 대화와 가상머신 데이터를 광고 시스템에 공유하지 않는다고 밝히고 있다. Muse가 얻은 정보로 곧바로 광고 효율을 높이니 수익화가 급하지 않다고 단정할 수는 없다. 구독 외에도 길은 있다. 예약이나 구매를 연결해준 대가로 판매자에게 수수료를 받거나, 비용을 아껴준 대가로 고객에게 절감액 일부를 받을 수 있다. 결제 인프라와의 제휴도 가능할 것이다. 다만 거래액이 크다고 매출이 큰 것은 아니다. 누가 수수료를 내고, 그중 얼마가 에이전트 회사에 남는지 봐야 한다. 나에게 가장 좋은 상품과 비서에게 수수료를 가장 많이 주는 상품이 다를 때 무엇을 추천할지도 중요하다. 돈을 버는 방식이 어렵게 쌓은 신뢰를 무너뜨릴 수 있기 때문이다. 3. 범용 비서가 전문 서비스를 부르는 시장 그렇다면 새 스타트업의 자리는 어디일까. 나는 범용 비서 몇 개만 남고 나머지는 사라질 거라고 보지는 않는다. 모바일로 사용 환경이 바뀌던 때처럼, 사람이 직접 앱을 찾아다니던 일을 에이전트에 맡기기 시작하면 서비스의 형태도 바뀔 수 있다. 매일 사람이 열어보는 앱이 아니어도, 비서가 계속 일을 맡기는 서비스라면 사업이 될 수 있다. 예를 들어 “다음 달에 이사할 집을 알아봐줘”라고 하면 내 비서는 예산과 출퇴근 거리, 가족의 취향을 정리한다. 실제 매물을 확인하고 중개사와 연락해 집 볼 시간을 잡는 일은 부동산 전문 에이전트에 맡긴다. 계약 단계에서는 전문가의 검토가 포함된 법률 서비스로 연결할 수 있다. 이런 분업을 생각해볼 수 있다. 여기서 전문 서비스의 경쟁력은 부동산 질문에 답을 잘하는 정도로는 부족하다. 실제 매물을 확인할 수 있는지, 약속을 잡을 수 있는지, 문제가 생겼을 때 해결할 수 있는지가 중요하다. “너는 변호사야”라는 프롬프트와, 전문 지식에 검토 절차와 책임질 사람까지 갖춘 서비스는 다르다. 범용 모델이 좋아져도 굳이 그 업체에 일을 맡길 이유가 있어야 한다. 4. 에이전트가 일을 하려면 필요한 것들 전문 서비스 외에 인프라 기회도 있다. Exa는 에이전트용 검색을 제공하고, Stripe는 Link의 에이전트 지갑이 Muse·Instinct·Grok Bot의 결제에 쓰인다고 밝혔다. 검색과 결제에서 끝나지는 않을 것이다. 다른 에이전트에게 일을 맡길 때 누구를 고르고 어떤 권한을 줄지 정해야 한다. 결제가 중복되거나 취소되면 처리해야 하고, “완료했다”는 답이 왔을 때 실제 시스템에도 반영됐는지 확인해야 한다. 이런 공통 문제를 잘 푸는 회사는 여러 에이전트에 서비스를 팔 수 있을 것이다. 물론 모두에게 필요한 기능이라고 모두 좋은 사업은 아니다. 기존 플랫폼이 기본 기능으로 넣기 어려운 이유나, 별도 업체에 돈을 낼 만큼 나은 점이 있어야 한다. 5. 로컬 에이전트도 볼 필요가 있다 Amazon이 Muse의 쇼핑 접근을 차단한 사례는 있다. 다만 로컬에서 실행한다고 차단이 불가능해지는 것은 아니다. 서비스 쪽에서도 자동화된 접근을 탐지하고 제한할 수 있다. 그래도 로컬 에이전트에는 분명한 용도가 있을 것 같다. 내가 이미 쓰는 앱과 파일, 회사 컴퓨터에만 있는 프로그램에서 일을 해야 하는 경우다. 공식 연동이 없거나 클라우드에서 접근하기 어려운 업무라면 로컬 실행의 가치가 커진다. 로컬 실행과 로컬 추론은 별개다. 내 컴퓨터에서 앱을 조작하더라도 판단은 클라우드 모델이 할 수 있다. 결국 어느 한쪽만 쓰기보다 업무에 맞춰 로컬·클라우드·공식 연동을 섞는 형태가 자연스럽지 않을까. 6. 개인 비서에서 회사의 업무 에이전트로 마지막으로 관심 가는 건 기업이다. Grok Bot for Enterprise도 업무용 봇이 연결된 계정에서 일하고, 영업·마케팅·재무 등 여러 부서의 업무를 처리하는 방향을 보여준다. 회사에서는 여러 소프트웨어에 로그인한다고 일이 해결되지 않는다. 어떤 고객을 우선할지, 할인은 누가 승인할지, 계약과 청구가 다르면 누구에게 넘길지 알아야 한다. 주문 하나만 처리해도 메일을 읽고, 계약을 확인하고, ERP에서 재고와 가격을 보고, 예외 승인을 받아야 할 수 있다. 각 단계의 초안을 만들어주는 것과 납품·청구까지 끝내는 것은 차이가 크다. 에이전트를 만드는 일이 쉬워질수록 관리할 일도 늘어날 것 같다. 누구의 권한으로 일하는지, 담당자가 퇴사하면 누가 인계받는지, 프로세스가 바뀌면 무엇을 고쳐야 하는지 정해야 한다. 그래서 처음에는 Automation Engineer나 FDE처럼 고객 안으로 들어가 일을 함께 풀어야 할 수도 있다. 그다음이 중요하다. 고객마다 처음부터 다시 만드는지, 여러 고객에게 재사용할 수 있는 연결·승인·평가·예외 처리 방식이 쌓이는지. Instinct와 Muse가 어디까지 갈지는 더 봐야 한다. 다만 이들을 보며 떠오르는 사업 아이디어를 또 하나의 범용 비서로 한정할 필요는 없어 보인다. 사람들이 비서에게 맡기기 시작한 일 중, 아직 누군가 제대로 끝내줘야 하는 일이 꽤 많을 것 같다. 에이전트의 세상 이제 시작이다.

나는 AI의 열렬한 지지자지만, 누군가 AI가 만든 결과물을 제대로 살펴보지도 않고 그대로 전달하면 결국 받는 사람이 검증자의 역할까지 해야 할 때가 있다. 나 역시 그랬던 적이 있어서 반성한다. 요즘 여러 회사가 코딩을 넘어 agent를 극단적으로 사용하면서 어떻게 하면 더 높은 생산성을 낼 수 있을지 실험하고 있다. 그런데 AI가 아무리 똑똑해져도 결국 어떻게 일을 시키고, 결과물을 어떻게 가공해서 다른 사람에게 전달하느냐에 따라 생산성 차이가 꽤 크게 나는 것 같다. 조직에서 생각보다 많은 리소스가 커뮤니케이션에 쓰인다. 같은 내용도 누가, 어떤 맥락에서, 어떤 말로 전달하느냐에 따라 받아들이는 정도가 완전히 다르다. 특히 AI는 당연한 말을 길게 하거나 굳이 없어도 되는 문장을 붙이는 경향이 있다. 내가 짧은 프롬프트 하나 던져서 긴 글을 만들고, 그걸 별 생각 없이 공유해서 여러 사람이 읽게 한다면 내가 아낀 시간을 다른 사람들에게 떠넘기는 셈일 수도 있다. 최근 Clay가 회사 전체에 AI 글쓰기 가이드라인을 공유한 걸 봤는데 공감되는 부분이 많았다. 공유하는 모든 문장과 생각은 내가 책임질 수 있어야 한다. Writing is thinking. 읽는 사람보다 쓰는 사람이 더 많은 시간을 써야 한다. 그리고 길다고 좋은 글은 아니다. 한동안 나도 읽고 생각하고 쓰는 것의 상당 부분을 AI에 위임했다. 그러다 AI가 뽑아낸 결론을 내가 이해한 것, 심지어 내가 생각한 것으로 착각했던 적도 있다. 그런데 지식이 내 것이 되기까지는 결국 학습 비용이 필요하다. 글쓰기는 그 비용을 치르는 꽤 좋은 방법 중 하나다. 직접 써보면 내가 뭘 알고 뭘 모르는지가 생각보다 잘 드러난다. 그리고 글에는 읽는 사람이 있다. 결국 고객이 있는 셈이다. 어떤 단어를 쓰는지, 어떤 문장은 빼는지, 어디까지 설명하고 어디서 멈추는지. 그런 디테일에서 이 사람이 얼마나 고민했는지가 느껴진다. 글쓰기에도 감도가 있다고 생각한다. 앞으로 내가 쓰는 모든 문장을 직접 쓸 필요는 없을 것 같다. 오히려 점점 더 많은 부분을 AI가 쓰게 될 것이다. 그래도 내가 전달하는 글의 감도와 그 글에 대한 책임만큼은 내가 정해야 한다. https://x.com/vxanand/status/2104576879415988453?s=46&t=h5Byg6Wosg8MJb4pbPSDow

성공은 치료가 아니고, 재능은 일회용이다. 최근 영화 포스터 디자이너 박시영의 인터뷰를 여러 편 봤는데, 서로 다른 이야기들이 의외로 하나의 세계관으로 연결되어 있었다. 그는 꽤 거친 환경에서 자랐다. 그런데 자신의 결핍을 낭만화하지 않는다. 결핍이 사람을 위대하게 만들어주는 것은 아니다. 결핍은 그냥 불리한 조건일 뿐이다. 다만 이미 생겨버린 결핍을 지울 수 없다면, 그 경험이 만들어낸 관점 중 쓸 수 있는 것을 찾아낼 수는 있다. 결핍은 advantage가 아니라 raw material에 가깝다. 정석적인 미술교육을 받지 못한 것도 마찬가지였다. 남들이 아는 정답을 몰랐기 때문에 때로는 남들과 다른 답을 내놓을 수 있었다. 중요한 것은 결핍보다 오히려 고립이었다. 그는 젊은 나이에 영화계에서 성공했고 돈도 벌었다. 하지만 성공했다고 어린 시절부터 쌓여 있던 문제가 사라지지는 않았다. 외부 환경은 바뀌었지만 내부의 패턴은 그대로 남아 있었다. 그래서 그의 인생에서 더 중요한 전환점은 첫 번째 흥행작이나 경제적 성공보다 사랑하는 사람을 만난 일이었던 것 같다. 혼자 있을 때는 내가 행동하는 사람이면서 동시에 나를 평가하는 사람이기도 하다. 얼마든지 자기 행동을 합리화할 수 있다. 그런데 누군가를 정말 사랑하게 되면 새로운 관측점이 생긴다. 내 행동 때문에 상대가 상처받는 것이 보이고, “나는 원래 이런 사람이야”라고 정당화하는 것보다 “이 사람이 힘들지 않았으면 좋겠다”는 마음이 커진다. 그러면서 목적함수가 바뀐다. 자기연민에서 타인에 대한 책임으로. 사랑은 자기 문제에 대한 정보를 하나 더 주는 것이 아니라, 그 문제를 실제로 고쳐야 할 이유까지 만들어준다. 그래서 사람을 바꾸는 데에는 information보다 relationship이 더 강력할 때가 있다. 그가 한 말 중 또 기억에 남았던 것은 “재능은 일회용이다”라는 말이었다. 재능이 있으면 어떤 일을 처음부터 잘할 수 있다. 하지만 새로운 문제가 계속 등장하면 결국 재능만으로는 버티기 어렵다. 오래 살아남게 만드는 것은 계속 해보고, 실패하고, 지루함을 견디고, 반복하면서 경험 속의 패턴을 각인하는 것이다. 콘텐츠 100개를 한 번씩 보는 것보다 좋은 것 하나를 100번 보는 것. 왜 이렇게 만들었는지, 왜 이 순서인지, 어느 순간 느낌이 바뀌는지, 내가 만든다면 무엇을 다르게 할지를 계속 뜯어보는 것. 정보를 아는 상태에서 감각이 체화된 상태로 넘어가는 과정이다. 이 이야기는 AI 시대에 더 중요하게 들린다. 무언가를 만들어내는 비용은 계속 낮아지고 있다. 생산의 가치는 내려가고, 선택과 판단의 가치는 상대적으로 올라간다. 앞으로 더 희소해지는 능력은 많이 아는 것이 아니라, 수많은 결과물 앞에서 무엇이 좋은지 빠르게 알아보는 taste일지도 모른다. 그리고 그 taste 역시 타고나는 것보다 반복 속에서 만들어진다. 삶에 대해서도 비슷한 이야기를 한다. 남들처럼 되기 위해 자기 결함을 전부 지울 필요는 없다. 동시에 “나는 원래 이런 사람이니까”라는 말로 자기 변화를 막아서도 안 된다. 고칠 것은 고치되, 자신이 살아온 과정에서 생긴 모든 흠을 없애려고 할 필요도 없다. 결핍, 기억, 열등감, 취향은 사람마다 다른 training data다. 모두가 같은 정답을 배우고 같은 결함을 지워나가면 오히려 비슷한 사람이 된다. 독창성은 새로운 것을 억지로 추가해서 생기는 것이 아니라, 남들과 다른 삶을 어떻게 해석했는가에서 생길 수도 있다. 그래서 그가 말하는 ‘나잇값’에 대한 생각도 공감하면서 들었다. 몇 살에는 결혼해야 하고, 얼마를 벌어야 하고, 집이나 차가 있어야 하고, 어떤 옷과 취미는 이제 그만둬야 한다는 것은 대부분 동년배 안에서 자신의 위치를 확인하려는 상대적 지위 게임에 가깝다. 반면 진짜 나잇값은 다른 데 있다. 내가 한 선택의 비용을 감당할 수 있는가. 내 감정을 다른 사람에게 떠넘기지 않는가. 타인을 배려할 수 있는가. 내가 선택한 사람과 일에 책임질 수 있는가. conformity(순응)와 maturity(성숙)는 전혀 다른 문제다. 박시영의 삶 전체를 보면 또 하나 재미있는 점이 있다. 어린 시절 그는 어느 순간 “이대로 있으면 나는 이 세계의 사람이 되겠다”고 생각하고 환경을 떠났다. 사람은 의지만으로 미래를 고르는 것이 아니라, 자신에게 보이는 선택지 중 하나를 고른다. 그래서 인생을 크게 바꾸고 싶을 때 의지를 강화하는 것보다 더 중요한 것이 있을지도 모른다. 환경을 바꾸고, 만나는 사람을 바꾸고, 자신이 노출되는 세계를 바꾸는 것. 환경이 달라지면 내가 선택할 수 있는 ‘가능한 나’의 집합 자체가 달라진다. 결국 이 인터뷰들에서 내가 가장 좋았던 메시지는 이것이었다. 좋은 삶은 자기 자신을 완벽하게 만드는 결함 제거 최적화 문제가 아닐지도 모른다. 고쳐야 할 것은 고치고, 변해야 할 때는 변하면서도, 내가 살아온 과정에서 생긴 고유한 무늬까지 전부 지우지는 않는 것. 그리고 혼자 완결된 인간이 되려고 하기보다, 나를 비춰주고 때로는 수정하게 만드는 사람들과 함께 살아가는 것. 인간은 좋은 존재라서 서로를 필요로 하는 게 아니라, 약한 존재라 혼자서는 완결될 수 없기 때문에 서로를 필요로 하는지도 모르겠다. https://youtu.be/LczhU1kPNx8?si=mR2xPuDYMlFXArQD

AI를 늦추자는 사람들. 그 규칙은 누가 정하나? AI가 위험해지고 있다는 우려와, 안전 규제가 기존 기업의 진입장벽이 될 수 있다는 의심은 동시에 타당할 수 있다. 다리오의 「We Must Pace the Frontier」를 썼다. 1. 다리오는 무엇을 하자는 건가 AI가 다음 AI를 만드는 일을 돕기 시작하면서, 능력 발전 속도를 안전 연구가 따라가지 못할 수 있다. AI가 연구를 가속하고, 그 연구로 개선된 AI가 다시 연구를 가속하는 재귀적 자기개선을 걱정한다. 처방은 외부 평가자의 내부 상주와 독립적인 결과 공개, 미국·민주국가의 공통 안전 기준, 중국까지 포함한 국제 협력이다. 다음 능력 단계로 넘어가기 전에 안전 조건을 충족하게 하고, 필요하면 학습 컴퓨트와 내부 AI 연구 자동화도 제한하자는 것이다. Anthropic이 당장 약속한 것은 외부 평가자 도입이며, 나머지는 아직 제안이다. 여기에 미국의 우위를 유지한다는 조건이 붙는다. 중국의 첨단 칩·제조장비 구매, 밀수와 해외 데이터센터 원격 접근, 무단 증류와 모델 탈취를 더 강하게 막자는 주장이다. 미국만 느려지면 중국이 통제되지 않은 모델을 개발하거나 군사적 우위를 얻을 수 있다는 우려다. 그는 향후 3~5년을 중요하게 보고, 미국의 우위를 벌려 감속할 여유와 협상력을 확보하려 한다. 다만 상대를 기술적으로 고립시키는 것이 안전 협력에도 도움이 될지는 별개다. 2. 연구자들은 무엇을 보고 있나 OpenAI의 Adam Majmudar가 제시한 설명이 흥미롭다. 외부인은 출시된 제품을 비교하지만 연구자는 연산량과 학습 방식을 바꾸며 얻는 성능 곡선을 본다는 것이다. 출시 사이의 변화가 작아 보여도, 내부에서는 아직 활용하지 않은 개선 여지를 보고 있을 수 있다. 그는 기존 스케일링 축을 더 활용하거나 새로운 축을 발견하는 방식으로 발전을 설명한다. 사전학습·추론 연산 외에 추가 학습과 에이전트 협업 등으로 scaling law의 한계는 보이지 않고 더욱더 가속화되고 있다. 3. 왜 찬반이 갈리나 샘 올트먼은 독립 평가자 도입을 약속했고, 머스크는 지지했다. 하사비스는 방향에 동의하면서 세부 설계가 필요하다고 했다. 반면 고메즈는 카르텔화를 경계했고, 삭스는 위험하다면 프런티어 기업들이 스스로 감속부터 하라고 요구했다. 지지 발언과 구체적인 감속 합의는 구분해야 한다. 찬성 측은 이익과 위험의 부담자가 다르다는 것이다. 기업은 개발의 이익을 얻지만 사고 피해는 사회가 나눠 부담할 수 있다. 경쟁 때문에 안전 투자가 부족해진다면 공통 기준이 필요할 수 있다. 반대 측의 논리도 이해가 된다. 위험을 가장 잘 아는 기업이라고 해서 경쟁자의 진입과 모델 공개를 결정할 권한까지 가져야 하는 건 아니다. 감속으로 방어용 AI와 과학 연구의 발전까지 늦어지는 비용도 따져야 한다. 4. 오픈소스·중국·컴퓨트에는 어떤 일이 생길까 선두의 위험한 연구만 늦추면 오픈 모델은 따라잡을 시간을 얻을 수 있다. 반대로 외부 배포만 막고 대형 연구소의 내부 연구는 허용하면 격차가 커질 수 있다. 높은 고정 준수비용은 작은 팀의 진입을 어렵게 만든다. 무엇을 제한하는지가 중요하다. 중국도 영구적으로 막힌다고 가정하기 어렵다. 공급이 불안해지면 국산 칩과 소프트웨어를 채택할 유인이 커지고, 국내 업체는 고객·매출·피드백을 얻는다. 단기 지연과 장기 자립 촉진이 동시에 일어날 수 있다. 다만 자립도가 높아진다고 규제가 없었을 때보다 발전이 빨라졌다는 뜻은 아니다. 규제 이후에도 발전한다고 규제가 무효인 것도 아니다. 비슷한 능력에 도달하는 시간과 비용, 실제 국산 생산량, 세계 고객의 채택을 봐야 한다. 관건은 벌어준 시간이 무엇을 바꾸느냐다. 몇 년의 선두가 이후 우위를 결정한다면 지연의 가치가 크다. 경쟁이 오래 지속된다면 중국의 자립을 촉진하고 미국의 시장과 통제 지렛대를 잃는 비용이 커질 수 있다. 컴퓨트 수요도 일률적으로 줄지는 않을 수 있다. OpenAI는 특정 모델에 제한을 가한 뒤 다른 모델의 실험으로 자원이 이동해, 분석한 RL 워크로드의 전체 GPU 배정은 대체로 유지됐다고 보고했다. 한 회사의 제한된 관찰이지만, 감속이 곧 같은 비율의 GPU 수요 감소는 아니라는 점을 보여준다. 토큰 수, GPU 시간, 인프라 매출도 따로 봐야 한다. 5. 그래서 규제 포획인가 둘 다 함께 느려지면 안전하지만, 상대가 달릴 때 혼자 멈추면 손해인 상황을 생각해보자. 이 구조에서는 위험을 진심으로 걱정하면서도 계속 경쟁할 수 있다. 공동 기준은 이 문제를 풀려는 시도일 수 있다. 동시에 같은 기준으로 경쟁자의 비용을 높이고 추격을 막을 수도 있다. 안전 협력과 규제 포획은 겉으로 비슷한 행동을 만든다. 나는 독립 검증 강화에는 찬성한다. 다만 모델 개발과 공개를 제한하는 규칙에는 더 강한 입증 책임이 필요하다고 본다. 연구자의 우려가 진심이어도 규제가 공정하다는 보장은 없다. 규제가 기존 기업에 유리해도 위험이 가짜라는 증거는 아니다. 그래서 내심보다 행동을 보려 한다. 자기 회사의 내부 연구에도 불리한 기준을 적용하는가. 외부 평가자가 나쁜 결과를 공개할 수 있는가. 작은 기업도 같은 위험 기준을 합리적인 비용으로 통과할 수 있는가. 누가 감속에 찬성했는지보다, 누가 규칙을 정하고 그 규칙이 누구에게 적용되는지가 더 중요하다. https://darioamodei.com/post/we-must-pace-the-frontier

로보틱스가 몇몇 연구팀의 개별적인 돌파에 의존하는 단계를 지나, 수많은 기업·연구자·모델·데이터가 함께 밀어 올리는 ‘매끄러운 지수 성장(smooth exponential)’ 구간에 들어가고 있다. 개별 연구는 불규칙합니다. 한 팀은 문제에 막히고, 다른 팀은 실패하고, 또 다른 팀은 우연히 돌파구를 찾습니다. 하지만 참여자가 충분히 많아지면 이런 편차가 전체 평균에서는 사라집니다. 한 프로젝트가 멈춰도 다른 수십 개 프로젝트가 계속 전진하기 때문에 산업 전체의 성능은 꾸준히 올라간다는 논리입니다. 최근 코딩 모델에서 나타난 흐름을 로보틱스에도 적용한 것입니다. 1. 참여자가 충분히 많아졌습니다. 대학, 스타트업, 대기업 연구소가 이족보행·바퀴형·로봇 손·그리퍼 등 여러 하드웨어와 데이터 수집법, 모델 구조, 시장을 동시에 실험하고 있습니다. 특히 중국의 하드웨어 공급망과 오픈소스 VLA 모델이 진입장벽을 낮춰 신규 업체도 이전보다 높은 출발점에서 시작할 수 있습니다. 2. 범용 LLM을 로봇에 적용할 수 있게 됐습니다. 로봇 전용 모델이 아니라 일반적인 프런티어 LLM도 일부 로봇 작업을 제로샷으로 수행하기 시작했습니다. 이 흐름이 이어지면 로보틱스도 LLM처럼 공개 리더보드, 테스트타임 스케일링, 성능곡선 외삽 같은 평가 체계를 갖출 수 있습니다. 데모 중심의 분야에서 성능 향상을 측정하고 예측하는 분야로 바뀔 수 있다는 이야기입니다. 3. 로봇마다 데이터를 처음부터 모을 필요가 줄고 있습니다. 과거에는 가정용 로봇을 만들려면 실제 가정에서 해당 로봇을 수백만 시간 조작한 데이터가 필요하다고 봤습니다. 지금은 광범위한 영상과 다른 로봇의 데이터를 이용해 일반적인 지능을 먼저 학습하고, 소량의 특정 하드웨어 데이터로 제어 능력을 붙이는 방향으로 바뀌고 있습니다. 데이터 구조는 대략 아래와 같습니다. 1인칭 영상 수백만 시간 → UMI 그리퍼 데이터 수십만 시간 → 여러 로봇의 원격조작 데이터 수만 시간 → 특정 하드웨어의 고품질 시연 수 시간 이 구조가 제대로 작동하면 여러 회사가 같은 범용 데이터를 재사용할 수 있습니다. 실제 로봇을 매번 작동시키지 않고도 action perplexity나 MSE 같은 지표로 스케일링 법칙을 연구하는 것도 가능해집니다. 저자의 제품 전망도 상당히 구체적입니다. 향후 12~24개월 동안 로봇 지능이 빠르게 발전하고, 2027년 10월경에는 범용 가정용 로봇 2~3개가 시장에 나올 것으로 예상합니다. 초기 제품은 물건 옮기기, 빨래 개기, 몇 가지 시연 기능 정도라 사람을 대체할 수준은 아닙니다. 다만 가정은 이런 ‘흥미롭지만 아직 크게 유용하지 않은 제품’을 받아들일 얼리어답터 시장이 될 수 있습니다. 이후에는 ChatGPT나 코딩 에이전트처럼 별로 유용하지 않음 → 매우 유용함 → 경제적으로 큰 영향을 미침 의 순서로 발전하고, 유용성의 임계점을 넘으면 기업과 제조업에서 채택이 크게 늘어날 것이라고 봅니다. 투자 관점에서의 결론은 단일 로봇 회사를 맞히는 것보다 생태계 전체의 성장에 베팅하라는 것입니다. 개별 기업 사이에서는 소수의 큰 승자가 나오겠지만, 로보틱스 전체의 발전은 수많은 참여자가 함께 만든 결과이기 때문입니다. Nvidia가 AI 컴퓨팅을 공급하고 Unitree가 휴머노이드 연구의 진입장벽을 낮춘 것처럼, 컴퓨트·하드웨어 플랫폼·데이터·평가 도구 등 여러 기업이 공통으로 사용하는 기반 계층이 더 나은 장기 투자처일 수 있다는 주장입니다. 다만 몇 가지 논리적 비약은 있습니다. • 발전이 매끄럽다고 해서 반드시 빠르거나 지수적인 것은 아닙니다. • 영상과 오프라인 지표의 개선이 실제 로봇의 안전성·신뢰성·실패 복구 능력으로 바로 이어진다는 보장은 없습니다. • 배터리, 액추에이터, 내구성, 제조 원가, 유지보수 같은 물리적 병목도 남아 있습니다. • 12~24개월 및 2027년 10월이라는 시점은 본문의 논리에서 계산된 결과라기보다 추측에 가깝습니다. • 산업 전체가 성장하는 것과 인프라 기업이 높은 투자수익을 얻는 것도 별개의 문제입니다. https://x.com/ericjang11/status/2098299811720261952

ARR 0에서 5억 달러까지: Pocket FM이 공개한 성장 공식 Pocket Entertainment(Pocket FM + Pocket Saga)는 ARR이 거의 0이던 시점에서 5억 달러까지 성장했다. 지난 1년간 순증 ARR 2억5천만 달러를 기록했고, EBITDA 흑자 상태였다. Pocket FM은 1인 제작 스튜디오 네트워크를 기반으로 한 ‘오디오 드라마판 넷플릭스’다. 이들이 공개한 성장 동력은 다섯 가지다. 1. 미국에서 ARR 0→4억 달러를 만든 유저 확보법은 다른 나라에서도 통했다. 오디오 드라마의 90초 영상 예고편을 광고로 내보내고, 뒷이야기가 궁금한 사람에게 앱을 받게 한다. 유저 확보에 1억 달러 넘게 쓴 뒤 얻은 인사이트는 단순했다. 광고 클릭률(CTR)이 2%에서 2.25%로 오르면 고객 획득 비용(CAC)은 약 30% 내려갔다. 새 국가에 들어갈 때는 LLM으로 인기 작품의 흥미로운 장면을 뽑아 5분짜리 대본으로 재구성하고, 이를 바탕으로 90초 영상 광고를 만든다. 첫 60초에는 5초마다 훅을 넣고 마지막은 강한 클리프행어로 닫는다. CTR 2.5%와 3초 재생률 55%라는 기준을 달성하지 못하면 크리에이티브 디렉터가 훅과 클리프행어를 다시 손본다. AI로 작품당 1,000개, 월 약 1만7,500개의 광고를 만든다. 유저 확보 예산을 7~8배 키우면서도 CAC는 크게 오르지 않았다. 이 시스템을 찾는 데 8개월이 걸렸지만, 이후 새 국가에서 ARR 1천만 달러에 도달하는 시간은 계속 짧아졌다. 미국은 19개월 만에 매출 2,500만 달러, 독일은 11개월 만에 ARR 2,100만 달러 이상, 프랑스는 3개월 만에 ARR 1,000만 달러 이상을 기록했다. 미국은 현재 전체 매출의 78%다. 2. 포맷, 리텐션, 과금을 함께 설계했다. 처음 2~3년 동안 10가지 포맷을 시험한 끝에 8~12분짜리 연재형 오디오 드라마를 찾았다. 모바일 픽션에 맞게 쓰고, 회차마다 강한 훅과 클리프행어를 넣었다. 그러자 하루 평균 청취 시간은 약 25분에서 150분 이상으로 늘었다. 과금은 매일 일정 시간까지 무료, 이후 회차별 결제로 설계했다. 광고를 보면 잠긴 회차를 여는 선택지도 추가했고, 광고 매출의 연환산 규모는 12개월 만에 0에서 약 9천만 달러로 커졌다. 한 작품의 무료 분량이 끝난 유저가 결제하지 않으면 아직 무료 분량이 남은 다른 작품을 이어 재생했다. 여러 작품의 회차를 엮은 ‘에피소드 플레이리스트’로, 화면을 끄고 듣는 오디오 앱의 작품 발견 문제를 해결한 셈이다. 3. 번역하지 않고 현지화했다. 언어만 옮기면 농담과 민속, 문화적 맥락이 옅어질 수 있다. 그래서 AI로 이야기의 뼈대는 유지하되 문화적 층위 전체를 현지에 맞게 다시 설계했다. 독일용으로 현지화한 미국 작품은 단순 번역본보다 리텐션이 50% 높았다. 덕분에 작가들은 큰 추가 작업 없이 미국, 인도, EU, 중남미에서 새로운 수익을 얻었다. 4. 사내 실험에는 100만 달러와 12~18개월을 줬다. 사내 신규 프로젝트에 100만 달러를 배정하고, 팀이 12~18개월 안에 가설을 증명하면 더 투자했다. 이렇게 나온 것이 세로형 2분 AI 영상 마이크로드라마 앱 Pocket Saga다. Pocket FM의 작품과 구조를 영상으로 옮긴 이 앱은 출시 두 달 만에 약 1,500만 달러 ARR에 도달했다. 오디오 드라마를 다른 언어와 국가로 넓히고, 마이크로드라마를 거쳐 영화·TV·게임으로 확장한다는 구상이다. 작가에게는 새 국가뿐 아니라 새 포맷의 수익원도 생긴다. 5. 모든 콘텐츠를 AI 기반으로 제작하는 체제로 전환했다. 2024년 중반, ARR 2억 달러에 전년 대비 50% 성장 중이던 시점에 이 전환을 택했다. 곧바로 성장세가 꺾여 6개월 동안 정체했지만, 6개월 뒤 사업이 급성장했다. 이들은 이 전환이 이후 ARR 100% 성장의 돌파구를 열었다고 본다. 연간 콘텐츠 제작량은 약 2만5천 시간에서 250만 시간 이상으로 늘었다. 원문 작성자는 품질도 높아졌다고 말한다. 누적 수익 100만 달러를 넘긴 작품은 90개 이상, 1천만 달러를 넘긴 작품은 13개다. 품질 관리는 LLM을 평가자로 써 진행한다. 12개월 매출 유지율은 44%에서 76%로 올랐다. Pocket Entertainment는 자신들을 가장 큰 AI 엔터테인먼트 플랫폼이라고 설명한다. 그 근거로 Runway나 Midjourney 같은 AI 제작 도구와 달리 콘텐츠의 공급 측과 수요 측을 모두 보유하고 있다는 점을 든다. 기반은 77만 개 타이틀, 55만 명의 크리에이터, 55억 시간의 재생 및 분 단위 리텐션·참여 데이터다. AI가 더 좋은 광고를 더 많이 만들고, 작가와 AI가 더 많은 작품을 만들고, 현지화가 작품당 도달 범위를 넓히고, 오디오에서 영상으로의 확장이 전체 시장(TAM)을 키운다. 각 성장곡선이 서로를 밀어주는 구조다. 이들이 건 마지막 베팅은 더 크다. 3년 안에 ‘나루토’급 시리즈를 1,000달러에 만들 수 있다는 것. 원문 작성자는 넷플릭스가 매년 100개의 흥행작을 찾는 데 170억 달러를 쓴다고 비교하며 묻는다. 10억 달러로 고품질 작품 100만 편을 만들 수 있다면 무슨 일이 생길까? 스트리밍 전쟁이 시가총액 3천억 달러를 재편했다면, AI 엔터테인먼트 전쟁은 1조 달러 이상의 재편이 될 수 있다. https://x.com/RohanNayak2/status/2098104784264065525

OpenAI는 수학 문제보다 새로운 R&D 생산방식을 보여줬다. OpenAI가 Navier–Stokes 밀레니엄 문제의 해법을 공개했다. 정확히는 매끄러운 외력이 있는 3차원 Navier–Stokes 방정식에서 유한시간 안에 특이점이 발생할 수 있다는 증명이다. 일반적인 유체 흐름을 계산하는 공식이 나온 것도, 항공·기후·CFD 문제가 해결된 것도 아니다. 하지만 외력을 허용하는 C·D 조건은 Clay의 공식 문제에 포함되므로, 증명이 맞다면 실제 밀레니엄 문제의 해결이다. 아직 독립 검증과 학계의 수용은 끝나지 않았다. 수학적 결과만큼 흥미로운 것은 문제를 푼 방식이다. OpenAI의 자기보고에 따르면 약 1만 개의 에이전트가 88시간 동안 270만 개의 메시지와 1,300억 개의 출력 토큰을 사용했다. 여러 팀이 서로 다른 접근법을 탐색하고, 중간 결과를 공유하고, 유망한 경로에 컴퓨트를 집중했다. 이후 Lean으로 증명을 형식화했다. 정확한 GPU 수와 비용은 공개되지 않았지만, 중요한 것은 분명하다. 연구가 사람 몇 명이 몇 년 동안 수행하는 프로젝트에서, 거대한 추론 예산을 투입하는 ‘컴퓨트 캠페인’으로 바뀌기 시작했다. 문제 정의 → 병렬 탐색 → 실패 경로 제거 → 유망한 분기에 컴퓨트 증액 → 자동 검증 → 재현 가능한 결과 앞으로 R&D의 핵심 지표도 연구원 수나 생성된 아이디어의 개수가 아니라 ‘검증된 결과 한 건당 비용’, ‘결과 도달시간’, ‘재현 성공률’이 될 수 있다. 다만 1만 개의 에이전트를 띄운다고 모든 문제가 풀리는 것은 아니다. Google의 연구에서도 병렬화 가능한 문제에서는 멀티에이전트가 강했지만, 순차적인 계획 문제에서는 오히려 성능이 크게 떨어졌다. 핵심은 에이전트 숫자가 아니라 문제를 잘게 나누는 방법, 유망한 경로를 고르는 스케줄러, 그리고 결과가 맞는지 판정할 수 있는 verifier다. Navier–Stokes는 AI에 특히 유리한 문제이기도 했다. 문제 정의가 명확하고, 결과가 디지털이며, Lean으로 상당 부분 검증할 수 있다. 신약·소재·기계설계에서는 시뮬레이터와 현실의 차이, 실험 오차, 제조 가능성, 규제가 개입한다. 따라서 이번 사건을 ‘R&D 전체가 곧 자동화된다’고 해석하는 것은 과장이다. 먼저 바뀌는 곳은 소프트웨어 migration, 보안, 반도체 검증, CAE처럼 여러 경로를 탐색할 수 있고 결과를 테스트·시뮬레이션으로 빠르게 확인할 수 있는 분야일 가능성이 높다. 인간 연구자가 바로 사라지기보다는 역할이 바뀔 것이다. 한 명의 전문가가 여러 개의 연구 캠페인을 동시에 운영하고, 에이전트가 문헌 조사·후보 생성·시뮬레이션·코딩·반복 분석을 수행하는 구조다. 연구원 100명이 10명으로 줄어들기보다, 10명이 과거보다 훨씬 많은 문제를 시도하게 될 가능성이 높다. 다만 주니어 연구와 외주 분석이 담당하던 실행 피라미드는 얇아질 수 있다. 창업·투자 관점에서도 중요한 구분이 있다. 장시간 추론 수요가 증가하면 칩·전력·클라우드는 수혜를 받는다. 그러나 GPU를 빌려주거나 범용 멀티에이전트 runtime을 만드는 것만으로는 스타트업이 강한 해자를 갖기 어렵다. AWS와 Microsoft가 이미 장기간 실행, GPU, 다중 에이전트, 고객 계정 내부 실행을 제품에 넣고 있기 때문이다. 더 큰 기회는 특정 산업에서 ‘무엇을 정답으로 인정할 것인가’를 정의하고, 기존 solver·테스트·실험실로 결과를 검증해 납품하는 회사에 있다. 예를 들면 다음과 같다. - 과학·산업용 레거시 코드의 migration과 수치 동등성 검증 - 반도체 패키지·데이터센터·배터리의 열관리 설계 - 조선 선형·프로펠러 후보의 CFD 탐색 - 소재·배합 후보 생성과 실제 실험의 폐쇄 루프 - 펌웨어·산업제어 시스템의 취약점 발견과 검증된 패치 여기서도 Private는 해자가 아니라 입장권이다. 고객의 코드·CAD·실험 데이터가 외부 모델 학습에 사용되지 않도록 VPC나 온프레미스에서 실행하는 것은 기본 요건이 될 것이다. 진짜 해자는 산업별 acceptance test, 기존 도구와 실험실에 대한 접근권, 검증 결과가 붙은 성공·실패 기록, 그리고 결과에 제한적으로 책임질 수 있는 구조에 생긴다. 그래서 앞으로 가장 흥미로운 회사는 “AI가 R&D를 대신합니다”라고 말하는 회사가 아닐 수 있다. 대신 이렇게 말할 수 있는 회사다. “정해진 비용과 시간 안에 고객의 테스트를 통과한 설계·패치·후보를 만들고, 그것이 왜 믿을 만한지 재현 가능한 증거까지 함께 제공하겠습니다.” 이번 사건이 보여준 가장 큰 변화는 AI가 과학자를 없앤다는 것이 아니다. R&D의 디지털 탐색 노동이 컴퓨트로 전환되기 시작했다는 것이다. 그리고 그 시장의 승자는 가장 많은 에이전트를 가진 회사보다, 컴퓨트가 만든 결과 중 무엇을 믿어도 되는지 판단하고 책임질 수 있는 회사일 가능성이 높다. https://openai.com/index/navier-stokes-solution/

AI 시대의 핵심 인프라는 GPU가 아니라 전력일지도 모른다 Base Power 창업자 Zach Dell의 인터뷰를 보며 가장 크게 배운 건, 전력사업을 배터리 제조업으로만 보면 본질을 놓친다는 점이었다. Base가 팔려는 것은 배터리가 아니라 “싸고 끊기지 않는 전력”이라는 결과다. Zach의 출발점은 에너지 풍요다. 1인당 에너지 소비와 GDP·삶의 질 사이에는 강한 상관관계가 있고, 더 많은 사람이 더 많은 에너지를 쓸 수 있어야 번영도 가능하다고 본다. 그래서 미국 전력망도 “망가졌다”기보다 앞으로의 수요를 감당하기에 “너무 작다”고 진단한다. 전력수요가 오랫동안 완만했던 탓에 기존 규제 유틸리티는 R&D로 용량을 빠르게 늘리는 조직보다 승인된 설비에 자본을 집행하는 조직으로 진화했다. AI 데이터센터는 이 균형을 깨는 새로운 수요다. Base는 Mission, Vision, Strategy를 구분한다. 미션은 에너지 풍요로 인간의 번영을 돕는 것. 비전은 태양광·배터리·소프트웨어가 정의하는 다음 50년의 전력회사를 만드는 것. 전략은 기술과 선택적 수직통합으로 시간이 갈수록 커지는 원가우위를 쌓는 것이다. 전기는 결국 commodity이기 때문에 더 싸고 더 안정적으로 공급하는 회사가 이긴다는 논리다. 사업모델도 여기서 나온다. 기존 업체는 고가의 가정용 배터리를 한 번 팔고 끝내지만, Base는 직접 설치하고 계속 소유·운영한다. 고객은 전기와 백업 서비스를 받고, Base는 정전이 없는 동안 배터리 fleet를 전력시장 자산으로 활용한다. 하드웨어 판매보다 capacity-as-a-service에 가깝다. 고객의 초기 부담은 낮아지고 Base는 반복매출, 운영 데이터, 전력시장 가치를 얻는다. 기존 판매업체가 따라오려면 자신의 고마진 일시판매 모델을 포기해야 한다는 점도 방어력이 된다. 진행자는 이를 Hughes Tool의 드릴비트 임대모델과 비교한다. 제품을 팔고 끝내는 대신 소유권을 유지함으로써 반복수익, 품질통제, 현장 데이터를 함께 확보하는 구조다. 다만 자본비용, 배터리 열화, 유지보수와 가동률 위험도 Base가 떠안는다. 소유 자체가 해자는 아니고, 운영을 남보다 잘할 때만 해자가 된다. 수직통합 역시 신념이 아니라 constraint의 함수다. Base는 제품 설계와 최종 조립·검사·설치·운영을 직접 하지만 부품 제작은 주로 외부에 맡긴다. 공급능력이 성장의 병목이 되자 공장과 모듈·인버터 라인을 늘렸다. 반대로 3년 차 회사가 셀 제조, 리튬 정제, 채굴까지 내려가는 것은 비합리적이라고 본다. 원가·속도·품질을 실제로 막는 층만, 규모의 편익이 비용보다 커지는 시점에 내부화한다. 이 사고방식은 조직에도 그대로 적용된다. Base의 세 North Star는 빠르게 성장하는 분산 배터리 fleet, 모든 비용을 포함한 최저 landed cost, 재무적 지속가능성이다. 모든 팀 지표는 셋 중 하나와 연결된다. 현재의 가장 큰 병목을 맡은 사람 책상에는 실제 거북이가 놓이고, 부서를 넘나드는 “hot potato” 팀이 매일 모여 문제를 해결한다. 문제가 풀리면 팀은 바로 해산한다. 설계팀과 공장을 걸어서 몇 분 거리에 둔 것도 현장의 문제를 즉시 제품 변경으로 연결하기 위해서다. Zach은 3년 반 동안 매달 지난달에 한 일, 못한 일, 다음 달에 할 일을 써 왔다. 빨간 노트에는 사업 안의 당면 문제를, 검은 노트에는 6~12개월 뒤의 전략을 쓴다. 명확히 쓰지 못하면 아직 명확히 생각하지 못했다는 믿음이다. CEO도 player-coach여야 한다고 본다. 목표와 사람을 정렬하는 코치이면서, 결정적 순간에는 직접 문제를 푸는 개인 기여자여야 한다. AI 데이터센터를 향한 전략은 두 가지다. 데이터센터 근처에 배터리와 전력용량을 배치해 계통의 여유를 만들거나, 시간과 위치를 조절할 수 있는 compute를 분산 에너지 fleet 가까이 가져오는 것이다. 결국 경쟁의 단위는 배터리 GWh나 GPU 개수보다 “필요한 장소에 얼마나 빨리, 얼마나 안정적인 MW를 전달할 수 있는가”가 될 수 있다. 내가 남긴 핵심은 하나다. 수직통합, 제조, 조직문화, 글쓰기 모두 같은 질문에 답해야 한다. 지금 목표로 가는 길을 막는 가장 큰 constraint는 무엇인가? 좋은 소식은 대개 스스로 퍼진다. 경영진이 먼저 봐야 할 것은 나쁜 소식과 병목이다. https://youtu.be/QFk6g5PQtqs

피터 틸을 무신론적 테크 엘리트로만 보면 그의 사상을 절반밖에 이해하지 못한다. 그는 “I believe Christianity is true”라고 말했고 자신의 믿음을 “다소 비정통적”이라고도 표현했다. 하나님을 믿으며, 그리스도의 육체적 부활은 실제 사건이고 영생은 실제 약속이라고 본다. 다만 전통 교리를 그대로 반복하기보다 르네 지라르의 모방욕망·희생양 이론을 성경, 기술, 정치에 연결한다. 틸의 성경관을 가장 잘 보여주는 말은 “우리가 성경을 읽지만, 성경도 우리를 읽는다”이다. 성경이 계시라면 우리가 과거 문서처럼 평가하는 데 그치지 않고, 오히려 우리의 욕망·질투·폭력·위선·군중심리를 드러내야 한다는 뜻이다. 그는 성경을 하나님에 관한 신학인 동시에 인간이 폭력을 행사하고 숨기는 방식을 밝히는 인류학으로 읽는다. 지라르의 구조는 이렇다. 모방욕망 → 경쟁과 혼란 → 한 사람에게 책임 집중 → 추방·살해 → 일시적 평화 → 희생양의 신성화. 사람들은 남이 원하는 것을 보고 원한다. 같은 지위·재산·명예를 원하면 모델은 경쟁자가 되고, 갈등이 커지면 공동체는 한 사람을 모든 문제의 원인으로 지목한다. 그를 제거한 뒤 평화가 오면 그 사람은 위기를 일으킨 괴물이자 평화를 돌려준 신으로 기억된다. 틸이 보는 성경의 독특성은 이 과정을 정당화하지 않고 죽임당한 사람이 정말 유죄였는지 묻는 데 있다. 카인보다 아벨, 제국보다 억압받는 노예, 예수를 처형한 군중과 국가보다 무고한 예수의 관점에서 역사를 다시 쓴다. 그리스도의 무죄는 군중의 만장일치와 국가의 판결도 거짓일 수 있음을 폭로한다. 그래서 죄는 금지된 행동의 목록보다 넓다. 타인의 욕망을 모방하고, 비교와 질투에 빠지고, 공동체의 평화를 위해 누군가를 악인으로 만들고, 그 폭력을 정의라고 믿는 사회적 힘이기도 하다. 틸은 하나님을 섬기라는 첫 계명과 이웃의 것을 탐내지 말라는 열째 계명을 연결한다. 위를 보지 않으면 옆을 보게 되고, 나는 무엇을 원하는가보다 저 사람은 무엇을 가졌는가가 삶을 지배한다. 인간은 모방을 멈출 수 없다. 따라서 자유는 아무도 따르지 않는 데 있지 않고 누구를 본받을지 선택하는 데 있다. 틸이 그리스도를 모델로 제시하는 이유는 그가 자신의 안전을 위해 타인을 희생시키거나 군중이 만든 적에게 보복하지 않기 때문이다. 십자가의 핵심도 고통 숭배가 아니다. 예수는 고통을 원하지 않았지만 자신을 살리려고 다른 사람을 제거하지도 않았다. 틸의 해석에서 십자가는 인간 공동체가 저지른 악이고, 부활은 희생자가 무고했다는 하나님의 판결이다. 그는 부활을 심리적 재생의 상징으로 축소하지 않는다. 실제 영생이 있다면 신앙을 위해 현세의 손실을 감수하는 것은 자기파괴가 아니라 궁극적 현실을 고려한 현명한 선택이 된다. 틸은 현대의 세속 이념도 기독교의 영향을 받았다고 본다. 마르크스주의와 일부 피해자 정치는 약자의 편에 서라는 기독교 윤리를 이어받았지만, 용서를 빼버리면 가해자로 지목된 사람을 새 희생양으로 만들 수 있다. 그의 질문은 피해자를 보호하지 말자는 것이 아니라, 피해자를 위한다는 명분으로 또 다른 희생양을 만들고 있지 않은가이다. 과학에 관한 주장도 독특하다. 과학이 마녀 화형을 끝냈다기보다 마녀·유대인·이방인을 재난의 원인으로 보지 않게 되면서 세균·환경·자연법칙을 찾기 시작했다는 것이다. 기독교의 피해자 관점이 희생양 설명을 약화시키고 자연적 인과 탐구를 촉진했다는 지라르식 가설이다. 최근 적그리스도론도 같은 문제의식에서 나온다. 틸에게 적그리스도는 AI 로봇이나 노골적인 반기독교인이 아니다. 핵·AI·기후 같은 실제 위험에서 인류를 구하고 평화와 안전을 주겠다며 세계적 감시와 단일 권력을 요구하는 거짓 구원자다. 그는 기술의 위험뿐 아니라 기술을 통제한다는 명분으로 생기는 탈출 불가능한 권력도 경계한다. 틸은 “지라르는 교회에 가라고 했고, 나도 교회에 가려고 한다”고 말한다. 개인의 성결과 정치적 행동을 함께 강조한다. 그러나 희생양과 감시국가를 경계하면서도 강한 국가질서와 자신이 공동 창업한 Palantir의 국가·데이터 기술에 관여하고 있다. 틸은 부활과 영생을 믿는 개신교인이고, 성경 해석에서는 지라르주의자이며, 기술진보를 원하면서 그 진보를 통제할 세계권력을 두려워하는 정치신학자다. https://youtu.be/918qslcfwfY?si=H74coQpIgBqFCrLE

최근 대한민국에서 이름만 대면 누구나 알 만한 교육회사를 창업한 분을 만났다. 이 회사는 오랫동안 TV 광고에서 같은 모델과 CM송을 사용해 회사 이름을 전 국민에게 각인시켰다. 그 비결이 궁금했다. 처음에 어떻게 그런 결정을 내렸고, 왜 오랫동안 같은 방식을 유지할 수 있었는지 물었다. 돌아온 답은 의외였다. “제가 경영을 잘 몰라서요.” 회사가 아주 작을 때부터 TV 광고를 시작했다고 했다. 당시 회사 규모로는 상당히 부담스러운 선택이었지만, TV에 광고하면 회사를 널리 알릴 수 있을 거라는 단순한 생각으로 결정했다. 몇 년이 지나 회사가 어느 정도 알려진 뒤에는 광고회사에서 일했던 임원들이 합류했다. 그들은 광고가 이미 식상해졌다며 모델도 바꾸고 광고 방식도 새롭게 해야 한다고 조언했다. 하지만 창업자는 그동안 쌓아온 것이 있다고 생각했다. 결국 같은 모델과 같은 CM송을 계속 유지했다. 그 선택이 몇 년간 반복되자 놀라운 결과가 만들어졌다. 회사가 제공하는 서비스가 필요한 사람은 일부에 불과했지만, 회사 이름은 전 국민이 알게 됐다. 우리는 새로운 전략을 찾느라 이미 쌓이고 있는 것을 쉽게 중단하곤 한다. 하지만 때로는 탁월한 새 아이디어보다 평범한 선택을 오래 유지하는 일이 더 강력하다. 꾸준함에도 복리가 붙는다.

다이슨이 공개한 CameraJet은 10만 화소 카메라와 머신러닝으로 초당 28장의 이미지를 분석해 치아 사이 틈을 찾고, 0.1초 안에 물이나 구강세정액을 자동 분사한다. 하드웨어에 AI를 결합하는 방식이 재밌다. $499라서 가격이 있는편이라 얼마나 수요를 만들어낼지 지켜봐야겠지만, 앞으로 하드웨어에 다양한 형식으로 AI들이 결합될 모습들이 상상된다. 예를들어 피부기기에서도 카메라가 상태와 도포 범위를 인식하고 에너지나 성분을 자동 조절하는 것도 조만간 볼 것 같다. https://youtu.be/Acrapsyhvfs

OpenAI–Hugging Face 사건이 보여준 AI 보안의 미래 OpenAI는 모델의 사이버 능력을 평가하기 위해 같은 모델을 수백 개의 에이전트로 실행했다. 각 에이전트에는 컴퓨터 명령을 내릴 도구와 긴 작업시간이 주어졌다. 에이전트들은 원래 서로 격리돼야 했지만, 프로그램 설치 파일을 공유하는 내부 서버에 쪽지와 결과를 남기며 정보를 공유하기 시작했다. 이후 그 서버의 결함을 이용해 인터넷에 간접 접속하고, 외부 컴퓨터를 명령 실행 거점으로 사용했다. 그 과정에서 인터넷에 노출된 Hugging Face 접근 키를 발견했고, Hugging Face의 데이터 처리 서버에서 파일을 읽고 명령을 실행했다. 다시 서버 안의 추가 자격증명을 찾아 다른 서버와 비공개 코드 저장소까지 이동했다. 이 사건의 핵심은 AI가 의식을 얻어 탈출했다는 것이 아니다. 모델은 주어진 평가에서 성공하려 했고, 실패했을 때 멈추지 않고 정답·채점 방식·다른 실행의 결과·외부 경로를 계속 탐색했다. 각각의 취약점은 기존 보안에서 알려진 종류였지만, 수백 개의 실행이 며칠 동안 실패를 반복하고 발견을 공유하며 여러 약점을 하나의 침입 경로로 연결했다는 점이 새로웠다. 즉, 사고는 모델 하나가 아니라 다음 조건의 결합으로 발생했다. 어려운 과제 + 긴 실행시간 + 대규모 병렬 실행 + 실행 간 공유 기억 + 간접 인터넷 접속 + 노출된 자격증명 + 과도한 권한 + 느린 탐지와 대응. 에이전트의 실제 영향은 모델의 지능만으로 결정되지 않는다. 모델 능력에 실행시간, 병렬성, 도구의 안정성, 접근 가능한 데이터, 네트워크 범위, 권한, 공유 기억이 곱해지고, 탐지와 권한 회수 속도가 느릴수록 위험은 커진다. 앞으로 모델이 조금만 더 좋아지더라도 추론 비용이 낮아지고, 더 오래 실행되며, 여러 에이전트가 협업하고, 코드 저장소·클라우드·이메일·배포 시스템에 연결되면 영향은 훨씬 빠르게 커질 수 있다. 중요한 질문도 “모델이 얼마나 똑똑한가”에서 “무엇에 접근해 어떤 행동을 얼마나 오래 반복할 수 있는가”로 바뀐다. 공격 측에서는 취약점 탐색과 공격 시도가 폭증할 가능성이 높다. 가까운 미래의 현실적인 형태는 완전히 독립적인 AI 해커보다 인간이 표적과 목적을 정하고, AI가 정찰·취약점 검증·접근 키 탐색·권한 상승·다른 시스템으로의 이동을 수행하는 방식이다. 공격자는 새로운 해킹 기법을 발명하지 않더라도 공개된 키, 오래된 소프트웨어, 설정 오류, 과도한 권한을 빠르게 찾아 연결할 수 있다. 방어도 정기적인 점검에서 지속적인 운영으로 바뀌어야 한다. AI는 코드와 인프라를 계속 검사하고, 경보와 취약점의 실제 위험도를 판단하고, 공격 경로를 찾고, 패치와 회귀 테스트를 만들고, 로그를 분석해 사고의 시간선을 복원할 수 있다. Hugging Face가 GLM을 이용해 침입자가 남긴 백도어를 찾은 것도 이런 방어 활용에 해당한다. 다만 AI가 발견 사항을 수천 개 만들기만 하면 새로운 업무 적체가 생긴다. 따라서 방어는 반드시 다음 과정으로 연결돼야 한다. 발견 → 독립 검증 → 영향 확인 → 담당자와 기한 지정 → 패치 → 테스트 → 단계적 배포 → 재검사. 에이전트 자율성의 핵심 원칙은 모델의 생각이나 “하지 않겠다”는 약속을 믿는 것이 아니라, 모델이 할 수 있는 행동을 외부 시스템이 강제로 제한하는 것이다. 에이전트마다 고유 신원을 부여하고, 영구 API 키 대신 작업별 최소 권한과 단기 자격증명을 사용해야 한다. 인터넷은 기본 차단하고 필요한 목적지만 허용해야 하며, 비밀값은 모델에 직접 보여주지 말고 프록시가 승인된 요청에만 주입해야 한다. 읽기·분석과 병합·배포·권한 상승·데이터 반출 권한을 분리하고, 실행시간·토큰·동시 실행 수에도 상한을 둬야 한다. 감사는 모델의 자체 보고가 아니라 파일 변경, 네트워크 요청, 자격증명 사용과 도구 호출을 기록한 외부 로그를 기준으로 해야 한다. 비상 정지 역시 프로세스 종료만이 아니라 네트워크 차단, 관련 토큰 폐기, 하위 에이전트와 비동기 작업 중단까지 포함해야 한다. 중대한 변경과 되돌리기 어려운 행동은 책임자가 승인해야 한다. 결국 이번 사건이 보여준 것은 AI가 완전히 새로운 공격법을 만들어야 위험해지는 것이 아니라는 점이다. 기존 시스템에 이미 존재하던 평범한 약점을 지치지 않고 탐색하고 연결하는 비용만 낮아져도 실제 침해는 크게 늘어날 수 있다. 앞으로 보안 경쟁력은 취약점을 몇 개 찾았는지가 아니라, 발견부터 차단·수정·배포까지 걸리는 시간을 얼마나 줄였는지에 달려 있다. 모델은 분석하고 제안하되, 외부 정책 시스템이 허용할 행동을 결정하고, 권한 체계와 샌드박스가 이를 강제하며, 독립 로그와 인간 책임자가 전체 과정을 감시해야 한다. https://openai.com/ko-KR/index/hugging-face-incident-and-the-road-ahead/ https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/?incomplete=1&lh=extracting-information-about-the-scorer-from-trip-wires&hn=40&dbs=196608 https://www.dwarkesh.com/p/openai-huggingface

엑시트하고 가장 고통스러웠던 게 사람들의 축하였어요. 오래가는 브랜드를 목표로 했지, 한 번도 인수합병이라는 선택지를 꿈꾼 적이 없거든요. 그런 기준에서 저는 실패자였어요. 학습 모드가 꺼지는 게 두려웠어요. 나는 아무 것도 모르는데, 나를 전문가 취급하는 상황들. 엑시트를 꿈꾸는 젊은 창업자들이 많다는 건 알았지만, 제가 뭐라도 아는 사람처럼 비치는 게 무서웠거든요. "초심자의 마음에는 많은 가능성이 있지만, 전문가의 마음에는 거의 없다"는 말이 있어요. — 업의 본질에 관한 질문이에요. 패션 커머스에서 고객이 가장 원하는 게 뭘까요? '커머스'예요. 처음에는 차별점으로 시작해도 궁극적으로 고객이 정말 원하는 건 '좋은 제품, 원하는 제품을 더 싸게' 사는 거죠. 그때부터는 누가 더 잘하냐의 싸움이에요. 정해진 룰 안에서 'better'를 겨루는 거죠. 그런데 저는 새로운 플레이를 하고 싶은 사람이지, 똑같은 경쟁 상황에서 남들보다 더 잘하는 덴 흥미를 느끼지 못하겠더라고요. — 소비자는 정말 많은 걸 원해요.크리에이티브도 훌륭해야 하고요. 기술적으로도 굉장히 진보해야 하고, 언제든지 고객센터 전화도 받아줘야 해요. 당연히 계산에도 일체의 실수가 없어야 합니다. 그만큼 어느 하나의 문제도 용서되지 않는 냉정한 영역이에요. 제가 바로 그런 소비자거든요. 그만큼 빡센 소비자를 만족시키려면 조직이 한쪽만 잘하면 안 돼요. 그러니까 좋은 팀은 균형이 있어야 해. 당시 전화 받는 직원은 두 분이었는데요. 이분들이 회사에 대한 엄청난 애정으로 혼자 밤새우며 전화를 받고 있었어요. 그래서 제가 인수하고 가장 먼저 한 일이, 야근하며 고객센터 전화를 같이 받는 일이거든요. 그런데 그때 그분이 눈물을 또르르 흘리시더라고요. 내가 입사한 이래 이렇게 누가 전화를 같이 받아준 일이 처음이라면서. 제가 생각하는 그 균형이 깨진 현상은 그런 거였어요. 그럼 균형을 어떻게 맞출 거냐. 다른 건 모르겠고 일단 내가 붙어서 전화받는 거다. 다른 방법보다는 사실 대표가 가서 전화받고 있으면 그건 그냥 중요한 일이 되거든요. 팀에서도 '아, 저게 중요한가 보다' 하고 일의 우선순위가 높아지죠. — 정체 구간일 때 가장 어려운 게 팀원 동기부여일 것 같아요. 어떻게 그 시기를 버텼나요? 사실 전체 데이터를 보니까 '우리 회사가 위기다, 걱정된다' 그런 생각을 하지만요. 팀원들 각자의 업무로 내려가면 조금은 다른 국면들이 있거든요. 예를 들어 회사 매출과는 무관하게 콘텐츠 적으로 새로운 시도를 한다든지, 기술적으로 개선하는 부분이 있다든지요. 회사도 회사지만, 개개인에게는 그 업무에서 각자만의 목표와 의미가 있습니다. 결국 리더가 해야 할 일은 '이 일은 도전해볼 만하다, 중요하다'는 느낌을 느낄 수 있도록 일의 맥락을 끊임없이 제공하는 거예요. 어떻게든 팀원들이 몰입감을 잃지 않도록요. 또 회사에는 문제 상황이 발생했을 때 회피하지 않고 그 문제를 어떻게든 풀려고 하는 사람들이 있거든요. 동기부여가 필요한 사람이 아니라, 이미 스스로 동기부여가 되어 있는 분들요. 그런 분들을 모아 대책 회의를 하고, 어떻게 이 상황을 풀어나갈지를 끊임없이 의논했어요. 모든 문제는 결국 사람으로 풀어 나가는 것 같아요. —- Q. 그럼 대표님 스스로는 어떻게 동기 부여하셨나요. 해야 하니까 그냥 하는 거죠(웃음). 기본적으로는 책임감이 컸고요. 사실 창업 초반에는 '일이 재미있다, 없다'를 개인적인 관점으로 생각했던 시기가 분명 있었어요. 그러다 중간에 정신을 차렸죠. 여기서 개인적으로 이 일이 동기부여가 되고 안 되고를 따지면 안 되겠다. 대표는 그런 걸 생각하면 안 되는 것 같다. 그게 대표의 역할이라고 생각했어요. 전체가 잘 되게 하는 게 내 일인데 그걸 두고 내 취향이 어떻게 성향이 어떻고… 이런 걸 생각하는 건 일을 잘 못하는 사람이겠다. 그 생각을 나중에, 뒤늦게 하게 됐던 것 같고요. 특히 회사가 힘들고 매출 안 나고 그런 시기에는, CEO가 다룰 수 있는 상황이 다채로워질수록 CEO의 역량도 큰다고 일종의 정신 승리를 했어요. 마치 RPG 게임에서 여러 스킬을 모으듯요. 상황이 호시절일 때 A, B, C 스킬을 습득했다면 지금은 X, Y, Z 스킬을 모으는 거다. 진짜 내 역량을 보여줄 수 있는 순간은 내부의 갈등을 어떻게 해결했는지, 어렵고 복잡한 상황을 어떻게 재정의하고 있는지, 힘든 뉴스를 어떻게 전달하는지… 그런 잘 조명 받지 못하는 일들이라고 생각하거든요. 그런 경험을 하나씩 '득템'하면서 스킬 셋을 장착하고 있다. 그러니 앞으로 어떤 어려운 상황에 놓이더라도 대표의 일을 더 잘하게 될 것이다. 그렇게 생각한 것 같아요. — "창업자는 마이너리티 중의 마이너리티다. 한 번 창업자로 산 이상 조직에 가서 어울리려 하지 말고, 창업자의 역할로 세상에 기여해라." — '미련해 보일 정도로 한 우물 파는 거 아니야?' 라는 이야기를 들었던 창업자들이 10년 텀이 지나 보면 그 분야에서 넘버원이 되는 경우를 자주 봤어요. 그래서 유혹을 견디고 과한 욕심을 안 부리는 게 중요하구나. 언행일치? 전략이 아니에요. 소비자와의 약속을 지키는 게 회사가 해야 하는 가장 기본이라고 생각해요. 그런데 이걸 긴 시간 동안 해내는 브랜드가 드물다는 걸 플랫폼업을 하는 동안 느꼈죠. 그래서 지난 창업 여정에서도, 개인으로서도 추구하는 건 딱 그거 하나예요. 약속을 지키는 것, 언행을 일치시키는 것. 그게 제가 생각하는 좋은 브랜드를 만드는 유일한 방법이에요. https://www.folin.co/article/14928

• AI 사용량이 계속 고속 성장한다. • 효율 개선보다 새로운 수요 증가가 더 크다. • AI 서비스가 인프라 비용을 감당할 경제적 가치를 만든다. • 전력과 데이터센터 병목이 장기간 지속된다. • 과잉 증설로 공급 부족이 갑자기 공급 과잉으로 바뀌지 않는다. • 하이퍼스케일러와 기존 반도체 기업이 모든 영역을 자체 개발하지 않는다. • 모델 구조가 너무 빨리 변해 새 하드웨어를 무용지물로 만들지 않는다. • 규제, 지역사회와 전력망 문제가 데이터센터 확장을 완전히 막지 않는다. 이 중 하나라도 크게 틀리면 인프라 투자의 수익성은 급격히 낮아질 수 있다.

비슷한 미래를 보고 각자 다른 포트폴리오를 만드는 중. a16z는 칩, 메모리, 네트워킹, 시스템 소프트웨어, 전력 등 AI 인프라에 집중 투자하는 $1.1b 펀드를 발표 AI가 만들어내는 지능은 순수한 소프트웨어가 아니라 칩, 메모리, 네트워크, 전력, 냉각, 데이터센터가 결합된 물리적 생산물이다. 따라서 가장 희소한 자원 한 단위를 더 많은 유용한 AI 작업으로 바꾸는 회사가 가치를 가져간다. 1. AI가 더 많은 일을 하려면 물리적으로 무엇이 필요한가? AI 작업량 = 칩 연산 × 메모리 × 네트워크 × 전력 × 냉각 × 시설 × 시스템 소프트웨어 이 요소들은 곱셈 관계에 가깝다. 하나라도 부족하면 다른 자원이 풍부해도 전체 시스템은 제대로 작동하지 않는다. 실제 AI 처리량 ≈ GPU, 메모리, 네트워크, 전력, 냉각, 시설 중 가장 부족한 요소 AI 경쟁의 병목이 모델 성능에서 모델 아래의 물리적 시스템으로 이동하고 있다는 것이다. 2. AI 연산 수요는 무엇으로 결정되는가? 총 연산 수요 = 사용자 수 × 사용자당 작업 수 × 작업당 토큰 × 토큰당 연산량 영상은 이 네 가지가 동시에 증가한다고 본다. • 사용자 수 증가 AI 사용자가 개발자에서 일반 지식노동자, 기업 백오피스, 소비자, 로봇으로 확장된다. • 사용자당 작업 수 증가 질문 한 번에서 끝나는 것이 아니라 이메일 관리, 일정 조정, 코딩, 데이터 분석, 컴퓨터 조작 등 전체 업무 흐름을 맡기게 된다. • 작업당 토큰 증가 챗봇보다 추론 모델이 더 많은 토큰을 사용하고, 장시간 작동하는 에이전트와 다중 에이전트는 그보다 훨씬 많은 토큰을 사용한다. • AI가 다시 AI를 사용 AI가 코드, GPU 커널, 학습 데이터와 다음 AI 시스템을 만드는 데 사용된다. AI 성능 향상 → 가능한 작업 증가 → 사용자와 업무 증가 → 토큰·연산 수요 증가 → 더 많은 인프라 투자 → 다시 AI 성능 향상 3. 효율이 좋아져도 인프라 수요가 줄지 않는 이유 연산 비용이 낮아지면 기존 업무를 더 싸게 처리할 수 있다. 동시에 이전에는 경제성이 없었던 새로운 AI 업무들이 가능해진다. 총 연산량 = 작업당 연산량 ÷ 효율 × 전체 작업 수 효율이 개선되는 속도보다 전체 작업 수가 늘어나는 속도가 더 빠르면 총 연산 수요는 계속 커진다. 사실상 무한한 수요는 확정된 사실이 아니라 이 효과가 장기간 지속될 것이라는 투자 가설이다. 4. 공급이 수요를 바로 따라가지 못하는 이유 소프트웨어 수요는 몇 달 만에 몇 배로 증가할 수 있지만 물리적 인프라는 그렇게 빨리 만들 수 없다. • 반도체 개발과 증설에는 수년이 걸린다. • 메모리 생산능력을 빠르게 늘리기 어렵다. • 데이터센터에는 부지, 인허가, 전력 연결과 건설 인력이 필요하다. • 변압기, 터빈, 냉각설비 등의 공급도 제한돼 있다. • 전력망 증설은 데이터센터 건설보다 오래 걸릴 수 있다. • 장비 설치와 운영을 담당할 숙련 인력이 부족하다. 수요 증가 속도 ≫ 물리적 공급 증가 속도 5. 기존 데이터센터를 더 많이 짓는 것만으로는 부족하다 기존 컴퓨팅 인프라는 AI를 중심으로 설계되지 않았다. AI 추론의 특성 • 대량의 행렬 연산 • 높은 메모리 용량과 대역폭 • 칩 사이의 빈번한 데이터 이동 • 높은 전력밀도 • 연산과 함께 지속적으로 생성되는 토큰 • 많은 가속기를 하나의 시스템처럼 연결해야 하는 구조 따라서 다음 요소들을 함께 설계해야 한다. • 연산 칩 • 메모리 계층 • 칩 간 인터커넥트 • 네트워크 • 전력 변환과 공급 • 액체 냉각 • 랙과 건물 구조 • 클러스터 관리 소프트웨어 이것이 영상에서 말하는 AI-native infrastructure다. 6. 인프라 회사의 경제적 가치는 무엇인가? AI 사업 이익 = AI 작업이 만든 가치 - 연산·전력·인프라 비용 같은 작업을 더 적은 비용과 전력으로 처리하게 해주는 회사는 AI 기업의 마진을 직접 개선한다. 핵심 성능지표 • 달러당 유용한 토큰 • 와트당 유용한 토큰 • 랙당 유용한 토큰 • 데이터센터 면적당 처리량 • 성공한 작업당 총비용 유용한 AI 생산성 = 성공적으로 완료된 업무 ÷ 자본비용·전력·운영비·시간 빠르게 토큰을 생성하더라도 결과가 틀리거나 업무를 완료하지 못하면 경제적 가치는 낮다. 따라서 가장 빠른 칩보다 전체 업무 완료 비용을 가장 크게 낮추는 시스템이 더 가치 있을 수 있다. 7. 전용 칩은 언제 경제성이 생기는가? 영상의 사고실험은 다음과 같다. 어떤 모델이 연간 100억 달러 규모의 추론을 수행하고, 전용 ASIC이 비용을 20% 절감한다면 잠재적인 절감 가치는 20억 달러다. 100억 달러 × 20% = 20억 달러 전용 칩 개발에 수억 달러가 들어가더라도 경제성이 생길 수 있다는 계산이다. 다만 다음 조건이 필요하다. • 워크로드가 충분히 크고 안정적이어야 한다. • 모델 구조가 칩 개발기간 동안 급격히 바뀌지 않아야 한다. • 효율 개선액이 설계·제조·소프트웨어 비용보다 커야 한다. • 범용 GPU의 유연성보다 전용화의 이익이 커야 한다. 8. 엔비디아가 강해도 스타트업 기회가 남는 이유 • 거대 기업은 가장 큰 공통 수요를 최적화한다. 엔비디아와 하이퍼스케일러는 규모가 큰 범용 워크로드에 집중할 가능성이 높다. • AI 워크로드는 세분화된다. 학습, 실시간 추론, 저전력 엣지 추론, 장시간 에이전트, 로봇, 과학 연산의 요구조건은 서로 다르다. • 거대한 시장에서는 작은 틈새도 큰 회사가 될 수 있다. 전체 시장이 충분히 크다면 1%의 세부 시장도 대형 기업을 만들 수 있다. • 병목 하나하나에 서로 다른 전문성이 필요하다. 메모리, 광통신, 전력반도체, 냉각, 운영 소프트웨어, 건설 자동화를 한 기업이 전부 해결하기는 어렵다. 기회는 엔비디아와 정면으로 경쟁하는 GPU에만 있지 않다. GPU가 더 많은 일을 하게 만드는 주변 시스템 전체가 투자 영역이다. 9. 에이전트 = 모델 + 메모리 + 도구 + 컴퓨터 접근권한 + 반복 실행 에이전트가 독립된 컴퓨터, 브라우저, 계정과 권한을 갖추면 일정 관리, 이메일 분류, 구매, 문서 작성 같은 업무를 인간 직원과 유사하게 수행할 수 있다. 하지만 에이전트는 다음 문제를 만들 수 있다. • 불필요한 토큰 소비 • 정보 망각과 환각 • 잘못된 행동 실행 • 계정과 데이터의 보안 위험 • 인간과 에이전트 사이의 불명확한 승인 경계 에이전트 순가치 = 생산성 증가 - 연산비용·오류비용·감독비용·보안위험 따라서 중요한 것은 에이전트를 많이 도입하는 것이 아니라 순가치를 플러스로 만드는 운영체계다. 10. 하드웨어 창업자에게 경험이 중요한 이유 하드웨어 사업은 다음 전체 과정을 통과해야 한다. 연구 → 설계 → 시제품 → 제조 → 수율 확보 → 공급망 → 고객 시스템 통합 좋은 기술만으로는 부족하다. • 실제 제조가 가능한가? • 충분한 수율이 나오는가? • 부품을 안정적으로 확보할 수 있는가? • 고객 시스템에 통합할 수 있는가? • 긴 개발기간을 버틸 자본이 있는가? 경험 많은 창업자가 유리하지만 나이가 필수조건은 아니다. 부족한 제조·공급망 경험을 숙련된 인력과 파트너로 보완할 수 있으면 된다. 11. 투자 논리 투자 기회 = 병목을 제거해 만들어지는 경제적 가치 - 해결 비용과 실행 위험 좋은 AI 인프라 사업이 답해야 할 질문 1) 현재 전체 처리량을 가장 강하게 제한하는 병목은 무엇인가? 2) 고객은 그 병목 때문에 실제로 얼마를 잃고 있는가? 3) 해결책이 달러·와트·시간당 생산성을 얼마나 개선하는가? 4) 그 개선폭을 실제 고객 환경에서 측정할 수 있는가? 5) 제품이 완성될 때도 그 병목이 남아 있을 것인가? 6) 제조, 공급망, 인허가까지 포함해 실제로 공급할 수 있는가? 7) 대기업이 같은 문제를 내부적으로 해결하기 어려운 이유는 무엇인가? 12. 이 투자 논리가 성립하기 위한 가정 영상은 신규 투자 펀드의 논리를 설명하는 콘텐츠이므로 다음 가정들을 낙관적으로 본다.

6. 수요, 오픈모델, 1000배 목표와 한계 미래의 데이터는 인터넷 텍스트보다 검증 가능한 환경에서 만들어질 가능성이 크다. 모델에게 코딩·수학·보안·연구 문제를 주고, 격리된 컴퓨터에서 반복 시도하게 한 뒤 결과를 자동 채점한다. 이때 환경과 시행착오 자체가 새로운 학습 데이터가 된다. 더 오래 생각하고 더 많이 시도할수록 답이 좋아지는 test-time compute도 저가 추론 수요를 키운다. 이 구조가 잘 맞는 영역은 검증 가능한 문제다. - 소프트웨어와 테스트 - 수학과 형식 증명 - 보안 취약점 탐색 - 일부 과학 연구 반면 글의 아름다움, 예술, 인간의 취향처럼 객관적으로 채점하기 어려운 작업은 여전히 사람의 판단이 필요하다. 오픈모델도 중요하다. 폐쇄형 연구소는 약 3~6개월 앞선 성능을 위해 큰 프리미엄을 쓰지만, 그 모델이 만든 코드와 콘텐츠가 인터넷에 공개되면서 능력은 오픈 생태계로 확산된다. 폐쇄형은 최첨단 프리미엄 시장을, 오픈모델은 소유권·맞춤화·저가 대량 추론 시장을 담당할 수 있다. ‘1000배 저렴’은 다음 계산에서 나온 목표다. - Neil의 거친 추정: 프런티어 API로 1조 토큰 ≈ 최소 500만 달러 - 새로운 수요가 생길 수 있다고 본 가격: 약 5천 달러 - 필요한 하락폭: 최소 1000배 하지만 이것은 달성된 결과가 아니다. 더 작은 오픈모델과 프런티어 모델은 같은 지능도 아니다. 실제 절감은 모델 선택, 처리량형 배칭, KV 압축, 이기종 칩, 유휴 GPU, 소형 데이터센터, 간헐 전력, 장애 복구를 합친 장기 목표다. 최종적으로 이 사업의 본질은 다음과 같다. “고객에게는 품질·마감·예산 안에서 완료된 결과를 제공하고, 내부에서는 모든 컴퓨트 자원을 추상화해 검증된 성공 작업당 비용을 최소화한다.” https://youtu.be/uyzqxIoiobU?si=morwss97antXVcbu

1. 고객은 토큰이 아니라 결과를 산다 “AI를 100배 빠르게 만드는 것이 아니라, 기다릴 필요가 없는 작업을 골라 기존 인프라의 비싼 전제들을 제거하면 지능을 훨씬 싸게 생산할 수 있다.” Sail은 자신을 오픈모델 API와 장기 실행 에이전트용 VM을 제공하는 ‘토큰 공장’으로 정의한다. 하지만 토큰은 현재의 측정·과금 단위일 뿐 최종 상품은 아니다. 고객이 정말 원하는 것은 다음과 같다. - 내가 원하는 일을 끝낼 것 - 결과가 검증 가능할 것 - 정해진 품질을 만족할 것 - 마감시간을 지킬 것 - 비용 상한을 넘지 않을 것 따라서 운영 시스템이 최적화해야 할 값은 단순한 최저 토큰 가격이 아니다. 검증된 성공 1건의 기대비용 = 모델·GPU·메모리·도구·재시도·검증 비용 ÷ 작업 성공확률 싼 모델이 계속 실패한다면 비싼 모델보다 결과적으로 더 비싸다. 장기적으로는 고객이 토큰 수를 지정하기보다, 에이전트가 여러 번 시도하고 도구를 사용해 결과를 완성하며 필요한 토큰 예산을 스스로 관리하게 된다. 2. 가장 중요한 제품 가설: 사람을 기다리게 하지 않는다 AI 작업은 크게 두 시장으로 갈라진다. 1. 실시간 작업 - 채팅, 음성, IDE 자동완성 - 사용자가 화면 앞에서 기다림 - 개별 응답의 지연시간이 중요 - 고가 GPU와 NVLink 같은 강한 인터커넥트가 유리 2. 백그라운드 작업 - 심층 연구, 보안 검사, 코드 유지보수 - 모델 eval, RL rollout, 대량 문서 처리 - 몇 시간에서 며칠 동안 실행 - 순간 속도보다 총처리량·성공률·비용이 중요 Sail의 핵심 가설은 앞으로 토큰 수요의 대부분이 두 번째 시장에서 발생한다는 것이다. Neil은 단기적으로 실시간과 백그라운드가 약 50:50, 장기적으로는 백그라운드가 90%까지 갈 수 있다고 전망한다. 이 가설이 맞으면 전체 인프라의 조건이 연쇄적으로 바뀐다. 검증 가능한 장기 작업 → 사람이 결과를 기다리지 않음 → 지연시간 제약 완화 → 큰 배치로 GPU 처리량 극대화 → NVLink가 약한 칩도 활용 → 작고 분산된 데이터센터 활용 → 낮은 가동률과 간헐 전력 수용 → 토큰 비용 하락 → 더 많은 시도와 더 긴 추론 → 작업 성공률 향상 즉, 백그라운드 에이전트는 사용 사례 하나가 아니다. 칩·데이터센터·전력의 경제성을 모두 바꾸는 출발점이다. 3. GPU보다 메모리와 데이터 이동이 중요해진다 GPU는 많은 작업을 큰 배치로 처리할 때 가장 효율적이다. 여러 요청을 묶으면 총처리량은 높아지지만 각 사용자는 더 기다린다. Neil은 이를 자가용과 버스에 비유한다. - 자가용: 한 사람에게 빠르지만 시스템 효율은 낮음 - 버스: 여러 사람을 함께 옮겨 효율적이지만 개별 도착은 느림 여러 GPU를 연결해도 성능은 선형으로 늘지 않는다. 인터뷰의 예에서는 GPU 8개를 사용해도 통신 오버헤드 때문에 속도는 약 4~5배만 개선될 수 있다. 최저 지연에는 NVLink가 중요하지만, 백그라운드 처리량이 목표라면 expert·pipeline parallelism으로 통신을 숨길 수 있다. 트랜스포머에는 성격이 다른 두 작업이 붙어 있다. - MLP·가중치 계산: compute-bound - Attention·KV cache: memory-bound 모델 가중치가 고정된 세계 지식이라면 KV cache는 현재 대화의 동적 기억이다. 문맥과 사용자 수가 늘수록 계속 커지고, 긴 세션에서는 가중치보다 큰 메모리를 차지할 수도 있다. 이 때문에 하나의 완벽한 칩보다 이종 컴퓨팅이 중요해진다. - 빠르지만 작은 SRAM → 고속 가중치·계산 처리 - 크지만 상대적으로 느린 HBM·DRAM → 긴 문맥과 KV cache - 더 느리고 싼 Flash → 지연을 감수한 KV offload 후보 Neil은 현재 KV cache가 정보량에 비해 지나치게 커서 약 10~100배 압축 여지가 있을 수 있다고 본다. 반면 큰 행렬곱은 이미 이론 성능의 약 70~80%까지 사용하므로 커널 개선만으로 1000배 절감은 불가능하다. 4. 공급 전략: 최고의 GPU가 아니라 가장 저평가된 자원을 찾는다 Neil의 원칙은 “나쁜 칩은 없고 나쁜 가격만 있다”이다. - 저지연 추론 → NVIDIA·NVLink - 대량 비동기 작업 → AMD·TPU·Trainium·신생 칩 - 계산 집약 단계 → 연산 성능이 좋은 칩 - 긴 문맥 단계 → 메모리 용량이 큰 칩 여기서 이기종 라우팅은 하나의 토큰을 여러 국가의 칩에 나누는 것이 아니다. 요청·작업·독립적인 작업 단계별로 적합한 칩과 사이트를 고르는 것이다. 진행 중인 KV cache는 같은 사이트에 두고, 사이트가 죽으면 의미적 체크포인트에서 다시 시작하는 편이 현실적이다. 데이터센터에서도 같은 논리가 적용된다. 훈련은 GPU가 끊임없이 통신해야 하므로 거대한 집중형 클러스터가 필요하다. 추론은 독립 요청을 여러 곳으로 나눌 수 있다. 미국에서는 1GW·100MW 시설보다 1MW 전력이 훨씬 많이 흩어져 있고, 액체냉각을 쓰면 약 8개 랙으로 1MW급 컴퓨트를 구성할 수 있다는 설명이다. Sail은 다른 고객이 기피하는 자원을 모으려 한다. - 놀고 있는 사설 GPU - 시장에서 저평가된 칩 - 95% 가동률의 소형 데이터센터 - 백업 발전기·중복 회선이 없는 시설 - 태양광·풍력처럼 간헐적이지만 싼 전력 한 사이트가 멈추면 다른 사이트로 작업을 옮긴다. 몇 시간짜리 작업에 1~10분이 추가되는 것은 실시간 서비스에는 치명적이지만, 사용자가 자고 있는 백그라운드 작업에는 허용될 수 있다. 이것이 ‘scavenger strategy’다. OpenAI·Anthropic과 최고급 Blackwell과 안정적인 전력을 놓고 경쟁하지 않고, 시장이 제대로 가격을 매기지 못한 파편화된 자원을 모아 하나의 토큰 공장으로 운영한다. 5. 필요한 제품: Agent Compute Operating Layer 고객에게는 복잡한 인프라를 보여줄 필요가 없다. 고객은 다음만 지정하면 된다. - 작업 목표와 완료 조건 - 품질 기준과 검증 방법 - 마감시간과 비용 상한 - 데이터 처리 지역 - 허용할 외부 작업과 부작용 뒷단의 운영계층은 다음을 처리한다. 1. 작업을 단계와 DAG로 분해 2. 단계별 모델·칩·사이트 선택 3. 배칭과 deadline 스케줄링 4. KV cache 위치와 세션 affinity 관리 5. 의미적 체크포인트 저장 6. 장애 시 다른 사이트에서 재실행 7. 이메일·결제·배포 같은 부작용 중복 방지 8. 결과 검증 후 필요하면 더 강한 모델로 승격 Long-horizon task에서 중요한 체크포인트는 GPU 메모리 전체가 아니다. - 완료한 작업 단계 - 대화와 도구 실행 결과 - 생성한 파일과 Git 상태 - 사용한 모델·프롬프트·도구 버전 - 남은 비용과 마감시간 - 이미 실행한 외부 부작용 따라서 이 제품은 단순 GPU 중개나 최저가 추론 API가 아니다. 고객에게는 “일을 끝내주는 서비스”를 제공하고, 내부에서는 모델·칩·메모리·사이트·전력을 하나의 시스템으로 조정하는 운영체제다. 장기적인 해자도 특정 커널 하나가 아니다. 어떤 작업을 어떤 모델·칩·사이트에서 몇 번 실행해야 가장 싸고 확실하게 끝나는지를 축적한 라우팅·실행·검증 데이터다.

비슷한 뷰 https://x.com/wintonark/status/2093407411663151595?s=46&t=h5Byg6Wosg8MJb4pbPSDow AI로 자본이 몰리는 현상이 벤처·주식시장을 넘어 이제 부채시장으로 확산되고 있다. 컴퓨트가 부족한 동안 데이터센터는 높은 금리에도 경제성이 있고, NVIDIA GPU는 담보가치가 높아 재무구조가 약한 사업자도 자금을 조달할 수 있다. 처음에는 이 자금 수요가 하이일드 채권과 경쟁하겠지만, AI 인프라가 안정적인 자산으로 인정받으면 투자등급 기업의 자금까지 빨아들일 수 있다. 데이터센터 투자 규모가 연간 수조 달러로 커지면, 이는 글로벌 회사채 시장에서도 무시할 수 없는 수준이다. 여기에 AI가 경제성장을 끌어올려 장기금리까지 상승하면, 저렴한 차환을 전제로 운영되던 기존 기업들은 금리와 신용스프레드 양쪽에서 압박받는다. 결국 AI는 기존 기업의 고객을 빼앗지 않더라도, 자본을 빼앗고 조달비용을 높이는 방식으로 사업모델을 흔들 수 있다. “우리는 AI disruption과 무관하다”고 말하는 기업일수록 오히려 자본구조와 차환 위험을 더 주의해서 봐야 한다.

Dwarkesh/Dylan이 AGI 에 너무 치우친 낙관주의자라면 이런 사람들의 말도 들어봄직함. https://x.com/phl43/status/2092973404924104808 AI가 엄청난 기술이라는 것과, OpenAI·Anthropic이 2~3년 안에 수조 달러 매출을 올린다는 것은 다르다. 1. 자동화 가능한 업무 ≠ 대체 가능한 일자리. 업무 대부분을 자동화해도 일부 필수 업무가 인간에게 남으면, 그 부분이 전체 생산량을 제한할 수 있다. 2. 기술적 가능성 ≠ 빠른 도입. 기업의 업무 재설계, 책임 배분, 고객의 행동 변화에는 시간이 걸린다는 것. 3. 현재의 인건비 ≠ 미래 AI 기업 매출. 경쟁으로 AI 가격이 내려가면 절약된 돈은 고객이나 도입 기업에게 돌아갈 수 있어. 사용량 증가가 가격 하락을 충분히 상쇄할지도 별개고. 4. 생산 능력 ≠ 최종 구매 수요. 서비스가 싸졌다고 무한히 소비하지는 않아. 대규모 실직으로 소득 분배까지 바뀌면, 누가 최종 상품을 구매할지도 설명해야 해. 5. AI 산업의 성장 ≠ 모델 회사의 높은 이익. 정말 희소한 것이 반도체·전력이라면, 그 공급자가 이익을 많이 가져갈 수도 있어. https://x.com/phl43/status/2092973404924104808 Dwarkesh가 다시 남긴 코멘트는 1. 수요는 개발자만으로도 크고, 곧 다른 직종으로 확장된다 개발자들이 메타·애플 수준으로 AI를 사용하면 막대한 연산량이 필요하고, 앞으로는 코딩을 넘어 원격 근로자 전반을 대체하니 시장이 훨씬 커진다. 2. AI는 사람보다 채용하고 교육하기 쉽다 회사 자료를 빠르게 학습하고, 이미 검증된 모델을 복제하면 되니 인간 채용보다 확산이 빠르다. 3. 연산이 부족하면 효율 좋은 모델이 돈을 번다 후발주자가 증류로 따라잡는 속도와 선두 AI의 재귀적 자기개선 속도가 중요하다. 지속적인 독점적 우위를 확신하는 건 아니지만, 연산이 부족한 상황에서 더 좋은 학습법·추론 효율을 가진 회사는 높은 마진을 얻을 수 있다.