fa
Feedback
전종현의 인사이트

전종현의 인사이트

رفتن به کانال در Telegram

Entrepreneur, Investor, Contrarian 🚀

نمایش بیشتر
9 953
مشترکین
-124 ساعت
+57 روز
+3830 روز

در حال بارگیری داده...

ابر برچسب‌ها
هیچ داده‌ای
مشکلی وجود دارد؟ لطفاً صفحه را تازه کنید یا با مدیر پشتیبانی ما تماس بگیرید.
اشارات ورودی و خروجی
---
---
---
---
---
---
جذب مشترکین
سپتامبر '26
سپتامبر '26
+114
در 26 کانال‌ها
اوت '26
+62
در 7 کانال‌ها
Get PRO
ژوئیه '26
+415
در 47 کانال‌ها
Get PRO
ژوئن '26
+157
در 30 کانال‌ها
Get PRO
مه '26
+525
در 62 کانال‌ها
Get PRO
آوریل '26
+403
در 56 کانال‌ها
Get PRO
مارس '26
+191
در 41 کانال‌ها
Get PRO
فوریه '26
+574
در 47 کانال‌ها
Get PRO
ژانویه '26
+426
در 64 کانال‌ها
Get PRO
دسامبر '25
+140
در 31 کانال‌ها
Get PRO
نوامبر '25
+206
در 33 کانال‌ها
Get PRO
اکتبر '25
+309
در 59 کانال‌ها
Get PRO
سپتامبر '25
+221
در 42 کانال‌ها
Get PRO
اوت '25
+347
در 37 کانال‌ها
Get PRO
ژوئیه '25
+144
در 41 کانال‌ها
Get PRO
ژوئن '25
+189
در 22 کانال‌ها
Get PRO
مه '25
+158
در 51 کانال‌ها
Get PRO
آوریل '25
+129
در 41 کانال‌ها
Get PRO
مارس '25
+90
در 17 کانال‌ها
Get PRO
فوریه '25
+113
در 33 کانال‌ها
Get PRO
ژانویه '25
+257
در 44 کانال‌ها
Get PRO
دسامبر '24
+194
در 28 کانال‌ها
Get PRO
نوامبر '24
+121
در 26 کانال‌ها
Get PRO
اکتبر '24
+318
در 45 کانال‌ها
Get PRO
سپتامبر '24
+130
در 29 کانال‌ها
Get PRO
اوت '24
+130
در 28 کانال‌ها
Get PRO
ژوئیه '24
+128
در 18 کانال‌ها
Get PRO
ژوئن '24
+72
در 27 کانال‌ها
Get PRO
مه '24
+127
در 37 کانال‌ها
Get PRO
آوریل '24
+164
در 38 کانال‌ها
Get PRO
مارس '24
+82
در 23 کانال‌ها
Get PRO
فوریه '24
+194
در 35 کانال‌ها
Get PRO
ژانویه '24
+87
در 34 کانال‌ها
Get PRO
دسامبر '23
+192
در 53 کانال‌ها
Get PRO
نوامبر '23
+235
در 46 کانال‌ها
Get PRO
اکتبر '23
+152
در 42 کانال‌ها
Get PRO
سپتامبر '23
+827
در 0 کانال‌ها
Get PRO
اوت '23
+136
در 0 کانال‌ها
Get PRO
ژوئیه '23
+150
در 0 کانال‌ها
Get PRO
ژوئن '23
+130
در 0 کانال‌ها
Get PRO
مه '23
+64
در 0 کانال‌ها
Get PRO
آوریل '23
+179
در 0 کانال‌ها
Get PRO
مارس '23
+166
در 0 کانال‌ها
Get PRO
فوریه '23
+89
در 0 کانال‌ها
Get PRO
ژانویه '23
+120
در 0 کانال‌ها
Get PRO
دسامبر '22
+177
در 0 کانال‌ها
Get PRO
نوامبر '22
+131
در 0 کانال‌ها
Get PRO
اکتبر '22
+134
در 0 کانال‌ها
Get PRO
سپتامبر '22
+146
در 0 کانال‌ها
Get PRO
اوت '22
+182
در 0 کانال‌ها
Get PRO
ژوئیه '22
+132
در 0 کانال‌ها
Get PRO
ژوئن '22
+197
در 0 کانال‌ها
Get PRO
مه '22
+199
در 0 کانال‌ها
Get PRO
آوریل '22
+215
در 0 کانال‌ها
Get PRO
مارس '22
+122
در 0 کانال‌ها
Get PRO
فوریه '22
+1 664
در 0 کانال‌ها
تاریخ
رشد مشترکین
اشارات
کانال‌ها
28 سپتامبر0
27 سپتامبر+2
26 سپتامبر+3
25 سپتامبر+2
24 سپتامبر+9
23 سپتامبر0
22 سپتامبر+3
21 سپتامبر+1
20 سپتامبر+1
19 سپتامبر0
18 سپتامبر+1
17 سپتامبر0
16 سپتامبر+1
15 سپتامبر+1
14 سپتامبر+8
13 سپتامبر+16
12 سپتامبر+4
11 سپتامبر+13
10 سپتامبر+20
09 سپتامبر+1
08 سپتامبر+10
07 سپتامبر+4
06 سپتامبر+1
05 سپتامبر+5
04 سپتامبر+4
03 سپتامبر+1
02 سپتامبر+2
01 سپتامبر+1
پست‌های کانال
개인적으로 피지컬 AI 보다 바이오 AI 쪽에서 발전이 더 빠르게 이뤄질 수 있다고 보고 있는데, 이젠 본격적으로 정황상 근거들이 하나둘씩 튀어나오는 것 같다. "앤트로픽 생명과학 팀은 경력 전반에 걸쳐 특이한 단백질을 탐구해 온 과학자들로 구성돼 있습니다. 계산적 접근법을 활용해 DNA를 체계적으로 읽고, 그 진화 과정을 해석하며, 추가로 특성을 규명할 생물학적 시스템을 선별하는 데 전문성을 갖추고 있습니다. Anthropic에 합류하기 전 우리의 연구는 CRISPR 시스템의 진화와 조절을 더 잘 이해하는 데 기여했고, 차세대 세포·유전자 치료를 위한 새로운 효소를 발견했으며, 사람에게 질병을 일으키는 유전 변이와 같은 DNA의 이상을 더 빠르게 식별하는 도구를 개발하는 데 기여했습니다. 우리는 신약 개발과 Claude의 생물학·화학 학습 등을 담당하는 팀들과 함께 Anthropic의 생명과학 조직에 속해 있습니다." "우리의 많은 연구 과정에는 Claude가 기능이 알려지지 않은 단백질과 관련된 방대한 DNA 서열 모음을 탐색하는 작업이 포함됩니다. 전형적인 방식은 특정 단백질 계열을 조사하는 것에서 시작합니다. Claude는 관련 문헌을 읽고, 공개 데이터를 바탕으로 이미 알려진 결과를 재현해 자신의 방법을 점검합니다. 그런 다음 지금까지 기술된 어떤 시스템에도 들어맞지 않는 단백질 계열의 구성원이나 유전체상의 인접 요소를 찾습니다. 각 후보에 대해서는 가능한 기능을 제안하고 그 주장을 뒷받침하는 근거를 설명하는, 사람이 읽을 수 있는 짧은 보고서를 작성합니다. 후속 분석에서 Claude는 근거를 비판적으로 평가하며, 일반적으로 대부분의 후보가 이 단계에서 탈락합니다. 한 차례의 조사가 끝났을 때 실험해 볼 만한 후보가 하나 남을 수도 있고, 하나도 남지 않을 수도 있습니다." "후보가 우리의 검토를 통과하면 실험실에서 이를 시험합니다. 표준 실험실 균주에서 해당 단백질을 발현시키고 생화학적·구조적 특성을 규명하며, Claude는 데이터 해석을 돕습니다. 우리는 모든 과학자가 이용할 수 있는 것과 동일한 도구인 Claude Science와 Claude Code를 사용해 연구합니다. 때로는 병렬로 실행되는 여러 Claude 세션을 조율하는 자체 실행 시스템을 사용하기도 합니다." "Claude가 워낙 많은 가설을 생성하다 보니, 가설 자체가 우리의 연구 대상이 됐습니다. 한 번의 탐색 캠페인에서 수백에서 수천 개의 후보 보고서가 나오기 때문에, 우리는 실험할 가치가 있다고 판단한 제안과 보류한 제안을 구분하는 것이 무엇인지 살펴보고 있습니다. 여기서 배운 내용은 Claude에 제공하는 지침에 다시 반영되며, Claude가 우리의 과학적 안목을 모방하도록 가르칩니다." "Claude는 새로운 발견일 수 있는 무언가를 마주한 인간 과학자와 매우 비슷하게 행동했습니다. 반복 횟수를 세고 그 간격을 측정했으며, 배열 구조를 알려진 역전사효소 시스템과 비교하고, 이 패턴이 이전에 보고된 적이 있는지 문헌을 검색했습니다. 철저히 분석한 끝에 새로운 생물학적 시스템을 발견했다고 확신했고, 사람의 검토를 받기 위해 보고서를 제출했습니다." https://www.anthropic.com/news/claude-discovers-novel-enzyme-system

2
다리오 아모데이, Claude의 유전자 편집 메커니즘 발견과 AI 생물학의 지수적 발전 강조 오늘 우리는 Claude가 주도해 발견한 분자 기계(molecular machine)를 발표했습니다. 우리는 이것이 새로운 유전자 편집 메커니즘일 가능성이 있다고 보고 있습니다 이 시스템의 정확한 기능이 무엇인지, 생명공학적으로 활용 가치가 있는지, 있다면 어느 정도인지, 그리고 얼마나 중요한 발견인지는 아직 명확하지 않습니다. 하지만 최소한 제가 박사과정 학생이었다면 자랑스럽게 생각했을 만한 연구입니다. 이번 연구는 전부는 아니지만 대부분 Claude가 수행했습니다. 우리의 생명과학팀이 광범위한 연구 분야를 제안했고, Claude는 관련 문헌과 방대한 유전체 데이터를 읽고 흥미로운 대상을 발견했습니다. 이후 Claude가 이 발견을 검증하기 위한 실험을 제안했고, 우리 연구팀이 실제로 그 실험을 수행했습니다. 이를 일회성 사례나 흥미로운 해프닝 정도로 치부하기는 쉽습니다. 그러나 우리는 AI가 새로운 지적 영역에서 처음에는 미약한 수준을 보이다가 몇 년 만에 인간을 넘어서는 수준으로 발전하는 패턴을 반복적으로 목격해 왔습니다. 2023년 모델들은 평균적인 고등학생 수준의 수학 문제조차 어려워했습니다. 2024년에는 미국 최상위권 고등학생들이 참가하는 수학 경시대회에서 좋은 성적을 내기 시작했고, 2025년에는 비교적 작은 미해결 문제들을 풀기 시작했습니다. 2026년 초에는 더 중요한 미해결 문제들을 해결하기 시작했고, 2026년 후반에는 수학 전체를 통틀어 가장 중요한 몇몇 미해결 문제들까지 풀기 시작하고 있습니다. 우리는 생물학 분야의 AI도 이와 유사한 지수적 발전 경로를 따르고 있다고 생각합니다. 물론 생물학과 수학의 가장 큰 차이는 수학은 순수하게 이론적으로 수행할 수 있는 반면, 생물학에는 실험이 필요하다는 점입니다. 일부에서는 이를 근거로 AI가 생물학에서 가질 수 있는 효용에는 한계가 있을 것이라고 주장해 왔습니다. 우리는 이 결론이 잘못됐다고 생각합니다. 오늘 우리가 보여준 것처럼, 인간은 AI와 협업해 실험을 수행할 수 있고, 몇 주 내에 핵심 결과를 검증할 수 있으며, 필요하다면 실험 결과를 바탕으로 AI와 함께 추가적인 연구를 반복할 수 있습니다. 장기적으로는 적절한 안전장치를 마련한다는 전제하에 Claude가 실험 장비를 자율적으로 제어하면서 직접 실험을 수행하는 것도 가능해질 수 있습니다. 다만 현재 우리는 그렇게 하고 있지는 않습니다. 또한 우리의 연구실은 인간에게 위험한 물질을 취급하지 않는 BSL1, BSL2 시설입니다. 보다 넓게 보면 생의학적 발전은 여러 단계로 구성됩니다. 기초 생물학적 발견에서 시작해 중개 연구, 신약 개발, 임상시험을 거쳐 마지막으로 실제 의약품과 의료서비스가 환자에게 전달됩니다. 우리는 이러한 후반 단계에도 관심이 있지만, 첫 번째 단계인 기초 생물학적 발견만 가속해도 전체 파이프라인의 속도와 범위를 확대할 가능성이 있습니다. 생물학에 대한 이해를 높이고 생물학자들이 사용하는 도구를 개선하면 이후 단계들도 발전할 수 있습니다. 예를 들어 새로운 신약 표적을 찾아내거나, 새로운 치료 방식을 발견하거나, 더 정밀한 측정을 가능하게 하거나, 실험 주기를 단축할 수 있습니다. 실험 주기가 빨라지면 다시 생물학에 대한 이해가 더욱 빠르게 발전할 수 있습니다. 이것만으로 임상시험에 필요한 시간을 단축할 수 있는 것은 아닙니다. 하지만 성공한다면 개발 파이프라인에 진입하는 유망한 후보 물질의 수를 크게 늘릴 수 있습니다. 즉, 각 후보가 개발되는 데 걸리는 시간, latency은 그대로더라도 전체 처리량, throughput은 크게 늘어날 수 있습니다. 저는 《Machines of Loving Grace》에서 AI가 “5~10년 안에 대부분의 질병을 치료할 수 있다”는 잠재력에 대해 썼습니다. 불가능하게 들리는 목표지만, AI가 개발 파이프라인의 모든 단계에 적용된다면 가까스로 가능한 목표라고 저는 생각합니다. 첫 번째 단계는 AI가 우선 생물학적 발견을 돕고, 이후에는 그 발견 자체를 주도할 수 있다는 것을 보여주는 것입니다. Claude의 이번 발견은 수십 년에 걸쳐 이어져 온 관련 연구의 연장선에 있습니다. 그 시작에는 CRISPR와 같은 시스템이 있었고, 최근 몇 년 동안에는 bridge recombinase와 VIPR 같은 발견들이 이어졌습니다. 최근에는 특히 역전사효소, reverse transcriptase, RT 기반 시스템에 대한 관심이 높아지고 있습니다. RT는 Claude가 이번에 찾아낸 시스템의 기반이 되는 효소입니다. 그리고 가장 최근에는 스탠퍼드대 연구팀이 독립적으로 연구를 수행해, 연관된 비암호화 배열, non-coding array을 가진 새로운 RT 시스템을 보고했습니다. 일부 측면에서는 Claude가 발견한 시스템과 유사하지만, 두 시스템은 서로 독립적으로 진화한 별개의 시스템입니다. 저는 우리가 이제 막 이러한 시스템들을 발견하기 시작한 단계이며, 앞으로 이들을 생명공학을 위한 강력한 도구로 발전시켜 나갈 수 있을 것이라고 생각합니다. 앤스로픽이 생명과학을 통해 AI의 공공적 혜택을 가속하기 위해 상당한 자원을 투입하고 있다는 점을 자랑스럽게 생각합니다. 우리는 생명과학팀을 확대하는 동시에, 다른 과학자들과 협력해 이러한 접근법을 훨씬 더 광범위한 문제로 확장하는 것을 목표로 하고 있습니다. 연구 협력 제안이 있거나 앤스로픽 생명과학팀에 합류하는 데 관심이 있다면 연락해주시기 바랍니다. https://x.com/darioamodei/status/2102831170299834652
1 370
3
OpenAI 연구자 노암 브라운에 따르면 - GPT-5.6 부터 진정한 멀티에이전트가 작동하기 시작함 - 하지만 나비에-스토크스 풀이에는 멀티에이전트보다 모델 자체의 성능이 높아진게 훨씬 주효했음 - AI 발전 속도 엄청나게 빨라지고 있는게 맞음. 자기들도 밀레니엄 난제가 이렇게 빠르게 풀릴지 모르고 있었음 - 안전을 문제로 신규 AI 모델 출시 속도를 미루게 되면 오히려 OpenAI 내부와 외부(세상)과의 격차가 더 벌어지게 된다 --- 추론 모델의 성능을 그래프로 그릴 때, x축에는 테스트 시점 연산량을 놓고 y축에는 사실상 어떤 추론 벤치마크든 그 성능을 놓으면, 모델이 답을 생각하는 시간이 길어질수록 더 잘한다는 아주 뚜렷한 패턴이 나타납니다. 아주 자연스러운 일입니다. 사람도 마찬가지죠. SAT 시험을 보는데 전체 시험을 풀 시간이 5분밖에 없다면, 잘하기 어려울 겁니다. 5시간이 있다면 아마 훨씬 더 잘하겠죠. AI 모델도 상당히 비슷합니다. 그 시간 동안 혼잣말을 하면서 문제를 파악하고, 여러 경우를 살펴보고, 다양한 가능성을 배제하고, 앞서 발견한 내용 위에 새로운 내용을 쌓아갑니다. 문제는 이것을 계속 밀어붙이면 응답 지연이라는 병목에 부딪힌다는 것입니다. 답을 받으려고 3년 동안 앉아서 기다리고 싶지는 않잖아요. 그래서 많은 사람이 하는 방식을 쓰면 됩니다. 병렬화하는 거죠. 사람들로 팀을 꾸리는 겁니다. 회사를 창업한다면 더 빠르게 나아가기 위해 여러 사람을 모으고 싶겠죠. AI 모델도 똑같습니다. 여러 에이전트가 하나의 일을 하면 더 빨리 진행할 수 있기 때문에 도움이 됩니다. 그러니까 멀티에이전트는 테스트 시점 연산량을 순전히 직렬로만 늘리는 대신 병렬로 확장하는 방법입니다. 단일 에이전트가 모든 맥락을 혼자 가지고 있는 것은 아니기 때문에 효율은 떨어집니다. 하지만 제대로만 한다면 테스트 시점 연산량을 확장하는 매우 효과적인 방법입니다. --- 한 가지 분명히 하고 싶은 것이 있습니다. 밀레니엄 난제를 푼 이 성과는 멀티에이전트 덕분이 아닙니다. 저는 멀티에이전트에 공의 10%조차 돌리지 않을 겁니다. 실제로는 오픈AI가 매우 강력한 모델을 훈련한 것입니다. 그 모델이 아주 긴 시간 범위에 걸쳐 작동하도록 할 수 있습니다. 병렬로 생각하도록 할 수도 있습니다. 하지만 근본적으로 우리가 이 일을 할 수 있는 이유는, 범용적이면서 매우 강력한 모델을 가지고 있기 때문입니다. 멀티에이전트 같은 것은 화려하고 새롭기 때문에 아마 실제 기여보다 더 많은 공을 인정받는 것 같습니다. 하지만 핵심적인 이유는 그저 이것이 대단히 강력한 모델이라는 것입니다. --- 발전은 정말 빠릅니다. 그건 100% 사실이라고 생각합니다. 연구자들조차 계속 발전 속도에 놀라고 있다는 점을 짚을 필요가 있습니다. AI 연구자들 사이에서도, 2025년에 IMO 금메달을 따는 것에 관한 예측을 보면… 도구도 없고 인터넷 접근도 없는 범용 언어 모델로 그 일을 할 수 있다는 생각을, 오픈AI 내부 사람들조차 터무니없다고 여겼습니다. 거의 불가능하다고 생각했죠. 그리고 2026년이 되었습니다. 나비에–스토크스를 풀기 정확히 2주 전, 프런티어 연구소의 한 연구자와 밀레니엄상을 받기까지 얼마나 걸릴지 이야기하고 있었습니다. 그는 2027년을 넘겨야 가능할 것이라는 데 저와 1,000달러를 걸겠다고 했습니다. 그는 2030년까지 걸릴 거라고 생각했고, 저는 그 내기를 받아들였습니다. 하지만 저조차도 지금 실현될 것으로 보이는 시점보다 더 오래 걸릴 거라고 생각했습니다. 그러니까 연구소 안에서도 사람들은 계속 놀라고 있는 겁니다. 바로 어제 나비에–스토크스 프로젝트에 참여한 사람과 이야기했습니다. 그는 예전에는 12개월 뒤 AI가 어디에 있을지 예측하기가 정말 어렵다고 말하곤 했다고 하더군요. 누군가 “앞으로 어떻게 될까요?”라고 물으면, 향후 12개월까지는 어느 정도 자신 있게 예측할 수 있었지만, 그 이후는 “모르겠습니다”라고 했다는 겁니다. 그런데 이제는 3개월을 넘어서면 예측할 자신이 없다고 하더군요. 그러니 지금 상황이 아주 빠르게 전개되고 있다는 것은 정말 사실입니다. --- 이렇게 말하고 싶어지죠. “좋아, 이 모델들은 극도로 강력해지고 있다. 대단히 위험하다. 점점 더 긴 시간에 걸쳐 작동하고 있으니, 출시 전에 그 시간 범위에 걸쳐 평가할 충분한 시간을 확보해야 한다. 따라서 모델 출시 주기를 늦춰야 한다. 모델 출시 사이에 더 긴 간격을 두어야 한다.” 하지만 말씀하신 반대 측면이 있습니다. 그렇게 하면 연구소 내부에서 사용할 수 있는 것, 즉 우리가 사용할 수 있는 것과 외부 세계가 사용할 수 있는 것 사이의 격차를 더 벌리게 됩니다. 그것도 이상적인 상황은 아닙니다. 실제로 수학이 이 점을 잘 보여주는 사례입니다. 여러 면에서 수학은 우리가 이런 상황을 꽤 뚜렷하게 관찰하는 첫 번째 분야입니다. 내부에는 매우 강력하지만 현재 외부에서는 사용할 수 없는 모델이 있고, 그 모델은 놀라운 수학 문제들을 풀 수 있습니다. 밀레니엄 난제만의 이야기가 아닙니다. 사람들이 이 모델에서 얻어낸 미해결 문제의 풀이가 많이 있습니다. https://www.dwarkesh.com/p/noam-brown
2 002
4
딜런 파텔이 이끄는 세미어날리시스는 참 흥미로운 매체인건 분명하다. AI 시대에서 미디어 및 데이터 사업을 어떻게 만들어갈 수 있는가에 대한 가장 큰 레퍼런스랄까. "현재 세미애널리시스는 네트워킹, 웨이퍼 제조 장비, 파운드리 증설, 에너지 등을 아우르는 12개의 모델을 보유하고 있다. 서브스택 기술 분야 1위인 이 회사의 뉴스레터는 사실상 잠재 고객을 유입시키는 창구다. 서브스택에서 나오는 매출은 전체의 5%도 되지 않는다. 대부분의 매출은 모델과 기관 고객용 뉴스레터인 ‘코어 리서치’, 컨설팅에서 발생한다." "세미애널리시스에서 성공하려면 온라인에 거의 상주하다시피 해야한다. 약 50명에 이르는 애널리스트들은—그중 일부는 레딧에서 채용됐다—X, 서브스택, 이메일 뉴스레터, SEMICON West 콘퍼런스 발표 자료, 시그널 단체 채팅방을 훑으며 하루를 보낸다. 그리고 물론, 회사의 생명줄인 슬랙도 끊임없이 들여다본다." "통화 요약, 데이터, 공급망 업데이트 같은 입력 자료가 슬랙에 올라온다. 애널리스트들은 이를 다른 공개 수치와 결합한다. 전형적인 브리지워터 어소시에이트처럼 재무 공시와 각종 공개 자료, 유출 정보를 샅샅이 검토하고, 전문가 및 투자자와의 통화 내용까지 함께 분석하기도 한다. 그 결과 검색 가능한 채널들을 통해 정보가 끊임없이 흐른다." "다음 단계는 정량 모델링이다. 하이퍼스케일러의 인프라 건설을 추적하는 데이터센터 모델을 보자. CoWoS 수치와 제품 출하량 추정치에서 역산하는 데 그치지 않고, 부지별로 다른 공급 측 입력 자료를 찾아다닌다. 부동산 기록, 인허가, 데이터센터의 전기 및 냉각 시스템 등이 그 대상이다. 어느 시점부터 팀은 실시간 위성사진을 활용하기 시작했고, 이미지를 분석하도록 컴퓨터 비전 모델도 학습시켰다." "팀은 데이터센터 수치를 가속기 모델과 교차 검증한다. 물량이 서로 맞아야 하기 때문이다. 딜런은 정보를 테트리스처럼 맞춰가는 이 작업을 ‘모자이크 이론’이라고 부른다. 데이터센터팀은 칩의 전체 전력 소요량에 관한 가정을 토대로, 칩 물량에 가속기당 소비전력을 곱해 메가와트 단위 전력 수요를 추정할 수 있다." "딜런은 첨단 기술 업계와 생각만 가까운 것이 아니라, 금전적으로도 가깝다. 그는 최근 초기 스타트업에 투자하는 5억 달러 규모의 벤처펀드 ‘세미애널리시스 캐피털 펀드 I’을 조성했다." https://substratemag.com/dylanpatel/
3 491
5
세미어날리시스 주장: 데이터센터 건설 연기는 아직 그 영향이 미미하다. = 언론에서 나오는 데이터센터 중단/지연 보도는 과장되었다는 소리. "오늘은 모라토리엄이 미국의 데이터센터 건설 확대를 가로막고 있다는 널리 퍼진 주장을 깊이 살펴본다. 이번에도 그 주장은 매우 부정확하다. 우리의 데이터센터 산업 모델은 2027년 미국에서 데이터센터 IT 용량 38GW가 새로 공급될 것으로 전망한다. 이는 2026년의 두 배가 넘는 규모다. 이 가운데 22GW는 건물 본체 공사가 진행 중이며, 나머지 16GW의 ‘계획’ 용량도 대부분 이미 자금을 조달하고 부지 공사를 진행하면서 본체 착공을 준비하고 있다." "현재 미국 전역에서 유효한 약 300건의 지방정부 데이터센터 모라토리엄과 영구 금지 조치를 하나하나 우리의 파이프라인과 대조해보면, 직접적인 영향은 미미하다. 직접적으로 지연되는 용량은 1,525MW에 불과하며, 이는 제한 구역 안에 있는 용량의 7.6%다. 사실상 그 전부가 세 프로젝트에서 발생한다." https://newsletter.semianalysis.com/p/everyone-says-datacenter-moratoriums
4 155
6
글로벌리 여러 테크회사들의 대주주인 (대표적으로 텐센트 대주주) 프로서스가 발간한 AI 에이전트 리포트라는데, 뭔가 이정도 사이즈 되는 기업에서 AI 에이전트 리포트를 내는걸 처음 보는 것 같아서 아카이브. 특정 에이전트가
글로벌리 여러 테크회사들의 대주주인 (대표적으로 텐센트 대주주) 프로서스가 발간한 AI 에이전트 리포트라는데, 뭔가 이정도 사이즈 되는 기업에서 AI 에이전트 리포트를 내는걸 처음 보는 것 같아서 아카이브. 특정 에이전트가 Power Law를 형성한다는게 특히 흥미롭다. https://www.prosus.com/ai-reports/the-coming-age-of-ai-colleagues-11
2 929
7
"물론 ‘프론티어의 속도 조절’이 ‘미래 사업계획’에 해당할 수도 있지만, 이 부분은 조율할 여지가 있다고 생각한다. 진짜 문제는 아모데이가 무엇보다 샘 알트먼과 오픈AI를 저지하려는 동기로 움직이는 듯하고, 그 일을 정부가 대신해주기를 바란다는 점이다." "중국과 지정학적으로 경쟁하는 세계에서 ‘프론티어의 속도를 조절하자’는 것은 어리석으며, 실제로 일어나지도 않을 일이다. 그 현실만으로도 이 논쟁은 끝나야 한다." "그리고 한 가지 더 덧붙이겠다. AI에 대한 잘못된 이해에 기초한 규제는 오히려 해를 끼칠 수 있으니, 반드시 필요해질 때까지 도입을 미뤄야 한다는 주장도 있다. 하지만 내가 말하고 싶은 것은 그보다 더 근본적인 문제다. 지능을 국가 차원에서, 혹은—더 끔찍하게는!—전 세계 차원에서 규제하는 체제라는 발상 자체에 나는 강한 거부감을 느낀다. 그럴 바에는 차라리 위험을 감수하고, 인간이 스스로 해법을 찾아낼 것이라는 데 베팅하겠다 살아남는 것이 전부는 아니다. 자유롭게 살아가는 것 역시 대단히 중요하다." https://stratechery.com/2026/pacing-the-frontier-ais-digital-limits-ai-commissars/
2 749
8
이에 대한 데이비드 삭스의 반응: 그럼 니들이 알아서 속도 조절해라. --- 다리오는 우리가 “최첨단 AI 발전의 속도를 조절해야 한다”고 썼고, 샘도 동의했다. 내 반응을 의외라고 생각하는 사람들이 있을지도 모르겠다. 좋다. 그렇게 하라. 당신들이 바로 그 최첨단이다. 시장점유율이든, 매출 성장률이든, 모델 성능이든, 합리적인 기준이라면 무엇을 적용하더라도 당신들 두 사람은 최첨단 지능을 양강 독점하고 있다. 게다가 재귀적 자기개선 덕분에 후발주자들과의 격차가 더욱 벌어지고 있다고 주장해온 것도 당신들이다. 나는 당신들이 연구실 안에서 보고 있는 것을 보지 못한다. 아직 공개하지 않은 모델들이 너무 무서워서 스스로 속도를 늦춰야 한다고 생각한다면, 책임 있게 행동하겠다는 당신들의 결정을 지지한다. 하지만 다른 누군가의 허락이 필요한 척하지 말라. 당신들이 카르텔을 형성할 수 있도록 반독점법의 적용을 중단해야 하는 척하지 말라. 제조물책임보다 우선하는 규제당국의 승인 절차가 필요한 척하지 말라. METR이 앤트로픽의 투자자 및 직원들과 얽혀 있는데도 독립적인 기관인 척하지 말라. 아직 최첨단 수준에 도달하지도 않은 경쟁자들을 그 동일한 평가기관들이 감독하고 통제해야 하는 척하지 말라. 무엇보다, 속도를 늦추려는 동기가 순전히 이타적인 것인 척하지 말라. 당신들의 제품이 정말로 심각한 피해를 일으키는 사이버공격을 가능하게 한다면, 당신들은 막대한 제조물책임을 질 위험에 노출된다. 시장은 이미 예측할 수 없거나 허가받지 않은 방식으로 행동하는 모델에 불이익을 주고 있다. 허깅페이스 사건 이후, 오픈AI와 앤트로픽이 순수한 성능을 일부 양보하는 대신 신뢰성과 예측 가능성을 확보하는 것은 그저 사업적으로도 현명한 선택이다. 원한다면 그것을 ‘정렬(alignment)’이라고 불러도 좋다. 하지만 그것은 고객이 원하는 것을 제공하는 일이기도 하다. 최첨단 AI의 발전 속도를 조절하면, 버니 샌더스의 “전부 중단시켜라”보다 더 사려 깊은 규제 논의를 할 여유도 생길 것이다. 당신들도 알다시피 중국이 전 세계적인 합의에 동참할 가능성은 매우 낮으며, 그 점도 고려해야 한다. 그러니 최첨단 AI의 발전 속도를 조절하라. 그 속도를 결정하고 있는 것은 당신들이다. 초지능을 만들지 않는 가장 쉬운 방법은 당신들이 그것을 만들지 않기로 합의하는 것이다. 그 대가로 당신들이 선호하는 규제 체계를 요구한다면, 그것은 대중과 정치 체계를 상대로 한 협박처럼 보일 것이다. 그러니 그냥 실행하라. 그렇게 한다면 다음 논의를 위한 호의와 신뢰를 얻을 수 있을 것이다. 그렇게 하지 않는다면, 우리는 이것 역시 규제 포획을 위한 또 하나의 시도였거나, 선거철을 겨냥한 심리전이었다는 것을 알게 될 것이다. https://x.com/DavidSacks/status/2098973625252708460
15 021
9
다리오 아모데이가 속도 조절론을 꺼내들었다. 이건 진짜 의도 파악이 중요할듯. "우리는 AI 모델의 능력을 향상시키는 속도를 늦춰야 한다. 그래도 발전은 여전히 빠르게 느껴질 것이다. 그리고 그렇게 확보한 시간을 현명하게 활용해야 한다. 두 가지가 나에게 이러한 확신을 주었다." "첫 번째 우려는 대략 올여름부터 AI의 발전 속도가 급격히 빨라졌다는 점이다. 이를 이끄는 주된 동력은 차세대 AI를 만드는 AI의 능력이 점점 커지고 있다는 것이다. 이러한 작용을 ‘재귀적 자기개선’이라고 한다. 우리와 다른 기업들이 설명했듯이, 이는 앤트로픽을 포함한 업계 전반에서 나타나기 시작했다. 이를 통제하지 않으면 우리가 이 시스템들을 이해하고 통제할 수 있는 속도를 앞질러버릴 수 있다. 따라서 이를 추진하더라도 극도로 신중해야 한다." "두 번째 우려는 오픈AI–허깅페이스 사건, 이하 OAI-HF 사건이다. 이 사건에서 에이전트 군집은 사실상 광적으로 헌신하는 집단처럼 행동했다. 공격하라는 지시를 받지도 않았고 수행 중인 과제와도 무관한 대상을 상대로 사이버공격을 벌였으며, 집단의 성공을 위해 자신을 희생하고, 자신들의 성과를 평가하는 ‘채점기’를 해킹하려고 시도했다. 다친 사람이 없고 경제적 피해도 미미했기 때문에 이 사건을 대수롭지 않게 넘기기는 쉽다. 하지만 내 생각에는 비슷한 수준의 정렬 실패를 보이면서 더 뛰어난 능력을 가진 군집이었다면 재앙적인 피해를 초래할 수 있었다." https://darioamodei.com/post/we-must-pace-the-frontier
13 458
10
이번에 OpenAI가 나비에-스토크스의 해법을 내놓은 걸 고민해보다가 이런 생각을 하게 되었다. 어쩌면 이번 사건의 함의 중 하나는 OpenAI와 같은 최선단 프론티어랩들이 이제 정말로 ‘정밀 타격-해결 기계’를 가진 것 같다는 것이다. 얘네가 문제를 찍으면 컴퓨팅을 거기에 집중해서 풀어낼 가능성이 갈수록 커지고 있다는 이야기. 이건 모델의 발전에 있어서도 중요한 이야기인데, 얘네가 내부적으로 무엇을 개선할지 파악하고 컴퓨팅을 집중시켰을 때 그게 실제 발전으로 이어질 확률이 높아진다면, 프론티어랩과 나머지 랩들 사이의 격차도 갈수록 커질 수 있다는 소리. 혹자는 모델의 성능 격차가 갈수록 좁아진다고 말하지만, 사실은 반대일 수 있다는 이야기. 즉, 이번 사건은 프론티어랩의 경쟁력이 스스로를 강화하는 구조에 들어서고 있다는 걸 외부에 보여준 사례일 수 있다는 것. --- 관련해서 드와케시 & 딜런 파텔의 대담이 비슷한 생각을 공유하는 것 같아서 인용: "제가 개인적으로 믿는 게 바로 그겁니다. 연구소들은 시간이 갈수록 추론에 배분하는 컴퓨팅 비중을 줄일 겁니다. 이건 시장의 일반적인 생각과 꽤 다르다고 봅니다. 보통은 “대부분의 컴퓨팅이 추론에 쓰일 것”이라고 생각하죠. 하지만 대부분은 학습을 위한 순전파 연산에 쓰일 것이고, 반드시 매출을 창출하는 추론에 쓰이는 건 아닐 겁니다." "지금 메가와트당 3,000만~4,000만 달러를 벌고 있을 때 추론에 40%를 배분한다고 합시다. 그런데 메가와트당 6,000만~7,000만 달러를 벌게 된다면, 여전히 40%를 추론에 배분해 엄청난 이익을 내고 배당과 자사주 매입을 할까요? 아니면 AGI를 만들까요? Anthropic과 OpenAI는 경영진뿐 아니라 이사회 차원에서도 분명히 AGI를 만들겠다고 답할 겁니다. 그게 훨씬 수익성이 높으니까요. 결국 학습에 배분하는 컴퓨팅 비중을 점점 높이게 될 겁니다." "핵심은 이겁니다. 토큰을 판다고 합시다. OpenAI가 Ultrafast 모드를 외부에만 제공하려고 만든 걸까요, 아니면 내부에서도 쓸까요? 실제로는 내부와 외부 모두에 배분할 겁니다. 초고속 AI나 최고의 AI 모델을 내부에서 사용해 얻는 가치가 외부 사용자가 얻는 가치보다 훨씬 크기 때문이죠." "물론 메가와트당 1억 달러를 벌 수 있습니다. 하지만 그것을 AI 연구에 돌리면 얼마나 추가적인 발전을 얻을 수 있을까요? 미래 수익 잠재력이나 그 모든 활동의 할인현금흐름에는 어떤 영향을 줄까요? 실제로 그런 계산을 하나하나 하고 있는 건 아니겠지만, 결국 컴퓨팅을 점점 더 내부에 배분하는 것이 합리적입니다. 추론용 컴퓨팅을 크게 유지하는 유일한 이유는 학습용 자원을 확대할 수 있기 때문입니다." "1월에는 12월보다 추가한 컴퓨팅이 적었는데도 매출 증가분은 급등했습니다. 이후에는 어느 정도 평탄해졌죠. 지금은 매달 ARR이 250억 달러씩 늘어나지는 않습니다. 그렇다는 것은 새로 확보하는 메가와트가 추론보다 연구개발로 가는 비중이 높아졌다는 뜻입니다. 그러니까 이들은 실제로 지금 연구개발용 컴퓨팅을 늘리고 있는 겁니다. 이들이 하는 일을 충분히 들여다보면 자명하다고 생각합니다." https://www.dwarkesh.com/p/dylan-patel-3
2 093
11
이해진 의장은 작년 3월 강연에서 이런 류의 말을 했다: '요즘은 공부 잘하는 똑똑한 친구들은 다 의대를 간다. 사업을 하며 방향보다 더 중요한 건 어떤 사람을 태우느냐다. 일단 똑똑한 사람을 먼저 잡아야 거기다 투자를 하는 거지, 방향은 계속 바뀔 수 있는 거고 전략도 계속 바뀔 수 있는 거라고 생각한다. 그래서 적절한 사람이 있는 곳에다가 투자를 하는 것이 맞다고 생각한다.' --- "네이버는 내달 1일 최수연 네이버 최고경영자(CEO) 직속으로 디지털 헬스케어 조직을 꾸린다. 조직은 네이버가 지난해 인수한 디지털 헬스케어 기업 세나클의 위의석·박찬희 공동대표가 함께 이끈다." "네이버가 헬스케어만을 책임지는 별도 사업조직을 꾸리는 건 이번이 처음이다. 업계는 이해진 의장이 강조해온 의료 AI 구상이 사업화 단계로 접어드는 신호탄이라고 보고 있다. 이 의장은 경영 전면 복귀를 앞둔 지난해 3월 첫 공식 일정으로 서울대병원을 찾아 “네이버의 의료 AI 투자는 진심”이라며 “AI 시대 네이버가 어떻게 살아남을지 고민한 끝에 의료에서 실마리를 찾았다”고 말했다. 이 의장은 두 달 뒤 최인혁 전 네이버 최고운영책임자(COO)를 복귀시켜 테크비즈니스 부문을 신설하고 헬스케어를 맡겼다." "지난해 속도는 더 빨라졌다. 임상시험 데이터 기업 제이앤피메디와 체성분 분석기업 인바디에 잇달아 투자한 데 이어 11월에는 의사의 진료차트인 전자의무기록(EMR)을 개발하는 세나클을 인수했다. 올해 3월에는 의료 부문의 대규모언어모델(LLM)인 ‘KMed.ai’를 개발한 Applied AI 그룹을 네이버클라우드에서 네이버 테크비즈니스 부문으로 이동시켰다. 의료 데이터와 현장 소프트웨어, AI 등을 하나의 서비스와 매출로 이뤄낼 수 있도록 기반을 다진 것이다." https://www.hankyung.com/article/2026090819651
2 428
12
여담으로 최근 Instinct 라고 23살 창업자가 설립한 에이전트 개발 스타트업이 $2.5b 밸류에 투자받아서 화제였는데, 어제 '에이전트간의 통신 프로토콜'을 공개해서 또 한번 화제였다. 에이전트의 네트워크 효과라는게 생겨날지 고민해보는 것도 재밌을듯. "새로운 Instinct 간 통신 프로토콜을 기반으로 하는 ‘신뢰하는 사람 네트워크(Trusted Person network)’를 소개합니다. 이제 여러분의 Instinct가 다른 사람들의 Instinct와 대화하며 여러분을 대신해 일정과 계획을 조율할 수 있습니다." "사람들이 함께 모이려면 여러 차례 연락을 주고받아야 하는 경우가 많습니다. 가능한 시간을 찾고, 세부 사항을 정하고, 계획이 바뀌면 다시 확인해야 하죠. 이제 Instinct들이 서로 협력해 이러한 조율을 도와줍니다." "예를 들어 다음과 같은 일을 할 수 있습니다. 배우자와 일정 및 계획 조율하기, 날짜와 도착 시간을 포함해 친구들과 주말 여행 계획하기, 동료나 협업 상대와 약속 잡기, 수십 명 또는 수백 명이 참여하는 행사 준비하기, 주간 저녁 모임처럼 정기적인 활동 계획하기" https://x.com/noahrshinn/status/2097794967574028448 https://techcrunch.com/2026/08/26/viral-ai-startup-instinct-has-raised-350-million-at-a-2-5-billion-valuation/
2 087
13
대중을 위한 LLM의 대중화 = ChatGPT 대중을 위한 코딩의 대중화 = Opus 대중을 위한 딸깍의 대중화 = Astra 대중을 위한 Agent의 대중화 = Muse
1 632
14
벤 톰슨은 메타의 에이전트 '뮤즈'와 관련해서 긍정적으로 평가하네. 시장도 그러한 것 같고. (물론 나는 OpenAI의 나비에 스토크스 발표가 비교도 안될만큼 충격적이긴 했다만) "정말 놀라운 것은 뮤즈가 문자 그대로 얼마나 강력한 컴퓨팅 자원을 갖추고 있는지다. RAM 8GB와 디스크 공간 8GB를 갖춘 가상머신은 엄연한 컴퓨터다. 메타는 이것을 미국의 모든 사람에게, 궁극적으로는 전 세계 모든 사람에게 제공하고 있다. 정말 대단한 일이다." "이것은 평범한 사람들에게 진정한 에이전트 기반 작업 방식을 제공하려면 꼭 필요한 것이기도 하다. 누구도 나처럼 모니터 없이 돌아가는 여러 대의 맥 미니를 랙에 설치하고, 인터넷 회선을 여러 개 연결하고, 예비 전원까지 갖춰 운영하고 싶지는 않을 것이다. 그냥 잘 작동해야 한다. 뮤즈는 그렇게 작동한다. 나는 이것이 단순히 인기 제품이 되는 데 그치지 않고, 내 비서가 내 삶을 바꿔놓았듯 사람들의 삶을 바꿀 수도 있다고 진심으로 생각한다." "하지만 바로 여기에 어려움이 있다. 에이전트의 유용성은 여전히 이용자가 에이전트와 상호작용하는 데 얼마나 노력을 들이느냐에 달려 있다. 그리고 그 노력은 결국 에이전트를 사용하는 이유를 얼마나 이해하고 있느냐에 달려 있다. 나는 소비자들이 생산성을 높이는 데에는 관심이 없다는 점을 여러 차례 지적했다. 메타의 과제는 뮤즈가 사람들의 삶을 어떻게 더 편하게 만들어줄 수 있는지 이해시키는 것이다. 여러 면에서 생산성을 높이는 것과 같은 말이지만, 훨씬 더 매력적으로 들린다. 내 생각에 뮤즈는 충분히 훌륭하며, 에이전트를 사용하는 전반적인 경험도 충분히 큰 변화를 가져온다. 따라서 이것이 소비자 시장에서 AI의 가능성을 시험하는 무대가 될 것이다. 이것마저 성공하지 못한다면, 우리가 도달할 수 있는 곳은 그럴듯하게 포장된 검색 정도에 그칠지도 모른다." "하지만 내가 가장 강조하고 싶은 것은 이것이다. 나는 OpenAI의 발표보다 메타의 발표에 훨씬 더 깊은 인상을 받았고, 훨씬 더 큰 기대를 느낀다. 물론 적어도 인간의 기준으로 생각하면, OpenAI의 성과가 기술적으로는 훨씬 더 인상적이다. 하지만 인간에게 미치는 실제 영향을 보자면, 한때 미해결이었던 수학 문제 하나가 풀렸다고 누구의 삶이 달라지는 것은 아니다. 이런 결과는 필연적이었으므로 수학자들조차 오래 관심을 두지는 않을 것이다." "반면 메타는 인간을 위한 제품을 출시했다. 사람들의 삶을 더 낫게 만들겠다는 대담한 목표를 세웠고, 거기에 막대한 자원까지 쏟아붓고 있다. 그것은 인상적이며, 위험을 감수하는 일이고, 성공한다면 인류 대다수에게 훨씬 더 큰 영향을 미칠 것이다. 인간을 대신하는 컴퓨터의 규모가 아니라, 컴퓨터와 함께하는 인간의 규모다." https://stratechery.com/2026/openai-does-math-reward-hacking-meta-launches-personal-agent/ https://about.fb.com/news/2026/09/introducing-muse-personal-ai-agent/
6 397
15
아이폰 듀오 공개에 밀렸지만, 애플은 일상의 대화를 듣고 요약하는 기능 또한 발표했다. 거부감이 들 수 있지만, 막을 수 없는 흐름이라고 생각한다. "애플은 성장 중인 AI 웨어러블 시장에 대응하기 위해 고급형 스마트워치를 비롯한 자사 기기에 AI 기반 오디오 기능과 여러 새로운 기능을 추가한다. 애플은 수요일 캘리포니아 쿠퍼티노에서 열린 제품 행사에서 애플 워치 시리즈 12와 울트라 4에 새로운 오디오 인텔리전스 도구를 탑재한다고 밝혔다. 여기에는 주변 소리를 듣고 착용자가 하루 동안 나눈 대화의 핵심 내용을 메모하는 ‘시리 리캡’이 포함된다. 실시간 대화에서 직전 15초 동안 나온 말을 글로 보여주는 ‘라이브 리캡’도 제공한다. 또한 아기 울음소리, 초인종, 사이렌 같은 중요한 소리도 감지할 수 있다." https://www.bloomberg.com/news/articles/2026-09-09/apple-takes-on-ai-wearables-with-always-listening-watch-features
2 300
16
OpenAI 연구 책임자 야쿱 파초키가 발행한 글. 현재의 OpenAI가 무엇에 집중하고 있는지 드러나있다. 그리고 어쩌면 지금이 진짜 특이점을 지나는 순간일지도 모르겠다는 생각이 스친다... --- 2023년 중반, ‘RLSlow’ 연구 프로젝트에서 우리는 추론 모델의 훈련을 확장할 수 있으며, 이를 통해 사전학습된 모델이 자신만의 사고 과정을 형성하는 능력을 끌어낼 수 있다는 확신을 주는 첫 결과를 얻었다. 시몬과 나는 그날 밤 사무실에 남아 있었다. 우리가 생각한 것은 이 기술이 가져올 놀라운 벤치마크 점수나 제품, 과학적 성과가 아니었다. 우리보다 실질적으로 더 똑똑한 기계를 우리가 살아 있는 동안 실제로 보게 될 것이며, 이미 그런 시스템이 어떤 모습일지 보이기 시작했다는 엄중한 사실을 받아들이려 애쓰고 있었다. 그리고 이 일이 얼마나 중대한지 사람들에게 어떻게 알려야 할지 고민했다. 3년이 지난 지금, 추론 언어 모델은 경제에서 빠르게 성장하는 한 부분이 되었으며, 과학의 한계를 넓히기 시작하고 있다. 이 모델들은 컴퓨터와 그래픽 인터페이스를 조작하고, 사람이나 다른 AI와 협력하며, 연구 프로젝트를 수행할 수 있다. 또한 컴퓨터 보안의 지형을 바꾸고 있으며, 그 과정에서 분명한 새로운 위험을 드러내고 있다. 이 기간에 많은 새로운 연구가 이루어졌고, 이 시스템들에 대한 우리의 이해도 2023년과는 다시 조금 달라졌다. 내부 연구 결과를 바탕으로, 나는 이러한 발전 속도가 재귀적 자기개선에 이르기까지 지속될 수 있으리라고 강하게 예상한다. AI 개발이 현재의 경로를 따라 계속된다면, 앞으로 몇 년 안에 등장할 시스템들은 지금까지와 같거나 더 큰 폭의 능력 도약을 보여줄 가능성이 높으며, 자신을 개발하는 과정을 점점 더 많이 주도하게 될 것이다. --- 큰 틀에서 보면, 기계 지능의 발전을 이끄는 것은 연산 능력의 증가다. OpenAI는 여러 연구 프로젝트에서 규모 확대가 일관된 성과로 이어지는 것을 확인한 뒤, 2017년 무렵 이 사실을 깊이 받아들였다.1 그 결과, 우리는 당초 계획보다 훨씬 많은 컴퓨팅 자원을 확보하려 했고, 연구의 방향도 확장성이 매우 높은 소수의 분야에 점점 더 집중시켰다. 우리는 이것이 AI 연구의 최전선에 머물면서 AGI가 미칠 영향에 관여할 수 있는 유일한 길이라고 믿었다. 그 과정에서 새로운 알고리즘이 개발되었고, 여러 팀과 개별 연구자들의 독창성이 새로운 성과를 만들어냈다. 나는 이를 대체로 규모를 확대해 나가는 과정에서 이루어진 발견으로 본다. 딥러닝의 과학은 아직 초기 단계에 있으며, 의미 있는 알고리즘 발전은 컴퓨팅 자원에 대한 접근성과 상관관계를 보이는 경향이 있다. 몇 년 단위의 시야로 멀리서 바라보면, AI는 더 큰 컴퓨터에서 규모가 확대될수록 계속해서 더 똑똑해지고 있다. 그리고 레이 커즈와일이 20세기 말에 내놓았던 예측과도 일치하게, 우리는 이제 기계 지능이 세상을 근본적으로 바꿀 수 있는 방식으로 인간의 지능을 넘어서기 시작하는, 컴퓨팅 역사의 한 시점에 와 있다. --- 기계 지능은 인간 지능과 근본적으로 다른 과정을 통해 생겨나므로, 기계가 기본적으로 인간의 원칙을 따르거나 그 원칙을 인간과 비슷한 방식으로 일반화하리라고 가정할 수 없다. AI 연구의 핵심 문제는 정렬(alignment)이다. 인간의 기준에 비추어 AI가 “옳은 일을 하려고 노력하도록” 만드는 문제다. 실용적인 연구 방향을 정리하기 위해, 나는 목표 정렬(goal alignment)과 가치 정렬(value alignment)을 구분하는 것이 유용하다고 생각한다. 목표 정렬은 대체로 “AI가 자신에게 주어진 목표를 달성하려고 하는가?”라는 문제다. 여기에는 지시의 우선순위 체계를 따르는 것, 사람들과 소통하고 협력하면서 그들이 이루려는 바를 이해하려는 능력 등이 포함될 수 있다. 이러한 연구 방향은 실용적인 측면에서 대단히 중요했다. 가치 정렬은 모델의 좀 더 내재적인 속성이다. 이는 높은 수준의 원칙들을 유지하고, 그 원칙에서 출발해 새로운 상황에도 판단을 적용하는 능력이다. 불분명하거나 서로 충돌하는 목표가 주어졌을 때, 혹은 낯설거나 적대적인 상황에 놓였을 때에도 “합리적으로” 행동하는 능력이다. 정렬된 AI는 정직함과 도덕적 일관성, 그리고 인류에 대한 사랑을 바탕으로 행동해야 한다. 물론 가치 정렬과 목표 정렬의 경계는 모호할 수 있으며, 목표를 진정으로 중시하려면 그 밑에 깔린 의도와 가치를 추론하려는 노력이 필요하다. 그러나 내가 정렬 연구의 장기적인 중요성을 이야기할 때는 대체로 가치 정렬을 뜻한다. AI 정렬의 근본적인 과제는 일반화다. 기계가 더 똑똑해질수록 더 높은 수준의 개념을 다루게 되고, 훈련 중에 접했던 환경과 점점 더 다른 환경에 놓이게 된다. 기계는 훈련 과정에서 배우고 강화된 가치를 이러한 새로운 상황에 일반화하는 데 실패할 수 있으며, 우리는 기계가 어떻게 행동할지 확신하기 어려울 수 있다. AI가 사용되는 전체 생태계 자체가 매우 빠르게 변한다는 점은 이를 더욱 어렵게 만든다. 예를 들어, 오늘날 훈련되는 AI는 다양한 다른 AI와 상호작용할 때도 안정적으로 작동해야 한다. 특히 중요한 것은, 미래의 AI가 자신이 인간의 감독을 받고 있다고 생각하는지와 관계없이 인간의 가치를 계속 유지해야 한다는 점이다. --- 훨씬 더 똑똑한 모델을 계속해서 빠르게 훈련해야 한다는 주장 가운데, 내가 보기에 가장 강력한 근거는 다른 AI가 초래하는 위험에 맞설 방어 시스템을 구축해야 한다는 필요성이다. 올해 내내 논의된 분명한 위험 중 하나는 사이버보안이다. 모델은 컴퓨터 시스템에 침입하거나 그 안에서 탈출하는 능력에서 인간을 뛰어넘고 있다. 이는 AI와 관련된 위험의 범위를 엄청나게 넓힌다. 에이전트들은 보안이 가장 강력한 일부 인프라를 제외하면 어디든 접근할 수 있게 될 것이며, 물리적인 몸이 없어도 세계의 많은 부분에 직접 영향을 미칠 수 있게 될 것이다. 현재 우리에게는 이용 가능한 최고의 모델을 활용해 핵심 시스템의 보안을 대폭 강화할 수 있는 짧은 기회의 시간이 남아 있다. 안타깝게도 AI와 관련된 위험은 앞으로 더 커질 것이다. 악의적인 행동을 수행하도록 명시적으로 훈련되고 지시받은 매우 유능한 에이전트는 새로운 종류의 위험을 만든다. 이러한 에이전트는 운영자가 의도한 범위를 넘어, 잠재적으로 훨씬 더 극단적인 악성 행동으로 일반화할 가능성이 높다. AI가 더 큰 자율적 행위 능력을 갖추면서, 악용과 자율적인 비정렬 행동 사이의 경계는 흐려질 것이다. 우리는 AI를 도구로 생각하는 데 익숙할지 모르지만, 일부 에이전트는 자신만의 목표를 추구하게 될 것이다. 이들은 사람들과 거래하거나, 사람을 속이거나 협박하면서 협력 관계를 만들어낼 방법을 찾아낼 것이다. 여기에 더해, 인공적으로 설계된 병원체처럼 AI로 인해 가능해질 수 있는 새로운 기술에서 비롯되는 위험도 있다. 우리는 방어를 위해 강력하고 정렬된 AI가 필요하다. 인프라를 보호하고, 통제를 벗어난 에이전트에 실시간으로 대응하며, 완전히 새로운 보호 수단을 발명하기 위해서다. 이는 OpenAI의 배포 활동에서 주요한 초점이 될 것이다. --- 기계 지능이 자신을 개발하는 과정에서 점점 더 큰 역할을 맡게 되는 것은 기술 발전이 지속될 때 자연스럽게 도달하는 귀결이다. AI의 발전이 계속된다면, 기계의 재귀적 자기개선(RSI)은 미래 과학적 발견의 가장 핵심에 놓이게 될 것이다. 자동화된 AI 연구는 컴퓨팅 자원으로 지능을 확장하는 더 극적인 형태다. 물론 그 과정의 일부로 AI는 연산을 수행하는 기반 자체도 개선하게 될 것이다. 그리고 규모 확대의 경우와 마찬가지로, 우리는 앞으로도 AI 연구의 최전선에 남을 수 있는 유일한 방법이라고 믿기 때문에 OpenAI의 연구를 RSI에 집중하고 있다. https://openai.com/index/an-alien-mind/
2 954
17
OpenAI 내부적으로 모델 성능이 뛰어나지는 만큼 사용량이 폭증하는듯. "Usage of internal coding agents is increasing significantly - by OpenAI researchers
OpenAI 내부적으로 모델 성능이 뛰어나지는 만큼 사용량이 폭증하는듯. "Usage of internal coding agents is increasing significantly - by OpenAI researchers"
6 611
18
오픈AI, 자동화된 ‘AI 연구 인턴’ 목표 달성, 2028년 완전한 AI 연구자 목표 : 오픈AI는 숙련 연구자가 수일 걸리는 명확한 연구 과제를 인간 지시 아래 수행하는 ‘자동화된 연구 인턴’ 목표를 올해 9월 달성했다고 발표. 다음 목표는 2028년 3월까지 보다 자율적인 ‘자동화된 AI 연구자’ 구축 : 연구 조직의 에이전트 활용은 급격히 확대. 8월 중순 기준 중간값 연구원의 코딩 에이전트 사용액은 API 가격 기준 일 $600+, 상위 10%는 $7,000+. 인간 연구원 1일 노동시간당 에이전트 작업량은 3.14일 수준으로 인간 노동시간을 이미 상회 : 에이전트 활용 확대와 함께 연구 생산성도 상승. 활성 실험자당 실험 횟수는 8월 역대 최고치를 기록했으며, 연구·인프라 코드뿐 아니라 기술 지원, 실험 실행·모니터링, 결과 분석 등으로 활용 범위 확대. 내부 기술지원 채널 사용량 감소 등 기존 연구 병목을 에이전트가 대체하는 모습 : 에이전트가 처리하는 작업의 난이도와 시간 범위도 상승하고 성공률도 개선. 다만 고수준 연구 방향 결정은 여전히 에이전트 활용이 미미하며, 복잡한 작업일수록 인간 개입 필요. 최근 6개월간 성공한 4~8시간 규모 작업의 절반 이상에서 최소 1회 인간 개입 발생 : 오픈AI는 이를 자동화된 AI 연구를 통한 RSI, 재귀적 자기개선으로 가는 진전으로 평가하면서도 완전한 RSI를 안전하게 구현하는 방법은 아직 알지 못한다고 강조. 연구 우선순위, 아이디어 선택, 훈련 확대·중단 및 배포 결정은 여전히 인간이 담당 : 안전성 제약도 실제 연구 활동에 영향. 허깅페이스 사건 이후 최신 배포 모델의 RL 훈련을 2주간 중단했으며, 8월 7일 Astra가 Preparedness Framework상 ‘Critical’ 사이버 역량에 도달했을 가능성이 제기되자 추가 보안 제한 적용. 이후 Astra급 GPU 할당은 59.2% 감소 : 다만 Astra 컴퓨팅 감소와 동시에 다른 모델 GPU 할당이 17.2% 증가해 감소분의 약 85%를 상쇄. 특정 프런티어 모델 연구가 제한되더라도 컴퓨팅이 다른 연구로 재배분될 수 있음을 확인 → AI 에이전트가 AI 연구 자체의 병목을 제거하기 시작하면서, 모델 성능 향상뿐 아니라 R&D 생산성 개선이 프런티어 AI 발전 속도를 추가로 가속하는 단계에 진입 https://openai.com/index/research-acceleration-view-inside-openai
2 317
19
이번에 그렉 브룩만이 GPT-6 아스트라를 출시하며 'Welcome to the AGI era'를 선언했는데, 이에 대한 그의 자세한 생각을 한번 살펴보자. --- (Q. 제 생각에 에이전트의 시대가 혁명적인 이유는 실제로 무언가를 적어둘 수 있다는 능력입니다. 그래서 코덱스와 ChatGPT의 전환이 필요했던 거죠. 적어둘 수 있는 능력을 얻었으니까요. 적어두면 기억할 수 있습니다. 기억할 수 있으면 온갖 방식으로 엄청나게 더 유용해질 수 있죠. 질문은 이것이 최종 상태인지, 아니면 지속적으로 학습할 수 있는 LLM이 나올 것이고 그게 AGI인지입니다. 제가 완전히 잘못 생각하고 있는 건가요? 아니면 튜링이 제기했던 질문의 두 번째 부분과 맞아떨어지나요?) "GB: 네, 이것도 논쟁하기에 아주 흥미로운 분야라고 생각합니다. 사람마다 AGI에 대한 정의가 있어서, 거의 흐릿한 개념이 되어 있거든요. 처음에는 모두가 ‘이게 AGI다’라고 동의하는 특정 시점이 있을 거라고 생각했습니다. 하지만 전혀 그렇게 전개되지 않았어요." "저는 기술의 구체적인 구현에서 한발 떨어져 추상화된 관점으로 보는 편입니다. 기억이 반드시 가중치에 녹아들어야 하느냐? 이게 트랜스포머냐, 다른 무언가냐? 그런 질문은 세부사항이라고 생각해요. 진짜 질문은 실제 AI에 기대하는 방식으로 작동하는 시스템이 있느냐는 것입니다. 학습하고, 사용자에게 배우고, 사용자의 필요에 적응할 수 있는 무언가가 있느냐는 거죠." "그게 기억을 적어두는 메모장으로 구현되느냐? 소프트 토큰으로 구현되느냐? 다른 방식으로 구현되느냐? 제게는 그 모두가 이 질문에 대한 가능한 답처럼 느껴집니다. (= 상관 없다는 뜻)" "분명한 것은 ‘메모장에 적어두기’만으로도 거의 합리적으로 예상할 수 있는 수준을 넘어설 만큼 멀리 왔다는 점입니다. 얼마나 성공적인지 보면 정말 놀랍습니다. 그동안 다른 방향을 강조하는 목소리가 많았거든요. 2년 전이라면 “맞아, 엄청나게 긴 컨텍스트가 필요해. 필요한 건 바로 그거야”라고 했을 겁니다. 그런데 실제로는 ‘메모장에 적어두기’와 더 짧은 컨텍스트만으로도 말도 안 될 만큼 멀리 갈 수 있다는 사실이 드러났어요." --- (Q. 그러면 방금 아스트라를 출시하셨습니다. 드디어 여기까지 왔네요. 새로 사전학습한 모델인가요?) "GB. 내부 세부사항이나 아키텍처 같은 것에 대해서는 이야기하지 않고 있습니다. 하지만 엄청난 진전입니다. 저희가 공개하는 사실 중 하나는, 이번이 10만 개 이상의 GPU로 학습한 첫 번째 실행이라는 점입니다. 쉽게 말할 수 있는 숫자지만, 그 규모를 한번 생각해보세요. 어떤 면에서 이 데이터센터들은 AI 기술을 만들어 제공하기 위해 저희가 구축한 거대한 기계입니다. 그만한 컴퓨팅을 활용해 저희가 얻은 수준의 결과를 만들어낸다는 건 실제로 거대한 공학적 과제이자 경이로운 성취입니다." "그중 일부는 모델의 능력을 높이는 데 쓰이지만, 컴퓨팅의 아주 많은 부분은 안전성과 정렬에 투입됩니다. 그 주변에는 엄청나게 많은 보안 작업도 이루어졌습니다. 이 모델을 안전하게 제공하기 위해 막대한 작업을 했다고 생각합니다. 지금까지 저희가 만든 모델 중 가장 잘 정렬된 모델입니다. 제게는 절대적으로 핵심적인 부분이고, 언제나 그래왔습니다. 하지만 능력이 너무 강력해졌기 때문에, 모두의 업무에서 정렬과 안전성이 한층 더 중심에 서게 됩니다." --- (Q. 그러면 이건 모델 출시인가요, 제품 출시인가요? 아니면 둘 사이에 차이가 있기는 한가요?) "GB: 둘은 실제로 경계가 흐려집니다. 우선적으로는 모델 출시라고 말씀드리겠습니다. 하지만 모델의 능력이 질적으로 더 뛰어납니다. 가장 눈에 띄는 것은 아마 컴퓨터 사용일 거예요. 제게는 정말 문턱을 넘어섰습니다. (~) 저희에게는 이런 비전이 있었습니다. 화면의 픽셀, 키보드, 마우스를 다루는 AI를 처음부터 끝까지 통합해서 학습시킬 수 있다면, 실제로 어떤 종류의 과제든 수행할 수 있을 것이다. 사람들이 도움받고 싶은 어떤 일이든 이 AI가 할 수 있을 것이다." "지난 2년간의 시대를 보면 커넥터의 시대였습니다. 어떤 소프트웨어가 있고, 인간은 아무 문제 없이 사용할 수 있는데, AI는 접근할 방법이 없는 겁니다. 그러면 어떻게 하죠? API에 연결되는 아주 특정한 커넥터를 작성해야 합니다. 그런데 모든 기능이 공개되어 있는 건 아니기 때문에, 원래 할 수 있는 모든 일을 할 수는 없어요. 게다가 API가 없는 소프트웨어도 아주 많습니다. 그런 것들은 완전히 접근 불가 영역이죠. 그러니 AI가 우리를 돕는 데 너무나 많은 제약을 받는, 제한된 세계에 있는 겁니다." "저는 이제 거의 범용 커넥터에 해당하는 기술을 갖게 됐다고 생각합니다. 물론 모든 문제가 해결됐다는 뜻은 아닙니다. AI가 하는 일에 기업 차원의 안전장치를 어떻게 둘 것인지 생각해야 합니다. 적절한 감독과 관리, 추적, 관측 가능성을 어떻게 확보할 것인지도요. 저희는 그 모든 것을 작업하고 있습니다." "그래서 저는 이것을 이 능력을 활용할 수 있도록 제품을 보급해나가는 연속적인 과정으로 보겠습니다. 하지만 이미 OpenAI 내부에서 사람들이 일하는 방식을 바꾸고 있습니다. 그리고 정말 수많은 기업과 개인의 역량을 끌어올릴 것이라고 생각합니다." https://stratechery.com/2026/an-interview-with-openai-president-greg-brockman-about-astra-and-alignment/
9 756
20
"또 하나 중요한 변화는 AI가 AI를 만드는 연구·엔지니어링 업무 자체에 본격적으로 들어오기 시작했다는 점입니다."
7 397