E스토리

사티아 나델라, 프런티어 AI의 확산과 통제 소프트웨어가 역사상 처음으로 실질적한계비용(marginal cost)을 갖게 된 세상에서, 프런티어 AI의 혜택이 어떻게 생태계 전체로 확산되도록 할 수 있을까요? 핵심은 실제 환경에서 비용 대비 성과(cost-to-outcome frontier)를 최적화하는 것입니다. 실무적으로는 각 작업에 가장 적합한 모델을 선택하고, 모델을 둘러싼 컨텍스트(context), 스킬(skills), 도구(tools), 에이전트 하네스(agent harness)를 함께 최적화하는 것을 의미합니다. 이것이 바로 MAI 모델 패밀리를 개발하게 된 배경입니다. 이 모델들은 데이터 계보(data lineage)를 명확하게 유지한 상태에서 처음부터 구축되었으며, 엔터프라이즈 RLE(강화학습 환경)에서 범용 능력을 전문화된 역량으로 효율적으로 이전 할 수 있도록 최적화되었습니다. 우리는 이 방향에서 계속 빠르게 진전을 이루고 있습니다. 이제 우리는 이미 충분히 성숙한 프런티어 수준의 AI 성능을, 고사용량 제품에 최적화된 모델을 통해 더 낮은 비용으로 대규모 제공할 수 있게 되었습니다. 동시에 정말 최첨단 성능이 필요한 작업에는 여전히 프런티어 모델을 활용하고 있습니다. 우리는 이러한 접근법을 자사 제품에서 실제로 입증하고 있으며, 이를 통해 AI 네이티브 기업, SaaS 기업, 엔터프라이즈 기업 모두가 따라갈 수 있는 하나의 템플릿을 만들고 있습니다. 우리 제품에서는 오픈AI와 앤스로픽의 프런티어 모델이 MAI와 함께 오케스트레이션 시스템의 일부로 동작합니다. 그러나 모델은 지속적인 성능 개선(hill-climbing) 시스템을 구성하는 요소 중 하나일 뿐입니다. 하네스, 메모리, 컨텍스트, 도구, 스킬, 사용자 상호작용등이 모두 이러한 에이전트 시스템의 평가와 실제 성능을 결정합니다. 또 하나 중요한 조건은 특정 모델이 제거되더라도 평가 성능이 계속 향상될 수 있어야 한다는 점입니다. 이를 위해 우리는 모델이 제품 시스템 내부에서 학습하고, 고객이 실제로 중요하게 생각하는 작업을 성공적으로 수행했을 때 보상을 받는 RLE를 구축합니다. 모델은 실제 제품 하네스, 사용자 상호작용, 결과를 기반으로 학습하며, 동시에 하네스, 메모리, 컨텍스트, 스킬과 같은 핵심 요소는 모델 외부에 유지(externalize)되도록 전략적으로 설계합니다. 이처럼 제품별 평가와 모델 독립성은 우리가 시스템을 직접 통제하고, 원하는 품질과 비용 목표에 도달할 때까지 지속적으로 개선할 수 있는 명확한 방향을 제공합니다. 현재 우리는 많은 사용 사례에서 MAI 모델이 범용 프런티어 모델보다 더 뛰어난 성능을 보이면서도 훨씬 적은 토큰만 사용하는 결과를 확인하고 있습니다. 우리는 가장 큰 기회가 세상이 실제로 매일 작동하는 제품 환경에서 이러한 모든 계층을 함께 최적화하는 것이라고 믿습니다. 이에 따라 자사 제품에서는 MAI 모델이 프런티어 모델과 동일하거나 더 우수한 성능을 보일 경우, 트래픽을 점진적으로 MAI로 라우팅하기 시작했습니다. 현재 GitHub Copilot, Excel, Outlook에서 유망한 초기 성과를 확인하고 있으며, 같은 접근 방식을 Copilot Chat, PowerPoint 등 다른 제품으로도 확대하기 시작했습니다. 그리고 전체 시스템이 계속해서 지속적인 성능 개선을 수행함에 따라 이러한 결과는 더욱 향상될 것입니다. 우리가 자사 제품에서 수행하고 있는 방식은 모든 엔터프라이즈 고객이 자신들의 실제 에이전트 시스템에서도 적용할 수 있는 접근법이기도 합니다. 고객은 자체적인 평가 체계, RLE, 워크플로우, 컨텍스트를 활용해 동일한 방식으로 시스템을 최적화할 수 있습니다. 우리는 이러한 모든 기능을 Foundry와 관련 툴체인의 일부로 제공하고 있습니다. → 프런티어 모델은 필요한 곳에 활용하되, 대부분의 AI 서비스는 자체 MAI 모델과 제품 시스템 최적화를 통해 더 낮은 비용으로 더 높은 성능을 제공한다는 전략 강조 https://x.com/satyanadella/status/2080329851127669104