DruckFin

구글 딥마인드 인터뷰: 야오 슌위가 말하는 Claude 3.7·Gemini 3 학습, 개인 영웅주의의 종말, 그리고 AI가 근본적으로 단순한 이유

2026년 1분기: 거대 언어 모델의 진화하는 최전선에 서 있는 구글 딥마인드 연구원 야오 슌위와의 대담

서문: 실리콘밸리의 두 '야오 슌위'

샤오쥔: 안녕하세요. 오늘 인터뷰의 주인공은 구글 딥마인드(Google DeepMind)의 연구원 야오 슌위입니다. 실리콘밸리에는 야오 슌위라는 이름을 가진 유명 인사가 두 명 있습니다. 한 명은 OpenAI를 거쳐 텐센트(Tencent)의 최고 AI 과학자로 재직 중이며, 이미 저희 방송에 출연한 바 있습니다. 오늘 제가 모신 분은 앤스로픽(Anthropic)을 거쳐 현재 구글 딥마인드에서 근무 중인 또 다른 야오 슌위입니다. 최근 급변하는 모델 생태계에 대해 깊이 있는 이야기를 나눠보겠습니다.

야오 슌위: 반갑습니다. 야오 슌위입니다. 말씀하신 대로 텐센트에서 최고 AI 과학자로 일하는 동명이인과 이름이 거의 같아 혼란을 드리는 것 같습니다. 경력 경로도 일부 겹치다 보니 구분하기 쉽지 않으실 겁니다. 저는 원래 물리학을 전공했습니다. 칭화대학교에서 응집물질 이론을 연구했고, 스탠퍼드대학교로 건너가 이론 고에너지 물리학, 양자 정보, 블랙홀 물리학을 공부했습니다. 스탠퍼드를 졸업한 뒤 버클리에서 2주간 박사후 연구원으로 머물다 앤스로픽에 합류해 1년간 근무했습니다. 작년 9월 말에서 10월 초쯤 구글 딥마인드의 Gemini 팀에 합류했습니다. 저를 구분하는 가장 큰 차이점이라면, 다른 야오 슌위는 처음부터 컴퓨터 과학을 전공했고, 저는 이론 물리학을 하다가 중간에 이 분야로 넘어왔다는 점입니다.

샤오쥔: 두 분은 친한 사이인가요? 대학 동기라고 들었는데, 서로를 어떻게 평가하시나요?

야오 슌위: 네, 칭화대 학부 시절부터 알고 지냈습니다. 그는 컴퓨터 과학 실험반인 '야오반(Yao Class)'에서 처음부터 전산학을 공부했고, 저는 물리반인 '지반(Ji Class)'에서 물리학을 공부했습니다. 나중에는 그가 프린스턴으로, 제가 스탠퍼드로 갔죠. 보통 스탠퍼드는 컴퓨터 과학, 프린스턴은 물리학으로 유명해 사람들이 의아해하지만, 저희는 반대였습니다. 정말 다른 길을 걸어왔죠. 저는 그가 저보다 훨씬 흥미로운 사람이라고 생각하며, 그에게서 배운 점이 많습니다. 그는 인간과 AI의 상호작용이나 제품적 개념에 대해 깊이 고민하는 편입니다. 실리콘밸리에 있을 때는 몇 주에 한 번씩 만나 산책하고, 밥 먹고, 카드 게임을 하며 시간을 보냈습니다. 그가 중국으로 돌아간 뒤에도 몇 달에 한 번씩 안부를 묻고 업데이트를 공유합니다.

샤오쥔: 그가 텐센트 팀으로 영입하려고 시도한 적은 없나요?

야오 슌위: 아마 그랬을 겁니다. 하지만 큰 의미는 없다고 봅니다. 개인적으로 아직 다음 장기 계획을 확정하지 않았습니다. 제가 중국 기업에 합류하지 않은 이유는 작년 9월 앤스로픽을 떠날 때, 단순히 다른 것을 배우고 싶다는 욕구가 가장 컸기 때문입니다. 거창한 프로젝트를 이끄는 것보다 새로운 기술 영역을 배우는 데 우선순위를 두었고, 그래서 Gemini 팀을 선택했습니다.

AI 경쟁의 변화: 평준화되는 전장

샤오쥔: 다른 야오 슌위는 작년에 AI가 개발 주기의 후반전에 진입했다고 말했습니다. 오늘날 AI는 어느 단계에 있다고 보십니까?

야오 슌위: 저는 전반전과 후반전이라는 정의가 그다지 명확하다고 생각하지 않습니다. 다만 AI는 이제 업계 관계자들이 '모델이 특정 능력을 갖출 수 있을까'를 걱정하는 단계에서, '목표로 하는 문제가 제대로 정의되었는가'를 고민하는 단계로 넘어왔습니다. 1년 전 앤스로픽에 있을 때만 해도 모두가 OpenAI의 추론 능력을 따라잡거나 넘어설 수 있을지 전전긍긍했습니다. 하지만 오늘날 구글 Gemini, OpenAI, 앤스로픽 같은 최상위 연구소들 사이에서 뒤처질까 봐 걱정하는 곳은 없습니다. 지금 더 어려운 점은 모델이 실제로 무엇을 해야 하는지를 결정하는 것입니다. 이는 인간의 깊은 통찰력과 전략적 베팅을 필요로 합니다.

샤오쥔: 그렇다면 모델 성능이 평준화되어 차별화할 여지가 거의 없다는 뜻인가요?

야오 슌위: 표준화된 공개 벤치마크상으로는 모두가 매우 근접해 있습니다. SWE-bench, AIME, IMO 같은 측정 프레임워크는 과거에는 추론이나 코딩 능력을 명확히 구분했지만, 이제 최상위 모델들은 복잡한 벤치마크에서 80%대라는 비슷한 고지에 몰려 있습니다. 여기서 1~2%포인트 차이는 진정한 우월함의 신호라기보다 노이즈에 가깝습니다. 그럼에도 사용자는 일상적인 경험에서 차이를 느낍니다. Claude는 여전히 툴 사용 에이전트로서 가장 유능한 범용 모델이고, 순수 코딩 분야는 경쟁자들이 격차를 좁혔으며, Gemini는 순수 추론과 일상적인 대화 시나리오에서 강점을 보입니다.

샤오쥔: 이러한 능력 차이는 기업의 의도적인 우선순위 설정 때문인가요, 아니면 엔지니어링의 한계 때문인가요?

야오 슌위: 우선순위가 매우 큰 요인입니다. 과거에는 모델 간 차이가 벤치마크에 드러났을 때, 특정 방향에 집중하려는 의지가 팀으로 하여금 적절한 데이터 파이프라인과 인프라를 구축하게 했습니다. 데이터 큐레이션은 엄청난 시간과 노력이 듭니다. 현재는 우선순위 문제와 근본적인 정의 문제가 동시에 작용하고 있습니다. 문제가 명확하지 않을 때, 실제 성능 차이는 예상치 못한 곳에서 발생합니다. 예를 들어, 몇 년 전 연구자들은 웹 데이터로 학습한 모델이 코딩을 놀라울 정도로 잘한다는 것을 발견했습니다. 이는 GitHub 데이터가 일반 웹 페이지보다 구조화된 표준을 갖추고 있어, 사전 학습 데이터의 전반적인 품질이 의도치 않게 높아졌기 때문이었습니다.

제품의 해자(Moat)와 AI 어시스턴트의 진화

샤오쥔: 현장 연구원으로서 최근 OpenClaw와 같은 오픈소스 AI 컴퓨터 사용 에이전트에 대한 열기를 어떻게 보십니까? 연구 커뮤니티 내부에서는 어떤 논의가 오가고 있나요?

야오 슌위: 흥미롭게도 업계 밖의 토론이 내부보다 훨씬 뜨겁습니다. 업계 관계자들에게 이런 제품 형태는 그리 놀랍지 않습니다. 최상위 기업 내부 연구원들은 이미 비슷한 데모와 실험을 구축해 두었지만, 이를 대중적인 소비자 제품으로 패키징하고 다듬지 않았을 뿐입니다. OpenClaw의 초기 코드는 매우 깔끔한 수준은 아니었지만, 대중에게 개념의 실현 가능성을 증명했다는 점에서 중요했습니다. 그 직후 OpenClaw 개발자는 OpenAI에 합류했죠. 주요 AI 연구소들은 곧 이러한 기능을 견고한 소비자용 제품으로 다듬어 따라잡을 것입니다. OpenClaw가 출시되기 전부터 구글은 비슷한 에이전트를 적극적으로 개발하고 있었지만, 대기업은 자연스럽게 더 긴 개발 및 출시 프로세스를 거치게 됩니다. 기술적으로는 Claude 3.5 Opus가 출시되었을 때 이미 이러한 에이전트 능력은 가능했습니다. 당시에도 뛰어난 툴 사용 능력을 갖추고 있었으니까요.

샤오쥔: Manus와 같은 초기 에이전트 프레임워크와 OpenClaw 같은 최신 모델의 질적 차이는 무엇인가요? 왜 두 곳 모두 메타나 OpenAI 같은 대형 기업에 기술을 매각하기로 결정했을까요?

야오 슌위: 솔직히 그 질적 차이가 무엇인지, 왜 이전 프레임워크들이 같은 바이럴 성공을 거두지 못했는지는 저도 확신할 수 없습니다. 아마 실행력과 타이밍의 문제였을 것입니다. 매각을 선택한 이유는 AI 스타트업이 장기적으로 생존하려면 '해자'가 필요한데, 현재 그 핵심 해자가 모델 측면에 있기 때문입니다. 아직 데이터 플라이휠을 제대로 구축한 소비자용 AI 네이티브 애플리케이션은 보지 못했습니다. 개발자 중심의 코딩 에이전트를 제외하면 대규모 성공을 거둔 순수 AI 네이티브 앱은 거의 없습니다. 챗봇 자체도 기존 검색 엔진의 상호작용적 확장판에 가깝습니다. 정보 검색이라는 유사한 니즈를 충족하되, 답변을 요약하고 정제하는 고도의 상호작용 경험을 제공하는 정도죠.

샤오쥔: 이러한 앱 래퍼(wrapper)들이 모델 기업에 인수되는 것은 스타트업이 기초 모델 제공자의 중력에서 쉽게 벗어날 수 없음을 증명하는 것일까요?

야오 슌위: 현재 래퍼 스타트업이 생존하는 길은 두 가지입니다. 첫째는 초고속 성장을 통해 탈출 속도를 확보하는 것입니다. 모델 기업이 제품을 따라잡기 전에 사용자 점유율을 확보하고, 자체적인 특화 모델을 학습시키는 전략입니다. Cursor가 대표적입니다. 그들은 앤스로픽의 파트너로 시작했지만, 앤스로픽이 자체 개발 도구인 Claude Code를 내놓자 Cursor도 자체 Composer 모델을 학습시키며 경쟁 관계로 돌아섰습니다. 생산성 및 개발 도구 시장은 '승자 독식' 구조가 많아 스타트업과 모델 제공자 모두에게 긴박감을 줍니다. 둘째는 대형 모델 기업이 직접 경쟁하기엔 시장이 너무 작은 틈새를 노리는 것입니다. Midjourney가 좋은 예입니다. 구글이 자원을 투입해 Midjourney를 복제할 수는 있지만, 범용 모델이라는 핵심 사업에서 눈을 돌릴 만큼 시장 규모가 크지 않기 때문입니다.

샤오쥔: 본인이라면 어떤 길을 선택하시겠습니까?

야오 슌위: 개인적으로는 1만 분의 1의 확률을 가진 거대한 기회에 도전하고 싶습니다. 하지만 현실적으로는 하룻밤 사이에 도달할 수 없기에, 우선 높은 수익성을 가진 작은 니치 마켓을 확보하는 것이 더 실용적인 전략입니다. 인수와 관련하여, 대기업이 외부 제품 팀을 인수하는 큰 이점 중 하나는 아시아 지역의 뛰어난 제품 및 엔지니어링 인재를 확보하는 것입니다. 미국이 기초 모델 연구를 선도하지만, 중국에는 예외적인 제품 및 엔지니어링 인재 풀이 있습니다. 스타트업은 빠르게 움직이며 거친 코드를 작성하고 실험적인 기능을 출시할 수 있습니다. 반면 대기업은 법적, 브랜드, 자원 제약으로 인해 사용자의 컴퓨터에 깊은 시스템 권한을 요구하는 실험적인 제품을 출시하기 어렵습니다.

스케일링 법칙과 사전 학습 한계의 신화

샤오쥔: 2026년 1분기 시점에서, 향후 1년 동안의 모델 생태계에 대해 개인적으로 어떤 기대를 하시나요?

야오 슌위: 흥미로운 가능성이 너무 많습니다. 기술적인 측면에서 저는 '유한한 컨텍스트로 학습하되 무한한 것처럼 사용하는' 철학을 강력히 지지합니다. 즉, 제한된 컨텍스트 길이로 학습시키되 추론 시에는 거의 무한한 컨텍스트 윈도우를 다룰 수 있게 하는 것입니다. 이것이 실현되면 사용자와 지속적으로 상호작용하며 대화 내용을 동적으로 평가하고, 중요하지 않은 정보는 버리며 핵심 컨텍스트를 장기간 유지하는 개인 비서와 같은 새로운 애플리케이션이 열릴 것입니다. 올해 기술적으로 반드시 달성할 것이라 봅니다. 업계는 아직 정확한 기술적 경로에 합의하지 못했지만, 가장 효율적인 방법을 찾기 위해 실제 사용자 시나리오에서 여러 유망한 아이디어를 테스트 중입니다.

샤오쥔: 모델 개선 속도가 둔화되고 있다고 느끼시나요?

야오 슌위: 전혀 그렇지 않습니다. 속도를 정량화하기는 어렵습니다. 표준 벤치마크만 보면 점수가 100%에 가까워지면서 자연스럽게 둔화되는 것처럼 보일 테니까요. 하지만 사용자가 느끼는 질적 차이는 벤치마크 상승과 선형적으로 비례하지 않습니다. 복잡한 작업에서 70%에서 75%로 가는 것은 50%에서 60%로 갈 때보다 사용성 측면에서 훨씬 큰 도약으로 느껴집니다. 연구원으로서 제가 관찰한 바에 따르면, 모델의 근본적인 학습 능력은 계속 강해지고 있습니다. 과거에는 모델에게 가르치기 위해 엄청난 엔지니어링 노력이 필요했던 작업들이 이제는 훨씬 적은 마찰로 가능해졌습니다. 병목 현상은 이제 모델의 학습 능력이 아니라, 문제를 명확하게 정의하고 고품질 데이터 환경을 구축하는 우리의 능력에 있습니다.

샤오쥔: 왜 학습 능력이 강해지고 있는 것일까요? 사전 학습을 위한 스케일링 법칙(Scaling Law)이 벽에 부딪혔다는 주장도 있습니다.

야오 슌위: 제 경험상 사전 학습 스케일링은 벽에 부딪히지 않았고, 정체되는 징후도 보이지 않습니다. 사람들이 스케일링 법칙이 한계에 다다랐다고 주장할 때는 보통 세 가지 이유 중 하나입니다. 패러다임의 물리적 한계에 도달했다고 믿거나, 스케일링할 데이터가 고갈되었다고 믿거나, 아니면 단순히 구현 과정에서 눈치채지 못한 버그가 있는 경우입니다. 대다수의 경우 세 번째 이유 때문입니다. 이 업계에서 스케일링 과학이나 데이터 파이프라인의 미묘한 버그 하나를 수정하는 것이 어떤 화려한 알고리즘 기법보다 훨씬 큰 진전을 가져옵니다. 버그를 만나면 패러다임이 한계라고 믿는 사람은 벽에 부딪혔다고 선언하고, 고칠 수 있다고 믿는 사람은 계속 파고듭니다. Gemini와 앤스로픽 모두 이 체계적인 문제 해결에 탁월합니다. 모든 변수를 분리하고 테스트하기 위해 깔끔한 제거 실험(ablation experiment)을 설계해야 합니다.

샤오쥔: 이러한 지속적인 진전을 이끄는 핵심 동력은 무엇인가요? 컴퓨팅, 데이터, 아니면 알고리즘인가요?

야오 슌위: 모두 기여하지만 데이터와 컴퓨팅은 밀접하게 연관되어 있습니다. 컴퓨팅이 커지면 더 많은 데이터가 필요하고, 그 반대도 마찬가지입니다. 알고리즘 돌파구는 단계적으로 나타납니다. 개념적 병목 현상에 갇혔을 때는 Transformer 아키텍처의 발명처럼 불가능을 가능하게 만드는 알고리즘 돌파구가 절대적으로 중요합니다. 일단 프레임워크가 확립되면 알고리즘 진보는 점진적으로 변하며 컴퓨팅과 데이터 효율성을 개선하는 데 집중합니다. 현재의 사전 학습 및 사후 학습 프레임워크 내에서는 컴퓨팅과 데이터가 여전히 핵심 동력입니다. 하지만 멀티모달 생성처럼 아직 해결되지 않은 과학 영역에서는 패러다임이 고정되지 않아 알고리즘 혁신이 지배적인 요인이 됩니다. 자연어 분야는 과학적 프레임워크가 비교적 명확하며, 도전 과제는 거대한 엔지니어링 실행에 있습니다.

AI 코딩 도구의 폭발적 성장

샤오쥔: 지난 몇 달간 코딩이 AI 모델의 가장 빠르게 발전하는 응용 분야가 된 이유는 무엇인가요?

야오 슌위: 코딩은 AI에 완벽한 두 가지 큰 장점이 있습니다. 첫째, 매우 객관적이고 명확한 보상 신호가 있습니다. 모델에게 특정 기능을 구현하도록 코드를 짜라고 하면, 입력값이 예상 출력과 일치하는지 쉽게 테스트할 수 있습니다. 피드백 루프가 즉각적이고 명확합니다. 둘째, 코딩은 수십 년간 축적된 GitHub라는 엄청난 데이터 기반을 가지고 있습니다. 이는 훌륭한 프로그래머들이 작성한 고품질 코드의 거대한 저장소입니다. 이를 통해 연구자들은 매우 견고한 시뮬레이션 환경을 구축할 수 있습니다. 제품 관점에서도 코딩에 대한 사용자 요구사항은 비교적 단일하고 표준화되어 있습니다. 사용자 취향이 매우 주관적이고 다양한 소셜 미디어나 게임과 달리, 훌륭한 프로그래머들은 대체로 무엇이 깨끗하고 간결하며 구조적으로 명확하고 잘 추상화된 코드인지에 대해 동의합니다. 이러한 합의 덕분에 코딩 제품 개발이 훨씬 수월합니다.

샤오쥔: 연구원으로서 일상 업무에서 AI가 생성하는 코드의 비중은 어느 정도인가요?

야오 슌위: 보수적으로 잡아도 제가 사용하는 원시 코드의 90% 이상이 모델 생성물입니다. 덜 보수적으로 말하면 99%에서 100%에 가깝습니다. 하지만 저는 여전히 로직을 검토하고, 편집하고, 검증하는 데 많은 시간을 보냅니다. 제 설계와 정확히 일치하는지 확인하기 위해서죠. 소프트웨어 엔지니어링의 핵심은 이제 구문 작성에서 시스템 아키텍처 설계, 로직 정의, 모델에 적절한 컨텍스트와 참조 파일을 제공하는 것으로 바뀌었습니다. 모델이 작성할 수 없는 코드의 비중은 급격히 줄고 있습니다. 18개월 전과 비교하면 아이디어를 구현하고 연구 실험을 실행하는 효율성이 20~50배 증가했습니다. 여러 실험적 아이디어를 병렬로 실행하고, 모델이 실행을 모니터링하고 결과를 분석하게 할 수 있습니다. 덕분에 제 근무 시간은 더 길고 강도 높아졌습니다. 반복 주기가 너무 빨라 즉시 테스트하고 싶은 아이디어가 끊임없이 나오기 때문입니다. 생성형 AI 분야에서 안주하는 사람은 없습니다. 기술에 열정적이라면 페이스가 매우 가혹할 정도입니다.

샤오쥔: 프로그래머들은 결국 AI에 의해 완전히 대체될까요?

야오 슌위: 그날이 올 것이라 믿지만, 모든 개발자를 하룻밤 사이에 해고하는 방식이 아니라 점진적이고 단계적인 과정이 될 것입니다. 이미 시작되고 있죠. AI는 매우 중앙 집중적인 기술입니다. 소수의 고능력자가 엄청난 생산성을 발휘하게 해주지만, 평범한 초급 개발자의 고유한 가치는 떨어뜨릴 수 있습니다. 전통적인 소프트웨어 엔지니어링의 최종 결과는 1,000분의 1의 인원이 과거 전체 인력의 업무를 수행하며 훨씬 높은 보상을 받는 형태가 될지도 모릅니다. 프로그래머들에게 드리는 조언은 이러한 새로운 도구를 받아들이고 AI와 효과적으로 협업하는 법을 배우라는 것입니다. 상위 수준의 시스템 설계, 전략적 계획, 그리고 자신의 기술적 작업이 대규모 조직에 어떻게 통합되는지를 이해하는 데 집중하세요. AI는 특정 코드 블록을 매우 잘 작성하지만, 거대하고 모호한 프로젝트를 실행 가능한 모듈식 단계로 나누는 것은 적어도 지금은 인간의 영역입니다.

중국과 서구 AI 모델 간의 격차 평가

샤오쥔: 멀티모달 생성 분야에서 최근 바이트댄스(ByteDance)의 Seed 모델 같은 성공을 어떻게 보십니까? 구글 딥마인드 팀에 압박이 되나요?

야오 슌위: 특히 멀티모달 생성 담당 팀에게는 확실히 압박이 됩니다. 하지만 근본적인 패러다임 변화라고는 생각하지 않습니다. 바이트댄스는 역사적으로 사용자 데이터와 제품 엔지니어링에서 강점을 가졌으며, 디테일을 매우 잘 실행합니다. 멀티모달 생성은 여전히 학습 패러다임이 업계 전반에 표준화되지 않은 매우 활발한 과학적 문제입니다. 제 추측으로는 바이트댄스의 뛰어난 성능은 우수한 데이터 큐레이션과 엔지니어링 디테일에 대한 세심한 주의에서 비롯된 것입니다. 바이트댄스의 대형 모델 팀을 이끄는 우융후이(Wu Yonghui)와 직접 일해본 적은 없지만, 구글에서의 과거 기여와 코드 커밋을 보면 그는 여전히 매우 날카로운 실무 기술을 유지하는 보기 드문 고위 리더 중 한 명입니다.

샤오쥔: 2026년 1분기 산업 현황을 볼 때, 중국과 서구 AI 모델 간의 능력 격차는 벌어지고 있나요, 좁혀지고 있나요?

야오 슌위: 절대적인 능력 격차는 좁혀지고 있습니다. 중국 모델 개발자들은 심각한 하드웨어 및 컴퓨팅 제약에도 불구하고 매우 경쟁력 있는 모델을 구축하는 데 능숙해졌습니다. 하지만 그들이 격차를 완전히 좁히거나 서구 모델을 추월할 수 있을지는 여전히 미지수입니다. 컴퓨팅의 불리함은 중국 연구소들로 하여금 모델 증류(distillation)나 멀티 에이전트 학습 시스템 같은 다른 영역에서 매우 혁신적이 되도록 강제했습니다.

하드 증류와 소프트 증류의 역학

샤오쥔: 앤스로픽 CEO는 최근 자사 모델의 데이터를 증류하는 여러 경쟁사를 비판했습니다. 모델 증류 관행을 어떻게 보십니까?

야오 슌위: 모델 증류는 업계의 공공연한 비밀이지만, 무차별적인 증류와 스마트한 '소프트 증류' 사이에는 큰 차이가 있습니다. 무차별적인 '하드 증류'는 Claude 같은 모델이 생성한 방대한 출력물을 가져와 그대로 토큰을 학습시키는 것입니다. 상업적으로는 의문스럽고, 지적으로는 다소 어리석은 짓입니다. 무엇을 만들고 싶은지 모른 채 단순히 점수를 높이기 위해 남의 분포를 베끼는 것이니까요. 반면 소프트 증류는 자체적인 독점 데이터 생성 파이프라인 내에서 다른 모델을 보조자나 평가자로 사용하는 것입니다. 이는 매우 매혹적인 과학적 접근입니다. 이는 효과적으로 일부 중국 연구소들을 멀티 에이전트 학습 시스템의 선구자로 만들었습니다. 다양한 모델 분포를 하나의 응집된 학습 생태계로 통합하고 있기 때문입니다. 바이트댄스의 도우바오(Doubao)는 상당히 독특합니다. Gemini나 Claude의 순수 추론 지능에는 미치지 못할지라도, 실시간 음성 생성은 세계 최고 수준입니다. 그들은 특정 소비자 사용자층을 위해 최적화에 집중하며, 벤치마크 성능보다 낮은 지연 시간과 매력적인 사용자 경험을 우선시했습니다.

샤오쥔: 왜 미국 기업들은 실시간 소비자 기능을 그만큼 우선시하지 않았을까요?

야오 슌위: 미국 모델 개발자들의 주된 초점은 업무 효율성과 순수 인지 지능의 극대화에 있었습니다. 중국은 소비자 측면에 훨씬 강한 초점을 두고, 일상에 녹아드는 매력적인 제품을 만드는 데 집중합니다. 예를 들어, 도우바오 폰은 작업을 실시간으로 실행하는 훌륭한 제품 개념입니다. 다만 모델 실행 비용이 서비스 가치를 넘지 않도록 기술적 오버헤드를 세심하게 최적화해야 합니다. 애플도 Gemini와의 파트너십을 통해 이 소비자 어시스턴트 영역을 해결하려 합니다. 그들이 Siri와 AI 전략을 중요하게 생각하면서도, 자체 모델 개발은 최전선보다 뒤처졌음을 인정하는 것이죠.

로봇 공학과 세계 모델의 미래

샤오쥔: 휴머노이드 로봇에 대한 열기가 뜨겁습니다. 로봇 공학 분야에 대한 관찰과 거대 언어 모델의 개발 일정과 비교하면 어떤가요?

야오 슌위: 휴머노이드 로봇 몇 대와 가격을 살펴봤는데, 중국의 하드웨어 공급망은 매우 성숙해서 물리적 플랫폼이 놀라울 정도로 저렴합니다. 하지만 소프트웨어 측면에서 로봇 공학은 여전히 '피처 엔지니어링' 시대에 머물러 있습니다. 로봇은 매우 구체적이고 결정론적인 환경에서 잘 작동하도록 최적화될 수는 있지만, 일반화 능력이 부족합니다. 옷을 개거나 물을 붓도록 학습시켜도 그 능력이 다른 작업으로 자연스럽게 추상화되거나 일반화되지 않습니다. 언어 모델은 기본 모델을 스케일업하면 모든 하위 능력이 동시에 향상되는 임계점을 넘었습니다. 로봇 공학은 아직 GPT-1의 순간에 도달하지 못했습니다. 물리적 행동 모델의 학습을 진정으로 확장하는 방법을 아직 찾아내지 못했기 때문입니다. 많은 로봇 공학 연구소들이 이제 멀티모달 언어 모델을 기반으로 사용하고, 시각-언어-행동 모델을 학습시켜 이 간극을 메우려 합니다. 이 연구소들을 방문하는 것은 매우 즐겁습니다. 언어 모델 사무실보다 훨씬 역동적이고, 연구원들이 끊임없이 물리적 데이터를 수집하고 기계를 제어하고 있으니까요.

샤오쥔: 당신이 정의하는 '세계 모델(World Model)'은 무엇인가요? 업계 내에서도 이 용어에 대해 상당한 의견 차이가 있는 것 같습니다.

야오 슌위: 그렇습니다. 1만 명에게 물으면 1만 가지 다른 정의가 나올 겁니다. 학계 연구소들이 만드는 세계 모델은 우리가 집중하는 엔드 투 엔드 모델과는 매우 다릅니다. Gemini에게 세계 모델은 엔드 투 엔드로 학습되어, 단순히 설명에서 정적인 비디오를 생성하는 것이 아니라 물리적 시나리오를 모델링하는 것입니다. 모델은 상태를 생성하고, 행동 입력을 받고, 이전 상태와 행동의 직접적인 함수로서 후속 상태를 예측합니다. 아직 매우 탐색적인 단계이며, 세계 모델의 최종 형태에 대해 업계 전반의 단일한 합의는 없습니다.

이론 물리학에서 인공지능으로의 여정

샤오쥔: 개인적인 배경에 대해 이야기해 보죠. 칭화대와 스탠퍼드에서 이론 물리학을 공부하다가 AI로 전환하셨습니다. 그 과정은 어땠나요?

야오 슌위: 저는 닝샤의 작은 탄광 도시 다우커우에서 태어났지만, 초등학교 때 부모님을 따라 상하이로 이사했습니다. 비교적 평범한 중고등학교를 다녔고, 어릴 때는 꽤 평범했습니다. 엘리트 올림피아드 경로로 칭화대에 들어간 것도 아니었죠. 고등학교 때 상하이 4대 명문고의 일반반에 갈지, 언더독으로 평가받던 거즈 고등학교의 물리 경시반에 갈지 선택해야 했습니다. 저는 제가 잘하지 못하는 것에 도전하는 것을 좋아해서 언더독 반을 선택했습니다. 그 결정이 결국 칭화대 물리학과로 이끌었습니다. 고3 때 칭화대 입학처에 왜 독자 전형 시험을 베이징 학생들에게만 개방하느냐고 대담하게 메시지를 보냈습니다. 그들이 시험을 보게 해주겠다고 동의했고, 합격했습니다. 그때 큰 인생 교훈을 얻었습니다. 대담하게 기회를 쟁취하라는 것입니다. 묻지 않으면 답은 항상 '아니오'니까요.

샤오쥔: 칭화대와 스탠퍼드에서 응집물질 이론과 비에르미트(non-Hermitian) 시스템을 연구하셨는데, 쉽게 설명해 주실 수 있나요?

야오 슌위: 인간적인 언어로 설명해 보겠습니다. 기본 양자역학에서는 고립된 시스템이 에르미트 행렬로 기술되는 유니터리 진화를 겪는다고 가정합니다. 즉, 에너지 상태가 수학적으로 자기 일관적이라는 뜻입니다. 하지만 현실 세계의 시스템은 결코 완벽하게 고립되지 않습니다. 끊임없이 환경과 정보와 물질을 교환하죠. 이것이 비에르미트 해밀토니안으로 기술되는 '열린 양자 시스템'입니다. 학부 연구 시절, 우리는 이 시스템에 대한 분석적 계산이 수치 시뮬레이션과 일치하지 않는다는 것을 발견했습니다. 결국 비에르미트 시스템에서 에너지 고유 상태가 물질의 경계에 물리적으로 축적될 수 있다는 것을 발견했고, 이를 체계적으로 모델링하여 수학적 프레임워크를 정립했습니다. 그 연구는 AI에 직접 적용되는 중요한 교훈을 주었습니다. 이론을 너무 믿지 말고, 수치 시뮬레이션을 사용하여 복잡한 시스템에 대한 이해를 끊임없이 검증하고 개선하라는 것입니다.

샤오쥔: 왜 스탠퍼드 박사 과정 중에 고에너지 물리학을 떠나기로 하셨나요?

야오 슌위: 고에너지 물리학은 매우 아름답고 지적으로 도전적이지만, 이론이 우리 생애 내에 실험적으로 검증될 수 없는 지점까지 발전했습니다. 실증 데이터 없이는 수학적 자기 일관성과 선배 학자들의 주관적인 의견에 크게 의존하게 됩니다. 저는 객관적이고 현실적인 피드백이 부족한 분야의 학문적 기득권을 위해 인생을 바치고 싶지 않았습니다. 세상에 적극적으로 영향을 미치고 성공에 대한 명확하고 객관적인 기준이 있는 일을 하고 싶었습니다. 박사 과정 마지막 몇 년 동안 양자 컴퓨팅과 AI를 탐구했습니다. 양자 컴퓨팅의 주된 병목 현상은 제가 강점이 없는 실험적 하드웨어 엔지니어링이라는 것을 깨달았습니다. 반면 AI는 아이디어를 구상하고 즉시 수치 실험을 실행하여 검증할 수 있는 디지털 샌드박스입니다. 이론적 추측과 적극적인 실험이 함께 가던 19세기 물리학의 황금기처럼 느껴졌습니다.

앤스로픽에서의 Claude 3.7 및 4.5 개발

샤오쥔: 앤스로픽에서의 여정은 어떻게 시작되었고, Claude 3.7과 4.5 개발 당시의 문화는 어땠나요?

야오 슌위: 앤스로픽에는 이전 학계 동료들이 있었고, 역사적으로 이론 물리학 배경의 연구원들을 많이 채용했습니다. 2024년 말 면접을 볼 때, 강화학습 팀은 핵심 인력이 10~11명 정도로 매우 작았습니다. 당시 거대 언어 모델을 위한 강화학습(RL)은 매우 미성숙했습니다. OpenAI의 o1이 공개되기 전이었고, 대부분의 연구소는 대규모 RL을 어떻게 안정적으로 만들지 고민하던 시기였습니다. 물리 배경을 가진 팀장이 저를 스케일링 도전 과제에 초대했습니다. Andrej Karpathy의 nanoGPT 같은 오픈소스 프로젝트를 사용해 제 나름의 GPT 시스템을 직접 만들어 기술 면접을 준비했고, 합류했습니다.

샤오쥔: 그 시기 앤스로픽이 연구 조직으로서 독특했던 점은 무엇인가요?

야오 슌위: 앤스로픽은 매우 효과적인 하향식 의사결정 구조를 가지고 있습니다. Jared Kaplan이나 Sam McCandlish 같은 핵심 기술 리더들이 공동 창업자이기도 해서, 엄청난 기술적 신뢰성과 기업적 권위를 가지고 있습니다. 명확한 기술적 신호를 받으면, 코딩 능력 우선순위와 같이 특정 베팅에 전력을 다하도록 즉시 전사를 정렬할 수 있습니다. 이는 다른 기업들이 복제하기 매우 어렵습니다. OpenAI는 내부 정치적 갈등으로 이러한 정렬이 방해받았고, 구글은 조직이 역사적으로 훨씬 하향식에서 상향식으로 분산되어 있습니다. 앤스로픽의 창업 팀은 OpenAI 시절부터 함께 싸워온 깊은 상호 신뢰가 있어 조직이 매우 기민하고 집중력을 유지합니다.

샤오쥔: Claude 3.7은 어떻게 개발되었고, 당신은 어떤 역할을 했나요?

야오 슌위: Claude 3.7 이전의 사후 학습은 그 자체로 확장 가능한 패러다임이라기보다 사전 학습된 모델을 패치하는 과정에 가까웠습니다. 돌파구는 업계가 명확한 피드백 신호가 있는 객관적인 환경, 즉 소프트웨어 엔지니어링 환경을 활용하여 강화학습을 확장하는 방법을 알아냈을 때 찾아왔습니다. Claude 3.7의 핵심 개발은 약 4~5개월이 걸렸습니다. 저는 대규모 RL의 알고리즘 안정성과 모듈식 학습 환경 구축에 집중했습니다. 하지만 이 규모의 AI 개발은 거대하고 고도로 협력적인 시스템 엔지니어링 노력입니다. AI에서 개인 영웅주의의 시대는 끝났습니다. 기술은 멈출 수 없는 파도이며, 연구원들은 그 파도의 정상을 타려는 서퍼일 뿐입니다. 한 개인이 특정 발견을 하지 못하더라도, 자금력이 풍부한 연구소의 다른 팀이 몇 주 안에 필연적으로 해낼 것입니다.

OpenAI, 앤스로픽, 구글 딥마인드의 문화 대비

샤오쥔: 왜 앤스로픽을 떠나 구글 딥마인드의 Gemini 팀에 합류하기로 결정했나요?

야오 슌위: 여러 요인이 있었습니다. 첫째, 앤스로픽은 제가 있는 동안 인원이 2,000명 가까이로 두 배 이상 급성장했습니다. 이런 급격한 성장은 문화적 희석과 내부 마찰을 가져왔습니다. 저는 아이디어를 구현하는 데 필요한 힘들고 세심한 엔지니어링 작업보다는 슬랙(Slack)에서 거창하고 추상적인 원칙에 대해 떠드는 문화를 개인적으로 싫어합니다. 둘째, 앤스로픽 리더십이 추진하는 점점 더 극단적이고 감정적인 반중(反中) 정치적 입장에 동의하지 않았습니다. 마지막으로, 앤스로픽은 좁은 제품군에 집중하고 있어 저수준 인프라 연구나 멀티모달 생성에 투자하지 않습니다. 저는 더 넓은 인간의 지성으로부터 배우고 다양한 연구 방향을 탐색할 자유를 원했고, 구글 딥마인드는 그런 규모의 연구 자유를 위한 독보적인 환경을 제공합니다.

샤오쥔: 많은 연구자가 구글의 기업 구조가 너무 느리거나 제한적이라고 느껴 떠납니다. 당신은 왜 반대 의견을 가지시나요?

야오 슌위: 그것은 전적으로 당신이 무엇을 원하는지에 달려 있습니다. 목표가 자신의 아이디어를 즉시 소비자 제품에 강제로 넣는 것이라면, 구글의 거대한 규모와 복잡한 출시 프로세스는 매우 답답할 수 있습니다. 하지만 목표가 연구의 자유와 방대한 기술 스펙트럼에 걸친 세계적 수준의 엔지니어링 인재를 접하는 것이라면 이보다 더 좋은 곳은 없습니다. 구글의 기술적 저력은 타의 추종을 불허합니다. 게다가 OpenAI의 초기 성공은 거인을 깨움으로써 사실상 구글을 구했습니다. 구글은 의사결정을 재정비하고 간소화해야 했고, 사전 학습을 구글의 편안한 영역 내에서 작동하는 매우 훈련되고 예측 가능한 엔지니어링 프로세스로 탈바꿈시켰습니다.

AI 연구가 근본적으로 단순한 이유

샤오쥔: AI는 근본적으로 단순하며 예외적인 지능을 필요로 하지 않는다는 논쟁적인 발언을 하셨습니다. 무슨 뜻인가요?

야오 슌위: 물리학에서는 특정 에너지 규모의 실험 데이터가 없으면 진행할 수 없습니다. AI는 이런 근본적인 제약에 직면하지 않습니다. 아이디어가 부족해서 막히는 것이 아니라, 이미 가진 수천 개의 아이디어를 테스트하는 데 필요한 시간과 컴퓨팅이 부족해서 막히는 매우 실증적인 분야입니다. 진전을 이루기 위해 천재적이고 패러다임을 바꾸는 통찰력이 필요한 것이 아니라, 실행에 있어 예외적으로 신뢰할 수 있고 디테일에 강하며 체계적이어야 하기 때문에 근본적으로 단순합니다. 깔끔한 코드를 작성하고, 미묘한 버그를 제거하고, 실증 데이터를 주의 깊게 분석해야 합니다. 대부분의 돌파구는 개인의 천재성이 아니라 집단적이고 훈련된 엔지니어링의 결과입니다.

샤오쥔: 신뢰할 수 있고 고품질의 AI 연구원을 선별하기 위해 면접 과정을 어떻게 설계하시나요?

야오 슌위: 후보자에게 24시간을 주고 완전한 강화학습 프로젝트를 밑바닥부터 구축하고 학습시키는 면접 과제를 설계했습니다. 모델, 데이터, 알고리즘을 선택하고 한 시간 동안 저와 구현 내용을 논의해야 합니다. 현대 AI 시대에 원시 코드를 작성하는 것은 후보자가 AI를 사용할 수 있기 때문에 쉽습니다. 진짜 테스트는 그들이 구축한 시스템을 진정으로 이해하고 있는지입니다. 깊고 체계적인 이해 없이 AI가 모든 것을 생성하게 방치한다면 기술 토론에서 즉시 실패할 것입니다. 또한 그들의 헌신과 열망, 즉 빡빡한 제약 조건 하에서 탁월한 결과를 내기 위해 밤을 새울 의지가 있는지도 테스트합니다.

엔지니어링 리더십과 대규모 AI 프로젝트 관리

샤오쥔: 각 연구소는 사전 학습과 사후 학습 간의 트레이드오프를 관리하기 위해 어떻게 연구 팀을 구성하나요?

야오 슌위: 앤스로픽과 구글 모두 사전 학습과 사후 학습을 위한 별도의 전담 팀을 유지합니다. OpenAI의 구조는 역사적으로 더 유동적이고 때로는 혼란스러웠으며, 사후 학습, 강화학습, 제품 팀이 가끔 책임을 공유하기도 했습니다. 효과적인 조직 구조는 결국 엄청난 신뢰를 가진 기술 리더를 확보하는 데 달려 있습니다. 이 리더는 문제가 발생했을 때 최전선에 나서서 중요한 기술적 불을 끌 수 있는 실무 능력을 갖춰야 하지만, 자신이 생각하지 못한 다양하고 탐색적인 아이디어를 이해하고 지원할 수 있는 포용력도 있어야 합니다. 구글은 Koray Kavukcuoglu 같은 리더가 핵심 Gemini 스케일링 프로젝트를 관리하고, Demis Hassabis가 신약 개발 같은 더 넓은 과학적 응용에 집중하는 등 이 측면에서 강력한 균형을 찾았습니다.

샤오쥔: NVIDIA GPU 같은 업계 표준과 비교했을 때, TPU 같은 맞춤형 하드웨어에 대한 구글의 경쟁 우위는 무엇인가요?

야오 슌위: 순수 하드웨어 관점에서 어느 쪽이 대규모 배포에 본질적으로 우월하지는 않습니다. GPU의 주된 장점은 성숙한 오픈소스 소프트웨어 생태계이며, TPU는 구글이 자체 컴파일러와 인프라를 구축하는 데 막대한 투자를 해야 합니다. 하지만 수십만 개의 칩 규모에서는 이 소프트웨어 투자가 완전히 정당화됩니다. 아키텍처 설계 철학은 꽤 다릅니다. NVIDIA의 GPU 포드는 비교적 작은 카드 노드 내에서 초고속 NVLink 상호 연결에 집중합니다. 구글의 TPU는 3D 토러스(Torus) 네트워크 토폴로지를 사용하여, 쌍방 연결 속도를 일부 희생하는 대신 단일 클러스터 내에서 방대한 수의 카드를 직접 연결합니다. 컴파일러와 데이터 샤딩 전략이 이 토폴로지를 활용할 수 있을 만큼 잘 작성되었다면, 엄청난 메모리 용량을 확보하고 대규모 학습 중 통신 병목 현상을 크게 줄일 수 있습니다.

LLM 패러다임의 미래 전망과 프로그래머를 위한 커리어 조언

샤오쥔: 오늘날 AI 분야에 진입하는 젊은이들에게 여전히 블루오션인가요?

야오 슌위: 순수 자연어 처리와 표준적인 LLM 스케일링은 더 이상 블루오션이 아닙니다. 마지막 기차는 이미 떠났고, 이 분야는 거대하고 통합된 엔지니어링 팀이 지배하고 있습니다. 하지만 AI는 믿을 수 없을 정도로 방대한 영역입니다. 멀티모달 생성, 물리적 로봇 공학, AI를 사용하여 근본적인 과학 및 수학 문제를 해결하는 분야에는 엄청난 기회가 있습니다. 젊은 연구원들에게 가장 좋은 선택은 오늘 가장 시끄러운 트렌드를 쫓는 것이 아니라, 내일의 해결되지 않은 방치된 도전 과제에 집중하는 것입니다.

샤오쥔: 미래에 대한 당신의 개인적인 계획은 무엇인가요?

야오 슌위: 거대 테크 기업에 영원히 머물지는 않을 것 같습니다. 계속 스스로 도전하고, 해결해야 할 어려운 문제를 찾고, 새로운 기술 영역을 배우고 싶습니다. 현재 제 최우선 순위는 우리의 ML 코딩 및 장기 지평(long-horizon) 학습 시스템을 매우 안정적이고 상용화 가능한 상태로 만드는 것입니다. 그것이 달성되면 다음으로 어려운 도전 과제를 찾아 나설 것입니다.

샤오쥔: 저희 쇼의 모든 게스트는 자신에게 깊은 영향을 준 책을 추천합니다. 청중에게 무엇을 추천하시겠습니까?

야오 슌위: 솔직히 저는 독서를 많이 하지 않고 전통적인 책을 즐기지 않습니다. 제가 읽는 대부분은 전문 연구 논문입니다. 하지만 최근 노벨 물리학상 수상자인 유카와 히데키의 자서전 '여행자(Tabibito)'를 읽었습니다. 젊은 시절 자기 회의와 도전과 씨름하는 매우 성공적인 과학자의 진솔하고 위로가 되는 모습을 담고 있습니다. 훌륭한 소설 추천을 원하신다면 일본 소설 '신세계에서(From the New World)'를 강력히 추천합니다.

샤오쥔: 오늘 매우 직접적이고 가치 있는 통찰력을 공유해 주셔서 감사합니다, 슌위.

야오 슌위: 감사합니다. 대화할 수 있어 즐거웠습니다.