SemiAnalysis: Anthropic 이미 흑자 전환, 메모리 부족은 수년간 지속될 것, Nvidia의 Blackwell은 자체 홍보 수치 30배 상회
SemiAnalysis의 Dylan Patel, 2026년 7월 'Next Big Thing' 팟캐스트 출연해 컴퓨팅, 메모리, 네트워킹, 전력 분야의 병목 현상 진단
SemiAnalysis의 설립자 Dylan Patel이 WisdomTree의 'Next Big Thing' 팟캐스트에 출연해 AI 인프라 투자자들을 위한 현 상황 점검(state-of-the-union) 성격의 폭넓은 대담을 진행했다. 2022년 2인 규모의 뉴스레터로 시작한 Patel의 회사는 현재 90명 규모의 연구소로 성장했으며, Nvidia, Microsoft, Amazon, Google, Oracle, CoreWeave, Nebius, Crusoe로부터 5,000만 달러 이상의 하드웨어를 기증받았다. 이 회사의 벤치마킹 데이터는 Jensen Huang이 GTC 무대에서 직접 언급할 정도로 영향력이 커졌다. 이번 대담에서는 프론티어 AI 연구소의 경제성부터 메모리 가격 결정 구조, CPU 수요, 광학 기술 및 전력 문제에 이르기까지 AI 공급망 전반에 걸쳐 투자자들이 주목해야 할 핵심 데이터들이 다뤄졌다.
Anthropic, 수익성 확보 단계 진입
이번 대담에서 가장 구체적으로 언급된 새로운 데이터는 Anthropic에 관한 것이다. Patel은 Anthropic이 2026년 4월과 5월에 잉여현금흐름(FCF) 플러스와 흑자를 기록했으며, 아직 결산이 완전히 끝나지는 않았으나 6월 역시 "비슷한 흐름을 보일 것"이라고 밝혔다. 연간 반복 매출(ARR)은 "500억 달러를 훌쩍 넘어섰고", 매출총이익률은 "70% 이상"이다. 이는 프론티어 AI 연구소들이 구조적으로 현금을 소진한다는 시장의 일반적인 가정보다 훨씬 건설적인 결과다. Patel은 이것이 업계 전반의 현상은 아니라고 선을 그으면서도, OpenAI 역시 코드 생성 도구인 Codex와 기타 에이전트 도구의 채택이 가속화되면서 매출이 변곡점을 맞이하고 있다고 지적했다.
Nvidia의 Blackwell, 자체 발표한 25배 성능 목표 상회
Patel은 업계에서 화제가 되었던 일화를 소개했다. 지난 3월 GTC에서 Jensen Huang은 무대 위에서 SemiAnalysis 로고가 새겨진 '추론의 제왕(inference king)' 벨트를 들어 올리며, Blackwell과 Hopper를 비교한 SemiAnalysis의 독립적인 벤치마킹 결과를 약 5분간 논의했다. Blackwell 출시 당시 Huang은 25배의 성능 향상을 주장했는데, 이는 시장은 물론 Patel 본인조차 마케팅 수사로 치부했던 수치였다. 그러나 모든 주요 클라우드 기업으로부터 기증받은 하드웨어에서 매일 밤 실행된 SemiAnalysis의 InferenceMAX 벤치마킹 스위트는 Blackwell이 DeepSeek V3 워크로드를 Hopper보다 30배 빠르게 처리한다는 결과를 보여주었다. Patel은 Huang에게 "Jensen, 제가 틀렸습니다. 당신이 수치를 낮게 잡았던 거군요. 30배였습니다"라고 말했다. 이 에피소드는 단순한 흥밋거리를 넘어, 회의론자들이 흔히 과장되었다고 치부했던 Nvidia의 세대별 성능 향상 수치가 오히려 보수적이었다는 점을 독립적으로 입증한 사례다.
SemiAnalysis의 AI 지출 사례로 본 실시간 ROI
Patel은 최근 기업들의 AI 투자 대비 수익률(ROI)에 대한 의문이 제기되는 상황에서, 자신의 회사를 실시간 데이터 포인트로 제시했다. SemiAnalysis의 내부 AI 도구 사용 비용, 즉 '연간 반복 지출'은 2025년 11월까지만 해도 표준 챗봇 구독료 위주로 10만 달러 미만이었다. 그러나 Claude Code가 Opus 4.5 및 4.6 버전과 함께 본격적으로 활용되면서 2026년 1월 말에는 400만 달러로 급증했고, 현재는 90명 규모의 회사에서 연간 환산 기준 1,400만 달러, 피크 주간에는 그 이상을 기록하고 있다. Patel은 "정말 미친 수준이죠?"라고 반문하며, AI 지출이 이미 직원 급여의 약 3분의 1을 차지하고 있으며 연말에는 절반에 육박할 수 있다고 언급했다. 그는 자사의 경우 실제 제품 출시와 매출 성장으로 이어졌기에 ROI가 확실하다고 주장하면서도, 많은 기업이 연간 AI 예산을 상반기에 이미 "모두 소진"해버려 AI 지출을 줄이거나, 다른 소프트웨어 라이선스를 삭감하거나, 인력을 감축해야 하는 기로에 서 있다고 지적했다. 그는 AI 지출을 억제하는 기업들은 "생산성 향상 측면에서 뒤처지게 될 것"이라고 경고했다.
토큰 효율성이 가격보다 모델 전쟁의 승패를 결정하는 이유
Patel은 OpenAI의 모델이 원시 벤치마크에서 종종 우위를 점함에도 불구하고 왜 Anthropic이 기업용 코딩 워크로드에서 계속 승리하는지에 대해 설명했다. 핵심 변수는 헤드라인상의 성능이 아니라 '토큰 효율성'이다. OpenAI 모델이 프론티어 과학, 수학, 코딩 작업에서 Anthropic을 능가하는 경우가 있지만, 일반적으로 이를 위해 3배 더 긴 시간과 4배 더 많은 토큰을 소모하며, 이는 비용 상승과 인간-AI 피드백 루프의 지연으로 이어진다. Patel은 토큰 효율성이 높은 Anthropic의 모델 덕분에 SemiAnalysis가 "여전히 Anthropic을 주로 사용하고 있다"며, OpenAI의 Codex는 주로 밤새 감독 없이 실행되는 작업에만 사용한다고 밝혔다. 또한 그는 역설적이게도 AI 어시스턴트 워크로드의 비용 최적화는 더 저렴한 모델을 쓰는 것이 아니라 최신 모델을 도입하는 것인데, 더 뛰어난 모델은 여러 번의 문답 대신 단 한 번의 교환과 적은 토큰으로 작업을 완료할 수 있기 때문이라고 덧붙였다.
메모리 부족은 일시적 현상이 아닌 구조적 문제
메모리 분야에 대해 Patel은 현재의 상승세가 지속될 것이라고 주장했던 2026년 1월의 SemiAnalysis 노트를 재차 언급했다. 그의 분석에 따르면 향후 3년간 메모리 용량은 연간 20~30% 성장하는 데 그치는 반면, AI의 메모리 수요는 매년 두 배로 늘어날 전망이다. 이러한 불균형은 스마트폰, 노트북 등 가격 탄력성이 낮은 구매자들을 시장에서 밀어내고 그 자리를 AI가 차지하게 만든다. Xiaomi와 같은 중국 스마트폰 제조사들은 이미 중저가형 제품의 출하량이 약 40% 감소하는 것을 경험했지만, 하이엔드 시장은 아직 타격을 받지 않았다. 이는 iPhone과 MacBook 가격이 균형점에 도달하기 위해 100달러 수준이 아닌 "수백 달러" 인상되어야 함을 의미한다. Patel은 메모리 시장의 상황을 명확히 진단했다. "메모리 부족은 단기적인 현상이 아닙니다. 수년간 지속될 부족 사태입니다." 그는 또한 메모리 매출총이익률이 그가 예상하는 85~90% 수준에 도달하기 전까지는 상승세가 이어질 것이며, 이후에야 평균 회귀(mean-revert)가 일어날 것이라고 지적했다.
CPU: 실질적 수요는 존재하나, 새로운 패러다임 아닌 '따라잡기'
SemiAnalysis는 강화 학습 및 에이전트 워크로드와 관련된 CPU 수요 변화를 일찍이 포착했다. 이러한 작업은 초기 챗봇 형태의 추론보다 환경 확인, 도구 호출, 코드 실행을 위해 훨씬 더 많은 CPU 컴퓨팅 자원을 필요로 한다. 2025년 11월 기관 연구 보고서와 2026년 1월 뉴스레터를 통해 제기된 이 분석은 Arm, Intel, AMD의 주가 급등과 궤를 같이했다. 그러나 Patel은 셀사이드(매도 측 분석가)의 과도한 낙관론에 대해 선을 그었다. 그는 일부 분석가들이 CPU 지출이 GPU 지출과 비슷해지고 있다고 잘못 결론 내리고 있다고 비판했다. "기술을 전혀 이해하지 못하는 셀사이드가 멋대로 지어내는 이야기"라며, 그는 CPU 5,000달러 대비 GPU 5만 달러라는 예시를 통해 CPU 지출이 여전히 GPU 비용의 작은 부분에 불과하다고 설명했다. 그가 보기에 현재 상황은 일회성 '따라잡기(catch-up)'다. 하이퍼스케일러들이 2023년과 2024년에 배치한 GPU 대비 CPU를 적게 구매했던 물량을 이제야 보충하고 있는 것이며, 이 과정이 끝나면 정상적인 성장률로 회귀할 것이라는 분석이다.
네트워킹: 구리선이 시간 벌어주는 사이, Co-packaged Optics는 2029년으로 지연
Patel은 이번 주 초 발행된 SemiAnalysis 기관 노트를 인용하며, 많은 투자자가 임박한 대규모 업그레이드 주기로 간주해 온 '공동 패키징 광학 기술(CPO)'의 도입 시기에 대해 시장이 지나치게 낙관적이라고 지적했다. "현재 사람들은 CPO에 대해 지나치게 들떠 있습니다. 제 관점에서 CPO는 2027년에 오지 않습니다. 2028년 말은 되어야 하며, 2029년이 되어야 본격적인 확장이 가능할 것입니다." 제조 수율, 칩 준비 상태, 생산량 모두 아직 미성숙하며, Nvidia의 로드맵 역시 이러한 지연을 반영하고 있다. Rubin과 Rubin Ultra는 여전히 구리 기반이며, 차세대인 Feynman조차 GPU에 CPO를 완전히 적용할지 확정되지 않았다. Patel에 따르면 이러한 지연의 단기적 수혜자는 Amphenol과 같은 구리 인터커넥트 공급업체이며, SemiAnalysis는 이들의 실적이 기존 추정치를 상회할 것으로 보고 있다. 반면 장기적으로는 여전히 CPO가 업계의 종착지라는 점에는 변함이 없다.
전력: 데이터 센터 에너지의 '즉흥적 시대' 도래
에너지 분야에 대해 Patel은 데이터 센터 용량이 올해 20기가와트에서 내년 30기가와트, 내후년 50기가와트로 약 두 배씩 증가할 것이며, 약 2년 내에는 신규 데이터 센터 전력의 절반이 전력망에서 끌어오는 것이 아니라 현장에서 직접 생산될 것이라고 밝혔다. 규제 및 유틸리티 상각 제약으로 인해 송전망 문제는 여전히 가장 해결하기 어려운 병목 현상이지만, 발전 및 전력 변환 분야에서는 '즉흥적 혁신'이 일어나고 있다. 디젤 트럭, 기차, 선박용 엔진을 가스용으로 개조하여 발전기로 사용하는 방식부터 왕복 엔진, 산업용 가스 터빈, 그리고 GE Vernova, Mitsubishi, Siemens의 전통적인 복합 화력 발전소까지 다양한 시도가 이어지고 있다. Patel은 중국의 제조 규모를 등에 업은 태양광+배터리 비용이 빠르게 하락하고 있어, 운영자가 요구하는 신뢰성 기준에 따라 약 2년 내에 가스 발전보다 저렴해질 것으로 예상했다. 더 나아가 SemiAnalysis는 배터리 요구 사항을 완전히 제거할 수 있는 우주 데이터 센터에 대한 연구도 발표했다. Patel은 디젤 엔진 개조 방식에 대해 "골치 아픈 일이겠지만 효과는 있을 것"이라고 평하며, 현재 데이터 센터 구축에 있어 칩보다 전력이 더 즉흥적인 제약 요소가 되고 있다는 자신의 견해를 요약했다.