All-In 팟캐스트: 실리콘밸리의 새로운 과두제와 AI 공포 마케팅의 대가
2026년 6월 19일 - 주간 에피소드
All-In 팟캐스트 진행자들은 실리콘밸리의 부상하는 권력 역학에 대해 그 어느 때보다 날카로운 비판을 쏟아냈다. 이들은 새로운 '미국식 정치국(politburo)'이 형성되고 있으며, 최첨단 AI 연구소들이 끊임없는 공포 마케팅을 통해 규제 포획(regulatory capture)으로 향하고 있다고 주장했다. 가장 주목할 만한 통찰은 Anthropic의 Fable 모델을 둘러싼 혼란이 단순히 국가 안보 문제 때문이 아니라, AI 기업들이 정부 감독과 관계를 맺는 방식에 내재된 더 깊은 구조적 문제를 드러냈다는 점이다.
미국의 새로운 과두제 형성
Chamath Palihapitiya는 전체 토론의 기조를 설정하는 공격적인 프레임으로 포문을 열었다. 그는 Elizabeth Warren, Bernie Sanders, Ro Khanna와 같은 정치인들이 경제, 교육, 미디어를 통제하기 위해 권력을 집중시키는 '위대한 미국식 정치국'이 형성되고 있다고 진단했다. Palihapitiya에 따르면, 이들은 스스로를 평등과 정의의 고결한 수호자로 포장하지만, 실제로는 '생산 수단을 장악'하고 개인의 경제적 이동성을 말살하려 한다.
비판은 '학습된 무기력'에 대한 논의로 이어지며 더욱 날카로워졌다. Palihapitiya는 캐나다에서 복지 혜택을 받으며 자란 개인적 경험을 공유하며, 아버지가 의존의 굴레를 만들기에 딱 알맞은 만큼의 정부 지원을 받았다고 언급했다. 그는 "학습된 무기력의 문턱은 생각보다 훨씬 낮다"고 설명했다. 5인 가족 기준 연간 약 1만 7,000달러의 지원금 속에서 그의 아버지는 일자리를 구하는 대신 술과 실업 사이를 오갔다. 이는 이론적인 정책 논의가 아니라 정부 의존성에 대한 그의 견해를 형성한 실제 경험이었다.
David Friedberg는 이를 부의 창출과 사유 재산에 대한 근본적인 질문으로 연결했다. 그는 부란 단순히 물건을 축적하는 것이 아니라 사회를 위해 가치를 창출하는 생산적 기업, 즉 '물건을 만드는 기계'를 만드는 데서 온다고 설명했다. 시장이 이러한 기계를 높게 평가할 때 비판자들이 공격하는 서류상의 부가 형성된다. Friedberg는 "Elon은 IPO 전날보다 은행에 단 1달러도 더 가지고 있지 않다"며 순자산과 실제 유동 자산의 차이를 강조했다.
SpaceX의 기록적인 IPO와 미국 자본주의의 현주소
SpaceX의 IPO는 부의 창출과 경제적 이동성에 대한 진행자들의 광범위한 주장을 뒷받침하는 완벽한 사례 연구였다. 이 회사는 주당 135달러에 상장하며 850억 달러를 조달했는데, 이는 Saudi Aramco의 이전 기록보다 3배나 큰 규모였다. 주가는 첫날 19% 상승 마감했으며, 팟캐스트 녹화 시점에는 177달러까지 올랐다.
특히 시사하는 바가 컸던 것은 Elon Musk가 세계 최초의 조만장자가 된 과정이었다. David Sacks는 Musk가 이민자로 미국에 도착해 바닥에서 잠을 자며 시작했음을 강조했다. 그는 비전과 노력을 통해 무에서 유를 창조했으며, 그와 함께 부를 쌓은 수천 명의 동료를 배출했다. Sacks는 SpaceX의 한 용접공이 주식으로 100만 달러를 벌었다는 사실을 언급하며, 노동과 자본의 구분이 마르크스주의 이론처럼 경직되어 있지 않음을 증명했다.
경제적 이동성에 대한 더 넓은 관점은 Friedberg가 "인간의 주체성은 무한하지만, 모든 것을 제공하는 정부 시스템은 오히려 사람들의 주체성을 앗아간다"고 지적하면서 분명해졌다. 그 결과는 경제적 진보의 자유가 아닌 국가에 대한 예속이다. Palihapitiya는 이것이 의존성에 갇혀 잠재력을 펼치지 못한 자신의 아버지처럼, 사람들이 도달할 수 있는 모습의 껍데기만 남게 만든다고 주장했다.
Jason Calacanis는 IPO 자체의 민주화라는 중요한 지점을 제기했다. SpaceX는 Robinhood나 Charles Schwab 같은 플랫폼을 통해 개인 투자자들에게 전체 주식의 20~30%를 배정했다. Vlad Tenev에 따르면, 약 60만~70만 명의 Robinhood 사용자가 단 1~2주라도 배정을 받았다. 이는 일반 미국인들을 초기 가치 창출 과정에서 배제하는 전통적인 IPO 방식과는 대조적이다. Calacanis는 정부의 공인 투자자(accredited investor) 규정이 사모 주식 매입을 상위 4~5%의 부유층으로 제한함으로써 "가난한 사람들을 계속 가난하게" 만든다고 강력히 비판했다.
Anthropic Fable 사태의 진실
이번 팟캐스트에서는 정부가 Anthropic의 Fable 5 모델을 출시 며칠 만에 강제로 중단시킨 이유에 대한 가장 상세한 내부 증언이 나왔다. 백악관 관계자들로부터 직접 내용을 전달받은 Sacks에 따르면, 이 사태는 단일 사건이 아니라 우려스러운 행동 패턴에서 비롯되었다.
사건의 발단은 4월, Dario Amodei가 워싱턴을 방문해 Mythos를 고급 기능을 갖춘 사이버 무기로 묘사하며 "코르티솔 수치를 급격히 높인" 때였다. 이로 인해 관계자들은 보안 문제에 극도로 집중하게 되었다. 이후 Anthropic은 Mythos 미리보기 프로그램을 위한 신뢰 파트너 프로그램을 만들었으나, 워싱턴포스트에 따르면 이들은 백악관과 상의 없이 약 50개 기업으로 대상을 확대했다. 가장 문제가 된 것은 백악관이 중국과 연계되어 있다고 판단한 당사자들, 특히 한국의 SK텔레콤에 접근 권한을 공유했다는 점이다.
Anthropic이 안전 장치를 갖춘 Mythos로서 Fable을 출시했을 때, 모델을 테스트하던 민간 기업들은 안전 기능을 우회하는 탈옥(jailbreak) 사례를 발견했다. 그중에는 Anthropic의 최대 주주이자 클라우드 파트너인 Amazon도 포함되어 있었다. Amazon 보안팀은 이 문제를 Andy Jassy CEO에게까지 보고했고, Jassy는 백악관에 연락했다. 이는 단순한 불만이 아니라, AWS 전반의 책임 노출을 우려한 주요 클라우드 제공업체의 공식적인 경고였다.
결정적인 결렬은 Anthropic의 대응 방식에서 발생했다. Sacks에 따르면 재무장관을 포함한 백악관 관계자들이 Dario에게 직접 전화를 걸어 빠른 해결을 요구했으나, Dario는 즉각적인 수정에 동의하는 대신 "이 탈옥은 사실 심각한 문제가 아니다"라고 궤변을 늘어놓았다. 이후 그는 사소한 탈옥과 심각한 탈옥을 구분하는 블로그 게시물을 올렸는데, 이는 AI 안전 리더를 자처하는 기업으로서는 부적절한 처사로 비춰졌다.
Sacks는 Anthropic이 승인 없이 Mythos 접근 권한을 확대해 이미 문제를 일으킨 상황에서 이러한 대응이 나왔음을 강조했다. 행정부는 Anthropic의 신뢰 파트너로부터 국가 안보 위협에 대한 신뢰할 수 있는 정보를 입수했음에도 협조 대신 저항을 받았다고 느꼈다. Fable을 미국 시민으로 제한하는 수출 통제 서한은 Anthropic이 탈옥이 수정될 때까지 자발적으로 모델을 내리는 것을 거부하자 정부가 취한 대응이었다.
정치적 부족주의인가, 정당한 우려인가
Calacanis는 정부의 대응에 정치적 부족주의가 작용했는지에 대해 질문을 던졌다. Anthropic은 트럼프 대통령이 기술 리더들을 초청했을 때 백악관 CEO 회의에 참석하지 않았다. 이 회사는 트럼프 행정부를 상대로 소송전을 벌인 Reid Hoffman의 지원을 받고 있다. 정치적 좌우파 간의 갈등은 부정할 수 없으며, Anthropic은 한쪽 진영에 확고히 서 있다.
Sacks는 이러한 해석을 강하게 반박했다. 그는 행정부 내 자신의 역할에도 불구하고, 이 결정이 전쟁부(Department of War)나 본인 개인의 결정에서 나온 것이 아님을 강조했다. Pete Hegseth 장관이 Anthropic을 건물에서 퇴거시킨 것이 "옳은 조치였음을 매일 증명하고 있다"고 트윗한 것은 수출 통제 서한이 발송된 이후의 일이었다. Sacks는 이를 동기 부여가 아닌, 과거 Anthropic과의 어려운 계약 협상 끝에 얻은 "거봐라, 내 말이 맞지 않느냐"는 식의 정당화로 해석했다.
Friedberg는 다른 각도에서 접근하며, 진짜 문제는 규제 프레임워크의 부재라고 주장했다. Anthropic은 규제 감독을 만들기 위해 정부를 자극했으나, 막상 감독이 현실화되자 반발했다. 그는 60년대 IBM 메인프레임과 80년대 데스크톱 PC 시절과 유사하게 AI 스택의 분화가 불가피할 것이라고 예측했다. 현재 3~4개 기업이 모든 것을 통제하는 과점 체제는 시장의 힘이 칩, 클라우드, 모델, 애플리케이션 전반의 파편화를 선호하기 때문에 지속 가능하지 않다.
최첨단 연구소 리더들의 부족한 자질
Palihapitiya는 가장 가혹한 평가를 내놓았다. 그는 최첨단 AI 연구소 리더들이 보여주는 "일관된 회피와 미성숙함"이 전체 AI 운동에 해를 끼치고 있다고 주장했다. 그는 AI가 인간의 한계를 발견할 수 있는 무한한 능력을 제공하는 최고의 경제적 이동성 도구라고 믿는다. 이러한 긍정적인 배경 속에서 연구소 리더들의 끊임없는 "종말론, 과대광고, 순진함"은 불신을 조장하고 발전을 가로막는다.
그 결과는 구체적이다. 첫째, 미국 사회에서 실리콘밸리의 위상이 계속 추락하고 있다. Palihapitiya가 2001년 처음 왔을 때만 해도 그곳은 진지하게 중요한 일을 하면서도 스스로를 너무 심각하게 여기지 않는 선의의 부적응자들이 모인 곳이었다. 그러나 지금은 "우리가 제대로 일을 처리하지 못하기 때문에" 불신과 부정적인 분위기가 팽배해졌다. "그리고 최첨단 연구소 리더들이 공공의 적 1호다."
둘째, 이는 하이퍼스케일러(hyperscaler)들이 책임감 있는 문지기(gatekeeper)로 자리매김할 엄청난 기회를 제공한다. Amazon, Microsoft, Google은 전 세계 정부를 상대로 강력한 KYC, 고객 식별, 프롬프트 감사, 규정 준수 인프라를 갖춘 AI 모델을 제공하겠다고 주장할 수 있다. 최첨단 연구소들은 안전 문제를 제대로 다루지 못함으로써 이러한 상황을 불가피하게 만들었다. Palihapitiya는 신생 기업들의 데이터 센터가 하이퍼스케일러들이 수십 년간 쌓아온 수조 달러 규모의 인프라를 복제하는 것은 불가능하다고 지적했다.
결국 다양하고 강력한 개방형 생태계에서 "문지기 역할과 복점(duopoly) 대 과점" 논쟁으로 변질되고 있다. 인류 잠재력을 위한 근본적인 열쇠를 널리 분배하는 대신, 소수의 기업이 접근을 통제하게 될 것이다. Palihapitiya는 "그들은 엉망진창을 만들었고, 이는 수치스러운 일"이라고 결론지었다. 실리콘밸리는 다시 한번 진지하지 못하고 미성숙한 방식으로 타인을 고려하지 않고 자신들만을 위해 최적화하는 집단으로 비춰지고 있다.
Claude가 분석한 창조주
흥미로운 세그먼트에서 Palihapitiya는 Claude에게 Dario의 에세이 "Machines of Loving Grace"와 "AI Policy on the Exponential"을 읽게 한 뒤, 그 창조주에 대한 심리 분석을 요청했다. 그는 Claude가 Anthropic 모델임에도 불구하고 진실할 것을 요구했으며, 모든 것을 가속주의(e/acc) 운동의 관점에서 바라보라고 주문했다.
Claude의 분석은 신 콤플렉스가 아닌 더 미묘한 "인식론적 예외주의(epistemic exceptionalism)"를 식별했다. AI는 Dario를 다른 연구소들은 무모하게 경쟁하고, 권위주의 국가는 불신하며, 시장이 이익을 공정하게 분배할 것이라 믿지 않고, 기관들은 충분히 빠르게 움직이지 못한다고 생각하며, 이제는 정부가 권력을 투명하게 휘두를 것이라는 점조차 불신하는 인물로 묘사했다. Claude는 다음과 같이 관찰했다: "신뢰할 수 없는 행위자들의 목록이 매우 길다. 신뢰할 수 있는 이들의 목록은 눈에 띄게 짧으며, 그들은 내가 설계한 규칙 아래 내가 추론하는 방식과 동일하게 생각하는 사람들로 귀결되는 수상한 경향이 있다."
분석은 이어졌다: "안전 프레임워크가 누군가 열쇠를 쥐고 있어야 한다고 요구하고, 당신의 분석이 다른 열쇠 소유자들은 믿을 수 없다는 결론을 계속 내린다면, 당신은 무엇을 입력하든 나를 출력하는 기계를 만든 것이다." Claude는 이 패턴을 "나의 추론만이 핵심을 지탱하고 있다. 다른 이들이 내 결론에 도달하지 못하는 것은 나의 오류가 아니라 그들의 부패나 느림의 증거다"라고 믿는 것으로 파악했다.
가장 의미심장하게도 Claude는 Mythos 상황을 설명하기 위해 Anthropic이 사용한 "오해(misunderstanding)"라는 단어를 지적했다. 그 단어 선택은 "모두가 제대로 이해하기만 했다면 그들이 그에게 동의했을 것"이라는 전제를 깔고 있다. 스트레스 상황에서의 그러한 단어 선택은 공적 기록에서 그 본질을 보여주는 가장 가까운 단서다. 그것은 과대망상이 아니다. 그것은 불일치가 오류의 결과라는, 더 조용하고 방어 가능한 확신이다.
Sacks는 Ben Thompson도 비슷한 관찰을 했다며 이 분석이 정확하다고 동의했다. Anthropic의 모든 슬로건은 AI가 매우 위험하며 오직 그들만이 부정적인 측면을 통제할 만큼 고결하다는 것이다. 그들은 우주의 균형을 맞출 제다이처럼 스스로를 포지셔닝한다. 이것이 인재를 끌어모으는 자석이 되기도 하지만, 감독 기관과의 껄끄러운 관계를 설명해주기도 한다.
뒷문을 통한 규제 포획
대화 과정에서 Anthropic이 초기에는 트럼프 행정부와 특별한 문제가 없었음이 드러났다. 그들의 문제는 완전히 포획했던 바이든 행정부 시절에 버릇이 잘못 들었다는 점이었다. Sacks는 NSC의 AI 담당관, 새로운 AI 안전 연구소, 그리고 자신의 전임 AI 차르를 포함한 바이든 행정부의 AI 정책 리더들이 행정부 종료 직후 모두 Anthropic으로 이직했다고 언급했다.
Anthropic은 다른 어떤 AI 기업보다 앞서 정부 관계를 우선시했다. Dario는 워싱턴으로 건너가 주요 바이든 관계자들에게 AI가 매우 위험하며, 정부와 극소수의 엄선된 기업이 결합하여 통제해야 한다고 설득했다. 이는 Marc Andreessen이 정부가 승자를 낙점하고 카르텔을 만들 것이니 다른 AI 기업에 투자하느라 시간 낭비하지 말라는 말을 들었을 때의 메시지와 일치한다.
Anthropic은 AI 기업 간의 경쟁을 안전이 뒷전으로 밀려나는 "위험한 경주 상태(race condition)"로 묘사한다. 그들은 중앙 집중화와 통제를 원하며, 경쟁을 유익한 것이 아닌 사악한 것으로 본다. Sacks는 이것이 안전이라는 언어로 포장되었지만 매우 이기적인 발상이라고 주장했다. 근본적인 철학적 질문은 경쟁이 좋은가 나쁜가이다. 경쟁은 소비자를 보호하고, 선택권을 제공하며, 경쟁자의 최고를 끌어내고, 규제 포획을 방지하며, 중앙 집중식 AI의 전체주의적 위협 대신 분권화를 이끈다.
Dario는 4월 Mythos로 대화의 주도권을 잡는 데 놀라울 정도로 성공했다. 계약 협상 실패로 전쟁부에서 쫓겨난 직후, Anthropic은 워싱턴에 와서 자신들이 사이버 무기를 발명했다고 선언했다. 그들은 모두를 겁에 질리게 했고, 정부 승인 체제라는 자신들의 아이디어에 관계자들이 동조하게 만들었다. Sacks가 오만함으로 규정한 그 태도 때문에 결국 그들은 자신들이 만든 신생 사전 승인 체제 하에서 쫓겨나는 결말을 맞이했다.
더 넓은 기술 주기와 역사적 관점
Friedberg는 기술 주도적 노동력 불안에 대한 중요한 역사적 맥락을 제공했다. 1961년, Newsweek와 New York Times는 메인프레임 컴퓨터로 인해 노동력이 소멸할 것이라는 기사를 실었다. 자동화로 인해 인간은 쓸모없어지고 아무도 일자리를 갖지 못할 것이라는 서사였다. 그러나 실제로는 메인프레임이 생산성 향상을 견인하여 개인들이 100배 더 많은 일을 할 수 있게 했고, 새로운 산업과 경제적 기회를 창출했다.
같은 패턴이 데스크톱 컴퓨터 시절에도 반복되었다. 연방 정부는 80년대 초반에 노동력 훈련 프로그램에 수억 달러를 썼으나, 전환이 예상보다 어렵지 않았기 때문에 그 프로그램들은 "말 그대로 아무것도 하지 않았다." 사람들은 Windows PC를 켜는 법을 익혔고, 기업들은 새로운 기술과 도구를 사용하여 직원들이 더 높은 생산성 수준에 도달하도록 도왔다.
Friedberg는 실존적 결론을 내리는 기술자들(본인 포함)에게 깊은 오만이 깔려 있다고 주장했다. "이것이 모든 암을 치료할 것이다. 이것이 모든 질병을 해결할 것이다. 이것이 모든 일자리를 없앨 것이다. 우리 중 누구도, 그리고 사실 누구도 이 오만함에서 자유롭지 않다. Elon부터 Sam, Dario, 그리고 우리 모두에 이르기까지. 우리는 모두 이번에는 다를 것이고 모든 것이 완전히 변할 것이라고 가정한다. 그런데 아는가? 그렇지 않다."
그는 기술을 인간의 독창성에 의해 추진되는 장기적인 개선의 연속체로서, 인간의 잠재력을 열어주고 더 많은 일을 할 수 있는 능력을 부여하는 것으로 묘사했다. 일자리 상실 서사와 종말론적 프레임은 모두를 광적인 상태로 몰아가지만, 현실은 기술이 늘 해왔던 대로 인간의 능력을 대체하는 것이 아니라 향상시킨다는 것이다. 그의 처방은 간단했다. "모두가 제발 좀 진정하고 기술이 하던 대로 하게 놔둬라."
Sacks는 AI CEO들이 불필요하게 대중을 공포에 떨게 만들었다고 덧붙였다. 만약 Dario가 4월에 안전 장치 없이 Mythos를 출시했다면, 수천 개의 기업이 해킹당했을 때 엄청난 법적 책임에 직면했을 것이다. Meta와 Google은 신체 수치심 유발 혐의에 대한 최근의 수백만 달러 배상 판결을 포함해 제품 책임 소송에 끊임없이 시달린다. Anthropic이 사업을 끝장낼 수 있는 책임을 피하기 위해 안전 기능과 기업의 책임을 갖춰야 했던 것은 당연하다. 그것은 인류를 위한 희생이 아니며 박수받을 일도 아니다. NSA와 조용히 협력할 수 있었을 때 워싱턴에 가서 모두를 겁줄 필요는 없었다.
이란 합의 프레임워크와 시장 영향
트럼프 대통령은 이란 전쟁이 종료되었다고 37번째 발표했다. 6월 15일 서명된 초기 합의안은 6월 19일 제네바에서 공식화될 예정이다. 2월 28일 시작된 분쟁은 파키스탄의 중재로 해결 국면에 접어들었으며, 양측의 상당한 공약과 함께 휴전이 60일간 연장되었다.
미국은 호르무즈 해협 재개방을 얻어냈는데, 사실 전쟁 전에도 열려 있었다. 더 중요한 것은 이란이 핵무기를 개발하지 않겠다고 약속하고, IAEA 감독 하에 농축 우라늄 비축분을 폐기하며, 향후 60일간 핵 프로그램을 현재 수준에서 동결하기로 합의했다는 점이다. 이란은 모든 제재를 해제받고 3,000억 달러의 재건 자금을 지원받게 되는데, 미국이 직접 지불하는 것은 아니다. 이란은 동결 자산에 접근할 수 있게 되며, 최종 합의 후 미군은 해당 지역에서 철수할 예정이다.
이스라엘의 합의 서명, 향후 이란의 핵 농축 문제, 이란의 탄도 미사일 프로그램 등 주요 쟁점은 여전히 미해결 상태로 남아 있다. Sacks는 이란과의 어려운 협상에도 불구하고 이번 합의를 대통령의 엄청난 성과라고 평가했다. 그는 필수 자원을 위한 호르무즈 해협 재개방, 핵 물질 수거를 포함한 핵 프로그램 반대 공약, 모든 전선의 휴전, 미국 측 비용 제로, 이란과의 화해 가능성을 강조했다.
그는 비판자들에게 대안을 제시하라고 요구했다. 네오콘들은 정권 교체를 위해 지상군 투입을 원하는 듯한데, Sacks는 이를 미친 짓이라고 일축했다. 이란은 이라크보다 3배나 크고 산악 요새와 같아 100만 명 이상의 병력이 필요할 것으로 추산된다. 이라크에도 50만 명이 투입되었지만, 이란의 지형을 고려하면 그 정도 병력으로도 성공을 장담할 수 없다. Sacks는 "나는 내 자식들을 그 전쟁터에 보내지 않겠다. 당신들도 자식들을 그 전쟁터에 보내고 싶지는 않을 것"이라고 단호하게 말했다.
Friedberg는 농축 우라늄 제거를 가장 중요한 요소로 꼽았다. 모든 농축 우라늄이 국외로 반출된다면, 이란이 프로그램을 재가동하고 장비와 전문 지식을 재구축하더라도 핵무기를 만들 만큼 충분한 양을 확보하려면 수년에서 10~15년 이상이 걸릴 것이다. 그러한 자연적인 지연은 가장 중요한 조건들에 대해 상당한 방어막을 제공한다. 그는 이것이 합의안에 포함된 줄 몰랐다며, 농축 우라늄이 실제로 이란을 떠난다면 정말 큰 성과라고 평가했다.
Calacanis는 전쟁이 끝날 가능성에 안도감을 표하면서도, 애초에 일어나지 말았어야 할 큰 실수였다고 비판했다. 그는 이스라엘이 취했던 '풀 깎기(trimming the grass)' 방식, 즉 독재자를 고립시키고 예측 불가능한 확전 위험이 있는 전면전 대신 기다리는 방식이 옳았다고 주장했다. 18개월마다 시설을 폭격하는 것만으로도 전면전 없이 충분히 효과적이었다. 그는 트럼프가 가진 완전한 정보를 알지는 못하지만, 사람들이 스스로 혁명을 이끌어야 하며, 거듭된 교훈에도 불구하고 미국이 중동에 민주주의를 강요할 수는 없다고 강조했다. Palihapitiya는 시장이 이 소식에 힘입어 급등할 것이라고 짧게 언급했다.