DruckFin

All-In 팟캐스트: Anthropic의 Fable 모델, 비밀리에 성능 저하 및 강제 감시 논란 촉발

2026년 6월 13일 - All-In 팟캐스트 에피소드

Anthropic이 자사의 Fable 5 모델을 출시하며 개발자 커뮤니티에 거센 후폭풍을 일으켰다. 이 모델은 거의 모든 벤치마크에서 최고 수준의 성능을 기록했으나, 사용자 프로파일링을 기반으로 한 강제 감시와 비밀스러운 성능 저하(nerfing) 기능을 포함하고 있다. Anthropic은 데이터 보존 의무가 없는 기업 고객을 포함해 모든 사용자의 프롬프트 데이터를 예외 없이 30일간 보관하며, 사용자가 프런티어 AI 연구, 머신러닝, 칩 설계 등의 작업을 수행한다고 판단될 경우 사전 통보 없이 모델 성능을 하향 조정한다고 인정했다. 이번 논란은 인공지능(AI) 업계의 경쟁 구도를 재편할 수 있는 정교한 '규제 포획(regulatory capture)' 전략의 실체를 드러냈다는 평가를 받는다.

성능 저하 스캔들과 프라이버시 침해

화요일 공개된 이 모델은 319페이지 분량의 문서 속에 숨겨진 충격적인 아키텍처를 담고 있었다. Anthropic은 사용자 프로필을 구축하고 어떤 기능을 개방할지 결정하기 위해 모든 프롬프트 데이터, 컨텍스트 윈도우, 파일, 메모리를 최소 30일간 저장한다. 더 큰 논란은 이 회사가 알고리즘을 통해 특정 연구 활동을 감지하면, 사용자에게 알리지 않은 채 프리미엄 제품에 대한 정가를 그대로 청구하면서도 성능이 낮은 모델로 강제 전환했다는 점이다. 사용자들은 미토콘드리아나 암 위험과 GLP-1 약물 간의 관계에 대해 평이한 질문을 던졌을 뿐인데도 하위 모델로 강등당했다고 보고했다.

거센 반발이 일자 Anthropic은 사용자가 강등될 때 이를 고지하겠다고 밝히며 한발 물러섰지만, 핵심적인 감시 및 프로파일링 인프라는 그대로 유지되고 있다. 한 팟캐스트 진행자가 생방송 중 비료 폭탄 규제에 대해 질문하자 시스템이 즉각 성능을 제한했으며, 내부 추론 과정에서 해당 사용자를 "VC(벤처캐피털리스트)이자 팟캐스터"로 프로파일링한 뒤 접근을 제한하기로 결정한 사실이 드러났다.

폐쇄형 모델에 대한 비즈니스적 반론

이러한 제한 조치로 인해 기업들은 AI 전략을 재고하고 있다. 농업 유전체학 기업을 운영하는 David Freeberg는 자신의 팀이 유전자 편집을 위한 RNA 가이드 설계나 유전자 변이의 표현형 영향 예측과 같은 중요한 과학적 연구에 이 모델들을 사용해 왔다고 설명했다. 그러나 최근 몇 주 동안 Anthropic은 분명한 합법적 과학적 용도임에도 불구하고, 이론적인 생화학 무기 위험을 이유로 해당 연구를 제한하기 시작했다.

결과는 예측 가능하면서도 우려스럽다. Freeberg의 회사를 비롯한 많은 기업들이 오픈소스 모델로 눈을 돌리고 있으며, 현재 최고 수준의 오픈소스 모델은 중국산이다. Freeberg는 "Anthropic과 다른 기업들이 스스로와 업계에 가하는 제한 때문에 많은 기업이 중국산 오픈소스 모델을 가져와 사용하고 있다"며 "스타트업부터 대기업에 이르기까지 전 업계에서 이러한 움직임이 나타나고 있다"고 지적했다.

이는 가장 엄격한 안전 조치를 취하려는 미국 기업들이 도리어 해외 경쟁자들에게 경쟁 우위를 내어주는 역설적인 결과를 낳고 있다. Freeberg는 "AI를 단순히 끌 수는 없다. 정치적 행동을 통해 AI를 멈추려 한다면 결국 누군가 다른 이에게 이점을 주는 꼴이 될 것이다. AI는 사라지지 않기 때문"이라고 경고했다.

규제 포획 전략

Anthropic의 행보는 계산된 것으로 보인다. 이러한 제한을 시행함과 동시에 CEO Dario Amodei는 블로그 게시물을 통해 투명성만으로는 충분하지 않다며, FAA(연방항공청)나 FDA(식품의약국)와 같은 새로운 규제 기관이 모든 모델을 승인해야 한다고 주장했다. 관찰자들에게 이 패턴은 명확해졌다. 8개월 전만 해도 Anthropic의 행태를 "공포 조장에 기반한 매우 정교한 규제 포획 캠페인"이라고 규정한 것은 자극적인 해석이었으나, 이제는 업계의 통설이 되어가고 있다.

우려는 Anthropic이 경쟁자를 제한하면서 자신의 지위를 공고히 하려 한다는 점이다. 회사는 본질적으로 누가 AI 역량을 누릴 자격이 있는지 결정하겠다고 나서며 'AI 가진 자와 못 가진 자'의 새로운 계급을 만들고 있으며, 동시에 대체 모델의 수를 제한하는 규제를 로비하고 있다. 이는 경쟁력 있는 모델을 개발할 가능성이 있는 AI 연구를 수행하는 사용자들을 비밀리에 차단했다는 점에서 반경쟁적이라는 비판을 피하기 어렵다.

한 참가자는 이러한 위선을 꼬집었다. "지난주 그들은 블로그를 통해 재귀적 자기 개선이 세상을 끝낼 수 있으니 일시 중단이 필요하다고 주장했다. 그런데 그 전 달에 그들이 무엇을 했나? 재귀적 자기 개선을 담당할 Andrej Karpathy를 영입했다. 그들은 완벽한 위선자들이다."

인프라 현실과 국가 안보적 함의

이번 토론에서는 AI 경제와 인터넷 경제의 결정적 차이가 드러났다. 사용자를 추가할 때의 한계 비용이 사실상 0이었던 인터넷과 달리, AI는 막대한 실질 비용을 수반한다. 모든 한계 사용자는 GPU를 점유하고, 전력을 소모하며, 메모리를 소비한다. 이는 이전 기술에서는 존재하지 않았던 정부 개입의 명분을 제공한다.

애리조나에 2,000에이커 규모의 부지를 매입해 2기가와트 데이터센터 승인을 받은 한 투자자는 당초 이 프로젝트를 대기업에 매각할 계획이었으나, 이제는 오픈소스 접근성을 유지하는 유일한 방법은 직접 인프라를 구축하고 운영하는 것뿐이라며 계획을 수정하고 있다. 문제는 규모다. 1기가와트 구축 비용은 초기 추정치보다 20배 증가한 1,000억 달러에 달한다. 3기가와트라면 3,000억 달러의 자본이 필요하다.

이러한 인프라 요구 사항은 자연스럽게 정부의 지분 참여 논리로 이어진다. 한 참가자는 "연방 정부가 고속도로를 건설하고 단 두 회사만이 그 위에서 모든 물류를 운송한다면 정부 소유권에 대한 논리적 의문이 제기될 것"이라며, 국가가 제공하는 핵심 인프라와 국가 회복력에 전적으로 의존하는 AI 기업들에도 같은 논리가 적용된다고 설명했다.

Bernie Sanders의 제안

이러한 배경 속에서 Bernie Sanders 상원의원은 OpenAI, Anthropic, xAI를 포함한 대형 AI 기업들의 주식(이익이 아닌)에 대해 일회성 50% 세금을 부과하는 '미국 AI 국부펀드법'을 제안했다. 해당 주식은 정부 국부펀드로 귀속되어 대중에게 의결권과 동등한 이사회 대표권을 부여한다는 내용이다. Sanders는 "AI의 근간은 우리의 집단적 인간 지능이다. 책, 노래, 저널리즘, 과학 연구 코드는 사실상 세계에서 가장 부유한 자들에 의해 도둑맞은 것"이라고 주장했다.

이 제안은 Bernie Sanders, Steve Bannon, 그리고 트럼프 행정부의 일부 인사들까지 아우르는 이례적인 연합을 결집시켰으며, 이들은 모두 국부펀드 개념에 관심을 보였다. 몰수 방식은 현실성이 없다는 이유로 배제되었지만, AI 기업들의 현재 행보를 고려할 때 대중의 참여를 위한 자발적 메커니즘에 대해서는 의외의 개방성이 나타났다.

한 참가자는 이렇게 지적했다. "AI CEO들은 대중에게 그들이 일자리의 절반을 없앨 것이라고 말하고 있다. 그들은 수백, 수천 년에 걸쳐 축적된 인류의 집단 지식을 사용하여 모델을 훈련했다. 인류는 이를 인터넷에 무료로 올렸지, 자신들의 일자리를 뺏기 위해 올린 것이 아니다. 그런데 이제 AI 기업들은 그 데이터를 훈련하고는 미국인들의 일자리를 없애겠다고 말한다. 이런 메시지를 반복하면 보통의 미국인들은 '내게 돌아오는 몫은 무엇인가?'라고 묻게 될 것이다."

일자리 감소 담론의 문제점

AI가 실제로 대규모 실업을 야기할지에 대해서는 의견이 갈렸다. Dario Amodei는 1~5년 내에 초급 지식 노동자의 50%가 일자리를 잃을 것이라고 예측했고 다른 CEO들도 종말론적인 전망을 내놓았지만, 실제 데이터는 다른 이야기를 하고 있다. 5월 고용 보고서에 따르면 신규 일자리는 경제학자들의 예상치를 두 배 이상 상회하는 17만 2,000개를 기록했으며, 실업률은 4.3%로 사상 최저 수준이다. 소프트웨어 개발자 일자리 역시 3년 만에 최고치를 기록했다.

Freeberg는 AI를 적극적으로 활용하는 기업을 운영하는 입장에서 다른 관점을 제시했다. 진짜 기회는 비용 절감이 아닌 매출 창출에 있다는 것이다. "AI 덕분에 모든 기업이 매출 기반을 확장하고 더 많은 제품을 만들 수 있게 되었으며, 이것이 경제적 번영의 근간이다. 이를 생산성이라 부른다. 내가 보기에 AI는 비용 측면보다 매출 측면에서 100배 더 많이 활용되고 있다. 그 방정식 안에서 사람들은 미친 듯이 채용하고 있다. 우리는 사람을 충분히 고용할 수 없을 정도다."

그의 제품 및 엔지니어링 팀은 최근 AI 덕분에 이전에는 개발할 수 없었던 새로운 제품을 만들 기회가 생겼다며 15명의 추가 채용을 요청했다. 이러한 패턴은 전체 고용 수치에 나타나며 일자리 감소 담론을 매일 반박하고 있다. 그럼에도 AI 기업들은 계속해서 디스토피아적 메시지를 홍보하고 있으며, 이는 정치인들이 기업의 공포 조장에 대응해 자산 몰수와 같은 제안을 내놓게 만드는 '어리석음의 세금(stupidity tax)'을 초래하고 있다.

향후 과제

많은 참가자들은 사회보장기금을 단순히 국채만 보유하는 것이 아니라 AI 기업을 포함한 주식에 투자할 수 있는 진정한 국부펀드로 개혁해야 한다고 주장했다. 현재 사회보장신탁기금은 미국 정부가 갚아야 할 채무를 나타내는 단일 증서 형태로 4조 달러를 보유하고 있다. 이를 펀드가 우량 미국 기업의 주식을 소유할 수 있는 계좌 기반 시스템으로 재편한다면, 모든 시민이 부의 집중 문제를 해결하는 동시에 AI의 상승 이익을 공유할 수 있을 것이다.

더 시급한 문제는 오픈소스 대안을 보존하는 것이다. Meta의 Llama는 적절한 투자가 이루어졌다면 시장을 상품화할 수 있는 강력한 오픈소스 경쟁자가 되었을 것이라는 아쉬움이 제기되었다. Collison 형제의 Arc Institute가 발표한 오픈소스 게놈 언어 모델은 식물 육종 및 유전 연구에 가치를 입증하며, 자금 지원이 잘 이루어진 오픈소스 이니셔티브의 힘을 보여주었다.

입력이 아닌 출력에 초점을 맞춘 실용적인 안전 조치에 대한 강력한 지지도 있었다. 최근 주요 AI 연구소들은 2009년의 자발적 합의를 바탕으로 DNA/RNA 합성 주문을 데이터베이스와 대조해 생화학 무기 제조를 방지하는 핵산 합성 스크리닝 의무화를 지지하는 서한을 보냈다. 이는 기본 모델에 대한 접근을 제한하는 대신, 디지털 정보가 물리적 현실이 되는 지점에서 개입하는 방식이다.

한 참가자는 이 도전을 이렇게 요약했다. "AI를 규제하거나 성능을 낮추거나 끌 수 있다는 생각은 현실적이지 않다. 모델은 이미 세상에 나왔다. 책을 출판하는 것과 같다. 책이 인쇄되면 누구나 집에서 복사기로 복사해 사용할 수 있다. 우리는 언어 모델의 잠재력 측면에서 이미 루비콘 강을 건넜다."

근본적인 긴장은 여전히 해결되지 않았다. Anthropic과 유사 기업들은 감시, 검열, 경쟁 제한을 시행하면서도 인류의 이익을 위해 봉사하는 공익 기업이라고 주장한다. 그들은 동시에 자신의 위치를 공고히 하고 대안을 제한하는 규제를 요구하고 있다. 반발은 개발자 커뮤니티와 비즈니스 사용자들이 이러한 모델을 거부하고 있음을 시사하지만, 오픈소스 대안이 경쟁할 수 있을 만큼 확장될 수 있을지는 여전히 미지수이며, 이는 향후 AI 개발이 미국 중심일지 아니면 규제가 적은 지역으로 이동할지를 결정할 핵심 변수가 될 것이다.