DruckFin

타입세이프의 젭(Jev), 일일 처리량 1조 토큰 돌파… 창업자는 벤치마크·거부·RLHF를 거부하고 새로운 AI 카테고리 선언

출시 주간 인터뷰에서 챗봇이 아닌 기계를 겨냥한 '시스템 1(system one)' AI 모델의 기술 철학과 사업적 베팅 공개

오픈AI(OpenAI) 연구원 출신인 디오고(Diogo)가 설립한 AI 스타트업 타입세이프(TypeSafe)가 신규 모델 라인 '젭(Jev)'을 선보이며 전적으로 새로운 인공지능 카테고리인 '시스템 1 모델'을 발표했다. 이 모델은 인간이 아닌 코드가 소비하도록 설계됐다. 출시 주간에 진행된 심층 인터뷰에서 디오고는 벤치마크, 안전성 얼라인먼트(alignment), 파인튜닝(fine-tuning), 그리고 프런티어 AI 연구의 현주소에 대해 거침없고 단호한 입장을 밝혔다. 이는 회사의 성공 여부와 관계없이 해당 분야를 주시하는 투자자들이 반드시 주목해야 할 대목이다.

챗봇이 아닌 기계를 위해 구축된 새로운 모델 카테고리

타입세이프의 핵심 명제는 인공지능 업계 전체가 그동안 엉뚱한 소비자를 위해 대형 언어 모델(LLM)을 최적화해왔다는 점이다. 사전 학습된 모델은 자동완성을 위해 만들어졌고, ChatGPT와 클로드(Claude) 같은 RLHF(인간 피드백 강화학습) 튜닝 챗봇은 인간 평가자의 비위를 맞추기 위해 제작됐으며, RLVR(검증 가능한 보상을 통한 강화학습)로 최적화된 추론 모델은 벤치마크 문제를 풀기 위해 만들어졌다. 디오고는 젭이 명시적으로 "코드가 소비자인" 최초의 모델이라고 주장한다. 그는 이를 "기계 네이티브이며, 대규모이고, 프로그래밍 가능한" 모델로 묘사했으며, 제븐스 역설(Jevons paradox)을 차용한 이름은 '달러당 지능'에 대한 회사의 단일한 집향을 반영한다고 설명했다. 그는 "젭은 달러당 지능의 최전선에 서게 될 모델들의 이름이 될 것"이라며, 신뢰성, 비용, 캘리브레이션(보정), 속도는 모두 상충 관계에 있으며 타입세이프가 그중에서도 특히 '달러당 지능' 축에 "전력투구"하기로 결정했다고 덧붙였다.

회사는 이를 현재 AI 시대가 마주한 핵심적인 역설, 즉 밀레니엄 상금 수준의 수학 문제를 풀 수 있는 모델이 여전히 기본적인 반복 지식 노동조차 자동화하지 못하는 모순을 해결하는 과정으로 규정한다. 그는 "우리에게는 엄청난 위력을 가진 자동화 엔진이 있으면서도, 경제적으로 가치 있는 수많은 작업에 이를 연결할 적절한 플러그와 장치들이 없는 셈"이라고 지적하며, 이 간극은 역량의 문제가 아니라 디자인과 인터페이스의 문제라고 주장했다.

회사의 자체 예상을 뛰어넘는 채택 수치

이번 인터뷰에서 가장 구체적인 데이터 포인트는 젭이 이미 하루 처리량 1조 토큰을 돌파했다는 사실일 것이다. 디오고는 이 수치가 일회성 인간 테스트가 아닌, "밤에도 멈추지 않고" 지속 구동되는 진정한 기계 대 기계(machine-to-machine) 사용량을 반영하는 것이라고 강조했다. 출시 영상 자체는 38회의 조회수를 기록했는데, 공동 진행자의 언급에 따르면 이는 젠슨 황(Jensen Huang) 엔비디아(Nvidia) CEO의 화제작이었던 키노트 순간들(누적 7400만 회)이나 페이블(Fable)의 데모(5,700만 회) 등 최근의 다른 주요 테크 출시작들과 비교해도 주간 기준 앞서는 수치다.

그렇지만 디오고는 회사가 이러한 반응을 전혀 예상하지 못했다고 솔직하게 털어놓았다. 출시 전에는 "제품을 써본 사람들 중 절반 이상이 아예 이해하지 못했다"며, 사내 비기술 부서에서는 "진통제가 아니라 비타민을 팔고 있는 게 아닌가" 두려워했다고 전했다. 타입세이프는 이번 주 전까지는 거의 매출이 없었다. 그는 또한 이번 출시가 마케팅 노하우의 결과라는 시각에 대해서도 선을 그었다. "우리에게는 마케터가 없습니다. 채용 중이기도 하죠"라고 말하며, 대기자 명단 등록 수는 회사가 이제 대개 무시하기로 한 허영 지표(vanity metric)일 뿐이라고 덧붙였다. 진짜 신호는 사용자들이 제품을 경험한 후 더 높은 사용량 한도를 얼마나 적극적으로 요구하는가에 있으며, 이는 단순한 호기심이 아닌 진정한 의존성을 보여준다는 것이다.

의도적으로 배제한 공개 벤치마크

타입세이프는 업계의 표준적인 신뢰도 지표인 공개 벤치마크에 대해 유례없는 적대적 태도를 취하고 있다. 디오고는 회사가 "공개 벤치마크에 대해 극단적으로 반대하는 입장"이며, 내부 프록시로 사용되는 비공개 벤치마크에 대해서도 "보통 수준"으로만 찬성한다고 밝혔다. 그는 공개 벤치마크가 그럴 의도가 없는 연구소들조차 사소한 방식으로 점수를 조작하기 십상이라고 지적했다. "예전에는 모든 연구소가 MMLU처럼 보이는 데이터를 수집해 더 좋아 보이게 만드는 팀을 하나씩 두었습니다. 이건 그냥 단계가 조금 더 늘어난 벤치마킹일 뿐입니다"라고 그는 말했다. 대신 타입세이프는 리더보드 순위가 아니라, 실제 워크플로 내부에서 입증된 현실적인 신뢰성인 일명 '바이브(vibes)'를 통해 모델 지능에 대한 신뢰가 구축될 것이라는 데 베팅하고 있다. 그는 회사가 내부 평가를 유지하고 있음을 인정하면서도, 인센티브가 얼마나 쉽게 측정 지표를 왜곡하는지 고려할 때 그러한 평가가 조작되지 않도록 방어하는 것이 팀이 내부적으로 고수하는 "가장 중요한 과제 중 하나"라고 설명했다.

거부 반응은 안전 기능이 아닌 '타입 오류'

디오고가 내세운 도발적인 주장 중 하나는 API 제품 내에서 안전성 얼라인먼트 방식의 거부(refusal) 반응을 거부한다는 점이다. 그는 이러한 거부 장치가 말이 되는 ChatGPT나 클로드 같은 소비자용 챗봇 제품과 자신의 제품을 명확히 구분했다. API 환경에서 거부 반응은 소프트웨어를 비결정적이고 예측 불가능한 방식으로 망가뜨린다고 그는 주장했다. "봇과 대화하는 중에 거부가 일어나면 짜증 나겠지만 대처할 수는 있습니다"라며, "하지만 이게 백그라운드에서 실행되는 의존성(dependency)이라면, 거부가 일어났을 때 무슨 일이 벌어지겠습니까? 이건 완전히 제정신이 아닌 상황입니다"라고 말했다. 그는 이것이 안전성 개념 자체에 대한 전면적인 반대는 아니며, 역량 얼라인먼트(개발자의 지시를 모델이 정확히 따르게 하는 것)와 안전성 얼라인먼트(플랫폼 등 타인의 선호를 모델이 따르게 하는 것)는 근본적으로 다른 문제이므로 모델 계층에서 혼동해서는 안 된다는 신념이라고 선을 그었다. 전쟁에 모델이 사용되는 민감한 질문에 대해, 그는 개인적으로 이 기술이 사람을 해치는 데 사용되지 않기를 바란다고 밝혔으나 그러한 선호를 모델 자체에 내장하지는 않겠다고 거부했다. 그렇게 하는 것은 모델의 일반 지능을 "파편화"시킨다는 주장이다.

회사가 RLCD라 부르는 새로운 포스트 트레이닝 패러다임

오픈AI에서 ChatGPT의 지시 이행 행동의 전신인 RLHF 기반 InstructGPT 프로젝트에 참여했던 디오고는, 대형 언어 모델의 역사에서 업계가 진정으로 성공적으로 확립한 훈련의 '북극성(north star)'은 단 두세 가지에 불과하다고 주장했다. 즉 인간의 선호와 지시 이행에 최적화하는 RLHF와, 벤치마크 검증 가능 추론에 최적화하는 RLVR이다. 타입세이프는 인간 평가자의 비위를 맞추거나 검증 가능한 퍼즐을 푸는 대신 프로그래밍적 신뢰성에 초점을 맞춘 세 번째 패러다임을 제안하며, 사내에서 이를 RLCD라고 부르고 있다. 주목할 점은 회사가 아직 이 기법을 설명하는 논문을 출판하지 않았다는 점이다. 디오고는 또한 이번 인터뷰를 통해 RLHF로 튜닝된 챗봇 모델들이 왜 구조적으로 아첨(sycophancy), 과도한 자신감, 그리고 환각(hallucination)에 취약한지 설명했다. 그는 이를 모델들이 모호한 표현에 대해 페널티를 받는 것을 피하고자 지나치게 확신에 찬 태도를 취하면서 기저의 확률 분포를 왜곡하는 현상인 '모드 드롭핑(mode dropping)'의 결과로 규정했다. 그는 이를 자기회귀(autoregressive) 모델이 긴 시퀀스에서 오류를 누적할 운명이라는 얀 르쿤(Yann LeCun)의 잘 알려진 비판과 연결 지으면서도, 르쿤을 AI 분야에서 "가장 정확한" 사상가 중 한 명으로 꼽는 한편, 그 원인은 토큰 단위 생성 자체의 내재적 결함이 아니라 RLHF로 인한 캘리브레이션 붕괴라고 주장했다.

업계의 '프런티어 속도 조절' 안전 합의에 대한 회의론

안전상의 이유로 AI 역량 발전을 늦추어야 한다는 프런티어 연구소들 간의 합의가 커지는 현상에 대한 질문에 디오고는 날카로운 반박을 내놓았다. 이러한 시각은 모든 연구소가 경쟁력을 유지하기 위해 RLVR을 계속 확장해야 한다는 가정에 기반하고 있으며, 자신은 타입세이프의 모델 가족군에 대해 이 가정을 거부한다는 것이다. "우리 모델들에 RLVR을 더 적용할 필요가 없다는 것은 당연합니다"라며, "우리 모델의 형태에 최적의 양은 제로라고 생각합니다"라고 그는 말했다. 그는 업계의 속도 조절 논쟁을 "일종의 말장난(sleight of hand)"으로 묘사하며, 역량을 극대화하기 위해 훈련 과정에서 모델에 광범위하고 제약 없는 자율성을 부여한 연구소들이 바로 그 결과로 발생한 위험을 향후 조율된 속도 조절의 정당성으로 인용하고 있다고 지적했다. 이때 그들은 대안적인 모델 디자인이 존재한다는 사실은 인정하지 않는다는 것이다. 그는 또한 구체적인 언급은 피하면서도, 이러한 안전 관련 논의 중 일부는 순수한 기술적 위험 평가라기보다는 다가오는 선거와 얽힌 정치적 고려에 의해 형성된 측면이 있다고 덧붙였다.

멀티 모델 아키텍처에 의해 재편될 수 있는 코딩 에이전트

디오고는 현재 앤스로픽(Anthropic)의 클로드 코드(Claude Code)와 오픈AI의 코덱스(Codex)가 주도하고 있는 코딩 에이전트 시장을 타입세이프의 접근 방식이 파괴할 수 있는 영역으로 지목했다. 그는 양대 선두 제품 모두 단일 파운데이션 모델을 중심으로 아키텍처가 설계되어 있다고 지적했는데, 이는 모든 공급자가 대략 비슷한 역량 형태를 제공하던 환경에서는 타당했다고 설명했다. 그는 현재 많은 독립적인 오픈소스 코딩 에이전트 프로젝트들이 젭을 통합하고 있으며 단일 모델 아키텍처로는 쉽게 모방할 수 없는 차별화된 유스케이스를 찾기 위해 경쟁하고 있다고 전했다. 별도로 디오고는 "KV 캐시가 내 주변의 모든 것을 지배한다(KV Cache Rules Everything Around Me)"라는 제목으로 자신이 작성한 글을 확장한 내부 문서를 논의하며, 오늘날의 코딩 에이전트가 단일 모델의 키-값(key-value) 캐시 의존성 때문에 아키텍처적 제약을 받고 있다고 주장했다. 이로 인해 에이전트가 하나의 모델에 묶이고, 적절한 소프트웨어 분할이 저해되며, 서브 에이전트 작업 위임, 컨텍스트 압축, 멀티 에이전트 상태 공유가 복잡해진다는 것이다. 그는 에이전트들을 이러한 제약에서 해방시키면 본질적으로 다르고, 더 저렴하며, 더 모듈화된 에이전트 디자인을 열어젖힐 수 있다고 말했다.

제품 로드맵: 결정론 배제, 파인튜닝 부재(당분간), 향후 모델 티어 가능성

구체적인 제품 디자인 선택과 관련해, 디오고는 젭이 결정론적 출력(동일한 입력이 동일한 출력을 보장하는 것)을 지원하지 않는다고 확인해주었다. 유사한 입력이 유사한 출력을 내놓는 '강건성(robustness)'이 더 중요한 속성이며, 결정론을 도입하면 회사의 핵심인 '달러당 지능' 최적화에 직접적인 비용 손실이 발생한다는 주장이다. 다만 고객 수요가 이러한 트레이드오프를 정당화한다면 결정론적 변형을 제공할 가능성은 열어두었다. 파인튜닝 역시 현재는 제공되지 않으며, 디오고는 그 이유를 명확히 밝혔다. 오픈AI, 앤스로픽, 구글 모두 파인튜닝 기능이 득보다 실이 더 많다는 사실을 깨닫고 이를 철회해왔다는 것이다. "그것은 자칫 발등을 찍는 도구가 될 수 있습니다"라며, 회사의 수요에 대한 이해가 성숙해짐에 따라 향후 파인튜닝 재검토나 다양한 모델 크기 제공을 완전히 배제하지는 않았다. 그는 또한 타입세이프가 고객 데이터 확보 권리를 얻을 수 있음에도 불구하고, 현재의 유스케이스에 모델이 과적합(overfitting)되어 미래의 상상하기 어려운 애플리케이션에 지장을 주는 것을 막기 위해 고객 데이터를 활용한 훈련을 의도적으로 피하고 있다고 밝혔다.

비즈니스 유스케이스 측면에서 디오고는 LLM에 돌리기에는 비용이 너무 많이 들었던 대규모 기업용 데이터셋인 '다크 데이터(dark data)'와 코딩 에이전트를 향후 단기 매출을 이끌어갈 양대 축으로 꼽았다. 실시간 애플리케이션(지연 시간이 전환율에 직접적인 영향을 미치는 전자상거래 등)과 기업용 관측 가능성 및 검증 워크로드는 부차적인 카테고리로 분류했다. 그는 멀티홉(multi-hop) 추론이 단일 홉 작업에 비해 여전히 약점으로 남아 있으며, 완전한 컴퓨터 및 음성 제어를 포함하여 데모에서 시연된 일부 기능들은 아직 프로덕션 환경에서 사용할 수 있을 만큼 신뢰할 수 없으며 회사의 자체 로드맵보다는 개발자들에 의해 다소 예기치 않게 부상한 측면이 있다고 솔직히 인정했다.

오픈AI의 RLHF 팀에서 2년간의 스텔스 개발까지

디오고는 타입세이프에 대한 아이디어가 오픈AI에서 InstructGPT를 개발할 당시 구체화되었다고 말했다. 당시 그는 상업적으로는 성공을 거두었으나 지시 이행 챗봇 제품들이 기저 기술의 좁고 한계가 명확한 애플리케이션일 뿐이며, 주로 AI가 생성한 마케팅 문구 같은 카테고리에서만 가치를 창출한다는 확신을 갖게 되었다. 그는 이 아이디어를 샘 알트먼(Sam Altman)을 비롯해 오픈AI 내부에서 직접 제기했으나, 결국 내부 잔류보다는 스타트업이 더 빠르게 움직일 수 있다는 결론을 내렸다. 그는 또한 초기 버전의 InstructGPT가 표준 근접 정책 최적화(PPO) 방식이 기저의 선호 데이터를 정제하기에는 너무 느렸기 때문에 자신이 직접 구축한 미출시 커스텀 알고리즘을 사용해 훈련되었다는 대중에게 잘 알려지지 않은 비화도 털어놓았다. 전직 프런티어 연구소 출신들이 창업한 새로운 AI 연구소들의 거대한 물결에 대해 디오고는 "대부분의 네오 연구소(Neo-labs)는 엉터리"라며, 명확한 기술적 북극성 없이 뚜렷한 유용한 작업 정의 없이 순수한 연구 이력만으로는 가치를 창출하기 어렵다고 유례없이 신랄하게 비판했다.