2026년 11월 13일 발표된 비디오 에세이 "재귀적 자기 개선이 시작되었다(Recursive self-improvement has started)"

드워키시 팟캐스트(Dwarkesh Podcast)의 진행자인 드워키시 파텔(Dwarkesh Patel)이 초지능(superintelligence) 도래 시점에 대한 전망을 대폭 앞당겼다. 그는 11월 13일 업로드한 비디오 에세이에서, 올해 초까지만 하더라도 그 시기가 "적어도 10년 가까이" 남았다고 보았으나, 3개월간의 토론과 검증 가능한 영역에서의 AI 진전 상황을 지켜본 끝에 AI 연구 분야에서 인간 최고 전문가 수준의 AI가 등장하는 시기가 "불과 몇 년, 어쩌면 불과 몇 달 앞으로 다가왔다"고 믿게 되었다고 밝혔다. 그는 2030년까지, 빠르면 내년에도 모든 분야에서 인간 최고 전문가 수준 이상에 도달할 것으로 예상하고 있다. 그는 이를 "터무니없는 주장"이자 불과 몇 달 전까지만 해도 자신조차 믿지 않았던 주장이라고 표현했다.

AI가 이미 AI 발전 가속화를 주도하고 있다는 증거

파텔은 이러한 주장의 근거로 AI 연구소들의 데이터를 제시한다. 독립 평가 조직인 METR은 앤스로픽(Anthropic) 내부에서 3개월간 머물며 조사를 진행했다. 그 결과, 잘 정의된 작업에서 앤스로픽의 AI 발전 속도가 1년 전의 2배에 달하며, "이러한 가속화의 대다수는 R&D 수행에 AI를 광범위하게 활용한 앤스로픽의 노력 덕분일 가능성이 높다"고 결론지었다.

오픈에이아이(OpenAI)는 9월 블로그 포스트를 통해 연구원 중 AI 사용량 상위 10% 그룹의 내부 코딩 에이전트 사용 비용이 초여름 하루 약 1,000달러에서 8월 말 하루 7,000달러 이상으로 급증했다고 밝혔다. 앤스로픽 역시 9월 자체 포스트를 통해 클로드(Claude)가 회사 AI R&D 업무의 26%를 주도하고 있다고 보고했는데, 이는 불과 지난 2월의 1% 미만에서 급상승한 수치다.

AI 연구의 청사진이 된 수학

파텔이 전망을 수정하게 된 가장 큰 동력은 AI 수학 능력의 향상 속도였다. 그는 2023년만 해도 모델들이 네 자리 수 덧셈을 안정적으로 수행하지 못했고, 2024년에는 고등학교 경시대회 문제도 겨우 풀었으며, 2025년에는 국제 수학 올림피아드(International Math Olympiad)에서 금메달을 획득했다고 지적했다. 올해 초에는 틈새 미해결 문제들을 풀기 시작했으며, 한 달 전에는 오픈에이아이가 밀레니엄 문제(Millennium Prize problem) 중 하나를 88시간 만에 해결했다. 파텔은 최고 수학자들이 수십 년간 매달려 얻어낸 수백 가지의 연구 성과들이 이제는 "향후 모델 출시를 홍보하기 위한 부수적인 작업(side quests)"으로 생산되고 있다고 말했다.

그는 토비 오드(Toby Ord)의 반론, 즉 AI가 "강력한 질문을 던지거나 심오한 새로운 수학 연구 분야를 찾아낼 수 있다는 증거는 매우 희박하다"는 지적을 언급했다. 이에 대한 파텔의 반박은 바로 그 문장 자체가 AI가 그러한 능력 없이도 밀레니엄 문제를 해결했다는 것을 의미한다는 것이다. 그는 머신러닝의 경우 수학에 비해 검증 가능한 작업에 대한 편향이 훨씬 더 중요하다고 주장한다. 수학은 궁극적으로 새로운 이론을 중시하지만, AI 연구소들은 훈련을 더 효율적으로 만들거나 모델을 더 스마트하게 만드는 요인이 무엇인지 경험적으로 관심이 있으며, 지난 15년간의 딥러닝 발전은 새로운 이론을 그다지 필요로 하지 않았다는 것이다.

그는 트랜스포머(transformer)를 예로 들어 이 입장을 설명했다. 숄토 더글러스(Sholto Douglas)와의 대화와 크리스 올라(Chris Olah)의 인용구를 인용하며, 트랜스포머의 핵심 구성 요소 중 어느 것도 현직 연구원들을 놀라게 한 것은 없었다고 말했다. 이 아키텍처는 반두 세 가지의 미세 조정이 올바르게 결합되었을 때 비로소 우수함이 명확히 입증되었는데, 이는 연구자의 감각(research taste)과 방대한 수의 소규모 실험이 필요했던 과정이다. 그의 견해에 따르면, 이것이 바로 AI가 수학 분야에서 탁월한 성능을 보여온 지속적인 조합적 탐색(combinatorial search)이며, 어텐션(attention) 작동 방식을 개선해 달라고 요청받았을 때 "클로드 7(Claude 7)이 발명해 낼 수 있었을 종류의 것"이다.

타임라인: 2028년 중위값, 양방향으로 두터운 꼬리 위험 존재

연구소들이 전력 질주하며 스스로나 정부 규제에 의해 발목을 잡히지 않는다는 가정하에, 자동화된 연구원이 인간 최고 수준의 AI 연구원과 동등해지는 시점에 대한 파텔의 중위값(median)은 2028년이다. 그는 AI 연구의 중요한 부분들이 자동화하기 어려울 수 있기 때문에 2032년 이후에야 이뤄질 확률도 적어도 25%에 달한다고 보았다. 반대편에서는, 그가 아는 가장 예측 능력이 뛰어난 연구원들 중 일부는 빠르면 내년에 이 이정표에 도달할 것으로 예상하고 있다고 전했다.

그는 METR의 연구 결과를 발전 속도 모델에 대입하면 2027년이 자연스럽게 도출된다고 언급했다. 그는 아제야 코트라(Ajeya Cotra)의 말을 인용했다. "AI가 이제 AI 능력 발전 속도를 거의 두 배로 늘리고 있다는 점을 액면 그대로 받아들이고, AI로부터의 가속이 원만하다고 가정하면, 이는 극단적인 초지능에 1년 내에 도달할 것임을 단순 시사한다." 파텔의 중위값이 2027년이 아닌 유일한 이유는 이러한 모델링의 정확도를 확신할 수 없기 때문이다.

자동화된 연구원이 더 빠르고, 뛰어나며, 풍부한 이유

파텔은 이 이정표에 도달한 후 발신 속도가 가속화되는 세 가지 이유를 제시했다. 첫째, AI는 이미 인간 속도의 약 10배로 작동하며 24시간 내내 일할 수 있으므로, 각 자동화된 연구원은 달력상 주당 인간보다 대략 50배 더 많은 작업을 수행하게 될 것이다. 그는 실험을 위한 컴퓨팅 자원(compute)은 빨라지지 않을 것이므로 수확체递减(diminishing returns)이 가파를 것이라고 경고하면서도, 알고리즘 발전 속도는 여전히 몇 배 더 빠를 것으로 예상했다.

둘째는 품질이다. 그는 최첨단 연구소(frontier lab)에서 알고리즘 발전의 약 80%가 상위 50명의 연구원으로부터 나온다고 추정하며, 이것이 마크 저커버그(Zuckerberg)가 최고 인재를 위해 수억 달러를 기꺼이 지불하려 했던 이유를 설명해 준다고 말했다. 자동화된 연구소에서는 모든 연구원이 그 수준에 도달해 있을 것이다.

셋째는 수량이다. 파텔은 AI 연구가 소설을 쓰는 것보다 정리를 증명(formalizing a theorem)하는 것에 가깝다고 주장했다. 그는 수천 개의 모듈식 하위 작업에 걸쳐 수많은 클로드들이 페르마의 마지막 정리(Fermat's Last Theorem)를 공동으로 정형화하는 애니메이션을 언급했다. 이 하위 작업들은 각각 개별적으로 검증 가능하다. AI 연구소들은 이미 데이터 필터링, 합성 강화학습(RL) 환경, 어텐션 커널 등의 작업 팀으로 업무를 나누고 있다. 그는 "10만 명의 협업자가 있다고 해서 10만 배, 심지어 100배 더 빨라지는 것은 아니다"라며 가파른 수확체감 법칙을 인정했지만, 자릿수가 다른 막대한 노동력이 투입되는데도 발전 속도가 최소 몇 배 이상 빨라지지 않는다는 것은 앞뒤가 맞지 않는다고 말했다.

스파크 또는 소프트웨어 전용 특이점: 동전 던기

파텔은 핵심 질문이 '자기 개선 루프(self-improvement loop)가 새로운 아이디어를 찾는 점점 더 커지는 어려움을 앞지르느냐'에 있다고 보았다. 그는 AI 기업들이 일정한 발전 속도를 유지하기 위해 이미 매년 R&D 컴퓨팅 자원을 4배로 늘리고 인력을 두 배로 늘려야 하는 상황이라고 지적했다. 만약 AI가 아이디어가 고갈되는 속도보다 더 빠르게 발전한다면, 그 결과는 "소프트웨어 전용 특이점(software-only singularity)"이 될 것이며, 이 경우 추가적인 컴퓨팅 자원 없이도 스웜(swarm)이 몇 달 안에 "현재 칩의 물리적 한계에 부딪히는" 초지능에 도달하게 된다.

만약 아이디어를 찾는 것이 더 빠르게 어려워진다면, 그 결과는 그가 '스파크(spark)'라고 부르는 상태가 된다. 이는 현재 속도로 3년에서 6년 분량의 발전이 1년 안에 압축되어 일어난 후, 더 많은 컴퓨팅 자원이 구축될 때까지 상황이 "진정되는(simmer down)" 형태다. 그는 각 시나리오에 50%의 확률을 부여했다.

스파크 시나리오조차도 극단적으로 느껴질 것이라고 그는 말했다. 그는 4년 간의 도약이, 그럴듯한 리머릭(limerick) 시를 쓸 수 있지만 "대체로 쓸모없는 장난감"에 불과했던 GPT-3.5에서, 처음부터 전체 비디오 게임을 구축하고 필즈상(Fields Medal)급 기여를 관찰자들의 감각이 무뎌질 정도로 쏟아내는 가상의 GPT-6 "아스트라(Astra)"로 넘어가는 것과 같다고 비유했다. 2027년이나 2028년부터 시작하여, 이러한 도약은 약간이라도 검증 가능한 영역에서 엄청나게 초인적인 지능을 낳을 것이라고 그는 말했다. 그는 엔비디아(Nvidia)보다 더 뛰어난 차세대 AI 가속기를 설계하고, 동일한 시장 접근성이 주어질 경우 시타델(Citadel)이나 제인스트리트(Jane Street)의 현재 인간 버전보다 더 많은 수익을 올리며, 원격으로 재료 과학 연구소에 접근할 수만 있다면 상온 초전도체를 찾아내는 것을 그 예로 들었다.

초지능이 검증하기 어려운 현실 세계의 업무에 능숙해지는 방식

파텔은 비즈니스 구축, 소송 승소, 트레이딩, 캠페인 운영 등 수년간의 현실 세계 경험에서 전문성이 나오는 분야에서 데이터센터로 훈련된 시스템이 전문가와 비등할 수 없다는 명백한 반론을 다루었다. 그는 답변이 모델 가중치(weights)에 내장될 수 있다고 주장하는 것이 아니다. 그의 주장은 대규모로 확장된 RL(강화학습)이 정보 탐색, 계획, 장애물 극복, 학습 내용 추적, 협업 등 새로운 맥락에 빠르게 적응할 수 있는 일반적인 기술을 AI에 부여할 것이라는 점이다.

그는 자동화된 엔지니어들이 오늘날 존재하는 것보다 수만 배 더 크고 개방적이며 훨씬 더 거대한 수만 개의 RL 환경을 구축할 것으로 예상하며, 이는 "오늘날의 비디오 게임에 비유하자면 마차에 대한 부가티(Bugatti) 수준"이라고 표현했다. 그 예로는 회사를 공동 창업하기 위해 수백만 개의 다른 AI가 있는 시뮬레이션 경제에 AI를 던져 넣거나, 역사적 백테스트(backtests)를 실행하는 것 등이 있다. 그러한 작업 중 하나는 1700년에 끝나는 말뭉치(corpus)로 훈련된 AI가 일반 상대성 이론을 도출할 수 있는지 묻는 것이고, 다른 하나는 1962년까지의 신문을 바탕으로 쿠바 미사일 위기를 예측할 수 있는지 묻는 것일 수 있다. 자동화된 연구원들은 또한 학습 알고리즘 자체, 특히 온라인 학습과 샘플 효율성(sample efficiency)을 개선할 것이다....