클로드가 다음 클로드를 만드는 일의 26%를 이끌고 있습니다 — 앤스로픽 AI 연구개발 측정과 에이전트 3만 개

AI가 자기 다음 버전을 스스로 만든다는 이야기는 오랫동안 공상과학의 소재였습니다. 그런데 이번에는 AI 회사가 직접 숫자를 내놓았습니다.

앤스로픽은 9월 17일, 자사의 AI 연구개발 업무 가운데 26%를 클로드가 '주도'하고 있다고 발표했습니다. 지난 2월만 해도 1%가 안 되던 비율입니다. 동시에 일하는 AI 에이전트는 약 3만 개, 그 모든 행동을 실행 전에 감시 장치가 먼저 봅니다.

오늘은 이 숫자가 정확히 무엇을 뜻하는지, 어떻게 쟀는지, 무엇을 뜻하지 않는지, 그리고 앤스로픽이 왜 이런 숫자를 스스로 공개했는지를 차례로 살펴보겠습니다.

클로드가 다음 클로드를 만드는 일의 26%를 이끌고 있습니다

앤스로픽의 발표를 한 줄로 줄이면 이렇습니다. 올해 8월 기준으로, 앤스로픽이 새 AI 모델을 연구하고 만드는 일의 약 4분의 1을 클로드가 앞장서서 처리하고 있습니다.

여기서 '앞장선다'는 말은 사람이 큰 방향만 정해 주면 클로드가 작업의 대부분을 처음부터 끝까지 해낸다는 뜻입니다. 사람은 여전히 옆에서 지켜보고 결과를 확인합니다.

AI가 AI를 만드는 속도가 얼마나 빨라지고 있는지를, 프런티어 연구소가 내부 수치로 직접 밝힌 첫 사례에 가깝습니다.

무엇이 발표됐나 — 앤스로픽 인스티튜트의 9월 17일 글

이번 수치는 앤스로픽 인스티튜트라는 이름으로 9월 17일 공개된 글에 담겼습니다. 제목은 프런티어 연구소 내부에서 AI 개발 속도를 이해하기 위한 측정입니다.

AP통신은 다음 날인 9월 18일 이 내용을 보도하며 클로드가 자신의 다음 버전을 만드는 데 돕고 있다고 전했습니다. 이후 여러 기술 매체가 26%라는 숫자를 제목에 걸었습니다.

앤스로픽은 이번이 시제품 단계의 첫 결과이며, 앞으로 이 측정값을 정기적으로 공개하겠다고 밝혔습니다.

세 가지 측정 — 자동화·감독·연산 배분

발표에는 세 가지 측정이 함께 들어 있습니다. 첫째는 AI 연구개발이 얼마나 자동화됐는지, 둘째는 AI 에이전트를 얼마나 잘 감독하고 있는지, 셋째는 연산 자원을 안전 연구와 성능 연구에 어떻게 나누고 있는지입니다.

세 측정은 서로 짝을 이룹니다. AI가 일을 많이 맡을수록 감독이 따라가야 하고, 안전 연구에도 그만큼 자원이 가야 한다는 문제의식입니다.

26%라는 숫자가 가장 주목받았지만, 앤스로픽이 강조한 것은 세 숫자를 함께 봐야 한다는 점입니다.

AL0부터 AL5까지 — 자동화 단계를 재는 자

자동화 정도는 AI 연구기관 에포크 AI가 제안한 여섯 단계 척도로 쟀습니다. AL0은 AI가 전혀 관여하지 않는 단계, AL1은 최소한으로 관여하는 단계, AL2는 AI가 거드는 단계입니다.

AL3는 AI가 협업하는 단계로, 사람이 가까이서 방향을 잡아 주는 가운데 AI가 큰 덩어리의 일을 해냅니다. AL4는 AI가 주도하는 단계로, 사람이 큰 지시만 내리면 AI가 작업 대부분을 끝까지 수행하고 사람은 감독합니다.

마지막 AL5는 완전 자율 단계입니다. 사람이 전혀 개입하지 않아도 AI가 스스로 일을 완수합니다.

협업과 주도는 어떻게 다른가

두 단계의 차이는 누가 운전대를 잡느냐입니다. 협업 단계에서는 사람이 단계마다 지시하고 AI가 따라갑니다. 주도 단계에서는 AI가 계획을 세우고 실행하며, 사람은 조수석에서 확인합니다.

예를 들어 실험 코드를 고치는 일이라면, 협업 단계에서는 사람이 어디를 어떻게 고칠지 정해 줍니다. 주도 단계에서는 '이 실험이 왜 실패하는지 찾아서 고쳐 줘'라는 한마디로 AI가 원인 분석부터 수정까지 해냅니다.

26%는 바로 이 주도 단계에 해당하는 일의 비중입니다.

2월 1% 미만에서 8월 26%로

앤스로픽에 따르면 클로드가 주도하는 일의 비중은 2026년 2월 1% 미만이었습니다. 그로부터 6개월 뒤인 8월에는 26%가 됐습니다.

반년 만에 스무 배가 넘게 늘어난 셈입니다. 같은 기간 클로드 모델이 여러 차례 새로 나오며 코딩과 에이전트 작업 능력이 크게 올라간 흐름과 맞물립니다.

이 추세가 계속 이어질지는 아직 알 수 없습니다. 다만 앤스로픽이 이 숫자를 정기적으로 공개하겠다고 한 만큼, 다음 발표에서 곡선의 기울기를 확인할 수 있게 됩니다.

90% 이상은 이미 협업 단계 이상입니다

주도 단계만 보면 26%지만, 협업 단계까지 포함하면 이야기가 달라집니다. 앤스로픽은 연구개발 업무의 90% 이상이 AL3 협업 단계 이상에서 이뤄지고 있다고 밝혔습니다.

다시 말해 앤스로픽 연구자가 하는 일 가운데 클로드가 거의 끼지 않는 일은 10%도 안 된다는 뜻입니다.

AI 회사 내부에서 AI는 이미 보조 도구가 아니라 동료에 가까운 위치에 있다는 신호로 읽힙니다.

완전 자율은 아직 0입니다

그렇다고 클로드가 혼자서 다음 클로드를 만들고 있는 것은 아닙니다. 앤스로픽은 측정한 연구개발 업무 가운데 AL5 완전 자율에 도달한 부분은 하나도 없다고 분명히 했습니다.

26%라는 숫자도 사람 없이 돌아가는 일의 비중이 아닙니다. 모든 측정 대상 업무에서 사람의 감독은 여전히 살아 있습니다.

숫자를 읽을 때 가장 쉽게 오해하는 지점이 여기입니다. 주도와 자율은 다른 말입니다.

어떻게 쟀나 — 직원 20% 표본과 1만 5천 개 작업

측정 방법도 공개됐습니다. 앤스로픽은 매주 부서별로 직원의 20%를 표본으로 뽑아, 그들이 하는 일을 잘게 쪼개 기록했습니다.

이렇게 모은 세부 작업이 약 1만 5천 개입니다. 각 작업에 사람이 얼마나 시간을 쓰는지도 함께 따져, 시간 비중으로 가중치를 매겼습니다.

즉 26%는 작업 개수가 아니라 연구개발에 들어가는 사람의 시간 가운데 클로드가 주도하는 몫을 뜻합니다.

542개 갈래로 나눈 작업 분류

1만 5천 개 작업은 클로드가 직접 분류했습니다. 비슷한 일끼리 묶어 542개 갈래의 계층 구조로 정리했고, 그중 가장 세부적인 갈래가 378개입니다.

그다음 별도의 클로드 판정 모델이 갈래마다 자동화 단계를 매겼습니다. 이 판정을 시간 비중과 곱해 전체 비율을 계산했습니다.

작업 분류를 고정해 두었기 때문에 같은 기준으로 다음 측정과 비교할 수 있다는 장점이 있습니다.

클로드가 클로드를 채점했다는 약점

이 방법에는 분명한 약점이 있습니다. 작업을 분류하고 자동화 단계를 판정한 것이 모두 클로드입니다. 앤스로픽 스스로도 판정 모델이 자기 회사 시스템을 평가했다는 점을 한계로 적었습니다.

외부 매체들도 이 부분을 짚었습니다. 측정하는 쪽과 측정받는 쪽이 같은 회사라 객관성에 의문이 남는다는 지적입니다.

앤스로픽은 연구소끼리 비교하려면 제3자 검증이 필요하다고 인정했습니다.

사람과 모델 판정의 일치율 59%

판정이 얼마나 믿을 만한지 확인하려고 앤스로픽은 사람의 판정과 모델의 판정을 비교했습니다. 두 판정이 정확히 같은 단계를 고른 비율은 59%였습니다.

다만 한 단계 이내로 차이 나는 경우까지 넣으면 일치율은 97%로 올라갑니다. 대체로 비슷하게 보지만, 협업이냐 주도냐 같은 경계에서는 판정이 자주 갈린다는 뜻입니다.

26%라는 숫자가 경계선 위의 판정에 따라 몇 %포인트 움직일 수 있다는 점을 염두에 둘 필요가 있습니다.

동시에 일하는 에이전트 3만 개

두 번째 측정은 감독입니다. 앤스로픽은 8월 기준으로 가장 많이 쓰는 내부 플랫폼에서 약 3만 개의 AI 에이전트가 동시에 연구와 엔지니어링 작업을 하고 있었다고 밝혔습니다.

에이전트마다 개별 신원이 부여되고, 에이전트끼리는 기록이 남는 공용 메시지 체계로 소통합니다. 누가 무엇을 했는지 나중에 추적할 수 있게 하려는 설계입니다.

3만이라는 숫자는 앤스로픽 전체 직원 수를 훌쩍 넘습니다. 연구소 안에서 일하는 주체의 대부분이 이미 AI라는 뜻이기도 합니다.

실행 전에 모든 행동을 보는 감시 장치

에이전트의 행동은 두 겹의 감시를 거칩니다. 첫 번째는 실시간 감시 장치로, 에이전트가 무언가를 실행하기 전에 모든 행동을 먼저 검토합니다. 적용 범위는 100%입니다.

자동 검토는 몇 초 안에 끝나고, 막힌 행동은 일주일 안에 사람이 다시 살펴봅니다.

두 번째는 사후 감시 장치입니다. 이미 실행된 행동을 모두 모아 두고, 당장은 문제가 없어 보여도 점점 커질 수 있는 이상 징후를 찾아냅니다.

4만 7천 번에 한 번 막았습니다

실시간 감시 장치가 실제로 막은 행동의 비율은 0.002%였습니다. 약 4만 7천 번의 결정 가운데 한 번꼴입니다. 분석 대상이 된 결정은 10억 건이 넘습니다.

숫자가 작다는 것은 두 가지로 읽을 수 있습니다. 에이전트 대부분이 규칙 안에서 움직인다는 뜻일 수도 있고, 감시 장치가 알아볼 수 있는 문제만 잡힌다는 뜻일 수도 있습니다.

외부 분석가들도 감시의 품질은 결국 시스템이 무엇을 탐지할 수 있느냐에 달려 있다고 지적했습니다.

주 10만 건 기록과 사람에게 올라가는 50건

사후 감시는 매주 약 10만 건의 작업 기록을 분류기로 걸러냅니다. 그중 1,000건당 한두 건이 사람의 검토 대상으로 표시됩니다.

최종적으로 매주 약 50건의 우선순위 높은 사례가 사람에게 올라갑니다. 3만 개 에이전트의 한 주를 사람 몇 명이 확인 가능한 분량으로 줄이는 구조입니다.

앤스로픽은 개발사들이 레드팀 공격으로 이 탐지가 실제로 작동하는지 검증해야 한다고 덧붙였습니다.

안전 연구에 쓰는 연산은 6%

세 번째 측정은 연산 자원의 배분입니다. 앤스로픽은 7월 13일부터 20일까지 한 주 동안의 학습·평가 작업을 조사했습니다.

그 결과 AI 연구개발에 쓰인 연산 가운데 6%가 안전 연구에 배정돼 있었습니다. 안전 연구는 시스템을 더 안전하게, 더 이해하기 쉽게, 더 안전하게 보호하는 것이 주된 목적인 연구로 정의했습니다.

앤스로픽은 이 추정이 일부러 보수적으로 잡은 값이라고 설명했습니다. 안전과 성능 모두에 도움이 되는 연구는 성능 쪽으로 셌기 때문입니다.

AI가 주도하는 연구에서는 12%

흥미로운 대목은 AI가 주도하는 연구만 따로 떼어 봤을 때입니다. 이 경우 안전 연구에 쓰인 연산 비중은 12%로 두 배가 됩니다.

안전 연구에 AI를 더 적극적으로 투입하고 있다는 뜻으로 읽을 수 있습니다. 다만 한 주짜리 표본이라 추세로 보기는 어렵다는 점을 앤스로픽 스스로도 한계로 적었습니다.

또 안전 연구는 원래 연산을 덜 쓰는 편이라, 연산 비중만으로 노력의 크기를 재기는 어렵다는 단서도 붙였습니다.

왜 이 숫자를 스스로 공개했나

앤스로픽은 이런 시스템이 사람에게 이해되고 통제되기가 점점 더 어려워지고 있다고 적었습니다. 그래서 프런티어 연구소가 아는 것과 대중이 아는 것 사이의 간극을 줄이고 싶다고 밝혔습니다.

AI가 AI를 얼마나 빨리 만들고 있는지는 연구소 안에서만 볼 수 있는 정보입니다. 이 숫자가 공개되지 않으면 정부도, 시민도 속도를 판단할 방법이 없습니다.

며칠 앞서 앤스로픽 최고경영자 다리오 아모데이가 업계 전체의 속도 조절을 제안한 흐름과도 맞닿아 있습니다.

재귀적 자기 개선이라는 결승선

앤스로픽은 모델이 점점 더 자기 다음 버전을 만드는 데 쓰이고 있다고 적으면서, 재귀적 자기 개선까지의 진행 상황을 추적하는 것이 중요하다고 강조했습니다.

재귀적 자기 개선은 모델이 사람 없이 완전히 자율적으로 자신의 후속 모델을 만드는 상태를 뜻합니다. 그렇게 되면 개발 속도가 사람이 따라갈 수 없을 만큼 빨라질 수 있다는 것이 우려의 핵심입니다.

이번 측정은 그 결승선까지 얼마나 남았는지를 재는 눈금을 만들려는 시도로 볼 수 있습니다. 앤스로픽이 스스로 얼마나 가깝다고 보는지는 밝히지 않았습니다.

다른 연구소에 요구한 것

앤스로픽은 다른 AI 개발사들에게 같은 종류의 숫자를 정기적으로, 공개된 방법론으로 발표하자고 제안했습니다.

구체적으로는 자동화 측정, 감독의 적용 범위와 검토 속도와 사람에게 올리는 비율, 안전 연구 연산 비중을 공개하자는 내용입니다. 측정 전에 안전과 성능의 정의부터 업계가 맞추자는 제안도 들어 있습니다.

연구소마다 기준이 다르면 숫자를 나란히 놓고 비교할 수 없기 때문입니다.

외부 평가자를 안으로 들이겠다는 약속

앤스로픽은 제3자 평가자를 회사 안에 두겠다는 약속도 다시 확인했습니다. 내부 위험 평가팀과 비슷한 수준으로 절차와 시스템, 데이터에 접근할 수 있게 한다는 내용입니다.

스스로 잰 숫자의 약점을 외부 검증으로 보완하겠다는 뜻입니다. 이 평가자들이 이번 측정값을 검증하게 될지는 아직 구체적으로 나오지 않았습니다.

외부 평가자가 실제로 얼마나 깊이 들여다볼 수 있는지가 이 약속의 무게를 정할 것입니다.

실제 사례 — 에이전트 3만 개가 일하는 연구소의 하루

발표 내용을 바탕으로 하루를 그려 보면 이렇습니다. 연구자가 아침에 '어젯밤 실패한 학습 실험의 원인을 찾아 고쳐 달라'고 지시합니다. 클로드는 기록을 뒤지고, 가설을 세우고, 코드를 고친 뒤 다시 실험을 돌립니다.

그 사이 클로드가 실행하려는 모든 명령은 실시간 감시 장치를 먼저 통과합니다. 수만 번에 한 번꼴로 위험해 보이는 명령이 멈추고, 사람이 나중에 그 판단이 맞았는지 확인합니다.

연구자는 결과를 검토하고 다음 방향을 정합니다. 연구자의 시간은 직접 손을 움직이는 일에서 방향을 정하고 확인하는 일로 옮겨 가고 있습니다.

남는 질문 — 스스로 잰 숫자를 어디까지 믿을까

이번 발표는 투명성을 높이는 시도로 평가받지만, 여전히 회사가 스스로 보고한 수치입니다. 판정 모델도 회사의 모델이고, 작업 분류도 회사가 만들었습니다.

또 고정된 작업 분류로는 새로 생겨나는 종류의 일을 놓칠 수 있고, 에이전트 감시 기록은 몇 달 치에 불과하다는 한계도 앤스로픽 스스로 적었습니다.

그래도 숫자가 아예 없는 것보다는 비교와 검증의 출발점이 생겼다는 점에 의미가 있습니다. 다른 연구소가 같은 방식으로 답할지가 다음 관전 포인트입니다.

핵심 정리

앤스로픽은 9월 17일 자사 AI 연구개발의 26%를 클로드가 주도하고 있다고 밝혔습니다. 2월의 1% 미만에서 반년 만에 크게 늘었습니다.

협업 단계까지 포함하면 90% 이상이지만, 사람 없이 돌아가는 완전 자율 업무는 아직 없습니다. 약 3만 개 에이전트의 모든 행동은 실행 전에 감시를 거치고, 4만 7천 번에 한 번꼴로 차단됩니다.

안전 연구에 배정된 연산은 6%, AI가 주도하는 연구에서는 12%입니다. 모든 수치는 회사가 스스로 잰 값이라 외부 검증이 과제로 남아 있습니다.

참고하실 만한 것

원문은 앤스로픽 인스티튜트의 측정 글에서 직접 보실 수 있습니다. 방법론과 한계가 자세히 적혀 있어 숫자를 해석할 때 도움이 됩니다.

자동화 단계 척도가 궁금하시면 에포크 AI의 연구 자료를 함께 보시면 좋습니다.

SVIL 블로그는 AI 뉴스를 큰 글씨와 쉬운 설명으로 매일 전해 드립니다. 다른 AI 뉴스도 함께 둘러보세요.

출처

• Anthropic Institute — Measurements for understanding the pace of AI development inside frontier labs
• Spectrum News (AP) — Anthropic says its model Claude is helping to build the next version of itself
• Quartz — Anthropic says Claude leads 26% of its AI R&D work
• Unite.AI — Anthropic Says Claude Leads 26% of Its AI Research and Development
• FourWeekMBA — Anthropic Publishes Three Self-Measured Indexes
• Tech Journal — Claude Leads 26% of Anthropic's Next-Model R&D Work
• Digital Today — Anthropic says 26 percent of AI R&D work is done by Claude, runs 30,000 internal agents
• TechMyMoney — Anthropic R&D Automation Index

협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://svil.dev/