AI 뉴스 SVIL 앤스로픽 오픈AI 구글 딥마인드 데미스 하사비스 FINRA AI 규제 다리오 아모데이 샘 알트만

앤스로픽·오픈AI·구글이 두 달째 만나고 있었습니다 — 하사비스의 FINRA 모델과 정부 없는 AI 표준기구

SVIL - Singularity Visual Intelligence Lab 2026. 09. 14 19 min read

경쟁사끼리 두 달 동안 정기적으로 만나고 있었습니다. 앤스로픽과 오픈AI와 구글입니다. 세 회사는 서로를 가장 크게 위협하는 사이인데, 7월부터 같은 방에 앉아 한 가지를 논의해 왔습니다. 자기들이 만들 AI를 자기들이 검사하는 기구를 세우는 일입니다.

이 사실은 9월 14일에야 밖으로 나왔습니다. 정부가 부른 자리가 아니고, 발표된 계획도 아닙니다. 오히려 정부가 만들려던 비슷한 기구는 백악관 안에서 멈춰 서 있습니다.

왜 경쟁사들이 모였는지, 무엇을 만들려 하는지, 그리고 왜 벌써부터 카르텔이라는 말이 나오는지 차근차근 풀어 보겠습니다.

어둠 속에 떨어져 선 두 개의 커다란 어두운 정육면체와 그 사이에 놓인 청록빛 육각형 — 경쟁사들이 만든 공동의 자리를 표현한 개념 이미지

두 달 동안 조용히 만나고 있었습니다

앤스로픽과 오픈AI와 구글의 실무 그룹이 7월부터 정기적으로 회동해 왔다는 사실이 9월 14일 보도로 알려졌습니다. 일회성 간담회가 아니라 정례 회의였습니다.

논의 주제는 하나입니다. 최신 AI 모델을 세상에 내놓기 전에, 업계가 함께 만든 기준으로 검사받도록 하는 기구를 세울 수 있는가입니다.

두 달이라는 기간이 중요합니다. 즉흥적인 제안이 아니라 이미 상당히 구체화된 논의라는 뜻이기 때문입니다.

무엇이 보도됐나 — 임원급 워킹그룹의 정례 회동

보도의 핵심은 세 가지입니다. 첫째, 회의가 7월부터 이어져 왔습니다. 둘째, 참석자는 최고경영자가 아니라 그 아래 임원들입니다. 셋째, 논의 중인 것은 출시 전 모델을 시험하는 공통 절차입니다.

구체적으로는 독립적인 평가, 출시 전 안전성 검토, 그리고 표준화된 위험 평가가 묶음으로 거론됐습니다.

세 회사 모두 이 보도에 대해 공식적으로 확인하거나 부인하지 않았습니다.

밝은 청록 고리 안에 떠 있는 작은 어두운 정육면체 세 개 — 하나의 기구 안에 묶인 세 회사를 표현한 개념 이미지

세 회사, 그런데 CEO는 그 자리에 없다

참석자가 임원급이라는 점은 그냥 넘길 대목이 아닙니다. CEO가 직접 앉으면 그 자리는 곧 합의이고, 합의는 발표를 전제로 합니다.

실무 임원이 앉으면 다릅니다. 아직 구속력이 없는 상태로 설계를 맞춰 볼 수 있고, 틀어져도 없던 일이 됩니다.

달리 말하면 지금 단계는 합의가 아니라 탐색입니다. 그래서 두 달이 걸리고도 발표가 없었습니다.

왜 7월이 시작점인가 — 하사비스의 에세이

7월 14일, 구글 딥마인드의 데미스 하사비스가 에세이 한 편을 냈습니다. 프런티어 AI를 위한 틀과 새로운 시대의 시작이라는 제목이었습니다.

그 글에서 하사비스는 최신 AI 모델을 시험하고 출시 관행을 정하는 표준기구를 만들자고 제안했습니다.

워킹그룹이 7월부터 돌기 시작한 것은 우연이 아닙니다. 하사비스의 제안이 판을 깔았고, 나머지가 그 위에 앉은 모양새입니다.

맞붙은 두 개의 매끈한 어두운 정육면체와 그 이음새를 따라 가늘게 빛나는 청록 선 — 경쟁사 사이에 생긴 접점을 표현한 개념 이미지

FINRA라는 모델, 금융에서 빌려온 틀

하사비스가 본보기로 든 것은 미국 금융산업규제청, 줄여서 FINRA입니다. 증권업계를 감독하는 기구인데 정부 부처가 아닙니다.

FINRA는 연방정부의 감독을 받되 업계가 돈을 대고 업계가 운영합니다. 이런 형태를 자율규제기구라고 부릅니다.

하사비스가 제안한 프런티어 AI 표준기구도 같은 구조입니다. 정부가 위에서 지켜보고, 비용과 운영은 AI 기업들이 맡습니다.

프런티어 클래스와 프런티어 랩이라는 새 이름표

제안에는 새로운 분류가 들어 있습니다. 일정 성능 기준을 넘는 모델을 프런티어 클래스로 지정하고, 그런 모델을 만드는 회사를 프런티어 랩으로 분류하자는 것입니다.

모든 AI를 검사하자는 얘기가 아니라는 뜻입니다. 위험이 큰 최상위 모델만 골라내 규제 대상으로 삼자는 설계입니다.

기준을 어디에 그을지는 정해지지 않았습니다. 그리고 그 선을 누가 긋느냐가 이 구상에서 가장 민감한 문제입니다.

어두운 사면체로 들어갔다가 더 가늘어져 빠져나오는 청록 광선 — 검사 절차를 통과하며 걸러지는 과정을 표현한 개념 이미지

출시 30일 전에 모델을 제출한다는 뜻

제안의 작동 방식은 이렇습니다. 프런티어 랩은 모델을 공개하기 전, 최대 30일의 여유를 두고 표준기구에 제출합니다.

기구는 그 기간에 모델을 시험합니다. 30일은 짧아 보이지만, 대형 모델을 외부에서 검사하는 데 주어지는 시간으로는 결코 넉넉하지 않습니다.

그리고 초기에는 이 제출이 강제가 아니라 자발입니다.

자발로 시작해 의무로 굳힌다는 설계

하사비스의 구상은 단계적입니다. 처음에는 자발적으로 참여하게 하고, 제도가 실제로 굴러간다는 것이 확인되면 그다음에 의무로 바꿉니다.

최종 단계에서는 이 절차를 통과하는 것이 미국 사용자에게 모델을 공개하기 위한 전제조건이 됩니다.

자율로 시작해 사실상의 허가제로 끝나는 경로입니다. 이 점 때문에 찬성과 반대가 동시에 나옵니다.

커다란 어두운 정육면체 위에 정확히 얹힌 훨씬 작은 청록 정육면체 — 최상위 등급만 규제 대상으로 지정하는 구조를 표현한 개념 이미지

무엇을 시험하나 — 사이버, 생물, 그리고 기만

시험 항목으로 거론된 것은 세 가지입니다. 사이버 공격 능력, 생물학적 위험, 그리고 기만 능력입니다.

앞의 둘은 익숙합니다. 모델이 해킹 도구가 되거나 위험한 물질을 만드는 일을 도울 수 있는지를 봅니다.

세 번째가 새롭습니다. 모델이 사람을 속일 수 있는지를 별도 항목으로 잡았다는 것은, 업계가 이 위험을 앞의 둘과 같은 급으로 본다는 뜻입니다.

아모데이가 9월 12일에 내놓은 것

9월 12일, 앤스로픽의 다리오 아모데이가 속도를 늦추자는 글을 공개했습니다. 업계가 스스로 페이스를 조절하고 안전 연구가 따라올 시간을 벌자는 내용이었습니다.

그 글에서 아모데이는 독립적인 감독이 필요하다는 점을 분명히 했습니다. 외부 검토자가 회사 안으로 들어와 결과를 공개할 수 있어야 한다는 것입니다.

이번 워킹그룹 보도는 그 주장이 말로만 나온 것이 아니었음을 보여 줍니다. 공개 발언 뒤에 이미 두 달치 실무 논의가 쌓여 있었습니다.

빈 어둠 속에 나란히 떠 있는 두 개의 커다란 청록 다각형 — 같은 방향을 보지만 결이 다른 두 입장을 표현한 개념 이미지

알트만의 타운홀, 정부 없이도 가능하다는 쪽

비슷한 시기에 오픈AI의 샘 알트만도 사내 타운홀에서 같은 방향에 힘을 실었습니다.

다만 표현이 조금 달랐습니다. 알트만은 주요 AI 기업들이 미국 정부의 뒷받침 없이도 표준기구를 만들어야 할 것이라고 말한 것으로 전해졌습니다.

정부를 기다리지 않겠다는 뜻입니다. 같은 목적지를 말하면서도 경로가 다릅니다.

같은 방향 다른 온도 — 앤스로픽과 오픈AI의 차이

두 회사의 차이는 미묘하지만 결과를 바꿉니다. 앤스로픽은 정부 기관과 손잡는 쪽으로 기울어 있습니다. 감독의 정당성이 공적 권한에서 나온다고 보는 입장입니다.

오픈AI는 연방정부의 조치가 있든 없든 자발적 표준을 밀고 나가겠다는 쪽입니다. 속도를 중시하는 입장입니다.

이 온도 차이는 나중에 누가 최종 결정권을 갖느냐에서 크게 벌어질 수 있습니다.

한쪽 모서리가 잘려 나가 삼각형 단면이 청록빛으로 드러난 어두운 정육면체 — 출시 전에 안을 열어 보이는 검사를 표현한 개념 이미지

구글 딥마인드가 서 있는 자리

구글 딥마인드는 애초에 이 판을 깐 쪽입니다. 하사비스의 제안이 7월에 나왔고, 그 설계가 지금 논의의 뼈대입니다.

동시에 구글은 세 회사 중 가장 큰 모회사를 두고 있습니다. 규제에 대응해 본 경험도, 규제를 받아 본 경험도 가장 많습니다.

자율규제 설계를 금융 쪽에서 가져올 발상이 구글 쪽에서 나온 것은 그래서 자연스럽습니다.

정부 쪽에서는 무슨 일이 있었나 — 멈춘 행정명령

중요한 배경이 하나 있습니다. 정부가 주도하는 표준기구를 만들자는 행정명령 초안이 실제로 있었고, 그 초안이 트럼프 행정부 안에서 멈춰 섰다는 것입니다.

즉 업계가 먼저 나선 것이 아니라, 정부 쪽 길이 막힌 뒤에 업계 쪽 길이 열린 순서에 가깝습니다.

이 순서를 알고 보면 정부 없이 만들겠다는 말의 무게가 달라집니다. 선택이 아니라 남은 길이었을 수 있습니다.

수평으로 길게 뻗은 청록 광선과 그 양 끝에 매달린 어두운 정육면체 두 개 — 정부와 업계 사이에 걸린 균형을 표현한 개념 이미지

데이비드 색스라는 제동

행정명령 초안에 제동을 건 인물로 데이비드 색스가 지목됐습니다. 대통령 과학기술자문위원회의 공동의장입니다.

반대 논리는 대체로 이렇습니다. 새 규제 기구는 미국 AI 산업의 속도를 떨어뜨리고, 그 자리를 다른 나라가 차지하게 된다는 것입니다.

정부 안에서도 규제의 필요성보다 경쟁에서 밀릴 위험을 더 크게 보는 시각이 있다는 뜻입니다.

반대편의 목소리 — 저커버그

업계가 한목소리인 것도 아닙니다. 메타의 마크 저커버그는 이런 규제 기구에 공개적으로 반대해 왔습니다.

메타는 모델 가중치를 공개하는 전략을 오래 유지해 왔습니다. 출시 전 제출과 사전 검사를 전제로 하는 구조는 그 전략과 정면으로 부딪칩니다.

세 회사 워킹그룹에 메타가 빠져 있다는 사실 자체가 이 구도를 말해 줍니다.

빈 어둠을 수직으로 가르며 아래로 갈수록 가늘고 밝아지는 청록 빛줄기 — 자발에서 의무로 좁혀지는 경로를 표현한 개념 이미지

카르텔의 훌륭한 아이디어라는 말

가장 날 선 반응은 코히어의 에이든 고메즈에게서 나왔습니다. 그는 이 구상을 두고 카르텔이 낸 훌륭한 아이디어라는 취지로 일축했습니다.

짧은 말이지만 핵심을 찌릅니다. 가장 큰 세 회사가 무엇이 프런티어 모델인지를 정의하면, 그 정의가 곧 진입 장벽이 될 수 있다는 지적입니다.

검사를 통과할 자원이 있는 회사와 없는 회사가 갈리고, 뒤늦게 들어오는 쪽이 불리해집니다.

자율규제기구라는 오래된 장치

자율규제기구 자체는 새로운 발명이 아닙니다. 금융, 의료, 회계, 변호사 업계에 오래전부터 있어 왔습니다.

장점은 분명합니다. 업계 내부 사정을 잘 알기 때문에 규제가 현실과 덜 어긋나고, 기술 변화를 정부보다 빨리 따라갑니다.

단점도 분명합니다. 감독하는 쪽과 감독받는 쪽이 같은 사람들이라는 것입니다.

빽빽하게 맞물린 어두운 정육면체 무리와 모든 이음새를 채운 강한 청록빛 — 업계 전체가 얽힌 공동 규칙을 표현한 개념 이미지

FINRA는 실제로 어떻게 움직이나

FINRA는 증권사와 그 직원을 등록시키고, 규칙을 만들고, 위반을 조사하고, 제재합니다. 벌금을 물리고 자격을 정지시킬 수 있습니다.

다만 FINRA의 규칙은 증권거래위원회의 승인을 받아야 효력이 생깁니다. 최종 권한은 정부에 있습니다.

하사비스 구상이 FINRA를 본뜬다면, AI 쪽에서 그 승인 권한을 누가 갖느냐가 정해져야 합니다. 지금 그 자리는 비어 있습니다.

금융의 틀을 AI로 옮길 때 생기는 틈

금융 규제는 거래 기록이 남는다는 전제 위에 서 있습니다. 무슨 거래가 언제 얼마에 일어났는지 검증할 수 있습니다.

AI 모델은 다릅니다. 같은 모델이 같은 질문에 매번 다르게 답하고, 위험한 능력은 특정 조건에서만 드러납니다.

30일 동안 시험해서 안 나왔다는 것이 그 능력이 없다는 증명이 되지 않습니다. 이것이 이 틀의 가장 약한 지점입니다.

아래쪽에서 강한 청록빛이 새어 나오는 커다란 어두운 정육면체 — 겉으로는 드러나지 않는 내부 능력을 표현한 개념 이미지

경쟁사끼리 표준을 만들면 생기는 문제

표준은 중립적으로 보이지만 실제로는 누군가에게 유리합니다. 자기 회사가 이미 하고 있는 방식이 표준이 되면 비용이 들지 않고, 남에게는 비용이 됩니다.

세 회사가 각자의 내부 절차를 들고 와 합치면, 결과물은 세 회사가 이미 하는 일의 합집합에 가까워집니다.

그 합집합을 따라가야 하는 쪽은 나머지 전부입니다.

반독점이라는 또 하나의 관문

경쟁사끼리 모여 공통 규칙을 정하는 행위는 경쟁법에서 늘 민감하게 다뤄집니다. 목적이 안전이어도 마찬가지입니다.

그래서 FINRA 같은 자율규제기구는 대개 법으로 근거를 만들고 정부 감독을 붙여 이 문제를 피해 갑니다.

정부 없이 만들겠다는 경로를 택하면 이 방패가 없습니다. 업계가 정부를 완전히 빼기 어려운 현실적인 이유입니다.

겹겹이 놓인 세 개의 어두운 사각 테두리와 가장 안쪽만 강하게 빛나는 청록빛 — 여러 겹으로 포개진 감독 구조를 표현한 개념 이미지

사전 출시 감사가 실제로 가능한가

외부 검사자가 모델을 제대로 보려면 가중치와 학습 데이터에 어느 정도 접근해야 합니다. 그런데 그것이 회사의 가장 핵심 자산입니다.

접근을 제한하면 검사의 깊이가 얕아지고, 접근을 열면 영업비밀이 새어 나갈 위험이 생깁니다.

이 긴장을 어떻게 푸는지가 기구의 실효성을 결정합니다. 지금까지 공개된 내용에 이 문제의 답은 없습니다.

앞서 있었던 자율 협의체들이 남긴 것

AI 업계에는 이미 여러 자율 협의체가 있었습니다. 공동 원칙을 발표하고, 모범 사례를 공유하고, 보고서를 냈습니다.

그런데 그중 어느 것도 출시를 막을 권한을 가진 적은 없습니다. 지키지 않아도 불이익이 없었기 때문에 선언에 머물렀습니다.

이번 구상이 앞선 것들과 다른 지점은 딱 하나입니다. 제출과 검사를 실제 출시 조건으로 걸겠다는 것입니다. 그 하나가 지켜지는지가 관건입니다.

대각선을 따라 점점 커지며 차례로 더 밝아지는 어두운 사면체 세 개 — 단계적으로 강해지는 규제 설계를 표현한 개념 이미지

이 논의가 한국에 닿는 지점

미국에서 프런티어 모델의 출시 절차가 정해지면, 그 절차는 사실상 세계 기준이 됩니다. 한국에서 쓰는 모델 대부분이 그 절차를 거친 것들이기 때문입니다.

동시에 한국 기업이 만드는 모델이 그 기준선 아래에 있으면 규제 대상이 아니게 되고, 넘어서면 미국 기준을 맞춰야 하는 상황이 생깁니다.

기준선을 누가 긋느냐가 남의 일이 아닌 이유입니다.

저시력 사용자에게 이 소식이 뜻하는 것

출시 전 검사 항목에 무엇이 들어가느냐는 접근성과 직접 연결됩니다. 지금 거론된 항목은 사이버, 생물, 기만 세 가지뿐입니다.

화면 낭독기와의 호환, 저시력 사용자를 위한 출력 형식, 음성 안내의 정확성 같은 것은 어느 목록에도 없습니다. 표준을 만드는 자리에 접근성이 빠지면, 나중에 붙이는 데 몇 배의 비용이 듭니다.

안전 기준을 짜는 지금이 접근성을 같이 넣자고 말할 수 있는 시점입니다.

빈 어둠을 물결치듯 휘어 지나가다 가운데가 끊긴 청록 빛줄기 — 아직 비어 있는 최종 권한의 자리를 표현한 개념 이미지

핵심 정리

첫째, 앤스로픽과 오픈AI와 구글의 임원급 워킹그룹이 7월부터 정례 회동하며 업계 주도 AI 표준기구를 논의해 왔다는 사실이 9월 14일 알려졌습니다.

둘째, 설계의 원형은 하사비스가 7월 14일 제안한 FINRA 모델입니다. 프런티어 클래스 모델을 지정하고, 출시 30일 전 제출과 사전 검사를 자발에서 의무로 굳혀 가는 구조입니다.

셋째, 정부 주도 기구를 만들려던 행정명령은 데이비드 색스의 반대로 멈췄고, 저커버그와 코히어의 에이든 고메즈는 이 구상을 카르텔이라고 비판합니다. 검사 항목에 접근성은 아직 들어 있지 않습니다.

참고하실 만한 것

이 주제를 더 따라가고 싶으시면 하사비스의 7월 에세이와 아모데이의 9월 12일 글을 나란히 읽어 보시길 권합니다. 같은 목적지를 말하면서 경로가 어떻게 갈리는지가 선명하게 보입니다.

SVIL에서는 AI 정책과 접근성이 만나는 지점을 계속 기록하고 있습니다. 블로그와 유튜브 채널에서 이어지는 글과 영상으로 만나 보실 수 있습니다.

출처

협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://svil.dev/