찰스 국왕이 AI 수장들을 스코틀랜드로 불렀습니다 — 젠슨 황·하사비스 앞에서 늦기 전에 통제하라

영국 국왕이 AI 회사 대표들을 자기 집으로 불렀습니다. 정부 회의도 국제기구 행사도 아닌, 국왕의 자선재단이 소유한 스코틀랜드의 오래된 저택에서였습니다.

9월 17일 찰스 3세는 덤프리스 하우스에서 엔비디아의 젠슨 황, 구글 딥마인드의 데미스 하사비스, 오픈AI와 앤스로픽의 임원들을 앞에 두고 늦기 전에 통제 수단을 마련하라고 말했습니다.

오늘은 이 자리에 누가 앉았는지, 국왕과 기업 수장들이 각각 무슨 말을 했는지, 합의문 하나 없이 끝난 회의가 왜 주목받는지, 그리고 같은 주에 쏟아진 AI 감속론과는 어떻게 이어지는지 차례로 살펴보겠습니다.

찰스 국왕이 AI 수장들을 스코틀랜드로 불렀습니다

영국 왕실은 전통적으로 정치적 논쟁에 직접 뛰어들지 않습니다. 그런데 이번에는 국왕이 직접 AI 업계의 가장 영향력 있는 인물들을 초대해 우려를 전했습니다.

회의는 비공개 토론과 공개 발언이 섞인 형식이었고, 국왕은 개막 연설을 한 뒤 약 20분 만에 자리를 떠났습니다. 짧은 등장이었지만 메시지는 분명했습니다.

AI가 의료와 과학에 줄 혜택을 인정하면서도, 그 힘이 잘못 쓰일 가능성에 대해 지금 답을 내놓아야 한다는 것이었습니다.

언제, 어디서 열렸나

회의는 현지 시각 9월 17일 목요일, 스코틀랜드 서남부 에어셔 지역의 덤프리스 하우스에서 열렸습니다.

외신 집계로는 기업 임원과 정책 담당자, 연구자를 합쳐 약 30명이 참석했습니다. 대형 국제 정상회의와 비교하면 아주 작은 규모입니다.

그 대신 좌석 하나하나의 무게가 컸습니다. 반도체, 모델 개발, 정부 정책, 종교계까지 AI 논쟁의 주요 축이 한 방에 모였습니다.

덤프리스 하우스와 킹스 파운데이션

덤프리스 하우스는 18세기에 지어진 저택으로, 1990년에 세워진 국왕의 자선단체 킹스 파운데이션이 본부로 쓰고 있습니다.

이 재단은 교육과 전통 기술 훈련, 자연을 중심에 둔 지역 공동체 사업을 해 왔습니다. 첨단 기술 회의와는 거리가 멀어 보이는 장소입니다.

그래서 장소 선택 자체가 하나의 메시지로 읽혔습니다. 기술이 사람과 공동체, 자연에 봉사해야 한다는 국왕의 오랜 관심사가 그대로 무대가 된 셈입니다.

누가 왔나 — 젠슨 황과 데미스 하사비스

가장 눈에 띈 참석자는 엔비디아 최고경영자 젠슨 황이었습니다. 전 세계 AI 학습에 쓰이는 칩 대부분을 공급하는 회사의 수장입니다.

구글 딥마인드 공동창업자 데미스 하사비스도 자리했습니다. 노벨화학상 수상자이자, 범용 인공지능을 가장 적극적으로 공언해 온 연구자 가운데 한 명입니다.

칩을 만드는 쪽과 모델을 만드는 쪽의 대표가 함께 앉았다는 점에서, 이 자리는 AI 공급망의 위아래를 모두 아우른 셈이었습니다.

오픈AI와 앤스로픽은 누구를 보냈나

오픈AI에서는 최고재무책임자 사라 프라이어가 참석했습니다. 샘 올트먼이 아닌 재무 책임자가 온 것은, 최근 상장 계획이 안전 문제로 멈춘 회사 사정과 겹쳐 보였습니다.

앤스로픽에서는 글로벌 정책 책임자 티노 쿠에야르가 나왔습니다. 캘리포니아 대법관 출신으로, 앤스로픽의 대외 정책을 총괄하는 인물입니다.

두 회사 모두 최고경영자가 아닌 임원을 보냈지만, 각 회사가 이 회의를 어떤 창구로 다루는지 보여 주는 인선이었습니다.

비공개 자리의 손님들 — MI6 국장과 하라리

공개된 명단 밖의 비공개 세션에는 약 13명이 더 초대된 것으로 알려졌습니다.

영국 해외정보기관 MI6의 블레이즈 메트레웰리 국장, 내각 사무처장 앤토니아 로미오, 버클리의 컴퓨터과학자 스튜어트 러셀, 『사피엔스』의 저자 유발 하라리가 이름을 올렸습니다.

정보기관 수장이 AI 회의에 앉았다는 사실은, 영국 정부가 이 문제를 기술 정책을 넘어 국가 안보의 영역으로 보고 있다는 신호로 읽힙니다.

교황청 AI 자문 파올로 베난티

교황청의 AI 자문역인 프란치스코회 수도사 파올로 베난티도 참석했습니다. 그는 AI 윤리 분야에서 오래 활동해 온 신학자입니다.

교황 레오 14세는 그동안 각국 정부에 AI 개발 속도를 늦추라고 요청했고, AI가 또 하나의 바벨탑이 될 수 있다고 경고해 왔습니다.

영국 국왕과 교황청이 같은 테이블에 앉았다는 것은, AI 논쟁이 이제 기술과 경제를 넘어 인간다움이라는 질문으로 옮겨 가고 있음을 보여 줍니다.

국왕이 꺼낸 첫마디

국왕은 AI의 빠른 발전을 두고 흥미로우면서도 똑같은 크기로 깊이 우려된다고 표현했습니다.

그는 의료와 과학에서 AI가 줄 이익을 먼저 언급했습니다. 질병을 더 일찍 찾고 새 약을 더 빨리 만드는 일은 분명히 환영할 일이라는 것입니다.

하지만 곧바로, 이 기술을 만든 사람들조차 점점 그 어두운 능력을 조심스러워한다는 점을 짚었습니다. 칭찬으로 시작해 경고로 옮겨 가는 전형적인 구성이었습니다.

잘못된 손이라는 경고

연설의 핵심은 AI가 잘못된 손에 들어갈 가능성이었습니다. 국왕은 이 존재론적 위험을 진지하게 다루는 일이 시급하다고 말했습니다.

그는 이 기술이 제공하는 힘이 파국적인 방식으로 쓰일 수 있다고 보았고, 그래서 늦기 전에 잘 설계된 규제가 필요하다고 강조했습니다.

지금 내리는 결정이 세상의 미래를 정한다는 표현도 덧붙였습니다. 기업의 자율에만 맡기지 말라는 뜻으로 읽을 수 있는 대목입니다.

늦기 전에 통제 수단을 — 20분의 연설

외신이 가장 많이 인용한 문장은 늦기 전에 충분한 통제 수단이 필요하지 않겠느냐는 반문이었습니다.

국왕은 인간다움과 그 도덕적 요소를 소중히 여기는 사람들이 우리가 운명과 영혼의 통제력을 잃지 않을 것이라는 확답을 애타게 기다리고 있다고 말했습니다.

그리고 참석자들에게 여러분의 과제는 기술을 앞으로 밀어붙이는 것만이 아니라, 그것이 인류와 공동체와 자연에 봉사하도록 붙잡아 두는 일이라고 당부하며 자리를 떴습니다.

하사비스 — AGI는 몇 년 남지 않았다

하사비스는 공개 발언에서 범용 인공지능이 아마 몇 년밖에 남지 않았다고 말했습니다.

범용 인공지능은 특정 과제가 아니라 사람처럼 거의 모든 지적 작업을 해내는 AI를 뜻합니다. 연구 현장의 수장이 이 시점을 이렇게 가깝게 말한 것은 무게가 다릅니다.

그는 무언가 잘못될 가능성도 분명히 0이 아니라고 인정했습니다. 낙관과 경계를 한 문장 안에 함께 담은 셈입니다.

산업혁명의 열 배라는 비유

하사비스는 범용 인공지능의 충격을 산업혁명의 열 배로 표현했습니다. 그는 이전에도 비슷한 비유를 써 왔지만, 국왕 앞에서 다시 꺼낸 것이 눈길을 끌었습니다.

산업혁명이 한 세기에 걸쳐 일어난 변화였다면, 그보다 열 배 큰 변화가 훨씬 짧은 기간에 몰려올 수 있다는 뜻입니다.

이 비유는 이익이 큰 만큼 준비할 것도 크다는 이야기로 이어졌습니다. 일자리, 교육, 사회 제도가 속도를 따라갈 수 있느냐는 질문입니다.

젠슨 황 — 기술이 아니라 제품을 규제하자

젠슨 황은 규제의 대상을 분명히 나눴습니다. AI라는 기술 자체가 아니라, 사람들이 실제로 쓰는 AI 제품을 규제해야 한다는 입장입니다.

그는 제품이 충분히 안전하지 않으면 출시를 미뤄야 한다고 말했습니다. 자동차나 의약품처럼 결과물을 검증하자는 접근입니다.

동시에 그는 누구나 쓸 수 있는 공개 모델을 지지했습니다. 기술 자체를 묶으면 소수 기업만 AI를 가질 수 있다는 우려가 깔려 있습니다.

사라 프라이어 — 어느 한 회사로는 안 된다

오픈AI의 사라 프라이어는 AI 안전을 어느 한 회사나 한 정부가 혼자 해낼 수 없다고 말했습니다.

그는 AI가 언제나 사람에게 봉사하도록 만드는 것이 목표라고 강조했습니다. 회사 차원의 약속을 넘어 공동의 틀이 필요하다는 뜻으로 읽힙니다.

이 발언은 최근 업계에서 논의되는 자율 표준기구 구상과도 맞닿아 있습니다. 경쟁사끼리 안전 기준을 함께 세우자는 흐름입니다.

디칠리 재단이 맡은 진행 방식

회의 진행은 영국의 비영리 토론 기관인 디칠리 재단이 맡았습니다. 이 재단은 외교와 안보 분야의 비공개 원탁 토론으로 잘 알려져 있습니다.

비공개 토론은 참석자가 소속 회사의 공식 입장에서 한 걸음 물러나 솔직하게 말할 수 있게 해 줍니다. 대신 무슨 말이 오갔는지 밖에서는 알기 어렵습니다.

토론의 주제는 AI 활용을 이끌 공통 원칙을 세울 수 있느냐, 그리고 인간의 존엄과 지구 환경을 어떻게 지킬 것이냐였던 것으로 전해집니다.

서명도 공동성명도 없었습니다

이번 회의에서는 구속력 있는 합의도, 공동성명도, 새 정책 틀도 나오지 않았습니다. 주최 측도 처음부터 합의문을 목표로 하지 않았습니다.

참석한 기업들 역시 공개적인 약속을 내놓지 않았습니다. 회의는 결론보다 대화 자체에 무게를 둔 자리였습니다.

이 때문에 상징적인 행사에 그쳤다는 평가와, 오히려 부담 없는 대화가 가능했다는 평가가 엇갈립니다.

2023년 블레츨리 회의와 무엇이 다른가

국왕은 2023년 영국 블레츨리 파크에서 열린 첫 AI 안전 정상회의에도 영상 메시지를 보낸 적이 있습니다. 당시 그는 AI를 불의 발견에 비유했습니다.

블레츨리 회의는 각국 정부가 모여 공동선언을 채택한 공식 외교 행사였습니다. 이번 덤프리스 회의는 정부가 아닌 왕실 재단이 연 비공식 모임입니다.

3년 사이 국왕의 어조는 기대에서 경계 쪽으로 더 기울었습니다. 그 사이 AI 성능이 급격히 올라간 만큼, 우려의 수위도 함께 올라간 셈입니다.

같은 주에 쏟아진 감속론과의 관계

이 회의는 AI 업계 안에서 속도를 늦추자는 목소리가 한꺼번에 나온 직후에 열렸습니다.

앤스로픽의 다리오 아모데이가 지난 주말 개발 속도 조절을 제안했고, 외신에 따르면 올트먼과 머스크, 하사비스, 마이크로소프트의 무스타파 술레이만까지 비슷한 입장에 힘을 실었습니다.

앤스로픽 연구자 에반 허빙거가 9월 8일 초지능이 10년 안에 파국적 피해를 낼 확률을 10퍼센트 이상으로 본 것도 배경으로 거론됩니다. 국왕의 회의는 이 흐름 한가운데에 놓였습니다.

트럼프 행정부의 반대 목소리

반대편에는 트럼프 대통령이 있습니다. 그는 AI 위협론을 과장된 이야기로 일축하며, 규제가 중국과의 경쟁에서 미국을 불리하게 만든다고 말해 왔습니다.

회의에 참석한 기업 대부분이 미국 회사라는 점에서, 이 긴장은 더 도드라집니다. 영국 왕실의 호소와 미국 정부의 방향이 엇갈리는 구도입니다.

결국 기업들은 두 목소리 사이에서 균형을 잡아야 합니다. 이번 회의에서 공개 약속이 나오지 않은 것도 이런 사정과 무관하지 않아 보입니다.

실제 사례 — 영국 AI 장관 나라얀의 자리

영국 정부에서는 AI 담당 장관 카니슈카 나라얀이 참석했습니다. 정부 대표가 왕실 재단의 회의에 앉은 것은 이 모임에 사실상의 공적 무게를 실어 준 것입니다.

영국은 블레츨리 회의 이후 AI 안전 연구소를 세우는 등 안전 분야에서 앞서가려 해 왔습니다. 이번 회의는 그 연장선에서 영국이 대화의 장을 계속 쥐고 있다는 신호가 됩니다.

다만 정부가 직접 주최하지 않은 덕분에, 영국은 미국 정부와 정면으로 부딪히지 않으면서도 논의를 이어 갈 수 있었습니다.

실제 사례 — 칭화대 쉐란이 앉은 의미

비공개 명단에는 중국 베이징 칭화대학교의 쉐란 교수도 있었습니다. 그는 중국의 AI 거버넌스 논의에서 자주 이름이 오르는 학자입니다.

미국과 중국이 AI 패권을 두고 경쟁하는 상황에서, 중국 학계 인사가 같은 방에 앉았다는 점은 작지 않은 의미를 갖습니다.

AI 위험은 한 나라만 막을 수 없다는 인식이 공유되고 있다는 뜻입니다. 공식 외교 채널이 막힐 때 이런 비공식 대화가 통로 역할을 하기도 합니다.

왕실이 AI 논쟁에 들어온다는 것의 무게

국왕은 선출된 정치인이 아니기에 법을 만들 수 없습니다. 그러나 오랜 기간 환경 문제에 목소리를 내며 여론의 흐름을 바꾸는 데 영향을 준 이력이 있습니다.

기후 문제에서 그랬듯, 국왕의 발언은 정책보다 사회적 분위기를 움직입니다. AI 위험을 일부 연구자의 걱정이 아니라 사회 전체의 질문으로 끌어올리는 효과입니다.

동시에 입헌군주가 정치적 논쟁에 너무 깊이 들어간다는 비판도 나올 수 있습니다. 국왕이 규제의 필요성을 직접 언급한 것은 그만큼 이례적입니다.

남는 질문 — 구속력 없는 회의의 효과

합의문이 없는 회의가 실제로 무엇을 바꿀 수 있을까요. 가장 현실적인 답은 참석자들의 다음 행동을 지켜보는 것입니다.

업계 자율 표준기구 논의, 각국의 AI 안전 법안, 기업별 출시 기준 같은 구체적인 자리에서 이번 대화가 흔적을 남기는지가 관건입니다.

또 하나의 질문은 참석하지 않은 쪽입니다. 메타나 xAI처럼 이 자리에 이름이 오르지 않은 회사들은 같은 논의에 얼마나 참여할까요.

앞으로 지켜볼 것

첫째, 영국 정부가 이번 회의 뒤에 AI 안전 관련 후속 조치를 내놓는지 봐야 합니다. 장관이 참석한 만큼 정책으로 이어질 가능성이 있습니다.

둘째, 오픈AI와 앤스로픽, 구글이 논의 중인 공동 안전 기준이 언제 구체화되는지입니다. 이번 회의가 그 속도를 높일 수도 있습니다.

셋째, 교황청과 같은 종교계가 AI 논쟁에서 어떤 역할을 이어 갈지입니다. 기술 논쟁이 가치 논쟁으로 넓어지는 흐름은 앞으로 더 커질 것으로 보입니다.

핵심 정리

찰스 3세가 9월 17일 스코틀랜드 덤프리스 하우스에서 젠슨 황, 데미스 하사비스, 오픈AI와 앤스로픽 임원 등 약 30명을 불러 AI 회의를 열었습니다.

국왕은 AI가 잘못된 손에 들어갈 위험을 경고하며 늦기 전에 통제 수단을 마련하라고 촉구했습니다. 하사비스는 범용 인공지능이 몇 년 남지 않았다고, 젠슨 황은 기술이 아닌 제품을 규제하자고 말했습니다.

합의문이나 공동성명은 없었지만, 업계의 감속론과 미국 정부의 반대가 맞서는 시점에 왕실과 교황청, 정보기관까지 한자리에 모였다는 점에서 상징적 의미가 큰 회의였습니다.

참고하실 만한 것

AI 안전 논쟁을 따라가고 싶다면, 최근 SVIL 블로그에서 다룬 아모데이의 감속 제안과 미국·중국의 반응 글을 함께 읽어 보시면 흐름이 한눈에 들어옵니다.

이번 회의처럼 결론 없이 끝나는 자리는 다음 행동으로 평가받습니다. 참석한 회사들의 다음 발표를 눈여겨보시면 좋겠습니다.

궁금한 점이나 다뤄 줬으면 하는 AI 소식이 있으면 댓글이나 메일로 알려 주세요. 큰 글씨와 쉬운 설명으로 계속 전해 드리겠습니다.

출처

• TechCrunch — Even the King of England has his hesitations about AI
• ABC News — King Charles warns AI leaders of existential dangers during summit in Scotland
• NPR — Amid growing AI fears, King Charles meets with industry leaders in Scotland
• UPI — King Charles III says AI leaders must act to avoid loss of control
• The Next Web — King Charles asks AI chiefs to keep the technology under human control
• The Next Web — King Charles to host Huang and Hassabis at private AI summit
• Fast Company — King Charles III meets tech leaders in Scotland as safety concerns swirl over AI
• Invezz — King Charles gathers AI's most powerful figures, warns against losing control

협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://svil.dev/