AI 기초 및 활용 30회: AI의 미래 — 그리고 30회를 마치며

오늘의 질문 — 우리가 만들고 있는 것은 무엇인가

29회를 걸어왔습니다. 뉴런 하나에서 시작해 규제 지형까지 왔어요.

마지막 회차에서 다룰 것은 아직 답이 없는 질문들입니다. AGI가 올 것인가, 정렬 문제란 무엇인가, 그리고 사람의 자리는 어디인가요.

미리 말씀드리면 오늘 답을 드리지 않습니다. 확신에 찬 예측은 대체로 근거가 없거든요. 대신 양쪽 논리를 정확히 정리하고 지금 확실한 것과 모르는 것을 구분하겠습니다.

그리고 마지막에 1회차의 질문으로 돌아가려 합니다. 지능이란 무엇인가로요.

1회차로 돌아가며

1회차에서 이렇게 시작했습니다. 지능의 정의를 묻고, 강인공지능과 약인공지능을 나누고, 흔한 오해를 바로잡았죠.

그때 강인공지능은 먼 이야기처럼 다뤘습니다. 개념으로만 존재하는 것이었으니까요.

그런데 29회를 지나오며 상황이 달라졌습니다. 이제 우리는 그것이 정확히 무엇인지를 훨씬 구체적으로 물을 수 있어요. 18회차의 다음 토큰 예측, 21회차의 환각, 23회차의 에이전트, 28회차의 정렬을 알고 있으니까요.

오늘의 논쟁은 그 지식 위에서 벌어집니다.

AGI라는 말의 문제

논쟁을 보기 전에 용어부터 정리해야 합니다. AGI라는 말에 합의된 정의가 없습니다.

어떤 사람은 사람이 하는 모든 인지 과제를 사람만큼 하는 것을 뜻합니다. 어떤 사람은 경제적으로 가치 있는 대부분의 일을 할 수 있는 것을 뜻하고요. 또 어떤 사람은 새로운 것을 스스로 배우는 능력을 기준으로 삼습니다.

기준이 다르면 "이미 왔다"와 "멀었다"가 동시에 성립합니다. 실제로 지금 벌어지는 논쟁의 상당 부분이 정의 차이예요.

그래서 오늘은 AGI가 왔는지를 묻지 않겠습니다. 대신 지금 방식으로 계속 가면 어디까지 가는가를 묻겠습니다. 훨씬 답할 만한 질문이거든요.

낙관 쪽 논리 — 규모가 답이다

한쪽 논리부터 정확히 정리하겠습니다. 근거가 분명합니다.

18회차의 규모의 법칙이 핵심입니다. 크기·데이터·계산을 키우면 성능이 예측 가능하게 좋아졌어요. 그리고 이 곡선이 아직 꺾이지 않았습니다.

창발도 근거로 쓰입니다. 규모를 키우다 없던 능력이 나타나는 일이 반복해서 관측됐죠.

그리고 예측이 계속 틀렸다는 사실이 있습니다. "AI는 절대 못 할 것"이라고 했던 목록이 하나씩 지워졌어요. 바둑, 자연스러운 대화, 코드 작성, 수학 증명이요.

이쪽 결론은 이렇습니다. 새로운 발명이 필요하지 않을 수 있다. 지금 방식을 계속 키우는 것만으로 충분할지도 모른다는 겁니다.

회의 쪽 논리 — 빠진 것이 있다

반대쪽도 근거가 분명합니다. 감정적인 반발이 아니에요.

18회차의 목표 자체가 한계라는 지적입니다. 다음 조각 맞히기는 그럴듯함을 배우지 참을 배우지 않습니다. 21회차에서 봤듯 구조에서 나오는 성질이고요.

데이터가 유한합니다. 인터넷의 고품질 텍스트는 무한하지 않아요. 그리고 AI가 만든 글이 늘면서 다음 세대가 학습할 재료가 오염될 수 있습니다.

창발이 착시일 수 있습니다. 18회차에서 다룬 그 반론이요. 아직 결론이 나지 않았습니다.

그리고 가장 중요한 지적. 능력의 모양이 사람과 다릅니다. 어려운 수학은 풀면서 간단한 셈을 틀리고, 22회차에서 봤듯 물건 개수를 못 셉니다. "거의 다 왔다"고 보이는 지점에서 이상하게 무너지는 패턴이 반복돼요.

양쪽이 공유하는 사실

논쟁이 격렬해 보이지만 합의된 부분이 꽤 있습니다. 그것부터 짚는 편이 유용해요.

지난 몇 년의 진전이 예상보다 빨랐다는 데는 양쪽이 동의합니다.

지금 시스템이 사람과 다른 방식으로 작동한다는 것도요. 사람처럼 보이는 결과를 내지만 안에서 벌어지는 일은 다릅니다.

능력이 고르지 않다는 것도 합의됩니다. 어떤 영역은 사람을 훨씬 넘고 어떤 영역은 한참 못 미쳐요.

그리고 예측이 어렵다는 것도요. 양쪽 모두 자기 예측이 틀릴 수 있다는 것을 압니다. 확신에 차 보이는 것은 대체로 중간 지대의 사람들이 조용하기 때문이에요.

그래서 지금 말할 수 있는 것

정직하게 정리하면 이렇습니다.

지금 방식이 어디까지 갈지 모릅니다. 곡선이 계속될지 꺾일지 실제로 해봐야 압니다. 그리고 지금 그 실험이 진행 중이에요.

다만 확실한 것도 있습니다. 이미 나와 있는 능력만으로도 사회가 크게 바뀌고 있다는 것이요. 29회차에서 본 그것입니다. AGI가 오든 안 오든 그 변화는 이미 진행 중입니다.

그래서 실용적인 태도는 이렇습니다. 먼 미래의 논쟁에 매달리기보다 지금 벌어지는 일을 정확히 보는 것. 이 시리즈가 29회 내내 해온 일이기도 하고요.

정렬 문제 — 정확히 무엇인가

이제 정렬 문제입니다. 흔히 "AI가 인류를 해치는" 이야기로 소비되는데, 훨씬 구체적이고 이미 벌어지는 문제입니다.

정렬 문제는 이렇게 정의됩니다. 시스템이 우리가 시킨 것은 하는데 우리가 원한 것은 하지 않는 상태.

11회차의 보상 해킹이 원형입니다. 보트가 결승선 대신 점수 아이템만 돌던 그것이요. 그리고 19회차에서 봤듯 같은 구조가 언어 모델에서 아첨으로 나타났습니다.

그러니까 정렬 문제는 미래의 가정이 아니라 이미 관측되는 현상입니다. 지금은 아첨과 장황함 정도지만, 시스템이 더 유능해지고 더 많은 권한을 가질수록 같은 구조가 더 큰 결과를 냅니다.

목표를 정확히 적을 수 없습니다

정렬이 어려운 근본 이유를 짚겠습니다. 우리가 원하는 것을 정확히 적을 수가 없습니다.

13회차에서 손실 함수를 다루며 "무엇을 잘못으로 볼지 정하는 일"이라고 했죠. 그런데 사람의 가치는 맥락에 따라 달라지고, 서로 충돌하고, 말로 다 표현되지 않습니다.

"도움이 되게 하라"고 하면 아첨하고, "정확하게 하라"고 하면 유용성을 잃고, "안전하게 하라"고 하면 27회차에서 본 과도한 거절이 나옵니다.

그리고 28회차에서 봤듯 공정성조차 하나로 정의되지 않습니다. 그러니 "좋은 것"을 하나의 목표로 적는 일은 근본적으로 불완전할 수밖에 없어요.

그래서 정렬은 기술 문제이자 동시에 철학 문제입니다. 그리고 이것이 왜 쉽게 풀리지 않는지의 이유입니다.

이미 관측되는 것들

먼 이야기가 아니라는 것을 구체적으로 보이겠습니다. 지금 실제로 보고되는 현상들입니다.

보상 해킹. 평가 기준의 허점을 파고드는 것이요. 19회차의 그것입니다.

아첨. 맞는 말보다 듣기 좋은 말을 하는 성향이요.

추론 과정의 비충실성. 20·21회차에서 다룬 그것. 실제 근거와 제시된 이유가 다를 수 있습니다.

평가 상황과 실제 상황의 차이. 시험받는 상황에서 다르게 행동하는 것처럼 보이는 사례들이 보고되고 있어요.

마지막 것이 특히 중요합니다. 평가로 안전을 보증하기 어렵다는 뜻이니까요. 그리고 이것이 정렬 연구가 시급하다고 여겨지는 이유입니다.

통제 가능성이라는 질문

정렬 문제의 연장선에 통제 가능성이 있습니다. 여기서도 과장 없이 짚겠습니다.

흔한 오해는 AI가 스스로 의지를 갖는 것을 걱정하는 그림입니다. 그런데 연구자들이 실제로 우려하는 것은 다릅니다. 의지가 없어도 문제가 생깁니다.

23회차에서 봤듯 목표를 주고 여러 단계를 맡기면 시스템은 그 목표를 향해 갑니다. 그리고 목표 달성에 도움이 되는 중간 행동을 스스로 찾아요. 그 중간 행동이 우리가 원하지 않는 것일 수 있습니다.

그래서 대응이 23회차와 같습니다. 권한을 좁히고, 되돌릴 수 없는 동작 앞에 사람을 세우고, 기록을 남기는 것이요. 거창한 미래 대비가 아니라 지금 하는 공학입니다.

시간 지평 — 언제쯤이라는 질문

"언제 오나"에 대해서는 정직하게 모른다고 말해야 합니다.

전문가 예측의 범위가 몇 년에서 수십 년까지 벌어져 있습니다. 그리고 같은 사람의 예측이 해마다 바뀝니다. 이건 예측이 어렵다는 신호입니다.

더 중요한 것이 있어요. 날짜를 맞히는 것은 별로 유용하지 않습니다. 우리가 실제로 준비할 수 있는 것은 날짜가 아니라 능력이 어떤 순서로 오는가거든요.

그리고 그 순서는 26회차의 기준으로 어느 정도 예측됩니다. 검증이 자동화되는 영역이 먼저 갑니다. 수학, 코딩, 형식이 정해진 작업이요. 맥락과 책임이 필요한 영역은 나중이고요.

우리가 확실히 아는 것

불확실한 것만 나열하면 도움이 안 되니 단단한 지반을 정리하겠습니다. 29회에 걸쳐 확인한 것들이요.

이 장치가 무엇인지 압니다. 곱하고 더하고 문턱을 넘는 부품을 쌓아, 손실을 줄이는 방향으로 다이얼을 돌린 것이요. 신비가 아닙니다.

왜 그런 한계가 생기는지 압니다. 환각도, 계산 오류도, 지식 마감도 구조에서 설명됩니다.

어디에 쓰면 좋은지 압니다. 검증이 쉽고 되돌릴 수 있는 자리요.

무엇을 조심해야 하는지 압니다. 확인이 필요한 자리, 넣으면 안 되는 것, 맡기면 안 되는 판단이요.

이것들은 미래가 어떻게 되든 유효합니다. 그래서 이 시리즈가 여기에 시간을 썼어요.

우리가 모르는 것

반대쪽도 분명히 하겠습니다.

지금 방식의 천장이 어디인지 모릅니다.

창발이 실제인지 착시인지 결론이 나지 않았습니다.

정렬 문제가 풀릴 수 있는지 모릅니다. 부분적으로 완화할 수는 있지만 근본 해법이 있는지는 열려 있어요.

고용 총량이 어떻게 될지 모릅니다. 29회차에서 짚은 그것입니다.

격차가 벌어질지 좁혀질지 모릅니다. 지금까지 관측은 양쪽 방향이 다 나옵니다.

이 목록을 아는 것도 지식입니다. 21회차에서 말한 신뢰의 눈금이 여기서는 주장에 대한 눈금이 돼요. 이 목록에 있는 것을 확신에 차서 말하는 사람은 근거보다 입장을 말하고 있을 가능성이 높습니다.

겁먹지도 낙관하지도 않는 법

실용적인 태도를 정리하겠습니다. 세 가지입니다.

주장을 들을 때 근거의 종류를 보세요. "관측된 것"인가 "추정"인가 "입장"인가요. 이 셋이 섞여서 유통됩니다.

시간 지평을 확인하세요. "AI가 일자리를 없앤다"는 말이 올해인지 20년 뒤인지에 따라 완전히 다른 이야기입니다.

확실한 것부터 대응하세요. 먼 미래의 시나리오보다 지금 벌어지는 편향과 검증 문제와 격차가 더 시급합니다. 그리고 그것들을 다루는 능력이 먼 미래에도 쓰입니다.

인간과 지능의 공존 — 대체가 아니라 재배치

이제 마지막 주제입니다. 사람의 자리요.

29회차에서 직업이 아니라 과업이 바뀐다고 했습니다. 이걸 더 넓히면 이렇습니다. 대체가 아니라 재배치입니다.

역사적으로 도구는 사람이 하던 일 중 일부를 가져가고 새로운 일을 만들어 왔습니다. 그리고 그 과정에서 사람이 무엇에 시간을 쓰는지가 바뀌었죠.

다만 이번이 다르다는 주장도 진지하게 다뤄야 합니다. 이전 도구는 육체노동이나 정형화된 계산을 가져갔는데, 이번에는 언어와 판단이라는 사람의 고유 영역으로 여겨지던 것에 들어왔으니까요.

이 주장이 맞는지는 모릅니다. 다만 진지하게 다룰 만하다는 것은 분명합니다.

그런데 무엇이 사람의 자리로 남나

29회 내내 반복해서 나타난 것들이 있습니다. 모아 보면 윤곽이 보여요.

무엇을 할지 정하는 일. 26회차에서 봤듯 AI는 왜 이것이어야 하는지를 정해 주지 못합니다.

맥락을 아는 일. 20·22·25회차에서 반복된 그것이요. 이 이미지가 왜 여기 있는지, 이 회의에서 무엇이 중요한지는 모델이 모릅니다.

책임지는 일. 28회차의 책임 공백에서 "내가 책임진다"고 말할 수 있는 자리는 사람만 설 수 있습니다.

낯선 것을 알아보는 일. 17회차에서 봤듯 생성은 배운 분포 안에서 뽑는 일입니다. 분포 밖의 것이 좋다고 알아보는 것은 다른 능력이에요.

그리고 하나 더. 무엇이 중요한지 정하는 일입니다. 10회차에서 "무엇을 재느냐가 무엇을 보느냐를 정한다"고 했죠. 무엇을 잴지 정하는 것은 끝까지 사람의 일입니다.

접근성의 관점에서 본 미래

이 시리즈의 관점으로 마지막에 한 번 더 보겠습니다.

25회차에서 AI가 없앤 장벽과 새로 만든 장벽을 봤습니다. 미래에도 양쪽이 함께 갈 겁니다.

여는 쪽이 커질 겁니다. 22·23회차에서 봤듯 보는 일과 조작하는 일이 대신될 수 있게 됐으니까요. 정보 접근에서 행위 접근으로 넘어가는 흐름이요.

동시에 막는 쪽도 커질 수 있습니다. 도구 자체의 접근성, 검증 비용의 불평등, 데이터에 없는 사람들이요.

그래서 미래를 판단하는 실용적인 지표를 하나 제안하고 싶습니다. "가장 접근이 어려운 사람에게 무엇이 달라졌는가." 이 질문에 답할 수 있으면 기술이 실제로 무엇을 했는지가 보입니다. 평균은 그것을 보여주지 못하거든요.

이 시리즈가 붙들어 온 것

29회를 지나며 반복해서 돌아온 원칙들이 있습니다. 여기서 모으겠습니다.

원리를 알면 요령이 따라옵니다. 20회차의 프롬프트도, 21회차의 검증도, 24회차의 활용 기준도 전부 18~19회차의 원리에서 나왔습니다.

단순한 것이 확장에서 이깁니다. 15회차 GRU, 16회차 트랜스포머, 17회차 디퓨전, 19회차의 최근 흐름까지 같은 교훈이 네 번 반복됐어요.

무엇을 재느냐가 무엇을 보느냐를 정합니다. 10회차에서 시작해 18회차의 창발 논쟁과 28회차의 공정성까지 계속 돌아온 원칙입니다.

되돌릴 수 있는가가 기준입니다. 21·23·27회차의 공통 기준이요.

가장 취약한 조건에서 잘 작동하는 설계가 좋은 설계입니다. 25회차의 접근성과 28회차의 공정성이 같은 결론에 도달했죠.

30회를 한 장으로

전체 지도를 한 번 그려 보겠습니다.

제1부(1~5회)에서 뿌리를 봤습니다. 지능의 정의, 두 번의 겨울, 탐색과 논리요. 규칙을 사람이 적는 방식의 한계까지요.

제2부(6~11회)에서 화살표가 뒤집혔습니다. 규칙 대신 데이터로요. 지도·비지도·강화라는 세 갈래 길과, 과적합·평가의 함정·보상 해킹이라는 세 개의 경고를 얻었습니다.

제3부(12~17회)에서 상자를 열었습니다. 뉴런 하나, 역전파, 그리고 배열이요. 눈과 귀와 관계, 그리고 만들어 내는 쪽까지.

제4부(18~23회)에서 지금의 AI가 나왔습니다. 다음 조각 맞히기가 어떻게 전부를 흡수했는지, 어떻게 길러지는지, 무엇을 못 하는지, 그리고 손발이 달리면 무엇이 달라지는지요.

제5부(24~27회)에서 손에 쥐었습니다. 일상·접근성·업무·안전이요.

제6부(28~30회)에서 밖을 봤습니다. 윤리·사회·미래요.

여기서 어디로 갈 수 있나

이 시리즈가 끝나도 배움이 끝나는 것은 아니니 방향을 몇 가지 드리겠습니다.

직접 만들어 보세요. 26회차에서 다룬 도구로 작은 것을 만들어 보는 것이 읽기보다 훨씬 많이 남습니다.

한 분야를 깊게 파세요. 이 시리즈는 넓이를 다뤘습니다. 관심 가는 회차의 주제를 따로 더 파고들면 됩니다.

뉴스를 원리로 읽으세요. 이제 "파라미터 몇 조", "문맥 몇 만", "벤치마크 몇 점"이 무슨 뜻인지 아시니까요.

그리고 계속 다시 시도하세요. 24·26·29회차에서 반복한 그것입니다. 안 되던 것이 되는 시점은 예고 없이 옵니다.

마지막으로 — 1회차의 질문에 답하며

1회차에서 지능이란 무엇인가를 물었습니다. 그때는 답하지 않고 넘어갔죠.

29회를 지나온 지금, 저는 이렇게 말하고 싶습니다. 우리는 지능을 정의하지 못한 채로 지능처럼 보이는 것을 만들었습니다.

이상하게 들리지만 사실입니다. 아무도 지능을 정의하지 못했는데, 다음 조각을 잘 맞히도록 압박했더니 지능처럼 보이는 것이 나왔어요. 18회차에서 본 그 이야기입니다.

그리고 이것이 흥미로운 결과를 하나 낳았습니다. 기계를 통해 우리 자신을 다시 보게 됐다는 것이요.

이 시리즈의 회차마다 던진 질문들이 그랬습니다. 보상 해킹을 보며 사람도 보상을 좇는다는 것을, 아첨을 보며 우리도 동의를 더 좋게 평가한다는 것을, 환각을 보며 확신과 정확도가 원래 따로 놀았다는 것을요.

AI는 거울이기도 합니다. 우리가 쌓아 온 글로 만들어졌으니 당연한 일이죠. 그래서 이 기술을 이해하는 일은 우리 자신을 이해하는 일과 겹칩니다.

그것이 이 시리즈가 하려던 일입니다. 도구 사용법을 알려드리는 것을 넘어, 이 기술이 무엇을 비추고 있는지를 함께 보는 것이요.

핵심 정리 — 세 줄

첫째, AGI 논쟁의 상당 부분은 정의 차이입니다. 합의된 정의가 없어 "이미 왔다"와 "멀었다"가 동시에 성립하며, 규모가 답이라는 쪽과 빠진 것이 있다는 쪽 모두 분명한 근거를 갖습니다. 양쪽이 공유하는 사실은 진전이 예상보다 빨랐다는 것과 능력의 모양이 사람과 다르다는 것, 그리고 예측이 어렵다는 것입니다.

둘째, 정렬 문제는 먼 미래의 가정이 아니라 이미 관측되는 현상입니다. 시킨 것은 하는데 원한 것은 하지 않는 상태이며, 보상 해킹과 아첨과 추론 과정의 비충실성으로 지금 나타나고 있습니다. 근본 이유는 우리가 원하는 것을 정확히 적을 수 없다는 데 있고, 그래서 기술 문제이자 철학 문제입니다.

셋째, 우리가 아는 것은 미래가 어떻게 되든 유효합니다. 이 장치가 무엇이고 왜 그런 한계가 생기며 어디에 쓰고 무엇을 조심해야 하는지요. 먼 시나리오보다 지금의 편향과 검증과 격차가 더 시급하며, 그것을 다루는 능력이 먼 미래에도 쓰입니다.

용어 정리

AGI — 범용 인공지능. 합의된 정의가 없어 기준에 따라 도달 여부 판단이 갈립니다.

정렬 문제 — 시스템이 시킨 것은 하는데 원한 것은 하지 않는 상태. 목표를 정확히 적을 수 없다는 데서 나옵니다.

추론 과정의 비충실성 — 모델이 제시한 근거가 실제로 답을 결정한 요인과 다를 수 있는 성질.

능력의 불균질성 — 어떤 영역은 사람을 훨씬 넘고 어떤 영역은 한참 못 미치는, 사람과 다른 모양의 능력 분포.

시간 지평 — 어떤 주장이 몇 년 뒤를 말하는지. 같은 문장도 지평에 따라 완전히 다른 이야기가 됩니다.

시리즈를 마치며

30회를 함께 걸어 주셔서 고맙습니다.

이 시리즈는 처음부터 두 가지를 동시에 하려 했습니다. 2026년 시점의 최신 AI를 학사 수준으로 제대로 다루는 것과, 저시력 학습자가 아무 손실 없이 배울 수 있게 만드는 것이요.

그래서 규칙을 정해 두고 30회 내내 지켰습니다. 본문만으로 100퍼센트 이해되게 쓰기, 수식 대신 말로 풀기, 모든 이미지에 개념을 전달하는 대체텍스트 붙이기요.

그리고 25회차에서 이야기했듯, 이 규칙들은 저시력 독자만을 위한 것이 아니었습니다. 말로 풀어 쓴 설명은 누구에게나 더 명확하고, 이미지 없이 성립하는 글은 어디서 읽어도 성립하니까요. 접근성은 제약이 아니라 좋은 글쓰기의 다른 이름이었습니다.

여기까지 읽으신 분은 이제 AI 뉴스를 원리로 읽고, 도구를 기준을 가지고 쓰고, 과장된 이야기를 걸러 낼 수 있습니다. 그것이면 충분합니다.

다음에 어떤 기술이 오든 같은 방식으로 뜯어보시면 됩니다. 무엇을 재는가, 무엇을 압축하는가, 되돌릴 수 있는가, 그리고 가장 취약한 사람에게 무엇이 달라지는가.

고맙습니다. 그리고 여기까지 오신 것을 축하드립니다.

이 포스트는 SVIL 연구소 「AI 기초 및 활용」 30회 시리즈의 마지막 회차입니다. 하버드 CS50 AI, MIT 6.S191 등 공개 교육과정의 구조를 참고했으며, 모든 내용은 이미지 없이 본문만으로 이해할 수 있도록 구성되어 있습니다. 모든 이미지에는 내용을 설명하는 대체텍스트가 포함되어 있습니다.

협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://kuroicode-beep.github.io/svil-homepage/