AI 기초 및 활용 27회: AI를 안전하게 쓰는 법 — 금지 목록이 아니라 신뢰의 눈금

오늘의 질문 — 안전하게 쓴다는 게 뭘 뜻하나

"AI 조심해서 쓰세요"라는 말은 많이 듣습니다. 그런데 정확히 무엇을 어떻게 조심하라는 건지는 잘 안 나옵니다.

그러다 보니 두 극단이 생겨요. 아무것도 신경 안 쓰고 다 넣는 쪽과 무서워서 아예 안 쓰는 쪽이요. 둘 다 손해입니다.

오늘은 그 사이에 구체적인 선을 긋겠습니다. 무엇을 넣으면 안 되고, 무엇을 확인해야 하고, 어디까지 맡겨도 되는지를요.

그리고 마지막에 조금 다른 이야기를 하겠습니다. 의존이라는 것이 개인의 습관 문제만인가에 대해서요.

지난 회차 연결 — 제5부를 닫으며

24회차에서 일상, 25회차에서 접근성, 26회차에서 일과 창작을 다뤘습니다. 그러면서 여러 번 "27회차에서 다룹니다"라고 미뤄 뒀죠.

오늘 그것들을 모읍니다. 그런데 새로운 규칙을 외우는 회차가 아닙니다. 18~23회차에서 배운 원리로 스스로 판단하는 기준을 세우는 게 목표예요.

규칙은 상황마다 다르고 도구마다 다르고 계속 바뀝니다. 기준은 남습니다.

개인정보 ① 세 층으로 나눠 보기

"개인정보를 넣지 마세요"는 너무 뭉뚱그린 말입니다. 실제로는 층이 있습니다.

가장 안쪽은 절대 넣으면 안 되는 것입니다. 주민등록번호, 계좌·카드번호, 비밀번호, 인증 코드, 의료 기록의 식별 정보요. 이건 유출되면 직접적인 피해가 납니다.

가운데는 조심해야 하는 것입니다. 이름과 연락처의 조합, 주소, 상세한 일정, 건강 상태, 사진이요. 하나만으로는 괜찮아 보여도 모이면 사람을 특정합니다.

바깥은 대체로 괜찮은 것입니다. 공개된 정보, 일반적인 상황 설명, 가려낸 데이터요.

이렇게 나누면 판단이 쉬워집니다. 안쪽은 무조건 안 되고, 가운데는 가리고 넣고, 바깥은 편하게요.

개인정보 ② 입력이 학습에 쓰이는가

가장 중요한 확인 사항입니다. 그런데 잘 안 알려져 있어요.

서비스마다 입력한 내용을 모델 개선에 쓰는지가 다릅니다. 같은 회사라도 무료와 유료, 개인용과 업무용이 다른 경우가 많고요.

대체로 이런 경향이 있습니다. 무료 개인용은 학습에 쓰이는 경우가 있고, 업무용 요금제나 API는 안 쓰는 경우가 많습니다. 다만 확인하지 않고 가정하지 마세요. 설정에서 끌 수 있는 경우도 있습니다.

왜 중요할까요. 학습에 쓰인다는 것은 내가 넣은 내용이 다른 사람의 답에 나타날 가능성을 뜻합니다. 확률은 낮지만 17회차에서 봤듯 반복해서 들어간 것은 재현되는 경우가 실제로 보고됐어요.

그래서 실무 원칙이 나옵니다. 민감한 자료를 다룰 도구는 정책부터 확인하세요. 그리고 26회차에서 봤듯 로컬이 이 문제를 근본적으로 없앱니다.

개인정보 ③ 실무 기준

바로 쓸 수 있는 기준을 드리겠습니다.

기본 기준. 24회차에서 말한 그것이요. 공개 게시판에 올려도 괜찮은 것만 넣습니다. 완벽하진 않지만 대부분의 판단을 처리합니다.

가리고 넣기. 이름을 A·B로, 회사명을 익명으로, 숫자를 지우거나 바꿔서요. 대부분의 용도에는 지장이 없습니다. 문장을 다듬거나 구조를 잡는 데 실명이 필요하지 않으니까요.

파일은 더 조심하세요. 문서 파일에는 보이지 않는 정보가 들어 있습니다. 작성자, 수정 이력, 지운 줄 알았던 내용이요. 사진에는 촬영 위치가 붙어 있을 수 있고요.

대화 기록을 관리하세요. 민감한 대화를 했다면 지우는 습관을요. 그리고 공용 컴퓨터에서는 로그인 상태를 반드시 정리하세요.

남의 정보라는 특별한 문제

여기를 특별히 강조하고 싶습니다. 내 정보와 남의 정보는 다릅니다.

내 정보는 내가 위험을 감수하기로 결정할 수 있습니다. 그런데 남의 정보는 그 사람의 동의 없이 내가 넘길 권한이 없습니다.

실제로 자주 일어나는 일들이에요. 상담 내용을 정리하려고 넣는 것, 대화 기록을 요약시키는 것, 동료의 이력서를 검토시키는 것, 진료 기록을 정리하는 것이요.

의도는 나쁘지 않습니다. 일을 잘하려는 거죠. 그런데 그 사람은 자기 정보가 AI에 들어간다는 걸 모릅니다.

기준은 이렇습니다. 그 사람에게 "당신 정보를 AI에 넣어도 될까요"라고 물었을 때 괜찮다고 할 것 같은가. 아니라면 가려서 넣거나 안 넣는 겁니다.

저작권 ① 넣는 쪽

이제 저작권입니다. 두 방향이 있어요. 넣는 것과 나오는 것이요.

넣는 쪽부터 봅시다. 남의 저작물을 통째로 넣어도 되나.

개인적으로 읽고 이해하려고 넣는 것은 대체로 문제가 되지 않습니다. 다만 그 결과물을 공개하거나 상업적으로 쓰면 이야기가 달라져요.

특히 조심할 것이 번역과 요약을 공개하는 경우입니다. 원문의 저작권이 번역물과 요약물에도 미칩니다. AI가 만들었다고 달라지지 않아요.

그리고 업무용 자료는 저작권만이 아니라 계약상 비밀유지 문제이기도 합니다. 이쪽이 실무에서 더 자주 문제가 됩니다.

저작권 ② 나오는 쪽

생성물의 권리는 아직 정리 중입니다. 나라마다 다르고 판례가 쌓이는 중이에요.

대체로 이런 방향입니다. 사람의 창작적 기여가 거의 없는 순수 생성물은 저작권 보호를 받기 어렵다는 쪽이요. 프롬프트만 넣고 나온 결과는 내 저작물이 아닐 수 있습니다.

반대로 선택하고 배치하고 편집한 결과물에는 사람의 기여가 인정될 여지가 있고요.

실무적으로는 이렇게 하면 안전합니다. 도구의 이용약관을 확인하고, 실존 작가 이름을 프롬프트에 넣지 않고, 중요한 결과물은 사람이 충분히 손보는 것이요.

표시할 것인가 — 그리고 왜

AI를 썼다고 밝힐지에 대해 명확히 하겠습니다.

법으로 의무인 경우가 늘고 있습니다. 17회차에서 봤듯 유럽에서는 2026년 8월부터 AI 생성물 표시가 의무입니다. 29회차에서 자세히 다루겠습니다.

그런데 의무가 아닌 곳에서도 밝히는 편이 낫습니다. 이유가 셋이에요.

첫째, 나중에 드러났을 때의 비용이 훨씬 큽니다. 숨겼다는 것 자체가 문제가 되죠.

둘째, 읽는 사람의 판단에 필요한 정보입니다. 21회차에서 봤듯 AI 생성물은 검증의 눈금이 달라야 하니까요.

셋째, 그리고 이게 중요한데요. 밝히는 것이 부끄러운 일이 아닙니다. 계산기를 썼다고 밝히는 게 부끄럽지 않듯이요. 오히려 어떻게 썼는지 밝히는 것이 신뢰를 만듭니다.

검증 습관 ① 무엇을 확인하나

21회차에서 세운 기준을 실무 체크리스트로 만들겠습니다.

반드시 확인. 고유명사와 숫자, 인용과 출처, 법·의료·세무 규정, 최신 정보, 그리고 이걸 근거로 결정할 때요.

대체로 믿어도 됨. 널리 알려진 개념 설명, 문장 다듬기, 번역의 대의, 아이디어, 코드의 뼈대요.

기준을 한 줄로 줄이면 "틀렸을 때 되돌리기 어려운 것은 확인한다"입니다.

그리고 여기에 하나 덧붙이겠습니다. "내가 이미 답을 알고 있는 것으로 시험해 보세요." 새 도구를 쓸 때 내가 잘 아는 주제를 먼저 물어보는 겁니다. 그러면 이 도구가 어느 정도인지를 감으로 알 수 있어요.

검증 습관 ② 싸게 확인하는 법

21·25회차에서 다룬 것을 모으겠습니다. 확인은 싸야 습관이 됩니다.

원문 인용을 요구하세요. "그 근거가 된 문장을 그대로 인용해 줘." 링크를 열어 헤매는 것보다 훨씬 쌉니다.

새 대화에서 다시 물으세요. 매번 답이 다르면 환각입니다. 같은 대화에서는 소용없어요.

불확실한 부분을 표시하게 하세요. "확실하지 않은 부분은 그렇다고 표시해 줘."

사실과 해석을 나눠 받으세요. 확인할 대상이 분리되어 나옵니다.

그리고 25회차의 관점을 다시 짚겠습니다. 확인 비용은 사람마다 다릅니다. 그래서 비싼 방법을 알면서 안 하는 것보다 싼 방법을 습관으로 만드는 편이 실질적으로 안전합니다.

되돌릴 수 있는가 — 실행의 기준

23회차의 원칙을 개인 사용으로 옮기겠습니다. AI가 무언가를 실행할 때의 기준이요.

맡겨도 되는 것. 읽기, 검색, 초안 만들기, 사본에서 작업하기요. 틀려도 원래대로 돌아갈 수 있습니다.

확인받아야 하는 것. 파일 수정, 설정 변경, 대량 처리요.

사람이 직접 해야 하는 것. 삭제, 전송, 결제, 공개요. 한 번 나가면 회수가 안 됩니다.

실용적인 습관 하나. 원본을 복사해 두고 사본에서 작업하게 하세요. 이 한 가지가 대부분의 사고를 막습니다.

사고가 나는 전형적인 경로

실제로 문제가 생기는 방식에는 패턴이 있습니다. 알아 두면 피할 수 있어요.

급할 때입니다. 마감이 코앞이면 확인을 건너뜁니다. 그런데 급할 때 낸 결과물이 가장 널리 퍼지는 경우가 많죠.

익숙해졌을 때입니다. 처음엔 다 확인하다가 몇 번 잘 맞으면 안 보게 됩니다. 그런데 21회차에서 봤듯 모델이 좋아질수록 환각이 더 그럴듯해집니다.

남의 것을 그대로 옮길 때입니다. 누가 AI로 만든 것을 받아 확인 없이 다시 쓰는 경우요. 책임의 소재가 흐려집니다.

자동화해 놓고 잊었을 때입니다. 잘 돌던 자동화가 어느 날 모델이 바뀌어 이상해지는 경우요. 26회차에서 말한 통제권 문제입니다.

의존의 경계선 ① 무엇이 문제인가

이제 오늘의 마지막 주제입니다. 24회차에서 도구와 나의 거리를 이야기했는데, 여기서 조금 더 들어가겠습니다.

의존이 문제가 되는 것은 도구가 사라졌을 때입니다. 서비스가 중단되거나, 요금이 오르거나, 접속이 안 되거나, 정책이 바뀌어 못 쓰게 되거나요.

그런데 더 미묘한 문제도 있습니다. 도구가 있어도 내가 판단을 못 하게 되는 경우요.

19회차의 아첨을 기억하세요. 내 생각에 동조하는 답을 계속 받으면, 확인받는 게 아니라 되비추는 거울에 기대게 됩니다. 그리고 그 상태에서는 틀렸다는 것을 알아챌 신호가 없습니다.

의존의 경계선 ② 점검하는 법

추상적으로 걱정하기보다 실제로 점검하는 편이 낫습니다. 방법이 몇 가지 있어요.

가끔 도구 없이 해 보세요. 24회차에서 말한 그것이요. 예전보다 어려워졌다면 신호입니다.

결과물을 설명할 수 있는지 확인하세요. 설명할 수 없다면 내 것이 아닙니다.

반대 의견을 받아 보세요. AI가 내 생각에 계속 동의한다면 일부러 반박을 요구해 보세요. 그 반박이 설득력 있다면 그동안 확인이 아니라 승인을 받아 온 겁니다.

중요한 결정은 한 박자 늦추세요. AI 답을 받고 바로 결정하지 말고 하루 두고 다시 보는 습관이요.

의존은 개인 문제만이 아닙니다

여기서 관점을 넓히겠습니다. 의존을 개인의 자제력 문제로만 보면 놓치는 것이 있어요.

선택지가 없는 경우가 있습니다. 회사가 특정 도구를 쓰라고 하면 개인이 고를 수 없죠. 학교가 그렇게 정하면 학생도 마찬가지고요.

자원의 문제도 있습니다. 26회차 마지막에 던진 질문이요. 로컬을 쓸 수 있는 사람만 데이터를 지킬 수 있다면, 그건 개인의 조심성 문제가 아니라 조건의 문제입니다.

그리고 집중의 문제가 있습니다. 소수의 회사가 만든 모델에 아주 많은 사람이 의존하면, 그 회사의 결정이 사회 전체의 조건이 됩니다. 19회차에서 다룬 "누구의 선호가 기준이 되나"가 여기서 사회 규모로 반복돼요.

그래서 개인 차원의 대응과 제도 차원의 대응이 함께 필요합니다. 29회차에서 이어가겠습니다.

아이와 청소년, 그리고 교육

24회차에서 짧게 짚었으니 여기서 안전 관점으로 정리하겠습니다.

개인정보 습관을 먼저 가르치세요. 아이들은 자기 이름, 학교, 사진을 쉽게 넣습니다. 이건 AI만의 문제가 아니라 인터넷 전반의 문제이고, AI에서 특히 자연스럽게 일어납니다. 대화하듯 쓰니까요.

확인 습관을 함께 하세요. "AI가 이렇게 말했는데 진짜인지 같이 찾아볼까"를 실제로 해 보는 것이 설명보다 낫습니다.

답 말고 힌트를 요구하는 법을 알려주세요. 24회차의 그것이요.

그리고 어른에게 하고 싶은 말. 못 쓰게 하는 것은 답이 아닙니다. 쓰는 아이들은 어차피 쓰고, 못 쓰는 아이들만 뒤처집니다. 어떻게 쓰는지를 가르치는 쪽이 현실적이에요.

조직에서 정해야 할 최소 규칙

26회차에서 언급한 것을 구체화하겠습니다. 네 가지만 정하면 대부분 커버됩니다.

하나, 넣어도 되는 것의 목록. 금지 목록보다 허용 목록이 낫습니다. 금지는 빠진 것이 생기지만 허용은 명확하니까요.

둘, 쓸 도구의 목록. 데이터 정책을 확인한 것만요. 아무거나 쓰면 어디로 자료가 갔는지 추적이 안 됩니다.

셋, 결과물 책임의 소재. 내보내는 사람이 책임진다는 원칙이요. "AI가 만들었다"는 면책이 되지 않습니다.

넷, 표시 규칙. AI가 관여한 산출물을 어떻게 표시할지요.

그리고 하나 더. 규칙을 사고가 난 뒤에 만들지 마세요. 미리 정해 두면 지키기 쉽고, 사고 뒤에 만들면 금지 일변도가 되어 아무도 안 지킵니다.

접근성 관점의 안전

25회차의 관점을 안전에 적용하면 몇 가지가 더 보입니다.

확인 절차가 접근 가능해야 합니다. 23회차에서 짚었듯 "이 작업을 실행할까요?"라는 창이 떠도 무엇을 실행하려는지 파악할 수 없으면 확인이 아닙니다. 도구를 고를 때 이걸 봐야 해요.

민감 정보의 범위가 더 넓습니다. 장애·질병 관련 정보는 가장 민감한 개인정보인데, 그 정보를 다루는 데 AI가 유용합니다. 26회차의 로컬이 여기서 실질적인 답이 됩니다.

검증 비용이 다릅니다. 앞서 말한 싼 검증 방법이 특히 중요한 이유입니다.

그리고 하나 더. "AI에 의존하지 마세요"라는 조언이 모두에게 같은 무게가 아닙니다. 어떤 사람에게 AI는 편의지만 어떤 사람에게는 정보에 접근하는 유일한 통로일 수 있어요. 의존을 줄이라는 말이 접근을 줄이라는 말이 되지 않도록 조심해야 합니다.

하지 말아야 할 것 목록

정리해서 목록으로 드리겠습니다. 이것만은 안 되는 것부터요.

식별·금융·인증 정보를 넣지 않습니다. 어떤 경우에도요.

남의 정보를 동의 없이 넣지 않습니다.

되돌릴 수 없는 실행을 맡기지 않습니다. 삭제, 전송, 결제, 공개요.

사람에 대한 판단을 맡기지 않습니다. 채용, 심사, 평가요.

안전에 직결된 판단을 맡기지 않습니다. 의료, 법률, 응급 상황이요. 정보를 얻는 것과는 다릅니다.

확인 없이 내보내지 않습니다. 특히 고유명사와 숫자가 들어간 것은요.

해도 되는 것 목록

금지만 나열하면 안 쓰게 되니 반대쪽도 분명히 하겠습니다. 편하게 해도 되는 것들입니다.

초안 만들기. 어차피 고칠 것이니까요.

이해하기 위한 설명 요청. 개념, 배경, 용어요.

구조 잡기와 검토받기. 내가 쓴 것을 봐 달라고 하는 것이요.

아이디어 발산. 후보를 잔뜩 받아 고르는 일이요.

반복 작업 처리. 형식 변환, 정리, 분류요. 사본에서 하면 안전합니다.

모르는 것을 물어보기. 21회차의 검증 기준만 지키면요.

이 목록이 훨씬 깁니다. 그게 중요합니다.

안전은 금지 목록이 아닙니다

마지막으로 태도 이야기를 하겠습니다.

안전하게 쓴다는 것은 덜 쓰는 것이 아닙니다. 어디까지 믿을지를 알고 쓰는 것이에요.

21회차에서 신뢰의 눈금을 다시 맞춘다고 했죠. 오늘 다룬 모든 것이 그 눈금입니다. 무엇을 넣을지, 무엇을 확인할지, 무엇을 맡길지요.

그리고 이 눈금은 겁먹기 위한 것이 아니라 편하게 쓰기 위한 것입니다. 어디가 안전한지 알면 거기서는 마음 놓고 쓸 수 있으니까요.

불안해서 조금씩 쓰는 것보다, 기준을 알고 과감하게 쓰되 선을 지키는 편이 낫습니다.

핵심 정리 — 세 줄

첫째, 개인정보는 세 층으로 나누고 남의 정보는 다르게 다룹니다. 식별·금융·인증 정보는 무조건 안 되고, 사람을 특정할 수 있는 것은 가려서 넣고, 나머지는 편하게 씁니다. 그리고 입력이 학습에 쓰이는지를 도구마다 확인해야 하며, 남의 정보는 그 사람에게 물었을 때 괜찮다고 할지를 기준으로 삼습니다.

둘째, 확인은 싸야 습관이 됩니다. 되돌리기 어려운 것만 확인한다는 기준을 세우고, 원문 인용 요구와 새 대화 교차 확인처럼 값싼 방법을 씁니다. 그리고 실행은 되돌릴 수 있는지로 나누되, 원본을 복사해 두고 사본에서 작업하게 하는 습관 하나가 대부분의 사고를 막습니다.

셋째, 의존은 개인의 자제력 문제만이 아닙니다. 선택지가 없거나 자원이 없어서 생기는 의존이 있고, 소수 기업에 집중된 구조는 개인이 조심해서 풀 수 없습니다. 그리고 "의존하지 마세요"라는 조언이 어떤 사람에게는 "접근하지 마세요"가 될 수 있다는 점을 함께 봐야 합니다.

용어 정리

학습 이용 여부 — 입력한 내용이 모델 개선에 쓰이는지. 서비스와 요금제마다 다르며 반드시 확인해야 합니다.

가리고 넣기 — 이름·숫자 같은 식별 정보를 지우거나 바꿔서 입력하는 방법. 대부분의 용도에는 지장이 없습니다.

메타데이터 — 파일에 눈에 보이지 않게 붙어 있는 정보. 작성자, 수정 이력, 촬영 위치 등이 포함됩니다.

허용 목록 — 금지할 것을 나열하는 대신 넣어도 되는 것만 정하는 방식. 빠진 항목이 생기지 않습니다.

사본 작업 — 원본을 복사해 두고 복사본에서 작업하게 하는 습관. 되돌리기의 기본입니다.

다음 회차 예고 — 그리고 생각해볼 질문

제5부가 끝났습니다. 28회차부터 제6부 「윤리·사회·미래」이자 이 시리즈의 마지막 세 회입니다.

28회차는 「AI 윤리」예요. 오늘 마지막에 짚은 "개인이 조심해서 풀 수 없는 문제"를 정면으로 다룹니다. 데이터 편향이 실제로 어떤 피해를 만들었는지, 공정성이라는 말이 왜 하나로 정의되지 않는지, 그리고 잘못됐을 때 책임은 누구에게 있는지를요.

19회차에서 "누구의 선호가 기준이 되나"를 물었고 오늘 그것이 사회 규모로 반복된다고 했죠. 다음 회차가 그 답을 시도하는 자리입니다.

생각해볼 질문. 오늘 "내 정보는 내가 감수하기로 결정할 수 있지만 남의 정보는 넘길 권한이 없다"고 했습니다.

그런데 현실에서 이 구분이 늘 명확할까요. 나와 친구가 함께 나눈 대화는 누구의 정보인가요? 내가 찍은 사진 속 다른 사람은요? 가족의 건강 상태를 대신 알아보는 것은요? 여러분은 이 경계를 어디에 그으시나요? 댓글로 들려주세요.

이 포스트는 SVIL 연구소 「AI 기초 및 활용」 30회 시리즈의 27회차이며, 제5부 「실전 활용」의 마지막 회입니다. 하버드 CS50 AI, MIT 6.S191 등 공개 교육과정의 구조를 참고했으며, 모든 내용은 이미지 없이 본문만으로 이해할 수 있도록 구성되어 있습니다. 모든 이미지에는 내용을 설명하는 대체텍스트가 포함되어 있습니다.

협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://kuroicode-beep.github.io/svil-homepage/