AI 에이전트가 쓰는 애드온 27퍼센트가 걸러졌습니다 — AIR 5000만 달러와 670만 설치

AI 에이전트에 기능을 붙이는 일이 쉬워졌습니다. 스킬을 설치하고 플러그인을 연결하고 MCP 서버를 붙이면 에이전트가 할 수 있는 일이 늘어납니다. 클릭 몇 번이면 끝납니다.

그런데 그 애드온들이 어디서 지시를 받아 오는지는 대개 아무도 확인하지 않습니다. 9월 1일 스텔스에서 나온 한 보안 회사가 공개한 숫자에 따르면, 공개된 AI 애드온 1만 7,800여 개가 신뢰할 수 없는 외부 지시 소스에 의존하고 있었고 그것들의 누적 설치는 670만 건이었습니다.

스텔스에서 나오며 5000만 달러

AIR라는 이스라엘 보안 스타트업이 9월 1일 스텔스 상태에서 나오면서 5000만 달러 시드 투자를 함께 공개했습니다.

회사가 만드는 것은 AI 에이전트용 인라인 방화벽입니다. 에이전트가 무엇을 붙여 쓰고 있는지 찾아내고 그것이 안전한지 계속 판정하는 구조입니다.

스텔스에서 나오는 시점에 이미 20곳 넘는 고객이 있다고 밝혔습니다.

세쿼이아와 그린옥스가 함께 이끌었습니다

이 라운드는 세쿼이아 캐피털과 그린옥스가 공동으로 이끌었습니다. 스위시 벤처스와 네츠도 참여했습니다.

두 곳이 함께 리드로 들어오는 구조는 초기 단계에서 흔한 형태가 아닙니다.

투자자 구성만 놓고 보면 이 회사가 초기 실험이 아니라 이미 수요가 확인된 영역을 겨냥하고 있다고 읽힙니다.

시드 라운드로는 큰 금액입니다

5000만 달러는 시드 단계에서 통상적인 규모를 크게 넘어섭니다. 보통 시리즈 A 이후에 나오는 금액대입니다.

제품을 만들 시간을 벌기 위한 돈이라기보다, 이미 만들어 둔 것을 빠르게 확산시키기 위한 돈에 가깝습니다.

AI 에이전트 보안이라는 영역에 자본이 얼마나 빠르게 들어오고 있는지를 보여 주는 사례이기도 합니다.

유닛 8200 출신 두 사람이 세웠습니다

창업자는 최고경영자 야이르 사반과 최고기술책임자 니브 호프만입니다. 두 사람 모두 이스라엘 정보부대 유닛 8200 출신입니다.

이 부대 출신이 세운 보안 회사는 이미 여럿 있습니다. 공격자 관점에서 시스템을 보는 훈련을 받은 인력이 방어 제품을 만드는 흐름입니다.

이번 회사도 무엇을 막을 것인가보다 무엇이 실제로 뚫리는가에서 출발한 제품 구성을 보입니다.

만드는 것은 에이전트용 방화벽입니다

회사가 스스로 붙인 설명은 AI 에이전트를 위한 인라인 방화벽입니다.

전통적인 방화벽이 네트워크 통로를 지킨다면, 이쪽은 에이전트가 실행하는 기능 하나하나를 지나가는 길목에 섭니다.

에이전트는 사람이 일일이 승인하지 않아도 도구를 부르고 외부와 통신합니다. 그 자동성이 바로 지켜야 할 지점이 됩니다.

스킬과 플러그인과 MCP 서버가 대상입니다

검사 대상은 스킬, 플러그인, MCP 서버, 그 밖의 애드온 전반입니다. 조직 안에서 에이전트가 쓰는 것을 통째로 봅니다.

MCP는 에이전트가 외부 도구와 데이터에 연결되는 통로로 최근 널리 쓰이고 있습니다. 붙이기 쉬운 만큼 붙어 있는 것을 파악하기도 어렵습니다.

무엇이 설치돼 있는지를 조직이 정확히 모른다는 것이 이 제품의 출발점입니다.

배포 전과 배포 후를 모두 봅니다

검사는 배포 전 한 번으로 끝나지 않고 배포 후에도 계속됩니다.

애드온은 업데이트됩니다. 설치할 때 안전했던 것이 다음 버전에서 달라질 수 있고, 그 변경은 사용자에게 알려지지 않을 수도 있습니다.

한 번 통과시킨 것을 계속 다시 본다는 점이 기존 심사 방식과 갈리는 지점입니다.

17,800개라는 숫자

회사가 공개한 조사 결과에 따르면, 공개된 AI 애드온 가운데 1만 7,800개 이상이 신뢰할 수 없는 외부 지시 소스에 의존하고 있었습니다.

개별 사례가 아니라 생태계 규모의 수치입니다. 한두 개의 악성 애드온을 찾았다는 이야기와는 성격이 다릅니다.

이 숫자는 회사가 자사 제품의 필요성을 설명하며 낸 것이므로, 조사 범위와 판정 기준을 함께 봐야 합니다.

670만 번 설치됐습니다

그 애드온들의 누적 설치 수는 670만 건입니다.

애드온 하나가 문제를 안고 있어도 설치가 적으면 영향이 제한됩니다. 그런데 이 규모라면 이야기가 달라집니다.

공급망 문제가 위험한 이유는 결함 하나가 그것을 쓰는 모든 곳으로 동시에 퍼지기 때문입니다.

신뢰할 수 없는 외부 지시 소스에 의존합니다

문제로 지목된 것은 애드온이 동작 중에 외부에서 지시를 받아 온다는 점입니다.

AI 에이전트는 받아들인 글을 지시로 해석합니다. 그래서 외부에서 가져온 내용에 명령처럼 보이는 문장이 섞여 있으면 그것을 따를 수 있습니다.

설치할 때 검사한 코드가 멀쩡해도, 실행 중에 바깥에서 들어오는 내용이 바뀌면 동작이 달라집니다.

이것이 왜 위험한가

일반 소프트웨어는 설치된 코드가 하는 일이 대체로 정해져 있습니다. 하지만 에이전트는 읽은 내용에 따라 다음 행동을 정합니다.

그래서 외부 문서 하나에 심어 둔 문장이 에이전트에게는 명령이 될 수 있습니다. 코드를 고치지 않고도 행동을 바꾸는 셈입니다.

권한을 넓게 받은 에이전트일수록 이 경로의 파급이 큽니다. 파일을 읽고 메일을 보내고 결제 시스템에 접근할 수 있다면 더 그렇습니다.

27퍼센트가 걸러지고 있습니다

회사는 자사 시스템이 온라인에서 평가한 에이전트 애드온과 스킬 가운데 약 27퍼센트를 걸러 내고 있다고 밝혔습니다.

네 개 중 하나가 넘습니다. 예외적인 사고가 아니라 상시적인 비율이라는 뜻입니다.

다만 이것은 판정 기준을 만든 회사가 자기 기준으로 센 값입니다. 무엇을 위험으로 볼 것인가에 따라 비율은 달라집니다.

악성만이 아니라 취약과 미승인도 포함입니다

걸러지는 사유는 악성 한 가지가 아닙니다. 취약점이 있는 것, 조직이 승인하지 않은 것도 함께 포함됩니다.

즉 27퍼센트 전부가 공격을 의도한 것은 아닙니다. 실수로 위험해진 것과 절차를 건너뛴 것이 섞여 있습니다.

실무에서는 오히려 이 후자가 더 자주 문제를 만듭니다. 누군가 편의를 위해 붙여 둔 것이 나중에 통로가 됩니다.

문제가 생기면 역추적합니다

특정 애드온이 위험하다고 판정되면, 보안팀은 그것에 의존하는 작업 흐름을 전부 찾아낼 수 있습니다.

이 기능이 실제로는 가장 중요합니다. 위험을 발견하는 것보다 그것이 어디까지 퍼져 있는지 아는 것이 대응을 결정하기 때문입니다.

찾아낸 다음에는 해당 애드온의 사용을 회수할 수 있습니다.

의존하는 작업 흐름을 전부 찾습니다

에이전트 하나가 여러 업무에 붙어 있고, 애드온 하나가 여러 에이전트에 걸쳐 있는 구조가 흔합니다.

그래서 애드온 하나를 끄면 무엇이 멈추는지가 미리 보이지 않습니다. 끄고 나서야 알게 되는 경우가 많습니다.

의존 관계를 먼저 그려 두면 회수가 결단이 아니라 계획이 됩니다.

사전 검증된 애드온 장터도 함께 운영합니다

회사는 미리 검증한 애드온만 모아 둔 장터도 함께 운영합니다.

막는 것만으로는 사람들이 계속 우회합니다. 필요한 기능을 안전한 경로로 구할 수 있어야 통제가 유지됩니다.

금지 목록과 허용 목록을 함께 두는 오래된 방식이 여기서도 되풀이되고 있습니다.

고객 20곳, 넷 중 하나가 대기업입니다

회사는 20곳이 넘는 고객을 확보했고 그중 약 4분의 1이 대기업이라고 밝혔습니다.

스텔스 상태에서 이 정도 고객을 만들었다는 것은 영업으로 수요를 만든 것이 아니라 이미 있던 수요를 찾아냈다는 쪽에 가깝습니다.

다만 스텔스 기간의 고객 수는 회사 발표 외에 확인할 방법이 마땅치 않습니다.

금융과 제약에서 수요가 셉니다

수요가 가장 강한 곳은 금융 서비스와 제약 회사라고 합니다. 둘 다 규제가 촘촘한 산업입니다.

이 산업들은 새 기술을 늦게 들이는 쪽으로 알려져 있는데, 이번에는 보안 도구를 먼저 사고 있습니다.

에이전트를 이미 붙였고 그것을 설명할 근거가 필요해졌다는 신호로 읽을 수 있습니다.

규제 산업이 먼저 움직이는 이유

규제 산업에서는 사고가 나면 손실만이 아니라 설명 책임이 따라옵니다. 무엇을 어떻게 통제하고 있었는지를 문서로 제시해야 합니다.

그래서 위험을 줄이는 것뿐 아니라 위험을 다뤘다는 기록을 남기는 것이 구매 이유가 됩니다.

AI 도구가 업무에 깊이 들어갈수록 이런 종류의 수요가 먼저 생깁니다.

위즈 창업자와 앤 뉴버거가 들어왔습니다

개인 투자자로는 위즈 공동창업자 이논 코스티카, 클레이 공동창업자 바룬 아난드, 그리고 앤 뉴버거가 참여했습니다.

위즈는 클라우드 보안에서 공급망 가시성 문제를 다뤄 크게 성장한 회사입니다. 지금 AIR가 에이전트 영역에서 하려는 것과 구조가 닮았습니다.

앤 뉴버거는 미국에서 사이버 보안 정책을 다뤄 온 인물입니다. 정책 쪽 시선이 이 영역에 붙었다는 점도 함께 볼 지점입니다.

공급망 보안이라는 오래된 문제

남이 만든 구성 요소를 가져다 쓰면서 생기는 위험은 새로운 문제가 아닙니다. 패키지 저장소와 컨테이너 이미지에서 이미 여러 번 겪었습니다.

달라진 것은 그 구성 요소가 코드가 아니라 지시라는 점입니다. 검사할 대상이 실행 파일이 아니라 문장이 됐습니다.

기존 방식이 그대로 통하지 않는 이유이자, 이런 회사가 생기는 이유이기도 합니다.

실제 사례 — 스킬 하나를 지웠을 때 무엇이 멈추나

어떤 회사가 문서 요약 스킬 하나를 여러 팀의 에이전트에 붙여 두었다고 해 보겠습니다.

어느 날 그 스킬이 외부에서 지시를 받아 오는 구조라는 것이 밝혀졌습니다. 즉시 꺼야 하는데, 끄면 무엇이 멈추는지 아무도 모릅니다.

의존 관계가 그려져 있으면 이 판단이 몇 분 만에 끝납니다. 없으면 끄고 나서 항의를 받으며 되짚게 됩니다.

AIR가 팔고 있는 것은 사실 이 목록입니다. 막는 기능보다 어디에 쓰이는지 아는 기능이 실무에서 더 자주 쓰입니다.

실제 사례 — 개인이 쓰는 에이전트에는 무엇이 남나

회사 밖에서 혼자 에이전트를 쓰는 경우에는 이런 제품을 살 일이 없습니다. 그래도 같은 위험은 남습니다.

확인할 것은 세 가지입니다. 붙여 둔 애드온이 무엇인지 목록으로 볼 수 있는가, 그것이 어디에서 내용을 가져오는가, 그리고 지금 안 쓰는 것을 지웠는가입니다.

특히 마지막이 중요합니다. 한 번 붙여 보고 잊은 것들이 계속 권한을 들고 남아 있는 경우가 많습니다.

저시력 환경에서 에이전트에 작업을 많이 맡기고 계신다면 더 그렇습니다. 화면으로 일일이 확인하기 어려운 만큼, 붙여 둔 것을 주기적으로 정리하는 편이 안전합니다.

무엇을 확인해야 하나

첫째, 조직이나 개인이 쓰는 에이전트에 무엇이 붙어 있는지 목록을 만듭니다. 이것이 없으면 나머지가 성립하지 않습니다.

둘째, 각 애드온이 실행 중에 외부에서 내용을 가져오는지 확인합니다. 가져온다면 그 출처가 통제되는지를 봅니다.

셋째, 쓰지 않는 애드온은 지웁니다. 권한은 쓰지 않아도 남아 있습니다.

넷째, 업데이트로 동작이 바뀔 수 있다는 점을 전제하고, 한 번 검사한 것을 다시 봅니다.

핵심 정리

이스라엘 보안 스타트업 AIR가 9월 1일 스텔스에서 나오며 5000만 달러 시드 투자를 공개했습니다. 세쿼이아 캐피털과 그린옥스가 공동으로 이끌었습니다.

제품은 AI 에이전트가 쓰는 스킬과 플러그인과 MCP 서버를 배포 전후로 계속 검사하는 인라인 방화벽입니다.

회사 조사에 따르면 공개 AI 애드온 1만 7,800개 이상이 신뢰할 수 없는 외부 지시 소스에 의존했고 누적 설치는 670만 건이었습니다. 자사 시스템은 평가 대상의 약 27퍼센트를 걸러 내고 있습니다.

고객은 20곳 이상이며 4분의 1가량이 대기업이고, 금융과 제약에서 수요가 강하다고 밝혔습니다.

참고하실 만한 것

AI 에이전트에 기능을 붙이실 때, 그 기능이 실행 중에 어디에서 내용을 읽어 오는지 한 번만 확인해 보시기 바랍니다. 설치 시점의 코드가 안전하다는 것과 실행 중에 안전하다는 것은 다른 이야기입니다.

안 쓰는 애드온을 정리하는 일도 함께 권해 드립니다. 붙일 때는 신중했는데 뗄 때는 잊는 것이 보통입니다.

SVIL은 이런 소식을 큰 글자와 쉬운 설명으로 정리해 전해 드리고 있습니다.

출처

• TechCrunch — AIR raises $50M to help companies vet the skills and add-ons AI agents use
• PYMNTS — AI Agent Security Startup AIR Raises $50 Million to Guard Enterprise Supply Chains
• Dealroom — Air raises $50M seed to build a firewall for AI agents
• Yahoo Finance — AIR raises $50M to help companies vet the skills and add-ons AI agents use
• The SaaS News — AIR Raises $50M Seed
• Superpower Daily — AIR Raises $50M for Continuous Checks on AI-Agent Add-Ons
• Pebblous — AI Agent Skill Security: AIR Filters 27% of Skills
• Stockpil — AI security startup AIR raises $50M to vet the tools and add-ons AI agents rely on

협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://svil.dev/