AI 뉴스 SVIL NVIDIA Oracle Vera CPU Rubin NVL72

NVIDIA·Oracle Vera CPU·Rubin NVL72 일반 제공 — 에이전트 연산과 대규모 인프라 확장

SVIL - Singularity Visual Intelligence Lab 2026. 10. 28 11 min read

NVIDIA와 Oracle이 OCI에서 Rubin NVL72와 Vera CPU의 일반 제공을 발표했습니다. 새 제공 내용과 향후 확장 계획을 구분하고, AI 에이전트에서 CPU가 중요해지는 이유를 살펴봅니다. 이 글의 삽화는 개념 이미지이며 실제 제품 화면이나 연구 결과가 아닙니다.

AI 에이전트가 기다리는 시간

모델이 답을 만드는 동안에는 GPU가 주역이지만, 도구 호출과 코드 실행이 길어지면 에이전트 전체가 기다립니다. 이번 Oracle·NVIDIA 발표는 GPU 확장과 함께 그 사이를 잇는 CPU 연산을 전면에 내세워요. 모델 호출 밖에서 쓰이는 시간도 AI 인프라의 핵심이라는 이야기입니다.

10월 27일 새로 발표된 내용

10월 27일 두 회사는 OCI에서 Vera Rubin NVL72와 NVIDIA Vera CPU의 일반 제공을 발표했어요. 동시에 Supercluster를 멀티 기가와트 규모로 늘리는 계획을 밝혔습니다. 공식 RSS 게시 시각은 16:00 UTC, 한국 시각으로 28일 01:00입니다. [1]

일반 제공과 확장 계획의 구분

이미 제공한다고 밝힌 구성과 앞으로 늘릴 인프라는 서로 다른 상태입니다. 일반 제공 발표가 전체 확장 계획의 가동 완료를 뜻하지는 않아요. 이번 글은 기존 Meta 투자나 Oracle Fusion 업무 앱 발표가 아닌, OCI 연산 자원의 새 제공 소식을 다룹니다. [1]

NVL72가 묶는 연산 단위

NVL72는 랙 규모에서 여러 GPU를 연결하는 구성입니다. NVIDIA 제품 설명은 72개 Rubin GPU와 36개 Vera CPU, NVLink 기반 연결을 소개합니다. 개별 칩의 최고 성능뿐 아니라 많은 연산 장치가 데이터를 얼마나 효율적으로 주고받는지가 설계의 일부예요. [4]

학습과 추론의 공통 기반

OCI의 GPU 인프라는 대규모 모델 학습과 추론에 쓰는 베어메탈·클러스터 구성을 제공합니다. 학습은 가중치를 조정하는 과정이고 추론은 준비된 모델을 실제 요청에 사용하는 과정이에요. 두 작업은 메모리·통신·지연 요구가 달라 같은 장비도 배치 방식이 달라집니다. [5]

랙 밖을 잇는 네트워크

대규모 GPU 구성은 랙 내부 연결만으로 완성되지 않아요. 랙 간 통신에서 지연과 혼잡이 커지면 계산 장치가 데이터를 기다리게 됩니다. OCI Supercluster의 네트워크와 GPU 연결 구성을 함께 읽어야 총 GPU 개수 이상의 운영 특성을 볼 수 있습니다. [5]

Oracle Acceleron의 역할

Oracle Acceleron은 SmartNIC와 고성능 네트워크 기술을 묶어 데이터 이동, 기반 처리의 효율과 격리를 지원합니다. 네트워킹 작업을 별도 장치로 옮겨 애플리케이션 CPU의 부담을 줄이는 방향이에요. 단일 기능 이름보다 통신·보안·운영을 묶는 기반으로 이해할 수 있습니다. [6]

하드웨어 격리가 필요한 이유

에이전트가 만든 코드를 실행하는 환경은 신뢰할 수 없는 입력을 다룰 수 있어요. Acceleron 문서는 하드웨어 기반 격리와 세밀한 네트워크 통제를 설명합니다. 이는 방어 수단의 일부이며, 애플리케이션 권한과 데이터 접근 정책까지 자동으로 완성해 준다는 의미는 아닙니다. [6]

CPU가 담당하는 도구 실행

Vera CPU 일반 제공 글은 도구 실행, 오케스트레이션, 데이터 검색 같은 모델 호출 사이의 작업을 주요 대상으로 설명합니다. 에이전트가 다음 추론에 필요한 자료를 준비하는 시간도 응답성에 영향을 줘요. GPU 활용률과 사용자 체감 속도를 함께 보는 이유입니다. [2]

Vera CPU의 설계 방향

NVIDIA는 Vera를 자체 Olympus 코어 기반의 데이터센터 CPU로 소개해요. 제품 설명에서 AI와 강화학습, 데이터 처리, 도구 실행을 다룹니다. GPU를 대체한다는 해석보다 CPU가 강한 작업을 빠르게 처리해 시스템을 연결하는 설계로 읽는 편이 적절합니다. [4]

메모리 대역폭과 동시 작업

여러 에이전트 작업이 동시에 실행되면 코어 수뿐 아니라 메모리에서 데이터를 공급하는 속도도 중요합니다. Vera 제품 자료는 메모리 대역폭과 CPU·GPU 간 연결을 강조해요. 이 설명을 특정 앱의 실제 가속 배수로 바꾸려면 별도 측정이 필요합니다. [4]

베어메탈과 가상 머신의 선택

Oracle은 Vera CPU를 베어메탈과 Flex 가상 머신으로 제공한다고 설명합니다. 전용 서버에 가까운 제어와 가상화된 자원 조절이라는 차이가 있어요. 어느 방식이 유리한지는 작업 격리, 운영 도구, 이용 가능 구성과 비용 조건을 함께 봐야 판단할 수 있습니다. [2]

CPU와 GPU를 별도로 확장

발표는 CPU와 GPU 자원을 업무에 맞춰 독립적으로 늘리는 방향을 제시합니다. 도구 실행이 많은 작업에 CPU를 보태거나 모델 연산에 GPU를 보태는 식이죠. 시스템 전체를 항상 같은 비율로 키우기보다 병목의 위치에 맞춰 조절하려는 접근입니다. [1]

OKE와 컨테이너 운영

OCI Kubernetes Engine은 관리형 Kubernetes로 컨테이너 애플리케이션의 배포와 운영을 지원해요. CPU 작업과 GPU 작업을 각각 배치하는 데 사용할 수 있는 운영 기반입니다. 다만 자원을 분리한다고 네트워크 대기나 저장소 병목이 저절로 사라지지는 않습니다. [7]

Rubin NVL8은 앞으로의 계획

HGX Rubin NVL8은 도입 계획으로 함께 언급됐습니다. NVL72 일반 제공과 같은 완료 상태로 묶지 않는 것이 중요해요. 예정된 구성이 실제로 열렸는지, 어떤 리전과 인스턴스 형태를 지원하는지는 후속 제공 문서로 확인할 사안입니다. [1]

기존 하드웨어와 소프트웨어 연속성

NVIDIA의 공통 CUDA 기반은 세대가 다른 장비에서 소프트웨어를 이어 가는 요소입니다. 그러나 드라이버·라이브러리와 모델의 호환성을 무시해도 된다는 뜻은 아니에요. 기존 워크로드가 새 장비에서 같은 결과를 내는지는 운영자가 검증할 부분입니다. [4]

대규모 배치와 실제 가동의 차이

멀티 기가와트라는 말은 전력·냉각을 포함한 큰 인프라 확장의 규모를 나타냅니다. 그것이 당장 한 고객이 쓸 수 있는 용량이나 확정된 완료 시각을 뜻하지는 않아요. 발표된 확장 방향과 실제 배치된 자원은 각각의 근거로 확인해야 합니다.

OpenAI 사례를 읽는 기준

공식 발표는 OpenAI가 Abilene의 OCI Supercluster에서 10만 개 넘는 Blackwell GPU로 GPT-6 Astra를 학습·서비스한 사례를 제시합니다. 기존 규모를 보여주는 회사 측 사례예요. 이 수치를 이번 Rubin 확장의 완료 물량으로 해석할 수는 없습니다. [1]

코딩 에이전트에 적용하면

코딩 에이전트를 예로 들면 추론 뒤에 빌드·테스트가 길게 이어질 수 있어요. 이때 모델 호출만 빨라져도 전체 작업 시간은 크게 달라지지 않을 수 있습니다. 분석하려면 모델 대기, 코드 실행, 파일 처리 시간을 나눠 측정하는 편이 의미 있습니다.

데이터 검색 에이전트에 적용하면

검색 에이전트는 문서 조회와 데이터 정리 뒤에 다음 모델을 호출합니다. 응답이 느리다면 CPU뿐 아니라 원격 저장소나 검색 API의 지연도 원인일 수 있어요. CPU 증설의 효과를 보려면 각 대기 구간을 구분한 실제 작업 기록이 필요합니다.

성능 수치를 비교할 때의 조건

성능 홍보 수치는 비교 대상과 모델, 입력 길이, 동시 작업 수가 같아야 해석할 수 있어요. CPU 일반 제공 글에 제시된 이점도 조건에 묶인 회사 측 설명입니다. 이번 글은 독립 벤치마크를 실행하지 않았으며 특정 가속 배수를 보장하지 않습니다.

비용은 전체 작업으로 평가

운영 비용은 시간당 장비 가격만으로 결정되지 않아요. 같은 일을 끝내는 시간, 실패 후 재시도, 데이터 이동과 관리 부담이 함께 들어갑니다. 이는 이번 발표의 가격표가 아닌 평가 관점이며, 정확한 비용 비교에는 실제 이용 조건이 필요합니다.

핵심 정리

핵심은 OCI의 Rubin NVL72·Vera CPU 일반 제공과 향후 확장 계획입니다. GPU가 모델을 계산하고 CPU가 도구와 데이터를 처리하는 전체 흐름을 함께 다뤄요. 발표된 자원의 존재와 특정 서비스의 성능 향상은 구분해서 이해하는 편이 정확합니다.

다음에 확인할 지역과 제공 조건

다음 확인점은 리전별 가용성, 인스턴스 형태, 할당량과 실제 요금입니다. 이번 발표만으로 국내 계정에서 즉시 쓸 수 있다고 단정하지 않았어요. 에이전트 운영에서 모델 호출과 도구 실행 중 어느 구간이 더 오래 걸리는지 경험을 나눠 주셔도 좋겠습니다.

출처

협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://svil.dev/