AMD(나스닥: AMD)는 하드웨어 기반으로 기밀 컴퓨팅(Confidential Computing)을 구현하는 최초의 클라우드 텐서 처리 장치(Tensor Processing Unit, TPU) 시스템인 구글 클라우드 TPU 8tx(Google Cloud TPU 8tx)의 호스트 인프라에 5세대 AMD 에픽(AMD EPYC™) 프로세서가 탑재됐다고 발표했다.
양사는 이번 협업 확대를 통해 AMD 에픽 CPU의 성능, AMD 인피니티 가드(AMD Infinity Guard)의 보안 기능, x86 소프트웨어 호환성을 구글 클라우드 TPU의 AI 가속 기능과 결합해 기업의 추론, 미세 조정 및 강화 학습 워크로드 도입을 지원한다. 5세대 AMD 에픽 호스트 프로세서가 지원하는 TPU 8tx의 구글 클라우드 기밀 컴퓨팅 아키텍처를 통해 기업은 데이터 보호 수준을 유지하면서 가장 민감한 AI 워크로드를 클라우드에서 대규모로 실행할 수 있다.
이번 도입은 가속 AI 인프라의 기반으로서 AMD 에픽 프로세서의 역할을 확대한다. AMD 에픽 CPU는 GPU와 맞춤형 가속기로 구축된 다양한 시스템에서 데이터 준비, 워크로드 조율, 가속기와의 통신 관리 등 호스트 프로세싱을 담당하는 CPU로 선택받고 있다. AMD와 구글 클라우드는 TPU 8tx에서 이러한 기능에 하드웨어에 기반한 보안을 결합해, 실제 운영 환경에서 AI를 활용하기 위한 핵심 요건인 사용 중 데이터 보호를 지원한다.
AMD의 컴퓨트 및 엔터프라이즈 AI 부문 총괄인 댄 맥나마라(Dan McNamara) 수석 부사장은 “최고 수준의 AI 시스템에는 탑재된 가속기의 요구사항에 부응할 수 있는 CPU 기반이 필요하다”며 “AMD는 여러 세대의 에픽 프로세서에 걸쳐 가속 시스템의 생산성을 뒷받침하는 성능, 메모리 대역폭 및 입출력(I/O) 역량에서 리더십을 구축해 왔으며, 이는 세계 주요 클라우드 제공업체들과 수년간 이어온 엔지니어링 협업에 기반한다. 구글 클라우드와의 협업을 통해 이러한 강점을 TPU 8tx에 제공함으로써, 고객이 핵심 워크로드에 필요한 성능과 보호 기능을 갖추고 AI를 확장할 수 있도록 지원한다”고 말했다.
구글 클라우드 AI 및 컴퓨팅 인프라 부문 총괄인 마크 로마이어(Mark Lohmeyer) 부사장은 “AI 에이전트를 실제 운영 환경에 도입할 때는 기반 인프라에서도 데이터와 지식재산에 접근할 수 없도록 기밀성이 유지된다는 확신이 필요하다”며 “AI 하이퍼컴퓨터(AI Hypercomputer) 내에서 5세대 AMD 에픽 프로세서와 구글의 8세대 TPU 아키텍처를 결합해, 클라우드 TPU 최초로 하드웨어 기반 기밀 컴퓨팅을 제공한다. 고객은 최신 추론 모델에 필요한 저지연 성능과 함께 실리콘 수준의 데이터 보호 기능을 활용할 수 있다”고 밝혔다.
AMD 에픽 프로세서로 기밀 AI 구현
TPU 8tx 시스템에서 5세대 AMD 에픽 프로세서는 워크로드 오케스트레이션, 데이터 준비 및 TPU 가속기와의 높은 처리량 통신을 관리한다. 이 시스템은 AMD 에픽 CPU의 AMD 보안 암호화 가상화(AMD Secure Encrypted Virtualization, SEV) 기능을 활용한다. 이 기능은 TPU와 함께 기밀 컴퓨팅의 보호 범위를 CPU에서 연결된 가속기까지 확장해, 이들 사이를 이동하는 민감한 데이터의 보호를 지원한다.
가속기에 보호된 메모리에 대한 직접 접근 권한을 부여하기 전에 해당 가속기의 신원과 보안 구성을 검증한다. 이를 통해 고객의 프롬프트, 모델 가중치 및 중간 데이터가 CPU 메모리에 저장돼 있거나 호스트와 가속기 사이를 이동할 때 암호화 상태를 유지하도록 지원하며, 가속기에서 실행되는 동안에는 하드웨어 기반 격리를 제공한다. 이러한 보호 기능은 기업이 추론 및 에이전틱 AI 애플리케이션에서 민감한 정보를 안심하고 활용할 수 있도록 돕는다.
AMD 에픽 프로세서는 구글 클라우드의 폭넓은 기밀 컴퓨팅 포트폴리오도 뒷받침한다. AMD SEV 기술은 컨피덴셜 VM(Confidential VMs), 컨피덴셜 GKE(Confidential GKE), 컨피덴셜 스페이스(Confidential Space), 아파치 스파크용 컨피덴셜 관리형 서비스(Confidential Managed Service for Apache Spark), 컨피덴셜 데이터플로(Confidential Dataflow) 전반에서 워크로드 보호를 지원한다. TPU 8tx는 이러한 협업을 기밀 AI 가속 영역으로 확장한다.
다양한 AI 아키텍처에서 검증된 호스트 CPU 기반
하이퍼스케일러와 첨단 AI 연구소, 모델 제공업체들이 점점 더 특화된 AI 인프라를 구축하는 가운데, CPU 선택은 여전히 시스템 성능과 구축의 핵심 요소다. 가속기는 호스트 프로세서를 통해 데이터를 공급받고 작업 일정을 조율하며, AI 워크로드를 관련 애플리케이션 및 서비스와 연결한다. AMD 에픽 프로세서는 GPU와 맞춤형 AI 가속기 ASIC 전반에서 10곳이 넘는 주요 하이퍼스케일러 및 첨단 AI 연구소가 선택한 호스트 CPU다.
AMD 에픽 프로세서는 AMD 인스팅트(AMD Instinct™) GPU, 엔비디아(Nvidia) GPU 및 맞춤형 반도체를 사용하는 다양한 시스템에서 이러한 역할을 지원한다. 이처럼 폭넓은 지원을 통해 고객은 어떤 가속기를 선택하든 확립된 x86 소프트웨어 생태계가 뒷받침하는 검증된 CPU 플랫폼을 활용할 수 있다.
여러 세대에 걸친 AMD와 구글 클라우드의 협업 확대
AMD와 구글 클라우드는 여러 세대의 에픽 프로세서에 걸쳐 협업하며 범용, 컴퓨팅 집약적, 스토리지 집약적 워크로드와 가속 워크로드를 지원해 왔다. 이러한 협업은 현재의 구글 클라우드 컴퓨트 엔진(Google Cloud Compute Engine) C4D, N4D, H4D, Z4D 및 G4 가상 머신으로 이어지고 있다. 양사는 기업 차원에서도 수년간 보안 기술 분야에서 협업해 왔으며, 여기에는 구글 보안 전문가들의 AMD 보안 프로세서 펌웨어에 대한 심층 검토도 포함된다.
TPU 8tx를 통한 이번 협업 확대는 기업이 데이터 보호 수준을 유지하면서 실제 운영 환경에서 최신 추론 및 에이전틱 AI 워크로드를 실행할 수 있도록 지원한다.
|
