AMD 헬리오스, 마이크로소프트 애저 데이터센터에 첫 탑재…엔비디아 독점 흔든다

AMD가 엔비디아의 랙스케일(rack-scale, 서버랙 단위로 구성된 시스템) AI 시스템에 맞설 첫 제품 ‘헬리오스(Helios)’를 출시했다. 마이크로소프트가 이 시스템을 데이터센터에 도입하기로 하면서 메타, 오픈AI, 오라클에 이어 새로운 대형 고객으로 이름을 올렸다. AMD는 올해 안에 마이크로소프트를 포함한 고객사에 헬리오스 출하를 시작할 계획이다. 정확한 계약 조건이나 컴퓨팅 용량은 공개되지 않았다. 이번 발표는 엔비디아의 그레이스 블랙웰(Grace Blackwell)과 베라 루빈(Vera Rubin) 시스템에 도전하는 AMD의 첫 실질적 경쟁작이라는 점에서 업계 주목을 받고 있다.

랙 단위 완제품으로 전략 전환

AMD는 그동안 개별 GPU(그래픽 처리장치) 판매에 주력했지만 헬리오스부터는 완제품 랙 시스템으로 승부를 건다. 헬리오스는 AMD의 MI300 시리즈 가속기에 네트워킹, 스토리지, 냉각 장치까지 하나로 통합한 즉시 배치형(turnkey) 시스템이다. 엔비디아의 DGX 슈퍼포드(SuperPOD) 아키텍처에 대한 직접적인 대응으로, 대규모 언어모델 학습과 추론의 사실상 표준으로 자리 잡은 DGX 체계에 균열을 내려는 시도로 풀이된다.

엔비디아는 AI 가속기 시장에서 80~90%로 추정되는 점유율을 차지하며 공급 부족과 가격 결정권까지 쥐고 있다는 평가를 받는다. AMD가 통합·최적화까지 마친 완제품을 내놓으면서 대형 구매자들이 원하던 대안이 마침내 등장했다는 분석도 나온다.

마이크로소프트, 애저에 헬리오스와 신규 VM 3종 투입

마이크로소프트는 월요일(현지시각) 헬리오스를 자사 데이터센터에 도입한다고 발표했다. 사티아 나델라 마이크로소프트 최고경영자(CEO)는 보도자료에서 “AMD 헬리오스로 애저 인프라 포트폴리오를 확장해 고객들이 차세대 AI 애플리케이션을 구축하고 운영하는 데 필요한 성능, 규모, 선택권을 제공하겠다”고 밝혔다. 헬리오스는 마이크로소프트의 프런티어 모델 추론과 애저 AI 서비스를 뒷받침하는 역할을 맡는다.

마이크로소프트는 헬리오스와 함께 AMD의 최신 ‘베니스(Venice)’ CPU(중앙처리장치) 기반 신규 컴퓨팅 인스턴스 2종과 대규모 추론용 GPU 인스턴스 1종을 애저에 추가한다. 에이전트형 AI와 데이터 파이프라인용 애저 HDv2, 반도체 설계용 애저 HXv2, 대규모 추론용 ND MI455X v7이다. HDv2는 6세대 AMD 에픽(EPYC) 코어 약 500개, 4테라바이트(TB) 램(RAM), 32TB NVMe 스토리지, 400Gbps 애저 부스트 네트워킹을 갖췄다. 스콧 거스리 마이크로소프트 클라우드·AI 부문 수석부사장은 이 인프라가 에이전트형 워크로드의 “병목을 없앤다”고 설명했다. CPU 연산이 부족하면 데이터 준비와 작업 조율이 늦어져 AI 가속기가 유휴 상태에 빠지고 학습·에이전트 확장에 차질이 생긴다는 취지다.

HXv2는 애저가 지난 2023년 AMD와 함께 내놓은 HX의 후속으로 반도체 설계 기업을 겨냥한다. 5GHz 이상으로 구동되는 6세대 에픽 코어 176개를 탑재하고 RTL(레지스터 전송 수준) 시뮬레이션에 강점을 보이는 3D V-캐시 기술을 적용했다. 코어당 캐시는 50% 늘었고 램은 최대 4TB까지 지원한다. 800Gbps 인피니밴드(InfiniBand)를 갖춰 반도체 설계를 넘어 대규모 MPI(병렬 컴퓨팅) 시뮬레이션까지 처리할 수 있다. 마크 페이퍼마스터 AMD 수석부사장 겸 최고기술책임자(CTO)는 “애저 HX는 복잡한 EDA(전자설계자동화) 워크로드를 확장하는 데 중요한 플랫폼”이라며 “더 뛰어난 성능과 확장성을 갖춘 애저 HXv2에 기대가 크다”고 말했다. AMD 스스로도 자사 에픽 CPU를 설계하는 데 애저 HX 인프라를 활용하는 고객이라는 점도 눈길을 끈다.

오랜 파트너십과 확장되는 고객군

마이크로소프트와 AMD의 협력은 이번이 처음이 아니다. AMD 칩은 오랫동안 마이크로소프트의 서피스(Surface) PC와 엑스박스(Xbox) 게임 콘솔에 탑재돼 왔다. 2023년에는 마이크로소프트가 엔비디아 AI 칩과 경쟁하는 AMD의 MI300X GPU를 가장 먼저 도입한 곳이기도 했다. 마이크로소프트는 자체 개발한 마이아(Maia) 칩도 데이터센터에 함께 운용하고 있어 이번 헬리오스 도입은 다중 공급망 전략의 연장선으로 볼 수 있다.

헬리오스에는 마이크로소프트 외에도 메타, 오픈AI, 오라클이 이미 이름을 올렸다. 메타는 추천 시스템과 콘텐츠 모더레이션 인프라에 AMD 칩을 활용한다고 공개적으로 밝혀왔다. 오픈AI는 마이크로소프트와의 밀접한 파트너십과 막대한 GPT 모델 학습 연산 수요를 고려할 때 참여 의미가 크다는 평가다. 오라클은 여러 칩 아키텍처를 두루 채택하는 중립적 클라우드 사업자를 자처하며 초기 도입사로 자리매김했다. AMD는 상위 AI 기업 10곳 중 8곳이 자사 인스팅트(Instinct) GPU로 워크로드를 처리하고 있다고 밝혔다. 오픈AI, 코히어(Cohere), 일론 머스크가 이끄는 스페이스X 산하 AI 조직(SpaceXAI) 등이 포함된다.

엔비디아 독주 구도에 던진 변수

마이크로소프트를 포함한 빅테크들은 저마다 최대한 많은 연산 능력을 확보하려는 경쟁에 뛰어들고 있다. 마이크로소프트는 자체 모델 개발에도 속도를 내는 중이다. 6월 자체 개발 모델 7종을 공개했고 연구개발에 투입하는 연산 자원도 계속 늘리고 있다. 다만 마이크로소프트의 AI 사업 성과는 엇갈린다는 평가가 나온다. 365 코파일럿(Copilot) AI 어시스턴트와 깃허브 코파일럿 코딩 에이전트 모두 성과가 뒤섞여 있고, 마이크로소프트는 올해 들어 이른바 ‘매그니피센트 세븐(Magnificent Seven)’ 빅테크 종목 중 주가 성과가 가장 낮은 것으로 나타났다.

그럼에도 헬리오스가 엔비디아 독점 구도에 실질적 변수로 작용할지는 아직 지켜볼 부분이다. AMD가 재정 조건이나 정확한 물량을 공개하지 않은 만큼 헬리오스가 실제 애저 데이터센터에서 어느 정도 비중을 차지할지는 출하가 본격화되면서 드러날 전망이다.