ARM과 데이터센터: x86 60년 독점의 종말

ARM 서버 점유율이 4년 만에 3.9%에서 25%로 6배 뛰었습니다. AWS Graviton, Google Axion, MS Cobalt, NVIDIA Grace가 전부 ARM 기반입니다. 전력 효율이라는 물리 법칙이 이 전환을 만들고 있고, x86은 40년 된 설계의 족쇄 때문에 따라올 수 없습니다.

왜 하이퍼스케일러들이 인텔을 버리는가

AWS, Google, Microsoft, NVIDIA. 서로 경쟁하지만 한 가지에 동의합니다. "서버 CPU를 인텔에서 사지 않겠다." 직접 만들겠다고요. 그리고 전부 ARM을 선택했습니다. 이것은 우연이 아니라 물리 법칙이 만든 필연입니다.

데이터센터의 근본 문제는 AI가 먹는 전력이 폭발하고 있다는 점입니다. 데이터센터 CPU 총시장규모(TAM)는 수백억 달러 규모이며, AI로 인해 빠르게 확대되고 있습니다.

AI 데이터센터는 기존 데이터센터의 3~5배 전력 밀도를 요구합니다. GPU 클러스터가 고밀도로 들어가기 때문입니다. 전력 공급 자체가 병목이 되어, 미국 주요 도시에서는 데이터센터 전력 할당량이 부족한 상황입니다.

전력은 곧 돈입니다. TCO(총소유비용)의 30~40%가 전기요금입니다. 같은 연산을 절반 전력으로 하면 설비투자도 절반입니다. 데이터센터를 운영하는 회사에게 "전력 효율"은 마진 그 자체입니다.

여기서 질문: 왜 하이퍼스케일러들이 60년간 써온 인텔 x86을 버리고 ARM을 선택하는 걸까요?

1. 전환의 증거: 3.9%에서 25%로

숫자가 말해줍니다. ARM 서버 점유율은 2022년 3.9%에서 2025년 25%로, 4년 만에 6배 뛰었습니다. 그리고 이 칩들을 만든 회사가 전부 세계 최대의 클라우드 기업들입니다.

1.1 점유율 추이

ARM CEO의 목표는 50%였습니다. 실제 달성은 25%. 목표 대비 절반이지만, 4년 만에 6배라는 성장 속도 자체가 전환의 구조적 성격을 보여줍니다. x86이 점유율 1%포인트를 잃는 데 과거에는 수십 년이 걸렸습니다. 지금은 매년 10%포인트씩 잃고 있습니다.

1.2 누가 ARM을 쓰고 있는가

주목할 점이 있습니다. 이 칩들은 하이퍼스케일러가 직접 설계한 것입니다. 인텔에서 사다 쓰는 것이 아니라, ARM의 설계도(Neoverse)를 라이선스해서 자기 워크로드에 최적화한 커스텀 칩입니다. ARM은 전형적인 팹리스 모델로, 설계 IP만 제공하고 제조는 고객이 TSMC 등에 위탁합니다. "범용"에서 "전용"으로의 전환입니다.

2. 전력 효율: 물리 법칙이 만든 경제적 해자

ARM이 서버에서 이기는 이유는 마케팅이 아니라 물리 법칙입니다. 같은 연산을 하는 데 x86은 500W, ARM은 300W. 그리고 이 차이는 인텔과 AMD가 아무리 노력해도 따라잡을 수 없는 구조적 차이입니다. 왜일까요? x86이라는 40년 된 설계의 족쇄 때문입니다.

2.1 왜 ARM이 전력 효율에서 이기는가: RISC vs CISC

CPU가 일을 하려면 "명령어"를 읽고 해석해야 합니다. 이 명령어를 어떻게 설계하느냐가 전력 효율을 결정합니다.

비유를 더 깊이 들어가보겠습니다. 택배 회사를 운영한다고 해보세요. 스위스 아미 나이프(x86)는 다재다능하지만 무겁습니다. 전용 칼(ARM)은 가볍고 빠릅니다. 택배 회사에서 하는 일은 "상자를 열고 내용물을 확인하는 것"뿐입니다. 데이터센터도 마찬가지로 "같은 작업을 대량 반복"하는 환경입니다. 다재다능함이 필요 없는 곳에서는 가벼운 도구가 이깁니다.

핵심은 이 차이가 트랜지스터 수준의 차이라는 점입니다. x86의 복잡한 디코더는 칩 면적의 상당 부분을 차지하고, 그만큼 전력을 소모합니다. 같은 3nm 공정으로 만들어도 x86 디코더가 ARM 디코더보다 크고 전력을 많이 먹습니다. 공정 미세화(3nm, 2nm)로는 이 구조적 차이가 해소되지 않습니다.

2.2 왜 인텔/AMD가 따라올 수 없는가: 하위 호환성의 족쇄

"그럼 인텔도 ARM처럼 단순한 명령어를 쓰면 되는 거 아냐?"

안 됩니다. 이유는 하위 호환성입니다.

1978년 최초 x86(Intel 8086)에서 명령어 세트 A를 정의했습니다. 1985년 386에서 A를 유지하면서 B를 추가했습니다. 2003년 AMD64에서 A+B를 유지하면서 C를 추가했습니다. 2026년 최신 Intel Xeon은 A+B+C+D+E 등 40년간 쌓인 명령어를 전부 지원해야 합니다. 이 레거시 명령어를 해석하는 디코더가 칩 안에 반드시 있어야 하고, 이 디코더가 전력을 먹는 "족쇄"입니다.

40년간 쌓인 소프트웨어(Windows Server, Linux 커널, 기업 ERP, 데이터베이스)가 x86 명령어 위에서 돌아갑니다. 이 명령어를 빼면 소프트웨어가 안 돌아갑니다. Intel은 이 족쇄를 알고 있지만 벗어날 수 없습니다.

Intel의 최근 시도도 있습니다. Alder Lake(2021)부터 "효율 코어(E-core)"를 도입했습니다. ARM처럼 저전력 코어를 병렬로 배치하는 접근입니다. 하지만 E-core에도 x86 디코더가 있어야 합니다. ARM의 근본적 단순함에는 못 미칩니다. "x86 안에서 ARM을 흉내 내는 것"의 한계입니다.

2.3 "위로 올라가기" vs "아래로 내려가기"

ARM과 x86은 반대 방향에서 출발했습니다.

ARM은 "위로 올라가는 것"이 쉽습니다. 이미 효율적인 코어를 갖고 있으니, 더 많이 넣으면 됩니다. 64코어에서 128코어, 192코어로. 전력 효율은 유지하면서 총 성능이 올라갑니다.

x86은 "아래로 내려가는 것"이 어렵습니다. 고성능 코어의 전력을 줄이려면 디코더를 단순화해야 하는데, 하위 호환성 때문에 빼지 못합니다. E-core를 넣어도 x86 디코더는 여전히 필요합니다.

이것이 ARM 서버 점유율이 "올라가기만 하는" 근본 이유입니다. 전력 효율에서 ARM이 구조적으로 유리하고, x86이 이 격차를 좁히는 것은 아키텍처를 버리지 않는 한 불가능합니다.

2.4 실제 검증 데이터

이론이 아니라 실제로 검증된 수치입니다.

주의: 이 수치들은 각 기업의 자체 벤치마크 결과입니다. 워크로드 종류, 측정 조건에 따라 결과가 달라질 수 있습니다. 하지만 AWS, Google, MS, NVIDIA라는 4개 독립 기업이 모두 "ARM이 x86보다 효율적"이라는 결론을 내렸다는 사실 자체가 유의미합니다.

3. 하이퍼스케일러의 ARM 전략

AWS Graviton은 5세대에 도달했습니다. Google Axion은 YouTube와 Gmail을 돌립니다. Microsoft Cobalt는 29개 리전에 배포됐습니다. 그리고 NVIDIA Grace는 모든 AI 서버에 들어갑니다. 이것은 실험이 아니라 본격적인 전환입니다.

3.1 AWS Graviton: 5세대의 진화

AWS는 ARM 서버 전환의 선구자입니다. 2018년 Graviton1부터 시작해 8년간 5세대를 거쳤습니다.

"새 EC2 워크로드의 1/3 이상, 새 CPU 용량의 50%+가 Graviton." 이것은 Graviton이 "대안"이 아니라 "기본값(default)"이 되었다는 뜻입니다.

Amazon 내부 서비스도 전환했습니다. Prime Video, S3, DynamoDB. Trainium3(ML 훈련칩)에도 Graviton이 탑재되어 있습니다.

8년간 5세대를 거치면서 AWS가 증명한 것은 하나입니다. "ARM 서버는 실용적이다. 그리고 x86보다 효율적이다."

3.2 Google Axion

Google Axion은 ARM Neoverse CSS 기반입니다. ARM이 CPU+인터커넥트+보안을 사전 통합한 서브시스템을 그대로 활용합니다.

YouTube, Gmail 포함 3만+ 앱이 마이그레이션됐습니다. TPU 클러스터의 헤드노드(제어 CPU)로도 활용되고 있습니다. AI 가속기 옆에 ARM CPU가 배치되는 구조입니다.

Google이 CSS(Compute Subsystem)를 채택했다는 것은 중요합니다. CSS는 ARM이 CPU 코어뿐 아니라 주변 시스템까지 통합 설계해서 제공하는 것입니다. 고객 입장에서는 설계 부담이 줄고 출시가 12개월 빨라지지만, ARM 입장에서는 로열티율이 1~3%에서 10%+로 올라갑니다.

3.3 Microsoft Cobalt

Microsoft Cobalt는 Neoverse N2 기반, 128코어입니다. Azure 29개 리전에 배포됐습니다. MS가 "클라우드 인프라 비용 절감"을 위해 자체 칩을 만든 것입니다. MS는 동시에 Qualcomm Snapdragon X로 Windows on ARM PC도 추진하고 있습니다. PC와 서버 양쪽에서 ARM 전환이 일어나고 있습니다.

3.4 NVIDIA Grace: GPU와 함께 달리는 ARM

NVIDIA Grace는 Neoverse V2 기반이며, 차세대 Vera CPU는 V3, 88 Olympus 코어로 업그레이드됩니다.

AI 서버의 구조를 생각해보겠습니다. GPU는 연산(두뇌)이고, CPU는 데이터 관리(신경계)입니다. 둘 다 필수입니다. Blackwell과 Vera 서버에서 GPU 옆에 Grace CPU가 배치됩니다. AI 서버 출하량이 증가하면 GPU 매출 증가와 Grace CPU(ARM) 매출이 동시에 증가합니다. 수냉 랙에서는 256 Vera CPU로 22,500+ 동시 환경을 지원합니다.

📈NVDA엔비디아와 ARM의 관계가 특수한 이유가 여기 있습니다. NVIDIA는 GPU를 직접 설계하지만, CPU는 ARM의 설계도를 가져다 씁니다. GPU가 많이 팔릴수록 Grace CPU도 많이 팔리고, Grace CPU가 팔릴 때마다 ARM에 로열티가 들어갑니다. NVIDIA의 AI 성장이 자동으로 ARM의 성장으로 전환되는 구조입니다.

3.5 공통 패턴: "직접 만들고 ARM을 선택한다"

이 칩들의 공통점 두 가지를 정리하겠습니다.

직접 설계한다

인텔에서 Xeon을 사다 쓰는 것이 아니라, 자사 워크로드에 최적화된 칩을 직접 설계합니다. 범용 칩보다 전용 칩이 효율적이기 때문입니다.

ARM을 선택한다

직접 설계할 때 ISA(명령어 체계)를 골라야 하는데, 전부 ARM을 선택했습니다. 이유는 세 가지입니다.

x86을 선택한 하이퍼스케일러는 0개입니다.

4. x86은 반격할 수 있는가

인텔과 AMD가 가만히 있지는 않습니다. 하지만 x86의 태생적 한계(40년 레거시 디코더)와 하이퍼스케일러의 "자체 칩" 트렌드는 구조적입니다. x86의 남은 해자는 레거시 소프트웨어뿐입니다. 그리고 신규 워크로드(AI, 클라우드 네이티브)에서는 이 해자조차 작동하지 않습니다.

4.1 인텔의 현실

인텔은 Xeon 시리즈를 지속 개선하고 있습니다. 최신 공정(Intel 4, Intel 3)을 적용했습니다. 하지만 Agentic AI 전용 서버 CPU는 미출시 상태입니다. 시장 점유율 하락 추세도 계속됩니다. 80%+에서 60%대로, 매년 10%p씩 잃고 있습니다.

아이러니하게도 Intel은 파운드리 사업(Intel Foundry)으로 ARM 칩을 대신 만들어주는 것도 가능합니다. x86 진영의 역설입니다. Intel의 근본 문제는 변하지 않습니다. x86 디코더를 빼지 못하므로 전력 효율에서 ARM을 구조적으로 따라잡을 수 없습니다.

4.2 AMD의 도전

AMD EPYC Venice는 128코어로 성능은 경쟁적입니다. 하지만 TDP는 500W입니다. ARM AGI CPU의 300W 대비 1.7배입니다. AMD는 "더 효율적인 x86"을 만들 수 있지만, "ARM만큼 효율적인 x86"은 만들 수 없습니다. AMD도 x86 디코더의 족쇄에서 자유롭지 않기 때문입니다. AMD의 선택지는 두 가지입니다. x86을 계속 개선하며 성능으로 승부하거나, ARM 라이선스를 검토하거나(미확인).

4.3 x86의 남은 해자: 레거시 소프트웨어

x86이 완전히 사라지지 않는 이유가 있습니다. 수십 년간 쌓인 소프트웨어입니다.

Apple이 Mac을 인텔에서 ARM으로 전환하는 데 3년 걸렸습니다(2020~2023). Rosetta 2 에뮬레이션으로 과도기를 넘겼지만 성능 20~30% 손실이 있었습니다. 기업 서버 환경에서는 이런 전환이 훨씬 어렵습니다.

결론을 내리겠습니다. 서버 시장은 "x86 100%"에서 "ARM 50~60% + x86 40~50%"로 갈 가능성이 높습니다. x86이 완전히 사라지지는 않지만, 신규 성장은 ARM이 가져갑니다. 특히 AI 워크로드는 처음부터 ARM에서 시작되므로 x86의 레거시 해자가 작동하지 않습니다.