엔비디아라는 거대한 철옹성을 향한 AMD의 공세가 꽤나 매섭다. 최근 시장의 반응만 봐도 그렇다. 16일(현지시간) 뉴욕 증시에서 AMD 주가는 단숨에 8.81% 뛰어오르며 126.39달러에 장을 마감했다. 지난 1월 초 이후 5개월 만에 보는 최고치다. 이렇게 자본이 몰린 배경에는 지난주 ‘어드밴싱 AI’ 콘퍼런스에서 까발린 차세대 AI 칩 라인업이 자리 잡고 있다. 하반기 등판 예정인 ‘인스팅트 MI350’과 내년을 겨냥한 ‘MI400’이 그 주인공이다.
이날 발표에서 유독 눈길을 끈 건 ‘헬리오스(Helios)’라는 신규 랙 시스템이다. 단순히 칩 하나를 잘 깎는 걸 넘어 처음부터 랙 전체를 하나의 통합된 시스템으로 짰다. 수천 개의 MI400 칩을 엮어 하나의 거대한 슈퍼컴퓨터처럼 굴리겠다는 심산이다. 엔비디아가 최신 블랙웰 아키텍처 기반의 GB200 NVL72 랙으로 생태계를 묶어두는 전략을 정확히 벤치마킹하고 정면승부를 건 셈이다.
월가도 이 움직임에 즉각 베팅을 시작했다. 파이퍼 샌들러는 AMD의 목표가를 125달러에서 140달러로 쿨하게 올려 잡았다. 하시 쿠마르 분석가의 시각은 흥미로운데, 단순히 AI 서버뿐만 아니라 그간 죽 쑤던 PC 시장의 부활까지 점치고 있다. 팬데믹 때 팔려나간 PC들이 이제 노후화 단계에 접어들었고, AI PC라는 새로운 자극제에 관세 부과 우려에 따른 선취매 수요까지 겹치면서 교체 주기가 확 짧아질 거란 분석이다. 여기에 헬리오스 시스템을 무기로 하반기부터 데이터센터와 GPU 매출이 가파르게 반등할 것이라 내다봤다.
모건스탠리의 조지프 무어 역시 MI300 시리즈의 궤를 잇는 이 신제품들이 실제 기대치만큼만 성능을 뽑아준다면 AMD의 장기적 체질을 바꿔놓을 거라 거들었다. 심지어 MI400의 초기 성능이 엔비디아의 차기작인 ‘베라 루빈’과 멱살을 잡고 싸울 만한 수준이라는 시그널까지 포착된다고 하니, 시장이 흥분할 만도 하다. 때마침 이스라엘과 이란 간의 무력 충돌 리스크가 살짝 누그러지면서 대만 TSMC, 브로드컴, 퀄컴 등 반도체 섹터 전반에 훈풍이 분 것도 타이밍이 좋았다.
초거대 AI 시대를 위한 x86의 진화, ACE
그런데 AMD가 준비한 진짜 묘수는 단순히 하드웨어 체급을 키우는 데서 끝나지 않는다. 아키텍처 생태계의 판도를 지키기 위해 영원한 앙숙인 인텔과 손을 잡는 기현상까지 벌어졌다. 이름하여 ‘x86 생태계 자문 그룹(EAG)’. 이 기구 아래서 두 회사는 AI 시대에 x86 아키텍처가 도태되지 않도록 표준화된 매트릭스 가속 구조를 구축하기로 합의했다. 그 결과물이 바로 최근 양사가 공동으로 백서를 통해 공개한 ACE(AI Compute Extensions)다.
신경망이나 LLM(거대언어모델) 같은 AI 워크로드의 척추는 결국 행렬 곱셈(Matrix Multiplication) 연산이다. 기존 AVX10 같은 SIMD 확장 명령어 셋으로도 행렬 연산 자체는 가능하지만, 확장성이나 연산 밀도 면에서 태생적인 한계가 뚜렷했다. 연산을 가속하려는 시도들은 있었지만 구조적으로 그리 효율적이지 못했다.
ACE는 바로 이 지점을 파고든다. AVX10과 매끄럽게 연동되면서도 에너지 효율과 확장성을 극단적으로 끌어올린 x86 맞춤형 매트릭스 가속 프레임워크다. 기술적으로 들어가면, ACE는 INT8, OCP FP8, MXFP8, MXINT8, BF16 같은 최신 AI 데이터 포맷의 네이티브 행렬 곱셈을 폭넓게 지원한다. 핵심은 AVX10과 맞물려 돌아가도록 설계된 ‘외적(Outer product)’ 기반의 가속 로직이다. 쉽게 말해 기존 AVX10이 하던 곱셈-누산 작업과 똑같은 양의 입력 벡터를 소모하면서도 연산 밀도는 무려 16배나 끌어올린다는 뜻이다.
노트북부터 거대한 슈퍼컴퓨터까지 x86이 깔린 곳이라면 어디든 이 기술을 유연하게 얹어 쓸 수 있다. 개발자들 입장에선 굳이 낯설고 특화된 하드웨어로 AI 연산을 오프로딩하느라 골머리를 앓을 필요 없이 익숙한 x86 환경에서 최대치의 퍼포먼스를 쥐어짤 수 있게 된 거다. 진입 장벽과 마찰을 극단적으로 줄여버린 셈이다.
결국 AMD와 인텔이 ACE를 ‘x86을 위한 표준 매트릭스 가속 아키텍처’로 못 박아버린 건, 엔비디아가 사실상 독식하고 있는 AI 가속 생태계에 균열을 내겠다는 강력한 연대 선언이다. 하드웨어 단에서는 헬리오스 랙과 MI400으로 물리적인 펀치를 날리고, 아키텍처 단에서는 인텔과 연합전선을 구축해 x86의 영토를 수성하는 영리한 투트랙 전략이다. 철벽같던 엔비디아의 헤게모니가 이 거친 공세 앞에서 어떤 파열음을 낼지, 진짜 반도체 전쟁의 양상은 이제부터 새롭게 읽혀야 할지도 모른다.