AI 수직 계열화에 도전하는 알리바바…AI 가속기 ‘젠우 V900’ 공개 [고든 정의 TECH+]

최근 미국 프런티어 모델을 거의 따라잡은 성능과 증류 논란으로 유명해진 문샷 AI의 키미 K3나 지난해 AI 시장에 큰 충격을 몰고 온 딥시크와 비교해서 알리바바의 Qwen은 상대적으로 대중적 인지도는 낮은 편입니다. 하지만 누구나 다운로드 해 사용할 수 있는 개방형 LLM 모델 가운데서 Qwen 3.8 시리즈는 모델 크기 대비 높은 성능으로 많은 사용자를 확보한 상태로 만만치 않은 기술력을 자랑하는 회사이기도 합니다.

여기에 중국 AI 회사 가운데서는 일찍부터 AI 하드웨어에 많은 투자를 해 자체 플랫폼을 구축하고 있는 회사이기도 합니다. 이런 점에서 알리바바는 자체 모델인 제미나이와 AI 가속기인 TPU를 지닌 구글과 상당히 유사한 전략을 지닌 회사이기도 합니다.

최근 알리바바는 5조에서 10조개 파라미터 규모의 차세대 Qwen 모델을 개발하겠다고 밝혔습니다. 더 중요한 것은 이런 대형 모델을 훈련하고 서비스할 수 있는 자체 AI 가속기 ‘젠우 V900’을 공개했다는 점입니다.

지난 22일 항저우에서 열린 압사라 콘퍼런스에서 공개한 알리바바의 젠우 V900은 216GB의 메모리를 탑재하고 있으며 전 세대인 M890의 3배의 성능을 지니고 있습니다. 구체적인 성능은 아직 공개하지 않았는데, FP16 기준으로 3배라면 1.8 PFLOPs의 성능을 지닌 것으로 추정됩니다. 여기에 FP8/FP4 연산도 지원한다고 밝혔습니다.

아무튼 대략적인 수치를 감안하면 알리바바의 젠우 V900은 엔비디아의 베라 루빈(FP4 기준 50 PFLOPs)과 비교해 성능은 낮은 편입니다. 하지만 엔비디아 칩을 수입하기 힘든 알리바바 입장에서는 자체 개발이 필수적인 상황입니다. 그리고 사실 중국 내에서 경쟁 상대인 화웨이 어센드 칩과 비교해서 크게 낮은 성능이라고 할 수 없는 수준이기도 합니다.

일단 젠우 V900 칩을 계획대로 양산해서 목표처럼 20GW 급 데이터 센터를 2032년까지 구축할 수 있다면 알리바바는 나름 승산이 있다고 보고 있습니다. 중국 AI 모델의 특징은 상대적으로 적은 연산 자원을 이용해서 높은 성능을 낼 수 있게 한 데 있습니다. 미국이 제재로 칩 수급이 어려운 상황에서 내놓은 여러 고육지책이 지금은 오히려 큰 무기가 되고 있는 셈입니다.

최신 Qwen 모델은 활성 파라미터 크기를 줄여 연산 부담을 더는 MoE(Mixture of Experts) 기법은 물론이고 ‘N-gram 임베딩’처럼 AI 가속기의 메모리 부담까지 덜어주는 최신 기법을 사용해 연산 자원 대비 높은 성능을 보여주고 있습니다. 따라서 50만 개의 V900 칩을 실제로 양산해 대규모 AI 데이터 센터를 구축할 수만 있다면 앞으로 AI 경쟁에서 연산 자원 확보에 어려움을 겪는 딥시크나 키미 K3보다 유리한 고지를 차지할 수 있습니다.

물론 하이퍼스케일러가 되기 위해서는 AI 가속기 만으로는 불가능합니다. 한 개의 기속기에서 10조 개의 파라미터를 돌릴 순 없기 때문입니다. 젠우 V900 가속기는 알리바바의 ICN 스위치 패브릭을 통해 약 1.2TB/s의 칩 간 인터커넥트 속도를 제공합니다. 그리고 지우(Panjiu) 슈퍼노드 서버(V900 + ICN 스위치 기반), 이톈(Yitian) CPU를 포함한 자체 맞춤형 랙 스케일 솔루션을 개발하고 있습니다.

다만 중국 내 반도체 수급 상황도 쉽지 않다는 점을 생각하면 순조롭게 캐파 확장에 성공할 수 있을진 미지수입니다. 최대 50만 개의 V900 가속기는 108페타바이트의 HBM 메모리를 의미합니다. 다만 중국 내 고성능 반도체와 고대역폭 메모리 공급이 빠듯한 상황이어서, 계획대로 50만 개 규모로 양산해 대규모 데이터센터를 구축할 수 있을지는 아직 미지수입니다.

물론 이런 어려움을 극복하고 알리바바가 대규모 데이터센터, 자체 AI 가속기, 자체 LLM까지 완성한다면 AI 수직 계열화에 한 발 더 다가가며 입지를 크게 강화할 수 있을 것입니다. 알리바바는 젠우 V900의 출시 시점을 내년 1분기로 밝혔습니다. 알리바바가 어떤 결과를 겨두게 될지 주목됩니다.

고든 정 과학 칼럼니스트 jjy0501@naver.com