엔비디아 ‘네모트론 3.5 슈퍼 VL’ 공개…성능보다 속도에 중점을 둔 미국 오픈 모델 [고든 정의 TECH+]

현재 인공지능(AI) 시장을 양분하는 것은 오픈 AI의 GPT 같은 폐쇄형 모델과 중국의 딥시크, Qwen 같은 공개 모델입니다. 성능 면에서는 여전히 미국의 프런티어 AI 모델이 좀 더 앞서가고 있지만, 중국 모델의 추격이 매우 거센 상태입니다.

특히 모델 가중치를 공개하는 중국 모델들은 전 세계 개인 사용자와 기업, 연구소가 다운로드해 널리 사용하고 있습니다. 이에 반해 미국산 오픈 모델들은 이에 견줄 만큼 파생 모델이 많지도 않고 허깅 페이스 같은 오픈 사이트에서 다운로드 횟수도 상대적으로 적은 편입니다. 그럼에도 구글의 젬마 4, 메타의 뮤즈 글리머, 엔비디아의 네모트론 등은 어느 정도 사용자를 확보하고 있습니다.

최근 엔비디아는 엔비디아 그래픽처리장치(GPU)에 최적화된 공개 모델인 ‘네모트론 3.5 슈퍼 VL’을 공개했습니다. 1200억개의 파라미터를 지닌 MoE(Mixture of Expert) 모델로 토큰 생성 시에는 10%인 120억개의 파라미터에 해당하는 전문가만 사용해 속도를 높인 모델입니다. 과거 공개한 네모트론 3 울트라(약 5500억 파라미터 중 550억개 활성화)와 비슷한 추론 능력을 더 작은 모델로 구현한 것으로 속도에 중점을 둔 것이 특징입니다.

다만 엔비디아가 공개한 벤치마크 자료를 보면 추론 성능 자체는 썩 좋은 편은 아닙니다. 비슷한 체급인 Qwen 3.8 플래시 넥스트와 비교해서 성능이 낮은 것은 물론 모델 크기가 4분의1도 되지 않는 Qwen 3.8 27B보다도 떨어집니다. 예를 들어 미국의 인공지능 평가·벤치마킹 기관인 Artificial Analysis(AA)에서 발표하는 AI 언어 모델(LLM)의 종합 성능 평가 지표인 AAII(Artificial Analysis Intelligence Index)에서 Qwen 3.8 플래시 넥스트는 40점, Qwen 3.8 27B는 34점을 기록한 데 비해 네모트론 3.5 슈퍼 VL은 28점 정도에 그쳤습니다.





하지만 속도를 기준으로 보면 이야기가 달라집니다. 엔비디아는 네모트론 3.5 슈퍼 VL이 동급 모델보다 5배는 빠르다고 주장하고 있습니다. 활성 파라미터가 120억개로 작아서 메모리·연산 효율이 우수하고 다중 토큰 예측(MTP) 기술과 블랙웰 이상 엔비디아 GPU에서 사용할 수 있는 NVFP4 양자화를 통해 속도를 최대한 끌어올린 덕분입니다.

또 모델의 기본 지능은 낮을지 몰라도 사후 훈련을 통해 성능을 끌어올릴 수 있는 여지가 커서 기업이나 공공기관, 연구소 등에서 내부 데이터를 밖으로 유출시키지 않고 목적에 맞는 모델을 만들 수 있습니다. 여기에 상대적으로 작은 크기와 빠른 속도를 지닌 만큼 시스템 구축 및 유지 비용을 절감할 수 있습니다.





엔비디아 네모트론의 또 다른 강점은 미국 모델이라는 것입니다. 현재 미국 내에서는 무료로 공개하는 중국산 모델에 대한 규제를 강화하려는 움직임이 진행되고 있습니다. 주요 기업이나 공공기관이 중국산 모델에 종속될 경우 보안상의 위험이 있고 현재는 무료로 공개하는 모델이 앞으로는 라이선스 조건을 바꿀 수도 있기 때문입니다.

엔비디아 네모트론은 미국산 모델이고 엔비디아가 꾸준히 업데이트를 하고 있어 이런 위험에서 자유로운 편입니다. 엔비디아의 사업 모델은 AI 하드웨어를 파는 것이기 때문에 CUDA처럼 소프트웨어는 계속 무료로 배포할 가능성이 큽니다.

다만 최신 프런티어 AI 모델과 이를 추격하는 중국산 고성능 오픈 모델 덕분에 눈높이가 높아진 사용자들을 만족시키기에는 성능이 다소 아쉬운 것이 사실입니다. 앞으로 후속 모델을 통해 속도뿐 아니라 성능까지 끌어올려야 네모트론이 경쟁이 치열한 오픈 모델 시장에서 존재감을 높여 나갈 수 있을 것입니다.

고든 정 과학 칼럼니스트 jjy0501@naver.com