서버 한 대를 더 들일 자리와 전력이 없는 곳에서도, AI는 돌아가야 합니다

기존 서버실과 현장 설비는 정해진 전력 용량과 환경 조건에 맞춰 구성되어 있어, AI 서버를 위해 이를 바꾸기 쉽지 않습니다. GPU 서버는 전력 부담이 커서 이런 환경에 그대로 들이기 어렵습니다.

한편 실제 현장에 투입되는 AI는 대부분 여러 모델의 조합입니다. 영상을 분석하는 비전 모델에 언어 모델이 더해지기도 하고, 음성을 인식하는 모델과 음성을 합성하는 모델이 함께 돌아가기도 합니다.

도입 단위도 카드 한 장이 아닙니다. 수백, 수천 명의 동시 사용을 지탱하려면 서버 단위로 인프라를 운영해야 하며, 이 서버에 꽂힌 여러 카드의 자원을 효과적으로 묶어 관리해야 합니다. 따라서 한정된 랙 공간과 전력 안에서 여러 AI 모델을 서버 단위로 운영할 수 있는 구성이 필요합니다.

노트북보다 전기를 덜 쓰는 압도적인 저전력의 AI 서버

엑세스랩은 낮은 전력 소모와 높은 효율을 앞세우는 Arm 프로세서 기반 서버의 A-Z를 만드는 기업입니다. AI 모델이 보편화됨에 따라, 도입과 운영 비용, 그리고 외산 부품에 의존하지 않는 독립적인 인프라를 제공하는 데 앞서고 있습니다.

모빌린트와의 협력을 통해 개발된 엑세스랩의 V-RAPTOR SQM100은 80 TOPS(INT8, Dense) 성능의 MLA100 PCIe Card를 탑재하여 50W TDP(열설계전력)로 동작하는 초고효율 서버로, 엣지 환경에서 VLM(비전 언어 모델)은 물론 수십 채널의 영상을 실시간 처리할 수 있습니다.

엑세스랩의 유명환 대표를 만나, 모빌린트 NPU(신경망 전용 연산 칩)와의 시너지, 현장에서 보는 시장의 변화, 앞으로 함께하고 싶은 일을 들어 보았습니다.

엑세스랩, 국내 최초 저전력 Arm 서버 제작 기업

엑세스랩은 산업용과 엣지 분야의 임베디드 전문 기업입니다. 국내 최초로 Arm 서버를 개발했으며, 국산 기술력으로 서버와 보드를 직접 설계하고 제조하며 한국과 해외 곳곳에서 기술력을 선보이고 있습니다.

‘서버(또는 컴퓨터)를 직접 만든다’는 말이 구체적으로 어떤 의미인가요?

유명환 대표: “모바일용 Arm은 칩 업체가 전원 관리 칩(PMIC)을 짝으로 제공합니다. 예시로, USB 포트로 들어오는 전기를 메모리, 카메라, 모뎀 같은 부품별 전압에 맞게 나누는 일이 수월한 구조입니다.

반면 컴퓨터나 서버는 그런 보조 칩 없이, 전압 변환과 분배 회로를 전부 직접 설계해야 합니다. 하드웨어는 물론 BIOS부터 드라이버 개발까지 직접 진행해야 진정한 A-Z 개발이라고 할 수 있어요. 국내에서는 드문 개발 방식이라, 부품을 문의해도 대리점이 용도를 모를 정도죠.”

엑세스랩의 상징, 보랏빛 PCB

국산 NPU와 국산 Arm 서버의 조합: 압도적인 유연함과 속도

V-RAPTOR SQM100 서버(출처=엑세스랩)

엑세스랩의 V-RAPTOR SQM100은 모빌린트의 ARIES 기반 MLA100 PCIe Card를 탑재한 1U 서버입니다. 랙 공간 1U 안에 24코어 Arm 프로세서(Socionext SynQuacer SC2A11, 24코어 1.0GHz, Arm v8 Cortex-A53), 최대 64GB ECC 메모리를 담았습니다.

NPU 자원 배치의 유연성

실제 사용자가 사용하는 환경은 AI 모델을 한 가지뿐만 아닌 복합적인 방식으로 투입하게 됩니다. NPU가 이를 전반적으로 효율적으로 다룰 수 있는지가 중요한데요. 엑세스랩이 서버 단위로 NPU를 묶어 운영하는 것도 이 구조 위에서 가능했습니다.

모빌린트와의 NPU 기술력에 대해 느낀 부분에 대해 설명 부탁드립니다.

유명환 대표: “모빌린트의 PCIe 카드는 엣지 단위에서 가성비가 높습니다. 특히 초반의 NPU는 비전만 지원하는 경우가 많았는데, 모빌린트가 먼저 비전과 LLM을 복합적으로 단일 NPU에 지원하기 시작하면서 굉장히 활용성이 높아졌다고 느꼈습니다.

기술 세미나에서도 모빌린트의 NPU를 플렉서블한 칩이라고 소개합니다. 저희가 클라우드 사업도 하다 보니 컨테이너를 여러 개 띄워서 코어를 나누고 합치는 테스트를 해 봤는데 정상적으로 동작했습니다.”

모빌린트의 런타임, qb Runtime은 유저가 속도, 동시 출력량 등 목표에 따라 코어 자원을 유연하게 분배할 수 있도록 지원합니다.

외산 칩과 달랐던 소통의 속도

모빌린트와 협업 전, 챌린지를 겪던 부분이 있으셨나요?

유명환 대표: “외산 프로세서 기업과는 소통이 어려운 경우가 많습니다. 한국에 계신 고객분들의 문제를 실시간으로 해결해 드리기 어려운 부분이 있었는데요. 모빌린트는 연락이 아주 원활하여, 질문이 있을 때마다 빠른 지원과 해답을 찾을 수 있었습니다.

특히 최근 개설된 모빌린트 포럼의 활용성이 인상적이어서, 저희도 비슷하게 로그인 기반의 한글 게시판 포럼을 만들었습니다.(웃음)”

모빌린트의 엔지니어와 빠른 소통이 가능한 모빌린트의 기술 포럼, discuss.mobilint.com

신속한 기술지원으로 신규 모델 및 프레임워크도 효과적으로

NPU의 투입에는 고객의 모델이 잘 지원되는지가 중요합니다. 초기 셋업 시에는 아키텍처 검증을 위해 NPU 기업이 먼저 최적화한 모델을 사용해 테스트하는 것이 가장 빠르고 효율적인 방법이 될 수 있는데요. 모빌린트는 490개 이상의 검증된 모델 리스트를 보유하여, 유 대표님도 이 규모를 모빌린트의 핵심 강점으로 언급했습니다.

“모빌린트의 가장 큰 차별점은 적극성입니다. 기술지원은 물론이고, 함께 타깃할 수 있는 시장까지 같이 머리를 맞대고 있습니다.”
— 엑세스랩 유명환 대표

GPU 다음을 고민하는 시장

고객이 GPU에서 NPU로 넘어오는 이유는 무엇이라고 보시나요?

유명환 대표: “학습 또는 개발 시에는 GPU를 비롯한 범용 프로세서가 정설이고, 그대로 가는 것도 하나의 선택지입니다. 다만 GPU는 학습 이후 실제 서비스 배포 단계에서 서빙하는 유저의 풀이 커질수록 지속적인 비용 부담이 크고, 데이터센터는 부동산 경제라 랙당 전력이 핵심입니다.

가격이 낮으면 CAPEX가, 전력이 낮으면 OPEX가 줄고, 서버를 5~6년 쓴다고 보면 그 차이가 큽니다. 조달 측면에서도, 특정 해외 벤더에 의존하는 것은 위험해서 국산 NPU와 서버의 조합의 필요성이 커지고 있습니다.”

*CAPEX와 OPEX
CAPEX: 장비를 구입하는 초기 비용
OPEX: 운영하면서 드는 전기료 같은 지속 비용

협력은 현장으로 넓어지고 있습니다

월간 엑세스랩 2026년도 4월호 발췌(출처=엑세스랩)

새 랙을 들일 수 없는 현장에서

엑세스랩과 모빌린트가 먼저 바라보는 곳은 기업, 건물 내 관제실 등 AI 서버를 위한 랙 공간을 새로 확보하기 어렵거나, 기존 환경과 전력 조건을 그대로 유지해야 하는 현장입니다. 랙 공간과 전력 용량이 정해진 기준에 맞춰, 서버 한 대를 추가하는 일도 기존 설비의 여유 범위 안에서 풀어야 합니다.

SQM100은 이런 조건을 전제로 구성했습니다. 1U 크기라 랙에서 차지하는 공간이 작고, 저전력 Arm 프로세서와 고효율 NPU인 MLA100 PCIe Card를 조합해 전력 부담을 낮췄습니다.

또한 Ubuntu Server와 Rocky Linux를 지원하므로, 기존에 이 OS로 운영해 온 환경이라면 운영 체계를 바꾸지 않고 도입을 검토할 수 있습니다. 상주 인력이 없는 현장에서도 자체 개발한 서버 원격 관리용 제어 칩(BMC) 기반 ‘XMAS’로 원격 관리를 할 수 있습니다.

“높은 전력 효율의 NPU와 서버, 끈끈한 협업을 통해 다른 기업이 해내지 못하는 것들을 많이 해 봤으면 좋겠습니다.”
— 엑세스랩 유명환 대표

우리 환경에도 적용할 수 있을까요?

엑세스랩과 모빌린트의 목표는 성능을 희생하지 않는 전력 효율입니다. 비전과 LLM을 함께 돌려야 하는 현장에서도, 저전력 Arm 서버와 고효율 NPU의 조합으로 필요한 AI 성능을 끌어내고 운영 비용을 낮추는 것. 두 회사는 이 목표를 향해 서버와 NPU를 함께 다듬어 가고 있습니다.

랙 공간과 전력은 그대로 두고 AI를 도입하고 싶다면, 엑세스랩과 모빌린트가 현장 조건에 맞는 구성을 함께 찾아드립니다.

Arm 서버·NPU 적용 상담하기 →