ARIES 데모와 보일러플레이트 코드, GitHub 저장소에 공개!
- Beomsu Lim
- 3월 24일
- 2분 분량
모빌린트의 AI 가속기 NPU, ARIES를 기반으로 한 하드웨어 시리즈를 위한 데모 프로그램을 이제 공개 GitHub 저장소로 만나볼 수 있게 되었습니다!
비전 모델부터 다중 인스턴스 대규모 언어 모델(LLM)에 이르기까지, 이번에 공개하는 데모들은 모빌린트 하드웨어를 처음 접하는 엔지니어가 쉽고 빠르게 개발을 시작할 수 있는 접근성 높은 진입점이자 놀이터가 되어줄 것입니다.
AI 모델을 고성능 엣지 환경에 배포하는 과정은 복잡하게 느껴질 수 있습니다. 저희 모빌린트는 훌륭한 하드웨어를 제공하는 것이 전체 여정의 절반이라면, 개발자가 실제 배포를 원활하게 할 수 있도록 돕는 아키텍처의 청사진을 제공하는 것이 나머지 절반이라고 믿습니다.
이번에 새롭게 공개된 저장소에서 어떤 것들을 경험하실 수 있는지 자세히 소개해 드리겠습니다.
NPU 도입을 위한 직관적이고 편리한 보일러플레이트
이번 저장소들은 사용자와 파트너사가 실무에서 즉시 테스트용으로 활용할 수 있는 기능적 보일러플레이트(boilerplate) 역할을 하도록 설계되었습니다. qb Runtime 활용을 위한 표준화된 코드를 제공함으로써, 복잡한 시스템을 개발하는 엔지니어분들이 직관적으로 구조를 이해하고 프로토타입 제작 시간을 대폭 단축하는 것을 목표로 삼았습니다.
이번 데모 생태계가 드리는 주요 기술적 이점은 다음과 같습니다.
통합 Python 코드베이스: Python 기반 구현의 경우, 동일한 스크립트가 GPU와 모빌린트 NPU 환경 모두에서 실행될 수 있도록 구조화했습니다. 덕분에 기존 GPU 워크스테이션에서 먼저 검증한 뒤, 실제 운영 단계에서는 효율적인 ARIES로 워크로드를 바로 전환할 수 있습니다.
크로스 플랫폼 동등성: 산업 현장의 다양한 환경을 고려하여, 모든 데모는 리눅스(Linux)와 윈도우(Windows) 모두에서 네이티브하게 작동함을 검증했습니다.
최적화된 리소스 관리: 저장소에는 NPU 디바이스 번호, 코어 모드, 타겟 코어 관리 예제가 명확히 포함되어 있습니다. 엔지니어분들이 도입 즉시 하드웨어 성능을 100% 끌어내실 수 있도록 돕기 위함입니다.
객체 감지부터 다중 LLM 서빙까지, 직접 확인해 보세요
데모 자산들을 누구나 볼 수 있는 GitHub 환경으로 옮기면서 설치 프로세스가 훨씬 간소해졌습니다. 이제 git clone 명령어 한 줄이면 모빌린트의 하드웨어를 활용한 소프트웨어 생태계가 여러분의 곁으로 다가갑니다.
현재 공개된 주요 저장소들을 확인해 보세요. (앞으로 더 많이 추가될 예정입니다!):
저장소 이름 | 주요 기술 스택 | 애플리케이션 초점 |
aries-vision-transformer-demo | TypeScript, Next.js, Python | 고효율 비전 트랜스포머(ViT) 배포 |
aries-llm-demo | TypeScript, Next.js, Python | 엄선된 LLM 라인업 기반의 챗봇 애플리케이션 |
aries-multi-llm-demo | TypeScript, Next.js, Python | 최대 16개 동시 대화를 지원하는 다중 인스턴스 LLM |
aries-vlm-demo | TypeScript, Next.js, Python | 엣지 환경에서의 시각-언어 모델(VLM) 이해 |
aries-ai-assistant-demo | TypeScript, Next.js, Python | 통합 AI 어시스턴트 및 대화형 로직 구현 |
aries-multi-channel-demo | C++ | 고성능 멀티 채널 동시 비디오 스트림 처리 |
aries-fire-detection-demo | C++ | 안전을 위한 실시간 화재 및 연기 감지 솔루션 |
aries-weapon-detection-demo | C++ | 보안 및 감시를 위한 특화 객체(무기) 탐지 |
예시로, MLA400 PCIe Card로 멀티 LLM 데모를 실행하면 아래와 같은 장면이 즉시 펼쳐집니다.
접근성을 통해 실현하는 엔지니어링
모빌린트는 고성능 엣지 AI에 대한 진입 장벽을 낮추는 데 진심을 다하고 있습니다. 잘 정리된 소스 코드를 투명하게 공개함으로써, 엔지니어 커뮤니티가 단순히 이론적인 성능을 넘어 실제로 확장 가능한 애플리케이션을 만들어 나갈 수 있도록 돕고자 합니다.
최근 모빌린트의 ARIES 기반 하드웨어로 개발을 시작하셨다면, 지금 바로 저장소를 클론해 보세요! qb Runtime 구현 방식을 직접 살펴보고, 이 자산들을 여러분의 다음 AI 솔루션을 위한 든든한 기초로 활용해 보시길 바랍니다.
임범수
선임연구원 | AI 솔루션팀
댓글