주머니에 쏙 들어가는 AI 슈퍼컴퓨터 등장

포켓 사이즈 AI 슈퍼컴퓨터가 등장하며, 기존 데이터센터·클라우드 중심 AI 연산 구조에 변화 조짐이 보인다. 주요 핵심사항은 고성능 AI 연산을 네트워크 없이 로컬(엣지)에서 수행이 가능하다는 점이다.

 

 

 

기술적인 관점

• 고집적 AI 가속칩(NPU/GPU 계열) 탑재하여 대형 GPU 서버에서 수행하던 추론 연산을 소형 디바이스로 축소
• 저전력 고성능 구조(노트북, 보조배터리, 차량 전원으로 구동 가능 ), FP8·INT8 기반 연산 최적화( 대규모 언어모델(LLM), 비전 모델 추론에 특화), 네트워크 독립성( 인터넷 연결 없이 AI 추론 가능하며, 보안, 지연 문제 해결)

성능 수준 (보도 기준)

• 수십~100 TFLOPS급 연산 성능 구현
• 일부 데모에서 수십억~수백억 파라미터 모델 실시간 추론가능하며, GPT 계열 모델의 경량 버전 로컬 실행 가능성 제시
• 기존 엔비디아 A100·H100 대비 절대 성능은 낮지만, 전력 대비 효율은 월등히 높다는 평가이다.

주요 활용 분야

• AI 인프라 구조 변화 : 중앙집중형 클라우드에서 분산형 엣지 AI 전환 가속
• 보안·프라이버시 강화 : 의료·국방·제조 현장에서 데이터 외부 전송 없이 AI 활용 가능
• 비용 절감 : GPU 서버 임대·클라우드 사용 비용 감소
• 현장 실시간 AI : 지연(latency)이 중요한 산업에서 강점

• 의료 : 이동형 AI 진단, 내시경·영상 분석
• 국방·보안 : 전장·현장 AI 분석
• 산업·제조 : 설비 점검, 결함 탐지
• 연구·개발 : 개인 연구자용 로컬 AI 환경
• 재난·현장 대응 : 통신 불가 지역에서도 AI 활용

주요제품

1) Tiiny AI : Tiiny AI Pocket Lab

• 회사명: Tiiny AI (미국 기술 스타트업)
• 제품명: Tiiny AI Pocket Lab
• 주요 특징: 주머니 크기의 개인용 AI 슈퍼컴퓨터, 1,200억 개 매개변수 모델 로컬 실행 가능 (다음)

2) NVIDIA : Project DIGITS / NVIDIA DGX Spark

• 회사명: NVIDIA
• 제품명 ①: Project DIGITS
• 제품명 ②: NVIDIA DGX Spark (Project DIGITS의 상용명/브랜드명으로도 소개됨)
• 비고 : 데스크톱 크기 AI 슈퍼컴퓨터, Grace Blackwell GB10 기반 (NVIDIA)

3) Gigabyte : AI TOP ATOM

• 회사명: GIGABYTE
• 제품명: AI TOP ATOM
• 비고: 데스크톱 수준 컴팩트 AI 슈퍼컴 솔루션 (ZDNet Korea)

[1]: https://v.daum.net/v/20251217103241642 "주머니에 쏙 들어가는 AI 슈퍼컴퓨터 등장"
[2]: https://zdnet.co.kr/view/?no=20250108170056 "엔비디아, AI 슈퍼컴퓨터 공개…가격이 3천 달러?"
[3]: https://www.nvidia.com/ko-kr/products/workstations/dgx-spark/ "NVIDIA DGX Spark"
[4]: https://zdnet.co.kr/view/?no=20251014111004 "기가바이트, 개인용 AI 슈퍼컴퓨터 'AI TOP ATOM' 10월 15일 ..."

[5]: https://zdnet.co.kr/view/?no=20251217090627 "주머니에 쏙 들어가는 AI 슈퍼컴퓨터 등장"
[6]: https://www.techradar.com/pro/worlds-smallest-ai-supercomputer-achieves-world-record-with-120b-parameter-llm-support-on-device-what-i-dont-understand-though-is-how-it-does-ota-hardware-upgrades "World's smallest AI supercomputer achieves world record with 120B-parameter LLM support on-device - what I don't understand, though, is how it does OTA hardware upgrades"
[7]: https://www.vietnam.vn/ko/cong-nghe-15-12-sieu-may-tinh-ai-nho-nhu-sac-du-phong "기술 15/12: 보조 배터리만큼 작은 AI 슈퍼컴퓨터."