손안의 슈퍼컴 (1) 썸네일형 리스트형 주머니에 쏙 들어가는 AI 슈퍼컴퓨터 등장 포켓 사이즈 AI 슈퍼컴퓨터가 등장하며, 기존 데이터센터·클라우드 중심 AI 연산 구조에 변화 조짐이 보인다. 주요 핵심사항은 고성능 AI 연산을 네트워크 없이 로컬(엣지)에서 수행이 가능하다는 점이다. 기술적인 관점고집적 AI 가속칩(NPU/GPU 계열) 탑재하여 대형 GPU 서버에서 수행하던 추론 연산을 소형 디바이스로 축소저전력 고성능 구조(노트북, 보조배터리, 차량 전원으로 구동 가능 ), FP8·INT8 기반 연산 최적화( 대규모 언어모델(LLM), 비전 모델 추론에 특화), 네트워크 독립성( 인터넷 연결 없이 AI 추론 가능하며, 보안, 지연 문제 해결)성능 수준 (보도 기준)수십~100 TFLOPS급 연산 성능 구현일부 데모에서 수십억~수백억 파라미터 모델 실시간 추론가능하며, GPT 계.. 이전 1 다음
