AI반도체 성능 검증 표준(ML-Perf, K-Perf)

- ML-Perf : 글로벌 AI 반도체 성능의 국제 표준
- K-Perf : 국산 AI 반도체의 실제 산업 활용 성능을 검증하는 한국형 벤치마크

 

ML-Perf

• MLCommons에서 개발·운영하는 국제 표준 AI 성능 벤치마크
• AI 반도체(GPU, NPU, CPU, AI 가속기)의 성능을 객관적으로 비교하기 위해 만들어졌으며, 전 세계적으로 가장 널리 인정받는 AI 성능 평가 기준 중 하나입니다.
• 주요특징
  • AI 반도체의 성능을 공정하게 측정
  • 학습(Training)과 추론(Inference) 성능 평가
  • 전력 효율성 측정 가능
  • 글로벌 기업들이 참여
  • NVIDIA
  •  AMD
  • Intel
  • Qualcomm
  • Google
• 평가 분야 예시
  • LLM(대규모 언어모델)
  • 이미지 분류
  • 객체 탐지
  • 추천 시스템
  • 음성 인식
  • 생성형 AI

K-Perf

• K-Perf(Korea AI Performance Benchmark)는 국내 AI 반도체 환경에 맞춰 개발된 **한국형 AI 반도체 성능 평가 체계
• 국내 AI 반도체 기업들이 글로벌 MLPerf 기준을 참고하면서도, 한국 산업 현장에서 실제로 많이 사용하는 AI 서비스의 성능을 평가할 수 있도록 설계되었습니다.
  주요 목적
• 국산 AI 반도체의 객관적 성능 검증
• 국내 산업 환경에 적합한 평가 기준 마련
• AI 반도체 수요기업이 쉽게 비교·선택 가능
• 국산 NPU와 해외 GPU 간 비교 지원
• 활용 대상
  • 국산 NPU
  • 데이터센터 AI 서버
  • 엣지 AI 장비
  • 공공 AI 사업
• 국내 AI 반도체 기업이 대상
  • Rebellions
  • FuriosaAIDeepX
  • Mobilint 등
• 평가 분야 예시(국내 AI 서비스 환경에 맞게 국산 AI 반도체의 실질적인 활용 성능과 효율성을 검증)
  • 한국어 LLM 추론
  • 공공 AI 서비스
  • 제조 AI 비전 검사
  • AI 콜센터
  • 국내 데이터센터 환경