인공지능 기업

노타, 퓨리오사AI NPU에 K-엑사원 236B 최적화 성공

인공지능 비즈니스 매칭센터(AX Planable) 2026. 7. 2. 14:44

이번 성과는 국산 AI 모델·국산 AI 반도체·국산 최적화 소프트웨어를 하나의 실행 가능한 AI 인프라로 연결했다는 점에서 의미가 크다. 모델 크기를 71% 줄이면서도 원본 수준의 성능을 유지한 것은 AI 데이터센터의 비용 절감과 국산 NPU 확산 가능성을 높이는 중요한 기술적 진전이다. 향후 소버린 AI 전략과 국내 AI 인프라 경쟁력 강화의 핵심 사례로 활용될 가능성이 높다.

 

  • AI 모델 최적화 전문기업 노타(Nota AI)가 퓨리오사AI(FuriosaAI)의 데이터센터용 NPU에서 LG AI연구원의 K-엑사원(EXAONE) 236B(2,360억 파라미터) 모델 최적화에 성공했다.
  • K-엑사원 236B는 MoE(Mixture of Experts) 구조를 사용하는 초대형 언어모델(LLM)이다. 
  • 노타는 모델 전체를 재학습하지 않고, 성능 저하가 발생하는 일부 구간만 선별적으로 최적화하는 기술을 적용했다.
  • 그 결과 모델 크기를 약 71% 감소시키면서도 원본 대비 약 99.2%의 정확도를 유지했다. 
  • 주요 벤치마크 결과
    • GPQA(과학 추론) : 79.80점
    • IFBench(지시 이해) : 68.98점
    • AIME25(수학) : 88.57점
  • 모델 경량화로 메모리 사용량과 데이터센터 운영 비용 절감 효과가 기대된다.
  • 이번 성과는 국산 AI 반도체(NPU) + 국산 LLM + 국산 AI 최적화 소프트웨어가 결합된 대표 사례로 평가된다.
  • 글로벌 AI 산업에서 중요성이 커지는 소버린 AI(Sovereign AI) 구축 가능성을 보여준 사례라는 평가를 받았다.
  • 향후 데이터센터용 AI 추론 서비스와 기업용 AI 인프라 확산에 활용될 가능성이 높다.


1. AI타임스   [https://www.aitimes.kr/news/articleView.html?idxno=40750]
2. KIPOST   [https://www.kipost.net/news/articleView.html?idxno=339544]
3. 뉴스핌   [https://www.newspim.com/news/view/20260630000593]
4. e4ds news   [https://www.e4ds.com/sub_view.asp?ch=31&idx=23030&t=0]
5. eFactoryNews   [https://www.efactorynews.com/sub_view.asp?ch=31&idx=23030&t=0]
6. 테크수다   [https://www.techsuda.com/nota-furiosa-npu-k-exaone-sovereign-ai-optimization/]
7. Daum 뉴스   [https://v.daum.net/v/20260630110922980]
8. Nate 뉴스   [https://news.nate.com/view/20260630n32776]
9. Nate 뉴스(디지털데일리)   [https://news.nate.com/view/20260630n37701]
10. 뉴스타운    [https://www.newstown.co.kr/news/articleView.html?idxno=707644]
11. 노타 공식 홈페이지    [https://nota.ai]
12. 퓨리오사AI 공식 홈페이지    [https://furiosa.ai]
13. LG AI연구원(EXAONE)    [https://www.lgresearch.ai]
14. Hugging Face    [https://huggingface.co]
15. NVIDIA AI    [https://www.nvidia.com/en-us/ai/]
16. AMD AI Solutions    [https://www.amd.com/en/solutions/ai]
17. Intel AI    [https://www.intel.com/ai]
18. MLCommons    [https://mlcommons.org]
19. AI 반도체 관련 IEEE 자료    [https://www.ieee.org]
20. Semiconductor Industry Association (SIA)    [https://www.semiconductors.org]
21. OpenAI    [https://openai.com]
22. OECD AI 정책 자료    [https://oecd.ai]
23. https://www.e4ds.com/sub_view.asp?ch=31&idx=23030&t=0 "노타, 국산 NPU서 LG K-엑사원 236B 최적화 성공"
24. https://www.techsuda.com/nota-furiosa-npu-k-exaone-sovereign-ai-optimization/amp/ "노타, 국산 NPU에서 2,360억 파라미터 'K-엑사원' 최적화…모델 크기 71% 줄였다"
25. https://www.newspim.com/news/view/20260630000593m "노타, 국산 NPU서 대형 AI 모델 최적화 성공"
26. https://www.kipost.net/news/articleView.html?idxno=339544 "노타, 2,360억 개 파라미터 대형 AI 모델 국산 NPU 최적화 성공"