본문 바로가기

GPU

(11)
AI반도체 성능 검증 표준(ML-Perf, K-Perf) - ML-Perf : 글로벌 AI 반도체 성능의 국제 표준- K-Perf : 국산 AI 반도체의 실제 산업 활용 성능을 검증하는 한국형 벤치마크 ML-PerfMLCommons에서 개발·운영하는 국제 표준 AI 성능 벤치마크AI 반도체(GPU, NPU, CPU, AI 가속기)의 성능을 객관적으로 비교하기 위해 만들어졌으며, 전 세계적으로 가장 널리 인정받는 AI 성능 평가 기준 중 하나입니다.주요특징AI 반도체의 성능을 공정하게 측정학습(Training)과 추론(Inference) 성능 평가전력 효율성 측정 가능글로벌 기업들이 참여NVIDIA AMDIntelQualcommGoogle평가 분야 예시LLM(대규모 언어모델)이미지 분류객체 탐지추천 시스템음성 인식생성형 AIK-PerfK-Perf(Korea AI..
SoftBank Group, 프랑스에 약 900억 유로(약 132조원) 투자 SoftBank Group의 프랑스 132조원 투자 계획은 AI 경쟁의 중심이 모델 개발에서 초대형 데이터센터·전력·GPU 인프라 확보 경쟁으로 이동하고 있음을 보여준다. 유럽은 이번 투자를 통해 미국·중국 의존도를 줄이는 ‘AI 주권’ 전략을 가속화하고 있으며, 국가 단위 AI 인프라 구축 경쟁이 본격화되는 신호로 해석된다. 한국 역시 국가 AI 데이터센터, 국산 GPU·NPU, 전력 기반 AI 클러스터 구축을 통해 장기적인 AI 인프라 경쟁력 확보 전략이 중요해질 전망이다. SoftBank Group가 프랑스에 약 132조원(약 900억 유로) 규모의 AI 인프라 투자 계획 추진투자 대상은 초대형 AI 데이터센터, AI 컴퓨팅 클러스터, 전력·냉각 인프라, 차세대 AI 생태계프랑스 내 최대 규모이자..
국가 AI 프로젝트 52개 과제 선정, 총 GPU 2832장 우선 배분 정부, 국가 AI 프로젝트 52개 과제 선정총 GPU 2832장 우선 배분25개 부처 참여 → 범국가 AI 추진AI 인프라(“AI 고속도로”) 본격 가동적용 분야 : 자율주행, 의료, 기상, 산업, 콘텐츠 등 전 산업목표 : AI 생태계 구축, 산업 전반 AI 전환 가속 운영 방식 : GPU 순차 배분 + 모니터링 + 재배분GPU 배분 구조총 확보 GPU: 약 1만장이번 1차 배분: 2832장 (다음)배분 방식 : 과제별 필요량 기준 차등 배분, 착수 일정 맞춰 순차 공급 (IT조선) 선정 기준전략적 중요성기술·사회적 파급력정부 개입 필요성 (이데일리)주요 지원 분야자율주행 AI산업 특화 AI의료·바이오 AI기상·기후 AI콘텐츠 AI (다음)대표 과제 (GPU 많이 받은 순)자율주행 AI 모델 (304장..
SK텔레콤, Arm, 리벨리온 3사 협력 차세대 AI 추론 서버 개발 기존 GPU 중심 구조 → CPU+NPU 구조로 전환 시도핵심 구성 : o Arm AGI CPU + 리벨리온 NPU(리벨카드)목적 : 전력 효율 극대화, 데이터센터 운영 비용 절감, GPU 의존도 축소적용 : SKT AI 데이터센터 실증, 자체 모델 A.X K1 운영 검토 구조CPU: 시스템 제어 및 범용 처리NPU: AI 추론 연산 전담 전략 방향 : “학습(Training) → 추론(Inference)” 중심 전환 대응기대효과저전력, 고효율 AI 인프라 확보글로벌 AI 데이터센터 경쟁력 강화1) 기술 구조 (핵심 아키텍처)GPU → 범용 병렬처리 (비효율적 전력 구조)CPU + NPU → 역할 분리형 이종 컴퓨팅CPU : IO, 네트워크, 메모리 관리NPU : AI 추론 연산 최적화 결과 : 성능 유..
오픈AI, 초대형 인프라 기업 으로 변신 오픈AI, AI 기업에서 AI 인프라 제국으로 진화 중입니다. (OpenAI)오픈AI는 역대 최대급 자금조달로 AI 패권 경쟁의 ‘돈·전력·인프라 전쟁’에 본격 진입했습니다. (OpenAI)이번 투자의 핵심은 더 좋은 모델 개발만이 아니라, 더 큰 데이터센터와 더 많은 GPU를 확보하는 것입니다. (OpenAI)AI는 최근 사상 최대 규모의 신규 투자유치를 완료하며 기업가치를 크게 끌어올렸습니다. (OpenAI)이 자금은 단순 운영자금이 아니라, 차세대 AI 경쟁을 위한 ‘실탄 확보’ 성격이 강합니다. (OpenAI)이제 AI 경쟁은 모델 성능 경쟁만으로 끝나지 않습니다.진짜 승부는 누가 더 많은 컴퓨트(서버·GPU·전력)를 확보하느냐입니다. (Reuters)오픈AI는 이번 투자로 연구기업이 아니라 초대..
엔비디아, 게이밍 GPU 전략 변화 엔비디아가 2026년 신규 게이밍 GPU(GeForce/RTX) 출시를 하지 않거나 연기하는 방안을 검토 중이다. 이는 메모리(HBM) 공급 부족이 주된 원인으로 지목된다. (글로벌경제뉴스)업계 보고에 따르면 2026년 RTX 50 시리즈의 신제품(예: RTX 5080 Super 등) 출시/양산이 우선순위에서 밀려나거나 연기되고 있다. (Tom's Hardware)메모리 반도체, 특히 HBM(고대역폭 메모리) 공급 부족이 심각해 AI 데이터센터용 GPU에 메모리가 우선 할당되는 전략이 시행되고 있다. (글로벌경제뉴스)이로 인해 엔비디아는 게이밍 GPU 부문을 당분간 후순위로 두고 AI 가속기/데이터센터 GPU에 자원 집중하는 방향으로 사업 전략을 조정하는 것으로 알려졌다. (Nate News)이는 약 3..
인텔, GPU를 만들겠다 공식 발표 인텔 CEO 립부 탄이 “인텔이 GPU를 만들겠다”고 공식 발언하며(주로 데이터센터/AI용 GPU 겨냥) 엔비디아 중심 시장에 재진입·확장 의지를 공개. (Reuters)추진 방식 : 외부 핵심 인재 영입(퀄컴 출신 Eric Demmers 등)을 통해 GPU 아키텍처 리더십을 강화했고, 고객과 함께 요구사항을 정의(고객 맞춤 설계)하겠다는 접근을 강조. (Reuters)시장 : “CPU 회사” 이미지에서 벗어나 AI 컴퓨팅(가속기) 라인업을 보강해 데이터센터 포트폴리오를 재구성하려는 시도(엔비디아 GPU 생태계 의존을 줄이려는 산업 흐름과도 맞물림). (조선일보)핵심 이슈 2( 1.4nm 파운드리 = Intel 14A )인텔은 파운드리 로드맵에서 14A(‘1.4나노급’로 불리는 공정)에 대해 “고객 관심..
학습(Training)의 시대에서 추론(Inference)의 시대로, 연산보다 데이터 공급 병목 생성형 AI가 학습(Training) 중심에서 추론(Inference) 중심으로 이동하면서, 연산보다 데이터 공급(메모리 대역폭·용량)이 병목이 되어 HBM, 서버 DRAM, NAND까지 동반 호황이 전개될 수 있다는 전망이 확산. (한국경제)국내 보도는 2026년 메모리 반도체 시장이 약 4,400억 달러 규모로 커지며, 시장 전망이 크게 상향(IB 전망 30% 상향 언급)됐다는 프레임으로 “내년 시장 두 배”를 제시. (한국경제)해석 포인트 : “두 배”는 해당 기사에서 설정한 기준(전년 대비·집계 범위)을 전제로 한 표현이며, 리서치 기관별 범주(HBM 포함/제외 등)에 따라 수치 차이가 날 수 있음. (한국경제) 왜 ‘추론 시대’가 메모리 전성기를 만들나(기술/서비스 구조)LLM 추론은 KV 캐시..