딥러닝 모델의 행렬 연산(Matrix Multiplication)은 범용 CPU로 처리하기에 연산량이 방대하다. AI 반도체는 병렬 연산·낮은 메모리 대역폭 요구·전력 효율을 위해 특화 설계된 프로세서다.
| 구분 | GPU | NPU | TPU |
|---|---|---|---|
| 개발사 | NVIDIA, AMD | Qualcomm, Apple, Samsung | |
| 구조 | 수천~수만 코어, SIMT 병렬 처리 | MAC(Multiply-Accumulate) 특화 회로 | Systolic Array (행렬 곱 전용) |
| 강점 | 범용 병렬 연산, 대형 모델 학습 | 저전력·엣지 디바이스 추론 | TensorFlow 워크로드 최적화, 빠른 행렬 연산 |
| 활용 | LLM 학습, HPC, 렌더링 | 스마트폰·IoT·차량 온디바이스 AI | Google Cloud AI 서비스, AlphaFold |
| 메모리 | HBM (고대역폭 메모리) | SRAM (초저전력) | HBM + 대용량 캐시 |
코스피 8% 폭락, 서킷브레이커 발동, SK텔레콤 Claude AI 차단까지. 한국의 AI 레버리지 버블이 단 하루…
SNS 사진 1장으로 30초 만에 딥페이크 영상이 완성됩니다. 당신의 얼굴이 이미 범죄에 악용되고 있을 수…
SNS 사진 1장으로 30초 만에 딥페이크 영상이 완성됩니다. 당신의 얼굴이 이미 범죄에 악용되고 있을 수…
달러/원 환율이 급등하는 이유와 실생활 영향을 정리했습니다. 지금 당장 활용할 수 있는 환전·투자 대응 전략까지…
미래에셋·미래에셋벤처투자·미래에셋생명이 동반 급등한 이유는 스페이스X 상장 기대감입니다. 세 회사가 스페이스X와 어떻게 연결되어 있는지 상세히 분석했습니다.
스페이스X 상장이 계속 미뤄지는 진짜 이유를 파헤쳤습니다. 화성 계획, 스타링크 분리, 국방 계약... 머스크가 절대…