HANGUL.WIKI

AI 반도체

AI Semiconductor

번역 제공
3,504자 · 2026-04-28
목차 (9개 섹션)

AI 반도체

반도체 산업의 판도를 완전히 뒤바꿔버린 키워드. 챗GPT 하나가 촉발한 AI 붐은 특정 회사들을 '시대의 수혜자'로 만들어 버렸고, 그 중심에는 엔비디아·TSMC·SK하이닉스가 서 있다. 단순한 '좋은 칩' 이야기가 아니라, 패권 경쟁·공급망 재편·지정학적 갈등이 뒤엉킨 21세기 최대 산업 드라마다.

---

1. 왜 AI 반도체인가

AI 모델을 훈련시키려면 엄청난 양의 행렬 연산이 필요하다. CPU는 순차 연산에 강하지만, 수천만 개의 파라미터를 동시에 갱신해야 하는 딥러닝 앞에서는 역부족이다. 이를 위해 설계된 것이 GPU(Graphics Processing Unit)다. 원래는 게임 그래픽용이었지만, 병렬 연산 능력이 AI 학습에 딱 맞아 엔비디아가 '행운의 대박'을 터뜨렸다.

2023년 기준 엔비디아의 AI 가속기 시장 점유율은 80% 이상. H100 한 장 가격이 4,000만 원을 넘기도 했고, 그래도 없어서 못 팔 지경이었다. 메타·구글·마이크로소프트는 서로 물량 확보 전쟁을 벌였고, 일부 스타트업은 클라우드 API로 간신히 연명하는 수준이었다.

---

2. 엔비디아: 뜻밖의 왕좌

창업자 젠슨 황(Jensen Huang)은 1993년 엔비디아를 설립했다. 처음엔 게임 그래픽 카드 회사였다. 그런데 2006년에 CUDA(Compute Unified Device Architecture)라는 범용 병렬 컴퓨팅 플랫폼을 선보이면서 게임판이 바뀌었다. 연구자들이 CUDA로 AI 학습을 돌리기 시작한 것이다.

이 '10년 포석'이 2023년에 폭발했다. 시가총액은 2024년 6월 3조 달러를 돌파해 한때 세계 1위 기업 자리까지 올랐다. A100, H100에 이어 2024~2025년 출시된 블랙웰(Blackwell) 아키텍처는 H100 대비 성능이 최대 30배 향상됐다고 홍보한다.

경쟁자들은 쫓아가기 바쁘다. AMD는 MI300X로 추격 중이고, 구글의 TPU, 아마존의 트레이니움·인퍼런시아, 애플의 뉴럴엔진 등 빅테크들은 자체 칩으로 '탈엔비디아'를 시도 중이다. 하지만 CUDA 생태계의 벽이 너무 높다는 게 문제다. 수십만 개의 오픈소스 라이브러리가 CUDA 기반이라 쉽게 갈아탈 수 없다.

---

3. TSMC: 세상의 공장, 지정학의 인질

엔비디아가 설계만 하는 팹리스(Fabless) 기업이라면, 그 설계를 실제로 찍어내는 곳이 TSMC(Taiwan Semiconductor Manufacturing Company)다. 세계 파운드리 시장 점유율 약 60%, 첨단 공정(3nm 이하) 기준으로는 90% 이상을 독점한다.

TSMC가 없으면 엔비디아 칩이 존재할 수 없다. 애플 A17, 퀄컴 스냅드래곤 8 Gen 3도 마찬가지다. 즉, 현대 IT 문명의 핵심이 대만 섬 하나에 묶여 있다는 뜻이다.

미중 갈등이 심화되면서 TSMC는 '지정학의 인질'이 됐다. 미국은 반도체지원법(CHIPS Act)으로 TSMC 아리조나 공장 건설을 지원했고, 일본에도 구마모토 공장이 들어섰다. 하지만 최첨단 공정은 여전히 대만에 집중돼 있다. "TSMC가 멈추면 세계 IT 산업이 멈춘다"는 말은 과장이 아니다.

한국 삼성전자도 파운드리 사업에서 TSMC를 추격 중이지만, 수율(Yield·정상 칩 비율) 문제로 첨단 공정에서는 아직 격차가 있다.

---

4. HBM: 메모리의 지각변동

AI 연산의 병목은 연산 속도만이 아니다. '데이터를 얼마나 빨리 공급하느냐'도 결정적이다. 이 문제를 해결한 것이 HBM(High Bandwidth Memory, 고대역폭 메모리)이다.

HBM은 DRAM 칩을 수직으로 쌓아(TSV·Through Silicon Via 기술) GPU 바로 옆에 붙인다. 기존 DRAM보다 데이터 전송 속도가 수십 배 빠르다. H100에는 HBM3가, 블랙웰에는 HBM3e가 탑재된다.

HBM 시장은 사실상 SK하이닉스·삼성전자·마이크론 3사 과점이다. 그중에서도 SK하이닉스가 2024~2025년 기준 HBM 시장 점유율 50% 이상을 차지하며 선두를 달리고 있다. 엔비디아 H100의 HBM3 공급사도 SK하이닉스가 먼저 확보했다.

삼성전자는 HBM3e 공급을 위해 엔비디아 품질 테스트를 통과하는 데 애를 먹었고, 2024년 하반기에야 일부 공급을 시작했다. 마이크론은 미국 기업이라는 지정학적 이점을 살려 점유율을 늘리고 있다.

---

5. 미중 반도체 전쟁

2022년 미국은 중국에 대한 첨단 반도체 수출 규제를 강화했다. H100은 물론 A800(중국용 다운그레이드 버전)조차 규제 대상이 됐다. ASML의 EUV(극자외선) 노광장비도 중국 수출이 금지됐다. EUV 없이는 7nm 이하 첨단 공정이 불가능하다.

화웨이는 자체 설계한 Kirin 칩으로 반격했고, 중국 정부는 반도체 자립을 위해 수백 조 원을 쏟아붓고 있다. SMIC가 7nm 공정 개발에 성공했다는 보도도 나왔지만, 수율과 생산량은 TSMC와 비교 불가 수준이다.

이 규제는 한국에도 영향을 미쳤다. SK하이닉스와 삼성전자는 중국 내 공장에서 첨단 장비 반입이 제한됐고, 중국 고객사에 대한 HBM 공급도 눈치를 봐야 하는 상황이다.

---

6. NPU·온디바이스 AI의 부상

클라우드에서 AI를 돌리는 것만이 전부가 아니다. 스마트폰·PC·자동차에서 직접 AI를 처리하는 '온디바이스 AI' 시대가 열리면서, 저전력 고효율 NPU(Neural Processing Unit)가 주목받고 있다.

퀄컴의 스냅드래곤 8 Gen 3, 애플의 A18 Pro, 삼성의 엑시노스 2500 모두 강력한 NPU를 탑재했다. 인텔과 AMD도 PC용 NPU를 내장한 AI PC 시대를 선언했다.

이는 곧 엔비디아 독주에 균열이 생길 수 있다는 의미다. 클라우드 추론(Inference) 시장에서는 저비용 칩이 충분할 수 있고, 대형 AI 훈련(Training)이 아닌 소규모 추론 작업이 늘어날수록 엔비디아의 지배력은 희석될 수 있다.

---

7. 논란과 전망

엔비디아 주가 거품론은 꾸준히 제기된다. AI 인프라 투자가 언제까지 지속될지 모르고, ROI(투자수익률)가 명확하지 않은 기업들이 칩을 사재기하는 것 아니냐는 우려다. 실제로 2024년 여름 AI 거품 우려가 부각되며 엔비디아 주가가 급락하기도 했다.

반면 "AI 수요는 이제 시작"이라는 시각도 강하다. 자율주행, 로봇, 신약 개발, 기후 모델링 등 AI가 파고들 영역은 무궁무진하고, 그 모두가 막대한 연산 자원을 필요로 한다.

한국은 메모리 반도체(HBM)에서 강점이 있지만, 비메모리·파운드리에서는 TSMC 격차를 좁히는 것이 과제다. 시스템반도체 설계(팹리스) 생태계가 취약한 것도 한계다. AI 반도체 시대에 한국이 '부품 공급자'에 머물 것인지, 아니면 설계·플랫폼 영역으로 진출할 것인지가 핵심 과제다.

---

관련 항목

엔비디아 | TSMC | SK하이닉스 | 삼성전자 파운드리 | HBM | CUDA | 블랙웰 아키텍처 | 반도체지원법(CHIPS Act) | 미중 기술 전쟁 | NPU | 온디바이스 AI | ASML | EUV 노광기

문서 정보

최초 작성
최종 갱신
분량
3,504자 (성인 기준)
분류
기술

HANGUL.WIKI가 정리·작성한 문서입니다. 정확성을 위해 노력하나 오류가 있을 수 있으므로, 중요한 내용은 공식 출처를 통해 확인하시기 바랍니다. 내용의 오류나 정정 요청은 오류·정정 신고로 알려주시면 검토 후 반영합니다.