반도체는 전혀 관심을 가지 않았다는 신선한 분야에 가까우나... 엔비디아가 근 몇년간 말도 안되는 실적을 가지고 있었다는 것은 자명하게 알고 있었다. (왜 이런걸 안 알아보고 살았을까...)
아래의 실적을 보면서 항상 새로운 지식 학습에 대한 동기부여를 받도록하자.
어쨌든 이 글을 읽는 사람들은 딥하게 기술을 이해하려고 온 것은 아니라고 생각하고... 간단하게 얻어갈수 있는 인사이트 정도만 제공할 수 있도록 하겠다.
우선, GPU부터 시작하겠다.
GPU와 ChatGPT는 무슨 관계...?
GPU(그래픽처리장치, Graphic Processing Unit)는 그래픽을 처리하는 장치인데, 생성형 AI 대표주자인 ChatGPT랑 무슨 관계가 있을까..?
GPU는 그래픽처리를 위해 병렬 연산에 강한데, 통칭 ML(머신러닝)은 여러 계층과 노드를 만들어 병렬로 로직을 동시에 빠르게 처리할 필요가 있다.(상세한 건 논문을 찾아 공부를 하도록 하자..)
LG이노텍의 그림을 통해 병렬연산에 대해 대략적으로 감을 잡을 수 있다.
2023년 초 생성형AI가 본격적으로 나오기 시작하면서, 마이크로소프트, 아마존, 구글 등에서 GPU의 1인자인 엔비디아에 폭발적으로 수요가 생기기 시작했다.
아래의 표에서 보면 과거 절반 언저리에 불과했던 Compute & Networking 매출이 24.2Q 대비에서 150% 증가한 264억 달러, 비중도 과거에는 50프로 언저리에 있었으나 지금은 85%가 넘는 비중을 가지고 있다.
그만큼 AI 분야가 GPU의 수요를 역동적으로 가져갔다.
그러면서 GPU에 페어링 될 메모리에 대한 성능 향상이 필요하고, 비약적인 성능 향을 위해 선택한 것이 HBM이다.
(아래의 그림처럼 GPU에 붙어있다.)
HBM, AI 성장의 필수재로 천정부지로 오르는 가격... 그래도 수요가 부족
HBM은 메모리를 적층구조로 만들어서 일반적인 메모리(DDR 등)에 비해 대역폭이 크다.
대역폭이 크다는 말은 GPU로 후다닥 데이트를 잘 전송해줄 수 있다고 생각해주면 된다.
HBM은 닌텐도의 요구로 인해서 SK하이닉스가 최초에 개발을 시작했다고 한다.
SK하이닉스는 게임 시장의 성장 가능성을 높게 평가하며, 그래픽 메모리에 집중하던 중 이 기회를 잡았다.
[데스크라인] SK하이닉스는 어떻게 HBM 개발이 빨랐을까
확연히 달라졌다. SK하이닉스는 ‘세계 최초’나 ‘업계 처음’이라는 표현을 절제하던 회사다. 사실 확인이 안 되거나 팩트가 틀려서가 아니다. 경쟁사이자 세계 최대 메모리 업체인 삼성전자
www.etnews.com
그러나, 이러한 특수 목적의 제품은 수요가 제한적이었고, 큰 수익을 기대하기 어려웠다.
한때 HBM은 전체 메모리 시장에서 1%도 안 되는 비중을 차지했으며, 그 금액도 1조 원에 미치지 못했지만, SK하이닉스는 커스터마이징 요구에 적극 대응하며 기술 개발을 진행하여 2013년에는 세계 최초로 HBM을 개발하는 데 성공했다.
성공했는데 왜 이제서야 이슈가 되는 것일까
기술력도 문제긴 한데 HBM이랑 기존 일반 메모리랑 가격차이가 굉장히 컸다.
24년 기준으로 봤을 때 시점차이는 있지만,
HBM: 150달러/1GB
DDR5: 4달러/1GB
우리가 일반적으로 게임하려고 쓰는 지포스 계열 (아직도 전세대인 DDR4가 많다) 생각해보면, HBM이 정말로 터무니없이 비싸긴 하다.
어쨌거나, 전세계 적으로 AI 시장 경쟁우위를 위해 노력하고 있는 만큼 내년 말까지는 공급부족을 계속 겪을 것으로 보인다. 지난 6월에도 마이론에서 HBM3E를 완판했다고 하고... 하이닉스도 24년 3분기에 최고 영업이익 7조를 달성하는 등 잘 나가고 있는 등 '25년 말까지는 쭉쭉 성장한다고 필자는 판단한다.
[컨콜] SK하이닉스 “HBM 수요 둔화 언급은 시기상조... 내년에도 공급 부족”
컨콜 SK하이닉스 HBM 수요 둔화 언급은 시기상조... 내년에도 공급 부족
biz.chosun.com
HBM에 대해 간략하게 감을 잡을 수 있도록 서술했다.
조만간 반도체 전체에 대한 업황 분석을 진행할 수 있도록 하겠다.