[취재파일] SK하이닉스가 AI 시대, 엔비디아와 손잡을 수 있었던 이유

요즘만큼 전 세계가 반도체에 이렇게 큰 관심을 보인 적도 별로 없었던 것 같습니다. 주식을 하지 않아도 '엔비디아'에 대해, 또 가죽잠바로 유명한 엔비디아의 CEO 젠슨 황에 대해 모르는 분들은 많지 않을 텐데요. 반도체가 AI, 자율주행, 5G, 클라우드, 무기 시스템, 스마트폰 등 첨단기술산업 모두에 필수적인 핵심 부품이다 보니 미·중 패권 경쟁의 대표 핵심 전쟁터가 되고 있습니다.

그렇다면 첨단기술산업을 둘러싸고 탈세계화, 보호무역주의가 나타나고 있는 미·중 패권 시대, 특히 AI가 기술의 관점에서는 세상의 판을 바꾸고 있는 상황에 우리는 반도체와 관련해 어떤 관심을 가져야 할까요?

지난 4월 서울대 국가미래전략원과 공동으로 주최했던 <SBS X 그랜드 퀘스트>에서 '옹스트롬[1] 미터 시대 반도체 기술' 세션을 이끌었던 ' 차세대 반도체'의 저자 신창환 고려대 전기전자공학부 교수를 만나 조언을 구했습니다.

[1] Å(옹스트롬 미터)는 0.1나노미터를 뜻하는 길이의 단위. 원자, 분자, 파장(특히 X선이나 자외선) 등 매우 작은 길이를 측정할 때 사용

Q. 교수님 안녕하세요? <SBS X 그랜드 퀘스트> 때 뵙고 몇 달 만에 이렇게 또 뵙게 되니 반갑습니다. <SBS X 그랜드 퀘스트> 때는 '옹스트롬 미터' 시대라는 조금은 생소한 용어를 가지고 중장기적으로 어떻게 하면 반도체를 더 미세화할 수 있을까에 대해 지혜를 모아주셨는데요. 오늘은 조금 더 시점을 당겨서 지금 당장 AI 시대를 맞아서는 반도체 분야에서 어떤 변화가 일어나고 있고, 우리는 어떻게 나아가야 하는지 먼저 여쭙고 싶습니다.

지난 반세기 동안은 반도체 칩을 구성하는 부품인 트랜지스터의 물리적인 크기, 가로, 세로, 높이의 크기를 줄이는 경쟁이었습니다. '초미세화 경쟁'이었다고 보시면 됩니다. 빛을 이용해서 미세 회로를 반도체 웨이퍼 위에 만드는 노광 공정을 포함한, 초미세화 공정에서 원가 절감에 성공한 기업이 반도체 시장의 리더가 되었습니다. 그런데 AI 시대가 펼쳐지면서 공교롭게도 이 미세화 공정이 물리적 한계에 거의 봉착하게 되었습니다. 그러다 보니, 메모리 반도체의 경우 용량을 올리는 데에 어려움을 겪고, 덧붙여 초당 전송할 수 있는 데이터의 양, 즉 대역폭을 늘리는 일도 어렵게 되었습니다. 하지만, 메모리 반도체 고객사들은 AI서비스를 하려면 더 우수한 더 초고성능의 하지만 전기는 덜 먹는 반도체 제품을 만들어 달라고 요구하고 있는 상황인 거죠.

반도체 기술 개발은 초미세화를 위한 '스케일링 다운' 방향성으로 지속 발전되어야 하겠지만, 칩을 위로 쌓았을 때 고객이 필요로 하는 메모리의 용량, 대역폭, 전력 효율성 등을 맞출 수 있다고 판단됩니다. 그 결과, 반도체 엔지니어들이 칩을 위로 쌓는 '스택킹 업'의 시대로, 반도체 기술 개발 트렌드는 변모해 가고 있습니다. '스케일링 다운'에서 '스택킹 업' 시대로 변해가다 보니 3차원 반도체 칩 설계를 해야 한다는 이야기도 많이 나오고요.

동종의 D램을 여러 개 쌓아 올린 메모리 제품이 바로 'HBM(High Bandwidth Memory), 즉 고대역폭 메모리 반도체'입니다. 가까운 미래의 AI 시대에는, 지금의 HBM 구조를 넘어서서, 하단에는 GPU, 상단에는 HBM을 쌓는 제품 탄생이 기대됩니다. 2026년 하반기쯤으로 예상이 되는데 엔비디아가 루빈 제품 계열을 들고 나올 때 아마도 이렇게 GPU위에 메모리를 올리는 이종의 서로 다른 칩의 스택킹이 이뤄지는 방식의 반도체 칩 기술을 선보일 것으로 예상되고 있습니다. 그러다 보니 'AI 시대에 주목받게 될 반도체 파운드리 공정 기술은 무엇인가?'에 대해서 생각해 보면, 서로 다른 이종 제품을 쌓아서 시스템으로 통합하는 '어드밴스드 패키징 공정 기술'이 굉장히 주목받고 있습니다.

정리하면, AI시대의 도래와 함께, 반도체 제품을 구입하는 고객사는 자사 전용 맞춤형 제품을 요구하고 있습니다. 이러한 수요를 충족시키기 위해서는, 기존 제조 공정 기술의 고도화를 위한 '스케일링 다운'을 위한 공정 기술 개발과는 확연히 구분될 수 있는, 이종의 칩을 쌓는 첨단 패키징 공정 기술도 개발해야 할 것입니다.

[2] 파운드리(Foundry)는 반도체 산업에서 외부 업체가 설계한 반도체를 위탁 받아 생산하는 전문 제조 업체를 의미.

Q. 몇 년 전까지만 해도 엔비디아(NVIDIA)는 그래픽 카드 전용 칩을 만드는 회사로 알려져 있었는데요. AI 시대를 맞아 어떻게 이렇게 치고 나올 수 있었던 것인가요?

네, 엔비디아 GPU(Graphics Processing Unit 그래픽 처리 프로세서)는 게임하시는 분만 아는 정말 전문가 영역에서만 논의되던 제품군이었는데요. AI 시대를 맞아 왜 이렇게 주목을 받았는가 하면 PC시대에는 기술적으로 더하기, 곱하기, 미분적분 연산을 할 때 직렬로 하나하나 차례로 연산을 해도 문제가 되지 않았어요. 그래도 CPU가 연산 잘해서 워드 파일, 아래아 한글 파일 잘 돌아가고 하던 시절이었는데 그것을 넘어서 스마트폰 등장하고 무선 통신 시장이 무르익어 완연한 모바일 시대로 접어들면서는 사람들이 점점 멀티모달[3] 데이터들에 익숙해지기 시작합니다. 그리고 사업하는 분들은 이렇게 많은 빅데이터를 모아서 뭘 할 수 있을까 고민하다가 '어떻게 하면 결국은 인간을 더 편안하게, 더 행복하게 해 줄 것인가'까지 가다 보니 '나 대신 누가 일을 해주면 좋겠다'라는 생각을 하게 됩니다. 그게 '로봇이든 가상공간의 어떤 형태이건 나를 위해 존재하고 나를 도와주는 AI 에이전트가 있으면 좋겠다'라는 결론에 이르게 되는 것이죠. 그리고 실제 어마어마한 데이터를 넣어서 'A는 B야. C는 D야. 왜 그런 지는 묻지 마' 하는 방식으로 70억 파라미터의 정보를 주고 학습을 시켰더니 인간 수준에 준하는 똑똑한 지능을 가지게 된다는 것을 알게 된 것입니다. 그런데 그때 필요한 연산은 하나하나 직렬로 하는 연산이 아니라 동시에 간단한 연산을 빠르게 하기 위해 병렬 연산이 필요하게 됐어요. 그래서 그것을 준비할 수 있는 제품이 뭔가 쭉 찾다 보니 게임에서 그래픽을 좀 고도화하기 위해 쓰는 그런 제품이 엔비디아의 GPU였던 거죠.

엔비디아도 당초 게임 시장에만 몰두하던 기업인데 어느 순간 고객들이 자꾸 GPU를 사가는데 'AI 서비스를 하네', '무슨 모델을 만드는데 우리 제품을 쓰네' 하는 것을 인지하고는 제대로 키워서 AI 시대 선두 주자로 올라선 것입니다. 어떻게 보면 고객들이 직렬연산에서 병렬연산으로 바뀐 서비스를 희망하면서 일어난 혁신입니다. 그런데 GPU 옆에 DDR4, DDR5 같은 더블 데이터 레이트의 D램 제품을 쓰다가 이것마저도 한계에 부딪쳐서 그래픽스 DDR, GDDR을 도입해서 썼는데 이것도 부족한 거죠. 그래서 나타난 게 HBM이라는 고대역폭의 특징을 가진 제품인데, SK하이닉스가 준비를 하고 있었고 그것을 적기에 고객에게 잘 납품을 할 수 있었다 보니 부상한 것입니다. 엔비디아는 펩리스로 공장 없이 반도체 설계만 하는 회사이니까 누군가가 엔비디아의 칩을 만들어줘야 하잖아요. 현재 엔비디아랑 손을 잡은 파운드리[4]는 대만의 TSMC이고, AI 반도체가 데이터를 초고속으로 읽고 쓸 수 있는 HBM의 세계 최고 기술력을 보유하는 곳이 SK하이닉스이다 보니, 엔비디아-TSMC-SK하이닉스 삼총사가 똘똘 뭉쳐서 지금 AI 시대에 가장 핫한 제품군을 만들어 내고 있는 상황입니다.
[3] 멀티모달(multi-modal)이란 서로 다른 형식(텍스트, 이미지, 음성 등)의 데이터를 함께 사용하는 것을 의미.
[4] 파운드리는 다른 회사가 설계한 반도체를 위탁 생산해주는 회사를 의미.

Q. SK하이닉스는 어떻게 이렇게 적기에 HBM이 준비가 되어 있을 수 있었을까요?

2017년, 2018년 시점에 어느 정도 시그널이 있었습니다. 대한민국의 메모리 메이커인 SK하이닉스와 삼성전자가 어마어마한 영업이익을 달성했던 두 해입니다. 당시 삼성전자의 매출액이 인텔을 능가하기도 했는데요. 물론 2019년에 메모리 시장의 다운턴이 와서 다시 1등 자리를 인텔에 내어주었지만 17, 18년에 그런 현상이 있었다는 것은 메모리 중심의 데이터를 많이 필요로 한다는 것이 인지되기 시작한 것이고 특히 이때 필요로 하는 메모리가 데이터를 저장하는 요구에서가 아니라 연산장치에서 뭔가 계산을 해야 하는 데 잠깐 데이터를 저장하고 또 필요하면 갖다 쓰고 하는 D램에 대한 수요가 폭발적으로 늘어난 것이 감지되었습니다. 그리고 그 D램 중에서도 모바일 기기에 탑재되는 모바일 D램이 아니라 서버에 탑재되는 D램의 수요가 폭발적으로 늘어난 두 해입니다. 그때 SK하이닉스의 경우에는 모든 반도체 사업을 다 하는 게 아니라 D램과 낸드 플래시 위주로 사업을 하다 보니 선택과 집중을 하게 된 거죠. 대부분의 영업이익이 D램에서 나왔다 보니 D램을 더 고도화하고 집중해야겠다는 판단을 했고 D램 안에서도 모바일 D램보다는 서버 D램에 더 집중을 한 결과 실제 2020년 전후에 이미 미국의 탑 10 빅테크 업체들, 아마존, 마이크로소프트, 구글, 메타 등의 서버 D램 마켓은 이미 SK하이닉스가 과반 이상을 차지했습니다. 그런데 이게 더 확대 발전해서 HBM이라는 제품이 만들어지고 서버에 탑재되다 보니 어머어마한 매출액과 영업이익으로 이어진 것 같습니다.

여기서 저는 우리가 기존의 메모리 반도체 강자였던 삼성전자와 SK하이닉스를 비교하기보다는 AI 시대에 '우리가 메모리의 패권을 미국 마이크론 테크놀로지에 내어주지 않았다', '한국 기업이 그래도 지켰다'를 천만다행이라 생각해야 한다고 생각하고요. AI 시대도 아마 PC시대나 모바일 시대처럼 10~15년은 진화, 발전할 텐데요. 모바일 시대 때 삼성전자와 애플, 퀄컴이 성장한 것처럼 AI 시대에는 SK하이닉스와 TSMC, 엔비디아가 부상한 것이라고 이해하시면 됩니다. 하지만 거꾸로 생각하면 지금의 1등 기업이 영원하지 않을 것이라는 것도 인지하고 AI의 두 번째 장이 열릴 때는 어떤 수요가 폭발할까 아마 지금 벌써 그에 대한 많은 시그널들이 나오고 있을 텐데요. 그것을 잘 인지해서 지속적으로 한국 기업들이 달콤한 열매를 계속 가져갈 수 있으면 좋겠습니다. Q. 언론에서도 매년 1월 미국 라스베이거스에서 열리는 세계 최대 IT∙가전 전시회 CES에 큰 관심을 갖는데요. 올해 CES에서는 엔비디아의 CEO 젠슨 황이 기조연설자로 나왔다 보니 이제 시장도 B2C(Business to Consumer 기업 대 소비자)에서 B2B(Business to Business 기업 대 기업)로 바뀌고 있나 하는 얘기들이 많이 나왔는데요. 기술뿐 아니라 시장은 지금 어떻게 바뀌고 있다고 보시는지 궁금합니다.

반도체 시장은 보통 시스템 반도체 시장과 메모리 반도체 시장이 있습니다. 젠슨 황 엔비디아 CEO가 2022년 11월 말쯤 이제는 '챗GPT 모멘텀이다'라는 말을 했는데 챗GPT가 판도를 바꿨다는 뜻이죠. 그런데 앞서 2020년을 돌이켜보면 D램의 시장 점유율이 CPU의 시장 점유율과 같았던 해였습니다. 5년 전 이야기인데요. 저는 그때를 'D램 모멘텀'이라고 표현하고 싶어요. 그때부터 메모리 반도체의 산업 지형 구조가 크게 바뀌게 됩니다.

보통 호황이냐 불황이냐의 거시 경제의 흐름에 따라 PC나 모바일 폰을 일반 대중들이 얼마나 사느냐가 결정되고 그에 따라 메모리 반도체 칩이 얼마나 팔리냐가 결정되기 때문에 기술 개발을 잘하더라도 거시 경제의 흐름에서 메모리 반도체 기업의 영업 이익은 크게 벗어날 수는 없었습니다. 그러다 보니 이전에는 수요가 꺾여도 감산하지 않고 버티면서 불황기를 견뎌낼 수 있는 기업들이 호황기에 1등과 2등을 해왔는데요. D램 모멘텀 이후로는 수요가 떨어졌을 때 감산을 하지 않으면 버틸 수 없는 상황이 됐습니다. 시장이 V자로 반등하는 게 아니라 L자로 쭉 가는 세상이 된 것이죠. 그럼 무엇이 그 상황에서 성장을 이끄냐 봤더니, AI 서비스에 들어가는 특정 기업이 요구하는 사양에 맞는 맞춤형, '커스터마이즈드 메모리' 제품을 얼마나 잘 만들어 내느냐의 게임이 된 것입니다. '스페셜티 D램', 혹은 '커스터마이즈드 커머더티'라는 조금은 모순된 맞춤화된 범용제품을 만들어낼 수 있느냐의 싸움이 된 것입니다. 그리고 수요가 떨어져도 그렇게 수요 기반의 맞춤형 범용제품을 만들어내는 곳만 지속적인 증산을 하는 세상이 열리게 된 것입니다. 그래서 과거에는 거시 경제 흐름에 따라 메모리 반도체 업황의 다운턴[5]을 예상 및 분석할 수 있는 공식이 있었는데, 주문 기반의 메모리 칩을 잘 만드는 기업은 그 공식을 더 이상 따르지 않게 된 것입니다.

'고객들이 왜 그렇게 맞춤화된 제품을 원하게 됐어?'라는 이유는 범용 메모리 제품으로는 더 이상 이들이 원하는 연산에 대한 수요가 충족이 안되기 때문입니다. 이전에는 특별한 메모리를 만들면 메모리 시장 입장에서는 '너네한테만 팔아야 하는데 우리가 굳이 그것을 위해 R&D 비용을 지출해서 만들어줘야 해?' 하는 의문을 가질 수 있었을 텐데요. 그래서 특정 고객을 위한 특정 제품군에 진입을 하기 어려웠는데, 그런 특정 고객의 특정 제품의 대표적인 사례가 바로 HBM입니다. 그런데 AI시대가 열리면서 먼저 HBM과 같은 고객을 위한 전용 메모리 제품을 만들어 두고, 고객과 그 제품이 잘 커플링 되도록 노력을 한 기업이 성공할 수 있게 된 세상이 열린 것입니다.

[5] 다운턴은 하락 국면을 의미. Q. 올해 저희 SDF에서도 변화하는 시대를 어떻게 대비해야 하는지, 이 시대의 혁신은 무엇인지 등을 들여다보려고 하는데요. 그러한 관점에서 반도체 분야를 들여다본다면 우선순위로 무엇부터 좀 봐야 할까요?

정말 어려운 질문입니다. 특히 지금은 기술 안보의 시대인데요. 과거 총칼로 전쟁을 하던 시대에서 이제는 기술로 전쟁하는 시대이고, 하필이면 그 전장이 반도체 산업입니다. 왜냐하면 반도체 칩 없이는 무기를 만들기도 어렵고 국민들이 살아가는 데 필요한 여러 가지 전자 기기를 만들 수도 없기 때문인데요. 그런데 이러한 미중패권 경쟁의 시대에 대한민국이 어떻게 강소국으로 남을 수 있을까를 생각해 보자면 모든 분야에서 최고 수준의 기술을 가지겠다는 생각으로는 우리가 가진 인재의 양과 수준으로는 중국과 미국을 이기기는 어려울 것이라고 생각됩니다. 사실 농담같이 하는 얘기지만 지금 미국에서 AI를 개발하는 분은 거의 다 중국 이름이에요. 어쩌면 중국에 있는 중국인과 미국에 있는 중국인의 대결이 아닌가 하는 생각도 드는데요. 미국이 AI를 잘한다고 하지만 핵심 동력은 중국 출신의 인재들이 기반이 됐다는 것만 봐도 첨단기술 분야의 인재 확보가 얼마나 중요한지도 엿볼 수 있습니다. 우리도 인재 육성이 너무나 중요한 상황입니다. 다양한 인재들이 의대만 가지 않고 다양한 분야로 뛰어들어서 창업 중심으로 새로운 시장을 만들어가는 모습을 만들어내야 합니다.

그래서 우리의 전략은 보틀넥[6]이 되는 첨단기술만큼은 한국이 개발해서 미·중의 큰 두 마리 고래 싸움에 새우등이 터지는 게 아니라 이 새우는 꼭 데려가야 된다는 형태로 발전해 가야 하지 않을까 생각합니다. 최대한 쉽게 설명하면 해물짬뽕을 전문으로 하는 음식점 사장이 있다고 할 때 해물짬뽕으로 특화를 해서 사업을 번창시켰는데, 한 손님이 와서 '아이가 아직 어려서 짬뽕을 못 먹는데 혹시 다른 음식 없나요?' 하면 고객 하나라도 더 유치해야 나한테 이익이 된다고 생각해서 갑자기 짜장면도 만들게 됩니다. 그렇게 사업 다변화하다 보니 짬뽕집이었는데 짜장면도 잘하고 싶어지는 거죠. 그러다 보면 이제는 짬짜면이라는 이상한 제품도 나오게 됩니다. 팔리긴 팔립니다. 그래서 위기라는 것을 인지하지 못하죠. 그러다 옆집에서 이제는 짬짜볶이라는 볶음밥까지 주는 집이 생기게 되면, 한꺼번에 여러 개를 먹는 수요가 폭발하면서 짬뽕 전문집으로의 위상은 다 날아가고 옆집과 경쟁하는 형국이 됩니다. 해물짬뽕에만 집중했으면 옆집은 경쟁 상대도 아니었을 곳인데 말입니다. 이렇게 되면 강한 2등은 될 수 있을지 모르지만 한 분야의 1등은 점점 어려워지게 됩니다.

그런데 지금의 우리 반도체 산업의 상황이 (미·중 패권 경쟁으로 인해) 모든 것을 다 잘하기는 힘든 상황이 되었습니다. 그러다 보니 선택과 집중도 멋진 단어이지만 전 이것을 조금 다른 더 쉬운 표현으로 무엇을 '포기'해야 할지를 선택해야 하는 시대라고 말하고 싶습니다. 포기할 것은 과감히 포기하고, 선택한 것에 몰입을 해서 그 분야의 1등은 아니더라도 보틀넥이 되는 제품을 만들어내야 한다고 생각합니다.

[6] 보틀넥은 병목 현상을 뜻하는 말로 전체 시스템의 성능이나 용량이 하나의 구성 요소로 인해 제한을 받는 곳을 의미한다.
신창환 교수는 지금 같은 기술안보의 시대에는, 정부 차원에서 미·중 패권 경쟁의 다양한 시나리오를 만들고, 그 중에서 가장 보틀넥이 되는 기술이 무엇인지를 발굴하고 그에 대한 연구개발에 투자해야 한다고 했습니다. 비록 세계 최고는 아니더라도 보틀넥 기술만큼은 꼭 가질 수 있도록 선택과 집중을 해야 한다고 강조했습니다. 지금처럼 민간으로부터의 수요 조사 기반의 연구개발 방향 수립은 '절차적 정당성 확보'에 더 큰 방점을 두고 있는 게 아닌가 하는 생각이 든다고 했는데요. 오히려, 전략 산업에 대해서는, 정부 차원의 산업 섹터별 정책센터를 설립해서, 지정학적 리스크와 과학기술 혁신을 동시에 고려한 다양한 시나리오를 개발하고, 그 속에서 반드시 필요한 핵심 요소 기술 개발에 집중해야 한다고 강조했습니다.

그러면서 5년 전부터 외교부가 중심이 돼서 '경제 안보'의 관점에서 첨단기술 분야의 전문가들을 모시고 매달 모임을 해오고 있는 사례도 언급했습니다. 외부의 보이스를 가장 많이 듣는 외교관들이 첨단 기술을 이해하고, 기술을 연구개발 하는 분들이 국제정치, 통상, 법, 무역에 대해 이해할 수 있도록 대학의 교육과 인재 양성의 방법도 바뀌어야 한다고 덧붙였습니다. 제로부터 모든 분야의 재설계가 필요한 시점입니다.