<앵커>
AI를 연구하는 데 꼭 필요한, 그래픽 처리장치, GPU를 구하기 어렵다는 소식을 자주 전해 드리게 됩니다. 후원을 요청하는 공개 호소문도 나왔습니다.
각자 살길을 찾고 있는 우리의 AI개발 현장을 홍영재 기자가 전하겠습니다.
<기자>
한국어로 된 거대 언어 모델의 성능을 평가하는 시스템을 만든 민간 AI 개발팀 리더 이한울 씨는 한 달 전 SNS에 글을 올렸습니다.
GPU가 필요한 연구마다 사비로 연구 비용을 감당해 왔지만 더 이상은 어렵다는 겁니다.
[이한울/AI 개발팀 '해례' 리더 : 하루에 120, 150만 원씩 나갈 때도 있는데. (하루에요?) 네, 저희가 그냥 감당해야 될 때도 있었거든요.]
이 팀이 만든 AI 성능 평가 모델은 다운로드 수 100만 회에 이를 정도로 두루 쓰이지만, 무료로 공개된 오픈소스 모델이어서 별다른 수입원이 없습니다.
국내 재단의 서버 임대 지원을 받긴 했지만, 미국 AI 재단에서 지원받는 GPU 규모가 훨씬 큽니다.
[이한울/AI 개발팀 '해례' 리더 : (국내) 학계에서도 사실 리소스(GPU) 부족을 많이 겪고 있는 상태다 보니까 저희까지 지원해 줄 여력도 없는 곳들이 많고 해서. 한국 밖에서 지원을 더 잘 받을 수 있다는 것 자체는 좀 저희도 안타깝긴 하죠.]
연구자들이 주로 쓰는 엔비디아 GPU 가격은 치솟고 구하기는 더 어려워지면서 대학 등 연구기관들도 자구책 마련에 나섰습니다.
이 대학은 연구실마다 보유한 GPU를 다른 연구실이 빌려 쓸 수 있는 공유 시스템을 구축했습니다.
40억 원을 들여 만든 슈퍼컴퓨팅센터에서는 엔비디아 GPU를 시중보다 싼 가격에 대여하고 있는데 외부 기업들도 이용할 정도입니다.
[최형기/성균관대 슈퍼컴퓨팅센터장 : 외산 클라우드 AWS(아마존웹서비스) 기준으로 해서 약 30%에서 40% 정도로 책정하고 있습니다. 센터 자원들에 대한 요청들이 높아져서요. 대기 시간은 보통 2일에서 3일 정도 대기하셔 가지고 쓸 수 있는 그런 상황이고요.]
대학과 기업에 GPU를 지원해 주는 정부의 고성능 컴퓨팅사업 예산도 지난해보다 줄어, 연구자들은 각자도생으로 GPU 품귀에 대처하는 상황입니다.
(영상취재 : 최준식, 영상편집 : 위원양, VJ : 정한욱)