AI 인프라, 이제 GPU를 넘어 '데이터센터'로 간다

안녕하세요, 에디터 SA입니다. 오늘의 AI 피드에서는 AI 인프라 전문 기업 TEN이 전해 드리는 AI 인프라 산업의 근황을 이야기해 볼까 합니다. 지난 몇 년간 ‘AI’ 하면 떠오르는 것은 ChatGPT와 같은 챗봇이었습니다. (물론 최근 ChatGPT 4o가 공개되며 여전한 영향력을 보여주고 있습니다만…🤔) 최근 AI 산업에서 화두가 되는 것은 단연 ‘AI 인프라’입니다. 엔비디아가 매년 새로운 GPU를 공개하면서, 많은 사람에게는 GPU의 인상이 더 선명하게 각인되어 있을 텐데요. 이제 AI 인프라 산업은 GPU의 단위를 넘어 ‘데이터센터’의 개념을 바라보고 있습니다. 그 모습은 어떤지, 지금부터 최근 이야기들을 하나씩 전해드리겠습니다.🤓

 

 

 

[ 엔비디아가 이야기하는 ‘AI 공장’이란? ]

엔비디아가 델과 협력하여 ‘AI 공장’을 보급합니다. AI가 공장에서 생산되듯이 쉽게 생산될 수 있냐고요? 이 ‘AI 공장’은 AI를 만들기 위한 설비, 그러니까 ‘AI 인프라’를 쉽게 이해시키기 위한 젠슨 황의 말에서 나온 표현입니다. 엔비디아 CEO 젠슨 황이 생성 인공지능(AI)을 광범위하게 보급하기 위해서는 'AI 공장(AI Factory)'이 필요하다고 이야기했는데요. ‘AI 공장’이란 기업이 AI 운영을 위해서 자체 소유할 수 있는 '소형 데이터센터'를 의미합니다. ‘AI 인프라’인 거죠.🤓

이 ‘AI 공장’을 엔비디아와 델이 함께 보급한다는 소식은 미국 현지 시각으로 21일에 열린 '델 테크놀로지스 월드 2024' 컨퍼런스에서 공개되었는데요. 현장에 엔비디아의 CEO 젠슨 황이 등장해서, 델과의 파트너십을 맺었다는 소식을 직접 전했습니다. 젠슨 황이 "우리는 생성 AI 기능을 전 세계 모든 회사에 제공하고 싶다"라면서, 이때 필요한 ‘AI 공장’은 AI에 필요한 전체 인프라를 전달하는 개념으로 설명했습니다. 그리고 그 ‘AI 공장’을 델과 함께 본격적으로 보급하게 된다고 합니다.

 

AI 공장의 개념도 (출처: DELL)

AI 인프라라는 것은 GPU뿐만 아니라 스토리지, 네트워크 등을 조합하여 복잡하게 구성되는데요. 스토리지, 네트워킹에서 이름 있는 기업인 ‘델’과 GPU로 AI 인프라를 선도하고 있는 엔비디아가 함께 이 AI 인프라를 구성합니다. ‘AI 공장’에 대해 엔비디아, 그리고 젠슨 황이 얼마나 주력했는지가 느껴집니다.😲

젠슨 황에 따르면, “AI 공장은 데이터를 입력하면 정보를 생산해 내는 공장”이라고 합니다. 그는 AI에 대한 관심과 수요가 급증하고 있으니, 미래에는 대부분의 기업, 산업 분야에서 이 ‘AI 공장’이 생길 것이라는 기대를 표현했는데요. AI 도입이 현실화되었고, 점차 속도가 붙게 될 텐데요. 그에 따른 AI 인프라의 수요 역시 급증할 테니 ‘AI 공장’이라고 불리는 AI 인프라 패키지는 매력적인 솔루션이 될 것 같습니다.🙂

 

 

 

[ 코어위브의 데이터센터, 2배로 늘어난다 ]

클라우드 전문 기업 코어위브가 주목받고 있습니다. 코어위브는 2017년 암호화폐 채굴 회사로 출발해서, GPU를 활용한 클라우드 인프라 구축 쪽으로 사업을 전환한 기업입니다. 엔비디아로부터 GPU 지원을 받고 있는데요. 최근 75억 달러(약 10조 1600억 원)라는 대규모 펀딩에 성공하면서 세간의 관심이 얼마나 뜨거운지 입증했습니다. 부채 금융 방식이라 지분을 내주지 않는 펀딩인데요. 무려 엔비디아로부터 지원받은 ‘GPU’가 담보가 되었다고 합니다. 왜 이렇게나 투자를 적극적으로 유치했나, 들여다보니 우리 모두 체감하고 있는 AI에 대한 폭발적인 수요가 이유였습니다.🤔

AI 산업의 발전 속도가 매우 빠르고, 온디바이스AI, LMM 등 우리 일상에 AI가 급속도로 가까워지고 있는 등 기대와 수요가 모이다 보니, 그에 대응할 수 있는 AI 인프라가 확보되어야 하는 상황인 것이지요. 그래서 코어위브의 데이터센터 규모가 2년 전에는 3개였던 것이, 2023년에 14개가 되었고, 그리고 올해에 28개까지 늘려나갈 계획을 세우게 되었다고 하네요.

이런 상황은 코어위브에게만 해당하지 않는데요. 코어위브의 공동 창립자인 브라잉넌 벤투로의 말에 따르면, "AI 수요를 맞추기에는 인프라 구축이 턱없이 부족하다"라며 “전 세계의 모든 자본이 필요한 스프린트”라고 합니다. AI 인프라 전문 기업인 TEN에 입장에서도, 와닿는 의견인데요. 🙂 이렇게 AI 인프라에 집중해 자금을 확보한 코어위브가 AI Pub처럼 AI 인프라의 효율을 챙겨주는 MLOps 솔루션을 사용해 새로 구축한 데이터센터를 효율적으로 잘 관리한다면 어떨까요? 앞으로 AI 서비스와 비용 면에서 우위를 차지할 수 있지 않을까요?

 

 

 

[ 엄청난 AI 인프라를 갖춘 알리바바가 무한 경쟁 AI 산업에 뛰어들었다고? ]

우리에게 잘 알려진 중국 기업 ‘알리바바’의 행보가 심상치 않습니다. 중국이야 늘 상상치 못했던 기술과 방식으로 우리를 놀라게 하곤 하지만, AI 피드에서 ‘알리바바’ 이야기를 한다는 건? 네, 맞습니다. AI가 키워드이기 때문입니다. ‘알리바바’가 AI에 집중, 매우 공격적으로 AI 스타트업 투자에 열을 올리고 있습니다. 중국에는 이미 AI에 열을 올리는 다수의 빅테크 기업들이 존재하는데요. 그들을 모두 제칠 정도로, AI 스타트업 투자에 열을 올리고 있다고 하네요.🤔

사유는 한 번쯤 들어보셨을 것 같은, ‘미국의 수출 규제’에 있습니다. 미국의 수출 금지로 인해 알리바바가 보유한 GPU와 클라우드 서비스가 주목받게 되고, 그 중요성이 더욱 배가 되었거든요. 중국의 AI 인프라 시장 규모는 엄청난 수준입니다. 2020년인 4년 전의 통계를 기준으로 클라우드만 1,781억 (약 32조 7,650억 원) 규모였는데요.😲 현재 수출 규제 등의 어려움이 있다 하더라도, 클라우드와 데이터센터를 포함하여 미루어 짐작해 본다면 그 이상일 것입니다.

 

그 와중에 알리바바에서 막대한 자본력과 무려 10만 개나 되는 GPU로 구성된 클러스터를 바탕으로 AI 스타트업 투자에 열을 올리고 있습니다. 이 AI 인프라 규모는 어쩌면 어떤 세계 빅테크 기업들과 견주어도 적지 않을 것 같습니다. 알리바바는 엔비디아에서 미국 정부의 수출 금지 기준에 맞춰 내놓았다가 추가 제재 대상이 된 A800이나 H800 등을 조기에 대량 구입했다고 합니다. 그렇게 이 엄청난 규모의 클러스터를 구축할 수 있었던 것이지요.😲

지금은 이런 GPU를 중국에서 구입할 수 없으니, 알리바바가 갖춘 AI 데이터센터를 따라잡을 중국 내 기업은 없을 것 같습니다. 중국의 상황이 이러하다 보니, AI 인프라를 제공하는 것 자체가 큰 의미가 있게 되는 것이지요. 자본, 타이밍, 그리고 실행력이 더해져 엄청난 AI 인프라를 구축하는 데 성공한 알리바바가 참 놀랍습니다. 앞으로 알리바바가 AI 분야에 어떤 영향력을 행사하게 될지, 미국과 유럽, 인도의 유명 AI 기업들을 보듯이 알리바바의 행보도 지켜보아야겠습니다.

 

 

 

AI 산업이 성장하면서, AI 인프라에 대한 중요성을 인식하는 움직임이 커지고 있습니다. AI 인프라를 충분히 구축하기 위한 적극적인 투자 유지, 혹은 AI 인프라 부족으로 고민하는 스타트업에 대한 AI 인프라 투자 등 방향도 다양한데요. 최근 TEN의 AI Pub이나 RA:X에 대해 문의하시거나 관심을 보여주시는 분들도 이전보다 더 많아졌습니다. 앞으로 ‘AI’를 생각하면 챗봇 같은 LMM보다, ‘AI 인프라’를 떠올리는 것이 당연해지는 날도 오지 않을까요?🤔