본문 바로가기

AI Feed

A100

세계 시총 3위 엔비디아, 어떻게 AI 산업을 장악했을까? 엔비디아가 시총 세계 3위에 올랐습니다.🤑 엔비디아는 GPU를 포함하여 AI 데이터센터에 집약된 하드웨어 기술로 독보적인 자리에 올라와 있는데요. AI, 게임, 컴퓨터에 관한 지식이 있는 사람들이 주로 알고 있던 ‘엔비디아’라는 기업은 이제 그 분야에 전혀 관심이 없는 사람들도 한 번쯤 들어본 정도로 유명한 기업이 되었지요. 엔비디아에서 올해에도 어김없이 개최하는 GTC 행사를 앞두고 들려온 호재 소식에 전 세계 각계각층 인사들이 엔비디아의 행보를 주목하고 있습니다. AI 산업의 폭풍 같은 성장세, 시장 확장에 힘입어서, 상승세는 앞으로도 당분간 계속될 것 같습니다.🤓 그런데 엔비디아가 이렇게 유명해지고, 또 AI와 GPU를 생각하면 바로 떠오르는 기업이 된 데는 어떤 이유가 있을까요? 오로지 GPU 때..
GPU를 이렇게 쓴다고? MIG 모드와 효율적인 분할 사용! 안녕하세요, 에디터 SA입니다. AI 개발과 학습에 있어 꼭 필요한 것이 있습니다. 바로 ‘GPU’인데요. 이 GPU에 대해서, 소신 발언을 해볼까 합니다. GPU는… 비쌉니다.🤑 모두 알고 계시고, 공감하실 이야기일 거예요. GPU 중 특히 AI 개발에 필요한 고사양의 GPU는 더욱 비싸고, 요새는 구하기도 어렵습니다. 혹시 담당하는 프로젝트가 AI 개발에 관련된 것이라면, 제일 먼저 부딪히게 될 문제가 바로 이 ‘GPU’일 가능성이 높습니다. GPU를 어찌저찌 구하는 데 성공했다면? 다음 문제가 기다리고 있습니다. 데이터센터를 구축하기 위해 A100과 밴드 같은 적절한 하드웨어를 마련했다고 가정해 보겠습니다. 일단 개발하고 있는 AI 모델이 하나이면, GPU 하나에 AI 모델 하나를 할당하는 단순한 ..
NVIDIA가 또 신제품을?! GPU와 CPU가 만난 GH200! 안녕하세요, 에디터 SA입니다. 최근 GPU 부족으로 전 세계가 난리입니다. GPU를 확보하는 것이 실리콘밸리의 최고 이슈로 떠오르고, 중국 빅테크는 GPU를 비축하기 위해 2년간 50억 달러(한화 6조 6000억 원)를 투입하겠다고 밝히기도 했죠. 이렇듯 불꽃 튀는 GPU 확보 경쟁은 당분간 계속될 것으로 보이는데요. 그 가운데에, NVIDIA가 있습니다. 😎 엔비디아에서 신제품을 출시했습니다. ‘AI 슈퍼 칩’이라고 불리는 GH200인데요. 올해 상반기 대만 COMPUTEX에서 있었던 젠슨 황의 프레젠테이션에서 만나본 제품이기도 합니다. 동일한 제품은 아니고, 업데이트 출시한 것인데요. 완전한 새 제품 출시 소식이 아니라 그리 놀라는 분위기는 없는 것 같습니다. 하지만 사양을 들여다보면, AI 개발에..