본문 바로가기
AI Feed

GPU

Tech & Product/AI, 더 쉽게  |  2024. 3. 8. 세계 시총 3위 엔비디아, 어떻게 AI 산업을 장악했을까? 엔비디아가 시총 세계 3위에 올랐습니다.🤑 엔비디아는 GPU를 포함하여 AI 데이터센터에 집약된 하드웨어 기술로 독보적인 자리에 올라와 있는데요. AI, 게임, 컴퓨터에 관한 지식이 있는 사람들이 주로 알고 있던 ‘엔비디아’라는 기업은 이제 그 분야에 전혀 관심이 없는 사람들도 한 번쯤 들어본 정도로 유명한 기업이 되었지요. 엔비디아에서 올해에도 어김없이 개최하는 GTC 행사를 앞두고 들려온 호재 소식에 전 세계 각계각층 인사들이 엔비디아의 행보를 주목하고 있습니다. AI 산업의 폭풍 같은 성장세, 시장 확장에 힘입어서, 상승세는 앞으로도 당분간 계속될 것 같습니다.🤓 그런데 엔비디아가 이렇게 유명해지고, 또 AI와 GPU를 생각하면 바로 떠오르는 기업이 된 데는 어떤 이유가 있을까요? 오로지 GPU 때..
Tech & Product/AI, 더 쉽게  |  2023. 12. 18. GPU로 AI 개발하면 안다 안다 다 안다! CUDA를 소개합니다! 요새 주식회사 텐은 분주합니다. AI 모델 개발 프로젝트에 착수하는 기업들이 계속 늘어나고 있기 때문이죠. 그게 TEN과 무슨 연관이 있냐고 물으신다면, AI를 시작하는 기업에 제일 먼저 필요한 것은 ‘인프라’이기 때문입니다. 🤓 TEN은 고객의 AI 개발과 운영을 위해 어떤 구성으로 인프라를 구축해야 할 지에 주목합니다. 각 구성 제품이 어느 회사의 것이어야 하는지도 생각하고요. 실제 AI를 개발할 고객의 개발 환경까지 함께 고려하는 거죠. 🤔 그 과정에서 기획자, 개발자분들의 이야기를 옆에서 들을 기회가 여럿 있었는데요. 그때 ‘쿠다(CUDA)’를 처음 알게 되었습니다. 머신러닝 프레임워크 종류 몇 가지만 겨우 알고 있었기에, ‘쿠다(CUDA)’ 역시 그와 비슷한 것 아닌가, 하고 넘겨짚어 생각하곤 ..
Tech & Product/AI, 더 쉽게  |  2023. 10. 19. GPU를 이렇게 쓴다고? MIG 모드와 효율적인 분할 사용! 안녕하세요, 에디터 SA입니다. AI 개발과 학습에 있어 꼭 필요한 것이 있습니다. 바로 ‘GPU’인데요. 이 GPU에 대해서, 소신 발언을 해볼까 합니다. GPU는… 비쌉니다.🤑 모두 알고 계시고, 공감하실 이야기일 거예요. GPU 중 특히 AI 개발에 필요한 고사양의 GPU는 더욱 비싸고, 요새는 구하기도 어렵습니다. 혹시 담당하는 프로젝트가 AI 개발에 관련된 것이라면, 제일 먼저 부딪히게 될 문제가 바로 이 ‘GPU’일 가능성이 높습니다. GPU를 어찌저찌 구하는 데 성공했다면? 다음 문제가 기다리고 있습니다. 데이터센터를 구축하기 위해 A100과 밴드 같은 적절한 하드웨어를 마련했다고 가정해 보겠습니다. 일단 개발하고 있는 AI 모델이 하나이면, GPU 하나에 AI 모델 하나를 할당하는 단순한 ..
Tech & Product/AI, 더 쉽게  |  2023. 9. 26. 인공지능 시장에서 제일 귀하신 몸, GPU를 알아보자 안녕하세요! 에디터 SA입니다. 여러분은 인공지능에 대해 알게 되셨을 때, 가장 신기했던 사실이 무엇이었나요? 아직도 AI린이인 에디터 SA이지만, 더 AI 알못이었던 제게 신기하게 다가온 것은 바로 ‘GPU’ 였답니다. 아마 여러분들은 AI에 대해 잘 알고 계시니, “AI에 GPU가 뭐 어때서?”라고 생각하셨을 수 있겠어요. 😂 에디터 SA에게 GPU란 멋들어진 그래픽의 게임이나 영상을 컴퓨터 즐길 때 영향을 미치는 부품 정도로 받아들여졌었는데요. 어떤 분들은 ‘GPU’라는 이름 자체가 생소하신 경우도 있을 거예요. GPU가 뭔데? 컴퓨터에 있는 거라고? 그게 인공지능 개발에 쓰인다고? 물음표 한가득 머릿속에 담고 계실 분들을 위해서, 오늘은 ‘AI, 더 쉽게’라는 이름에 걸맞은 맞춤 콘텐츠를 준비했습..
Tech & Product/AI 뉴스룸  |  2023. 8. 11. NVIDIA가 또 신제품을?! GPU와 CPU가 만난 GH200! 안녕하세요, 에디터 SA입니다. 최근 GPU 부족으로 전 세계가 난리입니다. GPU를 확보하는 것이 실리콘밸리의 최고 이슈로 떠오르고, 중국 빅테크는 GPU를 비축하기 위해 2년간 50억 달러(한화 6조 6000억 원)를 투입하겠다고 밝히기도 했죠. 이렇듯 불꽃 튀는 GPU 확보 경쟁은 당분간 계속될 것으로 보이는데요. 그 가운데에, NVIDIA가 있습니다. 😎 엔비디아에서 신제품을 출시했습니다. ‘AI 슈퍼 칩’이라고 불리는 GH200인데요. 올해 상반기 대만 COMPUTEX에서 있었던 젠슨 황의 프레젠테이션에서 만나본 제품이기도 합니다. 동일한 제품은 아니고, 업데이트 출시한 것인데요. 완전한 새 제품 출시 소식이 아니라 그리 놀라는 분위기는 없는 것 같습니다. 하지만 사양을 들여다보면, AI 개발에..
TEN Story/TEN의 움직임  |  2023. 4. 7. 주식회사 텐, 제1회 AI 인프라 구축 운영 ‘인공지능 워크숍’ 성료 AI MLOps 플랫폼 AIPub을 서비스하는 주식회사 텐이, 지난 2월, 워크숍을 개최했습니다. ‘엔비디아 GPU 기반 AI 인프라 구축과 MLOps 소프트웨어 워크샵’은 2월 21일 GS 타워 역삼 아모리스 홀에서 열렸는데요. 한국 넷앱(유), 인스퍼 코리아(유), 에티버스 이비티가 후원사로 함께했습니다. 오후 2시부터 4시간가량 진행된 이번 워크샵에는 AI 인프라 구축 및 운영 효율에 대해 고민하는 기업 또는 관계자분들의 발걸음이 이어졌습니다. 120여 명의 방문객이 다녀가셨습니다. 워크숍은 주식회사 텐이 ‘인공지능의 현주소: 왜 GPU 인프라에 주목해야 하는가?’ 라는 화두를 던지며 시작되었습니다. GPU 인프라는 철저히 비용의 문제임을 확인할 수 있는 시간이었는데요. 이어서 비용 절감을 위한 텐..
Tech & Product/AI, 더 깊게  |  2022. 3. 4. GPU의 효율을 극대화 하는 솔루션 - Coaster 최근 AI 관련 산업이 늘면서 데이터 학습, 추론, 서비스 등 GPU를 많은 곳에서 사용하고 있습니다. 많은 수요와 동시에 GPU의 가격도 천정부지로 오르고 있어 고가의 GPU를 효율적으로 사용하고자 하는 수요도 늘고 있습니다. 국내 MLOps 솔루션 회사인 주식회사 텐의 Coaster를 소개해드리고자 합니다. Coaster란? Ten에서 개발한 솔루션으로 서버의 리소스(CPU, GPU, RAM 등)를 필요한 만큼 나눠 독립된 컨테이너 환경으로 제공하는 솔루션 오늘은 Coaster 솔루션의 여러 기능 중 GPU 효율성 향상을 초점으로 진행한 실험 결과를 공유해 드리고자 합니다. GPU 장비가 고가이다 보니, 하나의 GPU에 여러 서비스를 올리거나 다수의 개발자가 동시에 개발/테스트를 진행하는 경우가 있습..

티스토리툴바