본문 바로가기

AI Feed

Nvidia

아아, NIM이여, 당신은 누구신가요? 엔비디아가 GTC 2024에서 혁신적인 신제품과 패러다임을 제시한 지 벌써 3개월 여의 시간이 지났습니다. 당시 발표된 제품들은 빠르면 올해 말, 늦어도 내년에는 만나볼 수 있을 것으로 예상되는데요. 엔비디아가 자신 있게 내놓는 GPU나 데이터센터 구축과 무관하게 우리가 먼저 접할 수 있는 것이 있습니다. 바로 NIM입니다.NIM을 기억하실지 모르겠습니다. 엔비디아의 CEO 젠슨 황이 제품 소개와 함께 언급했던, 엔비디아의 새로운 방향성, 바로 ‘플랫폼’에 대한 이야기를 하며 소개했던 것이 ‘NIM’인데요. 한국에서는 ‘당신’을 의미하는 ‘님’과 발음이 같아서 일종의 밈으로 쓰이는 경우도 종종 보았던 것 같습니다. 오늘 AI 피드에서는 엔비디아가 지금까지 사용해 왔던 성공 전략이 모두 녹아 있는 ‘NIM..
엔비디아의 스타트업 인수에서 AI 인프라 산업의 트렌드가 보인다! 안녕하세요, 에디터 SA입니다. 최근에는 AI 인프라 산업에서 다양한 변화를 불러올 소식들이 가득했는데요. 그중에 가장 눈에 띄는 것은 엔비디아의 스타트업 인수 소식이었습니다. 엔비디아는 AI 인프라의 핵심이라 할 수 있는 GPU를 매년 새롭게 내놓고 있는 입장에서, GPU의 성능은 물론 효율까지 챙기려는 고민을 지속해 왔는데요.🤔 최근에는 GPU 활용 효율을 높이는 솔루션, 서비스를 제공하고 있는 Run:AI를 인수했습니다. 엔비디아의 이러한 움직임은 AI 인프라에 있어 GPU의 효율이 얼마나 중요한 열쇠가 되는지를 시사합니다. TEN이 AI 인프라 문제에 집중하는 것도 같은 맥락인데요. AI 인프라는 사실상 구축이 곧 ‘시작’이라 볼 수 있습니다. 그 이후 어떻게 운용하느냐가 AI 사업화를 이끄는 ..
AI 인프라 전문 기업 TEN, 엔비디아 GTC 2024 직접 보고 오다 안녕하세요, 에디터 SA입니다. GTC는 끝났지만, 새로 발표된 제품들에 대한 관심이 뜨겁습니다. NVIDIA의 CEO인 젠슨 황의 키노트에 대한 감상, ‘블랙웰’에 대한 기대는 요새 업계 관계자들을 만나면 무조건 한 번 이상 듣게 되는 이야기이기도 합니다. 여전히 행사가 계속되고 있는 듯한 느낌인데요.🙂이 화제의 GTC 현장에 TEN이 다녀왔습니다.😉 AI 인프라 전문 기업으로서, AI 산업의 선두 주자인 엔비디아의 키노트는 직접 보아야 하지 않겠습니까! 커다란 경기장에서 열린 엔비디아의 키노트를 직접 보고 온 것은 물론, 직접 가보지 않으면 알 수 없는 관련 업체 부스들이 모여 있는 현장의 열기도 느끼고 왔답니다.어디서도 볼 수 없을 GTC 방문 후기를 TEN이 준비했습니다.🤓 온라인으로 ..
화제의 GTC 2024, 신제품과 새로운 포부가 드러난 엔비디아의 키노트 내용은? 안녕하세요, 에디터 SA입니다. 이번 주 화제의 중심에 있었던 NVIDIA GTC 2024, 어떻게 보셨나요?🙂 GTC는 현지 시각으로 21일, 그러니까 오늘 워크샵과 엑스포 일정까지 마무리되는데요. 이번 GTC는 삼성전자, SK하이닉스 등 국내 기업들이 참가하기도 해서, 국내에서도 관심을 갖고 지켜보는 눈이 참 많았지요. 물론 AI 산업의 성장세를 발판으로 세계 시총 3위에 오른 NVIDIA의 이름을 걸고 주최하는 행사라는 게 가장 큰 이유이겠지만요.🤔 GTC의 꽃이라 할 수 있는 젠슨 황의 키노트는 보셨나요? ‘B100’으로 알려진 새로운 제품을 소개한다는 소식이 GTC 개최 직전에 들리기도 했는데요. 아마 지금쯤이면 정확한 자막까지 추가된 각종 편집 영상이 유튜브에 즐비할 것 같습니다. 하지만, 그..
H100을 못 구해서 인재 영입을 못 한다? AI 인프라 동향 톺아보기 안녕하세요, 에디터 SA입니다. 엔비디아의 GTC를 앞두고, AI와 AI 인프라에 대한 관심이 그 어느 때보다 뜨겁습니다.🔥 평소 AI 산업에서는 LLM, LMM 모델 출시와 같이 실질적으로 우리가 경험해 볼 수 있는 AI에 좀 더 관심이 집중되는데요. AI 인프라, GPU 등 각종 HW 요소가 더 주목받는 때가 바로 NVIDIA의 키노트 공개가 예정되어 있는 GTC 시즌입니다.😊 GTC에 대한 이야기는 GTC가 본격적으로 진행되고 젠슨 황의 키노트가 공개된 다음 해보기로 하고, 오늘 AI 피드에서 준비한 주제를 소개해볼까 해요. 이번 AI 뉴스룸 주제는 ‘인프라’입니다. AI 인프라 전문기업에 속한 에디터로서, AI 산업 동향으로 꼭 소개해 드리고 싶은 주제였는데요.😎 AI 인프라 분야에도 물량 확보 ..
GPU로 AI 개발하면 안다 안다 다 안다! CUDA를 소개합니다! 요새 주식회사 텐은 분주합니다. AI 모델 개발 프로젝트에 착수하는 기업들이 계속 늘어나고 있기 때문이죠. 그게 TEN과 무슨 연관이 있냐고 물으신다면, AI를 시작하는 기업에 제일 먼저 필요한 것은 ‘인프라’이기 때문입니다. 🤓 TEN은 고객의 AI 개발과 운영을 위해 어떤 구성으로 인프라를 구축해야 할 지에 주목합니다. 각 구성 제품이 어느 회사의 것이어야 하는지도 생각하고요. 실제 AI를 개발할 고객의 개발 환경까지 함께 고려하는 거죠. 🤔 그 과정에서 기획자, 개발자분들의 이야기를 옆에서 들을 기회가 여럿 있었는데요. 그때 ‘쿠다(CUDA)’를 처음 알게 되었습니다. 머신러닝 프레임워크 종류 몇 가지만 겨우 알고 있었기에, ‘쿠다(CUDA)’ 역시 그와 비슷한 것 아닌가, 하고 넘겨짚어 생각하곤 ..
주식회사 텐, AI 인프라와 NVIDIA 인증 솔루션 통합 구성 워크샵 성료 AI 인프라에 주력하고 있는 MLOps 솔루션 AI Pub을 서비스하는 주식회사 텐이 두 번째 워크숍을 개최했습니다. 'AI 인프라와 NVIDIA 인증 솔루션 통합 구성 워크샵'은 11월 23일 드림플러스 강남 이벤트홀에서 열렸는데요. 엔비디아, 한국 넷앱(유), SK네트웍스서비스가 후원사로 함께했습니다. 이번 행사는 개최 전부터 많은 고객사, 파트너사의 엔지니어 분들께서 열띤 관심을 표해 주셨었는데요. 오후 2시부터 3시간가량 진행된 이번 워크샵에는 AI 인프라 구축 및 운영의 중요성을 절감하는 기업 또는 관계자분들의 발걸음이 이어졌습니다. 이렇게 높은 호응이 있었던 데에는 다 이유가 있답니다. 이번 워크숍은 주식회사 텐이 주력해온 인공지능 인프라에 대한 노하우를 공유하는 동시에, 새 서비스 'RA:X..
인공지능 시장에서 제일 귀하신 몸, GPU를 알아보자 안녕하세요! 에디터 SA입니다. 여러분은 인공지능에 대해 알게 되셨을 때, 가장 신기했던 사실이 무엇이었나요? 아직도 AI린이인 에디터 SA이지만, 더 AI 알못이었던 제게 신기하게 다가온 것은 바로 ‘GPU’ 였답니다. 아마 여러분들은 AI에 대해 잘 알고 계시니, “AI에 GPU가 뭐 어때서?”라고 생각하셨을 수 있겠어요. 😂 에디터 SA에게 GPU란 멋들어진 그래픽의 게임이나 영상을 컴퓨터 즐길 때 영향을 미치는 부품 정도로 받아들여졌었는데요. 어떤 분들은 ‘GPU’라는 이름 자체가 생소하신 경우도 있을 거예요. GPU가 뭔데? 컴퓨터에 있는 거라고? 그게 인공지능 개발에 쓰인다고? 물음표 한가득 머릿속에 담고 계실 분들을 위해서, 오늘은 ‘AI, 더 쉽게’라는 이름에 걸맞은 맞춤 콘텐츠를 준비했습..
NVIDIA가 또 신제품을?! GPU와 CPU가 만난 GH200! 안녕하세요, 에디터 SA입니다. 최근 GPU 부족으로 전 세계가 난리입니다. GPU를 확보하는 것이 실리콘밸리의 최고 이슈로 떠오르고, 중국 빅테크는 GPU를 비축하기 위해 2년간 50억 달러(한화 6조 6000억 원)를 투입하겠다고 밝히기도 했죠. 이렇듯 불꽃 튀는 GPU 확보 경쟁은 당분간 계속될 것으로 보이는데요. 그 가운데에, NVIDIA가 있습니다. 😎 엔비디아에서 신제품을 출시했습니다. ‘AI 슈퍼 칩’이라고 불리는 GH200인데요. 올해 상반기 대만 COMPUTEX에서 있었던 젠슨 황의 프레젠테이션에서 만나본 제품이기도 합니다. 동일한 제품은 아니고, 업데이트 출시한 것인데요. 완전한 새 제품 출시 소식이 아니라 그리 놀라는 분위기는 없는 것 같습니다. 하지만 사양을 들여다보면, AI 개발에..