본문 바로가기

AI Feed

엔비디아

엔비디아만 있는 게 아니다! AI 인프라, AI 칩의 오늘은? 엔비디아의 행보를 지켜보고 있던 AI 인프라 업계의 숨은 강자들이 속속들이 등장하고 있습니다. GTC가 신호탄이 된 것 같습니다. 물론, 엄밀히 말하면 ‘숨은’ 강자라기 보다는 엔비디아라는 엄청난 선두 주자로 인하여 잠시 ‘숨겨진’ 것에 가깝겠지만요. 인텔, FCC 등에서 차세대 ‘AI 칩’을 내놓고 있고, AI의 도입 방식에 따라 인프라를 도입하고, 합리적으로 운용할 수 있도록 용도에 따른 ‘AI 칩’을 내놓고 있습니다. 이런 양상은 AI 인프라 전문기업의 입장에서 반갑기도 한데요. RA:X의 테스트 인사이트로 공개했던 사례처럼, 무조건 가장 최고 사양의 GPU를 가지고 AI를 운영한다고 하더라도, 꼭 좋은 인프라 효율을 얻을 수는 없기 때문입니다. 👉 RA:X 서비스 개발자의 인사이트: 혼합 정밀도와..
AI 인프라 전문 기업 TEN, 엔비디아 GTC 2024 직접 보고 오다 안녕하세요, 에디터 SA입니다. GTC는 끝났지만, 새로 발표된 제품들에 대한 관심이 뜨겁습니다. NVIDIA의 CEO인 젠슨 황의 키노트에 대한 감상, ‘블랙웰’에 대한 기대는 요새 업계 관계자들을 만나면 무조건 한 번 이상 듣게 되는 이야기이기도 합니다. 여전히 행사가 계속되고 있는 듯한 느낌인데요.🙂이 화제의 GTC 현장에 TEN이 다녀왔습니다.😉 AI 인프라 전문 기업으로서, AI 산업의 선두 주자인 엔비디아의 키노트는 직접 보아야 하지 않겠습니까! 커다란 경기장에서 열린 엔비디아의 키노트를 직접 보고 온 것은 물론, 직접 가보지 않으면 알 수 없는 관련 업체 부스들이 모여 있는 현장의 열기도 느끼고 왔답니다.어디서도 볼 수 없을 GTC 방문 후기를 TEN이 준비했습니다.🤓 온라인으로 ..
H100을 못 구해서 인재 영입을 못 한다? AI 인프라 동향 톺아보기 안녕하세요, 에디터 SA입니다. 엔비디아의 GTC를 앞두고, AI와 AI 인프라에 대한 관심이 그 어느 때보다 뜨겁습니다.🔥 평소 AI 산업에서는 LLM, LMM 모델 출시와 같이 실질적으로 우리가 경험해 볼 수 있는 AI에 좀 더 관심이 집중되는데요. AI 인프라, GPU 등 각종 HW 요소가 더 주목받는 때가 바로 NVIDIA의 키노트 공개가 예정되어 있는 GTC 시즌입니다.😊 GTC에 대한 이야기는 GTC가 본격적으로 진행되고 젠슨 황의 키노트가 공개된 다음 해보기로 하고, 오늘 AI 피드에서 준비한 주제를 소개해볼까 해요. 이번 AI 뉴스룸 주제는 ‘인프라’입니다. AI 인프라 전문기업에 속한 에디터로서, AI 산업 동향으로 꼭 소개해 드리고 싶은 주제였는데요.😎 AI 인프라 분야에도 물량 확보 ..
세계 시총 3위 엔비디아, 어떻게 AI 산업을 장악했을까? 엔비디아가 시총 세계 3위에 올랐습니다.🤑 엔비디아는 GPU를 포함하여 AI 데이터센터에 집약된 하드웨어 기술로 독보적인 자리에 올라와 있는데요. AI, 게임, 컴퓨터에 관한 지식이 있는 사람들이 주로 알고 있던 ‘엔비디아’라는 기업은 이제 그 분야에 전혀 관심이 없는 사람들도 한 번쯤 들어본 정도로 유명한 기업이 되었지요. 엔비디아에서 올해에도 어김없이 개최하는 GTC 행사를 앞두고 들려온 호재 소식에 전 세계 각계각층 인사들이 엔비디아의 행보를 주목하고 있습니다. AI 산업의 폭풍 같은 성장세, 시장 확장에 힘입어서, 상승세는 앞으로도 당분간 계속될 것 같습니다.🤓 그런데 엔비디아가 이렇게 유명해지고, 또 AI와 GPU를 생각하면 바로 떠오르는 기업이 된 데는 어떤 이유가 있을까요? 오로지 GPU 때..
GPU로 AI 개발하면 안다 안다 다 안다! CUDA를 소개합니다! 요새 주식회사 텐은 분주합니다. AI 모델 개발 프로젝트에 착수하는 기업들이 계속 늘어나고 있기 때문이죠. 그게 TEN과 무슨 연관이 있냐고 물으신다면, AI를 시작하는 기업에 제일 먼저 필요한 것은 ‘인프라’이기 때문입니다. 🤓 TEN은 고객의 AI 개발과 운영을 위해 어떤 구성으로 인프라를 구축해야 할 지에 주목합니다. 각 구성 제품이 어느 회사의 것이어야 하는지도 생각하고요. 실제 AI를 개발할 고객의 개발 환경까지 함께 고려하는 거죠. 🤔 그 과정에서 기획자, 개발자분들의 이야기를 옆에서 들을 기회가 여럿 있었는데요. 그때 ‘쿠다(CUDA)’를 처음 알게 되었습니다. 머신러닝 프레임워크 종류 몇 가지만 겨우 알고 있었기에, ‘쿠다(CUDA)’ 역시 그와 비슷한 것 아닌가, 하고 넘겨짚어 생각하곤 ..
주식회사 텐, AI 인프라와 NVIDIA 인증 솔루션 통합 구성 워크샵 성료 AI 인프라에 주력하고 있는 MLOps 솔루션 AI Pub을 서비스하는 주식회사 텐이 두 번째 워크숍을 개최했습니다. 'AI 인프라와 NVIDIA 인증 솔루션 통합 구성 워크샵'은 11월 23일 드림플러스 강남 이벤트홀에서 열렸는데요. 엔비디아, 한국 넷앱(유), SK네트웍스서비스가 후원사로 함께했습니다. 이번 행사는 개최 전부터 많은 고객사, 파트너사의 엔지니어 분들께서 열띤 관심을 표해 주셨었는데요. 오후 2시부터 3시간가량 진행된 이번 워크샵에는 AI 인프라 구축 및 운영의 중요성을 절감하는 기업 또는 관계자분들의 발걸음이 이어졌습니다. 이렇게 높은 호응이 있었던 데에는 다 이유가 있답니다. 이번 워크숍은 주식회사 텐이 주력해온 인공지능 인프라에 대한 노하우를 공유하는 동시에, 새 서비스 'RA:X..
텐, AI 인프라 구축 컨설팅 서비스 'RA: X' 선보인다 AI MLOps 솔루션 업체 텐은 오는 23일 오후 드림플러스 강남에서 AI 인프라와 엔비디아 AI 엔터프라이즈 소프트웨어 통합 구성을 주제로 워크숍을 개최한다. 관련 기사 보기 > 텐, AI 인프라 구축 컨설팅 서비스 'RA: X' 선보인다
NVIDIA가 또 신제품을?! GPU와 CPU가 만난 GH200! 안녕하세요, 에디터 SA입니다. 최근 GPU 부족으로 전 세계가 난리입니다. GPU를 확보하는 것이 실리콘밸리의 최고 이슈로 떠오르고, 중국 빅테크는 GPU를 비축하기 위해 2년간 50억 달러(한화 6조 6000억 원)를 투입하겠다고 밝히기도 했죠. 이렇듯 불꽃 튀는 GPU 확보 경쟁은 당분간 계속될 것으로 보이는데요. 그 가운데에, NVIDIA가 있습니다. 😎 엔비디아에서 신제품을 출시했습니다. ‘AI 슈퍼 칩’이라고 불리는 GH200인데요. 올해 상반기 대만 COMPUTEX에서 있었던 젠슨 황의 프레젠테이션에서 만나본 제품이기도 합니다. 동일한 제품은 아니고, 업데이트 출시한 것인데요. 완전한 새 제품 출시 소식이 아니라 그리 놀라는 분위기는 없는 것 같습니다. 하지만 사양을 들여다보면, AI 개발에..
COMPUTEX 2023를 장악한 엔비디아의 키노트, 인프라로 읽어보기 안녕하세요, 에디터 SA입니다😊 지난 5월 30일부터 6월 2일까지, 대만 타이베이에서 열린 COMPUTEX 2023의 여파가 아직도 남아있는데요. 4년만에 열린 행사인 만큼 전 세계의 이목이 쏠렸기 때문이겠지요. 또한 AI처럼 향후 미래 산업을 책임질 신기술에 영향을 미칠 이야기들이 대두된 것도 한몫하지 않았나, 생각합니다. 우리 모두 알고 있는 한 회사의 Keynote가 그 이야기의 중심에 있지요. 올해의 COMPUTEX에서는 챗GPT, 스테이블 퓨전 등 생성형 AI로 인해 블루칩으로 등극한 엔비디아의 존재감이 빛을 발했었는데요. 특히 2시간가량 진행된 NVIDIA의 키노트 세션에서는 예상하지 못했던 이야기들을 들을 수 있었습니다. NVIDIA의 CEO 젠슨 황(Jensen Huang)은 광고, 제조..