본문 바로가기

AI Feed

전체 글

엔비디아만 있는 게 아니다! AI 인프라, AI 칩의 오늘은? 엔비디아의 행보를 지켜보고 있던 AI 인프라 업계의 숨은 강자들이 속속들이 등장하고 있습니다. GTC가 신호탄이 된 것 같습니다. 물론, 엄밀히 말하면 ‘숨은’ 강자라기 보다는 엔비디아라는 엄청난 선두 주자로 인하여 잠시 ‘숨겨진’ 것에 가깝겠지만요. 인텔, FCC 등에서 차세대 ‘AI 칩’을 내놓고 있고, AI의 도입 방식에 따라 인프라를 도입하고, 합리적으로 운용할 수 있도록 용도에 따른 ‘AI 칩’을 내놓고 있습니다. 이런 양상은 AI 인프라 전문기업의 입장에서 반갑기도 한데요. RA:X의 테스트 인사이트로 공개했던 사례처럼, 무조건 가장 최고 사양의 GPU를 가지고 AI를 운영한다고 하더라도, 꼭 좋은 인프라 효율을 얻을 수는 없기 때문입니다. 👉 RA:X 서비스 개발자의 인사이트: 혼합 정밀도와..
AI를 덕질하신다면? 봄나들이도 AI 행사장으로! AI 행사 정보 모아보기 안녕하세요, 에디터 SA입니다. GTC 2024가 끝나고, 여러 방면에서 AI에 대한 관심이 다시 뜨거워졌습니다. TEN의 AI 피드에서도 그 시류에 편승해서 열심히 콘텐츠를 전해드리고 있는데요. 최근에는 AI 인프라 구축 컨설팅 서비스 RA:X의 테스트 케이스를 토대로, 우리의 상식과 편견을 깨는 새로운 인사이트도 전해 드렸습니다. 국내 최초 및 최대의 레퍼런스 아키텍쳐를 보유하고 있는 주식회사 텐에서 준비한 인사이트, 잠시 보고 오실까요? 😉 👉 RA:X 서비스 개발자의 인사이트: 혼합 정밀도와 GPU 성능 비교 이렇듯 AI에 대한 관심이 높아짐에 따라 다양한 AI 관련 콘텐츠가 쏟아져 나오고 있습니다. AI를 활용한 쇼츠 동영상 같은 오락성 콘텐츠는 물론이고, AI와 관련이 없던 분야에서도 AI에 ..
RA:X 서비스 개발자의 인사이트: 혼합 정밀도와 GPU 성능 비교 안녕하세요. 저는 TEN에서 RA:X(랙스) 서비스를 담당하는 개발자 정수현입니다. RA:X(랙스)는 AI 인프라 전문 기업 TEN에서 작년 11월에 공개한 AI 인프라 구축 컨설팅 서비스입니다. 고객의 니즈와 상황을 고려한 테스트 데이터를 기반으로 AI 인프라 구성을 제안하는, 합리적인 컨설팅을 제공하고 있습니다. 왜 RA:X(랙스)가 세상에 공개되었는지 궁금해하시는 분들도 있을 것 같습니다. 지금은 AI 인프라 구축에 있어 각 HW 벤더들이 추천하는 것, 그리고 그 벤더들의 파트너사를 통한 추가 HW 요소들을 중심으로 구매 후 구축하는 경우가 많은데요. 이런 경우에는 구체적인 참고 데이터가 없더라도 어쨌든 우수한 사양으로 인프라를 구축하는 방향을 선택하시게 될 겁니다. 그런데 그 결과, 책임은 인프라..
AI 인프라 전문 기업 TEN, 엔비디아 GTC 2024 직접 보고 오다 안녕하세요, 에디터 SA입니다. GTC는 끝났지만, 새로 발표된 제품들에 대한 관심이 뜨겁습니다. NVIDIA의 CEO인 젠슨 황의 키노트에 대한 감상, ‘블랙웰’에 대한 기대는 요새 업계 관계자들을 만나면 무조건 한 번 이상 듣게 되는 이야기이기도 합니다. 여전히 행사가 계속되고 있는 듯한 느낌인데요.🙂이 화제의 GTC 현장에 TEN이 다녀왔습니다.😉 AI 인프라 전문 기업으로서, AI 산업의 선두 주자인 엔비디아의 키노트는 직접 보아야 하지 않겠습니까! 커다란 경기장에서 열린 엔비디아의 키노트를 직접 보고 온 것은 물론, 직접 가보지 않으면 알 수 없는 관련 업체 부스들이 모여 있는 현장의 열기도 느끼고 왔답니다.어디서도 볼 수 없을 GTC 방문 후기를 TEN이 준비했습니다.🤓 온라인으로 ..
화제의 GTC 2024, 신제품과 새로운 포부가 드러난 엔비디아의 키노트 내용은? 안녕하세요, 에디터 SA입니다. 이번 주 화제의 중심에 있었던 NVIDIA GTC 2024, 어떻게 보셨나요?🙂 GTC는 현지 시각으로 21일, 그러니까 오늘 워크샵과 엑스포 일정까지 마무리되는데요. 이번 GTC는 삼성전자, SK하이닉스 등 국내 기업들이 참가하기도 해서, 국내에서도 관심을 갖고 지켜보는 눈이 참 많았지요. 물론 AI 산업의 성장세를 발판으로 세계 시총 3위에 오른 NVIDIA의 이름을 걸고 주최하는 행사라는 게 가장 큰 이유이겠지만요.🤔 GTC의 꽃이라 할 수 있는 젠슨 황의 키노트는 보셨나요? ‘B100’으로 알려진 새로운 제품을 소개한다는 소식이 GTC 개최 직전에 들리기도 했는데요. 아마 지금쯤이면 정확한 자막까지 추가된 각종 편집 영상이 유튜브에 즐비할 것 같습니다. 하지만, 그..
H100을 못 구해서 인재 영입을 못 한다? AI 인프라 동향 톺아보기 안녕하세요, 에디터 SA입니다. 엔비디아의 GTC를 앞두고, AI와 AI 인프라에 대한 관심이 그 어느 때보다 뜨겁습니다.🔥 평소 AI 산업에서는 LLM, LMM 모델 출시와 같이 실질적으로 우리가 경험해 볼 수 있는 AI에 좀 더 관심이 집중되는데요. AI 인프라, GPU 등 각종 HW 요소가 더 주목받는 때가 바로 NVIDIA의 키노트 공개가 예정되어 있는 GTC 시즌입니다.😊 GTC에 대한 이야기는 GTC가 본격적으로 진행되고 젠슨 황의 키노트가 공개된 다음 해보기로 하고, 오늘 AI 피드에서 준비한 주제를 소개해볼까 해요. 이번 AI 뉴스룸 주제는 ‘인프라’입니다. AI 인프라 전문기업에 속한 에디터로서, AI 산업 동향으로 꼭 소개해 드리고 싶은 주제였는데요.😎 AI 인프라 분야에도 물량 확보 ..
세계 시총 3위 엔비디아, 어떻게 AI 산업을 장악했을까? 엔비디아가 시총 세계 3위에 올랐습니다.🤑 엔비디아는 GPU를 포함하여 AI 데이터센터에 집약된 하드웨어 기술로 독보적인 자리에 올라와 있는데요. AI, 게임, 컴퓨터에 관한 지식이 있는 사람들이 주로 알고 있던 ‘엔비디아’라는 기업은 이제 그 분야에 전혀 관심이 없는 사람들도 한 번쯤 들어본 정도로 유명한 기업이 되었지요. 엔비디아에서 올해에도 어김없이 개최하는 GTC 행사를 앞두고 들려온 호재 소식에 전 세계 각계각층 인사들이 엔비디아의 행보를 주목하고 있습니다. AI 산업의 폭풍 같은 성장세, 시장 확장에 힘입어서, 상승세는 앞으로도 당분간 계속될 것 같습니다.🤓 그런데 엔비디아가 이렇게 유명해지고, 또 AI와 GPU를 생각하면 바로 떠오르는 기업이 된 데는 어떤 이유가 있을까요? 오로지 GPU 때..
영상 업계를 뒤흔들 화제의 영상 AI '소라', 한 번 지켜 보라! ChatGPT가 우리에게 안겨준 충격을 뛰어넘을 새로운 AI가 나올 수 있을까🤔, 생각했던 때가 있었습니다. 무려 1년도 채 되지 않은 일이지요. 일명 ‘컴퓨터식 답변’에 대한 인간의 고정관념을 깨부순 모델이었던 ChatGPT는 어느새 우리에게 제법 당연한 존재가 되어 있습니다. 궁금한 내용이 있을 때, 멋들어진 글을 써야 할 때, 모르는 외국어로 소통해야 할 때, 간단한 퍼블리싱 등 다양한 상황에서 도움을 받을 수 있는 도구로 기능하고 있습니다. 해가 바뀌자마자 우리에게 더 큰 놀라움을 안겨 줄 다음 타자가 나타났습니다. 소문을 들어 알고 계실지 모르겠습니다. 바로 동영상 AI ‘소라’인데요. 몇 개의 명령어로, 전문가의 촬영 기술과 그래픽 처리가 필요하지 않은 양질의 영상을 만들어냅니다. 이미 유튜브..
AI Pub 프론트엔드 개발자가 소개하는: 웹 테스트 자동화 프레임워크 안녕하세요. TEN에서 프론트엔드 개발을 담당하는 오목눈이입니다.개발을 진행하다 보면 원하는 기능이 제대로 구현되었는지 검증하기 위하여 TC를 작성하고 다양한 상황에서 오류가 발생하지는 않는지 QA를 진행하게 되는데요. 좋은 품질의 웹을 개발하기 위해서는 테스트가 반드시 필요합니다. AI 인프라를 관리하는 MLOps 솔루션을 서비스하는 TEN에서 웹 테스트를 다룬다고 하니 의아해하실 분들도 있겠습니다. 회사 홈페이지에 관한 이야기 아닌가, 생각하실 분들도 있을 것 같습니다.TEN에서 서비스하는 AI Pub은 쿠버네티스의 기능을 확장해서, AI 개발, 학습과 서비스 배포 후 운영 시 인프라 관리에 대한 다양한 제반 관리 기능을 제공합니다. 그리고 이 기능들을 쉽게 활용할 수 있도록 Web UI로 접근..