요새 AI 산업 내에서 무슨 일이 일어나고 있는지 알게 될 때마다, 놀랍고 신기하다는 생각이 끊이지 않는데요. 더 나은 성능의 AI 인프라 요소들, GPU나 패브릭(케이블)이 등장하고, 전보다 더 똑똑해진 AI 모델이 등장하는 게 쉬운 일은 아닐 텐데도, 관련 소식들이 연이어 들려오고 있으니까요. 오죽하면 일주일만 AI 소식을 멀리해도 긴 시간 관심을 끊었던 것처럼 많은 것이 바뀌어 있곤 합니다.
한편으로는 이런 느낌도 받습니다. 내용을 다 훑어보기도 전에, 어느 기업의 근황인지 알 것 같다, 싶은 느낌이요. 내가 아는 그 유명한 글로벌 테크 기업들 중 한 곳에서 했겠지… 하는 생각으로 각종 기사를 읽어 보고, AI 피드의 콘텐츠를 읽고 계시지는 않은가요? 에디터 SA는 종종, 그렇거든요. 워낙 자주 접하는 기업들의 이름에는 내적 친밀감이 형성되었습니다. 그 기업들의 임직원들은 저를 모를 텐데 말이에요. (!)😅
이번 AI 피드에서는, 지금까지 이야기하지 않았던 이들의 이야기를 해볼까 합니다. AI 산업의 근황을 말하면 줄줄이 등장하는 유명한 글로벌 테크 기업들 대신, 다른 기업들의 근황을요. 특히나 AI에 비교적 늦게 진출한 편인 우리나라의 동향을 파악해 볼 수 있도록, 국내 기업과 기술 중심으로 소식을 모아 보았습니다. 지금부터, 세계 무대를 살피느라 우리에게 조금 낯선, 국내 AI 기업들의 현재는 어떠한지 함께 살펴볼게요.
[ LGU+의 통신 특화 생성 AI, 익시젠 ]
국내 통신사 3사 중 다양한 서비스로 우리 일상에 편의를 가져다주는 기업, LG유플러스에서 내놓은 소형언어모델이 있습니다. ‘익시젠(ixi-GEN)’이라는 이름의, 이 sLM은 통신·플랫폼 데이터를 학습했는데요. LGU+의 대형언어모델인 엑사원(EXAONE)을 경량화한 것입니다. LLM, sLM은 글로벌 기업에서 주로 개발할 것으로 생각하고 있던 것과 달리, 우리나라에서도 LLM, sLM을 자체 개발, 보유하고 있는 기업들이 있습니다. LGU+도 그중 하나이고요.
익시젠이 sLM으로 분류되는 만큼 텍스트 생성 기능만 제공하고 있습니다. 효율성, 보안성, 신뢰성에 있어 강점을 가지고 있는 모델이라며 LGU+에서 자신감을 보인 모델이에요. 미세조정에 필요한 학습 시간을 줄여 통신 서비스에 빠르게 적용할 수 있고, 기업 내부 서버에 구축해 내부 데이터 유출 우려 없이 공공·금융·제조 등 분야에서 사용할 수 있는 모델입니다. 클라우드 환경에서 활용할 때는 LGU+가 제공하는 시스템 인프라와 서비스 컨설팅 등을 통해 보안성을 강화할 수 있다고 하네요.
익시젠의 부모 격인 엑사원이 클린한 데이터를 학습하였기 때문에, 익시젠 역시 지식재산권과 저작권 등의 문제에서 벗어납니다. 주요 강점들을 미루어 볼 때, B2B 대상으로 제공할 것으로 보이는데요. 네트워크 장애를 빨리 처리하는 에이전트, 단순 문의에 1차 답변할 수 있는 챗봇, 모바일로 접근하는 매장 관리 프로그램 등으로 응용 가능하다고 합니다. 자체 모델 개발까지는 어려우나 AI를 도입해야 하는 중소기업에 좋은 선택지로 기능하고 있습니다.
[ 레노버 컴퓨팅 인프라로 최적화된 LLM 개발, 크라우드웍스 ]
크라우드웍스가 레노버 컴퓨팅 인프라를 통해 기업 맞춤 LLM, 온디바이스 AI 최적화 LLM 모델 개발을 이어가고 있습니다. AI 인프라 요소에 강점이 있는 레노버, AI 솔루션 역량을 가진 크라우드웍스 두 기업이 각자의 전문 영역에서 확보한 노하우, 지식을 활용해 온디바이스 AI 시장을 중심으로 독보적인 움직임을 만들어 가고 있는데요. 작년부터 국내 기업 간 적극적인 MOU가 AI 시장 진출이나 입지 강화를 목적으로 하고 있다는 점에서, 이번에 소개해 드리는 내용을 통해 두 기업의 성장세를 기대해 보아도 좋을 것 같습니다.
레노버는 ‘씽크시스템 SR680a V3’와 ‘씽크시스템 SR780a V3’을 활용해 크라우드웍스에 협력합니다. 두 서버는 최근 출시된 제품들이고, AI 및 HPC 워크로드 처리에 탁월한 계산 능력을 제공합니다. 엔비디아 GPU와 고속 인터커넥트를 통해 AI 구현 속도를 높여, 수준 높은 AI 인프라 구축을 지원할 수 있어요. 크라우드웍스는 고품질 데이터에 기반한 AI 데이터 및 솔루션 개발을 이어갑니다. 데이터 솔루션뿐만 아니라 AI 구축을 위한 전방위 솔루션을 제공하는데요. 온디바이스 AI 환경에 유리한 sLM ‘웍스원’을 보유하고 있어서, 이를 중심으로 한 지원이 되겠네요.
AI 인프라는 AI 도입 과정에서 먼저 고민해야 하는 요소 중 하나입니다. 온프레미스 방식이든 클라우드 방식이든, AI 개발과 학습, 배포, 운영에 이르기까지 필요한 리소스를 확보해야 하니까요. 하지만 관련된 제품들, 예를 들어 GPU라던가 스토리지 등에 대한 사양이나 성능 정보 등은 AI 솔루션 기업에게 생소할 수 있습니다. 새로운 분야, 그것도 빠른 발전 속도가 특징인 AI에 대해 개발, 학습 지식만 갖추기에도 바쁘기에 인프라에 대한 전문 지식을 갖고 있기가 쉽지 않은 것이 현실입니다. 물론 AI에 전문성이 있으니, 시간을 갖고 인프라 분야까지 탐구하여 AI에 대한 종합적인 지식을 확보하는 방법이 있을 수 있겠습니다만, 이른 시일 안에 효율을 올리는 방법은 각 분야의 전문 기업이 뭉쳐 시너지를 내는 것이겠지요.
[ AI 인프라에 집중한 AI Pub에 컨설팅 서비스 RAX까지, TEN ]
이번에는 국내 AI 인프라 전문 기업에 대한 이야기를 준비했습니다. 바로, AI 피드로 여러분에게 꾸준히 인사드리고 있는 TEN의 근황입니다. TEN은 쿠버네티스를 기반으로 한 플랫폼 AI Pub을 제공하고 있습니다. AI 피드의 콘텐츠들을 꾸준히 찾아주신 분들이라면 AI Pub 이야기를 적어도 한 번은 들어보셨을 거로 생각합니다. AI Pub은 AI 인프라 리소스 활용에 관한 쿠버네티스 기능을 손쉽게 활용할 수 있도록 하는데요. AI의 라이프사이클을 기준으로 AI Pub Dev는 개발과 학습, AI Pub Ops는 배포 및 운영에 초점이 맞춰져 있습니다. 두 플랫폼 모두, 기능을 GUI로 제공하기 때문에, 기능 사용에 대한 이해가 어렵지 않다는 점도 장점입니다.
AI Pub Dev를 사용하면, 클라우드 및 온프레미스 클러스터에서 다수의 AI 연구자가 GPU 자원을 활용하고 관리 및 모니터링할 수 있습니다. AI 워크로드의 오케스트레이션과 팀 및 클러스터 전반의 하드웨어 리소스 관리 및 가상화를 자동화하고, GPU 오케스트레이션 기능을 통해 GPU를 더욱 효율적으로 사용할 수 있습니다. AI Pub Ops는 AI 서비스를 생성, 배포, 중지, 삭제하는 기능에 리소스 운용을 지원하는 기능을 더한 플랫폼입니다. GPU 1개를 100분할 하여 1% 단위로 AI 서비스에 할당할 수 있어, AI 서비스에 대한 최적의 리소스 운용으로 서비스 운영 비용을 절감할 수 있어요.
AI Pub을 이미 사용 중이거나, 사용을 고려하고 있는 기업들이 다수 있습니다. AI 도입을 고려하고 있거나, 적극적으로 AI 사업을 하려 하는 대기업을 포함해서요. 때문에, TEN에서는 꾸준히 품질 관리도 이어가고 있습니다. 시간이 지날수록 더 나은 AI Pub을 이용하실 수 있을 거예요. TEN은 산학협력 연구 등 다양한 노력을 통해 AI 인프라 전문성이 더 공고히 하고, 이를 AI Pub에 새롭게 반영하고자 노력하고 있습니다. 서비스의 측면에서도 마찬가지입니다. ‘레퍼런스 아키텍처’라는 개념으로 여러분에게 종종 이야기했던 TEN의 AI 인프라 구축 컨설팅 서비스, 랙스(RA:X) 말이에요.
👉 AI 인프라 구축에 참고 자료가 있다면? '레퍼런스 아키텍처'
TEN의 랙스(RA:X)는 AI 인프라 구축 시 참고할 수 있는 정확한 데이터와 적합한 하드웨어 구성을 제안하는 서비스입니다. 앞서 다른 기업들의 근황에서 이야기했듯, AI 솔루션 기업들이나, AI를 이제 막 도입하는 기업들은 AI 인프라 관련 정보와 지식을 알기 어렵거든요. TEN이 가장 잘할 수 있는 일은, 바로 이런 기업에 명확한 가이드를 주는 것이겠지요. 자주 언급했던 ‘레퍼런스 아키텍처’가 그 ‘가이드’를 만드는 데 활용됩니다.
국내 최초이자, 최신 사양의 하드웨어를 포함한 레퍼런스 아키텍처에서 트래픽 테스트(부하 테스트)를 진행하고, 이를 바탕으로 적합한 인프라 구성을 제안하고 있습니다. 이 서비스는 AI를 이미 도입하신 기업 담당자들에게도, AI 인프라의 하드웨어를 취급하는 업체들에 출시 전부터 많은 기대를 받았는데요. 실제로 서비스 문의가 지속적으로 이어지고 있습니다. TEN에서는 시장의 호응에 언제나 답을 할 수 있도록 담당자가 연구원 수준으로 AI 인프라의 특성 발굴에 매진하고 있답니다. 산학협력도 지속하고 있고요. 꾸준한 연구를 통해 TEN이 확보한 인사이트는 종종 AI 피드를 통해서도 공개하고 있습니다. 궁금하시다면, AI 피드에 자주 놀러 오셔야겠지요?
👉 RA:X 서비스 개발자의 인사이트: 혼합 정밀도와 GPU 성능 비교
‘인터넷 기술 세계 1위’, ‘IT 강국’ 등 높은 기술력에 관한 타이틀을 보유하고 있는 우리나라. AI 산업에 있어서는 상대적으로 늦게 발걸음을 떼었지만, 세계 어느 국가의 AI 기술력에 못지않은 수준에 이를 수 있을 정도로 박차를 가하고 있는데요. 오늘 소개해 드린 기업과 AI 모델 소식만이 전부가 아니라, 다양한 규모의 기업들이 지금도 AI 관련 기술과 제품을 개발하는 데에 열을 올리고 있답니다.
TEN도 이바지하고자 노력하고 있습니다. TEN의 자체 기술 특허는 국내를 넘어 해외에까지 출원한 상태인데요. AI 인프라를 효율적으로 활용하고자 하는 고민은 국적 불문 어느 AI 기업에나 존재하기에, TEN의 기술을 세계에 알리며 AI 도입 시 경험하게 되는 다양한 측면의 AI 인프라 고민을 덜 수 있도록 노력하고 있어요.
AI는 여전히 새로운 분야이고 빠르게 발전하고 있습니다. 지금의 선도 기업 체제가 언제 바뀔지도 알 수 없을 만큼 변화무쌍하지요. 끊임없는 노력, 그리고 우리가 가진 기술 잠재력과 역량으로 머지않은 미래에 대한민국 앞에 ‘AI 강국’ 타이틀을 붙일 수 있게 되길 바랍니다. 지금까지 에디터 SA였습니다.
'Tech & Product > AI 뉴스룸' 카테고리의 다른 글
GPT 스토어, 요즘 어때? (6) | 2024.10.31 |
---|---|
자기의 일은 스스로 하자♬ 알아서 배우는 AI가 나왔다고? (0) | 2024.06.19 |
소문과 기대의 중심, 애플 인텔리전스 공개! (0) | 2024.06.12 |
엔비디아가 시총 2위? 요즘 AI 산업 근황 알아보기 (0) | 2024.06.07 |
AI 인프라, 이제 GPU를 넘어 '데이터센터'로 간다 (0) | 2024.05.22 |