아아, NIM이여, 당신은 누구신가요?

엔비디아가 GTC 2024에서 혁신적인 신제품과 패러다임을 제시한 지 벌써 3개월 여의 시간이 지났습니다. 당시 발표된 제품들은 빠르면 올해 말, 늦어도 내년에는 만나볼 수 있을 것으로 예상되는데요. 엔비디아가 자신 있게 내놓는 GPU나 데이터센터 구축과 무관하게 우리가 먼저 접할 수 있는 것이 있습니다. 바로 NIM입니다.

NIM을 기억하실지 모르겠습니다. 엔비디아의 CEO 젠슨 황이 제품 소개와 함께 언급했던, 엔비디아의 새로운 방향성, 바로 ‘플랫폼’에 대한 이야기를 하며 소개했던 것이 ‘NIM’인데요. 한국에서는 ‘당신’을 의미하는 ‘님’과 발음이 같아서 일종의 밈으로 쓰이는 경우도 종종 보았던 것 같습니다. 오늘 AI 피드에서는 엔비디아가 지금까지 사용해 왔던 성공 전략이 모두 녹아 있는 ‘NIM’에 대하여 알아보겠습니다.

 

 

 

[ NIM, 님은 대체 누구신가요? ]

출처: https://www.nvidia.com/ko-kr/ai/

NIM은 Nvidia Inference Microservices의 약자로, AI 모델을 효율적으로 배포하고 운영할 수 있게 해주는 소프트웨어 패키지입니다. 마이크로서비스라는 정체성을 이름에 담고 있지만, GTC에서 설명한 내용을 들어보면 사실상 마이크로서비스가 모여 있는 컨테이너이자 ‘플랫폼’에 가깝습니다. Nvidia GPU 환경에서 최적화된 모델을 포함하고 있고, AI 모델을 클라우드, 온프레미스 서버, 심지어 랩톱에서도 쉽게 배포할 수 있습니다. 때문에, AI 개발에 있어 NIM은 선택이 아닌 필수가 될 가능성이 높아 보입니다. 마치, CUDA 처럼요.

NIM은 Nvidia GPU에 특화된 모델을 포함하여 빠르고 효율적인 추론을 제공하는 최적화된 추론 엔진과 산업 표준 API, 마이크로서비스 아키텍처로 구성되어 있습니다. 마이크로서비스 아키텍처의 경우 독립적으로 배포 및 관리할 수 있는 것들로 구성된 것이기 때문에 확장성 측면에서도 좋을 것 같은데요. 구성 요소들을 쭉 훑어보니, “AI 서비스를 개발하고 도입하는 전 과정을 NIM으로 해결하라”는 엔비디아의 강력한 메시지가 읽힙니다.

NIM을 활용하여 컨테이너화된 모델을 통해 어디서나 쉽게 배포할 수 있고, 마이크로서비스 아키텍처로 인해 필요한 부분만 업데이트하거나 확장할 수 있습니다. 대규모 AI 모델 배포를 위해 최적화된 환경을 제공하기 때문에 기업에서 추후 서비스의 확장 등을 계획할 때도 NIM의 도움을 받을 수 있는데요. AI 도입과 비즈니스의 실현 측면에서 효율성을 높여주는 방향의 플랫폼이라 정리할 수 있겠습니다.

 

 

 

[ 엔비디아는 이미 시총 2위를 넘는 기업인데, NIM을 제시한 이유는 무엇일까요? ]

엔비디아는 인공지능(AI) 기술의 선두 주자로서 끊임없이 혁신을 추구해 왔습니다. 물론 GPU의 명가이자 AI 인프라 산업의 선두 주자로 인식이 다수이긴 하지만요. 엔비디아는 과거에도 ‘GPU’에서 시작해 그와 관련된 개발 분야와 산업 전체를 컨트롤할 수 있는 플랫폼과 커뮤니티의 운영을 병행해 왔습니다. NIM도 비슷한 맥락의 움직임으로 볼 수 있습니다. 엔비디아가 앞으로 AI 산업 전체를 컨트롤하는 제1의 기업이 되겠다는 야망이 보이는 것 같기도 하지요. 엔비디아가 어떻게 성공할 수 있었던 것인지 설명하여 드리는 콘텐츠가 마침 AI 피드에 있답니다.

👉 세계 시총 3위 엔비디아, 어떻게 AI 산업을 장악했을까?

엔비디아에서 발표한 내용을 중심으로 NIM의 개발 배경을 알아보자면, AI 모델의 대규모 배포와 운영의 복잡성을 해결하고자 하는 목표가 있었다고 합니다. TEN에서도 늘 이야기하는 내용이지만, AI가 실현할 수 있는 가치와 그로 인한 사회 변화 가능성은 엄청납니다. 그러나 AI 인프라를 구축하는 단계에서부터 어려움을 겪기 시작해, 비용 관리는 물론이고, AI 개발과 모델 배포도 전문 지식이 없으면 쉽지 않을 만큼 다수의 허들을 갖고 있는데요. 엔비디아는 이 과정에서 자신들이 할 수 있는 역할을 찾아낸 것입니다. 기존의 AI 모델 배포는 많은 노하우와 전문 지식을 요구하며, 특히 생산 환경에서 안정적으로 운영하기 어려우니, 엔비디아가 자신들의 노하우를 마이크로서비스의 형태로 나누겠다는 것입니다.

 

 

 

[ NIM, 당신은 어떤 상황에서 만날 수 있나요? ]

NIM은 다양한 산업 분야에서 활용될 수 있습니다. 특히, 대규모 데이터에서 유용한 정보를 빠르게 추출하고 활용할 수 있도록 하는 데 유용한 데요. Retrieval Augmented Generation(RAG) 모델을 지원하기 때문입니다. RAG가 무엇인지 궁금하실까봐, 지난 AI 피드 콘텐츠 중에 RAG와 관계된 내용을 살짝, 두고 갑니다.

👉 LLM을 더 정확하게, 믿음직스럽게! RAGOps

NIM을 대체 어떤 상황에서 사용하면 도움이 되는지, 좀 더 구체적인 예시가 있어야 확 와닿으시겠지요? 가장 먼저 꼽을 수 있는 예시는 기업 데이터 분석이 있습니다. NIM을 SAP, Adobe, Cloudera 등의 분석 툴과 연계해서 대규모 데이터 분석에 활용할 수 있습니다. 제조 및 유통업에서는 Adobe의 분석 툴을 사용하는 경우가 많은데요. NIM을 더하면 더 나은 비즈니스 인사이트를 빠르고 쉽게 얻을 수 있습니다.

 

그리고, NIM의 본연에 가장 가까운 기능이라 할 수 있는, 고성능 AI 애플리케이션을 개발하는 경우에도 당연히 유용합니다. AI 모델을 쉽고 빠르게 배포하여 애플리케이션 개발 시간을 단축할 수 있도록 구성한 것이 바로 NIM이기 때문에, 예를 들어 고객 지원 시스템에서 실시간으로 고객 질문에 답변하는 AI 챗봇을 구축한다고 하면, 그에 투입하는 시간을 절약해서 현장 도입을 빠르게 지원할 수 있게 되겠지요.

NIM의 강점은 운영 환경에도 있습니다. AI 도입을 위하여 온프레미스로 AI 인프라를 구축하는 기업도 있겠지만, AI 도입 범위가 넓지 않으면 우선 클라우드를 기반으로 AI를 배포 및 운영하기도 하는데요. AI를 도입하는 기업이 전 세계 어디에든 있는 상황이고, 각자 구축한 인프라 구성이 다르니 모든 경우의 수를 커버할 수 있는 플랫폼이자 컨테이너가 필요하겠지요. NIM은 환경뿐만 아니라 온프레미스 서버에서도 AI 모델을 안정적으로 운영할 수 있어 다양한 IT 인프라에 유연하게 대응할 수 있습니다. 클라우드에서 온프레미스 서버로 인프라를 재구축하는 상황에서도, NIM이 적절한 답이 되어 주겠네요.

 

 

 

엔비디아의 NIM은 AI 모델 배포와 운영의 복잡성을 크게 줄여주는 혁신적인 솔루션입니다. 게다가 아직 발표 후 초기 단계이기 때문에, 향후 발전 가능성을 고려하면 CUDA처럼 절대다수가 사용하는 대체 불가능한 플랫폼이 될 수도 있을 것 같아요. 지금까지는 NVIDIA가 새로운 GPU를 공개하며 혁신을 주도했다면, 앞으로는 AI 인프라 외의 부분까지 주도하는 명실상부 AI 기업이 되지 않을까 기대해 봅니다. 물론, NIM을 통해 다른 기업들도 AI 기술을 더욱 효율적으로 활용할 수 있으며, 다양한 산업 분야에서 새로운 기회를 창출할 수 있을 테니 산업 전반에서도 AI로 인한 변화가 더 두드러지게 나타나게 되지 않을까 싶네요. 지금까지 에디터 SA였습니다.