생성형 AI 도입에 맞는 MLOps? 더 세분화해서 GenAIOps!

AI가 다양한 산업 분야에 큰 영향을 미치고 있는 가운데, AI 기술의 발전은 더욱 가속화되고 있습니다. 특히 생성형 AI는 놀라운 가능성을 보여주고 있는데요. 각 산업 분야에서 AI를 비즈니스 프로세스를 혁신하는 도구로 인지하면서 도입 규모와 방향 모두 다양합니다. 이제 우리는 새로 출시되는 제품들이 온디바이스AI일 것이라는 기대를 자연스럽게 하고 있지요.

하지만, AI의 잠재력을 최대한 활용하려는 각 산업의 움직임에 적절한 방식이 적용되어 있을까요? AI 피드에서 자주 언급해 왔던 내용이지만, AI를 도입하는 과정에는 적절한 개발, 배포 및 운영 체계가 필요합니다. 그래서 DevOps의 개념을 AI에 적용해 나가, 이제는 'GenAIOps'라는 개념이 나오게 되었는데요. 이번 AI 피드에서는 이 ‘GenAIOps’가 무엇인지 이야기하려 합니다.

 

 

 

[ GenAIOps, DevOps의 효율성을 AI로 ]

GenAIOps는 생성형 AI의 개발, 배포 및 운영을 통합하는 새로운 프레임워크입니다. DevOps가 소프트웨어 개발과 IT 운영을 결합하여 효율성을 높이고 협업을 촉진했다면, GenAIOps는 이 철학을 확장하여 생성형 AI 프로젝트에 적용한 것인데요. AI 솔루션을 비즈니스 프로세스에 원활하게 통합해서, 확장 가능성, 신뢰성, 지속 가능성의 측면에서 잘 기능할 수 있도록 도와줍니다.

GenAIOps를 이야기하는데 왜 ‘DevOps’를 언급했는지 궁금하신 분들이 있으실 수도 있겠어요. 심지어 이번 아티클 제목은 MLOps의 세분화를 이야기하고 있는데 말이죠. DevOps는 다양한 솔루션의 개발 프로세스의 원형이 되곤 하는데요. AI도 예외는 아닙니다. DevOps는 개발과 운영 간의 협업을 촉진하면서 소프트웨어 개발의 효율성을 높였기에, 처음 개념이 등장하고 얼마 되지 않아 보편적으로 적용하는 프로세스이자 프레임워크 개념이 되었는데요. AI의 중요성이 커지면서 새로운 국면을 맞게 되었습니다.

생성형 AI가 중요한 역할을 하게 되면서, 기존의 DevOps로는 커버하지 못하는 AI만의 영역이 있다는 점을 주목하게 되었습니다. 새로운 접근 방식이 필요하게 된 것이지요. 그 결과 MLOps의 개념이 등장하게 되었습니다만, 거기서 더 확장한 것이 생성형 AI를 위해 재편된 프레임워크인 GenAIOps입니다. DevOps의 민첩하고 협력적인 정신을 유지하면서도, AI 프로젝트의 독특한 요구 사항을 충족시키는 방향으로 변한 것이지요. IT와 개발팀뿐만 아니라 데이터 과학자, AI 윤리 전문가, 비즈니스 이해관계자 간의 협업까지 포함합니다.

 

 

 

[ GenAIOps, 생성형 AI 기술의 잠재력까지 커버한다! ]

출처: https://genaiops.ai/

GenAIOps의 핵심은 SSPOCC에 있습니다. SSPOCC란 보안, 지속 가능성, 검증, 가시성, 능력, 맥락을 의미하는 각 단어의 영문 앞 글자를 딴 것인데요. 이 SSPOCC 프레임워크는 생성형 AI 기술의 잠재력을 최대한 활용할 수 있도록 돕는 방법론, 관행 및 도구를 제공하고 있습니다. 자세한 내용을 살펴보지 않아도 SSPOCC의 의미에서, 어떤 방향의 방법론, 관행, 도구를 적용하고 있는지 어느 정도 유추할 수가 있습니다.

생성형 AI의 도입에는 여러 도전과제가 따릅니다. 예를 들어, LLM(대형 언어 모델)의 경우 잘못된 정보 생성, 일명 ‘환각’이라고 하는 케이스를 최소화하는 것이나, 정보 편향, 투명성 결여, 지식재산권 문제 및 사이버 보안 위협 등을 늘 고려하는 과제로 안고 가야 하는데요. GenAIOps는 이러한 문제를 해결하기 위해 AI 모델의 데이터 소스 검증, 모델 투명성 확보, 편향 완화 및 윤리적 기준 준수 등을 포함한 포괄적인 전략을 제시합니다. 이를 통해 기업은 창의성, 효율성 및 효과성을 새로운 수준으로 끌어올릴 수 있습니다.

 

 

 

[ GenAIOps, 비즈니스부터 윤리까지 챙기는 프레임워크 ]

GenAIOps를 도입한 기업은 AI 솔루션을 빠르게 개발하고 배포할 수 있습니다. 이 프레임워크를 따라 AI를 개발, 배포, 운영해 나가면 자연스럽게 AI 도입 과정에서 겪게 되는 문제에 대한 정책을 사전에 정의하고, 대비할 수도 있고요. 사실상 AI를 처음 개발하는 경우가 많은 여러 기업에는 시행착오를 줄여준다는 점에서도 이롭습니다. GenAIOps를 적용하게 되면 AI 개발, 배포, 운영에 이르는 라이프사이클을 자동화 및 최적화할 수 있게 되며, 그 결과 운영 비용을 절감하고 효율성을 극대화하는 데 도움이 됩니다.

GenAIOps의 장점으로 꼽을 수 있는 가장 큰 부분은, 비즈니스적인 니즈에 맞추어 AI를 지속적으로 변화시켜 나갈 수 있다는 점입니다. 다양한 전문가, 이해관계자들의 협업을 포함한 프레임워크이기 때문입니다. AI 솔루션의 확장과 유지 관리가 용이하게 만들어 주기 때문에, AI 솔루션이 장기적으로 지속할 수 있도록 해줍니다. GenAIOps가 다양한 협업을 보장한다는 점은 AI에 관하여 자주 제기되는 윤리적 문제, 법률적 문제에서도 안정성을 보장합니다. AI가 점점 더 보편화됨에 따라 윤리적 고려 사항 및 규제 준수가 중요해지고 있는데요. GenAIOps는 윤리적이고 산업 표준 및 규정을 준수하는 AI 솔루션을 개발할 수 있는 프레임워크를 제공합니다.

 

 

 

GenAIOps는 단순한 기술적 트렌드가 아니라, 생성형 AI를 비즈니스 운영의 핵심으로 통합하는 전략적 접근 방식이라고 보는 게 좋습니다. 물론, GenAIOps는 DevOps가 기술적 측면에서 커버하지 못하던 AI만의 특성을 맞춤으로 다룰 수 있도록 한 프레임워크입니다. 그렇다고 해도, AI 솔루션의 라이프사이클상에서 개발 이후의 일들을 다룰 때는 GenAIOps에 참여하는 다양한 구성원과 협업에서 기인한 장점들이 작용한다는 점을 생각하면, ‘전략’이라는 설명의 의미를 이해하실 수 있을 것 같습니다.

AI를 기반으로 하여 우리 사회와 산업에 일어나고 있는 변화는 아주 복잡하고 다양해서, AI를 도입하는 기업의 태도가 마치 나비효과처럼 아주 큰 변혁을 만들어낼 것으로 예상되는데요. GenAIOps는 더 효율적이고 혁신적이며 책임감 있게 AI 기술을 사용할 수 있도록 만들어 줄 것으로 보입니다. 지금까지 에디터SA였습니다.