본문 바로가기

AI Feed

mlops

AI Pub Dev를 사용하면 AI 개발 환경, 이렇게 달라집니다 AI Pub Dev로 AI 개발 환경, 이렇게 달라집니다AI 개발 환경을 구축하고 운영해본 경험이 있는 분이라면누구나 이런 고민을 해보셨을 겁니다. •학습 환경을 매번 다시 세팅하는 비효율•워크로드가 꼬이면 원인 찾느라 하루가 간다•협업은 늘 귀찮고, 권한 관리는 더 복잡하다 이런 문제는 GPU 인프라가 AI 개발에 최적화되어 있지 않아서 생기는 일입니다.AI Pub Dev는바로 이 지점을 해결합니다. ✅ AI Pub Dev란? AI Pub Dev는 AI 개발·학습에 최적화된 MLOps 도구입니다.복잡한 환경 설정 없이, 쉽고 빠르게 개발에 집중할 수 있도록 만들어졌습니다. 핵심 가치GPU 자원의 효율적 관리 + 개발자 편의성 + 반복 가능한 AI 실험 환경 🔍 어떻게 바뀌나요? 1️⃣ 개발 환..
AI 인프라 오케스트레이션이 필요한 3가지 상황 GPU 자원, 아직도 고정 할당하고 계신가요?🧩 이런 상황, 실무에서 익숙하지 않으신가요?“GPU는 많은데 작업 대기열은 왜 줄지 않죠?”“AI 모델은 커지는데 GPU는 여전히 제자리예요.”“프로젝트가 끝나도 리소스 회수는 없어요…”이처럼 GPU 자원을 "전용처럼 고정 사용"하고 있다면,지금이 바로 AI 인프라 오케스트레이션을 고려할 시점입니다. 🔍 AI 인프라 오케스트레이션이란?**AI 인프라 오케스트레이션(AI Infrastructure Orchestration)**은AI 모델 학습 및 추론과 같은 워크로드 실행을 위한 GPU, CPU, 스토리지 등 인프라 자원을 자동으로 할당·최적화·관리하는 기술입니다.✅ 주요 기능자원 프로비저닝 및 할당→ GPU, CPU 등 자원을 필요 시점에 동적으로 배정..
LLM을 더 정확하게, 믿음직스럽게! RAGOps 최근 AI 피드에서는, AI 기술의 발달과 패러다임의 변화를 반영하여 새롭게 정의한 프레임워크, 프로세스 등을 소개해 드리고 있습니다. MLOps의 연장선에서 새롭게 접할 수 있는 개념으로 GenAIOps와 LLMOps를 소개해 드렸는데요. 혹시, 아직 보지 못하셨거나 가물가물하신 분들도 있을 것 같아 잠시 소개해 봅니다.👉 생성형 AI 도입에 맞는 MLOps? 더 세분화해서 GenAIOps! 👉 LLM 기반 개발을 생각하세요? 그럼 LLMOps를 기억하세요!이번 [AI, 더 쉽게]는 앞서 소개한 GenAIOps, LLMOps처럼 MLOps에서 출발하지만, 새로운 개념에 관해 이야기해 보려 하는데요. 바로 RAGOps입니다. GenAIOps나 LLMOps는 그 이름에서부터 개념에 대한 짐작이 가능했는..
LLM 기반 개발을 생각하세요? 그럼 LLMOps를 기억하세요! AI의 패러다임이 LLM에서 LMM으로 옮겨가고 있지만, 우리가 일상에서 접할 수 있는 AI 서비스와 그로 인한 혁신을 생각하면, 여전히 LLM의 역할은 굳건합니다. LLM은 모델들은 대화형 AI, 자동 번역, 텍스트 생성 등 다양한 응용 프로그램에서 사용되고 있는데요. 최근 갤럭시 S24 이하 모델들에 OneUI 업데이트가 진행되고 나서 제공되는 일부 기능들이 바로 ‘LLM’을 바탕으로 하고 있다고 생각하시면 됩니다.이러한 LLM의 성공적인 배포 및 운영을 위해서는 특별한 관리와 운영 프로세스가 필요한데요. 우리가 알고 있는 MLOps, 그리고 지난주 AI 피드에서 이야기한 GenAIOps와도 다른 개념입니다. GenAIOps는 프레임워크라고 보아야 하고, 이번에 소개해 드릴 개념은 ‘프로세스’입니다...
생성형 AI 도입에 맞는 MLOps? 더 세분화해서 GenAIOps! AI가 다양한 산업 분야에 큰 영향을 미치고 있는 가운데, AI 기술의 발전은 더욱 가속화되고 있습니다. 특히 생성형 AI는 놀라운 가능성을 보여주고 있는데요. 각 산업 분야에서 AI를 비즈니스 프로세스를 혁신하는 도구로 인지하면서 도입 규모와 방향 모두 다양합니다. 이제 우리는 새로 출시되는 제품들이 온디바이스AI일 것이라는 기대를 자연스럽게 하고 있지요.하지만, AI의 잠재력을 최대한 활용하려는 각 산업의 움직임에 적절한 방식이 적용되어 있을까요? AI 피드에서 자주 언급해 왔던 내용이지만, AI를 도입하는 과정에는 적절한 개발, 배포 및 운영 체계가 필요합니다. 그래서 DevOps의 개념을 AI에 적용해 나가, 이제는 'GenAIOps'라는 개념이 나오게 되었는데요. 이번 AI 피드에서는 이 ‘Ge..
주식회사 텐 AI Pub, GS인증 1등급 획득… 효율성과 편의성에 높은 점수 AI 인프라 전용 MLOps 솔루션을 서비스하는 주식회사 텐(대표 오세진)의 주력 솔루션 제품인 AI Pub 이 GS(Good Software) 인증 1등급을 획득했다. 관련 기사 보기 > 텐, ‘AI Pub’으로 GS인증 1등급 획득 텐, AI 인프라 ML옵스 솔루션 'AI 펍' GS인증 획득 AI 인프라 MLOps 텐, GS인증 1등급 획득...비용 절감하고 효율적 텐 솔루션 AI Pub, GS 인증 1등급 획득 AI 인프라 솔루션 업체 텐 "'AI Pub' GS 인증 1등급 획득" 주식회사 텐, AI 인프라 전용 MLOps 솔루션 AI Pub으로 GS인증 1등급 획득 주식회사 텐 AI Pub, GS 인증 1등급 획득… 효율성과 편의성에 높은 점수
텐, CIO 리뷰로부터 '유망받는 한국 테크기업' 선정됐다 텐이 글로벌 기술 매거진 CIO Review가 선정한 '2023년 가장 유망한 한국 테크기업'으로 선정됐다. 텐은 ‘쿠버네티스’ 기반으로 AI 학습/운영에 맞게 효율적으로 GPU 리소스를 관리하거나 최소 비용으로 서비스를 운영할 수 있도록 도와주는 솔루션 ‘AI Pub’을 제공하고 있다. AI Pub으로 AI 학습 및 운영에 관한 각종 사업 선정과 어워드 수상, Pre-Series A 투자 유치 등으로 경쟁력과 잠재력을 인정받았다. 관련 기사 보기 > 텐, CIO 리뷰로부터 '유망받는 한국 테크기업' 선정됐다 주식회사 텐, CIO Review '2023년 가장 유망한 한국 테크기업' 선정 주식회사 텐, CIO Review '2023년 가장 유망한 한국 테크기업' 선정 텐, '2023년 가장 유망한 한국 ..
TEN : Breaking the Barriers to Entry for Implementations with AI Pub, TEN's MLOps Solution TEN is a software development company with an ambitious mission to democratize the field of artificial intelligence (AI) for all. There are three fundamental prerequisites for ensuring successful AI implementation in businesses: a skilled workforce specializing in AI development, high-quality data for training the algorithms, and a robust infrastructure to support both training and deployment of..
AI 개발, 운영에 있어 빠질 수 없는 '도커(Docker)'에 대해 알아보기! 안녕하세요, 에디터 SA입니다. AI 개발에 대한 다양한 정보들을 이제 막 접하게 되셨다면, 생소하게 다가오실 수 있는 개념 중 하나가 바로 ‘도커’와 '컨테이너'일 텐데요. '도커'는 AI 개발에 한정된 플랫폼은 아니지만, AI 개발, 머신러닝에 있어서 빠져서는 안 될 도구로 인식되고 있어요. 전에 Chat GPT의 도움을 받아 ‘도커’의 개념을 이해하는 콘텐츠로 찾아 뵙기도 했었지요. 👉 AI 계의 셀럽 ChatGPT에 도커에 대해 묻다 AI 개발을 예로 들면, MLOps의 도입 등 Micro Service들이 잘게 나뉘고, 안 그래도 복잡하고 어려운 AI 개발을 더 복잡하게 관리하게 되면서, 개발 환경을 수시로 다시 설정해야 하는 서버 관리 작업은 번거롭기도 하지만 상황에 따라 가장 큰 문제가 될 ..