본문 바로가기
AI Feed

쿠버네티스

Tech & Product  |  2025. 12. 11. AI Pub Ops 4.0.0 공개 : "기반"을 넘어 "본질"이 되다 최근 ‘AI 버블’이라는 표현이 종종 언급됩니다.AI에 대한 대규모 투자 이후, 투자 대비 성과에 대한 고민이 커지고 있기 때문입니다.이 과정에서 기업들은 AI 인프라 효율화를 중요한 과제로 인식하기 시작했습니다.TEN은 기업들의 실제 운영 환경에서 축적된 요구를 반영해 한층 강화된AI 인프라 운영 플랫폼 AI Pub Ops 4.0.0을 공개했습니다.🌟 AI Pub Ops 4.0.0 Kubernetes-native 아키텍처로 진화한 AI 인프라 운영 🌟 AI Pub Ops 4.0.0은 Kubernetes의 핵심 설계 철학을 깊이 반영한 Kubernetes-native 아키텍처를 기반으로 설계되었습니다.이를 통해 AI 인프라 운영의 안정성, 확장성, 그리고 운영 일관성을 한층 강화했습니다.엔터프라이즈..
Tech & Product/AI, 더 쉽게  |  2025. 8. 13. AI 인프라를 읽고, 판단하고, 대응하는 모니터링 시스템 🖥️AI 인프라 운영은일반 서버 인프라 관리보다 훨씬 까다롭습니다. 모델 학습과 추론이 동시에 진행되기도 하고,GPU·CPU·스토리지·네트워크 자원이 여러 사용자와 서비스에 실시간으로 공유되기 때문입니다.​문제는, 이렇게 복잡하게 얽힌 환경에서 단순 수치 모니터링만으로는상황을 정확히 파악하기 어렵다는 것입니다.GPU 사용률이 80%라고 해서 성능이 잘 나오고 있다고 단정할 수 없고, 반대로 사용률이 낮다고 해서 여유 있다고 보장할 수도 없습니다.​예를 들어,• 특정 모델이 GPU 메모리를 과도하게 점유해 다른 작업에 영향을 주는 경우• 네트워크 병목으로 학습 속도가 급격히 떨어지는 경우• 일부 노드만 비정상적으로 과부하가 걸리는 경우• 이 모든 문제는 실시간 상태를 다각도로 모니터링하지 않으면 놓치기 ..
Tech & Product/AI, 더 쉽게  |  2024. 7. 31. AI를 도입하려면, 쿠버네티스를 꼭 알아야 한다고요? 여러분, 혹시 ‘쿠버네티스’ 아시나요? AI를 개발하고 운영하는 과정에서 쿠버네티스를 활용하시는 분들이 꽤 계신 것으로 알고 있는데요. 모르시는 분들도 제법 계신다는 이야기를 듣기도 해서, 문득 궁금해지더라고요. AI 피드를 계속 찾아주시는 분들은 ‘쿠버네티스’를 알고 계시는지 말이에요. AI 피드에서 이미 쿠버네티스에 관해 간단히 소개해 드린 적 있답니다. 쿠버네티스 툴도 함께 소개해 드렸었지요.👉 쿠버네티스, 오픈소스 도구로 더 알차게 쓰는 법!AI 개발과 운영 과정에서 쿠버네티스(Kubernetes)를 활용하는 것은 많은 이점을 제공하는데요. 쿠버네티스를 아예 모르시는 분들도 있다는 현장의 이야기를 전해 들은바, AI 인프라 전문기업으로서 TEN이 직접 쿠버네티스에 관해 설명하는 시간을 만들면 좋..
Tech & Product/AI, 더 깊게  |  2024. 6. 26. AI Pub 개발자가 소개하는: Kubernetes Admission Controller 안녕하세요, 에디터 TN입니다. 이번 달 [AI, 더 깊게] 에서는 AI Pub의 기반이 되는 쿠버네티스에 대해 알아보겠습니다. TEN에서 제공하는 AI Pub은 쿠버네티스(Kubernetes) 기반 플랫폼입니다. AI의 라이프사이클을 기준으로, AI Pub Dev는 개발과 학습, AI Pub Ops는 배포 및 운영에 초점이 맞춰져 있습니다.AI Pub Dev는 클라우드 및 온프레미스 클러스터에서 다수의 AI 연구자가 GPU 자원을 활용하고 관리 및 모니터링할 수 있는 플랫폼입니다. AI 워크로드의 오케스트레이션과 팀 및 클러스터 전반의 하드웨어 리소스 관리 및 가상화를 자동화하며, GPU 오케스트레이션 기능을 통해 GPU를 더욱 효율적으로 사용할 수 있습니다.AI Pub Ops는 AI 서비스를 생성, ..
Tech & Product/AI, 더 쉽게  |  2024. 2. 21. 쿠버네티스, 오픈소스 도구로 더 알차게 쓰는 법! 쿠버네티스는 AI 개발, 학습하시는 분들이라면 무척 친숙한 플랫폼입니다. AI 개발자, 또는 그와 관련된 솔루션을 개발하시는 분들은 원하든 원하지 않든 아주 오래 붙들고 있게 될 텐데요. (TEN의 개발자분들도 포함해서요🤓) 쿠버네티스(Kubernetes)는 컨테이너화된 워크로드와 서비스를 관리하기 위한 이식성이 있고, 확장성도 있는 오픈소스 플랫폼입니다. 2014년 구글에서 오픈소스로 전환한 이후로 지금까지 다양한 아이디어, 적용 사례가 결합, 누적되어 왔는데요. “K”와 “S” 사이에 8글자가 있다는 의미로 “K8s”로 표기하기도 합니다. 크고, 빠르게 성장하는 생태계를 갖춘 플랫폼이라 쿠버네티스 서비스, 기술 지원, 도구를 어디서나 쉽게 이용할 수 있다는 점이 매력적이지만, 단점 역시 존재합니다. ..
TEN Story/TEN의 움직임  |  2022. 4. 14. 텐에이아이, '쿠버네티스 기반 MLOps 플랫폼 구축' 웨비나 진행 텐 에이아이(대표 오세진)가 오는 20일 'NVIDIA GPU Workload(엔비디아 GPU 워크로드)와 애플리케이션 데이터를 쿠버네티스 기반 MLOps(머신러닝 오퍼레이션) 플랫폼으로 관리하기'를 주제로 웨비나(Webinar, 웹+세미나)를 진행합니다. 관련 기사 보기 > 웨비나 보러 가기 : https://www.allshowtv.com/detail.html?idx=993

티스토리툴바