본문 바로가기

AI Feed

ai pub ops

우리나라의 AI 산업은 지금 어떻냐고요? 열심히 달리는 중! 요새 AI 산업 내에서 무슨 일이 일어나고 있는지 알게 될 때마다, 놀랍고 신기하다는 생각이 끊이지 않는데요. 더 나은 성능의 AI 인프라 요소들, GPU나 패브릭(케이블)이 등장하고, 전보다 더 똑똑해진 AI 모델이 등장하는 게 쉬운 일은 아닐 텐데도, 관련 소식들이 연이어 들려오고 있으니까요. 오죽하면 일주일만 AI 소식을 멀리해도 긴 시간 관심을 끊었던 것처럼 많은 것이 바뀌어 있곤 합니다.한편으로는 이런 느낌도 받습니다. 내용을 다 훑어보기도 전에, 어느 기업의 근황인지 알 것 같다, 싶은 느낌이요. 내가 아는 그 유명한 글로벌 테크 기업들 중 한 곳에서 했겠지… 하는 생각으로 각종 기사를 읽어 보고, AI 피드의 콘텐츠를 읽고 계시지는 않은가요? 에디터 SA는 종종, 그렇거든요. 워낙 자주 접하..
AI Pub 개발자가 소개하는: Kubernetes Admission Controller 안녕하세요, 에디터 TN입니다. 이번 달 [AI, 더 깊게] 에서는 AI Pub의 기반이 되는 쿠버네티스에 대해 알아보겠습니다. TEN에서 제공하는 AI Pub은 쿠버네티스(Kubernetes) 기반 플랫폼입니다. AI의 라이프사이클을 기준으로, AI Pub Dev는 개발과 학습, AI Pub Ops는 배포 및 운영에 초점이 맞춰져 있습니다.AI Pub Dev는 클라우드 및 온프레미스 클러스터에서 다수의 AI 연구자가 GPU 자원을 활용하고 관리 및 모니터링할 수 있는 플랫폼입니다. AI 워크로드의 오케스트레이션과 팀 및 클러스터 전반의 하드웨어 리소스 관리 및 가상화를 자동화하며, GPU 오케스트레이션 기능을 통해 GPU를 더욱 효율적으로 사용할 수 있습니다.AI Pub Ops는 AI 서비스를 생성, ..
AI 인프라가 AI 도입의 Key! AI 인프라 리소스 효율을 위한 다양한 노력들 AI를 도입하는 과정을 생각하면 가장 먼저 떠오르는 것은 무엇인가요? AI 모델을 바탕으로 기획한 서비스를 개발하고, 모델이 데이터를 학습하고… 일명 ‘AIOps’나 ‘MLOps’라고 이야기하는 과정을 생각하실 텐데요. 그런데 개발자분들이 AI 모델을 바탕으로 서비스를 개발하고, 서비스하는 과정 뒤에 ‘AI 도입’의 ‘키’🔑라고 할 수 있는 것이 있습니다. 직접 AI를 도입해 보신 분들만 체감한다는, 바로 ‘AI 인프라’의 구축과 관리입니다.🤓많은 분이 알고 계시다시피, AI는 도입 과정에서 자원이 계속 필요합니다. AI 인프라는 이 과정에서 나무의 단단한 줄기🌳처럼, AI가 안정적으로 도입될 수 있도록 리소스로서 기여합니다. 즉, AI 인프라는 AI를 개발, 학습, 배포하기 위해서 반드시 필요합니..