본문 바로가기

AI Feed

AI학습

GPU를 이렇게 쓴다고? MIG 모드와 효율적인 분할 사용! 안녕하세요, 에디터 SA입니다. AI 개발과 학습에 있어 꼭 필요한 것이 있습니다. 바로 ‘GPU’인데요. 이 GPU에 대해서, 소신 발언을 해볼까 합니다. GPU는… 비쌉니다.🤑 모두 알고 계시고, 공감하실 이야기일 거예요. GPU 중 특히 AI 개발에 필요한 고사양의 GPU는 더욱 비싸고, 요새는 구하기도 어렵습니다. 혹시 담당하는 프로젝트가 AI 개발에 관련된 것이라면, 제일 먼저 부딪히게 될 문제가 바로 이 ‘GPU’일 가능성이 높습니다. GPU를 어찌저찌 구하는 데 성공했다면? 다음 문제가 기다리고 있습니다. 데이터센터를 구축하기 위해 A100과 밴드 같은 적절한 하드웨어를 마련했다고 가정해 보겠습니다. 일단 개발하고 있는 AI 모델이 하나이면, GPU 하나에 AI 모델 하나를 할당하는 단순한 ..
빙글빙글 돕니다, MLOps Lifecycle 안녕하세요, 에디터 SA입니다. 처음 [AI, 더 쉽게]의 콘텐츠로 소개해 드렸던 내용, 혹시 기억나시나요? 🤓 MLOp와 MLOps Lifecycle를 톺아보았었는데요. 아무래도 첫 주제이고 간략하게 소개해 드리다 보니, MLOps Lifecycle에 대한 상세한 설명을 해드리지 못해, 아쉬움이 있었어요. 혹시 기억이 가물가물하시다면, 한 번 보고 오세요! 👉 머신러닝, MLOps와 MLOps Lifecycle 톺아보기 MLOps는 DevOps의 개념을 머신러닝에 도입한 방법론입니다. DevOps는 프로세스에 따라 개발, 운영하는 과정을 도식화하면, 원 또는 8자로 표현되는 사이클이 완성되는데요. MLOps도 DevOps의 개념을 도입하였으므로, 개발/학습/운영을 거듭하여 더 나은 머신러닝 아웃풋을 내..