본문 바로가기

AI Feed

AI학습

엄청 큰 AI 모델은 수많은 데이터를 어떻게 학습하고 처리할까요? 안녕하세요, 에디터 SA입니다. 인공지능(AI) 모델의 학습 및 운영 효율성을 높이기 위한 다양한 기술을, AI 피드에서 많이 설명해 왔었는데요. 오늘은 모델 페럴리즘과 데이터 페럴리즘에 대해 이야기해 보려 합니다. 모델 페럴리즘(Model Parallelism)과 데이터 페럴리즘(Data Parallelism)은 AI 학습과 운영 효율성을 높이는 데에 주로 쓰이는 기술이자 접근 방식입니다. 두 접근 방식은 대규모 모델과 데이터 세트를 효과적으로 다루기 위한 방법인데요. 모델의 크기와 데이터 세트의 특성에 따라 적절한 방식을 선택함으로써 학습 효율성을 크게 향상시킬 수 있습니다.   [ 대규모 모델의 분산 학습에는 모델 페럴리즘 ]모델 페럴리즘은 대규모 신경망 모델을 여러 장치에 걸쳐 분산하여 학습하는 ..
주식회사 텐, 제 19회 디지털 이노베이션 大賞 수상 주식회사 텐(대표 오세진)이 최근 한국일보가 주관하고 과학기술정보통신부에서 후원하는 '2024년 제19회 디지털 이노베이션 대상'에서 IT 분야 대상을 수상했다.'2024년 제19회 디지털 이노베이션 대상'에는 총 380여 개의 기업이 지원했다. 주식회사 텐은 특허를 보유한 자체 기술력으로 개발 및 서비스하고 있는 ‘AI Pub(에이아이펍)’의 가치와 기술력을 인정받아, 수상 기업으로 최종 선정됐다. 관련 기사 보기 >주식회사 텐, 일반인도 AI 인프라 걱정 없이 개발·학습·관리 가능 “미래 산업은 AI 손에” 산업별 퍼스트 무브 경쟁 치열주식회사 텐, AI 인프라 전문 기업으로 2024 디지털 이노베이션 대상 수상 주식회사 텐, '2024 디지털 이노베이션 대상'서 IT분야 대상 수상 텐, AI 인프라..
GPU를 이렇게 쓴다고? MIG 모드와 효율적인 분할 사용! 안녕하세요, 에디터 SA입니다. AI 개발과 학습에 있어 꼭 필요한 것이 있습니다. 바로 ‘GPU’인데요. 이 GPU에 대해서, 소신 발언을 해볼까 합니다. GPU는… 비쌉니다.🤑 모두 알고 계시고, 공감하실 이야기일 거예요. GPU 중 특히 AI 개발에 필요한 고사양의 GPU는 더욱 비싸고, 요새는 구하기도 어렵습니다. 혹시 담당하는 프로젝트가 AI 개발에 관련된 것이라면, 제일 먼저 부딪히게 될 문제가 바로 이 ‘GPU’일 가능성이 높습니다. GPU를 어찌저찌 구하는 데 성공했다면? 다음 문제가 기다리고 있습니다. 데이터센터를 구축하기 위해 A100과 밴드 같은 적절한 하드웨어를 마련했다고 가정해 보겠습니다. 일단 개발하고 있는 AI 모델이 하나이면, GPU 하나에 AI 모델 하나를 할당하는 단순한 ..
빙글빙글 돕니다, MLOps Lifecycle 안녕하세요, 에디터 SA입니다. 처음 [AI, 더 쉽게]의 콘텐츠로 소개해 드렸던 내용, 혹시 기억나시나요? 🤓 MLOp와 MLOps Lifecycle를 톺아보았었는데요. 아무래도 첫 주제이고 간략하게 소개해 드리다 보니, MLOps Lifecycle에 대한 상세한 설명을 해드리지 못해, 아쉬움이 있었어요. 혹시 기억이 가물가물하시다면, 한 번 보고 오세요! 👉 머신러닝, MLOps와 MLOps Lifecycle 톺아보기 MLOps는 DevOps의 개념을 머신러닝에 도입한 방법론입니다. DevOps는 프로세스에 따라 개발, 운영하는 과정을 도식화하면, 원 또는 8자로 표현되는 사이클이 완성되는데요. MLOps도 DevOps의 개념을 도입하였으므로, 개발/학습/운영을 거듭하여 더 나은 머신러닝 아웃풋을 내..