본문 바로가기

AI Feed

랙스

RA:X 서비스 개발자의 인사이트: 혼합 정밀도와 GPU 성능 비교 안녕하세요. 저는 TEN에서 RA:X(랙스) 서비스를 담당하는 개발자 정수현입니다. RA:X(랙스)는 AI 인프라 전문 기업 TEN에서 작년 11월에 공개한 AI 인프라 구축 컨설팅 서비스입니다. 고객의 니즈와 상황을 고려한 테스트 데이터를 기반으로 AI 인프라 구성을 제안하는, 합리적인 컨설팅을 제공하고 있습니다. 왜 RA:X(랙스)가 세상에 공개되었는지 궁금해하시는 분들도 있을 것 같습니다. 지금은 AI 인프라 구축에 있어 각 HW 벤더들이 추천하는 것, 그리고 그 벤더들의 파트너사를 통한 추가 HW 요소들을 중심으로 구매 후 구축하는 경우가 많은데요. 이런 경우에는 구체적인 참고 데이터가 없더라도 어쨌든 우수한 사양으로 인프라를 구축하는 방향을 선택하시게 될 겁니다. 그런데 그 결과, 책임은 인프라..
RA:X 담당 개발자가 소개하는: 인피니밴드(Infiniband) 안녕하세요. TEN에서 RA:X 서비스를 담당하는 개발자 정수현입니다.RA:X는 TEN의 AI 인프라 구축 노하우를 더한 테스트 기반의 AI 인프라 구축 컨설팅 서비스입니다. 서비스명은 간단히 '랙스' 라고 불러주시면 됩니다. 보통 AI 인프라를 구축하는 과정에서 예산을 우선하다 보니, 실제 활용도, 성능에 대한 부분을 미처 고려하지 못하고 하드웨어를 구입하는 경우가 생깁니다. TEN은 AI 인프라를 더 효율적으로 구축할 방법이 필요하다고 생각했고, 인프라 전체의 가치를 볼 수 있도록 하는 가이드라인을 만들게 됐습니다. 그 결과 RA:X는 사용자가 활용할 AI 모델, 데이터 샘플을 참고해 테스트를 거쳐, 성능 측정치에 맞춘 인프라를 구축할 수 있도록 하고 하드웨어 구입에 대한 가이드라인을 제시합니다...
텐 오세진 대표 “AI 인프라 도입 위해 맞춤형 가이드 필요” 지난해 AI가 챗GPT로 주목을 받았다면 2024년에는 국내 대기업, 스타트업의 AI 개발 성과를 확인할 수 있는 해가 될 것이라고 전문가들은 전망하고 있다. 또한 온디바이스AI 등 본격적인 ‘AI 일상화’를 준비하기 위해 AI 인프라를 도입하는 기업들도 늘어날 것으로 보인다. 관련 기사 보기 > 텐 오세진 대표 “AI 인프라 도입 위해 맞춤형 가이드 필요”