Tech & Product/AI, 더 깊게
|
2024. 4. 1.
RA:X 서비스 개발자의 인사이트: 혼합 정밀도와 GPU 성능 비교
안녕하세요. 저는 TEN에서 RA:X(랙스) 서비스를 담당하는 개발자 정수현입니다. RA:X(랙스)는 AI 인프라 전문 기업 TEN에서 작년 11월에 공개한 AI 인프라 구축 컨설팅 서비스입니다. 고객의 니즈와 상황을 고려한 테스트 데이터를 기반으로 AI 인프라 구성을 제안하는, 합리적인 컨설팅을 제공하고 있습니다. 왜 RA:X(랙스)가 세상에 공개되었는지 궁금해하시는 분들도 있을 것 같습니다. 지금은 AI 인프라 구축에 있어 각 HW 벤더들이 추천하는 것, 그리고 그 벤더들의 파트너사를 통한 추가 HW 요소들을 중심으로 구매 후 구축하는 경우가 많은데요. 이런 경우에는 구체적인 참고 데이터가 없더라도 어쨌든 우수한 사양으로 인프라를 구축하는 방향을 선택하시게 될 겁니다. 그런데 그 결과, 책임은 인프라..
