목록

KT클라우드, 엔비디아 AI 학습용 서비스 'AI 트레인' 출시

• 2024.07.09 15:28
• 29
  0

AI 트레인은 초거대 AI 분야에서 집중적인 대용량, 고사양 GPU 공급이 필요한 학습 영역에 특화된 서비스로, KT클라우드의 HAC(Hyperscale AI Computing)과 유사한 기능을 제공한다. 이 서비스는 대규모 GPU 노드 클러스터링과 동적할당 제어 기능을 지원하며, 컨테이너 기반으로 여러 대 GPU 노드에 컨테이너 클러스터를 구성할 수 있다. 또한 GPU를 사용한 시간만 요금이 부과되고, 유휴 상태인 GPU는 자동 반납되어 비용 효율성을 높인다. AI 트레인은 엔비디아의 최신 인프라인 H100을 제공하며, A100, H100 등과 함께 사용할 수 있다. 또한 KT클라우드는 AI 반도체 스타트업 리벨리온과 협력하여 'AI 서브 NPU(SERV NPU)'를 오는 6월 선보일 예정이다. 이 제품은 기존 GPU 기반 추론용 인프라 대비 가성비를 개선하고, 자동화 유지보수 기능과 스케일링을 가능하게 한다. KT클라우드 남충범 본부장은 'AI 트레인 서비스를 통해 차별화된 AI 인프라 서비스를 제공하고, 다양한 파트너들과 협업하여 AI 클라우드 분야를 선도할 것'이라고 말했다.

목록
수정 삭제

이전글'차란차'와 '앱토스'가 협력하여 블록체인을 활용한 중고차 서비스를 개발합니다.2024.07.12
다음글중국 BYD 직원 수, 일본 토요타의 2배2024.07.09
댓글 0

댓글목록

등록된 댓글이 없습니다.