목록

'AMD, MS 애저 VM에 AI 가속기 MI300X 도입'

• 2024.06.13 10:28
• 53
  0

MS 애저 ND는 HPC 및 AI 워크로드에 최적화된 가상 머신으로, AI 딥러닝 및 머신 러닝 모델의 훈련, 추론, 데이터 분석을 위해 설계되었습니다. MI300X를 탑재한 애저 ND는 GPT-3.5, 4 모델에 액세스할 수 있도록 지원하며, ROCm 소프트웨어 스택을 통해 GPT 추론 워크로드에서 우수한 성능을 제공합니다. 또한, 허깅 페이스도 MS 애저 ND를 활용하여 AI 모델을 가상 머신에 포팅했습니다. AMD 관계자는 MI300X와 ROCm 소프트웨어 스택을 통해 고객들이 더 큰 모델을 탑재하거나 더 적은 GPU를 사용하여 전력, 비용, 솔루션 구현 시간을 절약할 수 있도록 지원한다고 설명했습니다. MS CTO·AI 부문 수석 부사장인 케빈 스콧은 최첨단 컴퓨팅 하드웨어와 최적화된 시스템, 소프트웨어의 결합이 AI 성능과 가치를 제공하는 데 중요하다고 강조했습니다. 허깅 페이스의 줄리엔 사이먼은 ROCm 소프트웨어 생태계에 대한 협력으로 애저의 허깅 페이스 허브에서 제공되는 수십만 개의 AI 모델을 AMD 인스팅트 GPU로 실행할 수 있게 되었다고 언급했습니다. 이러한 협력을 통해 AI 고객들은 MI300X를 통해 고성능, 고효율의 솔루션을 활용할 수 있게 되었습니다.

목록
수정 삭제

이전글'넥스원소프트, 신한 SOL페이와 협력'2024.06.13
다음글'아이티센, RWA에 구리와 은 추가'2024.06.13
댓글 0

댓글목록

등록된 댓글이 없습니다.