'SKT GPUaaS' 출시, 엔비디아 'H100' 운영 시작
람다와 합작해 1분기 중 'H200' 국내 최초 도입

유영상 SK텔레콤 최고경영자(CEO) 사장이 2024년 12월 23일 SK브로드밴드 가산 데이터센터에서 GPUaaS(GPU-as-a-Service) 준비상황을 점검하고 있다. SK텔레콤 제공
SK텔레콤이 엔비디아의 최신 그래픽처리장치(GPU) 'H100'을 활용해 인공지능(AI) 가속기를 대여하는 서비스를 개시했다. 정식 출시 이전부터 100개가 넘는 기업과 대학, 연구 기관의 문의가 쏟아지고 있다.
SK텔레콤은 12월 서울 가산동 SK브로드밴드 데이터센터에 '가산 AI 데이터센터(AIDC)'를 개설하고 AI 클라우드서비스 'SKT GPUaaS(GPU-as-a-Service)'를 출시했다고 13일 밝혔다. GPUaaS란 AI 학습에 쓰이지만 최근 품귀 현상을 빚은 고성능 GPU와 서버·방화벽·전용회선 등을 맞춤형으로 빌려주는 서비스를 뜻한다. 가산 AIDC는 서버용 랙(단일 선반)당 전력 밀도가 국내 최고 수준인 44킬로와트(㎾)로 국내 평균의 약 아홉 배에 이른다. AI용 고밀도 GPU 서버 운영에 안성맞춤이다.
SKT는 새 AIDC에 엔비디아의 최신 GPU H100을 들여왔다. 국내에 도입된 GPU 중 가장 성능이 좋다. 올해 1분기(1~3월) 중에는 바로 다음 세대 GPU인 H200을 국내 최초로 도입해 국내 기업들이 빠르게 AI 기술·서비스를 만들 수 있는 환경을 제공할 예정이다. 글로벌 GPU 클라우드 전문 회사인 미국 람다가 SKT와 GPUaaS 사업을 합작했는데 람다는 엔비디아의 최신 GPU를 가장 빠르게 확보하는 기업 중 하나다.

SK브로드밴드 서울 구로구 가산 데이터센터에 구축된 '가산 AI 데이터센터' 서버 랙(선반) 모습. SK텔레콤 제공
SKT는 GPUaaS 정식 출시 전부터 100개가 넘는 기업이 구체적 내용을 문의하는 등 서비스에 대한 업계 관심이 높았다고 밝혔다. 이들은 △고성능 GPU 활용에 따라 AI 모델 학습 기간을 줄일 수 있고 △GPU를 합리적 가격에 짧은 기간도 이용 가능하며 △서버 구매와 데이터센터 운영 고민 없이 GPU 자원을 바로 사용할 수 있다는 점을 장점으로 꼽았다.
SKT는 지난해 'AI 인프라 슈퍼 하이웨이' 구축 전략을 짰는데 가산 AIDC 외에도 지역 거점에 추가 AIDC를 만들려고 하고 있다. 김명국 SKT GPUaaS사업본부장은 "이번 GPUaaS 출시는 AIDC 사업이 고객에게 다가가는 첫 번째 사례로 SK텔레콤이 AI 인프라 핵심 사업자로 자리매김하는 데 의미가 크다"며 "국가 AI 경쟁력을 높이는 GPU 팜으로 구축하겠다"고 밝혔다.
관련 이슈태그
기사 URL이 복사되었습니다.
댓글0