[뉴스토마토 오세은 기자] 국내 통신사업자 1위
SK텔레콤(017670)이 첨단 반도체 수천 개가 집약된 인공지능 데이터센터(AI DC)를 곧 선보입니다. 비 반도체 회사임에도 AI DC를 앞세워 AX(AI 전환)에 박차를 가하고 있는 모습인데, 이같은 움직임을 가능하게 하는 핵심 전략으로는 국내외 기업을 아우르는 '전략적 협업'이 지목됩니다.
21일 업계에 따르면 SK텔레콤은 다음 달 서울 가산동에 AI DC 문을 엽니다. 기존 SK브로드밴드의 DC에 엔비디아의 차세대 AI칩 H100 수천 개를 투입, AI DC로 전환하는 것인데요. 미국 GPU 클라우드 기업 람다가 보유한 H100 자원이 이곳에 배치됩니다.
전 세계적으로 H100, 200은 글로벌 IT 기업들이 생성형 AI 고도화를 위해 앞다퉈 확보하려는 칩으로 수요 대비 공급이 부족한 상황입니다. SK텔레콤이 대량의 H100을 확보할 수 있었던 배경에는 AI 클라우드 서비스를 제공하는 람다와의 전략적 협업이 자리하는데요. SKT와 람다는 생성형 AI 고도화를 위해 엔비디아 칩이 필수적이나 이를 확보하지 못하는 스타트업 등을 대상으로 GPU 기반 구독형 AI 클라우드 서비스(GPUaaS)를 제공하는 시장을 공략할 방침입니다.
SK텔레콤과 그룹 계열사, 해외 기업 간 삼각 협력은 다른 곳에서도 발견됩니다. SKT는 고전력·고성능 GPU가 대거 탑재되는 AI DC 운영에서 핵심적인 기술로 꼽히는 ‘액침 냉각’ 기술 확보를 위해 SK이노베이션 윤활유 사업 자회사인 SK엔무브와도 기술 협력에 나선 상태인데요. 여기서 설비 부분은 미국 액침냉각 스타트업인 GRC가 담당합니다.
11월 4일부터 5일까지 서울 삼성동 코엑스에서 개최된 'SK AI 서밋 2024'에서 SK텔레콤과 SK엔무브, GRC가 함께 선보인 액침 냉각 기술 목업. (사진=뉴스토마토)
액침 냉각 기술은 에어컨과 같은 기체 중심의 냉각 방식(공랭식)에서 벗어나 액체를 활용해 바로 온도를 낮추는 방식입니다. 막대한 열을 액체를 활용해 식히겠다는 것인데 설치 비용은 공랭식보다 3배 이상 높은 것으로 알려졌습니다.
초기 인프라 구축 비용은 공랙식보다 높지만 기존 냉각 팬을 별도로 설치할 필요가 없어 더 많은 서버 공간을 확보할 수 있습니다. 뿐만 아니라 액침 냉각 기술을 활용하면 전력 효율도 최대 90%까지 높일 수 있어 AI DC 운영에는 필수 인프라로 꼽히고 있습니다. 엔비디아도 올 4분기에 출시될 AI 반도체부터 액체 냉각을 본격 도입한다는 계획이며, 마이크로소프트(MS)는 2018년부터 해저에 데이터센터를 짓는 ‘나틱 프로젝트’를 진행하고 있습니다.
SK 관계자는 “액침 냉각 시스템은 별도로 열을 식히는 장치 시설 필요 없이 서버 자체를 액체에 담그는 기술이어서 DC 내 물리적 공간을 45% 줄일 수 있다”고 설명했습니다. 시장조사업체 트렌드포스에 따르면 서버에 적용되는 액체 냉각 시스템 보급률은 올해 약 10%에서 내년 20% 이상으로 증가할 것으로 예상되고 있습니다.
이처럼 SKT는 AI DC 구축에 필요한 핵심 요소 3가지인 AI칩, 액침 냉각 기술, 네트워크 망 등을 SK그룹 계열사 및 해외 유망 기업들과의 협업으로 확보해나가는 모습인데요. 유영상 SKT 최고경영자(CEO)는 최근 ‘SK AI 서밋 2024’에서 “SK가 보유하고 있는 고효율의 차세대 반도체와 액침냉각 등 에너지 솔루션, AI 클러스터 운영 역량을 결합할 경우 보다 저렴한 비용으로 효율적인 AI DC를 구축할 수 있다”고 말했습니다.
서울 가산동에 위치한 SK브로드밴드 데이터센터. (사진=SK브로드밴드)
오세은 기자 ose@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김나볏 테크지식산업부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지