DDN(DataDirect Networks)이 슈퍼마이크로(Super Micro Computer)·솔리다임(Solidigm)과 함께 엔비디아(Nvidia)의 AI 데이터 플랫폼을 기반으로 한 ‘DDN 엔터프라이즈 AI 하이퍼팟(DDN Enterprise AI HyperPOD)’을 선보였다. 기업이 AI 추론 작업에 필요한 저장장치·네트워크·컴퓨팅 자원을 하나의 통합 솔루션으로 구축하도록 해 배포와 확장 과정의 복잡성을 줄이는 것이 핵심이다.
실리콘앵글(SiliconANGLE)은 8월 28일 슈퍼마이크로 오픈 스토리지 서밋 인터뷰 시리즈를 통해 공개된 DDN·슈퍼마이크로·솔리다임 관계자들의 설명을 보도했다. 앤드루 머피 DDN 제품관리 선임이사와 마이클 앵 슈퍼마이크로 스토리지 솔루션 이사, 폼피 나그라 솔리다임 제품·생태계 담당자는 기업용 AI 인프라의 변화와 세 회사의 협업 내용을 소개했다.
기업 고객은 기존에 저장장치와 네트워크, 컴퓨팅 플랫폼을 각각 구매한 뒤 직접 조합하는 방식을 주로 택했다. 그러나 마이클 앵 이사는 이 방식으로는 솔루션을 완성하는 데 오랜 시간이 걸린다며, 바로 AI 작업을 시작하고 데이터를 수익화할 수 있는 통합 플랫폼이 더 적합하다고 말했다. 고객이 개별 장비를 연결하는 데 시간을 쓰기보다 업무에 맞는 플랫폼을 선택해 AI 작업을 즉시 활용해야 한다는 설명이다.
하이퍼팟은 AI 작업에 따라 여러 종류의 플래시 메모리를 사용할 수 있다. 폼피 나그라 담당자는 AI 작업 결과를 SSD에 재사용하면 같은 연산을 반복할 필요가 줄어 GPU 활용률을 높일 수 있다고 설명했다. 대규모언어모델(LLM)이 더 많은 데이터를 요구하면서 플랫폼의 병목이 컴퓨팅에서 저장장치로 옮겨가고 있으며, 키-값 캐시 데이터를 저장할 용량도 중요해졌다는 것이다. 고대역폭메모리(HBM)나 주 메모리는 같은 작업을 다시 계산하는 데 쓰이는 반면 SSD는 용량 중심의 저장 수요에 대응할 수 있다고 덧붙였다.
DDN은 엔비디아 AI 데이터 플랫폼의 참조 설계와 협력해 별도 조정 작업을 줄인 턴키형 솔루션을 구성했다. 온프레미스 환경에 배치할 수 있어 기업과 정부 기관이 데이터 보안·거버넌스·데이터 저장 지역을 직접 관리할 수 있고, 여러 팀이 컴퓨팅·네트워크·저장장치를 공유하면서도 각자의 환경을 분리하는 멀티테넌시도 지원한다. 앤드루 머피 이사는 GPU가 데이터를 기다리며 유휴 상태에 놓이는 경우가 많다며, GPU를 최대한 활용할 수 있는 빠른 데이터 경로를 제공하는 데 초점을 맞췄다고 말했다.
패널은 기업과 정부 기관이 데이터와 지식재산, 비용을 직접 통제할 수 있는 프라이빗 또는 주권형 AI를 increasingly 찾고 있다고 설명했다. 하이퍼팟은 온프레미스뿐 아니라 하이브리드 환경에서도 운용할 수 있고, 필요한 만큼 확장하도록 설계됐다. 고객은 처음부터 고가 GPU를 대량 구매하는 대신 한 랙으로 시작한 뒤 수요가 늘면 옆에 랙을 추가하고 네트워크 케이블과 전원을 연결해 서비스를 이어갈 수 있다. 이번 인터뷰는 실리콘앵글 미디어의 라이브 스튜디오인 더큐브(theCUBE)를 통해 진행됐으며, 더큐브는 해당 행사 시리즈의 유료 미디어 파트너라고 밝혔다.