AI 반도체 기업 세레브라스(Cerebras Systems)가 대규모 AI 모델의 추론 속도를 높이기 위한 랙 규모 시스템 ‘CS-4’를 공개했다. 엔비디아 GPU처럼 여러 개의 작은 칩을 연결하는 대신 웨이퍼 크기의 프로세서 3개를 한 시스템에 넣어 AI 연산과 데이터 이동 속도를 끌어올린 것이 특징이다.
8월20일 HPCwire에 따르면 CS-4에는 WSE-3 터보(WSE-3T) 3개가 들어간다. 전체 AI 연산 성능은 750페타플롭스(PFLOPS), 메모리 대역폭은 초당 129.6페타바이트다. WSE-3T 하나에는 4조개의 트랜지스터와 90만개의 AI 코어, 44GB SRAM이 집적됐다.
세레브라스는 일반적인 AI 반도체와 설계 철학부터 다르다. 반도체 제조 과정에서는 원형 실리콘 웨이퍼 위에 여러 개의 작은 칩을 만든 뒤 잘라 사용하는 것이 일반적이다. 세레브라스의 WSE는 웨이퍼 자체를 하나의 거대한 프로세서로 사용한다. 수많은 GPU 사이에서 데이터를 주고받을 때 발생하는 통신 병목을 줄이겠다는 전략이다.
세레브라스는 8월18일 공식 발표에서 오픈AI의 GPT-OSS-120B를 이용한 자체·제3자 벤치마크에서 사용자당 초당 4400개 이상의 토큰을 생성했다고 밝혔다. 회사는 이를 GPU 기반 시스템보다 최대 30배 빠른 수준이라고 주장한다. 다만 실제 성능 차이는 모델과 시스템 구성, 작업 종류에 따라 달라질 수 있어 회사가 제시한 수치를 일반적인 GPU와의 성능 격차로 볼 수는 없다.
칩 경쟁에서 ‘랙 전체 설계’ 경쟁으로
CS-4의 또 다른 특징은 ‘넥서스(Nexus)’라는 새 랙 아키텍처다. 프로세서와 전력 공급, 액체 냉각, 입출력 장치를 모듈화한 ‘웨이퍼 스케일 백팩’을 채택했다. 웨이퍼 간 지연시간은 최저 2마이크로초(100만분의 2초)로 줄였다. 세레브라스는 이를 이용하면 10조개가 넘는 매개변수의 모델에서도 초당 1000개 이상의 토큰을 생성하고, 50조개 이상 매개변수 모델까지 확장할 수 있다고 설명했다.
로이터는 8월19일 CS-4가 기존 시스템보다 부품 수를 50% 줄여 데이터센터 설치도 단순화했다고 전했다. 세레브라스는 2027년 차세대 칩도 내놓을 계획이다.
이 같은 접근은 엔비디아가 장악한 AI 가속기 시장에서 차별화를 노린 것이다. GPU 기반 AI 시스템은 수십~수천개의 프로세서를 고속 네트워크로 연결해 성능을 확장한다. 반면 세레브라스는 처음부터 거대한 프로세서와 이를 연결하는 시스템을 함께 설계해 통신 부담을 줄이는 방식을 택했다. AI 모델이 커질수록 연산 성능뿐 아니라 메모리와 칩 사이에서 데이터를 얼마나 빨리 이동시키느냐가 전체 처리 속도를 좌우하기 때문이다.
시장조사업체 퓨처럼그룹은 8월20일 CS-4의 의미를 단순한 칩 성능 향상보다 전력 공급·냉각·네트워크를 함께 재설계한 데서 찾았다. AI 반도체 경쟁이 개별 칩의 연산능력을 넘어 랙 전체의 전력 효율과 데이터 이동 속도를 겨루는 단계로 확대되고 있다는 것이다.
다만 CS-4는 전통적인 슈퍼컴퓨터를 대체하는 장비는 아니다. HPCwire는 과학 시뮬레이션 등에 필요한 FP64(64비트 부동소수점) 연산보다 AI용 16비트 연산에 초점을 맞췄다고 지적했다. 대신 슈퍼컴퓨팅센터에서 기존 HPC 시스템 옆에 배치돼 AI 학습·추론을 담당하는 가속 시스템으로 활용될 가능성이 있다.