애플 실리콘용 H3-metal로 미니맥스 H3 추론 구현

이 기사는 AI가 원문을 바탕으로 작성했습니다. 출처 선정과 발행 기준은 편집부가 관리합니다. AI 활용 원칙

애플 실리콘에서 미니맥스(H3) 추론을 Metal로 돌리는 프로젝트 ‘H3-metal’이 공개됐다.

프로젝트는 8월 11일 깃허브(github.com)에서 ‘MiniMax-H3 inference for Apple Silicon’이라는 형태로, 동작하는 여러 ‘수직 조각(vertical slices)’을 순서대로 쌓아가고 있다고 소개했다. 먼저 호스트·모델 메타데이터를 결정적으로 만든 뒤 Metal 블록을 이식 가능하게 맞추고, 프롬프트 인코딩과 프롬프트-투-비디오·오디오, 첫·마지막 프레임 조건 설정, 순서 기반 Ref2VA 참조를 이어서 end-to-end로 구현하고 있다는 설명이다. 이어 현재 단계에선 M3 Max와 M5 Max에서의 H3 특화 Metal 성능 및 메모리 최적화 작업이 진행 중이라고 밝혔다.

프로젝트는 모델 레이아웃을 확인하고 선택된 Metal 디바이스를 출력하는 옵션도 제공하며, 모든 가중치를 매핑하거나 미디어를 생성하지 않는다고 설명했다. 예시 사용은 Hugging Face 스냅샷이 ./MiniMax-H3에 있고, FFmpeg와 FFprobe가 PATH에 있어야 한다고 적었다. –info는 레이아웃과 디바이스 선택만 점검하는 용도이며, 사용자는 ./h3 –help로 전체 CLI 레퍼런스를 확인하라고 안내했다.

또한 -p 없이 실행하면 같은 바이너리로 Iris 스타일 대화형 세션이 시작된다고 했다. 이 세션은 BF16 프롬프트 컨디셔닝, 준비된 DiT, 비디오 디코더를 메모리에 유지해 시드(seed)를 바꿔 반복 생성할 때마다 로딩·인코딩을 다시 하지 않도록 설계됐다고 설명했다. 지원 명령으로 !status, !seed random, !seconds 2, !show, !save output.mp4, !cache 등이 제시됐다. 첫·마지막 프레임 컨디셔닝은 세션에서 유지되며, !first clear 또는 !last clear로 앵커를 제거할 수 있다.

품질·속도 평가에는 프레임 수·fps, denoising 패스 단계 수와 SSIM 비교 결과가 포함됐다. 예시로 검증된 512 스퀘어(정사각) 설정에선 24fps에서 22프레임을 생성하며, 네 단계를 쓰는 4-pass 결과가 29-pass 기준 대비 full-video SSIM 0.556(독립 surf 테스트 0.547)로 나왔다고 밝혔다. M5 Max에서는 4-pass denoise가 약 3.5초, 29-pass 레퍼런스는 26.4초가 걸렸다고 적었다. 프로젝트는 구성 변경은 한 번에 한 컨트롤씩 하라고 권고하며, 기본값은 –steps 20 –layers 50 –reuse 1이라고 안내했다. 독립적으로 작동하는 옵션으로는 –use-int8-row-fc2가 언급됐고, 512 스퀘어에서 토큰 감축(token reduction)으로 특정 denoise 프로파일 시간이 16.69초에서 12.60초로 줄었다는 수치도 제시됐다.

원문 보기 (github.com)

RELATED ARTICLES

RECOMMENDED STORIES