국산 AI반도체 성능지표 K-Perf가 한국전력공사의 변전소 AI 영상분석 실증에서 실제 도입 성능을 검증하는 데 처음 활용된다. 과학기술정보통신부(Ministry of Science and ICT)는 10월 2일 보도자료에서 한국전력공사(Korea Electric Power Corporation), 리벨리온(Rebellions), 한국정보통신기술협회(Telecommunications Technology Association)가 국산 신경망처리장치(NPU) 기반 전력분야 AI 영상분석 기술협력 업무협약을 맺었다고 밝혔다. 과학기술정보통신부에 따르면 협약식은 리벨리온 본사에서 열렸다.
한전 변전소 영상분석에 K-Perf 적용
협약에 따라 한전은 전력 현장 시범운영과 활용 모델 개발을 맡는다. 리벨리온은 NPU 성능 최적화와 기술 지원을 담당하고, TTA는 전력 현장 운영환경을 반영해 성능과 신뢰성을 검증한다. 각 기관이 실증과 기술 지원, 평가를 나눠 맡아 국산 AI반도체를 실제 전력 현장에서 운용할 수 있는지 확인하는 구조다.
한전은 변전소별로 분산 운영하던 AI 영상분석 인프라를 NPU 기반 통합 관제 시스템으로 전환해 실증할 예정이다. 평가 대상은 칩 자체의 성능에 그치지 않고 실제 운영환경에서의 활용 가능성과 처리 성능, 비용 절감 효과까지 포함한다. 보도자료에는 실증 기간이나 구체적인 비용 절감 목표치는 제시되지 않았다.
생성형 AI 넘어 전력 현장으로 검증 확대
K-Perf는 수요기업이 국산 AI반도체 도입을 판단할 때 참고할 수 있도록 성능 데이터를 객관적으로 제공하는 지표다. 지난해 12월 수요·공급기관 15곳이 실제 사용환경을 고려해 측정 모델과 시험 조건을 정하고 TTFT, TPOT, TPS/1user 등을 세부 지표로 발표했다. TTFT는 첫 토큰이 나올 때까지의 응답 지연을, TPOT는 긴 답변을 생성할 때 토큰별 처리 속도의 안정성을 확인한다. TPS/1user는 단일 사용자 기준 처리량을 측정한다.
과기정통부와 TTA, 정보통신기획평가원(IITP)은 올해 6월 국산 AI반도체 2종을 대상으로 AI 챗봇과 문서 검색 등 대표적인 생성형 AI 서비스 유형을 시범 검증했다. 당시 평가에서 두 반도체는 수요기업이 요구하는 서비스별 성능 기준(SLO)을 충족했다. 이번에는 생성형 AI 서비스 중심이던 평가 범위를 전력 현장의 AI 영상분석으로 넓히고, 실험실이 아닌 도입 현장에서 K-Perf를 성능 검증에 활용한다.
이도규 과기정통부 정보통신정책실장은 K-Perf 검증 결과가 도입 판단의 근거가 되면 수요기관과 공급기업이 공통 기준으로 성능을 논의하는 체계가 현장에서 작동하기 시작하는 것이라고 말했다. 한전의 변전소 실증이 다른 수요기관으로 확산될 때 참고 사례가 될 수 있다는 설명이다. 과기정통부는 K-Perf를 계속 고도화하고 협력 성과를 공공부문으로 넓히겠다고 밝혔다. 이번 보도자료에는 실증 결과 발표 시점이나 이후 사업 일정은 담기지 않았다.