국산 AI 반도체 지표 K-Perf, 한전 전력 현장 도입 검증에 첫 활용
AI를 활용하여 생성한 이미지입니다.
과학기술정보통신부가 10월 2일 국산 AI 반도체 성능지표 K-Perf를 실제 전력 현장에 적용하는 협력 소식을 발표했어요. 한국전력공사와 리벨리온, 한국정보통신기술협회(TTA)가 전력 분야 AI 영상분석을 함께 실증하고, K-Perf를 성능 평가와 검증의 기준으로 사용하기로 했습니다.[1]
이번 발표에서 중요한 부분은 새 칩의 성능 숫자 자체보다 시험실에서 만든 지표가 실제 운영 환경으로 옮겨갔다는 점이에요. 전력 설비를 감시하는 AI는 정해진 데이터셋만 빠르게 처리하면 끝나지 않아요. 현장 카메라 입력, 네트워크 지연, 여러 장비의 동시 처리, 장애 대응까지 함께 봐야 합니다.
K-Perf가 무엇을 재는 지표일까?
K-Perf는 국산 AI 반도체를 도입하려는 수요기관이 성능을 비교할 때 참고하도록 만든 지표예요. 과기정통부 발표에 따르면 지난해 12월 15개 수요·공급기관이 실제 사용 환경을 중심으로 측정 모델과 시험 조건을 정했고, 생성형 AI 서비스에서 자주 쓰는 세부 지표도 함께 제시했습니다.[1]
| 지표 | 뜻 | 현장에서 보는 이유 |
|---|---|---|
| TTFT | 첫 토큰이 나올 때까지 걸리는 시간 | 사용자가 느끼는 첫 응답 지연 |
| TPOT | 출력 토큰 하나를 만드는 데 걸리는 시간 | 긴 답변의 생성 속도 안정성 |
| TPS/1user | 사용자 한 명 기준 초당 처리량 | 단일 사용자의 처리 능력 비교 |
이 숫자는 칩 하나의 최대 처리량을 뜻하지 않아요. 어떤 모델과 입력을 사용했는지, 데이터가 어디에서 들어오는지, 전력과 냉각 조건이 어떤지에 따라 결과가 달라질 수 있습니다. 그래서 K-Perf를 볼 때는 숫자와 함께 시험 조건을 확인해야 해요.
이번 협약에서 각 기관이 맡는 일
한전은 전력 현장에서 시범 운영하고 활용 모델을 개발합니다. 리벨리온은 NPU 성능 최적화와 기술 지원을 맡고, TTA는 실제 전력 운영 환경을 반영해 성능과 신뢰성을 검증해요.[1]
한전은 변전소별로 나뉘어 운영하던 AI 영상분석 인프라를 NPU 기반 통합 관제 시스템으로 전환하고 실증할 계획이라고 밝혔습니다. 이 과정에서 처리 성능뿐 아니라 실제 활용 가능성, 운영 비용 절감 효과도 함께 확인하게 됩니다.[1]
공공 현장 도입에서 달라지는 점
그동안 K-Perf는 AI 챗봇과 문서 검색처럼 생성형 AI 서비스에 가까운 유형을 중심으로 시험됐어요. 과기정통부는 올해 6월 국산 AI 반도체 2종을 대상으로 대표적인 생성형 AI 서비스 유형의 시범 검증을 진행했고, 수요기업이 요구하는 서비스별 성능 기준을 만족하는지 확인했다고 설명했습니다.[1]
이번에는 전력 설비를 감시하는 영상분석으로 범위가 넓어집니다. 영상분석은 응답 한 번의 속도보다 지속적인 입력 처리와 장애 없이 계속 동작하는지가 더 중요할 수 있어요. 같은 K-Perf라는 이름을 쓰더라도 챗봇과 변전소 카메라의 실제 평가 항목은 달라질 수 있다는 뜻입니다.
아직 공개되지 않은 숫자도 있어요
이번 발표에는 실증 대상 장비의 정확한 모델명, 영상분석 처리량, 전력 사용량, 비용 절감액 같은 결과 수치가 담기지 않았어요. 따라서 지금 단계에서 국산 NPU가 모든 전력 현장이나 모든 AI 영상분석 작업에서 더 낫다고 단정할 수는 없습니다.[1]
앞으로 봐야 할 것은 실증 결과가 어떤 조건에서 측정됐는지예요. 카메라 수와 해상도, 모델 종류, 추론 지연, 오탐과 미탐, 장애 발생 시 복구 시간까지 공개돼야 도입 판단에 쓸 수 있습니다. 발표된 협약은 검증의 시작이지 최종 성능표는 아니에요.
도입을 검토하는 조직이 확인할 항목
공공기관이나 기업이 비슷한 AI 인프라를 검토한다면 칩 이름보다 자신의 운영 조건을 먼저 정리하는 편이 좋아요. 아래 항목이 준비돼야 K-Perf 같은 외부 지표도 실제 구매 판단으로 이어질 수 있습니다.
- 처리할 영상 수와 카메라 해상도를 고정해요.
- 목표 응답 지연과 허용 가능한 오탐·미탐 기준을 정해요.
- 전력 사용량과 냉각, 장비 교체 주기를 함께 계산해요.
- 장애가 났을 때 기존 시스템으로 전환할 절차를 확인해요.
이번 소식의 의미
K-Perf의 첫 공공 현장 활용은 국산 AI 반도체가 연구실 성능 시연에서 실제 운영 검증으로 넘어가는 과정으로 볼 수 있어요. 다만 결과가 공개되기 전까지는 가능성을 확인하는 단계입니다. 한전 실증에서 시험 조건과 비용, 안정성 자료가 충분히 공개된다면 다른 공공기관이 국산 NPU를 비교할 때 참고할 수 있는 자료가 될 거예요.
컴퓨팅 분야의 후속 이슈는 컴퓨팅 이슈 archive에서 이어서 확인할 수 있고, AI 인프라와 서비스 변화는 AI·LLM 이슈 archive에서 함께 볼 수 있어요.
