과기정통부, 국산 인공지능 반도체 상용화 현장 점검
- 과기정통부, SKT 인천 데이터센터(리벨리온), LG AI연구원(퓨리오사AI) 방문
과학기술정보통신부(부총리 겸 과기정통부 장관 배경훈, 이하 ‘과기정통부’)는 4월 29일(수) SKT 인천 데이터센터와 LG AI연구원을 방문하여 국산 인공지능(AI) 반도체가 실제 활용되고 있는 현황을 점검하고 기업의 의견을 청취하였다.
이번 현장방문은 국산 AI반도체의 본격 양산 시점을 계기로 AI반도체가 적용된 상용 서비스를 직접 살펴보고, 수요자 관점에서의 경험과 평가, 그리고 현장 실무자들의 애로사항을 수렴하기 위한 취지로 진행하게 되었다. 특히, 이번 현장 방문에서 활용하고 있는 AI반도체 기술은 정부의 연구개발(R&D) 사업의 지원을 받은 성과들이 상용화되어 실제 활용되고 있다는 측면에서도 그 의미가 있다.
먼저, SKT 인천 데이터센터에서는 리벨리온에서 개발한 AI반도체,‘아톰(ATOM™)’과‘아톰 맥스(ATOM-MAX™)’를 활용하여 SK텔레콤의 에이닷(A.) 전화 통화 요약, 엑스칼리버(반려동물 영상진단 보조 서비스) 등 상용 서비스를 제공하고 있다. 특히, 에이닷 전화 통화 요약은 하루 최대 5,000만 건의 API 호출을 처리하고 있는 만큼, 국산 AI반도체의 상업적 활용성을 증명한다고 볼 수 있다.
두 번째로 방문한 LG AI연구원은 최근 스탠퍼드大 인간 중심 인공지능 연구소(HAI)에서‘주목할 만 한 인공지능 모델’로 발표한 K-엑사원, 엑사원 4.0 등과 국산 AI반도체 기업인 퓨리오사AI의 레니게이드(RNGD) 등의 AI 반도체를 결합하고 있는 현장이다.
레니게이드는 국산 AI반도체 중 최초로 고대역폭 메모리(HBM)를 활용하여 양산된 제품으로, 국산 대형언어모델인 엑사원과 국산 AI 반도체를 통해 우리 기술로 실현한 AI풀스택 서비스를 구축하고 있다는 의미가 있다.
이도규 정보통신정책실장은“이번 현장방문을 통해 우리 손으로 만든 국산 AI반도체의 실제 활용 현장을 눈으로 직접 확인하고, 현장의 솔직한 의견을 들을 수 있었다”고 밝히며,“이제 본격 양산되고 있는 우리 AI 반도체가 시장에 빠르게 도입·확산되고, 글로벌 경쟁력을 갖출 수 있도록 정부가 끝까지 뒷받침 할 것”이라고 강조하였다.
SKT-과기부, 국산 NPU 활용 현장 점검
– 과기부, ‘K-엔비디아 육성 프로젝트’ 현황 파악… SKT AI 데이터센터 방문
– SKT–리벨리온, NPU 기반 에이닷 전화 통화요약·엑스칼리버 구현 현황 공개
– SKT, 국산 LLM이 국산 NPU를 통해 서비스되는 ‘소버린 AI’ 확대해 나갈 것
SK텔레콤은 과학기술정보통신부가 인천에 위치한 자사 AI 서비스 전용 데이터센터를 29일 방문해 국산 NPU(신경망처리장치) 활용 현황을 점검했다고 밝혔다.
이번 현장 점검은 정부가 추진 중인 ‘K-엔비디아 육성 프로젝트’의 산업 현장을 직접 방문하고, 국산 NPU의 적용 현황을 파악하기 위해 마련됐다. 현장에는 이도규 과학기술정보통신부 정보통신정책실장이 참석하고, 박병관 SKT Core플랫폼담당과 박성현 리벨리온 대표가 동행했다.
최근 AI 산업의 중심축이 대규모 학습에서 실시간 추론으로 이동하면서, 정부는 추론에 특화되고 전력 효율이 높은 NPU를 중심으로 국산 AI 반도체 생태계 구축에 나서고 있다.
지난 3월 열린 ‘K-엔비디아 육성 프로젝트’ 민관 합동 간담회에서 정부는 국민성장펀드를 통해 AI·반도체 분야에 5년간 50조 원, 올해 10조 원 규모의 장기 인내자본을 공급하고, 2030년까지 AI 반도체 글로벌 유니콘 5곳을 배출한다는 목표를 발표한 바 있다.
또한 정부는 지난 6일 국회에서 열린 ‘소버린 AI와 AI 반도체’ 토론회에서 NPU 특성상 하드웨어 칩부터 소프트웨어, 모델, 적용 사례(Use Case)까지 수직적으로 통합된 풀스택 실증사업이 필요하다는 점을 강조했다.
현재 SKT의 자사 AI 서비스 전용 데이터센터에는 국내 AI 반도체 기업 리벨리온의 데이터센터용 NPU ‘아톰(ATOM)’과 ‘아톰 맥스(ATOM MAX)’를 탑재한 서버가 설치돼 있다.
현장에서 박병관 Core플랫폼 담당은 “SKT는 아톰과 아톰 맥스 기반 서버를 ▲에이닷 전화 통화요약 ▲엑스칼리버(반려동물 영상진단 보조 서비스)에 적용하고 있으며, 향후 아톰 맥스 기반의 상용 서비스를 지속 확대할 계획”이라고 설명했다.
특히 에이닷 전화 통화요약은 SKT의 자체 거대언어모델(LLM) ‘에이닷엑스(A.X)’를 기반으로 하루 최대 5천만 건의 API 호출을 처리하고 있다. 이는 국산 LLM이 국산 NPU를 통해 서비스되는 ‘소버린 AI’의 대표적 구현 사례다.
SKT와 리벨리온은 국산 NPU 생태계 확대를 위해 기술 협력을 더욱 강화하고 있다. 지난달 양사는 글로벌 반도체 설계 기업 Arm과 3자 MOU를 체결하고 CPU와 NPU를 결합한 AI 추론 서버 공동 개발에 착수했으며, 향후 실증을 통해 SKT의 자체 파운데이션 모델 ‘에이닷엑스 케이원(A.X K1)’을 해당 서버에서 운영하는 방안도 검토 중이다.
또한 양사는 정부의 ‘독자 AI 파운데이션 모델’ 프로젝트에 SKT 컨소시엄 정예팀으로 함께 참여하고 있다.
SKT는 자회사 사피온코리아와 리벨리온의 합병 과정을 거치며 리벨리온의 주요 주주로 자리매김했고, 이를 토대로 자사 데이터센터와 AI 서비스 전반에 리벨리온 NPU 적용을 확대하는 등 다양한 협력 사례를 함께 만들어가고 있다. 양사는 NPU 적용 범위를 지속 확대하며 국산 NPU 생태계 구축에 앞장설 계획이다.
SKT 관계자는 “국가 간 AI 기술 경쟁이 심화되는 가운데 국내 AI 생태계의 자립성 강화는 국가 경쟁력을 좌우하는 핵심 요소”라며, “국산 LLM이 국산 NPU를 통해 서비스되는 ‘소버린 AI’를 확대해 나갈 계획”이라고 밝혔다.