AI 전장은 ‘칩’에서 ‘시스템’으로… SK하이닉스, 네이처 일렉트로닉스 논문으로 ‘랙 · 포드 · 시스템’ CPO 상용화 청사진 증명

 SK하이닉스, 글로벌 연구진과 차세대 AI 인프라 핵심 ‘CPO(Co-Packaged Optics)’ 로드맵 <네이처 일렉트로닉스>에 게재

 HBM 혁신을 넘어, 랙(Rack) · 포드(Pod) 단위 데이터 병목 해결할 광 인터커넥트(Optical Interconnect) 청사진 제시

 메모리 · 프로세서를 광으로 연결하는 ‘옵틱스 중심 아키텍처(Optics-centric)’ 공동 설계(Co-design)로 초거대 AI 확장성 확보

[논문 바로가기]
∙ 제목: Co-packaged optics for high-performance computing and artificial intelligence
∙ 발행: Nature electronics, 2026
∙ 저자: SK하이닉스 홍승훈 팀장(AI Infra), 버지니아대학교(UVA) 전기컴퓨터공학과 이규상 교수, 일리노이대학교 어바나-샴페인(UIUC), 난양공과대학교(NTU), 매사추세츠공과대학교(MIT), 연세대학교

생성형 AI 시대를 이끌어온 HBM은 AI 가속기의 패키지 내 메모리 병목을 해결하며 성능 혁신을 주도했다. 하지만 수천 개의 GPU와 HBM이 엮인 초대형 클러스터가 등장하면서, 이제는 시스템 간 데이터 이동을 제한하는 ‘대역폭 장벽(Bandwidth Wall)’이 새로운 병목 현상으로 떠오르고 있다.

이러한 변화 속에서 SK하이닉스가 글로벌 연구진과 함께 AI 및 고성능 컴퓨팅(HPC)을 위한 차세대 광 인터커넥트 기술* ‘CPO(Co-Packaged Optics)’의 발전 방향을 담은 논문 <Co-packaged optics for high-performance computing and artificial intelligence(고성능 컴퓨팅 및 인공지능을 위한 CPO 기술)>을 세계적인 학술지 네이처 일렉트로닉스(Nature Electronics)에 게재했다.

* 인터커넥트 기술(Interconnect Technology): 반도체 칩 내부, 칩과 칩, 또는 시스템과 시스템 사이에서 데이터와 신호를 주고받을 수 있도록 물리적 · 논리적으로 연결하는 회로 및 네트워크 기술

이번 연구에는 SK하이닉스 홍승훈 팀장(AI Infra)과 버지니아대학교(UVA) 전기컴퓨터공학과 이규상 교수가 교신 저자*로 참여했으며, 일리노이대학교 어바나-샴페인(UIUC)을 비롯해 난양공과대학교(NTU), 매사추세츠공과대학교(MIT), 연세대학교 연구진이 공동으로 연구를 수행했다.

해당 논문은 단순한 신기술 소개에 그치지 않고, 메모리 · 패키징 · 광 인터커넥트가 어떻게 융합하고 진화해야 하는지 종합적인 기술 로드맵을 체계화했다는 데 큰 의의가 있다. 특히 SK하이닉스가 HBM이라는 단일 제품의 혁신을 넘어, 시스템 전체를 아우르는 차세대 AI 인프라의 청사진을 선제적으로 제시했다는 점에서 더욱 주목할 만하다.

* 교신 저자: 연구 기획부터 학술지 투고, 심사 대응, 출판 후 질의응답에 이르기까지 연구 전 과정을 총괄하고 책임지는 대표 저자

칩에서 시스템으로… HBM 혁신을 시스템 전체로 확장할 열쇠, ‘CPO’

초거대 AI 모델은 단일 칩이나 서버를 넘어, 랙*과 포드* 단위로 묶인 거대한 네트워크에서 학습된다. 이러한 구조에서는 프로세서와 메모리, 가속기 간은 물론 랙과 랙 사이의 데이터 이동 속도와 효율성이 전체 시스템 성능을 좌우한다.

* 랙(Rack): 서버, AI 가속기 등 하드웨어 장비를 효율적으로 장착하고 수납하기 위한 표준화된 프레임 구조물. 데이터센터 인프라의 기본 물리적 구성 단위
* 포드(Pod): 다수의 랙을 일정 규모로 묶어 네트워크, 전력, 냉각 등을 통합 관리하는 상위 집합 단위

▲ 하드웨어의 연산 성능은 2년마다 약 3배씩 증가하는 반면, 인터커넥트 대역폭은 1.4배 증가에 그쳐 ‘대역폭 장벽’이 심화되고 있다.

실제로 연산 성능은 2년마다 약 3배씩 폭발적으로 늘어나는 반면, 대역폭은 1.4배 증가하는 데 그쳐 이른바 ‘대역폭 장벽(Bandwidth Wall)’이 뚜렷해지고 있다. 데이터가 패키지를 벗어나 랙 사이를 이동할 때 쓰이는 기존 구리 기반 전기 연결은 거리가 멀어질수록 신호 감쇠와 전력 소모가 급증해 차세대 AI 데이터센터의 한계로 지목되어 왔다.

이규상 교수는 “연산칩 성능이 향상되어도 칩 사이의 데이터 이동 능력이 이를 따라가지 못하면 시스템 전체 성능은 올라가지 않는다”라며 “물리적 한계를 안고 있는 구리 배선 대신 빛으로 데이터를 옮기는 것이 가장 유력한 확장 경로”라며 이번 연구의 배경에 대해 밝혔다.

▲ CPO는 광 엔진을 프로세서와 점점 더 가까운 위치로 집적해 가는 기술로, 전기 신호의 이동 거리를 최소화할수록 대역폭과 에너지 효율이 향상된다.

논문은 이러한 대역폭 장벽을 허물 핵심 기술로 CPO를 제시한다. SK하이닉스 홍승훈 팀장은 CPO를 “칩과 칩이 긴 전기 배선 대신 빛으로 데이터를 주고받을 수 있도록, 광 송수신기(TRx)를 프로세서와 한 패키지 안에 넣는 기술”이라고 설명했다.

짧은 거리에서는 기존의 구리 배선도 경제적이지만, 속도와 거리가 늘어날수록 이를 보상하는 회로로 인해 전력 소비와 데이터 전송 지연 시간이 늘어난다. 반면, 광 엔진을 패키지 내부에 집적하는 CPO는 고속 전기 신호의 이동을 최소화하고 나머지 구간을 빛으로 연결한다. 이를 통해 칩 · 랙 · 포드 단위로 통신 범위를 넓히면서도 높은 대역폭 밀도와 에너지 효율, 그리고 전자기 간섭에 강한 신호 무결성 등을 모두 유지할 수 있다.

이에 따라 연구진은 논문에서 차세대 AI 인프라 구현을 위한 기술적 목표(노드당 100 Tb/s 이상의 대역폭, 1pJ/bit 미만의 에너지 소비, 10ns 미만의 칩 간 지연시간 등)를 명확히 규정했다. 또한, 2D 패키징에서 2.5D 인터포저, 3D 이종 집적으로 발전하는 기술 경로와 상용화를 위한 핵심 과제까지 종합적으로 체계화하며 기술 로드맵을 완성했다.

메모리로 확장되는 광 연결… AI 아키텍처의 미래를 그리다

▲ 광 인터포저를 통해 연산 자원(XPU Pool)과 메모리 자원(Memory Pool)을 광신호로 직접 연결하는 옵틱스 중심 아키텍처 개념도

장기적으로 CPO 기술의 발전 방향은 광 연결을 ‘메모리 인터페이스’까지 확장하는 것이다. 물리적 공간 제약이 따르는 기존 패키징의 한계를 넘어, 광 인터포저로 메모리와 프로세서를 직접 연결하는 ‘옵틱스 중심(Optics-Centric)’ 아키텍처를 구현해 데이터 이동 효율을 극대화하는 구상이다.

이 구조가 도입되면 여러 가속기가 거대한 메모리 풀을 공유할 수 있어, 시스템 수준의 데이터 이동을 더욱 유연하게 설계하고 AI 모델의 대형화에 기민하게 대응할 수 있게 된다.

이 교수는 “광 인터커넥트는 앞으로 AI 인프라를 구성하는 핵심 연결 기술로 자리 잡을 가능성이 높다”며, “관련 기술은 이미 실험실을 벗어나 산업화 초입에 들어섰다”고 진단했다. 이어 “저전력 광소자 집적부터 일관성 프로토콜, 신뢰성 기술까지 풀어야 할 과제가 많지만, 결국 핵심은 메모리 소자와 컨트롤러, 광소자, 패키지를 하나의 시스템으로 ‘공동 설계(Co-design)’하는 것”이라고 설명했다. 아울러 “바로 이 지점에서 SK하이닉스와의 협력이 큰 의미가 있다”고 강조했다.

이어 홍 팀장은 “학계의 전문성과 산업계의 현장 경험이 연결되어 AI 인프라의 미래 방향을 함께 제시했다는 점에서 큰 의미가 있다”며, “앞으로도 고객과 산업 생태계에 실질적인 가치를 제공할 수 있는 개방형 협력을 지속 확대해 나갈 것”이라고 밝혔다.

INTERVIEW

Q. 주요 연구 분야를 포함하여 간단한 자기소개를 부탁한다.

이규상 교수: 미국 버지니아 주립대학교 전기컴퓨터공학과 교수로 재직 중이다. 우리 연구실은 이종 집적 기술을 중심으로, 초박막 광 · 전자소자를 하나의 패키지 안에 집적해 차세대 컴퓨팅 시스템에 적용하는 것을 핵심 연구 방향으로 삼고 있다. 이번 논문에서는 이러한 연구 배경을 바탕으로 AI 및 고성능컴퓨팅을 위한 광 인터커넥트와 CPO 기술 전반을 조망하는 리뷰를 총괄했다.

홍승훈 팀장: 반도체 엔지니어로 경력을 시작해 기획 및 인사 등 다양한 관점에서 메모리 사업을 접해왔다. 현재는 AI 시대 메모리 산업의 중장기 전략을 담당하고 있다. 특히 고객의 AI 경쟁력을 높일 수 있도록 메모리의 역할을 ‘단일 부품’이 아닌 ‘시스템 관점’에서 바라보고, 다양한 산업 파트너와의 협력을 통해 새로운 가치를 만들어가는 데 집중하고 있다.

Q. 세계 최고 권위의 학술지인 <네이처 일렉트로닉스>에 논문이 게재된 소감은 어떠한가?

이규상 교수: 세계 최고 수준의 반도체 기업인 SK하이닉스와 함께 이룬 성과라 더욱 뜻깊다. 이번 논문은 단일 소자의 성과를 넘어 AI 인프라의 미래 방향을 제시하는 청사진인 만큼, 학계와 산업계 모두에서 깊은 공감을 얻었다는 점에 큰 보람을 느낀다. 이 기술의 중요성이 널리 알려지기를 바라며, 함께 애써준 여러 기관의 공동 연구진에게 감사의 마음을 전한다.

홍승훈 팀장: 글로벌 주요 연구진과 공동의 결실을 맺게 되어 매우 고무적이다. 학계의 학술적 전문성과 산업계의 현장 경험이 결합되어 AI 인프라의 미래 방향을 함께 제시했다는 데 큰 의의가 있다. SK하이닉스는 앞으로도 고객과 산업 생태계에 실질적인 가치를 제공할 수 있도록 노력하겠다.

Q. 학계와 산업계가 머리를 맞대며 얻은 가장 큰 시너지는 무엇인가?

이규상 교수: ‘가능한 기술’이 ‘실제로 쓸 수 있는 기술’이 되기까지 무엇이 필요한지를 함께 볼 수 있었다는 점이다. 학계는 성능의 한계를 넓히는 데 강점이 있지만, 산업계는 이를 대규모 시스템에 적용할 때 필요한 수율, 원가, 냉각, 공급망 등의 구체적인 조건을 알고 있다. 이 두 관점이 만났기에 AI 인프라 전체를 조망하는 현실적인 로드맵을 제시할 수 있었다.

홍승훈 팀장: 학계의 미래 기술 탐구와 산업계의 현장 경험이 연결될 때, 기술적 완성도는 물론 산업적 활용 가능성도 극대화된다. AI 시대에는 이러한 산학 협력이 고객 성공과 생태계 혁신을 이끄는 핵심 기반임을 서로 명확히 확인하는 계기가 되었다.

Q. 논문에서는 광 연결을 ‘메모리 인터페이스’까지 확장해야 한다고 역설했다. 이를 통해 어떤 이점을 기대할 수 있나?

이규상 교수: 광 연결을 메모리까지 확장하면 연산 칩 주변의 물리적 제약을 우회하여 메모리 용량과 배선 수의 한계를 극복할 수 있다. 여러 가속기가 거대한 메모리 풀을 공유할 수 있어 AI 모델의 대형화에 훨씬 유연하게 대응하게 된다.

홍승훈 팀장: 데이터 이동 효율을 높여 AI 시스템을 더욱 유연하게 확장할 수 있다는 점에서 큰 의미가 있다. 이는 고객이 AI 인프라를 더욱 효율적으로 운영할 수 있는 기반을 제공한다는 뜻이기도 하다.

Q. 향후 AI 인프라 시장에서 CPO 기술의 경쟁력은 무엇이며, 앞으로의 연구 계획은 무엇인가?

이규상 교수: CPO는 높은 대역폭 밀도, 뛰어난 에너지-거리 특성, 병렬 확장성, 그리고 전자기 간섭에 강한 신호 무결성이라는 네 가지 강력한 경쟁력을 바탕으로 향후 AI 인프라의 핵심 표준이 될 것이다. 앞으로도 초박막형 광학 재료 집적 기술과 마이크로 LED(µLED)를 활용한 초병렬 광 인터커넥트 연구 등을 통해 극강의 에너지 효율을 달성하는 해법을 산업계 파트너들과 함께 증명해 나가겠다.

홍승훈 팀장: 고객의 AI 시스템이 대형화될수록 광 인터커넥트의 중요성은 더욱 커진다. 이제 메모리 기업도 단순한 단일 제품 공급을 넘어, 이 기술을 통해 고객의 시스템 전체 경쟁력을 함께 만들어가는 파트너로 역할이 진화하고 있다. 앞으로도 고객 및 생태계 파트너들과의 개방형 협력을 지속적으로 확대해 나갈 계획이다.