[기고] 인공지능(AI): 유럽의 AI 최종 승부수? ‘신뢰성’에 베팅하라
https://www.ft.com/content/bc29b61f-4007-4fd4-be53-07eea41f3fa5
유럽이 안전하고 확실한 AI 분야를 선도하지 못한다면, 기술 장벽의 낙후된 쪽에 갇힐 위험이 있다.
요슈아 벤지오(Yoshua Bengio) 기고
(사진 설명: 프랑스의 한 데이터 센터. 중견국들은 현재처럼 파편화된 국가별 프로그램과 연구에 머무는 대신, 힘을 합쳐 컴퓨팅 인프라, 도메인별 데이터, AI 인재를 공동으로 관리해야 한다. © Sameer Al-Doumy/AFP/Getty Images)
필자 소개: 요슈아 벤지오는 몬트리올 대학교 컴퓨터공학 교수이며 LawZero와 퀘벡 인공지능 연구소(Mila)의 설립자이다.
유럽이 글로벌 AI 개발 경쟁에서 미국과 중국에 밀려 무력한 상태라는 이야기를 자주 듣습니다. 그리고 유럽이 다른 길을 선택하지 않는 한, 그 말은 아마 사실일 것입니다.
AI 개발과 투자가 급증하고 있음에도 불구하고, 많은 국가가 ‘도입의 장벽(adoption wall)’에 부딪혔습니다. 이 장벽으로 인해 기업들은 거대 AI 연구소들이 약속했던 생산성 향상을 제대로 경험하지 못하고 있습니다. 이 문제는 단순한 투자 부족이나 정치적 의지의 문제가 아닙니다. 근본적인 원인은 우리가 첨단(frontier) AI 모델을 훈련하는 방식에 있습니다. 현재의 시스템은 불투명합니다. 우리는 그 출력값은 관찰할 수 있지만, 모델이 의도한 대로 행동할 것이라고 보장할 수는 없습니다.
일상적인 작업에서는 이런 점이 크게 문제 되지 않겠지만, 항공우주, 에너지, 금융, 의료와 같이 ‘안전이 필수적인(safety-critical)’ 산업에서는 도입을 가로막는 병목 현상이 되고 있습니다. 이런 분야에서는 정확성, 예측 가능성, 그리고 검증 가능성이 매우 중요합니다. 모델이 불확실성이나 오류, 혹은 환각(hallucination)을 일으킬 가능성이 있다는 것은 용납될 수 없는 일입니다.
일부 AI 리더들조차 이러한 불확실성이 수학적으로 불가피하다고 인정합니다. 그러나 신뢰성에 대한 보장이 없다면, 많은 기업은 AI를 도입할 유인을 갖지 못합니다. 2025년 맥킨지 보고서에 따르면, 전체 기업의 88%가 최소 하나 이상의 업무 기능에 AI를 사용하고 있다고 답했음에도 불구하고, 자사의 AI 전략이 성숙했다고 생각하는 기업은 단 1%에 불과합니다.
이는 다른 선도 경제권보다 산업 및 안전 민감 분야에 우량 기업들이 집중되어 있는 유럽에 특히 심각한 문제입니다. 비영리 단체인 세이퍼AI(SaferAI)의 최근 보고서는 유럽이 '검증 가능한 AI' 개발에 투자할 경우 얻을 수 있는 잠재적 보상의 규모를 강조한 바 있습니다.
이 기회를 잡으려면 유럽은 현재의 파편화된 국가별 프로그램과 연구 노력을 넘어선 대담한 개입이 필요합니다. 이는 신뢰할 수 있고 안전하며 확실한 AI를 위한 ‘문샷(moonshot·혁신적)’ 연구에 집중하는 전담 연구 기관을 설립하는 것을 의미합니다. 또한 이러한 우선순위를 프런티어 AI 이니셔티브(Frontier AI Initiative), 유럽 AI 기가팩토리(European AI Gigafactories), 유럽 경쟁력 기금(European Competitiveness Fund)과 같은 기존 제도에 통합해야 합니다. 그리고 임계 질량(critical mass)을 확보하기 위해 매년 수억 유로 규모의 다년도 자금을 유럽 차원에서 조율하여 투입해야 합니다. 이는 컴퓨팅 인프라 경쟁에 드는 비용의 일부에 불과한 수준입니다.
민간 첨단 AI 기업들이 이러한 연구에 투자할 가능성은 낮습니다. 경쟁 구도상 그들은 신속한 역량 확장과 짧은 출시 주기에 매달릴 수밖에 없습니다. 경쟁보다 6개월만 뒤처져도 자본 유치 능력에 상당한 타격을 입는 반면, 안전성 연구에 소홀히 한다고 해서 당장 즉각적인 불이익을 받는 것은 아니기 때문입니다. 현재 진행되는 안전 연구조차 근본적인 신뢰성 보장을 위한 기초 작업보다는 임시방편(quick fixes)에 치우치는 경향이 있습니다. 따라서 이 간극을 메우기 위해서는 공공 투자가 필수적입니다.
그렇다고 유럽이 고립되어 행동할 필요는 없습니다. 전 세계의 중견국(middle powers)들이 힘을 합쳐 컴퓨팅 인프라, 도메인별 데이터, AI 인재를 공유함으로써 ‘설계 단계부터 신뢰할 수 있는(reliable-by-design)’ AI 시스템 개발을 추진할 수 있습니다. 이러한 신뢰 네트워크는 외국 시스템에 대한 의존도를 낮추고 기술 주권을 강화할 수 있습니다.
최근 독일과 캐나다가 출범시킨 '주권 기술 동맹(Sovereign Technology Alliance)'은 양국의 강점을 결합해 안전하고 주권적인 AI를 구축하기 위한 청사진을 제공합니다. 이처럼 국가들이 협력할 때, 안전 민감 산업이 '도입의 장벽'을 넘어서는 데 필요한 해결책을 개발할 가능성이 훨씬 커집니다.
최근 업계 리더들과 연구자들은 유럽이 신뢰할 수 있고 안전한 AI 분야를 선도할 것을 촉구했습니다. 만약 유럽이 이 기회를 놓친다면 AI 도입 경쟁에서 뒤처지게 될 것입니다. 글로벌 AI 지형에서 입지를 굳히기 위해, 유럽은 지금 당장 고도의 신뢰와 위험 관리가 필요한 자국 산업들이 믿고 쓸 수 있는 시스템과 방법론에 투자해야 합니다. 지난 1월 다보스 포럼에서 마크 카니 전 영란은행 총재(현 캐나다 총리 특보)가 언급했듯이, "중견국들이 협상 테이블에 앉지 못한다면, 그들은 결국 메뉴판에 오르게 될 것(상대방에게 잡아먹힐 것)"이기 때문입니다.