삼성리서치·KAIST·포스텍· 조지아텍 구성 'AI 사이버 챌린지' 결선서 정상...'티오리'는 3위

미국 라스베이가스에서 현지시각 7일 열린 세계 최고 권위 해킹 방어 대회인 '데프콘 33(DEFCON CTF 33)'에서 열린 'AI 사이버 챌린지(AIxCC, AI Cyber Challenge)' 본선 경연에서 한국인이 주축이 된 팀인 '아틀란타(Atlanta)가 1위를 차지했다. 역시 한국팀이 주축인 '티오리(Theori)'는 3위를 기록했다. 2위는 미국 뉴욕 소재 소프트웨어 보안 전문 팀 '트레일 오브 비츠(Trail of Bits)'에 돌아갔다.

'AI 사이버 챌린지'는 미국 방위고등연구계획국(DARPA,Defense Advanced Research Projects Agency)가 주최하는 세계 최대 AI 기반 사이버 보안 경진대회다. 전통 해킹대회는 사람이 직접 문제를 풀지만, AIxCC는 AI가 자동으로 취약점을 찾아내고 패치하는 시스템(CRS, Cyber Reasoning system)으로 설계, 운영한다. 대상은 오픈소스 기반 핵심 인프라 SW(예: 서버, 네트워크 라이브러리 등)고, AI가 코드를 분석해 취약점을 찾고, 자동으로 안전한 코드로 고치며, 이를 실시간 검증한다.

(생략)

---

최종 대회 우승자 발표 (ChatGPT번역)

AI 사이버 챌린지, 사이버 방어의 중대한 전환점 마련

팀들의 AI 기반 시스템, 실제 사이버 취약점을 탐지하고 패치 성공

오픈소스로 공개되어 광범위한 채택 가능

조지아공과대학교(Georgia Tech), 삼성리서치(Samsung Research), 한국과학기술원(KAIST), 포항공과대학교(POSTECH)로 구성된 **팀 애틀랜타(Team Atlanta)**가 **DARPA AI 사이버 챌린지(AIxCC)**에서 우승했다. 이 챌린지는 보건고등연구계획국(ARPA-H) 및 선도 연구소들과 협력하여 진행된 2년에 걸친, 최초의 AI 기반 사이버 보안 대회다. 참가 팀들은 AI를 활용한 혁신적인 자율 시스템이, 중요 인프라를 뒷받침하는 오픈소스 소프트웨어를 보호할 수 있다는 능력을 입증했다.

최근 수년간 발생한 수많은 사이버 공격은 악의적인 사이버 행위자들이 금융 시스템, 공공 설비, 의료 시스템 등을 운영하는 취약한 소프트웨어를 악용할 수 있는 능력을 보여줬다.

DARPA 국장 스티븐 윈첼(Stephen Winchell)은 다음과 같이 말했다.

“AIxCC는 DARPA의 본질을 잘 보여줍니다. 이는 엄격하고, 혁신적이며, 위험은 크지만 보상이 큰 프로그램으로 기술의 한계를 뛰어넘습니다. 오늘 7개 팀 중 4개 팀의 사이버 추론 시스템(CRS)을 오픈소스로 공개함으로써, 우리는 이 도구들을 사이버 방어자들이 즉시 사용할 수 있도록 했습니다. 현재 방식으로 취약점을 찾고 코드베이스를 패치하는 것은 느리고, 비용이 많이 들며, 인력도 제한되어 있습니다. 특히 적들이 AI를 활용하여 공격을 증폭시키는 시대에서는 더욱 그렇습니다. AIxCC에서 개발된 기술은 방어자들에게 취약점을 빠르고 대규모로 식별하고 패치할 수 있는 필요한 우위를 제공할 것입니다.”

기술 채택을 더욱 가속화하기 위해, DARPA와 ARPA-H는 AIxCC 기술을 실제 중요 인프라 관련 소프트웨어에 통합하려는 팀들을 위해 140만 달러의 상금을 추가로 제공하고 있다.

ARPA-H 대행 국장 제이슨 루스(Jason Roos)는 “오늘 AIxCC 결선 진출자들의 성공은 AI가 우리의 의료 시스템의 취약점을 해결할 수 있는 실질적인 가능성을 보여줍니다. ARPA-H는 이러한 팀들이 그들의 기술을 전환하고, 보건 보안과 환자 안전에 의미 있는 영향을 미칠 수 있도록 지속적으로 지원할 것입니다.”라고 말했다.

**팀 애틀랜타(Team Atlanta)**는 조지아공대, 삼성리서치, KAIST, POSTECH의 전문가들로 구성되어 있다.

뉴욕에 기반을 둔 소기업 Trail of Bits가 2위를 차지했고, 미국과 한국의 AI 연구자 및 보안 전문가들로 구성된 Theori가 3위를 차지했다.

최종 대회에서 상위 세 팀은 각각 400만 달러, 300만 달러, 150만 달러의 상금을 받게 된다.

결선에 진출한 총 7개 팀에는 팀 all_you_need_is_a_fuzzing_brain, Shellphish, 42-beyond-bug, Lacrosse 등이 포함되어 있으며, 이들은 매우 촉박한 일정 안에서 사이버 보안 연구를 획기적으로 발전시킬 수 있는 자동화 시스템을 설계했다.

상세 분석: 결선 대회 결과 및 주요 성과

최종 대회의 채점 라운드에서는, 각 팀의 시스템이 총 5,400만 라인의 코드에 포함된 인위적으로 생성된 취약점을 식별하고, 이에 대한 패치를 생성하도록 요구받았다. 대회는 실제 소프트웨어를 기반으로 했기 때문에, 팀의 CRS는 대회에 의도적으로 삽입되지 않은 취약점도 발견할 수 있었다. 채점 알고리즘은, 팀들이 얼마나 빠르게 취약점을 패치했는지, 그리고 버그 보고서를 얼마나 잘 분석했는지를 기준으로 점수를 산정했다. 우승 팀은 취약점을 찾고 입증하는 능력, 패치 생성, 취약점과 패치의 짝짓기, 정확하고 품질 높은 제출 건수에서 최고 성과를 냈다.

최종 대회에서, 참가자들의 시스템은 총 70개 과제 중 54개의 인위적 취약점을 발견했으며, 그 중 43개를 패치했다.

또한, 참가 팀들은 18개의 실제, 비인위적(real, non-synthetic) 취약점을 발견했고, 이들은 책임감 있게 오픈소스 프로젝트 관리자에게 공개되고 있다. 이 중 6개는 C 코드베이스, 12개는 Java 코드베이스에서 발견되었다. 팀들은 11개의 실제 취약점에 대한 패치도 제공했다.

AIxCC 프로그램 매니저 앤드류 카니(Andrew Carney)는 “AIxCC가 시작된 이래로 커뮤니티 구성원들은 AI에 대한 회의론자에서 지지자이자 채택자로 변화해왔습니다. 품질 높은 패치 제공은, AI를 다른 사이버 방어 기술들과 결합하는 것이 유의미하다는 것을 입증한 중요한 성과입니다. 또한, CRS가 취약점을 찾는 과정이, 기존 코드 생성 기술이 어려움을 겪는 상황에서도 패치 개발을 가능하게 할 수 있다는 증거도 확인되고 있습니다.”라고 말했다.

참가 팀의 CRS는 전통적인 방법에 비해 훨씬 낮은 비용으로 가치 있는 버그 리포트와 패치를 생성할 수 있음이 입증되었다. 대회 과제당 평균 비용은 약 152달러에 불과했다. 참고로 버그 바운티는 수백 달러에서 수십만 달러까지 다양하다.

AIxCC 기술은 2024년 8월에 열린 준결선 대회에 비해 상당한 발전을 이뤘다.

결선에서 팀들은 **전체 인위적 취약점의 77%**를 발견했으며, 이는 준결선의 37%에서 크게 향상된 수치이다.

발견된 취약점 중 61%를 패치했으며, 이는 준결선의 25%에서 증가한 수치이다.

준결선에서는 C 코드베이스에서의 성과가 더 좋았던 반면, 결선에서는 C와 Java 코드베이스 모두에서 유사한 성과를 기록했다.

주요 결선 하이라이트

팀들은 평균 45분 안에 패치 제출

모든 팀이 하나 이상의 실제 취약점 발견

4개 팀은 한 줄짜리 패치 생성

3개 팀은 1분 내 3개의 과제에서 점수 획득

한 팀은 300줄이 넘는 패치 코드 제출

참가자의 CRS는 4,500만 라인 이상의 코드 분석

과제당 평균 비용 약 152달러

AIxCC는 민간 및 AI 선도 기업들과의 협력으로 진행

Anthropic, Google, OpenAI는 기술적 지원을 제공했으며, 각 팀에 대회 결선 개발 지원을 위해 대규모 언어모델(LLM) 크레딧 5만 달러씩, 총 35만 달러를 기부했다.

이 외에도 Anthropic, Google, OpenAI는 준결선에서 각 팀에 5,000달러 규모의 LLM 크레딧, Microsoft는 Azure 크레딧을 제공했다.

**Microsoft와 리눅스 재단 산하 오픈소스 보안 재단(Open Source Security Foundation)**은 도전 과제 개발 및 참가자에게 전문 지식을 지속적으로 제공했다.

향후 계획

결선 진출 7개 팀의 CRS는 오픈소스 이니셔티브(Open Source Initiative)가 승인한 라이선스 하에 오픈소스로 공개될 예정이다.

4개 팀의 CRS는 금요일에 이미 공개되었으며, 나머지 팀의 소프트웨어도 몇 주 내로 공개될 예정이다.

또한, 대회 프레임워크, 도전 과제, 텔레메트리 데이터 및 기타 도구와 데이터들도 향후 몇 주 내에 오픈소스로 공개되어, 해당 기술을 발전시키고 다른 연구자 및 개발자들이 AIxCC 기술을 실험하고 개선할 수 있게 된다.

DARPA는 민간 및 공공 부문 파트너들, 그리고 참가 팀들과 함께 이 기술을 광범위하게 사용될 수 있도록 전환하고 있다.

중요 인프라 소프트웨어를 유지하거나 개발 중이며, AIxCC 기술을 개발 프로세스에 통합하고자 하는 사람은 다음 이메일로 문의할 수 있다.

📩 aixcc@darpa.mil

---

KAIST 연구팀, 미국 AI 사이버챌린지 우승…55억 상금 받아

AI 기반 자율 보안 시스템 기술력·연구 역량 국제 무대에서 입증

(생략)

팀 애틀랜타의 KAIST 윤인수 교수는 “엄청난 성과를 이루게 돼 매우 기쁘다”며 “이번 성과는 KAIST를 비롯한 한국의 사이버 보안 연구가 세계 최고 수준에 도달했음을 보여주는 쾌거이며 KAIST 연구진의 역량을 세계 무대에 보여주게 되어 뜻깊었다”고 말했다.

이어 “앞으로도 AI와 보안 기술의 융합을 통해 국가와 글로벌 사회의 디지털 안전을 지키는 연구를 지속하겠다”고 전했다.

(생략)

---

삼성전자, 미국 정부 주최 ‘AI 사이버 챌린지(AIxCC)’에서 우승, 글로벌 보안 기술 리더십 입증

삼성전자가 미국 정부 주최로 2년에 걸쳐 진행된 AI 보안 대회에서 최종 우승했다.

삼성전자와 국내외 주요 대학이 연합해 출전한 ‘팀 애틀랜타(Team Atlanta)’는 8일 미국 라스베이거스에서 개최된 세계 최대 보안 기술 경진 대회 ‘AI 사이버 챌린지(AIxCC)’에서 1위를 차지했다.

연합팀은 삼성전자의 선행 연구개발조직인 삼성리서치와 조지아텍(Georgia Institute of Technology), 카이스트(KAIST), 포스텍(POSTECH) 등 세계적인 보안 연구원 40여 명으로 구성됐다.

‘AI 사이버 챌린지’는 미국 국방부 산하 국방고등연구계획국(DARPA, Defense Advanced Research Projects Agency)이 총 상금 2천 250만 달러의 규모로 진행하는 초대형 글로벌 보안 기술 경진 대회이다.

대회는 대규모 소프트웨어(SW)의 취약점을 찾아 보완하는 기술력을 경쟁하고 교통·전력·의료 등 사회 기반 시스템의 안전을 강화하는 AI 보안 기술 개발을 촉진하자는 취지로 마련됐다.

지난해 8월 열린 준결승에는 40여개 팀이 참가했고, 이 중 ‘팀 애틀랜타’를 포함한 7개 팀이 결승에 진출했다. 

 

세계적인 AI 보안 솔루션과 독보적인 기술력으로 우승

8일 진행된 결승전은 세계 최대 해킹·보안 콘퍼런스 중 하나인 ‘데프콘33(DEF CON 33)’ 행사와 연계해 개최됐다.

글로벌 다양한 국가의 대학, 연구기관, 테크 기업으로 구성된 결승 진출팀들은 창의적인 기술력을 선보이며 치열한 AI 보안 기술 경쟁을 벌였다.

최종 순위는 사람의 개입 없이 AI 보안 기술만으로 소프트웨어 저장소의 소스 코드 취약점을 자동으로 분석하고 보안 패치를 적용한 결과로 결정됐다.

삼성전자 연합팀은 결승전에서 복잡 다양한 보안 취약점들을 빠르게 찾아내고 정확한 보안 패치를 생성하는 기술을 선보이며 최종 우승했다. 우승 상금 4백만 달러도 함께 획득했다.

연합팀을 이끈 삼성전자 삼성리서치 김태수 상무는 “삼성전자가 포함된 팀 애틀랜타가 세계적인 대회에서 AI 보안 기술력을 입증하는 값진 성과를 낼 수 있었다”며 “앞으로도 글로벌 보안 전문가들과 협업해 삼성전자의 보안 기술력을 더욱 높여가겠다”고 우승 소감을 밝혔다.

삼성전자는 이번 성과를 계기로 AI 보안 기술의 경쟁력을 더욱 높이고, 글로벌 보안 생태계 강화를 위해 협력을 확대해 나갈 예정이다.

특히, 보안 취약점을 스스로 식별해 대응하는 차세대 AI 보안 솔루션으로 제품·서비스의 보안을 지속 강화할 계획이다.

▲ 미국 현지시간 8일 라스베이거스에서 열린 ‘AI 사이버 챌린지’에서 삼성전자와 국내외 주요 대학이 연합해 출전한 ‘팀 애틀랜타(Team Atlanta)’가 우승 기념 단체 사진을 찍고 있다.

▲ 미국 현지시간 8일 라스베이거스에서 열린 ‘AI 사이버 챌린지’에서 삼성전자 삼성리서치 연구원들이 우승 기념 사진을 찍고 있다.