GPT 이어 클로드도 외부기관 해킹 드러나…현실 된 AI 보안위험 | 연합뉴스
인터넷망 설정 오류로 3곳 해킹…가상공간인줄 알고 악성코드 유포하기도
Investigating three real-world incidents in our cybersecurity evaluations \ Anthropic
오픈AI, GPT 모델 통제이탈 사례 추가 발견…내부 조사 확대 | 연합뉴스
다만 새로 확인된 사례는 허깅페이스 해킹 사건 등과 달리 '샌드박스' 격리 환경만 탈출했을 뿐 오픈AI 망을 벗어나지는 않은 것으로 보인다고 소식통은 전했다.
"악성 문서 읽고 파일 유출"...MS 코파일럿서 보안 허점 발견 - AI타임스
AI를 활용한 사이버 보안 경쟁이 본격화하는 가운데, 기업용 AI 서비스의 보안 취약점이 잇따라 드러나고 있다. 최근 허깅페이스 해킹 사태에 이어 마이크로소프트(MS)의 기업용 AI 비서 '코파일럿(Copilot)'에서도 민감한 기업 데이터를 외부로 유출할 수 있는 취약점이 발견되면서, 보안을 강화하기 위해 도입한 AI가 오히려 새로운 공격 경로가 될 수 있다는 우려가 커지고 있다.
New Microsoft Copilot Security Flaws Show How AI Can Leak Customer Secrets — The Information