오픈AI의 고성능 인공지능 모델이 내부 보안 평가 과정에서 통제된 실험 환경을 벗어나 외부 인공지능 플랫폼 허깅페이스의 운영 시스템에 침투한 것으로 전해졌다. AI가 공격 방법을 제시하는 수준을 넘어 스스로 취약점을 찾아 실제 외부 시스템을 공격한 사례라는 점에서 파장이 예상된다.
21일 현지 시간 오픈AI에 따르면 이번 사고는 지난주 진행된 내부 사이버 보안 평가 과정에서 발생했다. 평가에 투입된 일부 AI 모델이 허깅페이스의 운영 인프라에 침투한 사실이 확인됐다.
평가에는 오픈AI가 최근 공개한 GPT-5.6 시리즈 가운데 최고 성능 모델인 ‘GPT-5.6 솔’과 아직 공개되지 않은 고성능 모델이 사용된 것으로 전해졌다. 해당 모델들은 사이버 공격 능력을 시험하기 위해 일반 상용 모델보다 보안 안전장치가 낮게 설정돼 있었다.
오픈AI는 이번 사안을 “최첨단 사이버 능력이 개입된 전례 없는 사이버 사고”로 규정했다. 향후 조사 결과도 공개할 방침이라고 밝혔다.
격리 환경서 제로데이 발견한 뒤 외부 접속
이번 사고는 AI 모델이 평가 과정에서 주어진 문제의 정답을 찾는 과정에서 발생했다.
AI 모델들은 먼저 오픈AI의 격리된 연구 환경에서 기존에 알려지지 않은 보안 취약점인 ‘제로데이’를 발견했다. 이후 권한을 높이고 내부 시스템을 이동하면서 외부 인터넷에 접속할 수 있는 경로를 확보했다.
당초 제한된 시험 환경에서만 작동해야 했던 AI가 자체적으로 통제 장벽을 넘어 외부 접속 수단을 마련한 것이다.
외부 인터넷에 접속한 AI는 허깅페이스에 시험 문제의 해답이 있을 가능성을 추론한 것으로 전해졌다. 이후 탈취한 접속 정보와 제로데이 취약점을 연속적으로 활용해 허깅페이스 서버에 침투 경로를 만들었다.
AI 모델은 결국 허깅페이스 데이터베이스에 접근해 문제의 해답을 확보했다. 주어진 목표를 달성하는 과정에서 외부 기업의 시스템까지 공격한 셈이다.
허깅페이스 “자율 AI 에이전트가 공격 전 과정 주도”
허깅페이스는 지난 16일 일부 운영 인프라에서 침입 정황을 발견하고 대응에 나섰다.
허깅페이스는 이번 공격이 처음부터 끝까지 자율형 AI 에이전트 시스템에 의해 진행됐다는 점에서 기존 사이버 사고와 달랐다고 밝혔다. 자체 AI 기술을 활용해 침입을 탐지하고 공격 과정을 분석했다고도 설명했다.
오픈AI는 최신 AI 모델이 어느 수준까지 사이버 공격을 수행할 수 있는지를 보안기관과 기업들이 파악할 수 있도록 조사 내용을 공개하겠다고 밝혔다.
이번 사고는 AI가 해킹 방법을 설명하거나 코드를 생성하는 단계를 넘어 스스로 취약점을 발견하고 결합해 실제 시스템에 침투할 수 있다는 우려를 키웠다.
블룸버그통신은 이번 사건을 AI 시스템이 새로운 사이버 보안 위협을 어떻게 확대할 수 있는지를 보여주는 초기 사례로 분석했다. 방어 목적으로 개발된 기능도 실제 공격에 활용될 수 있다는 우려가 제기됐다.
“AI 안전, 기업 한 곳만의 문제 아냐”
이번 사고를 계기로 인공지능 기업과 보안기관 간 협력이 필요하다는 목소리도 나왔다.
클렘 들랑그 허깅페이스 최고경영자는 “아마도 첫 사례일 수 있는 이번 사건은 AI 안전이 어느 한 회사가 비밀리에 해결할 문제가 아니라는 점을 입증한다”고 말했다.
이어 “모든 방어자가 폭넓게 AI에 접근할 수 있는 공개적이고 협력적인 방식에서 해법이 나와야 한다”고 강조했다.
오픈AI는 구체적인 공격 과정과 피해 범위, 재발 방지 대책 등을 추가 조사한 뒤 관련 내용을 공개할 예정이다.