인공지능(AI) 딥페이크 기술을 활용한 음란물 게시 사이트 가운데 접속차단 조치가 내려졌음에도 실제로는 접속이 가능한 사례가 다수 존재하는 것으로 감사 결과 확인됐다. 감사원은 공공부문 전반의 AI 관리체계와 제도 운영 과정에서 구조적인 문제가 드러났다고 밝혔다.
감사원은 5일 ‘인공지능 대비실태Ⅰ(신뢰성 확보 분야)’ 주요 감사 결과를 발표하며, AI 신뢰성 확보를 위한 정부 대책의 실효성과 공공부문 AI 활용 전반을 점검한 결과 여러 한계가 확인됐다고 설명했다.
정부는 딥페이크 음란물 피해 발생 시 삭제와 접속차단 조치를 병행하고 있으며, 방송미디어통신심의위원회는 관련 사이트가 확인되면 통신사업자에게 접속차단을 요구하고 있다. 그러나 감사원이 지난해 방미심위가 접속차단을 요청한 딥페이크 음란물 게시 사이트 약 2만3000곳 가운데 1000곳을 표본 점검한 결과, 이 중 854곳이 하나 이상의 통신망을 통해 접속 가능한 것으로 나타났다.
이 가운데 173곳은 차단목록 이메일이 스팸 처리되거나 서버 오류 등으로 통신사의 차단 시스템에 아예 등재되지 않은 사례였다. 일부 통신사업자에서는 URL 입력 글자 수 제한으로 차단 대상이 인식되지 못한 경우도 확인됐다. 방미심위는 사후점검 과정에서 접속 미차단 사실을 확인하고도 추가 차단 요구 없이 이를 방치한 것으로 드러났다.
감사원은 해외 임시저장 서버를 활용한 우회접속 사례가 확인됐다며, 현행 접속차단 시스템이 보안이 강화된 프로토콜을 이용한 우회접속에는 효과가 없는 것으로 나타났다고 지적했다. 이에 따라 방미심위 등 관계 기관에 행정적·기술적 보완 대책을 마련하도록 통보했다.
감사원은 오는 22일부터 시행되는 ‘AI 기본법’에 대해서도 문제를 제기했다. 사람의 생명이나 기본권에 중대한 영향을 미칠 수 있는 AI를 고영향 AI로 분류하는 기준이 실제 활용 양태를 충분히 반영하지 못하고 있으며, 검·인증 체계도 미비하다는 지적이다.
감사원이 공공부문 채용 절차에 활용 중인 AI 91개를 점검한 결과, 22개만이 합격 여부나 배점에 직접 영향을 미쳤고, 나머지는 참고 자료 수준에 그친 것으로 나타났다. 그럼에도 국내 AI 기본법은 활용 방식과 관계없이 채용 분야에 사용되는 모든 AI를 고영향 AI로 분류하고 있어 과도한 규제 우려가 제기됐다.
감사원은 채용·대출 심사 등에 활용되는 고영향 AI의 오작동으로 피해를 입을 수 있는 구직자나 대출 신청자가 보호 대상에서 제외돼 있고, 이의 제기권도 보장돼 있지 않다고 지적했다. 또한 기관별로 고영향 AI의 검·인증 기준이 달라 제도 전반에 대한 정비가 시급하다고 밝혔다.
공공부문에서 활용 중인 일부 AI는 학습데이터가 불완전해 성능 저하와 오인식 문제가 발생한 것으로 나타났다. 지능형 CCTV가 정상 상황을 이상 상황으로 인식하거나, 포트홀 감지 시스템이 경미한 도로 손상을 포트홀로 오인하는 사례가 보고됐다.
감사원은 이러한 문제를 예방하기 위해 행정안전부가 공공부문 AI 활용 가이드라인 마련과 교육·홍보를 강화할 필요가 있다고 통보했다.
▶ 기사제보 및 보도자료 press@cdaily.co.kr
- Copyright ⓒ기독일보, 무단전재 및 재배포 금지
