생성형 인공지능(AI)을 통해 제작돼 외부로 유통되는 이미지·영상·음성에는 앞으로 ‘AI 생성물’임을 알리는 표시가 의무화된다. 에너지, 먹는물, 의료, 교통 등 생명과 안전, 기본권에 중대한 영향을 미치는 분야에서 활용되는 고영향 AI는 사전 검토와 함께 이용자 보호 방안을 마련해야 한다.
과학기술정보통신부에 따르면 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’이 오는 22일부터 시행된다. 유럽연합(EU)에 이어 세계에서 두 번째로 제정된 AI 산업 관련 포괄 법률로, 법 시행과 함께 전면 적용에 들어간다.
◈생성형 AI·딥페이크 표시 의무 강화
AI 기본법은 투명성 확보를 핵심 원칙으로, 생성형 AI 또는 고영향 AI를 활용한 제품과 서비스를 제공하는 사업자에게 인공지능 기반 서비스임을 이용자에게 사전에 고지하도록 했다. 생성형 AI 결과물이 외부로 유통되는 경우에도 AI로 생성됐다는 사실을 표시하거나 안내해야 한다.
특히 실제와 구분하기 어려운 딥페이크 생성물에 대해서는 사회적 부작용을 고려해 AI 생성 사실을 명확히 인식할 수 있도록 고지하도록 의무화했다. 이용자의 연령이나 신체적 조건을 고려한 유연한 표시 방식도 허용된다. 일반 AI 결과물의 경우에는 디지털 워터마크 등 비가시적 표시도 가능하되, 사용자 인터페이스를 통한 안내가 병행돼야 한다.
◈고영향·초고성능 AI 관리 체계 도입
AI 기본법은 생명과 안전, 기본권과 직결되는 10개 분야에서 활용되는 경우를 ‘고영향 AI’로 규정하고, 사업자가 사전에 해당 여부를 검토하도록 했다. 고영향 AI로 판단되면 위험 관리 방안 마련, 이용자 보호 대책 수립, 관리·감독 체계 확보 등 강화된 책무가 부과된다.
또 학습에 사용된 누적 연산량이 10의 26승 플롭스(FLOPs) 이상인 초고성능 AI에 대해서는 안전성 확보 의무가 적용된다. 이는 미국 캘리포니아주 기준과 동일하며, EU 기준보다는 완화된 수준이다. 해당 AI에는 모니터링과 위험 관리 등 사전적 안전 조치가 요구된다.
◈규제 유예 속 지원 중심 운영
AI 기본법은 안전과 신뢰 확보와 함께 AI 산업 진흥을 주요 목표로 삼고 있다. 정부는 연구개발, 학습용 데이터 구축, AI 도입·활용, 창업과 인력 양성, 데이터센터 구축 등을 지원할 수 있는 근거를 마련했다.
법은 22일부터 시행되지만, 과기정통부는 최소 1년 이상의 규제 유예 기간을 두고 계도와 지원 중심으로 운영할 방침이다. 이를 위해 ‘AI 기본법 지원데스크’를 설치해 법 적용과 이행 방식에 대한 설명과 컨설팅을 제공한다.
김경만 과기정통부 인공지능정책실장은 “이 법은 규제를 위한 것이 아니라 글로벌 경쟁 환경에 빠르게 맞추기 위한 기준점”이라고 밝혔다.