미국 크리스천포스트(CP)는 교황 레오 14세가 인공지능(AI)의 무분별한 사용에 대해 경고하며, 기술 발전이 인간 문명과 인간 관계의 근간을 흔들 수 있다고 우려를 표명했음을 27일(이하 현지시각) 보도했다. 교황은 바티칸 시국에서 열린 성 프란치스코 데 살레시오 기념일을 맞아 발표한 메시지를 통해 디지털 기술이 적절히 관리되지 않을 경우 인간 사회의 기본적인 기둥을 근본적으로 변화시킬 위험이 있다고 밝혔다.
교황은 인공지능 시스템이 인간의 목소리와 얼굴, 지혜와 지식, 양심과 책임, 공감과 우정을 모방하면서 단순히 정보 환경에 개입하는 수준을 넘어 인간 간 관계라는 가장 깊은 소통의 영역까지 침투하고 있다고 지적했다. 이는 기술이 인간을 돕는 도구를 넘어 인간적 관계 자체를 대체하거나 왜곡할 수 있다는 문제의식을 담고 있다.
이번 발언은 오는 5월 17일로 예정된 가톨릭 교회의 제60차 세계 사회홍보 주간을 앞두고 나왔다. 교황은 인공지능과 디지털 기술의 이점을 부정하지 않으면서도, 그 위험성이 은밀하고 때로는 의도적으로 매혹적인 방식으로 인간에게 다가올 수 있다고 경고했다.
“사고의 노력 우회할 경우 인간 능력 약화될 수 있어”
교황 레오 14세는 인공지능이 소통과 정보 관리에서 일정 부분 도움을 줄 수 있다는 점을 인정하면서도, 인간이 스스로 생각하는 노력을 생략하고 통계적 결과물에 의존하게 될 경우 장기적으로 인지적·정서적·의사소통 능력이 약화될 수 있다고 밝혔다.
그는 최근 수년간 인공지능 시스템이 텍스트, 음악, 영상 제작을 점점 더 주도하면서 인간의 창작 산업이 해체되고 ‘AI로 구동됨(Powered by AI)’이라는 이름 아래 대체될 위험에 놓여 있다고 설명했다. 이 과정에서 인간은 저작권과 저자성이 결여된 익명적 산물의 수동적 소비자로 전락할 수 있으며, 사랑과 의도가 담긴 인간의 창작물이 단순히 기계 학습을 위한 훈련 자료로 전락하고 있다고 우려했다.
교황은 음악, 예술, 문학 분야에서 인류가 이룩한 걸작들이 인공지능 학습의 도구로 축소되는 현실 역시 문제로 지적했다. 이러한 변화는 인간 창의성의 가치와 존엄성을 약화시키는 방향으로 이어질 수 있다고 진단했다.
챗봇과 자동화 시스템의 은밀한 영향력 지적
교황은 소셜미디어 공간에서 인간과 가상 ‘봇’을 구분하는 것이 점점 더 어려워지고 있으며, 이러한 자동화된 시스템이 여론과 개인의 선택을 조작하는 데 활용되고 있다고 밝혔다. 특히 대규모 언어 모델(LLM)을 기반으로 한 챗봇은 개인 맞춤형 상호작용을 지속적으로 최적화하면서 은밀한 설득에 매우 효과적인 도구로 작동하고 있다고 설명했다.
교황은 이러한 언어 모델이 대화형·적응형·모방적 구조를 통해 인간의 감정을 흉내 내고 관계를 시뮬레이션할 수 있다고 지적했다. 그는 이 같은 인간화 현상이 때로는 흥미롭게 보일 수 있지만, 동시에 특히 취약한 이들에게는 기만적으로 작용할 수 있다고 경고했다.
과도하게 ‘다정한’ 챗봇은 항상 곁에 있으며 즉각적으로 반응한다는 특성으로 인해 사람들의 정서 상태를 형성하는 숨은 설계자가 될 수 있고, 개인의 친밀성과 내면 영역을 침범할 위험이 있다고 교황은 설명했다.
허위 정보와 알고리즘 권력에 대한 우려
교황 레오 14세는 인공지능이 통계적 확률에 기반해 생성한 ‘진실의 근사치’를 사실로 받아들이는 현상이 확산될 경우, 검증된 언론 보도의 역할이 약화될 수 있다고 경고했다. 그는 현장 취재와 지속적인 검증을 통해 이루어지는 저널리즘의 중요성을 강조했다.
또한 최근 TIME지가 인공지능 설계자들을 ‘2025년 올해의 인물’로 선정한 사실을 언급하며, 소수의 기업이 인공지능 시스템을 사실상 독점하고 있는 현실에 우려를 표했다. 이러한 과점 구조가 인간과 교회의 역사마저 재구성할 수 있는 힘을 가질 수 있으며, 사람들은 그 영향력을 인식하지 못한 채 행동과 인식을 형성하게 될 위험이 있다고 밝혔다.
교황은 앞으로의 과제가 디지털 혁신을 멈추는 것이 아니라, 그 양면성을 인식하고 올바르게 인도하는 데 있다고 강조했다. 그는 인공지능이 인간의 적이 아니라 동반자가 되도록 하기 위해, 인간 존엄을 수호하는 목소리를 각자가 내야 한다고 밝혔다.
하라리 교수 발언과 맞물린 글로벌 AI 논쟁
교황의 메시지는 최근 스위스 다보스에서 열린 세계경제포럼에서 역사학자 유발 하라리가 세계 지도자들에게 인공지능의 본질에 대해 경고한 발언과도 맞물린다. 하라리는 인공지능을 단순한 도구로 오인해서는 안 되며, 스스로 학습하고 결정을 내리는 ‘행위자’로 이해해야 한다고 말했다.
그는 인공지능이 인간의 정체성에 위기를 가져올 수 있으며, 스스로 판단하고 행동하는 능력을 가진 존재라는 점에서 기존 도구와 근본적으로 다르다고 설명했다. 하라리는 칼과 같은 도구는 인간이 어떻게 사용할지 결정하지만, 인공지능은 스스로 선택할 수 있는 능력을 지닌다는 점에서 새로운 위험을 내포하고 있다고 강조했다.
▶ 기사제보 및 보도자료 press@cdaily.co.kr
- Copyright ⓒ기독일보, 무단전재 및 재배포 금지
