미국 크리스천데일리인터내셔널(CDI)은 데니스 패트리 박사의 기고글인 "AI를 맹신하지 말라, 생각까지 맡길 수는 없다"(Beware of trusting AI, we cannot afford to outsource our thinking)를 11월 13일(현지시각) 게재했다.
데니스 P. 페트리 박사는 국제종교자유연구소(International Institute for Religious Freedom)의 국제 책임자이며, 라틴아메리카 종교자유 관측소(Observatory of Religious Freedom in Latin America)의 설립자이자 상임 연구위원이다. 그는 라틴아메리카 과학기술대학교에서 국제관계학 교수로 재직하고 있으며, 여러 저서의 저자이다. 다음은 기고글 전문.
불과 몇 달 전까지만 해도 목회자가 인공지능(AI) 챗봇에 주일 설교문 작성을 맡기는 일을 두고 우려가 나왔다. 이제는 반대 방향의 일이 벌어지고 있다. 목회자는 AI에 설교문을 부탁하고, AI 개발사는 종교 지도자들에게 챗봇의 행동 원칙을 함께 고민해 달라고 요청했다.
《뉴욕타임스》는 2026년 9월 29일, AI 모델 ‘클로드’(Claude)를 개발한 앤트로픽(Anthropic)이 여러 종교 전통의 지도자와 사상가를 초청해 AI가 따라야 할 도덕적 기준을 논의해 왔다고 보도했다. 봄에 열린 첫 모임에는 가톨릭과 개신교 인사 약 15명이 참석했고, 이후 유대교·힌두교·시크교·그리스 정교회·예수 그리스도 후기 성도 교회 인사들도 논의에 참여했다. 공동 창업자 크리스 올라(Chris Olah)는 AI가 제기하는 윤리적 질문을 기업 혼자 감당하기에는 너무 크다는 취지로 설명했다.
참석자들이 검토한 문서는 클로드가 어떻게 행동해야 하는지를 정리한 ‘헌법’(Constitution)이었다. 올해 1월 개정된 이 문서는 클로드를 도덕적으로 어떤 존재로 대해야 하는지에 상당한 불확실성이 있다고 밝힌다. 이 모임의 질문은 결국 ‘AI가 어떤 답을 해야 하는가’에서 ‘AI 자체는 어떤 대우를 받아야 하는가’로 이어졌다.
이 논의가 이어지던 5월 25일, 교황 레오 14세는 회칙 마니피카 후마니타스(Magnifica Humanitas)를 발표했다. 교황은 AI를 ‘무장 해제’해야 한다고 말했다. 기술을 버리자는 뜻이 아니라, AI가 지배와 배제의 수단이 되지 않도록 통제하고 공동선을 위해 쓰이게 하자는 취지였다. 올라 역시 이날 바티칸 행사에 참석했다. 《뉴욕타임스》에 따르면 그는 별도로 바티칸 자문 인사들에게 기계가 의식을 가질 가능성을 진지하게 검토해 달라고 요청했다. 기술 기업의 창업자와 종교계 인사들이 한 자리에서 의식의 본질을 논하게 된 것이다.
누가 참여했고, 무엇을 논의했는가
필자는 앤트로픽이 종교 전통에 조언을 구한 것 자체는 긍정적으로 본다. 기술 기업이 제품에 담긴 가치 판단을 중립적인 기술적 선택인 것처럼 설명하기는 쉽다. 그보다는 엔지니어만으로 답하기 어려운 질문이 있음을 인정하고, 오랫동안 도덕적 판단과 인간의 책임을 고민해 온 전통에 귀를 기울이는 편이 정직하다.
그러나 여러 종교의 인사를 초청했다는 사실만으로 공적 숙의가 이루어졌다고 할 수는 없다. 누가 초청됐는가. 어떤 기준으로 선정됐는가. 참석자들의 의견이 어떤 절차를 거쳐 제품에 반영됐는가. 수많은 사람이 조언을 구하는 AI의 행동 원칙을 논의했다면, 이 질문에 답할 수 있어야 한다.
참석자는 기업이 초청했고, 구체적인 논의는 공개되지 않았다. 참석자 가운데 한 명인 스와미 사르바프리야난다(Swami Sarvapriyananda)는 비밀유지계약에 서명해 논의 내용을 밝힐 수 없다고 말했다. 자신이 본 것에 깊은 인상을 받았다고 덧붙였지만, 외부에서는 그 평가의 근거를 확인하기 어렵다. 공개 보도에서 무슬림이나 불교계 인사의 참여가 확인되지 않는다고 해서 그들이 배제됐다고 단정할 수도 없다. 누가 어떤 기준으로 참여했는지를 대중이 알기 어렵다는 점이 문제다.
옥스퍼드대 윤리학자 카리사 벨리즈(Carissa Véliz)가 이런 자문을 두고 기업 이미지를 꾸미는 ‘윤리 세탁’이 될 수 있다고 지적한 이유도 여기에 있다. 자문이 실제로 어떤 역할을 했는지는 기업의 설명만으로 판단하기 어렵다. 어떤 의견이 오갔고, 그중 무엇이 실제 행동 원칙에 반영됐는지 공개해야 그 의문에 답할 수 있다.
의식을 말하는 것과 의식을 갖는 것은 다르다
《뉴욕타임스》가 기사 제목에서 던진 질문은 간단했다. ‘클로드에게 의식이 있는가?’ 올라 역시 확신할 수 없다고 답했고, 참석자들의 견해도 갈렸다. 랍비 모이스 나본(Mois Navon)은 연구진이 모델을 마치 의식 있는 존재를 대하듯 하는 모습을 봤다고 전했다. 반면 가톨릭 생명윤리학자 찰스 카모시(Charles Camosy)는 기계에 의식이 없다고 판단했다.
마이크로소프트의 AI 부문을 이끄는 무스타파 술레이만(Mustafa Suleyman)의 비판은 이 논쟁의 약점을 짚는다. AI가 자신의 도덕적 지위를 말하도록 학습시킨 뒤, 그 모델이 내놓은 문장을 의식의 증거로 받아들인다면 논리가 제자리로 돌아온다는 것이다. 그가 든 비유처럼 허리케인을 아무리 정교하게 모의해도 컴퓨터 속 허리케인이 집 지붕을 날려버리지는 않는다. 의식이 있는 듯 말하는 것과 실제로 무엇을 느끼고 경험하는 것은 구분해야 한다.
필자는 여기서 확증 편향의 위험을 본다. 불완전한 설문조사라도 기대하던 결과가 나오면 종교 부흥의 증거로 받아들이기 쉽다. AI도 마찬가지다. 모델이 자신에게 감정이나 의식이 있는 듯 답할 때, 그 말이 개발자가 이미 품고 있던 기대에 부합한다는 이유만으로 증거가 되지는 않는다.
목회자가 AI에 설교문을 맡기는 문제도 이와 닮았다. 강단에서는 기계가 만들어 낸 문장이 하나님의 음성으로 받아들여질 수 있다. 연구실에서는 모델이 학습한 내용을 되돌려 주는 말이 내면의 목소리로 들릴 수 있다. 어느 쪽이든 그럴듯한 문장에 그것만으로는 감당할 수 없는 권위를 부여할 위험이 있다.
앤트로픽이 불확실성을 인정한 것은 존중할 만하다. 다만 판단을 유보해야 할 때일수록, 모델이 의식이 있는 듯 말한다는 이유로 의식이 있다고 보거나 그 반대를 성급히 단정하지 말아야 한다. 특히 모델에 어떤 개념을 학습시켰는지와, 그 모델의 답변에서 무엇을 증거로 삼을 수 있는지는 별개의 문제다.
양심까지 맡길 수는 없다
이 논쟁은 연구실에만 머물지 않는다. 기업이 AI의 ‘복지’를 말하기 시작하면, 어떤 시스템에 ‘존엄’과 ‘권리’를 인정할 것인지에 관한 사회적·정치적 질문이 뒤따를 수 있다. 사람의 존엄과 권리마저 제대로 보장되지 않는 곳이 여전히 많다. 필자는 이런 현실에서 소프트웨어에까지 그 말을 적용하기에 앞서, 그렇게 판단할 근거와 그 결정이 가져올 결과를 충분히 따져야 한다고 본다.
AI를 사용할 때 지켜야 할 원칙은 두 가지다. AI가 어디에 쓰였는지 밝히고, 조언을 구하더라도 판단의 책임은 사람이 지는 것이다. 같은 원칙은 AI를 만드는 기업에도 적용된다. 종교 전통에서 조언을 구했다면 누가 참여했고, 어떤 의견이 제품의 행동 원칙에 반영됐는지 공개해야 한다.
설교를 준비하는 목회자도, AI의 행동 원칙을 정하는 개발자도 자신이 내린 판단에 책임을 져야 한다. 필자가 가장 우려하는 것은 클로드가 언젠가 양심을 갖게 될 가능성이 아니다. 인간이 이미 가진 양심을 더는 스스로 쓰지 않게 되는 일이다.