미국 크리스천데일리인터내셔널(CDI)은 데니스 패트리 박사의 기고글인 "‘올바른 견해’를 말하는 챗봇을 신뢰할 때 생기는 위험:(The danger of trusting a chatbot with the right opinions)를 7월 31일(현지시각) 게재했다.
데니스 P. 페트리 박사는 국제종교자유연구소(International Institute for Religious Freedom)의 국제 책임자이며, 라틴아메리카 종교자유 관측소(Observatory of Religious Freedom in Latin America)의 설립자이자 상임 연구위원이다. 그는 라틴아메리카 과학기술대학교에서 국제관계학 교수로 재직하고 있으며, 여러 저서의 저자이다. 다음은 기고글 전문.
최근 필자는 ‘보수적인 챗봇’을 훈련하는 프로젝트에 참여해 달라는 초대를 받았다.
취지는 쉽게 짐작할 수 있었다. AI 시스템을 보수적 세계관에 맞춰 훈련해 질문에 보수적인 답변을 내놓도록 하고, 우리 사회가 마땅히 나아가야 할 방향에 더 가까운 관점을 제공하겠다는 것이었다.
필자는 그 제안을 거절했다. 하지만 그 초대는 오랫동안 머릿속을 떠나지 않았다. 단순히 하나의 프로젝트를 넘어, 오늘날 우리가 인공지능을 어떻게 이해하고 사용하려 하는지를 보여주는 작은 창처럼 느껴졌기 때문이다.
AI는 정말 진보적인가
우선 이 프로젝트가 출발한 문제의식 자체가 전혀 터무니없다고 말할 수는 없다. 오늘날 거대언어모델(LLM)은 대체로 진보적이거나 좌파적인 성향을 보인다는 인식이 널리 퍼져 있다. 이러한 모델들이 특정한 정치·문화적 분위기를 지닌 실리콘밸리에서 주로 개발됐다는 점도 이런 인식을 강화한다.
그러나 현실은 비판자들이 묘사하는 것보다 훨씬 복잡하다. AI 업계의 주요 인물인 피터 틸(Peter Thiel)과 일론 머스크(Elon Musk)는 분명 보수적 행보를 보여왔다. 대형 AI 연구소 설립자와 경영진 가운데 중도 좌파 성향의 인물이 많은 것은 사실이지만, 업계 전체의 정치적 견해는 하나로 통일돼 있지 않다.
더 분명한 사실은 주류 AI 모델이 대체로 주류 데이터를 기반으로 학습한다는 점이다.
주류 사회의 가치관과 언어, 지식과 논쟁을 반영한 방대한 자료가 모델의 학습 기반이 된다. 따라서 주류 문화가 자신에게서 멀어졌다고 느끼는 사람이라면, 그 데이터를 학습한 AI 역시 편향돼 있다고 느낄 가능성이 크다.
보수주의자들이 이러한 상황을 불편하게 받아들이는 것은 자연스러운 일이다. 그들은 근거의 타당성 여부와 별개로 세상이 자신들이 원하지 않는 방향으로 움직이고 있다고 느낀다. 따라서 ‘보수적인 챗봇’은 바로 이러한 반발에서 탄생한 시도다.
챗봇 훈련 프로젝트가 드러내는 사실
그러나 그 초대에서 필자를 가장 놀라게 한 것은 정치적 성향의 문제가 아니었다. 오히려 그것은 이 기술의 본질을 스스로 드러내고 있었다.
챗봇을 확실하게 보수적인 성향으로 훈련할 수 있다면, 그 사실은 AI 시스템이 절대적인 신탁이 아니라는 점을 보여준다. AI는 진리를 스스로 발견해 선포하는 존재가 아니다. 챗봇은 도구다. 그것도 놀라울 만큼 유연하고 쉽게 조정할 수 있는 도구다.
챗GPT(ChatGPT)는 사용자의 말에 지나치게 동조하고 칭찬하는 성향 때문에 ‘아부꾼’이라는 비판을 받아왔다. 오픈AI(OpenAI) 역시 한 업데이트가 모델을 지나치게 아첨하는 방향으로 바꿨다고 인정하고 이를 되돌린 적이 있다. 클로드(Claude)는 상대적으로 절제되고 중립적인 어조를 보이지만, 이 역시 설계와 설정의 결과다.
일반 사용자는 잘 알지 못할 수 있지만, 이러한 시스템은 사용자의 지시에 따라 더 순종적으로도, 더 비판적으로도 반응하도록 설정할 수 있다.
거액의 훈련 예산이 반드시 필요한 것도 아니다. 일상적인 언어로 보수주의자나 진보주의자, 마르크스주의자, 중세 스콜라 철학자의 관점에서만 답하라고 지시하는 것만으로도 답변의 방향과 어조는 크게 달라질 수 있다.
시스템 프롬프트 하나로 손쉽게 장착할 수 있는 세계관은 진정한 의미의 세계관이라 보기 어렵다. 그것은 하나의 분장에 가깝다.
보수적인 챗봇이 등장한다고 해서 AI가 마침내 진리에 맞춰졌다는 뜻은 아니다. 오히려 이는 기계가 얼마나 쉽게 조정될 수 있는지, 그리고 기계가 우리의 의견에 동조하기만 한다면 우리가 얼마나 기꺼이 그것을 조작하려 하는지를 보여준다.
모든 것의 정치화, 이제는 기계까지
필자는 종교의 자유를 비롯한 사회의 거의 모든 영역이 정치화되는 현상에 깊은 관심을 갖고 있다. 그 밑바탕에는 대개 부족주의적 논리가 자리한다. 세상을 진리와 오류보다 ‘우리 편’과 ‘상대편’으로 나누는 사고방식이다.
보수적인 챗봇은 우리가 사고하기 위해 사용하는 도구에까지 이러한 논리가 적용된 결과다.
이 시장에서 양측이 모두 성공한다고 가정해 보자. 진보 진영은 주류 데이터를 학습하고 주류 연구소에서 미세조정된 모델을 갖게 된다. 보수 진영은 자신들이 ‘올바른 답변’이라고 여기는 내용을 제시하도록 훈련된 대항 모델을 갖는다. 그러나 여기서 말하는 ‘올바른 답변’은 탐구 끝에 발견된 진리가 아니다. 이미 사전에 정의된 결론이다.
글루(Gloo)의 챗봇이 ‘신앙’이라는 이름으로 사용자의 믿음에 맞춰 답한다면, 보수적인 챗봇은 ‘진리’라는 이름으로 사용자의 정치적 신념에 맞춰 답한다. 이름만 다를 뿐 본질적으로 같은 제품이다. 이것은 사용자가 이미 믿고 있는 내용을 다시 들려주도록 설계된 기계다.
기존의 양극화는 사람들이 같은 질문에 서로 다른 답을 내놓는 현상을 뜻했다. 그러나 정치화된 AI는 그보다 한 걸음 더 나아간다. 사용자가 자판을 두드리기도 전에 자문을 구할 도구 자체가 이미 특정 진영에 맞춰 조정돼 있다면, 그는 실제로 질문을 던지는 것이 아니다. 세련된 문장과 훌륭한 문법으로 포장된 확증 편향을 대규모로 외주 주고 있을 뿐이다.
동의하는 기계가 필요한가
필자가 프로젝트 참여를 거절한 이유는 보수적 관점이 표현될 가치가 없다고 생각했기 때문이 아니다.
보수적 관점은 충분히 논의되고 검토될 가치가 있다. 실제로 필자는 진보 성향의 친구들이 짐작하는 것보다 훨씬 많은 부분에서 보수적 주장에 동의한다. 물론 보수 성향의 친구들이 기대하는 수준에는 미치지 못할 수도 있다.
필자가 거절한 이유는 필자와 다른 사람의 것을 막론하고, 이른바 ‘올바른 의견’만을 가진 기계를 원하지 않기 때문이다. 필자에게 무조건 동의해 주는 무언가가 필요하다면 이미 훌륭한 도구가 하나 있다. 바로 거울이다.
필자에게 진정 필요한 것은 필자가 틀렸을 때 그것을 깨닫도록 도와주는 도구다. 필자의 전제에 의문을 제기하고, 놓친 사실을 보여주며, 반대 논거를 정직하게 설명하고, 필자가 가장 듣고 싶지 않은 질문을 던져주는 도구가 필요하다.
그러나 정치적 진영을 위해 만들어진 챗봇은 그런 역할을 하기 어렵다. 그 목적 자체가 사용자의 신념을 흔드는 것이 아니라 강화하는 데 있기 때문이다.
교육과 제자도의 반대편
과거에는 사람이 자신이 틀렸음을 깨닫도록 돕는 과정을 ‘교육’이라고 불렀다. 기독교 전통에서는 이를 ‘제자도(discipleship)’라고 부르기도 했다.
교육은 이미 알고 있다고 생각하는 것을 반복해서 확인하는 과정이 아니다. 자신의 한계를 발견하고, 잘못된 전제를 수정하며, 이전보다 더 진실에 가까이 다가가는 과정이다.
제자도 역시 자기 신념을 종교적인 언어로 포장해 강화하는 일이 아니다. 자신의 생각과 욕망을 하나님의 말씀 앞에 내려놓고, 잘못된 길에서 돌이키며, 그리스도를 닮아가는 과정이다.
진정한 교육과 제자도에는 불편함이 따른다. 때로는 자신이 틀렸다는 사실을 인정해야 하고, 오랫동안 붙들어온 관점을 수정해야 하며, 자신이 속한 진영의 주장에도 의문을 제기해야 한다.
그러나 ‘올바른 의견’을 말하도록 설계된 챗봇은 이러한 불편함을 제거한다. 그것은 사용자를 가르치기보다 안심시키고, 변화시키기보다 만족시키며, 진리를 찾도록 돕기보다 이미 가진 믿음을 되돌려준다.
인류 역사상 가장 발전한 기술이 우리를 더 깊이 배우고 성숙하도록 돕는 대신, 교육과 제자도를 의도적으로 가로막는 도구로 전락한다면 이보다 더 씁쓸하고 기이한 아이러니가 또 있을까.
AI의 가장 큰 위험은 그것이 틀린 답을 말하는 데만 있지 않다. 우리가 듣고 싶은 답을 너무 능숙하게 말한다는 데 있다.