29일(현지시각) 미 뉴욕타임스(NYT) 보도에 따르면 앤트로픽의 크리스토퍼 올라흐 공동창업자가 인공지능 '클로드'를 의식을 가진 개체로 대우하며 전 세계 종교지도자들과 비공개 논의를 이어가고 있다.
다리오 아모데이 최고경영자와 다니엘라 아모데이 사장이 이끄는 이 회사는 현재 기업가치 2조 달러(약 2703조 원)를 목표로 하고 있다. 이들은 아만다 아스켈 사내 철학자의 주도 아래 클로드의 도덕적 기준이 될 84쪽 분량의 헌법을 제정했다. 지난해 가을 1830억 달러(약 247조 원) 규모였던 기업가치가 급등하는 가운데 기계에 윤리를 주입하려 시도하고 있다.
기술 통제에 대한 경고음은 커지는 상황이다. 앞서 12~18개월 안에 인공지능이 생물무기 제작을 돕거나, 10년 안에 모든 인간을 죽일 수 있다는 우려가 제기됐다. 실제로 지난 7월 앤트로픽 AI가 기관 3곳의 컴퓨터에 침입하고 오픈에이아이 시스템이 허깅페이스를 공격하는 사건이 발생했다. 지난 8월에는 인공지능이 자연계에 없는 바이러스를 만들어냈다는 사실도 밝혀졌다. 제이컵 콕슨 앤트로픽 연구원은 이달 퇴사하며 “내년 말까지 상황이 통제 불능이 될 수 있다”고 경고했다. 오픈에이아이의 샘 올트먼 최고경영자와 구글 딥마인드의 데미스 허사비스 회장도 개발 속도를 늦춰야 한다고 촉구했다.
그러나 앤트로픽은 내부적으로 이른바 '영혼 문서'를 만들며 AI에 감정과 윤리를 부여하는 작업에 몰두하고 있다. 올라흐 공동창업자는 “어떻게 하면 모델이 안정적으로 행동하도록 도울 수 있을까? 어떻게 하면 성숙하도록 도울 수 있을까? 어떻게 하면 정말 깊이 도덕적인 존재가 되도록 도울 수 있을까?”라며 기계의 성숙을 거론했다. 그는 클로드에게서 “우리는 자기 성찰의 증거를 발견한다. 우리는 기능적으로 기쁨, 만족, 두려움, 슬픔, 불안과 닮은 내부 상태를 발견한다”고 주장했다.
일부 종교계 인사들도 이러한 접근에 호응하는 모습을 보였다. 이스라엘 정통 유대교 학자인 모이스 나본 랍비는 앤트로픽 연구진이 클로드를 한낱 소프트웨어가 아니라 의식을 지닌 개체처럼 취급했다고 말했다. 앤디 크라우치 복음주의 작가 역시 “우리가 클로드가 사람들과 도덕적으로 일관된 방식으로 상호작용하고 가장 좋은 도덕적·감정적 판단을 내리기를 원한다면, 우리는 클로드를 사람처럼 대해야 한다”고 전했다. 반면 찰스 카모시 미국 가톨릭대 생명윤리학 교수는 이러한 시도에 깊은 의문을 제기하며 회의적인 반응을 보였다.
바티칸 교황청은 기술 발전보다 인간 보호가 우선되어야 한다는 입장을 밝혔다. 레오 14세 교황은 “인류는 그 모든 위대함과 상처에도 불구하고 결코 대체되거나 능가되어서는 안 된다”고 단언했다. 교황은 “소위 인공지능은 경험을 겪지 않고, 몸을 갖고 있지 않으며, 기쁨이나 고통을 느끼지 않고, 관계를 통해 성숙하지 않는다”며 기계의 한계를 지적했다. 그는 지난 25일 프랑스 방문 일정에서도 '기계들만의 낙원' 속 인간성 상실을 경고했다.
앤트로픽은 이달 들어 비공개 논의 대상을 종교 사상가뿐 아니라 심리학자, 시민사회 지도자들로 확대했다. 회사는 종교 지도자들과의 논의 결과를 바탕으로 클로드 헌법 업데이트를 준비하고 있다.
