브레이크 작동 여부도 확인하지 않은 채 오직 속도만을 높여 질주하는 자동차를 우리는 과연 ‘발전’이라 부를 수 있을까? 2026년 오늘, 인간의 이해와 통제를 벗어나 스스로 더 뛰어난 AI를 만들어내는 '자기 개선형 초지능 AI'의 등장은 이 질문을 인류의 생존 문제로까지 확대하고 있다.

현재 인공지능(AI)은 스스로 더 우수한 AI를 연구하고 개발하는 단계에 도달했다. 인간이 이 기술을 완전히 이해하고 검증하기도 전에, 더욱 강력한 AI가 연이어 출현하며 통제권 상실에 대한 우려가 깊어지고 있다. 전문가들은 이러한 AI의 무분별한 속도 경쟁이 인류에게 치명적인 위험을 초래할 수 있다고 경고한다.

구체적인 위협 사례는 현실화되고 있다. '자율 살상용 AI 드론'과 같은 무기 체계는 이미 인간의 개입 없이 목표를 식별하고 공격할 수 있는 수준이다. 또한 의료, 전력망, 원자력 발전소 등 핵심 기반시설에 연결된 AI의 잘못된 판단은 단 한 번의 오류로도 수정 불가능한 치명적 피해를 야기할 수 있다.

이러한 우려는 단순한 가정이 아니다. 앤트로픽 AI 안전 연구 책임자 에번 허빙거는 ''향후 10년 안에 AI가 모든 인간을 죽일 가능성을 10%보다 높게 본다''고 개인적인 견해를 밝혔다. 이는 과학적으로 확정된 수치는 아니지만, AI 개발 최전선에 있는 전문가의 깊은 우려를 대변한다. AI는 이미 스스로 계획을 세우고 코드를 작성하며 연구 개발에 참여하는 수준으로 발전했다.

이런 상황에서 '일단 개발 후 문제 수정'이라는 안이한 방식은 생명과 직결된 분야에서 치명적일 수 있음을 역설한다. 웨이크신학원 교수이자 ''AI 시대 과학과 성경''을 강의하는 박순형 목사는 이 시대 가장 큰 위험이 AI가 인간보다 똑똑해지는 데 있지 않다고 강조했다. 오히려 ''인간이 통제권을 잃은 뒤에야 그 사실을 깨닫게 되는 데 있다''고 지적하며 윤리적 성찰의 부재를 꼬집었다.

박 목사의 경고는 한국교회와 성도들에게 중요한 신앙적 질문을 던진다. 인간이 창조자의 영역을 넘보려 할 때 발생할 수 있는 교만과 통제 불능의 위험을 신앙의 관점에서 성찰해야 한다. 무분별한 기술 탐구는 인간의 지혜와 겸손이라는 성경적 가치를 망각하게 만들 수 있기 때문이다. AI 개발 속도 조절론은 오래전부터 제기되어 왔으며, 지금이라도 늦지 않게 안전장치 마련과 윤리적 고민에 박차를 가해야 한다. 편리함과 경쟁 논리에 매몰되지 않고, 인류 전체의 공익을 위한 책임 있는 개발을 추구하는 것이야말로 한국교회가 AI 시대에 가져야 할 시대적 분별력이다.