교황 "AI가 인간 지배 못하게 무장해제시켜야" 전쟁·노동 착취 규탄

'마니피카 후마니타스' 회칙 발표

교황 레오 14세는 25일(현지 시각) 즉위 후 처음 발표한 최고 권위 교서에서 인공지능(AI)이 인간을 지배할 수 없도록 ‘무장 해제’가 필요하다며 AI를 기반으로 한 전쟁과 노동 착취를 비판했다.

교황은 이날 교황청 시노드 강당에서 이런 내용이 담긴 회칙 ‘마니피카 후마니타스’(Magnifica Humanitas·위대한 인간성)을 직접 발표했다. 신기술과 데이터·알고리즘으로 만들어진 허위 정보가 전쟁을 둘러싼 양극화와 반감을 증폭시키고 있다며 ‘정당한 전쟁’은 없다고 했고, AI로 활성화되는 디지털 경제가 보이지 않는 노동력 착취에 기반하고 있다며 이를 ‘새로운 형태의 노예제’로 정의했다. 그러면서 AI는 누구에게나 열려있어야 한다며 정치권에 기술·정보의 시장 독점 감시를 주문했다.

회칙은 교황이 전 세계 가톨릭 신자와 주교들에게 전하는 최고 권위의 사목 교서다. 다른 교황 문헌인 교황 교서, 권고, 담화, 연설, 강론 등과 비교해 가장 구속력이 강하다.

교황은 이번 회칙의 가장 중요한 표현으로 ‘AI 무장해제’를 꼽았다. 기술을 가진 권력자가 스스로 AI를 통치하도록 하는 권리를 거부한다는 뜻이다. 이런 의미에서 ‘무장해제’는 AI 기술에 대한 거부가 아니라 AI가 인간을 지배하지 못하게 하는 것이라고 교황은 강조했다.

교황은 “AI는 이미 우리가 몰입해 있는 환경인 동시에 우리가 대응해야 하는 힘”이라며 “누구든 환영할 수 있고 접근할 수 있도록 무장 해제돼야 한다”고 했다.

교황이 여러 차례 연설을 통해 부각한 반전·평화 의지도 회칙에 담겼다. 교황은 AI 시대 전쟁은 단순히 무력 충돌에 그치는 것이 아니라 기술이 만들어낸 허위 정보와 단순화된 서사, 이분법적 사고로 ‘문화적’으로도 형성된다고 지적했다.

전쟁은 이틈을 비집고 “필요하거나 불가피한 것, 심지어 정화된 것”이 되기도 한다고 비판했다. 교황이 거듭 비판해 온 이른바 ‘정당한 전쟁’ 이론을 겨냥한 것이다.

교황은 “모든 종류의 전쟁을 합리화하는 데 너무 자주 사용돼온 ‘정당한 전쟁’ 이론은 이제 시대에 뒤떨어졌다”며 “무력·폭력·무기의 사용은 관계의 빈곤을 반영한 것”이라고 했다.

신기술에서 파생된 알고리즘, 디지털플랫폼, 기술 인프라, 데이터 등은 ‘보편적 재화’에 포함해야 한다고도 했다. 디지털 혁명에 참여할 수 있는 사람과 그렇지 못한 사람들 간의 불균형을 최소화하기 위해서다.

교황은 “디지털 환경에서 플랫폼·데이터·인프라는 국가가 아닌 경제·기술자들이 통제한다”며 “이런 권력이 소수에 집중될 때 불투명해지고 의존·배제·불평등으로 왜곡될 위험이 커진다”고 했다. 교황은 이런 상황에서 시장의 자율 기능만으로 공공선에 가까운 균형은 사실상 불가능해졌다고 우려했다.

교황은 “AI와 로봇 시대에 시장의 ‘보이지 않는 손’에만 의존하는 것은 더 이상 가능하지 않다”고 했다. 그러면서 정치가 노동의 존엄성, 사회적 포용, 혁신 혜택의 공정한 분배를 이뤄야 한다고 했다.

디지털 경제의 노동력 착취도 언급하며 ‘새로운 노예제’라며 경고의 목소리를 높였다. 교황은 “디지털 경제의 상당 부분은 데이터 라벨링, 모델 훈련 등 보이지 않는 활동에 종사하는 수백 만명의 조용한 노동에 의존하고 희토류 등 자원을 채굴하는 가혹한 노동도 있다”며 “새로운 형태의 노예제와의 싸움은 윤리적인 AI를 위한 결정적 시험”이라고 했다.

4만 단어가 넘는 방대한 내용의 이번 회칙은 교황이 작년 5월 즉위한 이후 처음 발표하는 교서다. 총 82쪽 분량, 245항으로 구성됐다. 교황이 직접 회칙을 발표하는 것은 이례적이다. 통상 회칙은 교황 명의로 공표되지만 발표 행사에는 교황청 부서 장관인 추기경들이나 신학자, 전문가들이 참석했다.

이번 발표 행사에는 크리스토퍼 올라 앤트로픽 공동 창업자도 참석했다. 앤트로픽은 AI 기술을 감시나 무기 개발에 사용할 수 없도록 해 트럼프 행정부와 갈등을 빚고 있다.

교황은 지난 15일 이 회칙에 서명했다. 레오 13세의 회칙 ‘레룸 노바룸’이 공표된 지 135주년이 되는 날이다. ‘레룸 노바룸’은 산업혁명 시기 노동자의 권리와 자본주의의 한계 등을 다뤘다.

교황은 즉위 이전부터 AI에 대한 문제의식이 강했던 것으로 알려져 있다. 그가 교황명을 ‘레오 14세’로 정한 것도 이와 관련이 있다. 교황청은 레오 14세 즉위 당시 새 교황명이 노동권과 사회 정의를 강조한 레오 13세 교황(재위 1878-1903)을 계승하는 의미가 담겼다고 설명했다.

이번 회칙에는 자연과학 전공자로서 기술 권력에 대한 교황의 철학이 담겼다는 평가도 나온다. 그는 사제 훈련을 받기 전인 1977년 미국 펜실베이니아주 빌라노바대에서 수학 학사 학위를 받았다./조선국제