Anthropic의 크리스토퍼 올라, 바티칸 주요 AI 행사에 레오 14세 교황과 함께 참석

Anthropic의 공동 설립자 크리스토퍼 올라가 5월 25일 바티칸에서 레오 14세 교황과 함께 교황의 첫 회칙 ‘Magnifica Humanitas’ 발간 행사에 참석하여 AI 시대에 인간 존엄성을 어떻게 유지할지 모색할 예정이다.

정상적인 바티칸 문서 발표 행사는 보통 바티칸 보도관(Vatican Press Room)에서 열리며, 몇몇 관리들이 기자들의 질문에 답한다.

하지만 이번 행사는 바티칸의 메인 강당에서 열린다. AP 통신에 따르면, 레오 14세 교황이 참석하여 연설하고 최종 축복을 내릴 예정이다. 바티칸 국무장관인 피에트로 파라린 추기경이 공식 발표를 마무리하고, 교리를 담당하는 빅토르 마누엘 페르난데스 추기경과 개발 문제를 담당하는 마이클 체르니 추기경이 문서를 발표할 것이다.

Anthropic의 올라는 평신도 손님으로 연설할 예정이며, 신학자 안나 롤랜즈와 레오카디 루솜보도 행사에 참석자로 명단되어 있다.

바티칸 행사는 AI, 전쟁, 인간 존엄성에 중점을 둔다

Anthropic은 안전과 리스크 관리를 중심으로 구축된 AI 회사로 자부하며, 이미 전쟁 범죄 및 민간인 감시에 자신의 기술을 사용하지 않겠다는 이유로 트럼프 행정부와 싸워온 것으로 유명하다.

한편, 레오 14세 교황은 지명된 이후 전쟁에서의 AI에 대해 경고하며 기술 사용에 대한 더 강력한 모니터링을 촉구해 왔다. 그는 또한 도널드 트럼프로부터 공개적으로 싫어하는 대상이 되어, 트럼프가 “나는 레오 교황을 좋아하지 않는다”고 최소 네 번이나 말한 바 있다.

레오는 5월 15일 ‘Magnifica Humanitas’에 서명했으며, 이는 바티칸이 AI를 완전한 사회적 위기, 아마도 약간 종말론적인 수준으로 다루고 있음을 명확히 한다.

바티칸은 레오가 교황이 되기 전부터 이미 이 논쟁에 참여해 왔다. 2020년 바티칸은 포용성, 책임성, 공정성, 프라이버시를 중심으로 한 서약인 ‘로마 AI 윤리 선언(Rome Call for AI Ethics)’을 위해 기술 기업들을 모았다. 마이크로소프트(MSFT), IBM(IBM), 시스코(CSCO) 등이 서명 기업에 포함되었다.

프란치스코 교황도 사망 전 정부들이 AI를 규제할 것을 촉구했다. 프란치스코는 국제 조약을 촉구하며, 자비, 연민, 도덕성, 용서 없는 기술은 개발자들에게 맡겨둘 수 없다고 경고했다.

프란치스코 교황은 2024년 G7 정상회의에서도 같은 메시지를 전달했으며,在那里 그는 지도자들에게 AI의 위험과 가능한 용도에 대해 연설했다. 그는 정치인들이 AI가 인간 중심적으로 유지되도록 보장해야 한다고 말했다. 또한 무기, 비살상 무기 포함,에 대한 결정은 인간이 내려야 한다고 말했다. 프란치스코는 종종 “킬러 로봇”이라고 불리는 치명적 자율 무기 사용 금지를 촉구했다.

Anthropic, IPO 임박하며 워싱턴의 압력에 직면

Anthropic은 2021년 다리오 아모데이와 과학자 팀이 AI 안전성 방향성에 대한 의견 차이로 인해 오픈AI를 떠남에 따라 설립되었다. 그 이전까지 다리오 아모데이는 샘 알트먼과의 의견 차이 발생 전까지 오픈AI에서 근무했다.

이후 Anthropic은 클로다(Claude)를 출시하며 오픈AI의 주요 경쟁사 중 하나가 되었다. 그들은 다중 작업에서 인간보다 더 나은 성능을 발휘할 수 있는 유형의 AI인 인공 일반 지능(AGI)을 개발 중이다. 이는 규제 기관들이 우려하는 이유인데, AGI는 단순한 더 나은 챗봇 구축에 국한되지 않기 때문이다. 이러한 AI 시스템이 금융, 군사, 과학, 정치에 미칠 수 있는 영향은 간과할 수 없다.

올해 비공개 기업인 Anthropic은 기업 가치가 약 $3800억으로 증가했다고 보고했다. 이는 클로다(Claude)가 오픈AI와 일론 머스크의 회사 XAI(Grok)와 같은 경쟁자 범주에 속함을 의미한다. 일론 머스크가 소유한 스페이스X는 xAI와 합병했으며, 따라서 스페이스X와 xAI는 여전히 비공개 기업이며 공개 거래 주식 심볼을 가지고 있지 않다.

또한 Anthropic은 미중 AI 경쟁에 대한 우려를 표명했다. 최근 그들은 미국과 동맹국들이 AI 기술 개발에서 주도권을 유지하고 AI 확산에 관한 규제를 마련해야 한다고 밝혔다. 또한 권위주의 정권이 감시, 억압 및 통제를 위해 고급 AI를 사용하는 것에 대해 경고했다.