윤리적 AI 감시는 왜 돼지에 립스틱을 바르는 것과 같이 불가능한가요?

TL;DR 요약

• 룸만 초두리는 윤리적 AI 감시가 불가능하다고 믿으며, “우리는 돼지에 립스틱을 바를 수 없다”고 말합니다.
• 그녀는 AI 기술을 감독하고 감시 자본주의와 같은 문제를 해결하기 위해 외부 글로벌 거버넌스 보드를 설립할 것을 주장합니다.
• 초두리는 AI 거버넌스에서 책임성과 협력의 중요성을 강조하며, 과도한 규제를 경계하면서도 윤리적 도전에 대응합니다.

최근 인터뷰에서 트위터의 머신러닝 윤리, 투명성 및 책임감 담당 전 디렉터였던 룸만 초두리는 윤리적 인공지능(AI) 감시의 가능성에 대해 회의적인 의견을 표명했습니다. 뉴욕 대학교 사회과학 대학에서 연설한 초두리는 “우리는 돼지에 립스틱을 바를 수 없습니다. 윤리적 감시는 존재할 수 없다고 생각합니다”라고 말했습니다.

AI 윤리 분야에서 일한 것으로 알려진 초두리는 본질적으로 인종차별적이며 지원되어서는 안 된다고 믿는 감시 자본주의의 부상에 대한 우려를 강조했습니다. 와이어드 기고문에서 그녀는 AI 기술을 감독하고 감시 자본주의, 일자리 교란, 핵 허위 정보와 같은 문제를 해결하기 위해 외부 글로벌 거버넌스 보드를 설립할 것을 주장했습니다. 초두리는 단일 기관에 묶이지 않고 글로벌 관점을 대표하는 다양한 보드의 필요성을 강조했습니다.

AI 산업의 책임성 및 규제 과제

초두리에 따르면, 책임감은 종종 AI 산업에서 결여되어 있는 중요한 측면입니다. 그녀는 기업 내 내부 위험 분석이 도덕적 고려 사항을 간과하는 경향이 있다고 지적했습니다. 실패나 평판 손상 위험이 커지면, 그녀는 조직이 종종 자신들에게 유리하게 규칙을 굽힌다고 언급했습니다. 초두리는 이러한 도전에 대응하기 위해서는 다양한 이해관계자와 글로벌 차원의 협력을 포함한 집단적 노력이 필요하다고 믿습니다.

규제가 필요함을 인정하면서도, 초두리는 모델이 과잉 수정하고 근본적인 문제를 해결하지 못하게 할 수 있는 과도한 규제를 경계했습니다. 그녀는 독性或 hateful한 것을 정의하는 것이 지속적인 평가와 적응이 필요한 지속적인 여정이라고 강조하며, 그 복잡성을 강조했습니다.

룸만 초두리는 기술이 인간성과 단절되어서는 안 된다고 믿습니다

초두리의 작업은 기술자와 정책 입안자 사이의 격차를 해소하는 것을 목표로 하며, 기술의 인간적 영향에 대한 더 나은 이해를 주장합니다. 그녀는 기술이 인간성과 단절되어서는 안 되지만, 인간의 결점을 해결하고 사회를 개선하기 위해 활용되어야 한다고 믿습니다.

AI 윤리 분야에서 prominent한 인물인 룸만 초두리는 항상 인간의 행동의 복잡성과 예측 불가능성에 매료되어 왔습니다. MIT에서 정치학을 전공하는 학부 시절, 그녀는 비영리 조직에서 모델과 데이터를 더 효과적으로 사용할 잠재력을 깨달았습니다. 이는 그녀가 컬럼비아 대학교에서 정량적 방법론으로 석사 학위를 취득하도록 이끌었으며, 그곳에서 그녀의 기술을 더욱 연마했습니다.

초두리의 작업은 지난 한 달 동안만 해도 전 세계 다양한 장소로 그녀를 이끌었습니다. 스페인에서 샌프란시스코, 보스턴에서 뉴욕, 그리고 빈과 피츠버그에서의 upcoming 연설까지, 그녀는 사이버 보안, 핵 허위 정보, 듀올링고와 같은 언어 학습 플랫폼과 같은 AI 관련 긴급 문제에 적극적으로 대응하고 있습니다.

인센티브 구조를 활용하고 권력을 분산시키십시오.

초두리의 접근 방식의 핵심에는 단순하지만 강력한 격언이 있습니다: 듣고, 소통하고, 협력하십시오. 그러나 그녀는 산업 리더들이 AI 해를 방지하겠다는 의지를 표현하더라도, 말과 행동 사이에는 종종 차이가 있을 수 있음을 인식합니다. 그녀는 심한 감시 기간 동안 일부 실체가 규제를 요구하는 동시에 규제 법안의 통과를 방해하기 위한 로비 전술을 사용하는 것을 관찰합니다.

초두리의 AI 윤리 및 거버넌스 접근 방식은 기계와 달리 사람들이 다양한 동기와 우선순위를 가지고 있다는 이해에 기반합니다. 의미 있는 변화를 이루기 위해서는 인센티브 구조를 활용하고 권력을 분산시켜야 합니다. 그녀는 단일 영웅 서사의 개념에 도전하며, AI의 미래를 형성하기 위한 협력과 집단적 의사 결정의 중요성을 강조합니다.