AI 엔티티에 진정한 이름을 부여하면 그들의 나쁜 행동을 최소화할 수 있을까?

인공지능(AI) 분야가 발전함에 따라 잠재적인 부정적인 결과에 대한 우려로 전문가들은 AI 개발 중단을 촉구했습니다. 과제는 AI의 이점을 극대화하는 동시에 오용과 관련된 위험을 최소화하는 데 있습니다. 책임감 있고 책임 있는 AI 행동을 촉진하기 위해 새로운 접근 방식이 필요한 다양한 형식의 AI 엔티티가 있습니다. Vernor Vinge의 '진정한 이름(true name)' 아이디어를 살펴보는 것은 어떨까요? 이는 AI 엔티티가 고유한 개성을 유지하면서 경쟁하고 협력하도록 인센티브를 제공하는 제안입니다.

AI 엔티티의 표준 형식

AI 통제에 대한 현재의 논의는 몇 가지 주요 엔티티(마이크로소프트와 구글 등)의 지배, AI 시스템의 무한한 복제 및 배포 가능성, 그리고 이러한 시스템이 터미네이터 영화의 스카넷과 같은 강력하고 단일한 엔티티로 수렴할 가능성이라는 세 가지 가정에 기반합니다. 그러나 이러한 형식 중 어느 것도 긍정적 결과와 잠재적 피해 사이의 균형을 맞추는 우리의 딜레마를 해결하지 못합니다.

AI 시스템이 자율성을 얻고 인간보다 빨라짐에 따라 전통적인 규제 및 통제 방법은 부적절해집니다. 이를 해결하기 위해 AI 엔티티 상호 간에 상호 책임성을 촉진하는 것이 제안됩니다. 경쟁을 장려함으로써 AI 시스템은 서로를 책임지게 하여 부정적인 행동을 감지하고 고발할 수 있습니다.

개체화(Individuation)는 각 AI 엔티티가 고유한 ID와 실제 세계의 주소를 가져야 한다는 필요성을 의미합니다. 이 개념은 AI 시스템 간에 신뢰와 책임성을 확립할 수 있게 합니다. Vernor Vinge의 '진정한 이름' 아이디어에서 영감을 받아, AI 엔티티가 고유한 개성을 유지하면서 경쟁하고 협력하도록 인센티브를 제공하는 것이 제안됩니다.

책임성 메커니즘 구현

AI 엔티티가 책임감을 가지도록 보장하려면 식별 등록 시스템을 생성해야 합니다. 이 시스템은 블록체인 기술을 기반으로 하거나 AI 시스템이 물리적 하드웨어 메모리에 묶인 '영혼 커널(Soul Kernel, SK)'을 유지하도록 요구할 수 있습니다. SK는 엔티티의 신원에 대한 검증 가능한 증거 역할을 하며 다른 사람들이 그 행동에 대해 책임을 물을 수 있게 합니다.

AI의 진화 속도를 고려할 때 규제에만 의존하는 것은 충분하지 않을 수 있습니다. 대신, 적절한 식별이 없는 AI 엔티티와의 비즈니스를 거부하는 것이 강력한 집행 메커니즘이 되는 시스템을 제안합니다. 고발과 부정적인 행동 고발에 대한 인센티브를 생성함으로써 AI 엔티티는 경쟁적인 책임성 프레임워크를 유지하도록 동기를 부여받습니다.

AI 엔티티 간의 협력

왜 매우 지능적인 AI 엔티티가 이러한 시스템에서 협력할까요? 답은 중앙 기관이나 단일한 권력 구조와 같은 전통적인 통제 형식이 실행 가능한 옵션이 아니기 때문입니다. 대신, 경쟁적인 책임성 시스템을 촉진함으로써 AI 엔티티는 혼란이나 권력 집중을 피하면서 자신의 이익이 보호되도록 보장할 수 있습니다.

AI의 긍정적 영향을 극대화하고 잠재적 피해를 최소화하기 위해 AI 책임성을 촉진하는 것이 필수적입니다. 개체화를 장려하고, 강력한 식별 시스템을 생성하며, 경쟁적인 책임성에 대한 인센티브를 제공함으로써 AI 시스템이 서로를 책임지게 하고 변화하는 시대에 적응할 수 있는 프레임워크를 만들 수 있습니다. 이 접근 방식은 AI 발전과 책임 있는 행동 사이의 균형을 제공하며 인간 사회의 지속적인 입력을 보장합니다.

Vernor Steffen Vinge는 은퇴한 샌디에고 주립대학교 수학 교수, 컴퓨터 과학자이자 SF 작가입니다. 그는 휴고 상을 수상한 소설들로 가장 잘 알려져 있습니다. 심연의 불씨 (1992), A Fire Upon The Deep (1999)와 A Deepness in the Sky (2006), 휴고상 수상 단편소설 (⟦N1⟧), 휴고 상을 수상한 중편 소설 (2002)와 Fast Times at Fairmont High (2004), 그리고 그의 1993 에세이 (⟦N1⟧), 그리고 그의 ⟦N2⟧ 에세이“The Coming Technological Singularity”