AI 규제 최전선 탐색 및 행동 촉구

2023년 3월, AI 산업은 AI 개발, 설계 및 사용에 관여한 33,000명 이상의 개인이 라이프 오브 퓨처 연구소의 공개 서한에 서명하면서 중요한 전환점을 맞이했습니다. 이 서장은 GPT-4보다 강력한 AI 시스템의 훈련을 6개월간 중단할 것을 bold하게 요청하며, 생성형 AI에 대한 증가하는 우려를 해결할 필요성을 강조했습니다. 이 요청은 전례가 없었지만, 궁극적인 목표는 이러한 우려를 주류 담론으로 끌어올리는 것이었습니다.

이 기사는 특히 미국에서 AI 규제와 관련된 지속적인 발전과 우려에 대해 깊이 있게 다룹니다. 이는 7개의 주요 AI 회사가 한 자발적 약속을 논의하고, 이러한 이니셔티브의 긍정적인 결과를 탐구하며, 여전히 남아 있는 도전을 강조합니다.

책임 있는 AI 개발을 향한 긍정적인 결과 및 단계

2023년 3월의 공개 서한과 후속 조치는 더 큰 선을 위해 AI를 규제하는 중요성을 강조하는 일련의 사건들을 촉발했습니다. 특히 백악관은 2023년 7월 AI 규제를 위한 자발적 약속의 프레임워크를 공개했습니다. 이 프레임워크는 '안전, 보안 및 신뢰'를 우선시하며, 아마존, 앤트로픽, 구글, 인플렉션, 메타, 마이크로소프트 및 오픈AI를 포함한 주요 AI 플레이어들의 지지를 얻었습니다.

이러한 기업들은 공개 출시 전에 AI 시스템의 내부 및 외부 독립 보안 테스트, 모범 사례 공유, 사이버 보안 투자, 생성형 AI 콘텐츠 워터마킹, 기능 및 제한 사항의 공개를 포함한 다양한 조치를 취하기로 약속했습니다. 또한 편향 및 허위 정보와 같은 사회적 위험을 완화하기로 약속합니다.

이 발표는 AI 개발이 사회의 복지를 해쳐서는 안 된다는 강력한 메시지를 전달합니다. 이는 시민사회 단체, 선도적인 AI 전문가 및 일부 AI 기업들이 요구하는 필수적인 규제를 반영한 것입니다. 또한, 이는 향후 발표될 행정명령과 AI 규제 관련 입법을 예고하며, 국제 수준의 협의의 중요성을 강조합니다.

우려와 불확실한 향후 전망

이러한 자발적 안전장치는 긍정적인 조치이지만, 강제력이 부족합니다. 기업들에게 행동을 취하도록 권장하고 있지만, 미준수 또는 소극적 이행에 대해 책임을 묻는 메커니즘은 마련되어 있지 않습니다. 또한, 발표된 안전장치는 종종 이러한 기업들의 내부 정책에 이미 포함되어 있어, 그 효과성에 의문을 제기합니다.

주목할 만한 누락 사항으로, 서명 목록에 애플(Apple)과 IBM과 같은 업계 거대 기업들이 빠져 있다는 점이 있습니다. 진정으로 집단적이고 효과적인 접근을 위해서는 잠재적인 악의적 행위자를 포함한 모든 AI 관련 주체가 업계 표준 준수를 위해 책임을 지고 인센티브를 제공받아야 합니다.

또한, 자발적 약속은 AI 모델이 제기하는 수많은 도전을 포괄적으로 해결하지 못할 수 있습니다. 예를 들어, 사이버 보안 및 내부자 위협 안전장치에 초점이 맞춰져 있지만, 모델 학습에 사용된 편향되거나 부정확한 데이터로 인해 취약점이 발생할 수 있습니다. 이러한 복잡한 문제를 해결하려면 추가적인 안전장치와 선제적인 접근이 필요합니다.

구체적인 규제 조치 촉구

기업들의 신뢰와 안전 투자를 강조하는 부분은 여전히 모호합니다. AI 안전 연구는 개발 연구에 비해 현저히 뒤처져 있으며, 2023년 5월까지 출판된 AI 논문 중 AI 안전에 관한 것은 단 2%에 불과했고, 이 중 사기업에서 기원한 연구는 11%에 불과했습니다. 자발적 가이드라인만으로 이러한 패턴을 바꿀 수 있을지는 불분명합니다.

AI 모델은 전 세계적으로 빠르게 확산되고 있으며, 이는 외국에서 규제되지 않는 AI 모델에 의해 퍼뜨려지는 허위 정보, 오정보 및 사기에 대한 우려를 제기합니다. 이는 미국에만 영향을 미치는 것이 아니라, 국제 협력의 필요성을 강조합니다.

이러한 도전을 포괄적으로 해결하기 위해서는 몇 가지 단계가 필수적입니다.

• 표준화된 안전 테스트: 배포 전 AI 모델 안전성을 테스트하기 위한 글로벌 표준에 대한 합의가 중요합니다. G20 정상회의 및 영국 AI 안전 정상회의와 같은 포럼은 이러한 표준을 확립하는 데 중추적인 역할을 할 수 있습니다.

• 강제력: 표준은 각국의 필요에 맞게 조정된 국가 입법 또는 행정 조치를 뒷받침해야 합니다. 유럽의 AI법은 이러한 노력을 위한 유망한 모델을 제공합니다.

• 엔지니어링 안전장치: 원칙과 윤리 외에도 엔지니어링 안전장치가 필수적입니다. 정보 무결성을 보장하기 위해 생성형 AI 콘텐츠에 워터마킹을 적용하는 것이 그 예입니다. 소셜 미디어 플랫폼과 AI 서비스의 신원 확인 메커니즘은 AI 봇의 존재를 식별하고 대응하는 데 도움이 되어 사용자 신뢰와 보안을 강화할 수 있습니다.
• AI 안전 연구 투자: 국가 정부는 공공 및 민간 부문 모두에서 AI 안전 연구를 자금 지원, 인센티브 제공 및 장려하기 위한 전략을 개발해야 합니다.

백악관의 개입과 주요 AI 기업들의 후속 자발적 약속은 책임감 있는 AI 개발 및 배포를 향한 중요한 초기 단계를 mark합니다. 그러나 안전하고 신뢰할 수 있는 AI 생태계를 보장하기 위해서는 이러한 조치 뒤에 더 구체적인 규제 조치가 따라야 합니다.

발표가 올바르게 강조하듯, 신중하게 선별된 '구속력 있는 의무'의 이행이 중요합니다. 결단력 있는 조치를 취할 때만 우리는 AI 규제의 복잡한 최전선을 효과적으로 탐색하고, 사회를 잠재적 위해로부터 보호하며, 인공 지능의 진정한 잠재력을 더 큰 선을 위해 활용할 수 있습니다. AI 규제의 미래는 미정 상태이며, 행동을 취할 때가 바로 지금입니다.