연구진, EU의 AI 가이드라인 결함 폭로

스탠퍼드 대학교 연구원들의 최근 조사에 따르면 ChatGPT 의 제작사인 오픈AI, 메타(구 페이스북), 구글을 포함한 주요 기술 기업들이 인공 지능(AI)의 배포 및 사용과 관련된 EU의 초안 규정과 충돌할 가능성이 있는 것으로 나타났다.

EU의 AI 규제 드라마

AI 연구원 리시 보마사니가 이끄는 스탠퍼드 연구는 국가 안보를 위해 정치인들이 옹호하는 수조 달러 규모의 산업과 잠재적 위험을 완화하려는 국제 당국 사이의 격렬한 대립을 드러냈다.

이 논문은 특히 이러한 기업들이 저작권 법을 포함한 초안 가이드라인을 충분히 준수하지 않고 있음을 강조한다.

방대한 데이터 자원을 활용하여 인간과 유사한 텍스트, 코드, 이미지를 생성하는 소프트웨어 애플리케이션인 생성형 AI 도구는 기하급수적으로 성장하고 있다.

ChatGPT, Bard, Midjourney와 같은 이러한 AI 모델은 종종 교육 목적으로 저작권이 있는 콘텐츠를 의존한다.

EU의 AI Act 제안에 따르면, 이러한 도구의 개발자는 AI 생성 콘텐츠를 공개하고 교육 중에 사용된 저작권 데이터의 요약을 제공해야 하며, 이를 통해 기여한 창작자들에게 보상을 보장한다.

준수 과제

스탠퍼드의 연구는 데이터 소스 설명, 저작권 데이터 요약, 기술의 에너지 소비 및 컴퓨팅 요구 사항 공개, 기술과 관련된 평가, 테스트 및 예상 위험 상세화 등 다양한 매개변수에서 EU의 잠정 규정과 비교하여 10개의 AI 모델을 측정했다.

연구 결과 모든 모델이 제안된 규칙의 여러 주요 영역에서 실패한 것으로 나타났다. 평가된 공급업체의 절반 이상은 50%의 준수 점수조차 달성하지 못했다.

구체적으로 오픈AI의 ChatGPT와 구글의 PaLM 2와 같은 독점 AI 모델은 저작권 데이터에 대한 투명성 부족으로 비판을 받았다. 반면 오픈소스 경쟁사는 더 높은 투명성을 보였지만 통제 측면에서 어려움을 겪었다.

이러한 우려에 대해 하버드 대학교의 Rumman Chowdhury는 AI는 본질적으로 중립적, 신뢰할 수 있거나 유익하지 않으며, 적절한 사용을 보장하기 위해 협력적이고 지시된 노력이 필요하다고 지적했다. 그녀는 신뢰성이 이 분야에서 진정한 경쟁 우위라고 주장했다.

글로벌 영향 및 향후 고려 사항

최근 미국 의회 위원회 AI 청문회에서 발표된 스탠퍼드 연구 결과는 금융 서비스부터 미디어에 이르기까지 산업을 혁신할 것으로 예상되는 이 변혁적 기술을 탐색하려는 전 세계 규제 기관들의 지침이 될 것이다.

그러나 이 연구는 AI 개발 속도와 책임 있는 성장 사이의 지속적인 긴장 관계도 드러낸다. 위원회의 공화당 의장인 프랭크 루카스에 따르면, 미국은 AI 리더십 역할을 유지해야 하지만 신뢰성, 투명성 및 공정성의 가치도 수호해야 한다.

EU의 AI Act가 특정 규칙을 시행하려고 하고 미국이 관련 입법을 도입할 계획에 있는 가운데, 보마사니는 AI를 더 잘 규제하기 위해 산업 내 더 많은 투명성을 옹호한다.

그러나 그는 이러한 법률을 집행하는 것이 어려운 과제가 될 것임을 인정한다. 이러한 거대한 데이터 세트의 저작권이 있는 부분을 어떻게 요약해야 하는지는 즉시 명확하지 않다.

규제가 구체화됨에 따라 브뤼셀과 워싱턴 모두에서 로비 활동이 강화될 것으로 예상된다.