- OpenAI, 선거에서 AI를 오정보 퇴치를 위해 사용하지 않겠다고 다짐.
- 실제 인물의 AI 생성 이미지를 방지하고 투명성 도구를 강화하고 있습니다.
- 구글과 메타 같은 경쟁사들도 오정보 퇴치를 위해 노력하지만, 그 타이밍에 의문이 제기되고 있습니다.
대담하고 단호한 조치로, 인공 지능(AI) 분야의 선도적인 기업인 오픈에이아이는 선거 캠페인과 유권자 억압 전술에서 자체 생성형 AI 도구의 사용을 단호히 반대한다는 공식 입장을 발표했습니다. 이 발표는 2024년에 수많은 주요 선거가 예정되어 있고 허위 정보 확산에 대한 우려가 높아지는 중요한 시점에 이루어졌습니다.
OpenAI는 선거 관련 우려를 다루는 전문 팀을 구성하여 자사 기술의 보호를 위한 전략적 이니셔티브를 시작했습니다. 안전 시스템, 위협 인텔리전스, 법무, 엔지니어링, 정책 등 다양한 분야의 전문가로 구성된 이 학제간 팀의 주요 목표는 선거에서 AI의 잠재적 남용을 식별하고 완화하는 것입니다.
허위정보 퇴치를 위한 선제적 조치
정치적 허위정보의 위협은 새로운 도전이 아니지만, AI 기술의 등장은 전례 없는 도전을 가져왔습니다. 이 문제의 중대성을 인지한 OpenAI는 선거 결과를 조작하는 데 자사 기술이 악용되지 않도록 보호하기 위한 선제적 조치를 취하고 있습니다. 이를 위해 회사는 레드 팀링, 사용자 참여, 안전 가드레일 등 다각적인 접근 방식을 채택하고 있습니다.
OpenAI의 가장 주목할 만한 AI 도구 중 하나인 DALL-E는 실제 인물, 정치 후보자를 포함한 인물들을 묘사하는 이미지 생성을 방지하기 위한 안전 장치가 포함된 버전으로 업데이트되었습니다. 이 선제적 조치는 AI 생성 콘텐츠가 정치권에서 오해의 소지가 있거나 조작된 이미지의 유포에 우연히 기여하지 않도록 보장합니다.
OpenAI는 AI 기술의 진화하는 환경과 오용 가능성에 부합하도록 사용자 정책을 지속적으로 개정할 것을 약속합니다. 회사의 업데이트된 안전 정책은 이제 정치 캠페인과 로비 활동을 위한 AI 애플리케이션 개발을 명시적으로 제한합니다.
또한, AI가 기만적인 목적으로 사용되는 위험을 줄이기 위해 실제 개인이나 조직을 모방하는 챗봇 생성을 방지하기 위한 엄격한 조치가 시행되었습니다.
출처 분류기 도입을 통한 투명성 강화
허위정보 퇴치를 위한 OpenAI 전략의 중요한 측면 중 하나는 DALL-E 도구에 대한 출처 분류기(provenance classifier) 도입입니다. 베타 테스트 중인 이 기능은 현재 DALL-E가 생성한 이미지를 감지하도록 설계되어 AI 생성 콘텐츠의 투명성을 높입니다.
OpenAI는 이 도구를 언론인, 플랫폼 및 연구자들에게 제공하여 더 큰 책임감을 고취하고 잠재적으로 오해의 소지가 있는 시각적 콘텐츠를 감지할 수 있도록 할 계획입니다.
OpenAI는 ChatGPT에 실시간 뉴스 보도를 통합하여 정보 유통의 투명성과 정확성을 높이고 있습니다. 이 통합을 통해 사용자는 최신이고 신뢰할 수 있는 정보를 받게 되며, AI가 제공하는 정보의 출처를 밝히고 허위정보 유포 위험을 줄입니다.
미국 주지사 협회(National Association of Secretaries of State)와의 협력 노력의 일환으로, OpenAI는 자사 기술이 선거 참여를 저해하지 않도록 방지하기 위해 적극적으로 활동하고 있습니다. 이 파트너십에는 GPT 기반 챗봇 사용자를 CanIVote.org와 같은 신뢰할 수 있는 투표 정보 웹사이트로 안내하여 시민 참여를 촉진하고 정확한 선거 정보에 대한 접근성을 높이는 것이 포함됩니다.
업계 리더들이 AI 허위정보 퇴치를 위해 힘을 모으다
OpenAI의 단호한 선언은 AI 업계에서 주목할 만한 선례를 남겼습니다. Google LLC와 Meta Platforms Inc.를 포함한 업계 경쟁사들도 자사 기술을 통해 퍼지는 허위정보 퇴치를 위해 결단력 있는 조치를 취했습니다. 업계 리더들 간의 이러한 집단적 노력은 민주적 과정에 대한 AI의 잠재적 영향과 그들에 대한 책임에 대한 인식이 높아지고 있음을 반영합니다.
OpenAI의 발표는 칭찬할 만하지만, 이러한 조치의 적시성에 대한 논쟁을 촉발시켰습니다. Pund-IT Inc.의 찰스 킹은 이러한 조치가 적시에 이루어진 것인지 아니면 사후 대응인지에 대해 중요한 의문을 제기했습니다.
그는 AI 생성 허위정보에 대한 우려가 수년 동안 지속되어 왔으며, OpenAI의 최근 발표가 늦은 대응이거나 단순한 상징적 제스처로 인식될 수 있다고 주장합니다. 이러한 관점은 정치적 환경에서 AI 개발자의 역할과 책임에 대한 더 깊은 성찰을 촉구합니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
Brian Koome
브라이언 쿰은 2017 년 이후 블록체인 및 암호화폐 업계에서 활동해 온 7 년 이상의 경험을 보유하고 있습니다. BlockToday.com 을 포함한 주요 출판사에 기고했으며, BitDegree.org 에서 이더리움 101 과정을 개발한 후 Cryptopolitan 의 전속 작가로 합류했습니다. 브라이언은 에버그린 가이드 (EG), 심층 분석, 인터뷰, 가격 분석을 다루며 DeFi, 블록체인 혁신, 그리고 신흥 암호화폐 프로젝트에 집중하여 독자들에게 큰 호응을 얻고 있습니다.
