오픈아이(OpenAI)는 과감하고 단호한 행보로, 선거 운동 및 유권자 투표 방해 행위에 자사의 생성형 AI 도구를 사용하는 것에 강력히 반대한다는 입장을 공식 발표했습니다. 이번 발표는 2024년에 여러 주요 선거가 예정되어 있고 허위 정보 확산에 대한 우려가 커지고 있는 중요한 시점에 나왔습니다.
OpenAI는 자사 기술을 보호하기 위한 전략적 계획의 일환으로 선거 관련 우려 사항을 다루는 전문 팀을 구성했습니다. 보안 시스템, 위협 정보, 법률, 엔지니어링 및 정책 등 다양한 분야의 전문가로 구성된 이 다학제 팀은 선거에서 인공지능이 악용될 가능성을dent하고 완화하는 것을 주요 목표로 삼고 있습니다.
허위 정보에 대응하기 위한 사전 예방 조치
정치 분야에서 허위 정보의 위협은 새로운 문제가 아니지만, 인공지능 기술의 등장으로 전례dent문제들이 대두되었습니다. 이러한 문제의 심각성을 인식한 오픈아이(OpenAI)는 선거 결과 조작에 자사 기술이 악용되는 것을 막기 위해 적극적인 조치를 취하고 있습니다. 이를 위해 레드팀 운영, 사용자 참여 유도, 안전장치 마련 등 다각적인 접근 방식을 채택하고 있습니다.
OpenAI의 대표적인 AI 도구 중 하나인 DALL-E가 정치 후보자를 포함한 실존 인물을 묘사하는 이미지를 생성하지 않도록 하는 안전장치를 추가했습니다. 이러한 사전 예방 조치는 AI가 생성한 콘텐츠가 정치 영역에서 오해를 불러일으키거나 조작된 이미지를 유포하는 데 의도치 않게 기여하는 것을 방지합니다.
OpenAI는 진화하는 AI 기술 환경과 오용 가능성에 맞춰 사용자 정책을 지속적으로 개정하기 위해 노력하고 있습니다. 이번에 업데이트된 안전 정책은 정치 캠페인 및 로비 활동을 위한 AI 애플리케이션 개발을 명시적으로 제한합니다.
또한, 실제 개인이나 조직을 모방하는 챗봇 제작을 방지하기 위한 엄격한 조치가 시행되어 인공지능이 기만적인 목적으로 사용될 위험을 줄였습니다.
출처 분류기를 통해 투명성 도입
OpenAI의 허위 정보 대응 전략의 중요한 부분은 DALL-E 도구에 출처 분류기를 도입하는 것입니다. 현재 베타 테스트 중인 이 기능은 DALL-E로 생성된 이미지를 감지하여 AI 생성 콘텐츠의 투명성을 높이도록 설계되었습니다.
OpenAI는 언론인, 플랫폼, 연구자들이 이 도구를 이용할 수 있도록 하여 책임감을 높이고 잠재적으로 오해의 소지가 있는 시각적 콘텐츠를 탐지할 수 있도록 지원할 계획입니다.
OpenAI는 ChatGPT에 실시간 뉴스 보도를 통합하여 정보 전달의 투명성과 정확성을 높이고 있습니다. 이러한 통합을 통해 사용자는 최신의 신뢰할 수 있는 정보를 얻을 수 있으며, AI가 제공하는 정보의 출처를 명확히 하고 허위 정보 확산 위험을 줄일 수 있습니다.
미국 주 국무장관협회와의 협력 하에, 오픈AI는 자사 기술이 선거 참여를 저해하지 않도록 적극적으로 노력하고 있습니다. 이 협력 관계는 GPT 기반 챗봇 사용자를 CanIVote.org와 같은 신뢰할 수 있는 투표 정보 웹사이트로 안내함으로써 시민 참여를 증진하고 정확한 선거 정보에 대한 접근성을 높이는 것을 목표로 합니다.
업계 리더들이 AI 관련 허위 정보에 맞서 힘을 합칩니다
오픈아이(OpenAI)의 단호한 선언은 AI 업계에 주목할 만한dent 남겼습니다. 구글(Google LLC)과 메타 플랫폼(Meta Platforms Inc.)을 비롯한 업계 경쟁사들도 자사 기술을 통해 확산되는 허위 정보에 맞서기 위한 단호한 조치를 취했습니다. 이러한 업계 리더들의 공동 노력은 AI가 민주주의 과정에 미칠 수 있는 잠재적 영향과 그에 대한 책임감을 점차 인식하고 있음을 보여줍니다.
오픈아이(OpenAI)의 발표는 칭찬할 만하지만, 이러한 조치의 시의성에 대한 논쟁을 불러일으켰습니다. 펀드잇(Pund-IT Inc.)의 찰스 킹은 이러한 조치가 시의적절한 것인지 아니면 사후 대응적인 것인지에 대해 비판적인 질문을 제기했습니다.
그는 AI가 생성하는 허위 정보에 대한 우려가 수년간 지속되어 왔으며, 오픈AI의 최근 발표는 뒤늦은 대응이거나 단순한 상징적 제스처로 인식될 수 있다고 주장합니다. 이러한 관점은 정치 지형에서 AI 개발자의 역할과 책임에 대한 더 심층적인 성찰을 촉발합니다.
