OpenAI, ChatGPT에서 미국 대통령 후보 이미지 25만 건 이상 차단

OpenAI는 인기 AI 도구인 ChatGPT가 2024년 미국 대통령 선거 주요 후보들의 이미지를 생성하라는 놀라운 25만 건 이상의 요청을 차단했다고 확인했다.

사용자들은 당선인 Donald Trump, Kamala Harris 부통령, 현직 대통령 Joe Biden, Minnesota 주지사 Tim Walz, 그리고 부통령 당선인 JD Vance의 이미지를 ChatGPT가 만들어내도록 다시 한 번 시도했다.

하지만 OpenAI는 이러한 모든 요청에 대해 큰 소리로 “Nope!”라고 말했다. 이는 보고에 따르면 ChatGPT가 허위 정보의 고위험 게임에서 말로 사용되는 것을 방지하기 위한 것이다.

미국 선거가 임박하자, OpenAI는 ChatGPT가 선거 개입을 피하도록 하고 싶었다. 정치적 딥페이크, AI가 생성한 가짜 뉴스, 그리고 완전한 거짓말은 온라인에서 불처럼 퍼졌다. 머신러닝 회사 Clarity는 딥페이크 콘텐츠만도 올해 900% 증가했다고 보고한다.

그리고 미국 정보당국은 이 중 일부가 미국 정치를 통제하려는 러시아 요원들과 연결되어 있다고 말한다.

OpenAI의 허위 정보에 대한 대규모 전투

10월 보고서에서 OpenAI는 상황이 얼마나 나빠졌는지 설명했다. 그들은 전 세계적으로 20개의 음모를 추적해 왔는데, 모두 온라인에서 사람들의 마음을 혼란스럽게 하기 위해 AI 도구를 악용하려 했다. 일부는 AI가 생성한 웹사이트 기사를 쏟아냈다.

다른 이들은 가짜 소셜 미디어 계정을 통해 선전을 게시했다. 하지만 OpenAI 팀은 이러한 네트워크가 바이럴되기 전에 차단했다고 주장한다.

그럼에도 불구하고, 이것이 모두를 만족시키기에는 충분하지 않다. 일부 의원, 기술 감시단, 그리고 회의론자들은 선거 시즌 동안 ChatGPT가 자유롭게 돌아다니는 위험성에 대해 적색 신호를 보내고 있다. AI 챗봇은 분명 인상적이지만, 여전히 때때로 의문스러운 정보를 뱉어내는 것으로 알려져 있다.

“유권자들은 투표나 선거에 대한 정보를 AI 챗봇에게서 절대 얻어서는 안 된다. 정확성과 완전성에 대한 우려가 너무 많기 때문이다.”라고 Center for Democracy & Technology의 CEO인 Alexandra Reeve Givens는 지난 주 성명에서 말했다.

그 위에, New York 주 검찰청의 Letitia James 검찰총장은 지난 금요일 자신의 사무실에서 몇몇 AI 기반 챗봇을 테스트한 후 경고를 발표했다. 그녀의 팀은 선거 관련 질문을 던졌고 그들이 얻은 답변을 좋아하지 않았다. 허위 정보가 가득했다.

“투표에 대한 질문에 대한 답변을 공식 정부 출처가 아닌 챗봇에 의존하는 New York 주민들은 오해를 받을 위험이 있으며, 부정확한 정보로 인해 투표 기회를 잃을 수도 있다.”라고 검찰총장 사무소는 선언했다.

OpenAI는 이후 ChatGPT에 선거 결과를 찾는 사용자가 Associated Press와 Reuters와 같은 신뢰할 수 있는 뉴스 소스를转向하도록 권장하는 기능을 추가했다. 11월 5일에 도입된 이 기능은 선거 데이터와 같은 중요한 사항에 대해 AI 생성 응답을 사용하지 않도록 부드럽게 유도한다.

전 세계 선거 가운데 AI가 뜨거운 좌석에 오르다

올해 전 세계의 정치 캠페인은 40개국 이상에서 40억 명 이상의 사람들에게 영향을 미칠 수 있다. 이렇게 많은 것이 걸려 있는 상황에서, AI가 촉발한 허위 정보가 국경을 넘어 퍼질 위험은 큰 문제다.

다시 말해, Clarity의 딥페이크 콘텐츠 900% 증가 보고서는 신경을 긁는다. 이러한 딥페이크 비디오 중 일부가 러시아 지원 영향 캠페인과 연결되어 있다는 사실은 긴박감을 더한다.

7월 Center for Democracy & Technology의 연구는 또 다른 우려의 층을 추가한다. 그들은 주요 회사들의 AI 챗봇(Mistral, Google, OpenAI, Anthropic, Meta)에서 선거 관련 쿼리를 테스트했다. 77개의 선거 관련 질문 중 3분의 1 이상이 부정확하거나 오해의 소지가 있는 응답을 받았다. 좋지 않다.

Claude 챗봇을 만드는 Anthropic의 대변인은 명확히 밝혔다. “특정 선거 및 투표 정보에 대해, Claude는 특정 선거에 대한 실시간 정보를 제공할 만큼 자주 훈련되지 않았으므로 사용자를 권위 있는 소스로 안내한다.”

Trump-Musk 듀오와 실리콘 밸리의 새로운 현실

그리고 OpenAI가 허위 정보와 싸우는 동안, 실리콘 밸리 전체는 워싱턴과의 관계 재편을 준비하고 있다. 당선인 Donald Trump의 백악관 복귀는 큰 약속을 가져온다. 그는 전임자의 기술 정책, 특히 Biden 행정부의 AI 안전에 대한 최근 행정명령을 포함하여 많은 정책을 뒤집을 계획이다.

이 명령은 AI 개발자를 위한 보안 및 개인정보 보호 가이드라인을 도입하여 기본 가드레일을 설정하는 것을 목표로 했다. 이는 AI 연구 자금 지원을 촉진하고 National Institute of Standards and Technology가 AI 표준 설정에 더 관여하도록 하는 것을 목표로 했다. Trump는 이 정책을 “위험하다”고 부르며 혁신의 장벽이라고 불렀고, 이를 “표현의 자유에 뿌리를 둔 AI 개발”로 대체하겠다고 약속했다.

Trump 캠페인에 1억 3000만 달러 이상을 지원하고 Pennsylvania에서 Trump를 위해 연설한 Elon Musk는 Trump의 가장 큰 기술 동맹국 중 한 명이 될 것으로 예상된다. Musk의 영향력과 그가 통제하는 X(구 Twitter)를 통해 그는 수백만 명에게 정치적 메시지를 증폭시킬 수 있는 직접적인 라인을 가지고 있다.

게다가, Musk는 게임에 일부 참여하고 있다: Tesla와 SpaceX는 Trump의 정책, 특히 새로운 행정부가 덜 감독을 선호한다면 이익을 얻을 수 있다.

Amazon의 Jeff Bezos와 같은 일부 기술 거물들은 Trump와 공개적으로 충돌했지만, 다른 이들은 그의 호감을 얻는 방법을 찾았다. Meta의 Mark Zuckerberg는 최근 암살 시도 이후 Trump의 반응을 “badass”라고 칭찬한 것으로 알려졌다.

그리고 Facebook은 멈추지 않았다—they는 플랫폼의 일부 허위 정보 방지 조치도 제거했다. 그리고 Bezos는 The Washington Post의 소유자로서 선거 전 몇 주 안에 Kamala Harris 부통령을 지지할 편집고를 차단한 것으로 알려졌다.

Trump의 두 번째 임기가 실리콘 밸리에 미치는 영향은 또한 의회 통제 여부에 달려 있을 것이다. 공화당이 상원을 장악하면서, Trump가 자신의 기술 의제를 추진하고 선택한 지명자들을 더 적은 마찰로 확인하는 경로가 이제 더 명확해졌다.