OpenAI는 ChatGPT에서 미국dent후보들의 이미지 요청 25만 건 이상을 차단해야 했습니다

OpenAI는 자사의 인기 AI 도구인 ChatGPT가 2024년 미국dent주요 후보들의 이미지를 생성해 달라는 요청을 무려 25만 건 이상 차단했다고 확인했습니다.

사용자들은 ChatGPT를 이용해 도널드 트럼프 대통령dent, 카말라 해리스dent , 조 바이든 현dent , 팀 월즈 미네소타 주지사, 그리고 JD 밴스 부통령dent의 이미지를 만들어내려고 끊임없이 시도했습니다.

하지만 OpenAI는 이러한 요청들에 대해 단호하게 "안 된다!"라고 답했습니다. 이는 ChatGPT가 고위험의 허위 정보 유포 게임에서 이용당하는 것을 막기 위한 조치라고 알려져 있습니다

미국 대선이 임박하면서 OpenAI는 ChatGPT가 선거 개입에 관여하지 않기를 바랐습니다. 정치적 딥페이크, AI가 생성한 가짜 뉴스, 그리고 노골적인 거짓말이 온라인에서 들불처럼 퍼져나가고 있습니다. 머신러닝 회사인 Clarity는 딥페이크 콘텐츠만 해도 올해 들어 900%나 급증했다고 보고했습니다.

미국 정보당국은 이러한 활동 중 일부가 미국 정치에 개입하려는 러시아 공작원들과 연관이 있다고 밝혔습니다.

OpenAI의 허위 정보와의 대규모 전쟁

10월 보고서에서 OpenAI는 상황이 얼마나 심각한지 자세히 설명했습니다. 전 세계적으로 20개의 수상한 운영 사례를 trac했는데, 모두 AI 도구를 악용하여 온라인에서 사람들의 심리를 조작하려 했습니다. 일부는 AI가 생성한 웹사이트 기사를 대량으로 유포했습니다.

다른 일부는 가짜 소셜 미디어 계정을 이용해 선전물을 게시했습니다. 하지만 오픈아이얼 팀은 이러한 네트워크가 확산되기 전에 차단했다고 주장합니다.

하지만 그렇다고 모든 사람을 만족시킬 수는 없습니다. 일부 국회의원, 기술 감시 단체, 그리고 회의론자들은 선거철에 ChatGPT를 자유롭게 운영하는 것의 위험성에 대해 경고하고 있습니다. AI 챗봇은 인상적일 수 있지만, 때때로 의심스러운 정보를 내놓는다는 점도 지적되고 있습니다.

"유권자들은 투표나 선거에 관한 정보를 얻기 위해 인공지능 챗봇에 의존해서는 안 됩니다. 정확성과 완전성에 대한 우려가 너무 많습니다."라고 민주주의 및 기술 센터(Center for Democracy & Technology)의 CEO인 알렉산드라 리브 기븐스는 지난주 성명에서 밝혔습니다.

게다가 뉴욕주 법무장관 레티샤 제임스는 지난 금요일, 자신의 사무실에서 AI 기반 챗봇 몇 개를 테스트한 후 경고를 발표했습니다. 그녀의 팀은 챗봇들에게 선거 관련 질문을 던졌고, 그 답변들이 마음에 들지 않았다고 합니다. 잘못된 정보가 너무 많았다는 것입니다.

뉴욕주 법무장관실은 "투표에 관한 질문에 대해 정부 공식 자료가 아닌 챗봇에 의존하는 뉴욕 시민들은 잘못된 정보를 얻을 위험이 있으며, 부정확한 정보로 인해 투표권을 잃을 수도 있다"고 밝혔습니다.

오픈아이디는 이후 챗GPT에 선거 결과를 찾는 사용자들에게 AP통신이나 로이터통신과 같은 신뢰할 수 있는 뉴스 매체를 참고하도록 권장하는 기능을 추가했습니다. 11월 5일에 도입된 이 기능은 선거 데이터처럼 중요한 사안에 대해 인공지능이 생성한 답변에 의존하지 않도록 부드럽게 유도하는 것입니다.

세계 선거를 앞두고 인공지능이 뜨거운 논쟁거리로 떠올랐다

올해 전 세계 정치 캠페인은 40개국 이상, 40억 명이 넘는 사람들에게 영향을 미칠 수 있습니다. 이처럼 중요한 사안이 걸린 상황에서 인공지능(AI)을 이용한 허위 정보가 국경을 넘어 확산될 위험은 매우 큽니다.

다시 한번, 클래리티의 보고서에서 딥페이크 콘텐츠가 900% 증가했다는 사실은 우려를 자아냅니다. 이러한 딥페이크 영상 중 일부가 러시아의 지원을 받는 영향력 행사 캠페인과 연관되어 있다는 사실은 문제의 심각성을 더욱 높입니다.

지난 7월 민주주의 및 기술 센터(Center for Democracy & Technology)의 연구 결과는 또 다른 우려를 불러일으킵니다. 이 연구는 미스트랄(Mistral), 구글(Google), 오픈AI(OpenAI), 앤스로픽(Anthropic), 메타(Meta) 등 주요 기업의 AI 챗봇을 이용해 선거 관련 질문에 대한 답변을 테스트했습니다. 77개의 선거 관련 질문 중 3분의 1 이상이 부정확하거나 오해의 소지가 있는 답변을 제공했습니다. 결코 좋은 결과가 아닙니다.

클로드 챗봇을 제작하는 앤트로픽의 대변인은 "특정 선거 및 투표 정보에 대해서는 클로드가 특정 선거에 대한 실시간 정보를 제공할 만큼 자주 학습되지 않으므로, 사용자들에게 신뢰할 수 있는 출처를 안내하고 있습니다."라고 분명히 밝혔습니다

트럼프-머스크 듀오와 실리콘 밸리의 새로운 현실

오픈AI가 허위 정보 문제를 다루는 동안, 실리콘 밸리 전체는 워싱턴과의 관계 개편에 대비하고 있습니다. 도널드 트럼프 대통령dent은 백악관 복귀와 함께 전임자의 기술 정책, 특히 바이든 행정부의 최근 AI 안전 관련 행정 명령을 전면 폐지하겠다는 공약을 내세웠습니다.

이 명령은 AI 개발자를 위한 보안 및 개인정보 보호 지침을 도입하여 몇 가지 기본적인 가드레일을 설정하는 것을 목표로 했습니다. AI 연구 기금 지원을 촉진하고, 미국 국립표준기술원(NIST)의 AI 표준 설정 참여를 확대하는 것을 목표로 했습니다. 트럼프 대통령은 이 정책을 "위험하고" 혁신을 가로막는 장벽이라고 규정하며, "언론의 자유에 기반한 AI 개발"로 대체하겠다고 약속했습니다.

도널드 트럼프 지지 캠페인에 1억 3천만 달러 이상을 쏟아붓고 펜실베이니아에서 트럼프를 위한 집회까지 열렬히 지지했던 일론 머스크는 트럼프의 가장 강력한 기술계 동맹 중 한 명이 될 것으로 예상됩니다. 머스크는 막강한 영향력과 자신이 소유한 X(구 트위터)를 통해 수백만 명에게 정치적 메시지를 직접 전달할 수 있는 강력한 통로를 확보하고 있습니다.

게다가 머스크는 이해관계가 얽혀 있다. 테슬라와 스페이스X는 트럼프의 정책, 특히 새 행정부가 규제 완화를 선호한다면 이득을 볼 수 있다.

아마존의 제프 베조스처럼 트럼프와 공개적으로 갈등을 빚은 IT 업계 거물들도 있지만, 그의 환심을 사는 방법을 찾아낸 사람들도 있다. 예를 들어 메타의 마크 주커버그는 최근 발생한 암살 시도에 대한 트럼프의 대응을 "멋지다"라고 칭찬한 것으로 알려졌다

페이스북은 여기서 멈추지 않고 플랫폼의 허위 정보 방지 조치 일부를 제거했습니다. 워싱턴 포스트의 소유주인 제프 베조스는 대선 몇 주 전 카말라 해리스dent 지지하는 사설을 차단한 것으로 알려졌습니다.

트럼프의 두 번째 임기가 실리콘 밸리에 미칠 영향은 누가 의회를 장악하느냐에 따라 달라질 것이다. 공화당이 상원을 장악하면서 트럼프는 자신의 기술 정책을 추진하고 지명자들을 비교적 수월하게 인준할 수 있게 되었다.