AI 근친교배는 미국 선거에 심각한 영향을 미칠 수 있습니다

우리가 알다시피, 근친교배의 개념은 유전적으로 유사한 집단의 개체가 번식할 때 게놈이 손상되는 것을 포함합니다. 이는 종종 신생아의 기형 및 기타 건강 관련 문제를 초래합니다. 현재 인터넷이 AI 생성 콘텐츠로 가득 차면서 AI 모델들이 다른 AI의 콘텐츠로 훈련되고 있는 것과 같은 일이 AI 모델에서도 발생하고 있습니다. 전문가들에 따르면, 이러한 AI의 근친교배는 신뢰할 수 없고 더 나쁜 콘텐츠 생산으로 이어져 올해 미국 선거에 부정적인 영향을 미칠 것입니다.

AI 모델이 처음 콘텐츠 제작자의 작업을 간소화하고 시간을 절약하기 위해 출시되었을 때, 그들은 텍스트, 오디오 및 비디오를 포함한 인간이 생성한 콘텐츠로 훈련되었습니다. 그리고 이제 인터넷이 이러한 콘텐츠로 넘쳐나면서 온라인에서 이용 가능한 콘텐츠의 대부분은 주로 AI 생성이며, AI 모델들은 훈련 목적으로 저품질 데이터를 처리하고 있습니다.

이는 깨끗한 유전자 풀이 shrinking함에 따라 인간 사회와 AI 기술의 진화에 장기적인 결과를 가져올 것입니다. 깨끗한 유전자 풀이란 AI 훈련에 이용 가능했던 원래 인간이 생성한 콘텐츠를 의미합니다. 전문가들은 몇 년 안에 AI 생성 콘텐츠가 인터넷에서 이용 가능한 전체 콘텐츠의 거의 90%에 달할 것으로 추정했습니다. ChatGPT, Gemini, Dall-E 같은 서비스들이 블로그 게시물부터 소셜 미디어 및 메인스트림 미디어에 이르기까지 매일 온라인 플랫폼에 방대한 양의 콘텐츠를 쏟아내고 있기 때문입니다.

황량한 AI의 앞날

전문가들에 따르면, 생성형 AI는 정점에 도달했을 수 있어 쇠퇴할 수 있습니다. 실리콘 밸리도 이 위기에 대해 우려하고 있으며, 투자자들이 AI를 허세로 간주하고 더 이상从中 얻을 것이 없다고 생각하면서 인공 지능이 겨울을 맞을 수 있다고 두려워하고 있습니다.

저술가이자 기술 비즈니스 고문인 버나드 마르는 포브스의 기사와 자신의 의견을 지지했습니다.

AI 연구 및 자문 회사인 SwissCognitive도 생성형 AI의 근친교배가 창의성과 다양성에 위험을 초래한다고 말했습니다. 그들은 AI의 효과성과 견고함을 유지하기 위해 신선한 인간 생성 데이터가 필요하다고 말했습니다.

AI 근친교배는 미국 선거에서 혼란을 야기할 수 있습니다

AI 근친교배는 실제적인 위험입니다. 데이터가 이전의 노력에서만 이용 가능하다고 가정하고, 다른 AI 모델의 데이터로 AI 모델을 훈련한다고 상상해 봅시다. 이제 이전 데이터에 다양한 편향과 불일치, 또는 반쯤 익힌 데이터 세트가 있었다고 상상해 봅시다. 그러면 새로운 AI 모델은 이러한 편향만 강화하게 됩니다. 전문가들에 따르면, 딥페이크, 후보자 및 정치인에 대한 가짜 뉴스 등 선거에 관한 엄청난 양의 허위 정보가 공급됨에 따라 이러한 나쁜 영향이 다가오는 선거에도 미칠 수 있습니다.

워싱턴 포스트는 기사에서 다음과 같이 말했습니다.

“정치 광고는 후보자의 상대를 정확하게 묘사한 것으로 알려지지 않았습니다. 이제 인공 지능이 오해를 불러일으키는 것을 그 어느 때보다 현실적으로 만들 위협이 되고 있습니다. 2024년 선거에서 AI가 혼란을 일으키기를 기다리기보다, 규제 기관, 입법자 및 정당은 지금 행동해야 합니다.”

출처: 워싱턴 포스트.

우리는 상대, 열성 지지자 또는 민주적 과정을 불안정하게 하려는 외국 행위자들이 인공 지능을 조작하여 콘텐츠를 생성하는 것이 얼마나 파괴적인지 알 수 있습니다.

워싱턴의 정치 개혁 그룹인 Issue One은 필라델피아 인콰이어의 뉴스 기사가 포함된 트윗을 공유했습니다. Issue One의 트윗은 이러한 그룹들이 마음속에 가지고 있는 우려의 일각을 보여줍니다.

우리가 알다시피, AI 도구는 사실들을 쉽게 조작하여 누군가에게 불리하게 사용할 수 있으며, 이러한 도구는 원하는 누구나 사용할 수 있습니다. 국가 후원 그룹과 함께 이는 심각한 위협이 되었으며, 소셜 미디어를 통해 콘텐츠가 바이럴되는 가능성은 이보다 더할 나위가 없습니다. 작은 예로, X 플랫폼의 “이란이 중미로 이스라엘을 공격한다”는 가짜 뉴스가 실제로 대중의 분위기를 바꿀 수 있으며, 아이러니하게도 이 뉴스는 플랫폼 자체의 챗봇에 의해 생성되었습니다.

그리고 투표 이틀 전 주 선거에서 대중이 투표하는 것을 막으려던 바이든의 목소리를 모방한 가짜 음성 전화를 잊지 마십시오. 바이든을 사랑하든 싫어하든, 이러한 악의적인 전술은 역할을 합니다. 우리는 흥미로운 사건들을 목격하게 될 것입니다.