알다시피, 근친 교배는 유전적으로 유사한 집단의 개체들이 번식할 때 유전체 손상을 수반합니다. 이는 신생아에게 기형 및 기타 건강 문제를 야기하는 경우가 많습니다. 인터넷이 점점 더 AI가 생성한 콘텐츠로 채워짐에 따라 AI 모델도 다른 AI의 콘텐츠를 학습하고 있기 때문에 이러한 현상이 현재 일어나고 있습니다. 전문가들은 이러한 AI 근친 교배가 신뢰할 수 없고 질 낮은 콘텐츠 생산으로 이어질 것이며, 이는 올해 미국 대선에 부정적인 영향을 미칠 것이라고 말합니다.
AI 모델이 처음 등장했을 당시에는 콘텐츠 제작자의 업무 효율을 높이고 시간을 절약하기 위해 텍스트, 오디오, 비디오 등 사람이 생성한 콘텐츠를 기반으로 학습했습니다. 하지만 지금은 인터넷에 넘쳐나는 콘텐츠와 AI 모델이 학습 목적으로 저품질 데이터를 대량으로 사용하고 있기 때문에 온라인에서 제공되는 콘텐츠의 대부분은 AI가 생성한 것입니다.
깨끗한 유전자 풀이 줄어들면서 이는 인간 사회와 AI 기술의 진화에 장기적인 영향을 미칠 것입니다. 깨끗한 유전자 풀이란 원래 인간이 만들어낸 콘텐츠 중 AI 훈련에 활용 가능한 콘텐츠를 의미합니다. 전문가들은 몇 년 안에 AI가 생성한 콘텐츠가 인터넷 전체 콘텐츠의 거의 90%를 차지할 것으로 예상합니다. ChatGPT, Gemini, Dall-E와 같은 플랫폼들이 블로그 게시물부터 소셜 미디어, 심지어 주류 매체까지 온라인 플랫폼에 매일 엄청난 양의 콘텐츠를 쏟아내고 있기 때문입니다.
불모의 AI가 앞에 있습니다
전문가들에 따르면, 생성적 AI는 절정에 달했을지도 모르기 때문에 쇠퇴할 가능성이 있습니다. 실리콘 밸리 또한 투자자들이 AI를 과대광고로 여기고 더 이상 큰 수익을 낼 수 없을 것으로 생각하면서 인공지능이 겨울을 맞이할지도 모른다는 우려를 표하며 이 위기에 대해 우려하고 있습니다.
저자이자 기술 사업 고문인 버나드 마르는 포브스 기사와 자신의 의견을 지지했습니다.
AI 연구 및 자문 회사인 스위스코그니티브(SwissCognitive) 또한 생성적 AI 근친 교배가 창의성과 다양성에 위험을 초래한다고 지적했습니다. AI의 효과성과 견고성을 유지하려면 인간이 생성한 새로운 데이터가 필요하다고 덧붙였습니다.
AI 근친교배가 미국 선거에 큰 혼란을 가져올 수 있다
AI 근친 교배는 실질적인 위험입니다. 이전 데이터만 확보할 수 있기 때문에 다른 AI 모델의 데이터를 사용하여 AI 모델을 훈련한다고 가정해 보겠습니다. 이제 이전 데이터에 다양한 편향과 불일치, 즉 제대로 만들어지지 않은 데이터 세트가 있다고 가정해 보겠습니다. 이제 새로운 AI 모델은 그러한 편향을 뒷받침할 뿐입니다. 전문가들은 딥페이크를 포함한 선거 관련 허위 정보가 엄청나게 쏟아지는 상황에서 후보자와 정치인에 대한 가짜 뉴스는 다가오는 선거에도 마찬가지로 부정적인 영향을 미칠 수 있다고 말합니다.
워싱턴 포스트는 기사에서 다음과 같이 말했습니다.
정치 광고가 후보자의 상대를 정확하게 묘사하는 것으로 알려진 적은 없었습니다. 이제 인공지능은 허위 정보를 그 어느 때보다 현실적으로 만들 위험이 있습니다. AI가 2024년 선거에서 혼란을 야기하기를 기다리기보다는 규제 기관, 국회의원, 정당이 지금 당장 행동해야 합니다.
출처: 워싱턴 포스트 .
민주주의 과정을 불안정하게 만들려는 반대자, 열성적인 지지자, 외국 세력이 인공지능을 이용해 콘텐츠를 조작하면 그 영향이 얼마나 파괴적일 수 있는지 우리는 깨닫게 됩니다.
워싱턴의 정치 개혁 단체인 이슈 원(Issue One)은 필라델피아 인콰이어러(The Philadelphia Inquirer)의 기사를 담은 트윗을 공유했습니다. 이슈 원의 트윗은 이 단체들이 어떤 우려를 품고 있는지를 엿볼 수 있는 단적인 예입니다.
아시다시피, AI 도구는 누군가에게 불리한 사실을 쉽게 조작할 수 있으며, 이러한 도구는 원하는 사람이라면 누구나 사용할 수 있습니다. 국가가 지원하는 단체와 더불어 심각한 위협으로 부상했으며, 소셜 미디어를 통해 콘텐츠를 바이럴 마케팅할 수 있다는 것은 금상첨화입니다 cake 한 가지 작은 예로, X 플랫폼에서 "이란이 중미사일로 이스라엘을 공격한다"는 가짜 뉴스가 있습니다. 이는 대중의 기분을 완전히 뒤바꿀 수 있는데, 농담처럼 이 뉴스는 플랫폼 자체 챗봇이 생성했습니다.
그리고 바이든의 목소리를 흉내 낸 가짜 음성 통화도 잊지 마세요. 투표일 이틀 전에 예비선거가 치러지기 전에 유권자들이 투표하지 못하도록 막으려는 시도입니다. 바이든을 좋아하든 싫어하든, 이러한 악의적인 전략은 분명히 작용합니다. 우리는 흥미로운 사건들을 목격하게 될 것입니다.
