- AI 가 초래하는 실제 피해, 즉 잘못된 체포와 차별에 집중하고 과장된 실존적 위협은 배제해야 합니다.
- 합성 텍스트의 오해의 소지가 있는 특성은 편견과 허위 정보를 악화시켜 정보의 신뢰성에 도전을 제기합니다.
- AI 정책은 편향, 불평등, 착취 등 실제 피해를 해결하기 위해 엄격한 연구에 기반해야 합니다.
인공지능(AI)은 이제 과학 소설의 영역을 넘어 일상생활로 들어왔으며, 이로 인해 혜택과 위험이 모두 가져왔습니다. AI가 인류에 대한 존재론적 위협이 될 가능성에 대한 논의가 헤드라인을 장식해 왔지만, 진정한 우려는 이미 AI 기술이 초래하고 있는 즉각적이고 구체적인 피해에 있습니다. 잘못된 체포부터 알고리즘 차별에 이르기까지, 우리는 선동적인 논조에서 벗어나 실제 위험을 조사하는 근거 기반 과학으로 초점을 전환해야 합니다.
진정한 위협의 정체를 밝히다
선동적인 수사법에 굴복하기보다는, 오늘날 AI 기술이 초래하는 실제 피해에 초점을 맞춰야 합니다. 잘못된 체포, 확장되는 감시 네트워크, 딥페이크 포르노의 확산은 가상의 시나리오가 아닙니다. 이들은 현재 시장에 나와 있는 AI 도구의 실제 결과물입니다. 주택, 형사 사법, 의료 분야에서의 차별적 관행 증가와 혐오 발언 및 허위 정보의 확산은 AI의 현재 영향력과 밀접하게 연관된 시급한 문제들을 강조합니다.
과장된 hype(과대광고) 해체하기
많은 AI 기업들은 AI의 잠재적 위험을 논의할 때 실제 피해보다 극적인 서사를 우선시하는 경향이 있습니다. 산업계 리더들이 공동 서명한 AI 안전 센터(Center for AI Safety)의 최근 성명에서 AI 기반 멸종 위험에 대한 언급은 우선순위가 잘못되었다는 우려를 불러일으켰습니다. '존재론적 위험'에 대한 서사는 이미 나타나고 있는 매우 실제적인 피해들을 해결해야 하는 시급한 필요성에서 시선을 돌립니다.
명확한 정의의 필요성
'AI'라는 용어 자체는 모호한 포괄적 개념이 되어, 컴퓨터 과학의 하위 분야부터 기업들을 위한 신비로운 마법적 해결책에 이르기까지 다양한 의미를 포괄하게 되었습니다. 이러한 모호성은 의미 있는 논의를 복잡하게 만듭니다. 오늘날 ChatGPT와 같은 텍스트 합성 모델이 AI 환경을 지배하고 있습니다. 이러한 모델은 일관된 텍스트를 생성하지만 이해력과 추론 능력은 부족하여, 진정한 지능형 엔티티보다는 정교한 챗봇에 더 가깝습니다.
합성 텍스트의 문제점
텍스트 합성 모델은 설득력 있는 텍스트를 생성하지만 진정한 이해력은 부족하여, 그 출력물은 오해의 소지가 있거나 해로울 수 있습니다. 합성 텍스트의 확산은 훈련 데이터에 존재하는 허위 정보와 편향을 악화시켜 사회적 편견을 증폭시킵니다. 과제는 합성 텍스트를 신뢰할 수 있는 정보원과 구분하는 것이며, 이는 합성 텍스트가 확산됨에 따라 더 어려워지는 작업입니다.
AI는 해결책인가, 아니면 해악인가?
텍스트 합성 기술은 교육, 의료, 법률 서비스 등 다양한 사회적 격차를 해소하는 해결책으로 종종 찬사를 받습니다. 그러나 현실은 다릅니다. 이 기술은 종종 적절한 보상을 받지 못한 예술가와 작가들이 만든 콘텐츠를 착취하며, AI 훈련을 위한 데이터 라벨링 과정은 열악한 근무 조건에 시달리는 저임금 프리랜서 노동자를 포함합니다. 또한 자동화 추구는 엔터테인먼트 산업과 같은 분야에서 일자리 손실과 불안정한 고용을 초래합니다.
과학 기반 정책의 역할
AI 정책은 탄탄한 연구와 사회 복지에 대한 진정한 우려에 뿌리를 두어야 합니다. 불행히도 많은 AI 출판물은 기업이나 산업계 자금 지원 출처에서 나오며, 이는 의문의 여지가 있는 연구 관행으로 이어집니다. AI 시스템이 perpetuate(영속화)하는 실제 피해, 즉 통제되지 않는 데이터 및 컴퓨팅 파워의 축적, AI 훈련의 환경 비용, 사회적 불평등 악화를 조사하는 연구로 초점을 전환하는 것이 필수적입니다.
진정한 연구로 재초점 맞추기
정책 입안자들은 AI의 피해와 위험, 그리고 권위를 자동화된 시스템에 위임하는 것의 결과에 대해 깊이 파고드는 엄격한 연구를 우선시해야 합니다. 이러한 연구는 사회과학 분석과 이론 구축을 포함하여 AI의 사회적 영향에 대한 더 깊은 이해를 촉진해야 합니다. 이러한 연구에 기반한 정책은 마진화된 커뮤니티가 AI 기술로 인해 직면하는 실제 문제를 해결하는 데 초점을 유지하도록 보장할 것입니다.
AI가 계속해서 우리 세상을 형성함에 따라, 강조점은 선동적인 존재론적 위협에서 AI 기술이 초래하는 즉각적인 피해로 전환되어야 합니다. 잘못된 체포, 알고리즘 차별, 혐오 발언의 확산은 오늘날 AI 도구의 심각한 결과들 중 일부입니다. 근거 기반 과학과 탄탄한 연구에 집중하면 정책 입안자들이 이러한 시급한 문제를 해결하고 AI 기술이 불필요한 해를 끼치지 않으면서 사회에 혜택을 제공하도록 보장할 수 있습니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
글로리 카부루
글로리는 AI 도구와 연구에 능통한 매우 유능한 저널리스트입니다. 그녀는 AI 에 열정을 가지고 있으며 이 주제에 관한 여러 편의 기사를 집필했습니다. 그녀는 인공지능, 머신러닝, 딥러닝 분야의 최신 동향을 항상 파악하고 정기적으로 글을 씁니다.
