인공지능 산업, 결함이 있는 AI 도구를 성급하게 공개하며 비판에 직면

생성형 인공지능의 부상하는 분야에서 우위를 점하기 위한 경쟁에서 구글, 오픈AI, 아마존과 같은 기술 거대 기업들은 종종 실망스러운 결과와 함께 새로운 AI 제품을 빠르게 출시해 왔습니다. 

이러한 AI 도구의 최근 공개는 허위 정보 생성 및 사실 오류를 포함한 상당한 결점을 드러냈습니다. 이러한 혁신을 시장에 빠르게 출시하려는 조급함은 테스트되지 않은 기술과 관련된 잠재적 위험에 대해 전문가들과 규제 기관들 사이에서 우려를 불러일으켰습니다.

구글은 Gmail과 Google Docs의 내용을 요약하도록 설계된 Bard 챗봇을 소개했지만, 사용자는 곧 발송되지 않은 이메일을 조작하고 있음을 빠르게 발견했습니다. 오픈AI는 Dall-E 3 이미지 생성기를 선보였지만, 소셜 미디어 사용자는 공식 데모의 이미지가 요청된 세부 사항을 충족하지 못했다고 지적했습니다. 아마존은 알렉사의 대화형 모드를 발표했으며, 이는 워싱턴 포스트의 데모 동안 실패하여 잘못된 위치에 있는 박물관을 추천하기도 했습니다.

이러한 결함이 있는 릴리스의 물결은 기계가 인간과 유사한 텍스트와 현실적인 이미지를 생성할 수 있는 생성형 AI 기술을 활용하려는 기술 산업의 열띤 추세를 강조합니다. 이 조급함은 놓칠까 봐 두려워하는(FOMO) 심리에 의해 주도되며, 이러한 AI 도구를 개선하는 데 필요한 데이터를 생성하기 위해 더 많은 사용자를 유치하는 것을 목표로 합니다. 그러나 전문가와 기술 임원 모두 테스트되지 않은 AI의 조기 배포에 대해 경고를发出了했습니다.

산업계는 결함을 인정하지만 계속 전진

기술 기업들은 AI 제품의 실험적 성격을 소통했으며, 공격적이거나 편향된 출력을 방지하기 위한 안전 장치를 구현했다고 주장합니다. 일부는 기술이 더 강력해지기 전에 사람들에게 AI 도구를 노출시킴으로써 관련 위험에 대한 더 나은 이해를 가능하게 한다고 주장합니다. 이러한 보장에도 불구하고, 빠르고 결함이 있는 롤아웃은 특히 AI가 편향을 도입하거나 심지어 인간 지능을 초과할 잠재력을 고려할 때 주의에 대한 요구와 모순됩니다.

특히 AI에 대한 우려는 규제적 관심을 촉발했습니다. 미국에서는 의회가 청문회를 개최하고 AI를 규제하기 위한 법안을 제안했지만, 구체적인 조치는 제한적입니다. 지난주 일론 머스크와 마크 저커버그를 포함한 기술 임원들은 기술을 규제하는 법안을 고려 중인 의원들로부터 질문을 받았습니다. 유럽에서는 의원들이 범죄 행동 예측과 같은 특정 AI 사용 금지 및 산업에 대한 엄격한 규칙 수립을 위한 규제를 추진하고 있습니다. 영국에서는 AI 규제를 위한 글로벌 협력이 11월의 주요 정상회의 의제에 포함되어 있습니다.

영국의 재무장관 제레미 헌트는 규제와 혁신 사이의 균형을 찾는 것의 중요성을 강조했습니다. 그는 경쟁적 긴장이 기술 발전을 주도한다고 인정했지만, 혁신을 장려하면서 필요한 안전 장치를 보장하는 규제 프레임워크의 필요성을 강조했습니다.

AI 개발의 과제는 지속됨

오픈AI의 ChatGPT로 대표되는 최신 세대의 AI 도구는 그 능력으로 광범위한 주목을 받았습니다. 인터넷의 방대한 데이터셋으로 구동되는 이러한 AI 시스템은 복잡한 질문에 답하고, 전문 시험을 통과하며, 인간과 유사한 대화를 나눌 수 있습니다. 그러나 과제는 지속됩니다.

챗봇은 종종 허위 정보를 생성하고 이를 사실인 것처럼 제시하는데, 이를 '환각(hallucinating)' 현상이라고 합니다. 이미지 생성기는 빠르게 개선되고 있지만, 특히 미국이 2024년 선거를 앞두고 있는 가운데 선동과 허위 정보 생성 잠재력에 대한 우려가 남아 있습니다. 또한, AI 모델을 훈련하는 데 저작권이 있는 자료가 사용되면서 법적 분쟁이 촉발되었으며, 저명한 작가들이 최근 자신의 작품이 AI 훈련에 사용되었다며 오픈AI를 소송했습니다.