안전한 AI 미래를 위한 데이터 수용

2023년, 인공 일반 지능(AGI)은 주류로 급부상하며 숙제 도우미부터 소셜 미디어 콘텐츠 제작에 이르기까지 모든 것을 뒤바꿔 놓았습니다. 영화 '킹스 스피치'에 AGI가 등장하는 등 주목할 만한 사례들이 그 영향력 확대를 보여주었습니다. 그러나 AI가 일상생활에 빠르게 통합되면서 우려도 커지고 있습니다. 흔히 디스토피아적 공포가 부추겨 기술의 잠재적 이점이 가려지는 경향이 있습니다. 특히 AI 도입 속도가 필요한 법적, 윤리적 틀의 발전을 앞지르고 있다는 점이 중요한 문제로 지적되고 있습니다.

빅테크 기업들은 'AI 숙제를 스스로 채점한다'는 식의 불충분한 자율 규제로 비판을 받아왔습니다. 이에 대응하여 미국은 아마존, 구글, 오픈AI, 마이크로소프트와 같은 업계 선두 기업들을 모아 획기적인 자발적 협약을 체결했습니다. 이 협약을 통해dent 보안 전문가들이 해당 기업들의 최신 AI 모델을 평가할 수 있게 되었습니다. 마찬가지로 영국에서도 리시 수낙 총리가 국가 안보 위험에 대응하기 위한 세계 최초의 AI 안전 연구소 설립 계획을 발표했습니다. 이러한 움직임은 미국, 영국을 비롯한 여러 국가들이 AI 오용을 방지하고 '설계 단계부터 보안을 고려한' 시스템을 구축하기 위한 국제 협약을 체결한 것과 맥락을 같이합니다.

전 세계적으로 각국 정부는 인공지능(AI) 규제를 주도하기 위한 비공식적인 경쟁을 벌였습니다. 특히 영국이 블레츨리 파크에서 제1회 AI 안전 정상회의를 개최한 것은 중요한 이정표였습니다. 회의에서는 AI의 어두운 면, 특히 핵전쟁 위험과의 비교에 초점이 맞춰졌습니다. 그러나 고용이나 알고리즘 기반 의사결정과 같이 AI의 영향을 가장 많이 받을 가능성이 있는 분야에서 AI가 가장 큰 영향을 미칠 수 있는 공동체가 규제에서 배제되고 있다는 우려가 제기되었습니다.

미지의 것을 규제하는 과제

리시 수낙 영국 재무장관이 밝힌 영국의 전략은 아직 완전히 이해되지 않은 기술에 대한 법제화라는 딜레마를 중심으로 전개됩니다. 이 주제는 오픈 데이터 연구소(Open Data Institute) 서밋의 핵심 의제였으며, 저는 공동 설립자인 팀 버너스-리와 함께 AI 모델과 데이터의 투명성 중요성을 강조했습니다. 우리는 AI에 대한 효과적인 검증에는 AI의 복잡성을 이해하는 사람들이 참여해야 하며, 일반적으로 정치인들은 이러한 집단에 포함되지 않는다고 주장했습니다.

특히 인공지능이 일자리에 미칠 영향에 대한 대중의 불안감은 뚜렷하게 나타났습니다. 이는 미국작가협회의 146일간의 파업과 게티이미지가 스테빌리티 AI를 상대로 제기한 소송에서dent 드러났습니다. 이러한 우려에도 불구하고, 창작 업계는 생성형 인공지능을 적극적으로 활용하여 주목할 만한 이미지와 수상 경력에 빛나는 예술 작품들을 만들어냈습니다. 나이트셰이드와 같은 도구는 인공지능이 사용하는 데이터를 '오염'시켜 인간의 작업을 모방하는 능력을 저해함으로써 창작자의 권리를 보호하기 위해 등장했습니다.

2023년에는 데이터 활용 능력 문제가 중요한 화두로 떠올랐습니다. 포춘 1000대 기업을 대상으로 한 설문조사 결과, 데이터, 분석 및 인공지능 관련 사업이 정체된 것으로 나타났습니다. 특히 영국, 그중에서도 공무원 부문의 디지털 및 데이터 관련 기술 인력 부족이 시급한 과제로 지적되었습니다.

2024년 이후: 데이터는 AI의 기반이다

2024년을 내다보면, 효과적이고 안전한 AI의 기반은 데이터에 있다는 것이 분명합니다. AI의 힘과 안전성은 AI가 활용하는 데이터의 품질과 관리 방식에 직접적으로 달려 있습니다. 총선이 다가오는 시점에서, 각 정당의 공약은 데이터를 기술 발전의 초석으로 인식하고 책임 있는 데이터 수집 및 배포를 약속하는 것이 매우 중요합니다. 또한, AI 기반 의사결정에 대한 인간의 감독을 유지하는 것도 중요한 측면입니다. 알고리즘이 내린 결정을 검토하고 이의를 제기할 수 있는 사람이 항상 존재해야 합니다.

작년 말 오픈AI가 급속한 AI 개발을 관리하고 감독하는 데 직면했던 어려움은 AI 교육 및 응용 분야에 다양하고 숙련된 인력이 얼마나 중요한지 다시금 부각시켰습니다. 교육계는 AI를 표절 수단이 아닌 보편적인 학습 도구로 인식하기 시작했습니다. 2024년에는 AI가 생성한 허구와 사실을 구별하고 AI가 증강된 세상에서 새롭게 등장하는 직무를 수행할 수 있는 데이터 활용 능력을 갖춘 세대를 육성하는 것이 목표입니다.