안전한 AI 미래를 위한 데이터 수용

2023년, 인공 일반 지능(AGI)이 주류로 부상하여 숙제 도움부터 소셜 미디어 콘텐츠 제작까지 모든 것을 재편했다. 왕의 연설에 포함되는 것과 같은 고-profile 사례는 그 성장하는 영향을 강조한다. 그러나 일상 생활에 대한 AI의 이러한 빠른 통합은 우려를 불러일으켰다. 내러티브는 종종 디스토피아적 공포로 치우쳐 기술의 잠재적 이점을 가린다. 중요한 문제는 AI 배포 속도가 필요한 입법 및 윤리적 프레임워크의 개발을 앞지르고 있다는 점이다.

빅테크 기업들은 자체 규제 부족, 즉 ‘자신의 AI 숙제를 스스로 채점한다’는 비판에 직면해 왔다. 이에 미국은 아마존, 구글, 오픈AI, 마이크로소프트 등 업계 리더들을 규합하여 획기적인 자발적 합의서에 서명하도록 했다. 이 협정은 독립적인 보안 전문가들이 최신 AI 모델을 평가할 수 있도록 한다. 영국에서도 리시 수낙 총리는 국가 안보 위험을 해결하기 위해 세계 최초의 AI 안전 연구소 설립 계획을 발표했으며, 이는 미국, 영국 및 여러 다른 국가들이 AI의 오용을 방지하고 ‘설계 단계부터 안전한’ 시스템을 보장하기 위한 국제적 합의를 맺은 시기와 맞물려 있다.

전 세계적으로 정부들 간에 AI 규제를 선도하기 위한 비공식적인 경쟁이 목격되었다. 주요 이정표는 블레츨리 파크에서 열린 최초의 AI 안전 정상회의를 영국이 주최한 것이었다. 논의는 AI의 어두운 측면, 특히 핵전쟁 위험과의 비교에 집중되었다. 그러나 고용이나 알고리즘 의사결정 등 AI의 영향을 가장 많이 받을 가능성이 높은 커뮤니티의 배제에 대한 우려도 제기되었다.

알려지지 않은 것을 규제하는 과제

리시 수낙이 제시한 영국의 전략은 아직 완전히 이해되지 않은 기술에 대한 입법을 둘러싼 딜레마에 초점을 맞춘다. 이 주제는 오픈 데이터 인스티튜트 정상회의에서 핵심 쟁점이 되었으며, 그곳에서 나는 공동 설립자 팀 버너스-리와 함께 AI 모델과 데이터의 투명성 중요성을 강조했다. 우리는 AI의 효과적인 감시는 그 미묘한 차이를 이해하는 사람들, 즉 일반적으로 정치인들을 포함하지 않는 그룹의 참여를 필요로 한다고 주장했다.

특히 AI가 일자리 미치는 영향에 대한 대중의 불안은 뚜렷했다. 이는 146일간의 미국 작가 조합 파업과 스테이빌리티 AI를 상대로 한 게티 이미지의 소송에서 드러났다. 이러한 우려에도 불구하고 창작 산업은 생성형 AI를 수용하여 주목할 만한 이미지와 심지어 상을 받은 예술 작품을 만들어냈다. 나이트셰이드와 같은 도구는 AI가 사용하는 데이터를 ‘독살’하여 인간의 작업을 복제하는 능력을 저해함으로써 창작자의 권리를 보호하기 위해 등장했다.

2023년의 중요한 흐름 중 하나는 데이터 리터러시 문제였다. 포춘 1000대 기업들을 대상으로 한 설문 조사에서 데이터, 분석 및 AI 이니셔티브의 정체 상태가 드러났다. 특히 민간 부문의 디지털 및 데이터 기술 부족 문제는 긴급한 우려 사항으로 부각되었다.

2024 및 그 이후: AI의 기반이 되는 데이터

2024년을 바라보며, 효과적이고 안전한 AI의 기반이 데이터에 있음을 알 수 있다. AI의 힘과 안전성은 그것이 활용하는 데이터의 품질과 거버넌스에 직접적으로 달려 있다. 총선이 코앞으로 다가온 가운데, 정당 공약이 데이터가 기술 발전의 핵심 기반임을 인정하고 책임감 있는 수집 및 배포에 약속하는 것이 중요하다. 또 다른 중요한 측면은 AI 기반 의사결정에서 인간의 감독을 유지하여 알고리즘에 의해 내려진 결정을 검토하고 항소할 수 있는 인간이 항상 존재하도록 보장하는 것이다.

작년 말 오픈AI가 빠른 AI 개발을 관리하고 감독하는 과정에서 직면한 도전은 AI 훈련과 적용에 다양하고 숙련된 인간의 참여가 필요함을 강조한다. 교육 부문은 이제 AI를 표절의 수단이 아닌 보편적인 학습 도구로 보기 시작한다. 2024년의 희망은 사실과 AI가 생성한 허구를 구분할 수 있고, AI가 보완하는 세상에서 새롭게 등장하는 직무 역할을 채울 준비가 된 데이터 리터러시 세대를 양성하는 것이다.