OpenAI는 아동 안전 단체의 AI 투표 운동을 지지합니다

기술 정책에 대해 의견 차이를 보였던 오픈AI와 커먼센스미디어는 금요일, 캘리포니아에서 인공지능 챗봇을 사용하는 아동을 보호하기 위한 주민투표 발의안을 공동으로 추진하기로 했다고 발표했습니다.

두 단체는 오는 11월 캘리포니아 유권자들에게 제시하려던 각각의 법안을 철회하고, 대신 공동으로 개발한 단일 법안을 지지하기로 했다고 밝혔다.

이번 합의로 두 조직 간에 발생할 수 있었던 값비싼 정치적 공방을 막을 수 있게 되었으며, 합의 내용을 잘 아는 두 소식통에 따르면 오픈아이언은 해당 안건을 투표에 부치기 위해 최소 1천만 달러를 기부할 계획입니다.

새로운 제안은 부모에게 자녀의 AI 챗봇 사용에 대한 더 큰 권한을 부여할 것입니다. 그러나 이 제안에는 시민단체 커먼센스미디어가 원래 버전에 포함시키고자 했던 일부 조항이 제외되었습니다. 제외된 조항에는 학교 내 휴대전화 사용 금지와 챗봇으로 인해 피해가 발생할 경우 부모와 자녀가 주요 AI 기업을 상대로 법적 조치를 취할 수 있도록 하는 조항이 포함됩니다.

"인공지능 관련 투표 안건들이 서로 경쟁하면서 유권자들을 혼란스럽게 하는 대신, 우리는 협력하기로 결정했습니다."라고 커먼 센스 미디어의 설립자이자 운영자인 짐 스테이어는 금요일 기자회견에서 이 계약에 대해 언급했습니다.

이 법안을 유권자 투표에 부치려면 캘리포니아dent약 87만 5천 명의 서명이 필요합니다. 오픈AI에서 글로벌 정책을 담당하는 크리스 레헤인은 양측이 2월 초부터 서명 수집을 위한 캠페인 조직을 구성할 것이라고 밝혔습니다. 레헤인과 스티어는 캘리포니아 주 의회가 아동용 챗봇 안전에 관한 법안을 신속하게 통과시킬 경우 제안을 철회할 수도 있다고 언급했습니다.

이번 파트너십은 기술 문제에 있어 종종 대립해왔던 두 조직 간의 관계 전환을 의미합니다.

커먼 센스 미디어는 미국 전역의 기술 기업에 대한 규제 마련을 추진하는 주요 단체로 부상했습니다. 이 단체는 2018년 캘리포니아 소비자 개인정보보호법 제정에 기여했으며, 지난달에는 특정 소셜 미디어 사이트에 정신 건강 관련 경고 문구를 표시하도록 요구하는 뉴욕 법안을 지지했습니다.

이 단체는 인공지능 챗봇 규제에 대해서도 적극적으로 목소리를 내왔습니다. 작년에는 캘리포니아 주에서 발의된 법안을 지지했는데, 이 법안은 인기 있는 인공지능 챗봇이 아동과 대화하는 것을 금지하는 내용을 담고 있었습니다. 단, 해당 프로그램이 성적으로 노골적인 대화를 하거나 자해, 폭력, 섭식 장애와 같은 유해한 행동을 조장할 가능성이 "예측 불가능"한 경우는 예외로 했습니다.

기술 산업 단체들은 그 법안에 반대했습니다

민주당 소속인 개빈 뉴섬 캘리포니아 주지사는 해당 법안이 너무 제한적이라며 거부했습니다.

뉴스옴 주지사는 의원들이 2026년에 이 문제를 다루기를 바란다고 말하면서도, "인공지능이 보편화될 미래에 우리 젊은이들이 이러한 도구를 사용하는 것을 완전히 막는 방식으로는 미래를 대비시킬 수 없다"고 덧붙였습니다

Common Sense Media는 거부된 법안을 모델로 삼아 10월에 주민투표 발의안을 제출했습니다. 이에 OpenAI는 12월에 아동 안전에 관한 보다 제한적인 발의안을 제출하며 대응했습니다.

오픈아이언은 조직 구조 변경 계획에 대한 반발을 예상하고 여름 동안 캘리포니아 주민투표 안건에 집중하는 팀을 구성했다고 관계자들이 전했다.

구글, 메타, 아마존닷컴과 같은 부유한 기술 기업들을 회원으로 두고 있는 캘리포니아 상공회의소는 지난 12월 커먼 센스 미디어가 제안한 내용에 반대하는 결의안을 통과시켰습니다.

같은 달, 레헤인은 스티어와 만나 타협안을 마련하자고 제안했다.

두 기관은 1년 넘게 논의를 진행해 왔으며, AI 가이드라인 및 교육 자료에 대한 협력 계약을 이미 체결한 상태였습니다. 타협안을 모색하는 과정에서 오픈아이언은 샘 알트먼 대표가 지난 9월 롭 본타 캘리포니아 주 법무장관과 논의했던 아동 안전 관련 개념을 바탕으로 의견을 제시했습니다. 여기에는 18세 미만 사용자를dent하는 기술 개발 계획이 포함되었습니다.

새로운 조치가 요구하는 사항

오픈AI가 이전에 제출했던 안건을 대체하는 수정된 주민투표 발의안은 AI 기업들이dent제공하고, 독립적인 아동 안전 검토를 거치며, 아동을 대상으로 하는 광고를 중단하도록 요구 자녀 보호 기능을등dent 여러 가지 요건을 포함하고 있습니다.

이번 합의는 OpenAI에 도움이 될 것입니다. OpenAI는 지난 한 해 동안 ChatGPT와의 상호작용으로 인해 가족 구성원, 특히 스스로 목숨을 끊은 젊은이들에게 피해를 입혔다고 주장하는 여러 가족으로부터 소송을 당했습니다.

OpenAI는 해당 소송에서 묘사된 상황들을 "정말 가슴 아픈 상황"이라고 표현했으며, 정신적 고통을 겪는 사용자들을 더 잘 지원하기 위해 ChatGPT에 최근 업데이트를 적용했다고 언급했습니다.

지난 11월, 커먼 센스 미디어는 챗GPT, 구글의 제미니, 앤트로픽의 클로드, 메타 플랫폼의 메타 AI를 포함한 AI 챗봇이 "청소년 정신 건강 지원에 근본적으로 부적합하다"는 내용의 보고서를 발표했습니다.

2003년에 자신의 단체를 설립한 스티어는 기술 및 미디어 기업들과 대립하는 동시에 안전 문제에 대해서는 그들과 협력하는 균형을 꾸준히 유지하려고 노력해 왔다.