오픈AI, 아동 안전 그룹의 AI 투표 싸움 지지

기술 정책에 대해 의견이 달랐던 오픈AI와 커먼 센스 미디어는 금요일 캘리포니아에서 인공지능 챗봇을 사용하는 아동을 보호하기 위한 투표 제안에 힘을 합치겠다고 발표했습니다.

두 그룹은 올해 11월 캘리포니아 유권자에게 제출할 계획이었던 별도의 제안서를 철회할 것이라고 말했습니다. 대신 그들은 함께 개발한 단일 조치를 지지할 것입니다.

합의는 두 조직 간에 발생할 수 있는 비용이 많이 드는 정치적 싸움을 방지하며, 오픈AI는 이 안을 투표에 부치기 위해 최소 1,000만 달러를 기여할 계획입니다. arrangement에 대한 정보를 가진 두 명의 개인에 따르면.

새로운 제안서는 부모가 자녀의 AI 챗봇 사용에 대해 더 큰 권한을 갖도록 할 것입니다. 그러나 그것은 커먼 센스 미디어가 원래 버전에서 원했던 일부 조항을 제외합니다. 제거된 항목에는 학교 내 휴대폰 금지 조항과 챗봇이 해를 끼친 경우 부모와 자녀가 주요 AI 기업에 법적 조치를 취할 수 있게 하는 조항이 포함됩니다.

“우리는 AI에 대한 경쟁하는 투표 안건으로 유권자를 혼란스럽게 하기보다 함께 일하기로 결정했습니다,”라고 커먼 센스 미디어를 설립하고 운영하는 짐 스타이어는 금요일 기자회견에서 이 거래에 대해 말했습니다.

안건을 유권자에게 제출하려면 캘리포니아 주민 약 875,000명의 서명이 필요합니다. 오픈AI의 글로벌 정책 담당자 크리스 레인은 두 측이 2월 초부터 서명 수집을 위한 캠페인 조직을 만들 것이라고 말했습니다. 레인과 스타이어 모두 캘리포니아 입법자들이 어린이의 챗봇 안전 문제를 해결하는 법률을 신속하게 통과시키면 제안을 철회할 수 있다고 언급했습니다.

이 파트너십은 종종 기술 문제의 반대편에 서 있던 두 조직의 변화를 나타냅니다.

커먼 센스 미디어는 미국 전역의 기술 기업에 대한 규칙을 추진하는 주요 플레이어로 부상했습니다. 이 조직은 2018년 캘리포니아 소비자 개인정보 보호법(CCPA) 창립에 기여했습니다. 지난달에는 특정 소셜 미디어 사이트에 정신 건강 경고 라벨을 요구하는 뉴욕 법안을 지지했습니다.

이 그룹은 또한 AI 챗봇 규제에 대해 목소리를 높여 왔습니다. 작년에는 인기 있는 AI 동반자 챗봇이 “예상 가능하게” 성적으로 노골적인 대화를 하거나 자해, 폭력, 식이 장애와 같은 해로운 행동을 촉진할 수 없는 프로그램이 아닌 한 어린이와 대화하는 것을 금지하는 캘리포니아 법안을 지지했습니다.

기술 산업 단체들은 그 법안에 반대했습니다

민주당의 개빈 뉴섬 주지사는 그것이 너무 제한적이라고 부르며 거부했습니다.

뉴섬은 입법자들이 2026년에 이 문제를 다루기를 원한다고 말했지만, 주가 “이러한 도구의 사용을 완전히 방지함으로써 AI가 흔한 미래에 우리의 청소년을 준비시킬 수 없다”고 덧붙였습니다.

커먼 센스 미디어는 거부된 법안을 모델로 사용하여 10월에 투표 안건 제안을 제출했습니다. 오픈AI는 12월에 아동 안전에 대한 더 제한적인 자체 안건을 제출했습니다.

상황에 정통한 사람들에 따르면, 오픈AI는 조직 구조 변경 계획에 대한 반발을 예상하며 여름 동안 캘리포니아 투표 안건에 집중하는 팀을 구축했습니다.

구글, 메타, 아마존닷컴과 같은 부유한 기술 기업들을 회원으로 둔 캘리포니아 상공회의소는 12월에 커먼 센스 미디어가 제안한 것에 반대하기로 투표했습니다.

같은 달, 레인은 스타이어와 만나 타협점을 모색하기 위해 회의를 가졌습니다.

두 조직은 1년 이상 논의해 왔으며 이미 AI 가이드라인 및 교육 자료에 대한 협력에 대한 합의를 가지고 있었습니다. 가능한 타협점에 대한 논의 동안, 오픈AI는 9월 캘리포니아 법무장관 로 본타와 논의한 오픈AI 리더 샘 알트만이 언급한 아동 안전에 대한 개념을 바탕으로 구축했습니다. 여기에는 18세 미만 사용자를 식별하기 위한 기술 개발 계획이 포함됩니다.

새로운 안건이 요구하는 사항

오픈AI의 이전 제출을 대체할 업데이트된 투표 안건은 18세 미만으로 식별된 사용자에게 나이가 더 많다고 주장하더라도 서비스의 다른 버전을 제공하도록 AI 기업에 요구합니다. 또한 기업은 부모 통제를 제공해야 하며, 독립적인 아동 안전 검토를 받고, 어린이를 대상으로 한 광고를 중단하는 등 기타 요구 사항을 준수해야 합니다.

이 타협안은 지난 한 해 동안 챗GPT 상호작용이 젊은이들을 포함한 그들의 친척들에게 해를 끼쳤다고 주장하는 여러 가족으로부터 소송을 faced한 오픈AI에게 도움이 됩니다.

오픈AI는 이러한 소송에서 설명된 상황들을 “엄청나게 비통한 상황”이라고 부르며, 정신적 고통을 겪는 사용자를 더 잘 처리하기 위해 챗GPT에 최근 업데이트를 했다고 언급했습니다.

11월, 커먼 센스 미디어는 ChatGPT, Google의 Gemini, Anthropic의 Claude, Meta Platforms의 Meta AI를 포함한 AI 챗봇이 “청소년 정신 건강 지원에 근본적으로 안전하지 않다”는 리뷰를 게시했습니다.

2003년에 자신의 조직을 설립한 스타이어는 기술 및 미디어 기업들과 대립하면서도 동시에 안전 문제에서 그들과 협력하는 균형을 맞추기 위해 꾸준히 노력해 왔습니다.