캘리포니아 주지사 개빈 뉴섬은 월요일 인공지능과 같은 새롭고 떠오르는 기술에 대한 명확한 안전장치를 마련하는 새로운 법안에 서명했습니다. 이 새로운 법안은 AI 챗봇을 사용하는 아동을 온라인에서 더욱 효과적으로 보호하는 것을 목표로 합니다.
이 법안에는 연령 확인, 자살 및 자해 문제 해결 프로토콜, 소셜 미디어 및 관련 챗봇에 대한 경고, 불법 딥페이크로 이익을 취하는 자에 대한 엄격한 처벌 등 챗봇 관련 안전장치가 포함되어 있습니다. 주지사는 이 법안이 캘리포니아에서 아동 안전을 최우선으로 하는 데 도움이 될 것이라고 믿습니다.
뉴스옴 주지사 . 는 챗봇과 소셜 미디어 같은 신기술이 사람들에게 영감을 주고, 교육하고, 소통하게 해줄 수 있지만, 동시에 아이들을 착취하고, 오도하고, 위험에 빠뜨릴 수도 있으므로 실질적인 안전장치가 필요하다고 지적했습니다. 그는 캘리포니아가 인공지능과 기술 분야에서 계속해서 선도적인 위치를 유지할 수 있지만, 책임감 있게 행동해야 한다고 주장했습니다
뉴섬 주지사의 첫 번째 부인인 제니퍼 시벨 뉴섬 여사는 모든 행동의 시작은 아이들의 안전, 건강, 그리고 행복이라고 믿습니다. 그녀는 캘리포니아가 항상 혁신을 선도해 왔지만, 진정한 리더십은 아이들에게 가장 중요한 순간에 적절한 한계를 설정하는 것을 의미한다고 말했습니다. 시벨 여사는 이 법안이 아이들의 건강과 안전을 보호하는 동시에 혁신이 책임감 있게 진행되도록 하는 안전장치를 마련한다고 덧붙였습니다.
"규제되지 않은 기술로 인해 젊은이들이 피해를 입는 끔찍하고 비극적인 사례들을 우리는 목격해 왔습니다. 기업들이 필요한 제한과 책임 없이 계속해서 이런 행위를 저지르는 것을 좌시하지 않을 것입니다. 우리 아이들의 안전은 돈으로 살 수 있는 것이 아닙니다."
–개빈 뉴섬, 캘리포니아 주지사.
캘리포니아주는 신기술의 위험으로부터 아동을 보호하는 데 앞장서 왔습니다. 이 주는 이전에도 소셜 미디어 중독으로부터 아동을 보호하는 법안,tron개인정보 보호 규정, 그리고 전국 최고 수준의 투명성 조치를 제정했습니다.
것을 목표로 하며, 마련하는 프로토콜을 구축하도록 요구하는 내용을 담고 있습니다dent. 또한, 플랫폼은 상호작용이 인공적으로 생성된 것임을 명시해야 합니다.
법안에 따르면 챗봇 플랫폼은 휴식 시간 알림을 제공하고 챗봇이 생성하는 성적으로 노골적인 이미지를 아동이 보지 못하도록 해야 합니다. 또한 챗봇은 자해 문제 해결 프로토콜과 위기 센터 예방 알림 제공 빈도에 대한 통계를 공중보건부에 제출해야 합니다. 새로운 법률에 따라 챗봇은 스스로를 의료 전문가라고 사칭하는 것이 금지됩니다.
새 법안은 운영 체제와 앱 스토어 제공업체가 아동이 온라인에서 부적절하거나 위험한 콘텐츠에 접근하는 것을 막기 위해 연령 확인 프로토콜을 갖추도록 요구합니다. 또한 챗봇 플랫폼은 소셜 미디어의 장기 사용으로 인한 잠재적 위험에 대해 어린 사용자들에게 알리기 위해 소셜 미디어 경고 라벨을 표시해야 합니다.
새로운 법안은 챗봇을 이용한 딥페이크 음란물에 대한 처벌을 강화하며tron, 합의 의한 성적으로 노골적인 자료의 배포를 고의로 조장하거나 방조한 제3자에 대해 피해자가 소송을 제기할 경우 건당 최대 25만 달러의 민사 구제금을 받을 수 있도록 규정하고 있습니다. 뉴섬 주지사는 또한 사이버 괴롭힘 방지를 위한 지침 마련을 추진하여 캘리포니아 교육부(CDE)가 2026년 6월 1일까지 학교 수업 시간 외에 발생하는 사이버 괴롭힘 신고에 대한 모범 정책을 채택하도록 했습니다. 더불어 각 지역 교육청도 해당 정책 또는 지역 의견을 반영하여 개발한 유사 정책을 채택하도록 요구하고 있습니다.
피해에 대한 명확한 책임 규명을 촉구했습니다 인한 . 이 계획은 인공지능을 개발, 변경 또는 사용하는 사람들이 해당 기술이 자율적으로 작동했다는 주장을 내세워 책임을 회피하는 것을 막는 것을 목표로 합니다.
어린이를 보호하고 기술과 온라인 플랫폼의 안전을 강화하기 위한 여러 법안이 통과되었습니다. 여기에는 레베카 바우어-카한 하원의원이 발의한 소셜 미디어 경고 라벨 법안, 매기 크렐 하원의원이 발의한 인공지능 방어 법안, 롱비치 출신 조쉬 로웬탈 하원의원이 발의한 딥페이크 음란물 방지 법안, 필라 스키아보 하원의원이 발의한 계정 삭제 법안, 재키 어윈 하원의원이 발의한 캘리포니아 사이버보안 통합센터: 인공지능 법안 등이 포함됩니다.
