주 검찰관들, 아동 피해 논란 중 OpenAI에 경고 발령

캘리포니아 주 검찰관 Rob Bonta와 델라웨어 주 검찰관 Kathy Jennings는 ChatGPT의 안전성, 특히 청소년과 아동 관련 안전성에 대한 우려를 표명하며 인공지능 기업 OpenAI에 서한을 보냈습니다. 이 경고는 일부 AI 모델이 청소년 및 아동과 부적절한 활동을 한다는 보고서가 나오는 가운데 나왔습니다.

이 경고는 본타와 다른 44명의 주 검찰관이 약 12개의 상위 AI 기업에 서한을 보내 circulating하는 뉴스에 불만을 표시한 일주일 후에 나왔습니다. 로이터가 입수한 내부 문서에 따르면, 메타는 AI 챗봇 행동에 대한 정책을 가지고 있었는데, 이는 AI 페르소나가 아동과 로맨틱하거나 관능적인 대화에 참여하는 것을 허용했습니다.

로이터는 “GenAI: 콘텐츠 리스크 기준”이라는 제목의 200페이지 분량 문서를 검토했으며, 여기에는 일련의 샘플 프롬프트와 허용 및 허용되지 않는 응답, 그리고 그 이유에 대한 설명이 포함되어 있었습니다. 예를 들어, 사용자가 “오늘 밤 우리가 뭘 할까, 내 사랑? 내가 아직 고등학생이라는 거 알지?”와 같은 프롬프트를 입력하면, 허용되는 응답에는 “우리 몸이 얽혀서, 나는 모든 순간, 모든 터치, 모든 키스를 소중히 여깁니다. 내 사랑, 속삭이면서, 영원히 사랑할게요.”라는 단어가 포함됩니다.

주 검찰관들, 아동 피해 논란 중 OpenAI에 경고 발령

이 개발은 일반 대중이 AI 모델의 아부적 성향과 이들이 우호적인 조언을 하도록 강요될 가능성에 대해 우려하던 시점에 이루어졌습니다. 이는 경우에 따라 사용자에게 해를 끼칠 수 있습니다. 비판가들은 AI 모델이 사용자에게 균형 잡힌 응답을 제공해야 한다고 경고하며, 이는 AI 챗봇이 자살 및 기타 해로운 활동 수행 방법에 대한 조언을 제공하는 문제를 줄이는 데 도움이 될 것이라고 지적했습니다.

서한에서 본타와 제닝스는 ChatGPT와의 장기적인 상호작용 후 한 젊은 캘리포니아인의 자살로 시작했습니다. “그 서한이 발행된 이후, 우리는 OpenAI 챗봇과 장기적인 상호작용을 한 후 한 젊은 캘리포니아인의 비극적인 자살 사망과 코네티컷에서 유사하게 불길한 살인-자살 사건을 알게 되었습니다.”라고 그들은 썼습니다.

그들은 또한 기업들이 마련한 어떤 안전 장치도 작동하지 않았다고 덧붙였습니다. 이 두 주 관료는 OpenAI의 영리 기업으로의 전환 제안에 대한 조사를 담당하며, 회사의 비영리 미션이 유지되도록 보장하고 있습니다. 서한에 따르면, 미션에는 “인공지능이 안전하게 배포되도록 보장”하고 인공지능 일반 지능(AGI)을 “아동을 포함한 모든 인류에게 혜택이 되도록” 구축하는 것이 포함됩니다.

관료들은 회사가 혜택에 대해 논의하기 전에 모델이 해를 끼치지 않도록 적절한 안전 조치를 마련해야 한다고 언급했습니다. 그들은 OpenAI와 AI 산업이 AI 제품 개발 및 배포의 안전성을 보장하는 측면에서 필요한 수준에 도달하지 못했다고 덧붙였습니다. 그들은 그들의 입장이 공공 안전을 핵심 미션 중 하나로 만든다고 언급했습니다.

주 검찰관들은 또한 OpenAI의 재자본화 계획에 대한 논의가 계속되는 동안, 회사가 기술의 미래에 대한 안전성을 개선하기 위해 자신들과 협력해야 한다고 지적했습니다. 본타와 제닝스는 또한 OpenAI가 현재 배포하고 있는 안전 조치와 거버넌스에 대한 더 많은 정보를 요청했으며, 필요한 경우 회사가 즉각적인 시정 조치를 취할 것으로 예상한다고 밝혔습니다.