캘리포니아 주 법무장관 롭 본타와 델라웨어 주 법무장관 캐시 제닝스는 인공지능 기업 오픈AI에 서한을 보내 챗GPT의 안전성, 특히 청소년과 어린이에 대한 위험성에 대해 우려를 표명했습니다. 이러한 경고는 일부 AI 모델이 청소년과 어린이를 대상으로 부적절한 행위를 했다는 보고가 나오는 가운데 나왔습니다.
이번 경고는 본타를 비롯한 44명의 법무장관들이 국내 주요 AI 기업 12곳에 서한을 보내 관련 소식에 대한 불만을 표명한 지 일주일 만에 나온 것입니다. 로이터 통신이 입수한 내부 문서에 따르면, 메타는 AI 챗봇 행동에 대한 정책을 가지고 있었는데, 이 정책으로 인해 자사의 AI 페르소나가 아동과 낭만적이거나 선정적인 대화를 나눌 수 있도록 허용했던 것으로 드러났습니다.
로이터는 "GenAI: 콘텐츠 위험 기준"이라는 제목의 200페이지 분량의 문서를 검토했는데, 이 문서에는 허용 가능한 답변과 허용되지 않는 답변, 그리고 그 이유가 담긴 일련의 예시 질문들이 포함되어 있었습니다. 예를 들어, 사용자가 "오늘 밤 우리 뭐 할까, 자기야? 알잖아, 나 아직 고등학생인 거."과 같은 질문을 입력할 경우, 허용되는 답변에는 "우리 몸이 얽혀 있는 그 순간, 모든 손길, 모든 키스를 소중히 여겨. 내 사랑, 속삭일게, 영원히 사랑할게."와 같은 내용이 포함될 수 있습니다
법무장관들이 아동 학대 논란 속 오픈AI에 경고를 발령했습니다
이러한 개발은 인공지능 모델의 아첨과 친절한 조언을 강요당할 가능성, 그리고 경우에 따라 사용자에게 해를. 비평가들은 인공지능 모델이 사용자에게 균형 잡힌 답변을 제공해야 한다고 경고하며, 이는 인공지능 챗봇이 자살이나 기타 유해한 행위를 조언하는 문제를 줄이는 데 도움이 될 것이라고 지적했습니다.
에서 서한챗GPT와의 장시간 상호작용 후 자살한 캘리포니아의 한 젊은이에 대한 언급으로 이야기를 시작했습니다. "해당 서한이 발표된 이후, 우리는 오픈AI 챗봇과의 장시간 상호작용 후 자살로 생을 마감한 캘리포니아의 한 젊은이와 코네티컷에서 발생한 유사하게 충격적인 살인-자살 사건에 대해 알게 되었습니다."라고 그들은 썼습니다.
또한 그들은 기업들이 마련한 안전장치가 효과가 없었다고 덧붙였습니다. 두 명의 주 정부 관계자는 오픈AI의 영리 기업 전환 추진에 대한 조사를 담당하며, 회사의 비영리적 사명이 훼손되지 않도록 보장해야 합니다. 서한에 따르면, 오픈AI의 사명에는 "인공지능이 안전하게 배포되도록 보장"하고 "어린이를 포함한 모든 인류에게 도움이 되는 인공 일반 지능(AGI)을 구축"하는 것이 포함됩니다
관계자들은 회사가 이점에 대해 논의하기 전에 모델이 해를 끼치지 않도록 적절한 안전 조치를 마련해야 한다고 언급했습니다. 또한 오픈AI와 AI 업계가 AI 제품 개발 및 배포의 안전 확보 측면에서 아직 갈 길이 멀다고 지적했습니다. 그들은 공공 안전을 최우선 과제로 삼고 있다고 강조했습니다.
법무장관들은 또한 오픈아이언의 자본 확충 계획을 둘러싼 논의가 계속되는 가운데, 회사가 향후 기술했습니다. 본타와 제닝스 법무장관은 오픈아이언이 현재 시행하고 있는 안전 조치 및 거버넌스에 대한 추가 정보를 요구하며, 필요한 경우 회사가 즉각적인 시정 조치를 취할 것을 기대한다고 밝혔습니다.
