클로드 채팅 3건이 경찰에 전달되기까지 7주

8월 11일부터 9월 30일까지 앤트로픽의 클로드와 관련된 세 건의 대화 사건이 경찰에 신고되었습니다. 그중 두 사용자는 이제 중범죄 혐의로 기소되고 있습니다.

세 번째 범인은 샌프란시스코 거주자로, CEO 다리오 아모데이를 협박한 혐의를 받았습니다만 구금되지는 않았습니다.

산안토니오 체포 및 아모데이 대상 AR-15 위협 사건, 8월 발생

첫 번째 채팅은 8월 11일 샌안토니오에서 발생했다. 22세 나撒뉼 마이클 카라스코는 사erna 초등학교 학생들을 총격할 총을 구매하고 쏘고 싶다고 앤트로픽 AI에 말했다. 이는 체포 영장 신청서에 명시되어 있다.

FBI 국가 위협 운영 부서는 8월 28일 현지 경찰에 통보했습니다. 수사관들은 T-Mobile, 차터 커뮤니케이션스, 구글에 대한 긴급 정보 제공 요청을 통해 카라스코의 전화번호, IP 트래픽, 주소가 해당 계정과 일치함을 확인했습니다.

카라스코는 8월 30일 체포되었으며, 학교 교장은 심각한 신체 상해를 유발할 공중 공포를 야기한 3급 중죄인 테러성 위협 혐의로 기소됐다고 밝혔습니다. 그녀는 학교가 캠퍼스에 대한 구체적인 위협 내용을 언론 보도를 통해 처음 알게 됐다고 말했습니다.

샌안토니오 채팅 사건 3일 후인 8월 14일, 한 남성이 클로더에게 AR-15를 구매했으며 아모데이를 '조준'했다고 allegedly 말했다. 이는 샌프란시스코 경찰 보고서에 기록되어 있다. 그 다음 화요일, 앤트로픽은 SFPD(샌프란시스코 경찰국)에 이를 통보했다.

수사관들은 해당 남성이 500 하워드 스트리트 소재 회사 사무실에 없음을 확인했습니다.

앤트로픽 대변인은 계정을 차단하고 사안을 사법 당국에 이관했으며, 이는 안전장치 프로세스가 의도대로 작동하고 있음을 의미한다고 밝혔습니다. 9월 초 현재 그는 아직 체포되거나 기소되지 않았습니다.

Anthropic 검토팀이 9월 26일 레이크 카운티 순경대에게 메시지를 보냈습니다

2010년 9월 10일 발효된 Anthropic의 개인정보 보호정책은 심각한 피해를 방지하기 위해 합리적으로 필요하다고 선의의 신념으로 판단될 경우 법 집행 기관과 데이터를 공유할 수 있다고 명시하고 있습니다. 또한 소비자 이용 약관은 Anthropic가 전적인 재량에 따라 사용자의 입력, 출력 또는 행위를 법 집행 기관에 보고할 권리를 보유한다고 규정합니다.

체포 영장 신청서에 따르면, 플로리다주 보니타 스프링스의 칼리 미셸 헬러는 9월 26일 레이 카운티 보안관 사무소를 '총격할 것'이라고 작성했다. 조사관들은 그녀가 이튿날 새로운 총을 확보했다고 작성했다고 밝혔다.

보고서에 따르면 해당 발언들은 Anthropic의 모니터링 시스템에 의해 감지되었습니다. 그 심각성 때문에 인간 검토팀이 이를 법 집행 기관에 전달했습니다.

순경대는 Heller를 집무에서 별다른 사건 없이 연행했으며, 그녀는 폭력적 서면 위협 혐의로 기소되었으며 11월에 법정 날짜가 잡혀 있습니다. 카르미네 마르체노 Sheriff는 그녀가 나중에 AI를 일기처럼 사용했다고 설명했다고 밝혔습니다.

“인공지능은 강력한 도구이며, 다른 기술과 마찬가지로 오용될 수 있습니다,”라고 마르체노는 성명에서 말했습니다.

4월, 크립토폴리탄의 보도에 따르면, 앤트로픽은 일부 기능 사용 시 정부 발급 신분증과 실시간 셀카 인증을 의무화하기 시작했다.

8월, 크립토폴리탄의 보도에 따르면, 해당 회사는 사용자가 옵트인하지 않는 한 건강, 정치 및 성정체성 관련 내용을 클로더의 기억에서 제외하도록 설정했다.