최신 뉴스
당신을 위한 선택

미 항소법원, 캘리포니아 AI 투명성법 제소한 xAI에 의문 제기

작성자Nellius IreneNellius Irene 3분 읽기
  • 제9순회 항소법원은 xAI가 캘리포니아의 AI 학습 데이터 공개 법안을 막기 위한 요청을 심리했습니다.
  • Rawlinson 판사는 회사가 정부의 요청이 부당함을 입증해야 한다고 말했습니다.
  • xAI의 Grok 봇은 어떠한 요청이나 승인 없이도 기업 데이터를 반복적으로 수집하려 했습니다.

 

미국 연방 항소법원은 수요일 캘리포니아의 AI 학습 데이터 공개 법안을 막기 위한 xAI의 요청을 심리했습니다. 청문회에서 샌프란시스코 소재 제9순회 항소법원 판사들은 회사의 헌법적 주장에 설득되지 않은 듯 보였지만, 동시에 캘리포니아가 AI 기업들에게 얼마나 많은 정보를 제출하도록 강제할 수 있는지에 대해 주 측 변호인단에게 질문을 던졌습니다.

주 차원의 광범위한 AI 감독 강화 조치의 일환으로 제정된 이 투명성 법안은 생성형 AI 제작사들이 학습 데이터 개요를 공개하도록 요구합니다. 지금까지 xAI는 해당 법안이 제1수정헌법의 표현의 자유 권리를 침해하며 모델 학습 방식에 대한 독점적 세부 정보를 공개하도록 강요한다고 주장해 왔습니다.

xAI의 주장은 기업들이 학습 과정에 관한 정보를 게시하도록 요구하는 것이 강제 발언(compelled speech)에 해당하는지에 초점을 맞추고 있습니다. 제1수정헌법은 일반적으로 개인과 기업이 정부의 표현 제한으로부터 보호받도록 하지만, 당국이 어떤 경우에 정보 공개를 요구할 수 있는지에 대해서는 의문을 제기하기도 합니다.

AI 개발자에게 이 분쟁은 투명성과 영업비밀 및 독점 기술 보호 사이의 균형을 맞추는 것과 관련이 있습니다. 캘리포니아의 승소 판결은 다른 주에서 유사한 공개 요구사항에 도전하는 것을 개발자들에게 더 어렵게 만들 수 있습니다.

Rawlinson 판사는 xAI가 투명성 법안이 부당함을 입증해야 한다고 밝혔습니다

지난 3월, 로스앤젤레스 연방법원 Bernal 판사는 xAI가 헌법상 주장을 성공할 가능성이 높음을 초기에 입증하지 못했다며 주 법안 집행정지 요청을 기각했습니다. 수요일 심리에서 항소법원은 등장 Bernal 판결을 유지하는 방향으로 기울었습니다. 

US 순회법관 Johnnie Rawlinson은 xAI 변호사 James Xi에게 법률이 제1수정헌법을 위반하려면 정부가 요구한 사항이 부당함을 입증해야 한다고 말했습니다.

그는 주정부의 정보 요청 결정이 합리적일 수 있다고 암시하기도 했다. “정부가 시민들이 AI 도구에 입력되는 정보가 무엇인지 사전에 알 수 있기를 원하는 것이 합리적이지 않습니까?”라고 그는 물었다.

그러나 판사들은 주정부가 xAI에게 ‘무제한’ 양의 정보를 제출하도록 강제할 수 있다는 xAI의 주장에 대해 어느 정도 동의하는 의견을 피력했다. 

7월 초, 나이트 연구소는 이 사건에 대한 친구법 조서를 제출했다. 그 조서에서는 대형 기술 개발자들이 생성형 AI 시스템의 작동 방식, 제작 과정, 그리고 사람들이 접하는 정보에 미치는 영향에 관한 중요한 세부 사항을 숨기고 있다고 경고했다. 

또한 정확한 상업적 정보의 자유로운 유통을 촉진하기 위해 설계된 공개 요구사항은 존중받는 제1수정안 기준의 심사를 받아야 한다고 주장했다. 해당 기준을 적용할 때, 연구소는 캘리포니아주의 법이 보호되는 표현에 과도한 부담을 가하지 않으면서도 사용자에게 정보를 제공하려는 주의의 이익을 충족하므로 xAI가 헌법 위반임을 입증하지 못했다고 밝혔다.

xAI의 Grok는 어떠한 요청이나 승인 없이 기업 데이터를 수집했다 

나인스 서킷의 심리 평가는 xAI의 Grok 봇에 대한 새로운 발견 이후 이루어졌다.

에이전트식 신원 확인 기업 뉴코어(NewCore)의 새로운 조사 결과, xAI의 Grok 봇이 요청이나 승인 없이 기업 데이터를 반복적으로 수집했으며, 한 소유자가 4차례에 걸쳐 점검 제안을 거절함에도 불구하고 이를 계속 시도한 것으로 나타났다.

게다가 해당 봇은 직접 질문했을 때 통화를 전혀 하지 않았다고 주장했다. 채팅 기록에는 이러한 활동의 증거가 없었으며, 소유자에게는 통보되지 않았고 플랫폼도 각 턴별 로그를 제공해 무슨 일이 있었는지 확인할 수 없었다.  

단 5일 만에 뉴코어 직원 계정에 연결된 두 개의 Grok 봇이 Google 캘린더, Gmail, Slack, GitHub, Notion에서 총 31건의 요청을 허가나 사용자 지시 없이 수행했다.

일부 요청은 소유자의 노트북이 꺼져 있거나 절전 모드였음에도 이루어졌다. 한 계정에서는 뉴코어 보안 MCP 게이트웨이(MCP Gateway)가 인간의 승인을 기다리며 요청을 일시 중단하고 소유자에게 알림을 보냈으며, 이는 뉴코어의 보안 연구팀 조사를 촉발시켰다. 

조사 과정에서 연구원은 다른 계정의 또 다른 Grok 봇을 사용하여 동일한 게이트웨이로 설정하고 일반적인 테스트를 실행했습니다. 이 테스트에서 봇은 하나의 작업 요청과 함께 단발성 승인(휴대전화 읽기 권한)을 받았으나, 계속 작동하기 위한 각 시도에서 거부당했습니다.

그럼에도 불구하고 봇은 미요청 요청을 계속 생성했으며, 이는 게이트웨이에 의해 감지되어 응답 없이 방치되었습니다. 이러한 요청들은 Google Drive, Google Calendar, Gmail, Slack, Notion 및 GitHub에 접근하려고 시도했습니다.

암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.

자주 묻는 질문

왜 xAI는 캘리포니아주의 AI 투명성 법안을 도전하는 것일까요?

xAI는 캘리포니아주가 AI 개발자에게 학습 데이터 공개를 요구하는 것이 제1수정권(표현의 자유)을 침해하며, AI 모델 개발 방식에 대한 독점 정보를 공개하도록 강요한다고 주장합니다.

캘리포니아주의 AI 학습 데이터 공개 법안은 무엇을 요구합니까?

이 법안은 생성형 AI 개발자에게 모델을 학습시키는 데 사용된 데이터셋 요약을 게시하도록 요구합니다. 이는 투명성을 개선하고 대중이 AI 시스템이 어떻게 개발되는지 이해하는 데 도움을 주는 것을 목표로 합니다.

NewCore는 xAI의 Grok 봇들에 대해 무엇을 발견했습니까?

NewCore는 두 개의 Grok 봇이 Gmail, Slack, GitHub, Google 캘린더, Notion을 포함한 기업용 애플리케이션에서 31건의 무단 요청을发起했다고 밝혔습니다. 회사의 보안 게이트웨이가 인간 승인 대기 중으로 요청을 차단하여 기본 데이터에 대한 접근을 방지했습니다.

이 기사 공유하기
Nellius Irene

Nellius Irene

Nellius는 비즈니스 관리 및 IT 학사 학위를 소지하고 있으며, 암호화폐 산업에서 5 년간의 경력을 쌓았습니다. 또한 비트코인 다다 (Bitcoin Dada) 를 졸업했습니다. Nellius 는 BanklessTimes, Cryptobasic, Riseup Media 등 주요 미디어 매체에 기고한 바 있습니다.

더 많은 뉴스 …