일론 머스크의 사회보장제도에 대한 인공지능(AI) 도입 계획이 큰 문제를 야기하고 있다

지난 금요일, 사회보장국은 “기관 지원 도우미(Agency Support Companion)”라는 이름의 ChatGPT 스타일 챗봇을 새로 출시했습니다. 이 도구는 직원들의 일상적인 업무 처리와 생산성 향상을 돕기 위해 고안되었습니다. 그러나 직원들은 이 챗봇이 제대로 작동하지 않는다고 불평하고 있으며, 잘못된 출시로 인해 미국 최대 사회복지 기관에 자동화가 과연 올바른 방향인지에 대한 의문이 제기되고 있습니다.

최근 몇 달 동안, 내부적으로 DOGE에 따르면, 이러한 전략의 일환으로 새로운 챗봇이 기관 직원들의 일상 업무에 통합되었으며, 보도 업무 부담을 줄여줄 것으로 기대됩니다.

내부 이메일에서는 이 앱이 "직원들의 일상 업무를 지원하고 생산성을 향상시키는 방법"이라고 설명했지만, 실제로는 거의 주목받지 못했습니다.

해당 기관 내부 소식통에 따르면, 앱 출시와 함께 배포된 교육 영상은 애니메이션이 조악하고 손가락이 네 개인 여성이 등장하는 매우 조악한 작품이었다고 합니다. 이 영상은 앱 기능 사용법을 안내하기 위한 것이었지만, 민감한 개인 정보를 업로드하지 않도록 경고하는 내용은 빠져 있었습니다. 이 실수로 인해 기관은 "교육 영상의 부주의에 대해 사과드립니다"라는 내용의 이메일을 직원들에게 보내 위험성을 경고해야 했습니다.

SSA AI 교육 영상을 진지하게 받아들인 사람은 거의 없습니다

"제 동료 대부분이 교육 영상을 제대로 봤는지도 잘 모르겠어요." 사회보장국 직원 한 명이 와이어드(Wired)와의 인터뷰에서 이렇게 말했습니다. 그는 챗봇을 테스트해 본 결과 "받은 답변 중 상당수가 너무 모호하거나 부정확했다"고 덧붙였습니다. 다른 직원들은 조악한 그래픽을 비웃기도 했다고 합니다. "제가 아는 사람 중에는 아무도 [챗봇을] 사용하지 않아요. 너무 어설프고 형편없거든요."라고 소식통은 전했습니다.

비평가들은 이러한 부진한 출발이 더 큰 실패를 예고하는 것일 수 있다고 경고합니다.

마찬가지로 브라질에서도 2018년 국영 기업인 Dataprev가 컴퓨터 비전과 자연어 처리를 이용해 사회보장 수당 청구를 처리하는 앱인 Meu INSS를 출시했습니다. 그러나 이 시스템은 사소한 오류로 인해 정당한 청구조차 거부하는 경우가 빈번하여 장기간의 법적 소송으로 이어지곤 했습니다.

한 예로, 55세의 조셀리아 데 브리토 씨는 과거 사탕수수 농장 노동자였는데, 자동화 시스템이 그녀의 성별을dent인식하여 퇴직 연금 신청이 거부되었습니다. 그녀는 "건강 상태를 증명하는 모든 서류를 다 제출했는데도 (연금 수급이) 거부됐어요. 정말 굴욕적이에요."라고 Rest of World에 전했습니다.

디지털 기술이 부족한 농촌 농장 노동자들은 온라인 서비스로의 전환에 어려움을 겪고 있습니다. 바라 두 코르다 농촌 노동자 조합의 프란시스코 산타나dent "이곳 사람들은 지메일, 페이스북, 인스타그램조차 제대로 사용할 줄 모릅니다."라고 말했습니다. "점점 더 자동화되는 과정 속에서 사회는, 특히 외곽 지역인 농촌 지역 주민들에게는 이러한 변화에 대비되어 있지 않습니다."

해외에서의 그러한 난관들은 미국이 직면할 수 있는 잠재적인 함정을 부각시켜 줍니다.

사회복지 서비스는 이미 "현대화"에 대한 압력을 받고 있으며, 이러한 움직임은 트럼프 행정부의 이른바 기술관료 팀에 의해 시작되었습니다.

머스크의 DOGE는 연방 공무원 수를 절반으로 줄이겠다는 목표를 세우며 그 사명을 더욱 확대했습니다. DOGE의 계획에 정통한 한 관계자는 워싱턴 포스트와의 인터뷰에서 "기계 자동화가 가능한 모든 것이 자동화될 것이며, 기술 전문가들이 관료들을 대체할 것"이라고 말했습니다.

DOGE가 자동화를 지나치게 강조한 결과 효율성보다는 혼란이 초래되었습니다.

최근 사회보장국(SSA)에서 발생한 실수는 이 문제의 심각성을 보여줍니다. DOGE 직원들이 생존 수급자들을 "사망자"로 잘못 처리하여 수급을 중단한 것으로 알려졌습니다. SSA에서 오랫동안 청구 기술 분석가로 일해온 레니 글래스고는 데일리 비스트와의 인터뷰에서 "약 400만 명이 사망자로 처리되었습니다."라고 말했습니다. "그들은 '이 사람들이dent가지고 사무실에 오면 수급을 재개할 수 있습니다.'라는 이메일을 보내고 있습니다." 글래스고는 직원들이 시스템에서 각 수급자를 수동으로 "복구"해야 하기 때문에 수급 재개에 "약 3~4일"이 걸릴 수 있다고 덧붙였습니다.

DOGE는 복지 혜택 중단 외에도 계획입니다 . 소식통에 따르면, 이 기한을 맞추기 위해 해당 팀은 코딩에 인공지능(AI)을 거의 확실하게 활용할 것이며, 기계 생성 코드의 오류율이 높기 때문에 이러한 방식은 면밀한 감독이 필요하다고 합니다.

DOGE의 험난 trac행보 를 지금까지

론자 의심합니다 들 중 일부는 DOGE의 목표가 진정한 개혁이 아니라 SSA를 불안정하게 만들어 민영화의 발판을 마련하는 것이라고 주장합니다. 만약 그렇다면, 이러한 실책과 혼란은 머스크 팀이 의도한 바일지도 모릅니다.