- 윤리적 AI에 대한 책임은 기술 기업, 정책 입안자 및 기타 많은 이해관계자에게 미치지만, 소외된 목소리는 배제되어서는 안 됩니다.
- AI의 윤리적 개발은 사회적 맥락에 초점을 맞추어야 하며, 책임 있는 혁신을 위해 패러다임 전환이 필요합니다.
- AI 개발에서 저렴한 글로벌 인력을 사용하는 것은 착취와 기술 산업 내 윤리적 책임에 대한 우려를 제기합니다.
인공지능(AI)을 둘러싼 최근 논란들은 AI의 윤리적 개발과 배포를 보장하기 위해 누가 책임을 져야 하는지에 대한 논쟁을 다시 불러일으켰습니다. ChatGPT와 같은 생성형 AI가 점점 더 주류가됨에 따라, 기술 산업의 AI 윤리 또는 책임 있는 혁신에 대한 헌신에 대한 질문이 계속 크게 대두되고 있습니다.
AI의 숨겨진 비용
수사 결과, 마이크로소프트의 지원을 받는 선도적인 AI 기업인 오픈AI가 'ChatGPT'와 같은 '안전한' 시스템 개발의 핵심 구성 요소인 콘텐츠 검열이라는 민감한 작업을 처리하기 위해 저임금의 해외 계약자들에게 의존해 왔다는 사실이 밝혀졌습니다. 케냐에 기반을 둔 이러한 계약자들은 disturbing한 텍스트와 이미지를 레이블링하는 작업에 대해 시간당 단 2달러를 받았으며, 이 작업은 상당한 심리적 트라우마를 유발한 것으로 보고되었습니다. 이 작업의 영향이 드러진 후, 오픈AI의 아웃소싱 파트너는 해당 회사와의 관계를 끊었습니다.
이 폭로는 AI의 발전을 뒷받침하는 가장 부담스러운 작업을 수행하기 위해 전 세계의 저임금 노동력에 대한 기술 산업의 의존성을 조명했습니다. 이는 윤리에 대한 고상한 수사에도 불구하고 주요 AI 안전 팀이 해체되는 시점에 이루어졌습니다.
PR 선전 뒤에 숨겨진 현실
기술 산업의 여러 고위 인물들은 적절한 규정이 마련될 때까지 AI 개발을 일시 중단할 것을 촉구했습니다. 그러나 일부 전문가들은 정책 입안자와 기업에만 의존하여 AI의 미래를 형성하는 것은 주요 관점을 배제하는 실수라고 주장합니다. 아다 로블레스 연구소의 알리슨 파월 박사는 현재의 담론이 인공 일반 지능이 인간 인지 능력을 초월할 가능성에 너무 집중하고 있으며, 현재의 현실을 다루지 않는다고 지적했습니다.
“이는 우리가 실제로 살고 있는 세계보다는 상상된 세계에 집중하기 때문에 해롭습니다,”라고 파월은 말했습니다. 그녀는 AI에 종종 귀속되는 의사 결정 능력이 그러한 권리와 함께 오는 현실 세계의 사회적 책임을 간과한다고 주장합니다.
옥스퍼드 연구자 아비드 아도니스도 AI의 직접적인 영향을 받는 소외된 집단의 목소리가 논쟁에서 눈에 띄게 결여되어 있다고 지적했습니다. “소외된 집단의 말을 듣는 것이 중요합니다. 왜냐하면 그것이 논의에서 빠져 있기 때문입니다,”라고 아도니스는 말했습니다.
‘윤리적 AI’의 한계
이미 얼굴 인식 기술부터 주택 및 대출 평가에 사용되는 알고리즘에 이르기까지 현재 사용 중인 AI 시스템에서 알고리즘 편향과 차별의 증거가 있습니다. 기술 회사들의 윤리적 원칙에 대한 높은 주장에도 불구하고, 그들의 행동은 종종 다른 이야기를 들려줍니다.
제한된 인터넷 데이터 세트로 훈련된 ChatGPT와 같은 생성 모델은 필연적으로 해당 데이터에 존재하는 편향을 상속받습니다. 이러한 모델의 뛰어난 추론 능력은 종종 조사에 부합하지 않습니다. 예를 들어, ChatGPT는 실제 인물에 대해 명백히 잘못된 주장을 생성하는 것으로 밝혀졌습니다. 상업용 데이터의 출처에 대한 투명성 부족은 이러한 우려를 더욱 증폭시킵니다.
AI 윤리에 대한 더 넓은 관점
파월 박사는 윤리를 해결해야 할 기술적 문제로 보는 대신, 피해가 발생하는 사회적 맥락을 조사해야 한다고 제안합니다. “AI는 제도적 기계, 사회적 기계, 그리고 문화적 기계입니다,”라고 그녀는 말했습니다. 알고리즘을 조정하는 것에만 집중하는 것은 배제가 종종 기술 주변의 제도 및 문화에서 비롯된다는 사실을 간과합니다.
연구자 아비드 아도니스에 따르면, 강력한 공공 담론과 규범은 혁신의 미래를 형성하는 데 중요한 역할을 할 것입니다. 책임성을 보장하는 것은 기술 자체를 규제하는 것뿐만 아니라 기존 법을 공정하게 집행하는 것을 의미합니다.
패러다임이 혁신의 중심을 형성할 것이다
아비드 아도니스, 연구원
AI의 중요성이 계속 높아짐에 따라, AI가 공정한 결과를 생성하도록 보장하는 것은 기술 기업, 정책 입안자, 연구자, 미디어, 그리고 대중이 공유해야 할 책임입니다. 그러나 현재의 담론은 가장 많은 권력을 가진 이들에게 치우쳐 있습니다. 앞으로 나아가기 위해서는 AI의 잠재적 함정에 대한 더 넓은 범위의 관점을 포함해야 하며, 이를 통해 인간의 진정한 필요를 충족하는 윤리적인 기술을 개발할 수 있을 것입니다. 이를 위해서는 대형 기술 기업들의 홍보성 발언을 넘어 현재 발생하고 있는 실제적인 해악을 직면해야 합니다.
게시된 이미지는 저임금 노동에 대한 기술 산업의 의존성을 특징짓는 고압적이고 마감에 쫓기는 근무 환경을 전달합니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 한 투자에 대해 당사는 어떠한 책임도 지지 않습니다. 어떤 투자 결정을 내리기 전에 독립적인 조사 및/또는 자격을 갖춘 전문가와의 상담을 강력히 권장합니다.
에디타 패트릭
에다타는 블록체인 도메인에 대한 깊은 이해를 갖춘 다재다능한 핀테크 분석가입니다. 기술이 그녀를 매료시키는 만큼, 기술과 금융의 교차점은 더욱 놀랍습니다. 디지털 지갑과 블록체인에 대한 그녀의 특별한 관심은 청중에게 도움이 됩니다.
