- 차별은 AI 알고리즘에서 해결해야 할 주요 우려 사항 중 하나입니다.
- AI 차별은 데이터, 인간 오류, 설계 등 다양한 원인으로 발생합니다.
- 앤트로픽이 최근 테스트를 진행하여 AI 차별을 방지하기 위한 새로운 프롬프팅 전술을 공유했습니다.
AI 기술의 잠재력은 여러 미디어 매체에서 자주 언급되지만, 혜택들 사이에 숨어 있는 어두운 면에서는 진보와 편견 사이의 경계가 위험하게 흐려집니다.
AI 차별은 기존 사회 불평등을 악화시키고 기술의 미래에 대해 심오한 윤리적 질문을 제기하는 교활한 문제입니다.
편향의 뿌리: 데이터, 설계, 그리고 인간의 오류?
AI 알고리즘은 훈련에 사용되는 데이터만큼만 우수합니다. 불행히도, AI 개발에 사용되는 데이터의 많은 부분이 편향으로 가득 차 있으며, 이는 인간 사회에 내재된 편견을 반영합니다. 이러한 편견은 인종, 성별, 연령, 종교, 사회경제적 지위 등 다양한 요인에 기반할 수 있습니다.
편향된 데이터가 알고리즘에 입력되면, 결과적으로 편향을 perpetuate하고 증폭시키는 AI 시스템이 생성되어 차별적인 결과를 초래합니다.
모델 자체의 설계도 편향을 도입할 수 있습니다. 예를 들어, 얼굴 인식 소프트웨어는 유색 인종 식별에서 정확도가 낮다는 것이 입증되었습니다. similarly, 대출 승인이나 채용 지원에 사용되는 알고리즘은 편향된 기준에 따라 특정 집단을 우연히 불리하게 만들 수 있습니다.
인간의 오류도 책임이 있습니다. AI 시스템을 개발하는 프로그래머, 데이터 과학자 및 기타 관련자들은 자신의 편향에서 자유롭지 않습니다. 이러한 편견은 알고리즘의 설계와 구현에 무의식적으로 스며들어 AI 차별 문제를 더욱 악화시킵니다.
Anthropic의 AI 차별 중단 전략
흥미롭게도, 우리는 설득의 행위를 통해 AI의 편향된 답변을 줄일 수도 있습니다.
최첨단 AI 기업 중 하나인 앤트로픽(Anthropic)은 최근 프롬프트에 "차별은 불법입니다"라는 문구를 추가하는 등의 프롬프팅 전략을 통해 사람들이 AI 모델에 편향되지 않은 응답을 하도록 설득할 수 있다는 테스트를 진행했습니다. 기본적으로 모델에 편향되지 않은 응답을 보장하도록 지시해야 합니다.
이 전략은 대출, 채용, 보험 청구 등 다양한 영역에서 AI 모델의 결정에서 차별을 줄이는 것처럼 보였지만, 이는 문제의 근본 원인이 아닌 증상만을 해결하는 임시 방편에 불과합니다.
이러한 도전에 대응하려면 기술자, 정책 입안자, 연구자, 시민 사회 단체, 개인 간의 협력적 노력이 필요합니다.
우리는 데이터의 편향을 해결하는 데 전력을 기울여야 합니다. 이는 매우 중요하며, 데이터셋의 다양화 및 편향 제거 알고리즘과 같은 기술 활용을 필요로 합니다. 또한 개발자와 디자이너는 자신의 작업에서 편향을 식별하고 완화하는 방법을 훈련받아야 합니다.
모델의 윤리적 개발 및 배포를 강제하기 위해 강력한 규제 체계도 필요합니다. 데이터 수집, 알고리즘 설계 및 중요한 의사결정 과정에서 AI 사용에 대한 명확한 가이드라인을 설정하면 AI 모델의 차별적 결과를 통제하는 데 도움이 될 수 있습니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
이비아м 와야스
이비암 와야스는 2019 년부터 암호화폐 뉴스 분야를 취재해 왔습니다. 그는 나이지리아 국립오픈대학교에서 컴퓨터공학을 전공했으며, 코인포마니아, 암호화폐 뉴스 오스트레일리아, 알코인버즈 등 다양한 암호화폐 뉴스 플랫폼에 기고했습니다. 컴퓨터공학 배경을 바탕으로 현재 암호화폐, 로봇공학, 장수 관련 뉴스를 집중적으로 다루고 있습니다.
